最早提出信息熵的是美国工程师香农;信息熵又称为广义熵;信息熵说明信息可以用熵来量度