信息量

出处：按学科分类—交通运输 上海交通大学出版社《交通大辞典》第890页（520字）

信息的定量和度量。单位为比特(bit)。1928年，美国物理学家哈特来(R．V．L．Hartleg，1888～1959)在《信息传输》一文中首次提出信息量的概念，并用对数作为信息量的测度。他认为，信息与消息不同，信息是代码、符号、序列，而不是内容本身；信息是消息中不确定性的消除，消息中含有信息。多种多样的消息是信息的载体，消息究竟包含多少信息，应用消息出现的概率对数来计算，即I=log₂n(比特)。这里n种不确定性假设是等概率的。美国数学家香农(C．E．Shannon，1916～)和维纳(N．Wiener，1894～1964)假设这几种不确定性的概率为不等，并对此作了深入系统的研究，并各自独立地提出了信息公式。他们证明：如果一个信源，可以产生的独立消息数为n，各消息的概率分别为ρ₁，ρ₂，ρ₃，…，ρ_n，且有，则该信源具有的信息量

式中：K——常数，当对数取以2为底时，则K=1；

H——信息量，单位为比特(bit)。

信息的定量描述，为各门学科技术的定量化研究开辟了一条新途径。