冯诺依曼的狭义信息论第一个给出信息的一种科学定义：信息是人们对事物了解的不确定性的消除或减少。以上所说，可以用下面的式子表示：信息（量）=通信前的不确定性=通信后尚存的不确定性。