信息论的创始人美国科学家（）博土于1948年在其著名论文《通讯的数学理论》中，提出信息是“两次不确定性的差异”，用于消除随机不确定的东西，这一理论奠定了信息论的基础。