信息论：研究“信息”的度量、传输、压缩与编码规律的学科，常用于通信、数据压缩、机器学习与密码学等领域。（也可泛指相关的方法与思想体系。）
/ˌɪnfərˈmeɪʃən ˈθɪəri/
Information theory explains how much data can be sent reliably over a noisy channel.
信息论解释了在有噪声的信道中，最多能可靠传输多少数据。
Modern compression and error-correcting codes are built on ideas from information theory, balancing redundancy and efficiency.
现代压缩技术和纠错码建立在信息论思想之上，在冗余与效率之间取得平衡。
“Information”源自拉丁语 informare（“塑造、使成形；告知”），后来引申为“消息、信息”；“theory”源自希腊语 theōria（“观察、思考”）。作为学术术语，“信息论”在20世纪中叶随通信与编码研究兴起，最具代表性的奠基工作通常归于克劳德·香农（Claude Shannon）。
Select Language