香農三大定理的香農第一定理

香農三大定理的香農第一定理

香農第一定理:又稱爲無失真信源編碼定理或變長碼信源編碼定理。將原始信源符號轉化爲新的碼符號,使碼符號儘量服從等概分佈,從而每個碼符號所攜帶的信息量達到最大,進而可以用盡量少的碼符號傳輸信源信息。

特徵:有噪信道編碼定理。當信道的信息傳輸率不超過信道容量時,採用合適的信道編碼方法可以實現任意高的傳輸可靠性,但若信息傳輸率超過了信道容量,就不可能實現可靠的傳輸。