信道編碼概述

05-23

信道編碼概述

因為現在研究方向是信道編碼，又由於知乎上關於信道編碼的討論和介紹，所以想寫一系列文章來介紹信道編碼，歡迎大家一起討論。

Email：duanhd@yeah.net

通信模型

通信的基本模型

首先我們介紹通信的基本模型，它可以由上述幾個部分組成。（清楚的同學請跳過）

Source：信源。發出信息的載體。這裡默認輸出二進位數。

Source Encoder：信源編碼器。對信源的輸出進行無損編碼（或者進行符合要求的有損編碼），目的是減少信源輸出信息的冗餘。可以理解為壓縮。

Channel Encoder：信道編碼器。對信源編碼器的輸出進行編碼，使得到的序列能夠較好地在信道中傳輸。一般會增加冗餘來增強抗干擾性。

Channel：信息在信道中傳輸，發給接受端。

Channel Decoder：信道解碼器。對接受的序列進行解碼，可以恢復一定的傳輸錯誤。

Source Decoder：信源解碼器。對信道解碼器的輸出進行解碼，恢復原始的信息序列。

Destination：信宿。需要原始信息的人。

信道編碼的目的和基本方法

如果信道是理想的，在信道的一端發送什麼，另一端就接受什麼，也就不需要信道編碼了。但是，不存在理想的信道，信道上存在雜訊，如下圖。

信道雜訊和解碼示意圖

因為雜訊的存在，所以需要增加一定的冗餘來增加抗雜訊能力，什麼意思呢？最簡單的，就是重複。

重複碼-信道編碼

每個字發送兩次，除非兩個字都錯了，否則是可以知道發送的信息的。因此，抗干擾是信道編碼的基本目的，重複是信道編碼的基本方法。而如何重複，才是信道編碼研究的重點。

信道編碼的設計準則

我們假設信源編碼器的輸出為M，信道編碼器的輸出為C（稱為碼字），信道的輸出為R，信道解碼器的輸出為C，信源解碼器的輸出為M，E表示發生錯誤。

當接收到R時，解碼器的條件解碼錯誤概率為

$P(E|R)=P(C e C|R)$

設計信道編碼應該使其最小

$minP(C e C|R)Rightarrow maxP(C=C|R)$

此時是接受到R後判斷碼字的概率，因此稱為後驗概率。

這種方法稱為最大後驗解碼（MAP）。

根據貝葉斯公式，

$P(C_{i}|R)=frac{P(C_{i})P(R|C_{i})}{P(R)}$

P(R)與解碼方法無關，如果每個碼字的概率相同

$maxP(C_{i}|R)Rightarrow maxP(R|C_i)$

這種方法關注發送什麼碼字使得接受最接近我們收到的序列，稱為最大似然解碼（ML）。

信道編碼的性能指標

信道編碼的目的是抗干擾，那麼性能自然和抗干擾有關。

首先是誤碼率，一段時間內差錯碼字的數量除以傳輸的總碼字數。誤比特率，一段時間內差錯比特的數量除以傳輸的總比特數。

其次是發送1比特需要的能量。一般我們認為信道中的雜訊是不變的，那麼每個比特的能量越大，自然抗雜訊能力也就不同。可以認為，發送一比特所需要的能量越大，誤碼率越低。因此，信道編碼的性能可以用發送1 bit能量與誤碼率的關係表示，又由於不同信道雜訊不同，我們用信號和雜訊的比值來代替1 bit能量。這就得到了一般的衡量信道編碼的性能指標。

PS：使用 @Liberty GM 在Liberty GM：請問信道編碼的前沿技術有哪些？現在的發展方向是什麼？回答中兩張圖片。

References:

[1] W. E. Ryan, S. Lin. Channel Coding: Classical and Modern[M]. Cambridge University Press, 2009.

[2] 王新梅, 肖國鎮. 糾錯碼:原理與方法[M]. 西安電子科技大學出版社, 1991.