6.4 对称信道

对称信道

对称信道是一类具有良好代数结构的信道模型，在信道容量分析和编码理论中有重要作用。对称信道可分为完全对称信道和准对称信道两个层次。完全对称信道的转移概率矩阵 $P=[p(y|x)]$ 满足：每一行都是其他行的某种排列，且每一列也都是其他列的某种排列。这意味着信道的输出在给定输入的条件下具有统计对称性，且输入输出之间的转移关系关于行和列都是均匀的。典型的完全对称信道包括二进制对称信道（BSC，转移矩阵为 $[[1-p,p],[p,1-p]]$）和均匀擦除信道等。

对于完全对称信道，信道容量的计算可以大大简化。由于信道的对称性，最优的输入分布是均匀分布，此时输出分布也必然均匀。设行向量为 $r=(p_1,p_2,\dots ,p_{|\mathcal{Y}|})$，则信道容量为：

$$C=\log |\mathcal{Y}|-H(r)=\log |\mathcal{Y}|+\sum _{j=1}^{|\mathcal{Y}|}{p}_j\log p_j$$

例如，对于BSC，$|\mathcal{Y}|=2$，行向量为 $(1-p,p)$，容量为 $C=\log 2-(-(1-p)\log (1-p)-p\log p)=1-H_b(p)$。这一结果直观地解释了BSC的容量——每个信道使用最多可靠传输1比特信息，减去由噪声带来的不确定度 $H_b(p)$。

准对称信道是更一般的情况，其定义是：信道转移矩阵的列集合可以划分成 $k$ 个不相交的子集（$k<|\mathcal{Y}|$），在每个子集内部的列构成的子矩阵是完全对称的。典型例子是二进制擦除信道（BEC），其转移矩阵为 $[[1-p,p,0],[0,p,1-p]]$——列分为 $\{1,3\}$ 和 $\{2\}$ 两个对称组。准对称信道的容量虽然没有完全对称信道那样简洁的闭式解，但其容量通常只需在均匀输入分布下计算即可达到最优，因为准对称信道的最优输入分布就是均匀分布。这一性质使得准对称信道在理论分析和工程应用中都具有特殊地位——它们既保留了对称性带来的分析便利，又能刻画更丰富的实际通信场景。

链接到

• 上一个知识点：6.3 信道容量
• 下一个知识点：6.5 噪声信道编码定理