联合编码
联合编码（Joint Source-Channel Coding）是指将信源编码和信道编码作为一个整体进行设计，而非分割为两个独立模块。在某些场景下，联合编码可能优于分离编码，尤其是在短码长、非遍历信源或非遍历信道等非渐近情况下。分离定理的最优性是在无限码长和渐近意义下成立的，在实际的有限码长系统中，联合编码有时能获得更好的性能。
联合编码的基本思路是直接建立从信源符号空间到信道输入符号空间的映射，绕过了中间的比特表示阶段。这种做法天然地利用了信源的统计特性和信道的传输特性之间的匹配关系。例如，对于二元信源和高斯信道，联合编码可以通过模拟传输（analog transmission）直接将信源符号映射为信道输入，避免了数字编码中的量化损失。
然而，分离定理指出，在点对点通信中对渐近最优性的追求而言，分离编码不会损失任何效率。这意味着联合编码只是在非渐近场景下提供了复杂度或延迟方面的实际优势，而非理论上的速率优势。在实际的通信标准中（如4G/5G、WiFi等），分离设计仍然是主流范式，这充分体现了分离定理作为信息论基石的重要地位。对于多用户网络（如广播信道、多址接入信道），分离定理并不总是成立，此时联合编码往往是必要的。
相关笔记
链接到
- 上一个知识点：10.1 信源信道分离编码
- 下一个知识点：无（本章最后一个知识点）