联合自信息

联合自信息量（Joint Self-information）是自信息量在两个或多个事件上的推广，衡量多个事件同时发生所包含的总信息量。对于两个事件 x 和 y，其联合自信息量定义为 $I (x y) = - lo g p (x y)$ ，其中 p(xy) 为 x 与 y 同时发生的联合概率。

联合自信息量的核心性质是满足链式法则： $I (x y) = I (x) + I (y ∣ x) = I (y) + I (x ∣ y)$ 。这表明两个事件同时发生所包含的信息量，等于先发生事件的信息量加上在已知先发生事件的条件下后发生事件的信息量。当 x 与 y 相互独立时， $p (x y) = p (x) p (y)$ ，此时联合自信息量退化为各自信息量之和： $I (x y) = I (x) + I (y)$ 。

联合自信息量是理解多维信息度量的基础。通过联合自信息量，可以自然过渡到联合熵（平均联合自信息量），进而建立完整的随机向量信息度量体系。在通信系统和数据压缩中，联合自信息量用于分析多个符号联合编码所需的理论比特数，是多维信源编码的理论基础。