互信息凹凸性

平均互信息 I(X;Y) 关于其参数具有有趣的凹凸性差异：关于输入分布 p(x) 是凹函数，关于信道转移概率 p(y|x) 是凸函数。

具体来说，固定信道转移概率 p(y|x) 时，I(X;Y) 是 p(x) 的凹函数。这意味着在信道特性不变的情况下，混合不同的输入分布不会增加互信息。这一性质与信道容量的定义密切相关——信道容量是互信息在输入分布上的最大值，凹性保证了这一最大值可达。

另一方面，固定输入分布 p(x) 时，I(X;Y) 是 p(y|x) 的凸函数。这一性质反映了信道特性对信息传输的影响。互信息的凹凸性参数为研究通信系统的优化问题提供了理论指导，是信息论中最重要的结构性结论之一。