琴生不等式

琴生提出的高等數學公式

琴生不等式以丹麥技術大學數學家約翰·延森(Johan Jensen)命名。它給出積分的凸函數值和凸函數的積分值間的關係。

琴生(Jensen)不等式(也稱為詹森不等式),使用時注意前提、等號成立條件。

概述


1.若f(x)是區間上的下凸函數,則對任意的, 有不等式:
當且僅當時等號成立。
2.其加權形式為:
若f(x)是區間上的下凸函數,則對任意的, 且 為正數,有
當且僅當 時等號成立.

應用


有了這個結論以後,使用琴生不等式就非常方便了,
如今我們可以非常容易的證明一般情況的平均不等式
比如
1.
2.
3.
其中前面兩個取就可以了
後面一個取 就可以了。
舉一個簡單的例子: 在中為凸函數 (國外教材定義; 若為凹函數, 則國內教材定義)
同時,值得注意的是, 上凸、下、凹、凸的含義是不同的。

涉及概率密度函數的形式

假設是實線的可測子集, f(x) 是一個非負函數
在概率語言中, f 是概率密度函數。
然後Jensen的不等式變成了關於凸積分的下面的陳述:
如果g是任何實值可測函數且在g的範圍內是凸的, 那麼:
如果 , 那麼這種不等式的形式可以簡化為一個常用的特例:

例如:隨機變數的偶數矩

如果, 並且 X 是一個隨機變數, 那麼g是凸的
所以
特別是,如果有的甚至瞬間 2 N的 X 是有限的, X 具有有限的均值。這個論證的延伸表明 X 具有每個階的有限矩 劃分

替代有限形式

令 , 並且以 為上的計數度量, 則一般形式簡化為關於和的聲明:
條件是和
還有一個無限的離散形式。

統計物理學

當凸函數是指數函數時,Jensen不等式在統計物理學中特別重要,給出:
其中期望值是關於隨機變數X中的一些概率分佈
這種情況下的證明非常簡單(參見Chandler,第5.5節)。理想的不平等直接來自書寫
然後應用不等式至最終指數。

資訊理論

如果 p(X) 是用於真正的概率分佈X和 q(X) 是另一種分佈,然後施加Jensen不等式隨機變數數 給出
因此:
一個稱為吉布斯不平等的結果。
它表明, 當代碼是基於真實概率p而不是任何其他分佈q分配時, 平均消息長度被最小化。即非負的量被稱為相對熵的 q 從 由於為嚴格凸函數, 它遵循: 當等號成立 p(X) 等於 q(X) 幾乎無處不在。

Rao-Blackwell定理

主要文章:Rao-Blackwell定理
如果L是一個凸函數, 一個亞西格瑪代數,然後, 從Jensen不等式的條件版本中, 我們可以得到
所以如果是給定一個可觀測量向量 X 的末觀測參數Ө的估計量;如果 T(X) 是Ө的充分統計量;那麼可以通過計算獲得改 進的估計量,即具有較小的預期損失L的意義
相對於的期望值ठ在所有可能的觀察值向量 X 上都可以與觀察到的相同的 T(X) 值相匹配。
這個結果被稱為Rao-Blackwell定理。