内容来源
数理统计学导论（原书第7版） 机械工业出版社
J e n s e n Jensen Jensen 不等式
如果 ϕ \phi ϕ 在开区间 I I I 上是凸的
X X X 是随机变量，其支集包含于 I I I 中，同时具有有限期望
那么
ϕ [ E ( X ) ] ⩽ E [ ϕ ( X ) ] \phi[E(X)]\leqslant E[\phi(X)] ϕ[E(X)]⩽E[ϕ(X)]
如果 ϕ \phi ϕ 是严格凸的，那么不等式也是严格的，除非 X X X 是常数随机变量
证明
将 ϕ ( x ) \phi(x) ϕ(x) 展开成关于 μ = E ( X ) \mu=E(X) μ=E(X) 的二阶泰勒级数
ϕ ( x ) = ϕ ( μ ) + ϕ ′ ( μ ) ( x − μ ) + ϕ ′ ′ ( ζ ) ( x − μ ) 2 2 \phi(x)=\phi(\mu)+\phi'(\mu)(x-\mu)+\frac{\phi''(\zeta)(x-\mu)^2}{2} ϕ(x)=ϕ(μ)+ϕ′(μ)(x−μ)+2ϕ′′(ζ)(x−μ)2
其中 ζ \zeta ζ 位于 x x x 与 μ \mu μ 之间
上面等式右边最后一项非负，所以
ϕ ( x ) ⩾ ϕ ( μ ) + ϕ ′ ( μ ) ( x − μ ) \phi(x)\geqslant\phi(\mu)+\phi'(\mu)(x-\mu) ϕ(x)⩾ϕ(μ)+ϕ′(μ)(x−μ)
对两边取期望，就得出结果