Jensen 不等式与 AM-GM、幂平均不等式

题目

1. Jensen 不等式（离散版）：设 $f:I\to \mathbb{R}$ 为凸函数（ANL-DEF-019）。证明：对任意 $x_1,\dots ,x_n\in I$ 与权重 ${\lambda }_1,\dots ,{\lambda }_n\ge 0$ 满足 ${\sum }_{i=1}^n{\lambda }_i=1$， $f\left({\sum }_{i=1}^n{\lambda }_i{x}_i\right)\le {\sum }_{i=1}^n{\lambda }_{i}f(x_i).$

2. AM-GM 不等式：用 Jensen 推出对任意 $x_1,\dots ,x_n>0$， $\frac{x_1+x_2+\cdots +x_n}{n}\ge \sqrt[n]{x_1{x}_2\cdots x_n}.$

3. 幂平均不等式：对 $a,b>0$ 与 $p\ge 1$，证明 ${\left(\frac{a+b}{2}\right)}^p\le \frac{a^p+b^p}{2}.$

提示

点击展开提示

• 第 1 题：对 $n$ 归纳。$n=2$ 是凸函数定义本身。从 $n$ 到 $n+1$：把首 $n$ 个权重归一化后用归纳假设，再用 $n=2$ 凸性合并。
• 第 2 题：取 $f(x)=-\ln x$（在 $(0,+\infty )$ 上凸），${\lambda }_i=1/n$。Jensen 给出 $-\ln (\bar{x})\le -\frac{1}{n}\sum \ln x_i$，即 $\ln (\bar{x})\ge \frac{1}{n}\sum \ln x_i=\ln \sqrt[n]{\prod x_i}$。两边取指数。
• 第 3 题：$f(x)=x^p$ 在 $(0,+\infty )$ 上凸（$p\ge 1$ 时 $f^{\prime \prime }(x)=p(p-1)x^{p-2}\ge 0$），直接 $n=2$ 凸性。

解答

点击展开完整解答

第 1 题：Jensen 不等式归纳证明

证明（对 $n$ 归纳）：

$n=2$：恰为 $f$ 凸函数定义（ANL-DEF-019）：$f({\lambda }_1{x}_1+{\lambda }_2{x}_2)\le {\lambda }_{1}f(x_1)+{\lambda }_{2}f(x_2)$。

$n\to n+1$：设结论对 $n$ 成立。给定 $x_1,\dots ,x_{n+1}\in I$ 与 ${\lambda }_1,\dots ,{\lambda }_{n+1}\ge 0$，$\sum {\lambda }_i=1$。

不妨设 ${\lambda }_{n+1}\in [0,1)$（${\lambda }_{n+1}=1$ 时其余 ${\lambda }_i=0$，结论平凡）。设 $\Lambda :=1-{\lambda }_{n+1}={\sum }_{i=1}^n{\lambda }_i>0$。

关键改写：

$$\sum _{i=1}^{n+1}{\lambda }_i{x}_i=\Lambda \cdot \underset{=:\bar{x}}{\underbrace{\sum _{i=1}^n\frac{{\lambda }_i}{\Lambda }{x}_i}}+{\lambda }_{n+1}{x}_{n+1}.$$

注意 $\frac{{\lambda }_i}{\Lambda }$（$i=1,\dots ,n$）非负且和为 $1$，故 $\bar{x}\in I$（$I$ 区间，凸集）。

应用 $n=2$ 凸性（权重 $\Lambda +{\lambda }_{n+1}=1$）：

$$f\left(\sum _{i=1}^{n+1}{\lambda }_i{x}_i\right)=f(\Lambda \bar{x}+{\lambda }_{n+1}{x}_{n+1})\le \Lambda f(\bar{x})+{\lambda }_{n+1}f(x_{n+1}).$$

应用 $n$ 归纳假设于 $\bar{x}$（权重 $\frac{{\lambda }_i}{\Lambda }$ 非负且和为 $1$）：

$$f(\bar{x})\le \sum _{i=1}^n\frac{{\lambda }_i}{\Lambda }f(x_i).$$

代入：

$$f\left(\sum _{i=1}^{n+1}{\lambda }_i{x}_i\right)\le \Lambda \cdot \sum _{i=1}^n\frac{{\lambda }_i}{\Lambda }f(x_i)+{\lambda }_{n+1}f(x_{n+1})=\sum _{i=1}^{n+1}{\lambda }_{i}f(x_i).■$$

第 2 题：AM-GM 不等式

证明：取 $f(x)=-\ln x$ 于 $(0,+\infty )$。由 $f^{\prime \prime }(x)=\frac{1}{x^2}>0$（ANL-DEF-019 二阶导判定），$f$ 在 $(0,+\infty )$ 上严格凸。

对 $x_1,\dots ,x_n>0$ 取等权重 ${\lambda }_i=\frac{1}{n}$，由第 1 题 Jensen：

$$-\ln \left(\frac{x_1+\cdots +x_n}{n}\right)\le \frac{1}{n}\sum _{i=1}^n(-\ln x_i)=-\frac{1}{n}\ln (x_1\cdots x_n)=-\ln \sqrt[n]{x_1\cdots x_n}.$$

两边取负后再取指数（$\ln$ 单调）：

$$\frac{x_1+\cdots +x_n}{n}\ge \sqrt[n]{x_1{x}_2\cdots x_n}.■$$

等号成立 $⟺$ $-\ln$ 严格凸条件下所有 $x_i$ 相等。

第 3 题：幂平均不等式（$p\ge 1$）

证明：取 $f(x)=x^p$ 于 $(0,+\infty )$。

$p>1$：$f^{\prime \prime }(x)=p(p-1)x^{p-2}>0$ ⇒ $f$ 严格凸（ANL-DEF-019）。

$p=1$：$f(x)=x$ 是线性函数，既凸又凹（不等式取等号）。

由 $f$ 凸，对 $a,b>0$ 与权重 ${\lambda }_1={\lambda }_2=1/2$ 的 Jensen：

$$f\left(\frac{a+b}{2}\right)\le \frac{1}{2}f(a)+\frac{1}{2}f(b),$$

即

$${\left(\frac{a+b}{2}\right)}^p\le \frac{a^p+b^p}{2}.■$$

几何含义：算术平均 $\frac{a+b}{2}$ 经过凸映射 $x^p$ 后变小（$\le$）； 而映射后再算术平均反而变大。这就是 Jensen 的视觉：“凸映射会把弦压低”。 当 $p<1$（且 $>0$）时 $x^p$ 凹，不等号反转。

考察点

• ANL-DEF-019 凸函数的定义与归纳推广
• 凸函数的二阶导判定 $f^{\prime \prime }\ge 0$ 的应用
• 经典不等式（AM-GM、幂平均）的统一推导框架
• 选择合适凸函数 $f$（取 $\ln ,x^p,e^x$ 等）“翻译”目标不等式

备注

Jensen 不等式的”统一武器”性质：

选择 $f$	Jensen 给出
$f(x)=-\ln x$（凸）	AM-GM：$\overline{x_i}\ge \sqrt[n]{\prod x_i}$
$f(x)=x^p$（$p>1$ 凸）	幂平均不等式 ${\overline{x_i}}^p\le \overline{x_i^p}$
$f(x)=e^x$（凸）	$e^{\overline{x_i}}\le \overline{e^{x_i}}$
$f(x)=-\ln x$ + 概率分布	信息论基本不等式 $D_{\text{KL}}(p\Vert q)\ge 0$
$f(x)=x\ln x$（凸 on $(0,\infty )$）	熵的次可加性

进一步推广：

• 连续版 Jensen：$f$ 凸，$X$ 随机变量 ⇒ $f(E[X])\le E[f(X)]$（概率论标配）
• 加权版：权重不需等分，仅需非负 + 和为 $1$
• 多元版：$f:{\mathbb{R}}^n\to \mathbb{R}$ 凸时类似