沈阳做网站 0诚金网络专业_银川网站建设效果_杭州百度推广代理公司哪家好_打字赚钱平台 学生一单一结

协方差矩阵C的正定性

  设协方差矩阵$C=\left[\begin{array}{cc}{\sigma }_1^2& {\rho }_{12}{\sigma }_1{\sigma }_2\\ {\rho }_{12}{\sigma }_1{\sigma }_2& {\sigma }_2^2\end{array}\right]$，其中${\sigma }_1$和${\sigma }_2$分别为两个变量的标准差，${\rho }_{12}$为两个变量之间的相关系数。

1. 什么条件下$C$是正定矩阵？

  由于协方差矩阵是实对称矩阵，满足$C=C^T$。对于一个$n\times n$的实对称矩阵A，它是正定矩阵的充要条件是它的所有顺序主子式都大于零。

计算顺序主子式

• 一阶顺序主子式
    矩阵$C$的一阶顺序主子式为其左上角的元素，即$D_1={\sigma }_1^2$。因为标准差${\sigma }_1>0$，所以${\sigma }_1^2>0$。
• 二阶顺序主子式
    矩阵$C$的二阶顺序主子式为矩阵$C$的行列式，即
  $$D_2=\left|\begin{array}{cc}{\sigma }_1^2& {\rho }_{12}{\sigma }_1{\sigma }_2\\ {\rho }_{12}{\sigma }_1{\sigma }_2& {\sigma }_2^2\end{array}\right|$$

  根据二阶行列式的计算公式$\left|\begin{array}{cc}a& b\\ c& d\end{array}\right|=ad-bc$，可得：$D_2={\sigma }_1^2{\sigma }_2^2-({\rho }_{12}{\sigma }_1{\sigma }_2{)}^2={\sigma }_1^2{\sigma }_2^2(1-{\rho }_{12}^2)$。

确定正定矩阵的条件

  要使矩阵C为正定矩阵，则需满足$D_1>0$且$D_2>0$。

• 由$D_1={\sigma }_1^2>0$，可得${\sigma }_1\ne 0$。
• 由$D_2={\sigma }_1^2{\sigma }_2^2(1-{\rho }_{12}^2)>0$，因为${\sigma }_1^2>0$，${\sigma }_2^2>0$（标准差大于零），所以$1-{\rho }_{12}^2>0$，即${\rho }_{12}^2<1$，也就是$-1<{\rho }_{12}<1$。

  综上，当${\sigma }_1\ne 0$，${\sigma }_2\ne 0$且$-1<{\rho }_{12}<1$时，给定的$2\times 2$协方差矩阵是正定矩阵。

相关性系数${\rho }_{12}$的取值范围

  已知协方差矩阵$C=\left[\begin{array}{cc}{\sigma }_1^2& {\rho }_{12}{\sigma }_1{\sigma }_2\\ {\rho }_{12}{\sigma }_1{\sigma }_2& {\sigma }_2^2\end{array}\right]$，由于协方差矩阵是半正定矩阵（对于样本协方差矩阵通常是正定矩阵）。根据正定矩阵的性质，其行列式大于零（对于非奇异情况）。协方差矩阵C的行列式为$|C|={\sigma }_1^2{\sigma }_2^2-{\rho }_{12}^2{\sigma }_1^2{\sigma }_2^2={\sigma }_1^2{\sigma }_2^2(1-{\rho }_{12}^2)>0$（当${\sigma }_1\ne 0$且${\sigma }_2\ne 0$），同时考虑到相关系数的定义，可得$-1⩽{\rho }_{12}⩽1$。

• 当${\rho }_{12}=1$时，两个变量完全正相关；
• 当${\rho }_{12}=-1$时，两个变量完全负相关；
• 当${\rho }_{12}=0$时，两个变量不相关。

二元函数$f(x_1,x_2)=X^{T}CX$的图像

  设$X=\left[\begin{array}{c}{x}_1\\ x_2\end{array}\right]$，则$f(x_1,x_2)=\left[\begin{array}{cc}{x}_1& x_2\end{array}\right]\left[\begin{array}{cc}{\sigma }_1^2& {\rho }_{12}{\sigma }_1{\sigma }_2\\ {\rho }_{12}{\sigma }_1{\sigma }_2& {\sigma }_2^2\end{array}\right]\left[\begin{array}{c}{x}_1\\ x_2\end{array}\right]$

$f(x_1,x_2)={\sigma }_1^2{x}_1^2+2{\rho }_{12}{\sigma }_1{\sigma }_2{x}_1{x}_2+{\sigma }_2^2{x}_2^2$

  这是一个二次型函数，其图像是一个三维空间中的抛物面。当C是正定矩阵时（即$-1<{\rho }_{12}<1$且${\sigma }_1\ne 0,{\sigma }_2\ne 0$），抛物面开口向上，并且在原点$(0,0)$处取得最小值$f(0,0)=0$。

当${\sigma }_1={\sigma }_2=1$时，二元函数等高线形状随${\rho }_{12}$的变化

  ${\sigma }_1={\sigma }_2=1$时，$f(x_1,x_2)=x_1^2+2{\rho }_{12}{x}_1{x}_2+x_2^2$。等高线方程为$x_1^2+2{\rho }_{12}{x}_1{x}_2+x_2^2=k$（$k>0$），这是一个二次曲线方程。

• ${\rho }_{12}=0$时：
  此时$f(x_1,x_2)=x_1^2+x_2^2$，等高线方程为$x_1^2+x_2^2=k$，这是一个以原点为圆心的圆。因为此时两个变量不相关，在平面上各个方向的变化是相互独立且对称的。
• $0<{\rho }_{12}<1$时：
  等高线是一个椭圆，椭圆的长轴和短轴发生倾斜。随着${\rho }_{12}$从0增大到1，椭圆变得越来越扁，长轴沿着$x_1=x_2$这条直线的方向（正相关方向）。因为${\rho }_{12}>0$表示两个变量正相关，一个变量增大时另一个变量也倾向于增大，所以在正相关方向上数据的变化更为明显，导致椭圆被拉长。
• $-1<{\rho }_{12}<0$时：
  等高线同样是椭圆，椭圆的长轴和短轴也发生倾斜。随着${\rho }_{12}$从0减小到$-1$，椭圆变得越来越扁，长轴沿着$x_1=-x_2$这条直线的方向（负相关方向）。因为${\rho }_{12}<0$表示两个变量负相关，一个变量增大时另一个变量倾向于减小，所以在负相关方向上数据的变化更为明显，导致椭圆在这个方向上被拉长。
• ${\rho }_{12}=1$时：
  $f(x_1,x_2)=(x_1+x_2{)}^2$，等高线方程为$(x_1+x_2{)}^2=k$，即$x_1+x_2=\pm \sqrt{k}$，此时等高线退化为两条平行直线，这是因为两个变量完全正相关，它们之间存在线性关系$x_2=-x_1\pm \sqrt{k}$。
• ${\rho }_{12}=-1$时：
  $f(x_1,x_2)=(x_1-x_2{)}^2$，等高线方程为$(x_1-x_2{)}^2=k$，即$x_1-x_2=\pm \sqrt{k}$，此时等高线也退化为两条平行直线，因为两个变量完全负相关，它们之间存在线性关系$x_2=x_1\pm \sqrt{k}$。

import numpy as np
import matplotlib.pyplot as pltrho_12_values = [-1.0,-0.9, -0.5, 0, 0.5, 0.9,1.0]# 生成网格点
x1 = np.linspace(-3, 3, 100)
x2 = np.linspace(-3, 3, 100)
X1, X2 = np.meshgrid(x1, x2)# 绘制不同 rho_12 下的等高线图
for rho_12 in rho_12_values:f = X1 ** 2 + 2 * rho_12 * X1 * X2 + X2 ** 2# 创建一个正方形的图形plt.figure(figsize=(6, 6))plt.contour(X1, X2, f, levels=20)# 设置坐标轴比例相等plt.axis('equal')plt.title(rf"Contour Plot for $\rho_{{12}}$ = {rho_12}")plt.xlabel('$x_1$')plt.ylabel('$x_2$')plt.show()