简单记录一下，内容基本来自于皮尔逊相关系数绝对值小于1的证明

皮尔逊相关定义

总体的相关系数定义为 \[ \rho_{X, Y}=\frac{\operatorname{cov}(X, Y)}{\sigma_{X} \sigma_{Y}}=\frac{E\left[\left(X-\mu_{X}\right)\left(Y-\mu_{Y}\right)\right]}{\sigma_{X} \sigma_{Y}} \] 样本的相关系数计算公式为 \[ r=\frac{\sum_{i=1}^{n}\left(X_{i}-\bar{X}\right)\left(Y_{i}-\bar{Y}\right)}{\sqrt{\sum_{i=1}^{n}\left(X_{i}-\bar{X}\right)^{2}} \sqrt{\sum_{i=1}^{n}\left(Y_{i}-\bar{Y}\right)^{2}}} \]

证明皮尔逊相关绝对值小于1

如果我们定义 \(X_{i}-\bar{X}=x_{i}, Y_{i}-\bar{Y}=y_{i}\) ，由 \(x_i\) 和 \(y_i\) 组成的向量为 \(\boldsymbol{x}\) 和 \(\boldsymbol{y}\) ，则样本的相关系数计算公式此时为 \[ r = \frac{\sum_{i=1}^{n} x_{i} y_{i}}{\sqrt{\left(\sum_{i=1}^{n} x_{i}^{2}\right)}\sqrt{\left(\sum_{i=1}^{n} y_{i}^{2}\right)}} \] 根据柯西-施瓦茨不等式，我们有 \[ |\langle \boldsymbol{x}, \boldsymbol{y}\rangle| \leq\|\boldsymbol{x}\| \cdot\|\boldsymbol{y}\| \] 因此 \[ |\langle \boldsymbol{x}, \boldsymbol{y}\rangle| = \left|\sum_{i=1}^{n} x_{i} y_{i}\right| \leq \sqrt{\left(\sum_{i=1}^{n} x_{i}^{2}\right)} \sqrt{\left(\sum_{i=1}^{n} y_{i}^{2}\right)} = \|\boldsymbol{x}\| \cdot\|\boldsymbol{y}\| \] 换句话说，皮尔逊相关系数等于下式 \[ r = \frac{\langle \boldsymbol{x}, \boldsymbol{y}\rangle}{\|\boldsymbol{x}\| \cdot\|\boldsymbol{y}\|} = \cos(\theta) \] 即可以视为 \(\boldsymbol{x}\) 和 \(\boldsymbol{y}\) 夹角的余弦值。