1、数学期望（均值）
数学期望给出了随机变量的平均大小。随机变量X的数学期望记为E(X), E(X)是X的算术平均的近似值, 数学期望表示了X的平均值大小。实验中每次可能的结果的概率乘以其结果的总和。
- 离散型随机变量
- 连续型随机变量
2、方差
随机变量的取值在均值周围的散布程度，X的方差记为
D(X)=E{[X-E(X)]^2}。
- 离散型
- 连续型
- 方差的算术平方根为X的标准差
- D(X) = E{[X-E(X)]^2} 经过化解可得 D(X) = E(X^2) – [E(X)]^2，一般计算的时候常用这个式子
3、协方差
对于二维的随机变量(X,Y)，还要讨论它们的相互关系。
因为E{ [X-E(X)][Y-E[Y]] } = E(XY) – E(X)E(Y)，又当X,Y相互独立的时候E(XY) = E(X)E(Y)。这意味着若E{[X-E(X)][Y-E[Y]]} ≠ 0 ，则X与Y是存在一定关系的。
协方差可以反应两个变量的协同关系， 变化趋势是否一致。同向还是方向变化。
Cov(X,Y) = E{[X-E(X)][Y-E[Y]]}
4、相关系数
相关系数是协发差的归一化(normalization)， 消除了两个变量量纲/变化幅度不同的影响。单纯反映两个变量在每单位变化的相似程度。
协方差在某种意义上是表示了两个随机变量间的关系，但是Cov(X,Y)的取值大小与X,Y的量纲有关，不方便分析。为了消除量纲的影响，用X,Y的标准化随机变量来讨论，即将两变量分别进行标准化(每个观察值减去均数再除以其标准差)后再计算协方差，使之成为无单位的系数。
随机变量X与Y的相关系数：
记为(无量纲)
其中，以下符号为X,Y的协方差即Cov(X,Y)。D(X)，D(Y)分别是X,Y的方差且D(X)>0，D(Y)>0
注意：两个不相关的随机变量，不一定相互独立,有一特殊情况是,当随机变量X,Y服从二维正态分布的时候,独立与不相关等价。
- 不相关只能说明X与Y不存在线性关系。
- 独立说明X与Y既不存在线性关系,也不存在非线性关系。
5、矩
矩(moment)是最广泛的一种数字特征,常用的矩有两种：原点矩和中心矩。
- 原点矩：
对于正整数k，称随机变量X的k次幂的数学期望为X的k阶原点矩：即 E(Xk) ,k=1,2,…n.
数学期望就是一阶原点矩。
- 中心矩：
对于正整数k，称随机变量X与E（X）差的k次幂的数学期望为X的k阶中心矩：即 E{X-E[XK]},K=1,2,…n.
方差就是二阶中心矩。
6、补充
- 均值，用E(x)表示，表示信号中直流分量的大小。
- 均值的平方，用{E(x)}^2表示，它表示的是信号中直流分量的功率。
- 均方值，用E(x^2)表示，表示信号平方后的均值。均方值表示信号的平均功率。
- 均方根值，即均方值的开根号
- 方差，描述信号的波动范围，表示信号中交流分量的强弱，即交流信号的平均功率。
- 均方差，用MSE表示，是各数据偏离真实值的距离平方和的平均数
- 对于方差和标准差而言，它们反映的是数据序列与均值的关系。
- 对于均方差和均方根误差而言，它们反映的是数据序列与真实值之间的关系。
1、均值函数
总集均值，一阶原点矩函数过程的数学期望作为参数的函数，是其样本函数在某时刻t的平均取值
2、均方值函数
反映了随机信号在总集意义下的瞬时功率（即某时刻样本随机变量的平均功率）
3、方差函数
反映了随机信号在均值上下的起伏程度
4、自相关函数
表示随机信号在不同时刻取值的关联程度
5、自协方差函数
描述随机信号在不同时刻值的起伏变化的相关程度，也称为中心化的自相关函数
,
