多元高斯分布及多元条件高斯分布

摘要:
高斯这些公式知道D维向量x,其高斯概率分布为:N(x |μ,∑)==1(2π)D/21|∑|1/2exp(12(xμ)T∑1(xμ。还应注意,当传入样本矩阵X(具有行为样本)而不是列向量X时,当计算索引部分时,-1/2*sum(X/Sigma.*X,2);当多变量高斯分布退化为单变量高斯分布时,∑对应于σ2(方差),并且

高斯那些公式

已知 D 维向量 x,其高斯概率分布为:

N(x|μ,Σ)==1(2π)D/21|Σ|1/2exp(12(xμ)TΣ1(xμ))1|Σ|(2π)Dexp(12(xμ)TΣ1(xμ))

  • 显然默认 x 是一个列向量
  • 还需注意的是,当传递进去的是样本矩阵 X(以行为样本) 而不是列向量 x,则在计算指数部分时,

    -1/2*sum(X/Sigma .* X, 2);
  • 当多元高斯分布退化为一元高斯时,Σ 对应着 σ2(方差),而不是标准差(standard deviation)

  • 这里 d=(xμ)TΣ1(xμ) 也称为马氏距离;
    是对一元高斯分布对应的 d=xμσ 得拓展;
  • 多元时的 d=(xμ)TΣ1(xμ) 也可视为某种程度的 z-分数,尤其在变量之间彼此独立,并且方差相同时, d=xμσ(z-分数),

1. 条件高斯分布(Conditional Gaussian distributions)

Multivariate normal distribution - Wikipedia

2. 编程时的技巧

  • αexp(f(x)) 的计算通常转换为,求对数,再求指数的形式:elogαexp(f(x))=elogα+f(x)

  • p=1|Σ|(2π)Dexp(12(xμ)TΣ1(xμ))logp=D2log(2π)12log|Σ|12(xμ)TΣ1(xμ)

3. 多元高斯概率密度函数的 matlab 实现

function p = gaussProb(X, mu, Sigma)
d = size(Sigma, 2);
X = bsxfun(@minus, X, mu(:)');
log1 = -d/2*log(2*pi)-1/2*logdet(Sigma);
log2 = -1/2*sum(X/Sigma .* X, 2);
p = exp(log1+log2);
end
  • 这里的 X(样本矩阵)以行为样本;

免责声明:文章转载自《多元高斯分布及多元条件高斯分布》仅用于学习参考。如对内容有疑问,请及时联系本站处理。

上篇VC++ 动态检测串口的热插拔(一)通过注册表实现机器学习:scikit-learn 做笑脸识别 (SVM, KNN, Logisitc regression)下篇

宿迁高防,2C2G15M,22元/月;香港BGP,2C5G5M,25元/月 雨云优惠码:MjYwNzM=

相关文章

【高斯消元】【异或方程组】【bitset】bzoj1923 [Sdoi2010]外星千足虫

Xor方程组解的个数判定: ——莫涛《高斯消元解Xor方程组》 使用方程个数判定:消去第i个未知数时,都会记录距第i个方程最近的第i位系数不为0の方程是谁,这个的max就是使用方程个数。 使用bitset加速。 #include<cstdio> #include<cmath> #include<algorithm>...

【POJ 1830】 开关问题 (高斯消元)

开关问题 Description 有N个相同的开关,每个开关都与某些开关有着联系,每当你打开或者关闭某个开关的时候,其他的与此开关相关联的开关也会相应地发生变化,即这些相联系的开关的状态如果原来为开就变为关,如果为关就变为开。你的目标是经过若干次开关操作后使得最后N个开关达到一个特定的状态。对于任意一个开关,最多只能进行一次开关操作。你的任务是,计算有多...

【学习笔记】莫比乌斯反演

【学习笔记】莫比乌斯反演(其实只讲(mu)) 可能最常见的定义式是这样的: [F(x)=Sigma_{d|x}f(x) leftrightarrow f(x)=Sigma_{d|x}mu(x)F(x) \or \ F(x)=Sigma_{x|d}f(x) leftrightarrow f(x)=Sigma_{x|d}mu(x)F(x) ] 但是这并不是我们...

稀疏傅里叶变换(sparse FFT)

作者:桂。 时间:2018-01-0614:00:25 链接:http://www.cnblogs.com/xingshansi/p/8214122.html 前言 对于数字接收来讲,射频域随着带宽的增加,AD、微波、FPGA资源的需求越来越高,但频域开的越宽并不意味着频谱越宽,有限信号内可认为信号在宽开频域稀疏分布,最近较为流行的稀疏FFT(...

机器学习之最小二乘法

1.背景: 1801年,意大利天文学家朱赛普·皮亚齐发现了第一颗小行星谷神星。经过40天的跟踪观测后,由于谷神星运行至太阳背后,使得皮亚齐失去了谷神星的位置。随后全世界的科学家利用皮亚齐的观测数据开始寻找谷神星,但是根据大多数人计算的结果来寻找谷神星都没有结果。时年24岁的高斯也计算了谷神星的轨道。奥地利天文学家海因里希·奥伯斯根据高斯计算出来的轨道重新发...

【python-opencv】图像平滑

1、2D卷积 与一维信号一样,还可以使用各种低通滤波器(LPF),高通滤波器(HPF)等对图像进行滤波。LPF有助于消除噪声,使图像模糊等。HPF滤波器有助于在图像中找到边缘。 OpenCV提供了一个函数cv.filter2D来将内核与图像进行卷积。例如,我们将尝试对图像进行平均滤波。 操作如下:保持这个内核在一个像素上,将所有低于这个内核的25个像素相加,...