news 2026/1/11 16:57:18

高斯分布的加权和 vs. 加权混合

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
高斯分布的加权和 vs. 加权混合

这两个概念虽然都基于高斯分布,但代表着两种完全不同的数学操作和思维方式。简单来说,高斯分布的加权和产生的是一个新的高斯分布,而高斯分布的加权混合描述的是一个复杂的多模态分布

维度高斯分布的加权和高斯混合模型
数学本质随机变量的线性组合概率密度函数的凸组合
结果分布仍然是高斯分布通常不是高斯分布
参数计算直接计算(解析解)迭代优化(如EM算法)
可解释性参数有直接物理意义分量代表数据中的子群体
典型形态单峰多峰(可拟合复杂形状)
计算复杂度低(封闭形式解)高(需要迭代优化)

一、高斯分布基础

高斯分布(又称正态分布)是最重要的概率分布之一,其概率密度函数呈钟形曲线:

N(x∣μ,σ2)=12πσe−(x−μ)22σ2\mathcal{N}(x|\mu, \sigma^2) = \frac{1}{\sqrt{2\pi}\sigma} e^{-\frac{(x-\mu)^2}{2\sigma^2}}N(xμ,σ2)=2πσ1e2σ2(xμ)2

其中,μ\muμ是均值,决定了分布的中心位置;σ2\sigma^2σ2是方差,决定了分布的宽度。高斯分布之所以无处不在,很大程度上归功于中心极限定理:大量独立同分布的随机变量之和趋近于高斯分布。

二、高斯分布的加权和

核心思想:高斯随机变量的线性组合仍然是高斯随机变量。
假设有两个独立的高斯随机变量:
X1∼N(μ1,σ12)X_1 \sim \mathcal{N}(\mu_1, \sigma_1^2)X1N(μ1,σ12)
X2∼N(μ2,σ22)X_2 \sim \mathcal{N}(\mu_2, \sigma_2^2)X2N(μ2,σ22)

它们的加权和定义为:

Y=aX1+bX2Y = aX_1 + bX_2Y=aX1+bX2
其中aaabbb是权重系数。根据高斯分布的性质,YYY也是一个高斯随机变量:
Y∼N(aμ1+bμ2,a2σ12+b2σ22)Y \sim \mathcal{N}(a\mu_1 + b\mu_2, a^2\sigma_1^2 + b^2\sigma_2^2)YN(aμ1+bμ2,a2σ12+b2σ22)

关键特性

  1. 封闭性:这是高斯分布最优雅的性质之一。无论你如何线性组合高斯随机变量,结果仍然是高斯分布。
  2. 参数可计算:结果分布的参数可以直接从原始分布的参数和权重计算得出,无需复杂迭代。
  3. 可扩展到多维:对于多维高斯分布,类似的性质同样成立。如果X1∼N(μ1,Σ1)X_1 \sim \mathcal{N}(\mu_1, \Sigma_1)X1N(μ1,Σ1)X2∼N(μ2,Σ2)X_2 \sim \mathcal{N}(\mu_2, \Sigma_2)X2N(μ2,Σ2)是独立的多维高斯向量,那么Y=AX1+BX2Y = AX_1 + BX_2Y=AX1+BX2也是一个高斯向量,其参数为:
    Y∼N(Aμ1+Bμ2,AΣ1AT+BΣ2BT)Y \sim \mathcal{N}(A\mu_1 + B\mu_2, A\Sigma_1A^T + B\Sigma_2B^T)YN(Aμ1+Bμ2,AΣ1AT+BΣ2BT)

这就像是调配一种新的颜色:

  • 红色油漆(高斯分布1)
  • 蓝色油漆(高斯分布2)
  • 按比例混合后,你得到一种全新的、均匀的紫色油漆(仍然是高斯分布,但参数不同)

三、高斯混合模型(GMM)

核心思想:用多个高斯分布的加权平均来近似任意复杂的概率分布。
高斯混合模型的概率密度函数定义为:
p(x)=∑k=1KπkN(x∣μk,Σk)p(x) = \sum_{k=1}^{K} \pi_k \mathcal{N}(x|\mu_k, \Sigma_k)p(x)=k=1KπkN(xμk,Σk)

其中:

  • KKK是高斯分量的数量
  • πk\pi_kπk是第kkk个分量的混合权重,满足0≤πk≤10 \leq \pi_k \leq 10πk1∑k=1Kπk=1\sum_{k=1}^{K} \pi_k = 1k=1Kπk=1
  • N(x∣μk,Σk)\mathcal{N}(x|\mu_k, \Sigma_k)N(xμk,Σk)是第kkk个高斯分量的概率密度函数

关键特性

  1. 多模态性:高斯混合模型可以描述具有多个峰值(模式)的复杂分布
  2. 万能逼近:理论上,足够多的高斯分量可以逼近任何连续概率分布
  3. 软分配:每个数据点可以同时以不同概率属于多个分量
  4. 需要迭代学习:模型参数通常通过EM算法等迭代方法从数据中学习

回到颜色混合的比喻,高斯混合模型不是将颜色均匀混合,而是:

  • 红色糖果(高斯分布1)
  • 蓝色糖果(高斯分布2)
  • 将它们放入同一个袋子,每次随机抓取一颗

你得到的不再是一种均匀的颜色,而是一个概率过程:抓到红色糖果的概率是p1p_1p1,抓到蓝色糖果的概率是p2p_2p2。从整体上看,这个袋子中的颜色分布是双峰的。

四、具体示例

假设我们有两种投资策略:

  • 策略A:收益服从N(5%,2%2)N(5\%, 2\%^2)N(5%,2%2)
  • 策略B:收益服从N(8%,4%2)N(8\%, 4\%^2)N(8%,4%2)

情形1:加权和
如果你将资金的60%投入策略A,40%投入策略B,那么投资组合的收益分布是:

0.6×N(5%,2%2)+0.4×N(8%,4%2)=N(0.6×5%+0.4×8%,0.62×2%2+0.42×4%2) 0.6 \times N(5\%, 2\%^2) + 0.4 \times N(8\%, 4\%^2) = N(0.6\times5\%+0.4\times8\%, 0.6^2\times2\%^2+0.4^2\times4\%^2)0.6×N(5%,2%2)+0.4×N(8%,4%2)=N(0.6×5%+0.4×8%,0.62×2%2+0.42×4%2)

结果是单一的高斯分布N(6.2%,0.0144%2)N(6.2\%, 0.0144\%^2)N(6.2%,0.0144%2)

情形2:混合模型

如果你在策略A和策略B之间随机切换,60%的时间使用策略A,40%的时间使用策略B,那么你的收益分布是:

p(x)=0.6×N(x∣5%,2%2)+0.4×N(x∣8%,4%2)p(x) = 0.6 \times N(x|5\%, 2\%^2) + 0.4 \times N(x|8\%, 4\%^2)p(x)=0.6×N(x∣5%,2%2)+0.4×N(x∣8%,4%2)

这是一个双峰分布,在5%和8%附近各有一个峰值。

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/1/6 18:30:44

一行命令踩坑?Step-Audio-EditX 中 Git LFS 报错的完整解决方案

📌 摘要 在部署 Step-Audio-EditX 这类包含大模型权重的项目时,很多同学都会遇到一个看似“莫名其妙”的错误:git: lfs is not a git command。本文将结合真实安装场景,详细分析该问题产生的原因,并给出在 Ubuntu 环境…

作者头像 李华
网站建设 2026/1/11 3:44:46

台湾大哥大:全民皆可通过其交易所直接购买加密货币

电信巨擘台湾大哥大于2026年1月5日正式宣布,旗下虚拟资产交易所TWEX全面开放给所有民众使用,不再局限于其电信服务的既有用户。这项举措不仅象征着加密货币投资的“全民化”时代正式来临,更为市场提供了一个由大型企业背书、强调安全与信赖的…

作者头像 李华
网站建设 2026/1/8 19:02:28

2026必备!专科生毕业论文必备!10个AI论文平台深度测评

2026必备!专科生毕业论文必备!10个AI论文平台深度测评 2026年专科生论文写作新选择:AI平台测评指南 随着人工智能技术的不断进步,越来越多的专科生开始借助AI工具辅助毕业论文的撰写。然而,面对市场上琳琅满目的AI论文…

作者头像 李华
网站建设 2026/1/8 3:03:16

日志审计系统如何配置才能确保有效性?

在数字化时代,企业的网络与信息系统每日产生海量日志数据。这些日志如同系统的“黑匣子”,详细记录了用户操作、系统运行、安全事件等关键信息。有效的日志审计不仅是合规性(如等保2.0、GDPR)的硬性要求,更是企业主动发…

作者头像 李华
网站建设 2026/1/7 23:00:21

2026年AI办公软件推荐榜:AI生成PPT工具红榜

我们花了两个月,当了一回“小白鼠”,把市面上热门的AI PPT工具测了个遍。今天这份 “2026年AI生成PPT工具年度榜单” ,就是来帮你拨开迷雾,找到那个能让你准时下班、还能被老板夸的“最佳拍档”!我们是怎么“审判”这些…

作者头像 李华
网站建设 2026/1/8 7:40:04

从0到1:轻松打造你的首份专业级演示文稿【建议收藏】

从零到一:借助AI,轻松打造你的首份专业级演示文稿在当今的职场与学术环境中,一份逻辑清晰、视觉出色的演示文稿已成为不可或缺的沟通工具。然而,对于许多非设计专业出身的用户而言,从空白页面开始构思内容、设计版式、…

作者头像 李华