【算法】狄利克雷过程 (Dirichlet过程)Bayesian Non Parametric

78 阅读 0 评论 52 点赞

我是靠谱客的博主朴素白昼，这篇文章主要介绍【算法】狄利克雷过程 (Dirichlet过程)Bayesian Non Parametric，现在分享给大家，希望可以做个参考。

本小节是层次狄利克雷过程的笔记。

狄利克雷混合模型DPMM是一种可以自动确定聚类类别数量的聚类方法。

狄利克雷过程DP是“分布的分布”，由2个参数 $alpha$ 和 $g_0$ 确定，即 $gsim dp(alpha,g_0)$ 。其中 $alpha$ 是分布参数，值越大，分布越接近于均匀分布，值越小，分布越集中。 $g_0$ 是基分布。

于是狄利克雷过程就是， $g_0$ 经过狄利克雷过程，输出了一个 $g$ 。 $alpha$ 越大，输出的G与输入的 $g_0$ 越接近。

何时需要狄利克雷分布呢?

本小节是徐亦达机器学习：Dirichlet Process 狄利克雷过程的笔记。

Bayesian Non Parametric

有一些点（二维数据）是从高斯混合模型中产生的，那它到底有几个混合呢？即它的k是多少呢？（k参考高斯混合模型Gaussian Mixture Model）

如果G是从 $dp(alpha,h)$ 产生的，那么G就是一个随机离散测度。G是由无穷个atam组成的， $theta_i$ 是每个棍子的位置， $pi_i$ 是棍子的权重。

不管如何划分 $theta$ 的空间，G在每个空间上相对应的测度服从一个狄利克雷分布，此分布的参数是 base measure H在每个空间上的测度* $alpha$ 。

本图文内容来源于网友提供，作为学习参考使用，或来自网络收集整理，版权属于原作者所有。