朴素贝叶斯

朴素贝叶斯就是利用贝叶斯定理和特征条件独立假设,计算x属于某个类的后验概率,取概率最大的类。

朴素贝叶斯的参数就是各个条件概率和先验概率P(Y=Ck)。

这些参数的估计都是根据极大似然估计或者贝叶斯估计获得。

极大似然估计这里需要解释一下,比如二分类,每个样本点,可以看成投一次硬币,1为正,0为负,参数就是p,硬币为正的概率,这个时候10000个样本点,4000个正,可以写出似然函数,然后极大化似然函数,反求参数p。

贝叶斯估计是为了解决某个条件概率或先验概率出现频数为0的情况,把每个取值都加上一个λ,当λ为1的时候,即为拉普拉斯平滑,λ为0就是极大似然估计。

留言

熱門文章