朴素贝叶斯
朴素贝叶斯就是利用贝叶斯定理和特征条件独立假设,计算x属于某个类的后验概率,取概率最大的类。
朴素贝叶斯的参数就是各个条件概率和先验概率P(Y=Ck)。
这些参数的估计都是根据极大似然估计或者贝叶斯估计获得。
极大似然估计这里需要解释一下,比如二分类,每个样本点,可以看成投一次硬币,1为正,0为负,参数就是p,硬币为正的概率,这个时候10000个样本点,4000个正,可以写出似然函数,然后极大化似然函数,反求参数p。
贝叶斯估计是为了解决某个条件概率或先验概率出现频数为0的情况,把每个取值都加上一个λ,当λ为1的时候,即为拉普拉斯平滑,λ为0就是极大似然估计。
朴素贝叶斯的参数就是各个条件概率和先验概率P(Y=Ck)。
这些参数的估计都是根据极大似然估计或者贝叶斯估计获得。
极大似然估计这里需要解释一下,比如二分类,每个样本点,可以看成投一次硬币,1为正,0为负,参数就是p,硬币为正的概率,这个时候10000个样本点,4000个正,可以写出似然函数,然后极大化似然函数,反求参数p。
贝叶斯估计是为了解决某个条件概率或先验概率出现频数为0的情况,把每个取值都加上一个λ,当λ为1的时候,即为拉普拉斯平滑,λ为0就是极大似然估计。
留言
張貼留言