t-sne复习
在初见中说到SNE存在两大缺点:
1、很难优化
2、拥挤问题
缺点1的解决方案是使用对称SNE
缺点2的解决方案是低维空间使用自由度1的t分布
对称SNE,定义了联合概率:
其中p_j|i定义为,基于高斯分布:
联合概率的KL散度为:
联合概率q_ij定义为,基于自由度为1的t分布:t-sne的算法描述为:
回顾t-sne,主要参考t-sne的论文《Visualizing Data Using T-sne》
bookmark中http://www.datakit.cn/blog/2017/02/05/t_sne_full.html#11%E5%9F%BA%E6%9C%AC%E5%8E%9F%E7%90%86
公式存在细节错误,也可以看,但是要参考论文就行修正。
留言
張貼留言