将Radial Basis Function与Network相结合。实际上衡量两个点的相似性:距离越近,值越大。
将神经元换为与距离有关的函数,就是RBF Network:
可以用kernel和RBF来衡量相似性:
那么如何选中心点呢,一种方法是把所有看过的资料都当做中心点,这就是 FULL NETWORK:
用所有的点作中心太麻烦,可以选择某几个点来投票,这就是KNN(具体可参考机器学习实战):
之前投票的y就是资料的标签,如果每笔资料都不同的话,可以得到一个简洁的贝塔:
减少中心点(相当于选了几个代表)可以做regularization:
对那些相似的资料,为了简化计算,我们把它分为一类,并选出一个代表:
怎么把资料进行分类呢,可以使用K-Means: