Adaboost算法的精确形式

2024-02-02 12:45:04

初始化数据加权系数 $w_{n}=1/N$ wn=1/N
对于m=1,...,Mm=1,...,Mm=1,...,M
- 使用训练数据调节一个分类器 $y_{m}(x)$ ym(x),调节的目标是最小化加权的误差函数 $J_{m}=\sum_{n=1}^{N}w_{n}^{(m)}I(y_{m}(x_{n})\neq t_{n})$ Jm=n=1∑Nwn(m)I(ym(xn)̸=tn)
- 计算 $\epsilon_{m}=\frac{\sum_{n=1}^{N}w_{n}^{(m)}I(y_{m}(x_{n})\neq t_{n})}{\sum_{n=1}^{N}w_{n}^{(m)}}$ ϵm=∑n=1Nwn(m)∑n=1Nwn(m)I(ym(xn)̸=tn) $\alpha_{m}=\mathrm{ln}\frac{1-\epsilon_{m}}{\epsilon_{m}}$ αm=lnϵm1−ϵm
- 更新权重系数 $w_{n}^{(m+1)}=w_{n}^{(m)}exp(\alpha_{m}I(y_{m}(x_{n})\neq t_{n}))$ wn(m+1)=wn(m)exp(αmI(ym(xn)̸=tn))
使用最终的模型进行预测 $Y_{M}(x)=sign(\sum_{m=1}^{M}\alpha_{m}y_{m}(x))$ YM(x)=sign(m=1∑Mαmym(x))

码农公寓