古詩詞大全網 - 成語經典 - baggingboosting區別

baggingboosting區別

bagging與boosting是兩種不同的集成算法,Bagging采用重復取樣:boostrap每個個體分類器所采用的訓練樣本都是從訓練集中按等概率抽取的,因此Bagging的各子網能夠很好的覆蓋訓練樣本空間,從而有著良好的穩定性。

而Boosting註重分類錯誤的樣本,將個體子網分類錯誤的訓練樣本的權重提高,降低分類錯誤的樣本權重,並依據修改後的樣本權重來生成新的訓練樣本空間並用來訓練下壹個個體分類器。然而,由於Boosting算法可能會將噪聲樣本或分類邊界樣本的權重過分累積,因此Boosting很不穩定,但其在通常情況下,其泛化能力是最理想的集成算法之壹。