綜合過(guò)采樣和欠采樣的不平衡數(shù)據(jù)集的學(xué)習(xí)研究.pdf

1、不平衡數(shù)據(jù)學(xué)習(xí)已經(jīng)逐漸成為當(dāng)前機(jī)器學(xué)習(xí)領(lǐng)域研究熱點(diǎn)之一。在解決不平衡數(shù)據(jù)集的學(xué)習(xí)分類(lèi)的問(wèn)題時(shí)，需要盡可能大的提高分類(lèi)器對(duì)少數(shù)類(lèi)的預(yù)測(cè)精度，而且也要保證分類(lèi)器的分類(lèi)精度受到特別大的影響。
　　本課題在對(duì)不平衡數(shù)據(jù)的特殊性的研究基礎(chǔ)上，結(jié)合實(shí)際數(shù)據(jù)集中數(shù)據(jù)分布特性和數(shù)據(jù)各個(gè)屬性的在分類(lèi)過(guò)程中的作用，對(duì)目前常用于不平衡數(shù)據(jù)的重采樣方法進(jìn)行改進(jìn)，有效的解決存在于傳統(tǒng)方法中的不足，得到了新的重采樣方法。為了確保對(duì)少數(shù)類(lèi)的識(shí)別性能，對(duì)集成分類(lèi)

2、器進(jìn)行相應(yīng)的改進(jìn)，最終得到一個(gè)針對(duì)不平衡數(shù)據(jù)集的完整的分類(lèi)學(xué)習(xí)系統(tǒng)。
　　首先，本課題提出了一種針對(duì)不平衡數(shù)據(jù)集的基于數(shù)據(jù)密度分布的欠采樣方法。該算法引入數(shù)據(jù)密度的概念，并以此將多數(shù)類(lèi)數(shù)據(jù)劃分為高密度數(shù)據(jù)簇和低密度數(shù)據(jù)簇，針對(duì)不同密度的數(shù)據(jù)簇，執(zhí)行不同的重采樣策略，以達(dá)到改善數(shù)據(jù)平衡度的目的。實(shí)驗(yàn)通過(guò)選取6組 UCI數(shù)據(jù)集進(jìn)行驗(yàn)證，選取 C4.5、SVM作為分類(lèi)器，將該方法與隨機(jī)欠采樣、KNN-NearMiss等方法進(jìn)行比較，實(shí)驗(yàn)

3、結(jié)果表明，該方法對(duì)不平衡數(shù)據(jù)分類(lèi)有較好的效果，能有效提升分類(lèi)器對(duì)少數(shù)類(lèi)的識(shí)別性能。
　　其次，該方法通過(guò)研究不同屬性對(duì)少數(shù)類(lèi)樣本識(shí)別的不同作用，將屬性劃分為顯性屬性、隱性屬性。顯性屬性偏向于少數(shù)類(lèi)，為少數(shù)類(lèi)樣本的識(shí)別提供可靠、充分的信息，隱形屬性偏向于多數(shù)類(lèi)，對(duì)少數(shù)類(lèi)的識(shí)別形成干擾。因此,針對(duì)不同屬性，采用不同復(fù)制策略，最終實(shí)現(xiàn)對(duì)合成少數(shù)類(lèi)樣本的樣本質(zhì)量提升。通過(guò)選取6組UCI數(shù)據(jù)集，與SMOTE、隨機(jī)過(guò)采樣等方法進(jìn)行比較，實(shí)驗(yàn)結(jié)