機器學(xué)習(xí)大佬開講了，傳統(tǒng)機器學(xué)習(xí)研究方向包括哪些?

以下內(nèi)容中，小編將對機器學(xué)習(xí)的相關(guān)內(nèi)容進(jìn)行著重介紹和闡述，希望本文能幫您增進(jìn)對機器學(xué)習(xí)的了解，和小編一起來看看吧。

傳統(tǒng)機器學(xué)習(xí)的研究方向主要包括決策樹、隨機森林、人工神經(jīng)網(wǎng)絡(luò)、貝葉斯學(xué)習(xí)等方面的研究。

決策樹是機器學(xué)習(xí)常見的一種方法。20世紀(jì)末期，機器學(xué)習(xí)研究者J.Ross Quinlan將Shannon的信息論引入到了決策樹算法中，提出了ID3算法。1984年I.Kononenko、E.Roskar和I.Bratko在ID3算法的基礎(chǔ)上提出了AS-SISTANTAlgorithm，這種算法允許類別的取值之間有交集。同年，A.Hart提出了Chi-Squa統(tǒng)計算法，該算法采用了一種基于屬性與類別關(guān)聯(lián)程度的統(tǒng)計量。1984年L.Breiman、C.Ttone、R.Olshen和J.Freidman提出了決策樹剪枝概念，極大地改善了決策樹的性能。1993年，Quinlan在ID3算法的基礎(chǔ)上提出了一種改進(jìn)算法，即C4.5算法。C4.5算法克服了ID3算法屬性偏向的問題增加了對連續(xù)屬性的處理通過剪枝，在一定程度上避免了“過度適合”現(xiàn)象。但是該算法將連續(xù)屬性離散化時，需要遍歷該屬性的所有值，降低了效率，并且要求訓(xùn)練樣本集駐留在內(nèi)存，不適合處理大規(guī)模數(shù)據(jù)集。2010年Xie提出一種CART算法，該算法是描述給定預(yù)測向量X條件分布變量Y的一個靈活方法，已經(jīng)在許多領(lǐng)域得到了應(yīng)用。CART算法可以處理無序的數(shù)據(jù)，采用基尼系數(shù)作為測試屬性的選擇標(biāo)準(zhǔn)。CART算法生成的決策樹精確度較高，但是當(dāng)其生成的決策樹復(fù)雜度超過一定程度后，隨著復(fù)雜度的提高，分類精確度會降低，所以該算法建立的決策樹不宜太復(fù)雜。2007年房祥飛表述了一種叫SLIQ(決策樹分類)算法，這種算法的分類精度與其他決策樹算法不相上下，但其執(zhí)行的速度比其他決策樹算法快，它對訓(xùn)練樣本集的樣本數(shù)量以及屬性的數(shù)量沒有限制。SLIQ算法能夠處理大規(guī)模的訓(xùn)練樣本集，具有較好的伸縮性;執(zhí)行速度快而且能生成較小的二叉決策樹。SLIQ算法允許多個處理器同時處理屬性表，從而實現(xiàn)了并行性。但是SLIQ算法依然不能擺脫主存容量的限制。2000年RajeevRaSto等提出了PUBLIC算法，該算法是對尚未完全生成的決策樹進(jìn)行剪枝，因而提高了效率。近幾年模糊決策樹也得到了蓬勃發(fā)展。研究者考慮到屬性間的相關(guān)性提出了分層回歸算法、約束分層歸納算法和功能樹算法，這三種算法都是基于多分類器組合的決策樹算法，它們對屬性間可能存在的相關(guān)性進(jìn)行了部分實驗和研究，但是這些研究并沒有從總體上闡述屬性間的相關(guān)性是如何影響決策樹性能。此外，還有很多其他的算法，如Zhang.J于2014年提出的一種基于粗糙集的優(yōu)化算法、Wang.R在2015年提出的基于極端學(xué)習(xí)樹的算法模型等。

隨機森林(RF)作為機器學(xué)習(xí)重要算法之一，是一種利用多個樹分類器進(jìn)行分類和預(yù)測的方法。近年來，隨機森林算法研究的發(fā)展十分迅速，已經(jīng)在生物信息學(xué)、生態(tài)學(xué)、醫(yī)學(xué)、遺傳學(xué)、遙感地理學(xué)等多領(lǐng)域開展的應(yīng)用性研究。

人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Networks，ANN)是一種具有非線性適應(yīng)性信息處理能力的算法，可克服傳統(tǒng)人工智能方法對于直覺，如模式、語音識別、非結(jié)構(gòu)化信息處理方面的缺陷。早在20世紀(jì)40年代人工神經(jīng)網(wǎng)絡(luò)已經(jīng)受到關(guān)注，并隨后得到迅速發(fā)展。

貝葉斯學(xué)習(xí)是機器學(xué)習(xí)較早的研究方向，其方法最早起源于英國數(shù)學(xué)家托馬斯，貝葉斯在1763年所證明的一個關(guān)于貝葉斯定理的一個特例。經(jīng)過多位統(tǒng)計學(xué)家的共同努力，貝葉斯統(tǒng)計在20世紀(jì)50年代之后逐步建立起來，成為統(tǒng)計學(xué)中一個重要的組成部分。

經(jīng)由小編的介紹，不知道你對它是否充滿了興趣?如果你想對它有更多的了解，不妨嘗試度娘更多信息或者在我們的網(wǎng)站里進(jìn)行搜索哦。