機器學習大佬開講了，傳統(tǒng)機器學習研究方向包括哪些?

以下內容中，小編將對機器學習的相關內容進行著重介紹和闡述，希望本文能幫您增進對機器學習的了解，和小編一起來看看吧。

傳統(tǒng)機器學習的研究方向主要包括決策樹、隨機森林、人工神經網(wǎng)絡、貝葉斯學習等方面的研究。

決策樹是機器學習常見的一種方法。20世紀末期，機器學習研究者J.Ross Quinlan將Shannon的信息論引入到了決策樹算法中，提出了ID3算法。1984年I.Kononenko、E.Roskar和I.Bratko在ID3算法的基礎上提出了AS-SISTANTAlgorithm，這種算法允許類別的取值之間有交集。同年，A.Hart提出了Chi-Squa統(tǒng)計算法，該算法采用了一種基于屬性與類別關聯(lián)程度的統(tǒng)計量。1984年L.Breiman、C.Ttone、R.Olshen和J.Freidman提出了決策樹剪枝概念，極大地改善了決策樹的性能。1993年，Quinlan在ID3算法的基礎上提出了一種改進算法，即C4.5算法。C4.5算法克服了ID3算法屬性偏向的問題增加了對連續(xù)屬性的處理通過剪枝，在一定程度上避免了“過度適合”現(xiàn)象。但是該算法將連續(xù)屬性離散化時，需要遍歷該屬性的所有值，降低了效率，并且要求訓練樣本集駐留在內存，不適合處理大規(guī)模數(shù)據(jù)集。2010年Xie提出一種CART算法，該算法是描述給定預測向量X條件分布變量Y的一個靈活方法，已經在許多領域得到了應用。CART算法可以處理無序的數(shù)據(jù)，采用基尼系數(shù)作為測試屬性的選擇標準。CART算法生成的決策樹精確度較高，但是當其生成的決策樹復雜度超過一定程度后，隨著復雜度的提高，分類精確度會降低，所以該算法建立的決策樹不宜太復雜。2007年房祥飛表述了一種叫SLIQ(決策樹分類)算法，這種算法的分類精度與其他決策樹算法不相上下，但其執(zhí)行的速度比其他決策樹算法快，它對訓練樣本集的樣本數(shù)量以及屬性的數(shù)量沒有限制。SLIQ算法能夠處理大規(guī)模的訓練樣本集，具有較好的伸縮性;執(zhí)行速度快而且能生成較小的二叉決策樹。SLIQ算法允許多個處理器同時處理屬性表，從而實現(xiàn)了并行性。但是SLIQ算法依然不能擺脫主存容量的限制。2000年RajeevRaSto等提出了PUBLIC算法，該算法是對尚未完全生成的決策樹進行剪枝，因而提高了效率。近幾年模糊決策樹也得到了蓬勃發(fā)展。研究者考慮到屬性間的相關性提出了分層回歸算法、約束分層歸納算法和功能樹算法，這三種算法都是基于多分類器組合的決策樹算法，它們對屬性間可能存在的相關性進行了部分實驗和研究，但是這些研究并沒有從總體上闡述屬性間的相關性是如何影響決策樹性能。此外，還有很多其他的算法，如Zhang.J于2014年提出的一種基于粗糙集的優(yōu)化算法、Wang.R在2015年提出的基于極端學習樹的算法模型等。

隨機森林(RF)作為機器學習重要算法之一，是一種利用多個樹分類器進行分類和預測的方法。近年來，隨機森林算法研究的發(fā)展十分迅速，已經在生物信息學、生態(tài)學、醫(yī)學、遺傳學、遙感地理學等多領域開展的應用性研究。

人工神經網(wǎng)絡(Artificial Neural Networks，ANN)是一種具有非線性適應性信息處理能力的算法，可克服傳統(tǒng)人工智能方法對于直覺，如模式、語音識別、非結構化信息處理方面的缺陷。早在20世紀40年代人工神經網(wǎng)絡已經受到關注，并隨后得到迅速發(fā)展。

貝葉斯學習是機器學習較早的研究方向，其方法最早起源于英國數(shù)學家托馬斯，貝葉斯在1763年所證明的一個關于貝葉斯定理的一個特例。經過多位統(tǒng)計學家的共同努力，貝葉斯統(tǒng)計在20世紀50年代之后逐步建立起來，成為統(tǒng)計學中一個重要的組成部分。

經由小編的介紹，不知道你對它是否充滿了興趣?如果你想對它有更多的了解，不妨嘗試度娘更多信息或者在我們的網(wǎng)站里進行搜索哦。