關(guān)于深度強化學習的概念以及它的工作原理

（文章來源：OFweek）

深度學習DL是機器學習中一種基于對數(shù)據(jù)進行表征學習的方法。深度學習DL有監(jiān)督和非監(jiān)督之分，都已經(jīng)得到廣泛的研究和應(yīng)用。強化學習RL是通過對未知環(huán)境一邊探索一邊建立環(huán)境模型以及學習得到一個最優(yōu)策略。強化學習是機器學習中一種快速、高效且不可替代的學習算法。

深度強化學習DRL自提出以來， 已在理論和應(yīng)用方面均取得了顯著的成果。尤其是谷歌DeepMind團隊基于深度強化學習DRL研發(fā)的AlphaGo，將深度強化學習DRL成推上新的熱點和高度，成為人工智能歷史上一個新的里程碑。因此，深度強化學習DRL非常值得研究。

深度強化學習概念：深度強化學習DRL將深度學習DL的感知能力和強化學習RL的決策能力相結(jié)合， 可以直接根據(jù)輸入的信息進行控制，是一種更接近人類思維方式的人工智能方法。在與世界的正?；舆^程中，強化學習會通過試錯法利用獎勵來學習。它跟自然學習過程非常相似，而與深度學習不同。在強化學習中，可以用較少的訓練信息，這樣做的優(yōu)勢是信息更充足，而且不受監(jiān)督者技能限制。

深度強化學習DRL是深度學習和強化學習的結(jié)合。這兩種學習方式在很大程度上是正交問題，二者結(jié)合得很好。強化學習定義了優(yōu)化的目標，深度學習給出了運行機制——表征問題的方式以及解決問題的方式。將強化學習和深度學習結(jié)合在一起，尋求一個能夠解決任何人類級別任務(wù)的代理，得到了能夠解決很多復雜問題的一種能力——通用智能。深度強化學習DRL將有助于革新AI領(lǐng)域，它是朝向構(gòu)建對視覺世界擁有更高級理解的自主系統(tǒng)邁出的一步。從某種意義上講，深度強化學習DRL是人工智能的未來。

深度強化學習本質(zhì)：深度強化學習DRL的Autonomous Agent使用強化學習的試錯算法和累計獎勵函數(shù)來加速神經(jīng)網(wǎng)絡(luò)設(shè)計。這些設(shè)計為很多依靠監(jiān)督／無監(jiān)督學習的人工智能應(yīng)用提供支持。它涉及對強化學習驅(qū)動Autonomous Agent的使用，以快速探索與無數(shù)體系結(jié)構(gòu)、節(jié)點類型、連接、超參數(shù)設(shè)置相關(guān)的性能權(quán)衡，以及對深度學習、機器學習和其他人工智能模型設(shè)計人員可用的其它選擇。

深度強化學習原理：深度Q網(wǎng)絡(luò)通過使用深度學習DL和強化學習RL兩種技術(shù)，來解決在強化學習RL中使用函數(shù)逼近的基本不穩(wěn)定性問題：經(jīng)驗重放和目標網(wǎng)絡(luò)。經(jīng)驗重放使得強化學習RL智能體能夠從先前觀察到的數(shù)據(jù)離線進行抽樣和訓練。這不僅大大減少了環(huán)境所需的交互量，而且可以對一批經(jīng)驗進行抽樣，減少學習更新的差異。此外，通過從大存儲器均勻采樣，可能對強化學習RL算法產(chǎn)生不利影響的時間相關(guān)性被打破了。最后，從實際的角度看，可以通過現(xiàn)代硬件并行地高效地處理批量的數(shù)據(jù)，從而提高吞吐量。
? ? ? ?