在競(jìng)爭(zhēng)日益激烈的技術(shù)市場(chǎng)中，從高科技初創(chuàng)公司到全球跨國(guó)公司都將人工智能視為關(guān)鍵競(jìng)爭(zhēng)優(yōu)勢(shì)。

[[319533]]

但是，人工智能行業(yè)發(fā)展如此之快，以至于很難跟蹤最新的研究突破和成就，甚至很難應(yīng)用科學(xué)成果來(lái)實(shí)現(xiàn)業(yè)務(wù)成果。

在2020年為了幫助業(yè)務(wù)制定強(qiáng)大的AI策略，本文總結(jié)了不同研究領(lǐng)域的最新趨勢(shì)，包括自然語(yǔ)言處理，對(duì)話(huà)式AI，計(jì)算機(jī)視覺(jué)和強(qiáng)化學(xué)習(xí)。

自然語(yǔ)言處理

在2018年，經(jīng)過(guò)預(yù)訓(xùn)練的語(yǔ)言模型突破了自然語(yǔ)言理解和生成的極限。這些也主導(dǎo)了去年自然語(yǔ)言處理的進(jìn)展。

如果是NLP開(kāi)發(fā)的新手，那么經(jīng)過(guò)預(yù)先訓(xùn)練的語(yǔ)言模型可以使NLP的實(shí)際應(yīng)用大大便捷，更快，更容易，因?yàn)樗鼈冊(cè)试S在一個(gè)大型數(shù)據(jù)集上進(jìn)行NLP模型的預(yù)先訓(xùn)練，然后快速對(duì)其進(jìn)行微調(diào)以適應(yīng)其他NLP任務(wù)。

來(lái)自?xún)?yōu)秀研究機(jī)構(gòu)和科技公司的團(tuán)隊(duì)探索了使比較先進(jìn)的語(yǔ)言模型更加復(fù)雜的方法。計(jì)算能力的大幅度提高推動(dòng)了許多改進(jìn)，但是許多研究小組還發(fā)現(xiàn)了更精巧的方法來(lái)減輕模型并保持高性能。

目前的研究趨勢(shì)如下：

• 新的NLP范例是"預(yù)訓(xùn)練+微調(diào)"。在過(guò)去的兩年中，轉(zhuǎn)移學(xué)習(xí)主導(dǎo)了NLP研究。ULMFiT，CoVe，ELMo，OpenAI GPT，BERT，OpenAI GPT-2，XLNet，RoBERTa，ALBERT –這是最近介紹的重要的預(yù)訓(xùn)練語(yǔ)言模型的詳盡列表。盡管轉(zhuǎn)移學(xué)習(xí)無(wú)疑將NLP推向了新的高度，但由于要求大量的計(jì)算成本和龐大的帶注釋數(shù)據(jù)集所以它經(jīng)常會(huì)受到批評(píng)。
• 語(yǔ)言學(xué)和知識(shí)可能會(huì)提高NLP模型的性能。專(zhuān)家認(rèn)為，語(yǔ)言學(xué)可以通過(guò)改善數(shù)據(jù)驅(qū)動(dòng)方法的可解釋性來(lái)促進(jìn)深度學(xué)習(xí)。利用上下文和人類(lèi)知識(shí)可以進(jìn)一步提高NLP系統(tǒng)的性能。
• 神經(jīng)機(jī)器翻譯展示了可見(jiàn)的進(jìn)步。同步機(jī)器翻譯已經(jīng)可以在現(xiàn)實(shí)世界中應(yīng)用。最近的研究旨在突破通過(guò)優(yōu)化神經(jīng)網(wǎng)絡(luò)體系結(jié)構(gòu)，利用視覺(jué)上下文以及為無(wú)監(jiān)督和半監(jiān)督機(jī)器翻譯引入新穎的方法來(lái)進(jìn)一步提高翻譯質(zhì)量。

對(duì)話(huà)式AI

會(huì)話(huà)式AI已成為跨行業(yè)業(yè)務(wù)實(shí)踐的組成部分。越來(lái)越多的公司正在利用聊天機(jī)器人為客戶(hù)服務(wù)，為銷(xiāo)售和營(yíng)銷(xiāo)帶來(lái)的優(yōu)勢(shì)。

即使聊天機(jī)器人已成為領(lǐng)先企業(yè)的"必備"資產(chǎn)，但其性能仍然與人類(lèi)相去甚遠(yuǎn)。來(lái)自主要研究機(jī)構(gòu)和技術(shù)領(lǐng)導(dǎo)者的研究人員已經(jīng)探索了提高對(duì)話(huà)系統(tǒng)性能的方法：

• 對(duì)話(huà)系統(tǒng)正在改進(jìn)跟蹤對(duì)話(huà)的長(zhǎng)期性。去年發(fā)表的許多研究論文的目標(biāo)是，通過(guò)更好地利用對(duì)話(huà)歷史和上下文，提高系統(tǒng)理解對(duì)話(huà)過(guò)程中引入的復(fù)雜關(guān)系的能力。
• 許多研究團(tuán)隊(duì)正在解決機(jī)器生成響應(yīng)的多樣性。當(dāng)前，現(xiàn)實(shí)世界中的聊天機(jī)器人通常會(huì)產(chǎn)生無(wú)聊且重復(fù)的響應(yīng)。去年，引入了幾篇優(yōu)秀的研究 論文，旨在產(chǎn)生多樣化而又相關(guān)的回應(yīng)。
• 情感識(shí)別被視為開(kāi)放域聊天機(jī)器人的重要功能。因此，研究人員正在研究將同理心納入對(duì)話(huà)系統(tǒng)的優(yōu)秀方法。該研究領(lǐng)域的成就仍然很小，但是在情感識(shí)別方面的巨大進(jìn)步可以顯著提高社交機(jī)器人的性能和受歡迎程度，并且還可以增加聊天機(jī)器人在心理治療中的使用。

計(jì)算機(jī)視覺(jué)

在過(guò)去的幾年中，計(jì)算機(jī)視覺(jué)(CV)系統(tǒng)通過(guò)在醫(yī)療保健，安全，運(yùn)輸，零售，銀行，農(nóng)業(yè)等領(lǐng)域的成功應(yīng)用，徹底改變了整個(gè)行業(yè)和業(yè)務(wù)功能。

最近引入的體系結(jié)構(gòu)和方法(例如EfficientNet和SinGAN)進(jìn)一步提高了視覺(jué)系統(tǒng)的感知能力和生成能力。

以下是計(jì)算機(jī)視覺(jué)中流行的研究主題：

• 3D目前是CV領(lǐng)域的領(lǐng)先研究領(lǐng)域之一。今年，我們看到了幾篇有趣的研究論文，旨在從2D投影重建3D世界。Google研究小組采用了一種新穎的方法來(lái)生成整個(gè)自然場(chǎng)景的深度圖。Facebook AI團(tuán)隊(duì)提出了一種有趣的點(diǎn)云3D對(duì)象檢測(cè)解決方案。
• 無(wú)監(jiān)督學(xué)習(xí)方法的普及正在增長(zhǎng)。例如，斯坦福大學(xué)的一個(gè)研究小組介紹了一種有前途的局部聚合方法，可以在無(wú)監(jiān)督學(xué)習(xí)的情況下進(jìn)行對(duì)象檢測(cè)和識(shí)別。在另一篇出色的論文中，該論文獲得了ICCV 2019優(yōu)秀論文獎(jiǎng)的提名，該論文采用無(wú)監(jiān)督學(xué)習(xí)來(lái)計(jì)算3D形狀之間的對(duì)應(yīng)關(guān)系。
• 計(jì)算機(jī)視覺(jué)研究已與NLP成功結(jié)合。最新的研究進(jìn)展使自然語(yǔ)言中的兩個(gè)圖像之間具有強(qiáng)大的更改字幕，3D環(huán)境中的視覺(jué)語(yǔ)言導(dǎo)航以及學(xué)習(xí)分層視覺(jué)語(yǔ)言表示的能力，從而可以更好地檢索圖像字幕和視覺(jué)基礎(chǔ)。

強(qiáng)化學(xué)習(xí)

強(qiáng)化學(xué)習(xí)(RL)對(duì)于業(yè)務(wù)應(yīng)用程序而言，其價(jià)值仍然比有監(jiān)督的學(xué)習(xí)甚至無(wú)監(jiān)督的學(xué)習(xí)低。它僅在可生成大量模擬數(shù)據(jù)的區(qū)域(例如機(jī)器人技術(shù)和游戲)中成功應(yīng)用。

但是，許多專(zhuān)家認(rèn)為RL是通向人工智能(AGI)或真正智能的有前途的途徑。因此，來(lái)自?xún)?yōu)秀機(jī)構(gòu)和技術(shù)領(lǐng)導(dǎo)者的研究團(tuán)隊(duì)正在尋找使RL算法更加高效和穩(wěn)定的方法。強(qiáng)化學(xué)習(xí)中的熱門(mén)研究主題包括：

• 多主體強(qiáng)化學(xué)習(xí)(MARL)正在迅速發(fā)展。OpenAI團(tuán)隊(duì)最近展示了模擬捉迷藏環(huán)境中的代理如何建立研究人員不知道其環(huán)境支持的策略。另一篇出色的論文在ICML 2019 上獲得了榮譽(yù)獎(jiǎng)，以調(diào)查如果有相應(yīng)的動(dòng)機(jī)，多個(gè)代理如何相互影響。
• 非政策評(píng)估和非政策學(xué)習(xí)對(duì)于未來(lái)的RL應(yīng)用非常重要。該研究領(lǐng)域的最新突破包括在多種約束下用于處理策略學(xué)習(xí)的新解決方案，將參數(shù)模型和非參數(shù)模型相結(jié)合以及引入了一類(lèi)新的非策略算法來(lái)迫使代理人采取接近策略的方式。
• 勘探是可以取得重大進(jìn)展的領(lǐng)域。在ICML 2019上發(fā)表的論文介紹了具有分布RL，最大熵探索和安全條件的新型有效探索方法，以應(yīng)對(duì)強(qiáng)化學(xué)習(xí)中的橋梁效應(yīng)。

這是有關(guān)NLP，對(duì)話(huà)式AI，計(jì)算機(jī)視覺(jué)和強(qiáng)化學(xué)習(xí)等比較受歡迎的子主題---新AI和機(jī)器學(xué)習(xí)研究趨勢(shì)的概述 ，其中很多都對(duì)對(duì)業(yè)務(wù)都、有影響。

預(yù)計(jì)2020年應(yīng)用人工智能領(lǐng)域?qū)⒂懈嗤黄?，這些突破將基于2019年在機(jī)器學(xué)習(xí)方面取得的顯著技術(shù)進(jìn)步。