【51CTO.com原創(chuàng)稿件】6月21日，由51CTO主辦的WOT2019全球人工智能技術(shù)峰會在北京粵財JW萬豪酒店準(zhǔn)時拉開序幕。作為2019年度全球技術(shù)人員線下交流的知名峰會，本次大會緊緊圍繞著通用技術(shù)、應(yīng)用領(lǐng)域、企業(yè)賦能三大核心章節(jié)展開。來自全球的60余位一線AI大咖們齊聚一堂，與千余名參會群眾共同分享了深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)、視覺技術(shù)、無人駕駛、機(jī)器學(xué)習(xí)、算法模型、知識圖譜等主題技術(shù)內(nèi)容。

6月21日下午，在通用技術(shù)章節(jié)中A會場機(jī)器學(xué)習(xí)實(shí)踐分論壇，網(wǎng)易云音樂音樂推薦負(fù)責(zé)人肖強(qiáng)、VIPKID供需優(yōu)化技術(shù)負(fù)責(zé)人沈亮、美團(tuán)大眾點(diǎn)評高級技術(shù)專家王永康三位機(jī)器學(xué)習(xí)方面的專家受邀出席并發(fā)表了精彩演講。會后51CTO將專家發(fā)言整理成文，希望他們的演講內(nèi)容精華對大家有所幫助。

網(wǎng)易云音樂音樂推薦負(fù)責(zé)人肖強(qiáng)：AI算法在音樂推薦中的實(shí)踐

網(wǎng)易云音樂音樂推薦負(fù)責(zé)人肖強(qiáng)的演講共分三個部分：一是網(wǎng)易云音樂的介紹，二是AI算法在音樂推薦中的實(shí)踐，三是音樂場景下的AI思考。

自2013年4月正式上線以來，網(wǎng)易云音樂憑借UGC社區(qū)、UGC歌單、精準(zhǔn)推薦三大特色產(chǎn)品，成為了音樂愛好者的集聚地。

網(wǎng)易云音樂推薦系統(tǒng)致力于通過AI算法，實(shí)現(xiàn)用戶千人千面的個性化推薦，為用戶帶來不一樣的聽歌體驗(yàn)。雖然與其他推薦一樣，都是以用戶體驗(yàn)為導(dǎo)向，幫助用戶更快捷的獲取資源，但是，音樂推薦有著不同的特點(diǎn)和難點(diǎn)。

首先，由于音樂本身的復(fù)雜性，要求系統(tǒng)要更好地理解音樂。網(wǎng)易云音樂的做法是利用NLP系統(tǒng)，通過用戶在社區(qū)自發(fā)產(chǎn)生的內(nèi)容去描述音樂，這樣不用聽就可以得到這個音樂的大概畫像。新的音樂則利用視頻、圖像技術(shù)，實(shí)現(xiàn)音樂之間相關(guān)的研究工作。

第二，利用可重復(fù)消費(fèi)來計算CF相似度。也就是說基于用戶的可重復(fù)消費(fèi)（一首歌聽了很多次），來表達(dá)用戶喜好，及歌曲間的關(guān)聯(lián)度，包括空間位置差異性和空間方向差異性。

第三，音樂推薦的消費(fèi)成本高，強(qiáng)調(diào)關(guān)聯(lián)性也很強(qiáng)，更加要求有合適的模型去表達(dá)用戶的需求。LR模型的可解釋性強(qiáng)，但是表達(dá)能力有限。樹模型，以及LR和樹模型的結(jié)合，優(yōu)點(diǎn)是可以解決部分非線性問題。大規(guī)模FTRL的優(yōu)點(diǎn)是可以獲取記憶類特征，刻畫能力強(qiáng)。缺點(diǎn)是特征維度大、需要的樣本量多、計算復(fù)雜。此外，還有表達(dá)能力強(qiáng)的深度神經(jīng)網(wǎng)絡(luò)，能學(xué)習(xí)到時序特征，刻畫能力+泛化能力強(qiáng)的深度時序網(wǎng)絡(luò)。 從線性模型、樹模型，到大規(guī)模FTRL、深度神經(jīng)網(wǎng)絡(luò)，再到深度時序網(wǎng)絡(luò)，網(wǎng)易云音樂通過模型迭代實(shí)現(xiàn)更精準(zhǔn)的表達(dá)用戶需求。

肖強(qiáng)指出，音樂消費(fèi)中，因?yàn)橛脩粜枨蟮膹?fù)雜性，很難用單一目標(biāo)去衡量音樂推薦系統(tǒng)，往往遇到CTR & 消費(fèi)時長，不是同步提升，甚至此消彼長，以及多目標(biāo)問題。網(wǎng)易云音樂用聯(lián)合訓(xùn)練來解決多目標(biāo)問題。聯(lián)合訓(xùn)練的優(yōu)勢主要有四點(diǎn)：一是多個目標(biāo)任務(wù)在淺層共享表示，任務(wù)之間加入噪音數(shù)據(jù)，降低網(wǎng)絡(luò)過擬合，提升了泛化效果。二是多目標(biāo)任務(wù)學(xué)習(xí)中不同任務(wù)的局部極小值處于不同的位置，通過相互作用，可以幫助逃離局部極小值。三是多目標(biāo)任務(wù)聯(lián)合訓(xùn)練，模型盡可能求解多任務(wù)的共同的解決方法。四是竊聽。通過聯(lián)合訓(xùn)練，音樂的收藏率和消費(fèi)時長都明顯提升。

在音樂場景下的AI思考部分，肖強(qiáng)表示，音樂推薦要解決的是在億萬用戶 * 千萬歌曲 * 十萬音樂人 * n種情景的四維空間的匹配問題。推薦系統(tǒng)的核心目標(biāo)是利用人工智能提升用戶體驗(yàn)。包括用戶愿意分享音樂、愿意長時間聽音樂、愿意收藏及反復(fù)聽收藏的音樂、用戶聽過的歌曲越來越多。網(wǎng)易云音樂的AI推薦體系是知識圖譜和統(tǒng)計學(xué)習(xí)、強(qiáng)化學(xué)習(xí)的結(jié)合，用強(qiáng)大的長尾發(fā)掘能力和精準(zhǔn)的匹配能力，讓用戶更好的發(fā)現(xiàn)音樂。

VIPKID供需優(yōu)化技術(shù)負(fù)責(zé)人沈亮：在線教育行業(yè)中視頻理解的應(yīng)用

VIPKID供需優(yōu)化技術(shù)負(fù)責(zé)人沈亮開場指出，在線教育領(lǐng)域中，1V1直播視頻內(nèi)容是非常核心的數(shù)據(jù)之一。所以，特定領(lǐng)域和場景下的視頻內(nèi)容理解技術(shù)顯得尤為重要，它能夠提升在線教育企業(yè)的核心競爭力。VIPKID不僅僅是一家在線教育類公司，同時也是一家視頻內(nèi)容公司。每天在VIPKID平臺上，產(chǎn)生超過400W分鐘，30T的視頻數(shù)據(jù)，累計高達(dá)7PB的視頻內(nèi)容。數(shù)據(jù)即價值，沈亮接下來的演講主要圍繞VIPKID對數(shù)據(jù)價值進(jìn)行挖掘的方法，以及圍繞這些數(shù)據(jù)產(chǎn)品化所做的嘗試等內(nèi)容展開。

視頻內(nèi)容理解的技術(shù)近幾年非常火爆，原因有以下幾個方面。首先，視頻內(nèi)容理解的大趨勢是從人工到機(jī)器。2015年，直播開始火爆，到2017、2018年短視頻的崛起，產(chǎn)生的數(shù)據(jù)是呈指數(shù)級增長的。直播，可以理解為PGC（專業(yè)生產(chǎn)內(nèi)容），短視頻則是UGC（用戶生產(chǎn)內(nèi)容）。UGC的內(nèi)容輸出量遠(yuǎn)大于PGC。對視頻內(nèi)容理解的技術(shù)訴求也從審核、編輯逐漸滲透到圍繞內(nèi)容理解的推薦產(chǎn)品，視頻內(nèi)容創(chuàng)作等領(lǐng)域。此外，產(chǎn)品的用戶體驗(yàn)、內(nèi)部運(yùn)營效率等現(xiàn)實(shí)KPI指標(biāo)也驅(qū)動著視頻內(nèi)容理解技術(shù)的發(fā)展。比如，在前些年，基本上視頻推薦還是圍繞用戶行為、視頻標(biāo)簽等去進(jìn)行的，而現(xiàn)在，基本上已經(jīng)過度到視頻本身領(lǐng)域，產(chǎn)出的是一些不可描述的特征，或是很小一部分可檢測的內(nèi)容。

深度學(xué)習(xí)的興起則是視頻內(nèi)容理解技術(shù)的助燃劑。傳統(tǒng)機(jī)器學(xué)習(xí)算法下的計算機(jī)視覺／語音，研發(fā)步驟繁瑣，并且對領(lǐng)域知識依賴度非常高，特征處理復(fù)雜度也非常高。需要領(lǐng)域?qū)＜遥惴▽＜也粩喾磸?fù)調(diào)試模型。隨著深度學(xué)習(xí)的發(fā)展，基礎(chǔ)算法模型效果得到了質(zhì)的提升，比如在人臉檢測、人臉識別、語音識別等領(lǐng)域已經(jīng)超出人的水平。為視頻內(nèi)容理解提供基礎(chǔ)技術(shù)支撐。因此，可以說，深度學(xué)習(xí)、產(chǎn)品需求的相互驅(qū)動，讓視頻內(nèi)容理解領(lǐng)域慢慢滲透到產(chǎn)品和用戶的多個方面。

VIPKID一天有接近300W分鐘的視頻數(shù)據(jù)。拆解來看，每天需要處理400W分鐘的語音＋3億張的圖片數(shù)據(jù)。在語音領(lǐng)域，要去做語音識別、噪音識別、語音情感識別等，在圖像領(lǐng)域，要去做人臉識別／檢測，因此挑戰(zhàn)非常大。

VIPKID通過自研＋與第三方技術(shù)廠商（如阿里云、騰訊云、亞馬遜云、Face++、馳聲）通力合作，建立了一整套的解決方案，包括部分臉識別、多種特定手勢識別、AI看課等。
在機(jī)器審核、課程質(zhì)量評估、精彩片段等項(xiàng)目中，核心的誤召回主要是由于老師、學(xué)生的部分臉識別效果較差，VIPKID通過前后標(biāo)注和優(yōu)化多次模型，作為人臉識別的補(bǔ)充，額外多召回10%的臉部圖像。

此外，VIPKID通過多種模型，對多種特定手勢的檢測，實(shí)現(xiàn)了手勢的檢測和分類。通過機(jī)器審核，使效率提升了100倍。

美團(tuán)大眾點(diǎn)評高級技術(shù)專家王永康：美團(tuán)外賣商業(yè)變現(xiàn)實(shí)踐

美團(tuán)外賣目前用戶數(shù)超過了3億，商家數(shù)超過了360萬。基于這樣的背景，美團(tuán)外賣也進(jìn)行了廣告變現(xiàn)方面的探索，當(dāng)前包含信息流廣告、搜索廣告、展示廣告等產(chǎn)品形式，CPT、GD、CPM、CPC等售賣模式，在這樣的業(yè)務(wù)背后，是有一套相對完成的業(yè)務(wù)邏輯和技術(shù)手段在支撐的。

王永康詳細(xì)介紹了外賣的模型演進(jìn)的過程。針對電商場景統(tǒng)計類的連續(xù)特征較多，刻畫能力較強(qiáng)，所以美團(tuán)外賣開始用的是xgboost，為了提升迭代效果，美團(tuán)外賣從xgboost轉(zhuǎn)移到了lgb，訓(xùn)練速度提升了2倍。現(xiàn)在的模型迭代一般是先用lightgbm迭代上一個基礎(chǔ)版model。

當(dāng)然樹模型有一些局限性，比如對序列信息的表達(dá)、對稀疏、高維的離散特征的表達(dá)相對較弱，所以會往DNN上遷移。

上圖是外賣廣告預(yù)估模型的演進(jìn)。

在平臺側(cè)，主要是收入優(yōu)化。在外賣的場景里有很多的多模態(tài)的信息，如圖像、文本、菜品圖像等，比如做菜品預(yù)估的時候，對菜品做排序，菜品圖片信息就顯得比較重要。美團(tuán)外賣最早使用的是兩段式，先用訓(xùn)練好的CNN網(wǎng)絡(luò)把圖像表示成Embedding，給到模型。后來直接把一個VGG16的網(wǎng)絡(luò)做了一些簡化，直接連接到模型中做end2end的訓(xùn)練。

對于文本信息，可以直接當(dāng)做離線特征喂給模型，也可以pre-train好的word的Embedidng喂到模型，或者在模型結(jié)構(gòu)上對文本序列接一個LSTM。

對于序列特征，不同的行為串聯(lián)不同的實(shí)體可以產(chǎn)生不同的序列，例如“點(diǎn)擊”的“POI”序列、“下單”的“圖像”序列等等，不同的序列能夠捕捉用戶不同的行為、語義、視覺偏好，可以直接把ID序列喂給模型，或者采用表示學(xué)習(xí)的方法對ID學(xué)習(xí)Embedding表達(dá)，將Embedding序列輸入模型，更上層的可以做一些Pooling、Similarity、Attention操作等。

在多目標(biāo)學(xué)習(xí)中，外賣的場景涉及到曝光、點(diǎn)擊、下單、以及下單金額的問題，所以相應(yīng)的模型就會去預(yù)估ctr、cvr、price。在傳統(tǒng)預(yù)估CVR的時候，訓(xùn)練樣本用的是點(diǎn)擊+轉(zhuǎn)化的數(shù)據(jù)，是看不到曝光數(shù)據(jù)的，預(yù)估Price的時候，訓(xùn)練樣本用的是轉(zhuǎn)化+轉(zhuǎn)化金額的數(shù)據(jù)，是看不到曝光和點(diǎn)擊數(shù)據(jù)的，而在預(yù)測的時候是一起預(yù)測，就造成了訓(xùn)練和預(yù)測的樣本分布不一致的問題，美團(tuán)外賣的方法是通過共享embedding層或者局部網(wǎng)絡(luò)層的方式去解決。

在商家側(cè)，會去優(yōu)化商家的投入產(chǎn)出比。美團(tuán)外賣用機(jī)器學(xué)習(xí)來解決業(yè)務(wù)問題可以分成兩部分，一是業(yè)務(wù)問題如何轉(zhuǎn)化成機(jī)器學(xué)習(xí)問題，二是機(jī)器學(xué)習(xí)如何優(yōu)化業(yè)務(wù)問題。

上圖是如何根據(jù)業(yè)務(wù)設(shè)計合理的State、Reward、Action。

中間的環(huán)節(jié)相當(dāng)于一個黑盒，需要用模型去建模從state到reward的整個的過程。關(guān)鍵的問題就是如何通過state中feature的設(shè)計，能夠?qū)⒅虚g的環(huán)節(jié)進(jìn)行刻畫。

在用戶側(cè)，主要是體驗(yàn)優(yōu)化。美團(tuán)外賣從Utility角度理解用戶體驗(yàn)，將用戶體驗(yàn)分成了三個階段：短期體驗(yàn)、中期體驗(yàn)、長期體驗(yàn)。

王永康***總結(jié)說，美團(tuán)外賣通過模型預(yù)估和機(jī)制設(shè)計在平臺側(cè)進(jìn)行收入優(yōu)化，通過OCPC從人工策略到強(qiáng)化學(xué)習(xí)的迭代進(jìn)行商家側(cè)轉(zhuǎn)化優(yōu)化，通過用戶體驗(yàn)建模優(yōu)化進(jìn)行用戶側(cè)體驗(yàn)優(yōu)化，最終實(shí)現(xiàn)了美團(tuán)外賣的商業(yè)變現(xiàn)。

以上內(nèi)容是51CTO記者根據(jù)WOT2019全球人工智能技術(shù)峰會的《機(jī)器學(xué)習(xí)實(shí)踐》分論壇演講內(nèi)容整理，更完整WOT內(nèi)容請關(guān)注51cto.com。

【51CTO原創(chuàng)稿件，合作站點(diǎn)轉(zhuǎn)載請注明原文作者和出處為51CTO.com】