每秒處理107萬張圖片!阿里云打破MLPerf圖像分類性能記錄
繼刷新單芯片AI性能紀錄后,阿里巴巴再次在全球頂級AI評測中登頂。
北京時間4月22日,國際權威AI基準測試MLPerf™公布了2021年最新推理測試榜單。圖像分類性能測試中,阿里云震旦異構計算加速平臺在通用GPU開放規則和離線場景下以每秒處理107.8萬張圖片的成績,打破了此前谷歌保持的世界紀錄。這將進一步提升圖像識別、自動駕駛等場景下的計算效率,也是通用GPU計算平臺上首次跑出超百萬級的性能測試紀錄。
MLPerf是業內首套衡量機器學習軟硬件性能的通用基準,由圖靈獎得主David Patterson聯合科技公司和全球頂級高校于2018年發起,已成為業界評測AI性能的最主流標準之一。MLPerf基準聯盟現有50多家成員,包括谷歌、阿里巴巴、微軟、Facebook等及斯坦福、哈佛、多倫多大學等名校。
震旦是阿里云自研的異構計算加速平臺,適配GPU、ASIC等多種異構AI芯片,優化編譯代碼,深挖和釋放異構芯片算力,支持TensorFlow、Caffe、PAI等多種深度學習框架,可實現AI框架及算法的無縫遷移適配,支持云變端多場景快速部署,大幅提升AI應用開發效率。在MLPerf最新版的圖像分類測試中,震旦平臺針對圖像分類神經網絡架構進行自動優化,在保證基準測試精度目標的同時,遠超標準ResNet50 v1.5的計算效率。
阿里云異構計算首席科學家、震旦加速平臺負責人張偉豐博士透露,震旦對底層軟件框架做了大量編譯優化,可在同等硬件配置下發揮更高性能。MLPerf推理性能的單卡測試結果顯示,使用震旦加速平臺的自動優化技術,在英偉達AI專用GPU A100上跑出了比同級硬件高出80%的推理性能成績;在其它AI加速芯片上,更可幫助提升超過300%的性能。
在此之前,廠商熱衷通過堆疊硬件刷新性能評測成績,但在更接近實操的開放場景下的性能表現參差不齊,“高集成度的專業化AI芯片對場景限制很多,我們希望研發出更通用的軟件平臺來發揮AI應用的價值,”張偉豐博士透露,震旦異構計算加速平臺不僅可在數據中心部署,還可以在邊緣和智能終端部署,支撐自動駕駛、交通大腦、車牌識別、AI語音助手等業務和場景。
以自動駕駛為例,車載計算機通過實時協同處理攝像頭或雷達信息,正確感知行駛環境并據此做出反應。“目前先進的自動駕駛解決方案需要配備10路甚至更多的視覺和雷達裝置,不斷增加的外部傳感數據處理對車機系統計算能力提出了挑戰。采用震旦平臺的軟硬協同自動優化技術后,車載計算機的處理速度至少提升一倍,從而對行駛環境做出更加迅速的感知,并大幅提高自動駕駛的安全性。”張偉豐博士表示。
目前,震旦異構計算加速平臺已大規模應用于路口檢測、以圖搜圖等場景。應用了震旦加速平臺的新一代路側智能控制終端,交通參數檢測準確率可達99%,幫助路口通行效率優化提升20%以上。此外,該平臺已通過阿里云彈性計算加速實例EAIS對外提供服務,具備配置靈活、彈性伸縮等特點,為用戶提供高性價比的深度學習解決方案。