【51CTO.com快譯】亞馬遜旗下的亞馬遜網絡服務公司(AWS)近日在AWS re：Invent大會上宣布了13項新的機器學習功能和服務，涵蓋機器學習堆棧的所有層面，旨在幫助將機器學習交到更多開發人員的手里。AWS推出了新的Amazon SageMaker功能，因而開發人員更容易構建、訓練和部署機器學習模型，包括低成本的自動數據標記和強化學習(RL)。AWS發布了新的服務、框架改進和定制芯片，以加快機器學習訓練和推理，同時降低成本。AWS宣布了新的人工智能(AI)服務，這些服務可從幾乎任何文檔提取文本、閱讀醫療信息，并使用亞馬遜所用的同樣技術提供定制的個性化、推薦和預測。最后但同樣重要的是，AWS將幫助開發人員借助AWS DeepRacer上手機器學習，這種只有真實汽車1/18大小的新型自動模型賽車面向開發人員，由強化學習駕駛。

這些公告延續了AWS致力機器學習創新的步伐，AWS在過去的一年推出了200多項重要的機器學習功能。使用這些新服務和功能的客戶包括Adobe、寶馬、國泰航空、道瓊斯、Expedia、Formula 1、GE Healthcare、HERE、Intuit、強生、起亞汽車、Lionbridge、美國職業棒球大聯盟、美國宇航局噴氣推進實驗室(JPL)、Politico.eu、瑞安航空、殼牌、Tinder、聯合國、Vonage、世界銀行和Zillow。想了解AWS新的機器學習服務的更多信息，請訪問：https://aws.amazon.com/machine-learning。

亞馬遜機器學習副總裁斯瓦米•西瓦蘇布拉馬尼娜(Swami Sivasubramanian)說：“我們希望幫助所有客戶擁抱機器學習，無論他們的規模、預算、經驗或技能水平如何。今天宣布的公告消除了成功采用機器學習面臨的重大障礙，因為它降低了機器學習訓練和推理的成本，推出的新SageMaker功能使開發人員更容易在云端和邊緣構建、訓練和部署機器學習模型，基于我們亞馬遜的多年經驗，提供新的AI服務。”

新的基礎設施、定制的機器學習芯片和框架改進，以加快訓練和低成本推理

大多數機器學習模型由可從大量數據中找出模式的算法來進行訓練。然后，該模型可以通過名為“推理”的方法對新數據進行預測。開發人員使用機器學習框架來定義這些算法、訓練模型和推斷預測。TensorFlow、Apache MXNet和PyTorch等框架讓開發人員可以設計和訓練復雜的模型，常常使用多個GPU來縮短訓練時間。大多數開發人員在日常工作中使用多個這樣的框架。今天，AWS宣布為使用所有這些流行框架構建模型的開發人員作出大幅改進，針對訓練和推理不僅提升性能，還降低成本。

• 新的亞馬遜彈性計算云(EC2)GPU實例(下周發布)：新的P3dn.24xl實例搭載8個英偉達V100 GPU、32GB GPU內存、快速NVMe存儲、96個英特爾至強可擴展處理器vCPU和100Gbps網絡接口，它是云端功能最強大的機器學習訓練處理器，讓開發人員可在更短的時間內訓練更多的數據。
• 針對AWS優化的TensorFlow框架(正式版)：選擇使用TensorFlow的開發人員用大量數據進行訓練時發現，跨眾多GPU擴展TensorFlow頗具挑戰性，這常常導致這些GPU利用率低，對于龐大的訓練任務而言訓練時間較長。AWS解決了這個問題，并在如何跨GPU擴展TensorFlow方面實現了創新。通過改進TensorFlow跨這些GPU分配訓練任務的方式，新的針對AWS優化的TensorFlow在訓練多種類型的神經網絡時更接近線性可擴展性(跨256個GPU的效率為90%，之前通常只有65%)。使用新的針對AWS優化的TensorFlow和P3dn實例，開發人員現在可以在僅14分鐘內訓練流行的ResNet-50模型，這是測得的最短時間，比之前的最短時間快50%。而且，這些優化通常不僅僅適用于計算機視覺模型，還適用于一系列更廣泛的深度學習模型。
• Amazon Elastic Inference(正式版)：雖然訓練備受關注，但推理實際上在生產環境中運行機器學習的成本和復雜性方面占大頭(訓練上每花費1美元，推理上就要花9美元)。與使用專用GPU實例的成本相比，Amazon Elastic Inference讓開發人員可以顯著降低推理成本，最多可以省下75%。開發人員可以在較小的通用Amazon EC2實例上運行，通過Amazon Elastic Inference配置數量正好的GPU性能，而不是在利用率較低的整個Amazon EC2 P2或P3實例上運行。從1 TFLOP開始，開發人員可以靈活地增加或減少推理性能，只需為實際使用的資源付費。Elastic Inference支持所有流行的框架，并與Amazon SageMaker和Amazon EC2深度學習亞馬遜機器映像(AMI)集成。開發人員無需對現有模型進行任何更改，就可以開始使用Amazon Elastic Inference。
• AWS Inferentia(2019年發布)：針對消耗整個GPU或需要較低延遲的更龐大工作負載，AWS宣布推出由AWS定制的高性能機器學習推理芯片。AWS Inferentia提供每個芯片數百teraflops(每秒萬億次浮點運算)以及每個Amazon EC2實例數千teraflops的性能，支持多個框架(包括TensorFlow、Apache MXNet和PyTorch)，支持多種數據類型(包括INT-8、混合精度FP-16和bfloat16)。

Autodesk是3D設計、工程和娛樂軟件行業的領導者，這類軟件使用深度學習模型支持眾多使用場合，從探究成千上萬潛在的設計方案、語義搜索設計到簡化工程構建流程以優化渲染工作流程，不一而足。Autodesk研究部門的AI工程主管彼得•瓊斯(Peter Jones)說：“運行高效的推理是如今機器學習界的最大挑戰之一。Amazon Elastic Inference是我們發現的同類中首項功能，可以幫助我們消除如今閑置的GPU容量帶來的額外成本。我們估計，與運行GPU相比，它可以為我們省下75%的成本。”

EagleView是一家財產數據分析公司，通過縮短評估損害所需的時間，使房主能夠大大加快下一步的決定，從而幫助降低自然災害造成的財產損失。EagleView使用航拍、無人機和衛星圖像，在AWS上運行深度學習模型，以便在自然災害發生后24小時內更快速更準確地評估財產損失。EagleView的數據科學和機器學習主管謝伊•斯特朗(Shay Strong)解釋：“要達到理算員在財產評估方面的準確性，我們需要處理海量數據，即覆蓋受災地區的整個多維空間(時間、光譜和空間)的超高分辨率圖像。Amazon Elastic Inference打開了新的大門，讓我們能夠更經濟高效地探究大規模的工作流程。”

新的Amazon SageMaker功能讓用戶更容易構建、訓練和部署機器學習;開發人員可以試用AWS DeepRacer，這種只有真實汽車1/18大小的自動賽車由強化學習駕駛

Amazon SageMaker是一項完全托管的服務，消除了機器學習過程中每一步的繁重任務和猜測工作。Amazon SageMaker讓開發人員更容易構建、訓練、調整和部署機器學習模型。今天，AWS宣布了Amazon SageMaker的許多新功能。

• Amazon SageMaker Ground Truth(正式版)：構建機器學習模型的過程需要開發人員準備好數據集以訓練機器學習模型。在開發人員可以選擇算法、構建模型并部署模型進行預測之前，標注人員手動審查數千個示例，并添加訓練機器學習模型所需要的標記。這個過程費時又費錢。Amazon SageMaker Ground Truth讓開發人員極容易通過Mechanical Turk、第三方供應商或自己的員工，利用標注人員來標記數據。Amazon SageMaker Ground Truth可以實時從這些標注中學習，可以自動為剩余的大部分數據集添加標記，減少了對人工審核的需求。Amazon SageMaker Ground Truth可創建高度準確的訓練數據集，與人工標注相比節省時間、降低復雜性，并最多將成本縮減70%。
• AWS Marketplace for Machine Learning(正式版)：機器學習在迅速發展，來自學術界和工業界的新模型和算法幾乎每周都在出現。Amazon SageMaker內置了一些最流行的模型和算法，但為了確保開發人員可以繼續訪問最廣泛的功能，新的AWS Marketplace for Machine Learning包含可直接部署到Amazon SageMaker的150多種算法和模型(與日俱增)。開發人員可以立即從SageMaker開始使用這些算法和模型。對于想通過AWS Marketplace銷售的開發人員來說，向Marketplace添加目錄信息完全自助式。
• Amazon SageMaker RL(正式版)：在機器學習界，強化學習是熱門話題，因為它是一項大有潛力且令人興奮的技術。強化學習訓練模型沒有大量的訓練數據;當所需結果的回報函數已知，但實現結果的路徑未知，需要大量迭代才能發現時，它很有用。醫療保健治療、優化制造供應鏈和克服游戲挑戰是強化學習有助于解決的幾個領域。然而，強化學習的學習　曲線陡峭，并牽涉諸多不定因素，因而無法被資金最充裕、技術最強大的企業之外的組織所享用。Amazon SageMaker RL是云計算行業的第一個托管強化學習服務，讓任何開發人員可以通過托管強化學習算法，構建、訓練和部署強化學習，支持多個框架(包括Intel Reinforcement Learning Coach和Ray RL)、多個模擬環境(包括SimuLink和MatLab)，并與AWS新的機器人服務AWS RoboMaker集成，后者提供了與SageMaker RL緊密集成的模擬平臺。
• AWS DeepRacer(正式版)：只需幾行代碼，開發人員就可以開始使用AWS DeepRacer學習強化學習，這是一款只有真實汽車1/18大小的全自動賽車。該車(配備全輪驅動、大腳車輪胎、高清攝像頭和車載計算)使用用亞馬遜SageMaker訓練的強化學習模型來駕駛。開發人員可以試著運用技能，與其他開發人員比拼汽車和模型，以便在DeepRacer聯賽杯爭奪獎項和榮譽，這是世界上第一項向所有人開放的自動賽車聯盟。
• Amazon SageMaker Neo(正式版)：新的深度學習模型編譯器讓客戶訓練一次模型、即可在任何地方運行，性能可提高2倍。邊緣處聯網設備上運行的應用程序對機器學習模型的性能特別敏感。它們需要低延遲決策，常常部署在一大堆不同的硬件平臺上。Amazon SageMaker Neo針對特定的硬件平臺編譯模型，自動優化性能，讓它們以高達兩倍的性能運行，而不降低準確性。因此，開發人員不再需要花時間為每一個硬件平臺手動調整訓練模型(節省了時間和費用)。SageMaker Neo支持英偉達、英特爾、賽靈思、Cadence和Arm的硬件平臺，以及TensorFlow、Apache MXNet和PyTorch等流行模型。AWS還使Neo成為了一個開源項目。

泰森食品(Tyson Foods)是世界上最大的食品公司之一，也是公認的蛋白質領導品牌。泰森食品的新興技術主管查德•瓦爾奎斯特(Chad Wahlquist)說：“我們正在為雞肉加工廠建立一套計算機視覺系統，我們需要高度準確的標記訓練數據集來訓練這些系統。我們首次嘗試自行構建標記解決方案時，它需要大量的計算資源和眾多開源解決方案，甚至創建數據標記的用戶界面之前就需要。借助Amazon SageMaker Ground Truth，我們能夠使用現成的模板，只需點擊幾下即可運行標記作業，快速又輕松。Amazon SageMaker Ground Truth還讓我們能夠安全地讓自己的員工標記數據，這是我們公司的一個基本要求。我們期待在我們的公司中使用Amazon SageMaker Ground Truth。”

T-Mobile號稱“美國的非運營商(Un-carrier)”，它是領先的無線服務、產品和服務創新提供商。T-Mobile的IT開發副總裁馬修•戴維斯(Matthew Davis)說：“T-Mobile團隊的AI將AI和機器學習整合到我們客戶服務中心的系統中，讓我們的專家團隊能夠通過自然語言理解模型更快速更準確地為客戶提供服務，這些模型為他們實時提供了相關的上下文客戶信息。標記數據是創建高性能模型的基礎，但對我們的數據科學家和軟件工程師來說也是一項單調乏味的任務。Amazon SageMaker Ground Truth使數據標記過程簡單、高效、易于訪問，從而讓他們騰出時間專注于喜歡做的事情――開發為我們的客戶和服務代表提供最佳體驗的產品。”

福來雞(Chick-fil-A, Inc.)是一家家族擁有的私有餐館公司，以獨創的雞肉三明治聞名，在47個州和華盛頓特區的2300多家餐廳供應剛準備的食品。福來雞的首席團隊負責人杰伊•達夫(Jay Duff)說：“食品安全對我們公司來說至關重要。我們在計算機視覺和機器學習方面的早期努力表明有望改善運營。Amazon SageMaker和GroundTruth幫助我們加快了開發新模型和評估的進程，因為更容易標記和驗證新的訓練集，重新訓練模型，然后迭代處理更復雜的數據。此外，勞動力管理功能使我們更快地完成手動任務，同時減少了管理工作。”

Arm技術是正在改變人們生活和企業運營方式的一場計算和連接革命的核心。Arm機器學習部門總經理兼副總裁杰姆•戴維斯(Jem Davies)說：“Arm預計到2035年聯網設備多達上萬億件，到時有望從機器學習之類的創新獲取額外的消費者價值。Amazon SageMaker Neo和Arm NN SDK這對組合將幫助開發人員優化機器學習模型，以便在眾多聯網邊緣設備上高效運行。”

Cadence使電子系統和半導體公司能夠開發出改變人們生活、工作和娛樂方式的創新終端產品。客戶使用Cadence的軟件、硬件和半導體知識產權(IP)，更快地向市場投放產品。Cadence設計系統IP部門的高級副總裁兼總經理巴布•曼達瓦(Babu Mandava)說：“Cadence Tensilica處理器針對設備端機器學習應用進行了優化，從自動駕駛汽車、語音處理到機器人技術，不一而足。Amazon SageMaker Neo簡化了從云到邊緣部署優化模型的工作。我們很高興促進Amazon SageMaker Neo與我們的Tensilica處理器系列和開發環境無縫集成，幫助開發人員為基于Tensilica的邊緣設備優化機器學習模型。”

GE Healthcare是一家提供醫療影像、監視、生物制造以及細胞和基因治療技術的領先供應商，通過智能設備、數據分析、應用軟件和服務，實現診斷、治療和監視等方面的精準健康。GE Healthcare的愛迪生產品組合戰略高級副總裁基思•比奇洛(Keith Bigelow)說：“GE Healthcare正幫助醫療服務機構提供更好的醫療結果，徹底改變醫療界。我們使用Amazon SageMaker訓練計算機視覺模型，然后將模型部署到我們的MRI和X光設備中。通過運用強化學習技術，我們能夠減小訓練模型的大小，同時兼顧網絡壓縮和模型精確度。Amazon SageMaker RL消除了運行強化學習工作負載的復雜性，讓我們能夠在短短四周內從構思進入到實施。”

亞馬遜機器人副總裁兼杰出工程師布拉德•波特(Brad Porter)說：“強化學習帶來了機器學習和機器人領域的創新。我們很高興Amazon SageMaker讓用戶更容易在實際的應用中試用強化學習技術，我們已經在嘗試將其用于機器人應用。比如今年早些時候，我們展示了一種能夠使用其中一些技術玩啤酒乒乓游戲的機器人，我們很高興與AWS合作，繼續探索這方面的機會。”

新的AI服務為所有應用程序賦予智能，無需機器學習方面的經驗

許多開發人員希望能夠在機器學習方面不需要任何經驗的情況下為其應用程序添加智能功能。基于現有的計算機視覺、語音、語言和聊天機器人服務，AWS宣布了大大擴展的AI服務。

• Amazon Textract(預覽版)：今天許多公司通過手動輸入數據從文檔和表單中提取數據，這個過程緩慢又費錢，或者使用簡單的光學字符識別(OCR)軟件，這常常不準確，而且生成的輸出通常需要繁重的后期處理，以便提取的內容采用開發人員的應用程序所能使用的格式。Amazon Textract使用機器學習立即讀取幾乎任何類型的文檔，準確地提取文本和數據，無需任何手動審查或自定義代碼。Amazon Textract讓開發人員可迅速使文檔工作流程實現自動化，并在幾小時內處理數百萬個文檔頁面。
•  Amazon Comprehend Medical(正式版)：構建下一代醫療應用需要能夠解讀和分析常常包含在自由形式的非結構化醫療文本中的信息，比如入院記錄或患者病史。Comprehend Medical是一種面向醫療文本的高度準確的自然語言處理服務，它使用機器學習從患者記錄、臨床試驗報告及其他電子健康記錄中提取疾病、藥物和治療結果等信息。Comprehend Medical無需機器學習專業知識，無需編寫復雜的規則，無需訓練模型，它還在不斷改進。你只需為使用的資源付費，沒有最低費用或前期承諾。
• Amazon Personalize(預覽版)：基于驅動亞馬遜的同樣技術，Amazon Personalize是一種實時推薦和個性化服務。20多年前，亞馬遜率先將機器學習用于推薦和個性化。經驗表明，沒有適用于個性化的萬能算法。從視頻、音樂、產品到新聞文章，每個使用場合都有各自的特點，需要結合獨特的數據、算法和優化。Amazon Personalize以一種完全托管的服務為客戶提供了這種體驗，該服務將為幾乎任何使用場合構建、訓練和部署自定義且私有的個性化和推薦模型。Amazon Personalize可以通過電子郵件或推送通知，進行推薦、實現搜索結果個性化以及細分客戶以實現直接的、個性化的營銷。
• Amazon Forecast(預覽版)：就像個性化一樣，預測歷來是一門模糊藝術，客戶基于歷史數據，試圖預測供應鏈、庫存數量和產品需求方面的未來趨勢。就像Amazon Personalize一樣，Amazon Forecast基于亞馬遜開發的用于眾多關鍵預測的技術。由于常常有眾多相互關聯的因素(比如價格、事件甚至天氣)，預測很難做好。預測不準確會帶來重大影響，比如無法滿足客戶需求或嚴重超支。Amazon Forecast創建準確的時間序列預測。Amazon Forecast使用歷史數據和相關的因果數據，可自動訓練、調整和部署自定義且私有的機器學習預測模型，那樣客戶更確信在優化支出的同時有望提供合適的客戶體驗。

Cox Automotive是Cox企業的子公司，旗下涵蓋Cox的所有全球汽車業務，包括Kelley Blue Book、Xtime、Autotrader.com和Manheim。Cox Automotive的首席技術官布賴恩•蘭德曼(Bryan Landerman)說：“我們Cox Automotive著眼于改變全世界買賣和交易汽車的方式。為了進一步更新改造我們的汽車解決方案，我們將利用Amazon Textract加快汽車的交易速度。借助Amazon Textract，我們可以自動捕獲和驗證文檔和表單中的數據，比如貸款申請或車輛所有權憑證，因而更快地做出決策。這將減少客戶的工作，為從制造商到買家的所有人簡化流程。”

Alfresco是一家提供流程自動化、內容管理和信息治理軟件的領先企業開源提供商。Alfresco的首席技術官兼創始人約翰•牛頓(John Newton)說：“我們Alfresco希望為客戶盡量簡化文檔處理和內容管理。由于文檔管理系統的效果完全取決于輸入內容，我們擁有能夠自動準確地從數字化文檔提取關鍵信息的基礎工具至關重要。之前，我們在OCR技術的基礎上開發了定制解決方案，以便提取感興趣的數據，這需要大量的人工訓練。這個過程消耗了寶貴的時間和資源，但這又是必須完成的工作。有了Amazon Textract，我們現在不僅可以自動提取文檔和表格信息中的文本，還可以自動提取真實的寶貴信息，讓我們能夠實現數據輸入自動化，并便于更快地做出業務決策。Amazon Textract使我們能夠提供更好的數據完整性、安全合規性以及比以往更快地啟動業務流程的能力。而最重要的是，這一切幫助我們更好地協助客戶實現數字化轉型。”

貝絲•伊斯雷爾女執事醫療中心(BIDMC)是哈佛醫學院的一家患者護理、教學和研究附屬機構，在美國國立衛生研究所資助的多家獨立醫院中一向名列全美前茅。BIDMC還是波士頓紅襪隊的官方醫院。貝絲•伊斯雷爾女執事醫療中心的高級企業架構師Venkat Jegadeesan說：“我們BIDMC有490多張總是被占用的手術床。我們竭力快速成功地完成外科手術，以便患者得到及時治療。但許多手術被取消和推遲了，就因為很難在電子健康記錄(EHR)中找到手術前需要患者填寫的病史和身體檢查(H&P)表格。為了解決這個問題，我們開始使用Amazon Comprehend Medical，很容易使用關鍵醫療文本就能搜索到我們EHR系統中的數據。我們的團隊現在能夠借助針對臨床人員的正確提示，迅速找到H&P表格。因此，我們可以節省大量寶貴的時間，有助于防止推遲或可能的取消，手術推遲或取消對患者及家屬來說很不方便。”

在出過三位諾貝爾獎獲得者的弗雷德•哈欽森癌癥研究中心，世界知名的科學家組成的跨學科團隊尋求新穎創新的方法來預防、診斷和治療癌癥、HIV/艾滋病及其他危及生命的疾病。弗雷德•哈欽森癌癥研究中心的首席信息官馬修•特魯內爾(Matthew Trunnell)說：“治愈癌癥本質上是個時間問題。對于癌癥患者和致力于攻克癌癥的研究人員來說，時間是稀缺資源。開發臨床試驗并將其與合適的患者聯系起來的過程需要研究團隊篩選和標記大量的非結構化病歷數據。Amazon Comprehend Medical將把這個時間從幾小時縮減到幾秒。這是讓研究人員在需要時可以迅速獲取所需信息的重要一步，那樣他們能找到實用的寶貴信息，為患者拿出救命的療法。”

普華永道(PwC)旗下公司遍布158個國家，250000多名員工致力于提供高質量的保證、咨詢和稅務服務。普華永道的醫療保健AI主管馬特•里奇(Matt Rich)說：“Amazon Comprehend Medical讓我們能夠以更少的開銷獲得更好的結果。通過與客戶一起使用Comprehend Medical，我們可以更專注于構建更智能的應用程序，少關注標記、訓練和重新訓練模型。對于我們的客戶來說，能夠大規模準確地執行非常手動的任務讓我們得以開發出更有影響力的解決方案。比如說，我們的一家制藥客戶在樣本數量有限的環境下使用Comprehend Medical，幫助提取讓他們得以識別醫學相關事件的信息。初步調查表明，我們發現處理速度明顯快于過去。”

達美樂披薩(Domino's Pizza Enterprises Ltd.)是澳大利亞最大的比薩連鎖店，其愿景是成為每個社區食品互聯網領域的領導者。達美樂披薩的戰略和洞察力全球主管馬利卡•克里什納默西(Mallika Krishnamurthy)說：“客戶是我們達美樂所做的一切工作的核心，我們在不懈地努力改善和提升他們對品牌的體驗。結合使用Amazon Personalize與Amazon Pinpoint，我們能夠面對整個客戶群大規模實現個性化，這在以前是不可能實現的。Amazon Personalize使我們能夠利用每個客戶及其環境方面的信息，通過我們的數字化渠道提供定制的溝通方式，比如特別優惠和促銷方案。”

Mercado Libre是拉美的一家領先的在線商務和支付平臺。Mercado Libre的商業智能主管亞德里安•奎利斯(Adrian Quilis)說：“我們一直使用Amazon Forecast最先進的深度學習算法，預測市場對50000多種不同產品的需求，這些算法可以直接拿來使用。Amazon Forecast負責構建管道、重新訓練時間表和重新生成預測的所有繁重工作，因此我們可以非常輕松地試驗數百個模型。”

原文標題：Amazon Web Services Announces 13 New Machine Learning Services and Capabilities, Including a Custom Chip for Machine Learning Inference, and a 1/18 Scale Autonomous Race Car for Developers

鏈接：https://press.aboutamazon.com/news-releases/news-release-details/amazon-web-services-announces-13-new-machine-learning-services

【51CTO譯稿，合作站點轉載請注明原文譯者和出處為51CTO.com】