作為人工智能的重要分支，機(jī)器學(xué)習(xí)得到越來越多的應(yīng)用，如何更快地掌握這門技術(shù)，這篇文章也許會(huì)給你打開一扇大門，下面是譯文：

在過去的一年里，機(jī)器學(xué)習(xí)炙手可熱。機(jī)器學(xué)習(xí)的“突然”降臨，并不單純因?yàn)榱畠r(jià)的云環(huán)境和更強(qiáng)有力的GPU硬件。也是因?yàn)殚_放源碼框架的爆炸式增長(zhǎng)，這些框架將機(jī)器學(xué)習(xí)中最難的部分抽象出來，并將這項(xiàng)技術(shù)提供給更廣大范圍的開發(fā)者。

這里有十來個(gè)新鮮出爐的機(jī)器學(xué)習(xí)框架，既有初次露面的，也有重新修改過的。這些工具被大眾所注意，或是因?yàn)槠涑鎏帲蚴且驗(yàn)橐孕路f的簡(jiǎn)單方法處理問題，或是解決了機(jī)器學(xué)習(xí)中的某個(gè)特定難題，或者是上述的所有原因。

Apache Spark MLlib

Apache Spark 最為人所知的是它是Hadoop家族的一員，但是這個(gè)內(nèi)存數(shù)據(jù)處理框架卻是脫胎于Hadoop之外，也正在Hadoop生態(tài)系統(tǒng)以外為自己獲得了名聲。Hadoop 已經(jīng)成為可供使用的機(jī)器學(xué)習(xí)工具，這得益于其不斷增長(zhǎng)的算法庫(kù)，這些算法可以高速度應(yīng)用于內(nèi)存中的數(shù)據(jù)。

早期版本的Spark 增強(qiáng)了對(duì)MLib的支持，MLib是主要面向數(shù)學(xué)和統(tǒng)計(jì)用戶的平臺(tái)，它允許 通過持久化管道特性將Spark機(jī)器學(xué)習(xí)工作掛起和恢復(fù)。2016年發(fā)布的Spark2.0，對(duì)Tungsten高速內(nèi)存管理系統(tǒng)和新的DataFrames流媒體API 進(jìn)行了改進(jìn)，這兩點(diǎn)都會(huì)提升機(jī)器學(xué)習(xí)應(yīng)用的性能。

H2O

H2O，現(xiàn)在已經(jīng)發(fā)展到第三版，可以提供通過普通開發(fā)環(huán)境(Python, Java, Scala, R)、大數(shù)據(jù)系統(tǒng)(Hadoop, Spark)以及數(shù)據(jù)源(HDFS, S3, SQL, NoSQL)訪問機(jī)器學(xué)習(xí)算法的途徑。H2O是用于數(shù)據(jù)收集、模型構(gòu)建以及服務(wù)預(yù)測(cè)的端對(duì)端解決方案。例如，可以將模型導(dǎo)出為Java代碼，這樣就可以在很多平臺(tái)和環(huán)境中進(jìn)行預(yù)測(cè)。

H2O可以作為原生Python庫(kù)，或者是通過Jupyter Notebook, 或者是 R Studio中的R 語言來工作。這個(gè)平臺(tái)也包含一個(gè)開源的、基于web的、在H2O中稱為Flow的環(huán)境，它支持在訓(xùn)練過程中與數(shù)據(jù)集進(jìn)行交互，而不只是在訓(xùn)練前或者訓(xùn)練后。

Apache Singa

“深度學(xué)習(xí)”框架增強(qiáng)了重任務(wù)類型機(jī)器學(xué)習(xí)的功能，如自然語言處理和圖像識(shí)別。Singa是一個(gè)Apache的孵化器項(xiàng)目，也是一個(gè)開源框架，作用是使在大規(guī)模數(shù)據(jù)集上訓(xùn)練深度學(xué)習(xí)模型變得更簡(jiǎn)單。

Singa提供了一個(gè)簡(jiǎn)單的編程模型，用于在機(jī)器群集上訓(xùn)練深度學(xué)習(xí)網(wǎng)絡(luò)，它支持很多普通類型的訓(xùn)練工作：卷積神經(jīng)網(wǎng)絡(luò)，受限玻爾茲曼機(jī) 以及循環(huán)神經(jīng)網(wǎng)絡(luò)。 模型可以同步訓(xùn)練(一個(gè)接一個(gè))或者也異步(一起)訓(xùn)練，也可以允許在在CPU和GPU群集上，很快也會(huì)支持FPGA。Singa也通過Apache Zookeeper簡(jiǎn)化了群集的設(shè)置。

Caffe2

深度學(xué)習(xí)框架Caffe開發(fā)時(shí)秉承的理念是“表達(dá)、速度和模塊化”，最初是源于2013年的機(jī)器視覺項(xiàng)目，此后，Caffe還得到擴(kuò)展吸收了其他的應(yīng)用，如語音和多媒體。

因?yàn)樗俣确旁趦?yōu)先位置 ，所以Caffe完全用C+ +實(shí)現(xiàn)，并且支持CUDA加速，而且根據(jù)需要可以在CPU和GPU處理間進(jìn)行切換。分發(fā)內(nèi)容包括免費(fèi)的用于普通分類任務(wù)的開源參考模型，以及其他由Caffe用戶社區(qū)創(chuàng)造和分享的模型。

一個(gè)新的由Facebook 支持的Caffe迭代版本稱為Caffe2，現(xiàn)在正在開發(fā)過程中，即將進(jìn)行1.0發(fā)布。其目標(biāo)是為了簡(jiǎn)化分布式訓(xùn)練和移動(dòng)部署，提供對(duì)于諸如FPGA等新類型硬件的支持，并且利用先進(jìn)的如16位浮點(diǎn)數(shù)訓(xùn)練的特性。

Google的TensorFlow

與微軟的DMTK很類似，Google TensorFlow 是一個(gè)機(jī)器學(xué)習(xí)框架,旨在跨多個(gè)節(jié)點(diǎn)進(jìn)行擴(kuò)展。 就像Google的 Kubernetes一樣，它是是為了解決google內(nèi)部的問題而設(shè)計(jì)的，google最終還是把它作為開源產(chǎn)品發(fā)布出來。

TensorFlow實(shí)現(xiàn)了所謂的數(shù)據(jù)流圖，其中的批量數(shù)據(jù)(“tensors”)可以通過圖描述的一系列算法進(jìn)行處理。系統(tǒng)中數(shù)據(jù)的移動(dòng)稱為“流”-其名也因此得來。這些圖可以通過C++或者Python實(shí)現(xiàn)并且可以在CPU和GPU上進(jìn)行處理。

TensorFlow近來的升級(jí)提高了與Python的兼容性，改進(jìn)了GPU操作，也為TensorFlow能夠運(yùn)行在更多種類的硬件上打開了方便之門，并且擴(kuò)展了內(nèi)置的分類和回歸工具庫(kù)。

亞馬遜的機(jī)器學(xué)習(xí)

亞馬遜對(duì)云服務(wù)的方法遵循一種模式：提供基本的內(nèi)容，讓核心受眾關(guān)注，讓他們?cè)谏厦鏄?gòu)建應(yīng)用，找出他們真正需要的內(nèi)容，然后交付給他們。

亞馬遜在提供機(jī)器學(xué)習(xí)即服務(wù)-亞馬遜機(jī)器學(xué)習(xí)方面也是如此。該服務(wù)可以連接到存儲(chǔ)在亞馬遜 S3、Redshift或RDS上的數(shù)據(jù)，并且在這些數(shù)據(jù)上運(yùn)行二進(jìn)制分類、多級(jí)分類或者回歸以構(gòu)建一個(gè)模型。但是，值得注意的是生成的模型不能導(dǎo)入或?qū)С觯?xùn)練模型的數(shù)據(jù)集不能超過100GB。

但是，亞馬遜機(jī)器學(xué)習(xí)展現(xiàn)了機(jī)器學(xué)習(xí)的實(shí)用性，而不只是奢侈品。對(duì)于那些想要更進(jìn)一步，或者與亞馬遜云保持不那么緊密聯(lián)系的人來說，亞馬遜的深度學(xué)習(xí)機(jī)器圖景包含了許多主要的深度學(xué)習(xí)框架，包括 Caffe2、CNTK、MXNet和TensorFlow。

微軟的Azure ML Studio

考慮到執(zhí)行機(jī)器學(xué)習(xí)所需的大量數(shù)據(jù)和計(jì)算能力，對(duì)于機(jī)器學(xué)習(xí)應(yīng)用云是一種理想環(huán)境。微軟已經(jīng)為Azure配備了自己的即付即用的機(jī)器學(xué)習(xí)服務(wù)-Azure ML Studio，提供了按月、按小時(shí)和免費(fèi)的版本。(該公司的HowOldRobot項(xiàng)目就是利用這個(gè)系統(tǒng)創(chuàng)立的。)你甚至不需要一個(gè)賬戶來就可以試用這項(xiàng)服務(wù);你可以匿名登錄，免費(fèi)使用Azure ML Studio最多8小時(shí)。

Azure ML Studio允許用戶創(chuàng)立和訓(xùn)練模型，然后把這些模型轉(zhuǎn)成被其他服務(wù)所使用的API。免費(fèi)用戶的每個(gè)賬號(hào)可以試用多達(dá)10GB的模型數(shù)據(jù)，你也可以連接自己的Azure存儲(chǔ)以獲得更大的模型。有大范圍的算法可供使用，這要感謝微軟和第三方。

近來的改進(jìn)包括通過Azure批處理服務(wù)、更好的部署管理控制和詳細(xì)的web服務(wù)使用統(tǒng)計(jì)，對(duì)訓(xùn)練任務(wù)進(jìn)行了批量管理。

微軟的分布式機(jī)器學(xué)習(xí)工具集

在機(jī)器學(xué)習(xí)問題中投入更多的機(jī)器，會(huì)取得更好的效果-但是開發(fā)在大量計(jì)算機(jī)都能運(yùn)行良好的機(jī)器學(xué)習(xí)應(yīng)用卻是挺傷腦筋的事。

微軟的DMTK(分布式機(jī)器學(xué)習(xí)工具集)框架解決了在系統(tǒng)集群中分布多種機(jī)器學(xué)習(xí)任務(wù)的問題。

DMTK被認(rèn)為是一個(gè)框架而不是一個(gè)完全成熟、隨去隨用的解決方案，因此包含算法的數(shù)量是很小的。然而，你還是會(huì)找到一些關(guān)鍵的機(jī)器學(xué)習(xí)庫(kù)，例如梯度增強(qiáng)框架(LightGBM)，以及對(duì)于一些像Torch和Theano這樣深度學(xué)習(xí)框架的支持。

DMTK的設(shè)計(jì)使用戶可以利用有限的資源構(gòu)建***的群集。例如，群集中的每個(gè)節(jié)點(diǎn)都會(huì)有本地緩存，從而減少了與中央服務(wù)器節(jié)點(diǎn)的通信流量，該節(jié)點(diǎn)為任務(wù)提供參數(shù)。

微軟的計(jì)算網(wǎng)絡(luò)工具集

在發(fā)布DMTK之后，微軟又推出了另一款機(jī)器學(xué)習(xí)工具集，即計(jì)算網(wǎng)絡(luò)工具包，簡(jiǎn)稱CNTK。

CNTK與Google TensorFlow類似，它允許用戶通過一個(gè)有向圖來創(chuàng)建神經(jīng)網(wǎng)絡(luò)。微軟也認(rèn)為CNTK可以與諸如Caffe、Theano和 Torch這樣的項(xiàng)目相媲美，-此外CNTK還能通過利用多CPU和GPU進(jìn)行并行處理而獲得更快的速度。微軟聲稱在Azure上的GPU群集上運(yùn)行CNTK，可以將為Cortana的語音識(shí)別訓(xùn)練速度提高一個(gè)數(shù)量級(jí)。

***版的CNTK 2.0通過提高精確性提高了TensorFlow的熱度，添加了一個(gè)Java API，用于Spark兼容性，并支持kera框架(通常用于TensorFlow)的代碼。

Apache Mahout

在Spark占據(jù)主流地位之前很久，Mahout就已經(jīng)開發(fā)出來，用于在Hadoop上進(jìn)行可擴(kuò)展機(jī)器學(xué)習(xí)。但經(jīng)過一段長(zhǎng)時(shí)間的相對(duì)沉默之后，Mahout又重新煥發(fā)了活力，例如一個(gè)用于數(shù)學(xué)的新環(huán)境，稱為Samsara，允許多種算法可以跨越分布式Spark群集上運(yùn)行。并且支持CPU和GPU運(yùn)行。

Mahout框架長(zhǎng)期以來一直與Hadoop綁定，但它的許多算法也可以在Hadoop之外運(yùn)行。這對(duì)于那些最終遷移到Hadoop的獨(dú)立應(yīng)用或者是從Hadoop中剝離出來成為單獨(dú)的應(yīng)用都很有用。

Veles (Samsung)

[Veles]https://velesnet.ml/)是一個(gè)用于深度學(xué)習(xí)應(yīng)用的分布式平臺(tái)，就像TensorFlow和DMTK一樣，它是用C++編寫的，盡管它使用Python來執(zhí)行節(jié)點(diǎn)之間的自動(dòng)化和協(xié)調(diào)。在被傳輸進(jìn)群集之前，要對(duì)數(shù)據(jù)集分析并且進(jìn)行自動(dòng)的歸一化，然后調(diào)用REST API來即刻使用已訓(xùn)練的模型(假定你的硬件滿足這項(xiàng)任務(wù)的需要)

Veles不僅僅是使用Python作為粘合代碼，因?yàn)榛赑ython的Jupyter Notebook 可以用來可視化和發(fā)布由一個(gè)Veles集群產(chǎn)生的結(jié)果。Samsung希望，通過將Veles 開源將會(huì)刺激進(jìn)一步的開發(fā)，作為通往Windows和MacOS的途徑。

mlpack 2

作為一個(gè)基于C++的機(jī)器學(xué)習(xí)庫(kù)，mlpack最初產(chǎn)生于2011年，按照庫(kù)的創(chuàng)立者想法，設(shè)計(jì)mlpack是為了“可擴(kuò)展性，速度和易于使用。”mlpack既可以通過由若干行命令行可執(zhí)行程序組成的“黑盒”進(jìn)行操作，也可以利用C++ API來完成復(fù)雜的工作。

mlpack的第二版包含了許多新的算法，以及現(xiàn)有算法的重構(gòu)，以提高它們的速度或使它們瘦身。例如，它舍棄了Boost庫(kù)的隨機(jī)數(shù)生成器，轉(zhuǎn)而采用C++ 11的原生隨機(jī)數(shù)功能。

mlpack的一個(gè)痼疾是缺少對(duì)于C++以為語言的支持。這就意味著其他語言的用戶需要第三方庫(kù)的支持，如這樣的一個(gè)Pyhton庫(kù)。還有完成了一些工作來增加對(duì)MATLAB的支持，但是像mlpack這樣的項(xiàng)目，在機(jī)器學(xué)習(xí)的主要環(huán)境中直接發(fā)揮作用時(shí)，往往會(huì)獲得更大的應(yīng)用。

Neon

Nervana，一家建立自己的深度學(xué)習(xí)硬件和軟件平臺(tái)的公司(現(xiàn)在是英特爾的一部分)，已經(jīng)提供了一個(gè)名為“Neon”的深度學(xué)習(xí)的框架，它是一個(gè)開源項(xiàng)目。Neon使用可插拔的模塊，以實(shí)現(xiàn)在CPU、GPU或者Nervana自己開發(fā)的芯片上完成繁重的任務(wù)。

Neon主要是用Python編寫，也有一部分是用C++和匯編以提高速度。這使得該框架可以為使用Python或者其他任何與Python綁定框架進(jìn)行數(shù)據(jù)科學(xué)工作的人所用。

許多標(biāo)準(zhǔn)的深度學(xué)習(xí)模型，如LSTM、AlexNet和GoogLeNet，都可以作為Neon的預(yù)訓(xùn)練模型。***版本Neon 2.0，增加了英特爾數(shù)學(xué)內(nèi)核庫(kù)來提高CPU的性能。

Marvin

另一個(gè)相對(duì)近期的產(chǎn)品——Marvin神經(jīng)網(wǎng)絡(luò)框架，是普林斯頓視覺集團(tuán)的產(chǎn)物。Marvin“生來就是被黑的”，正如其創(chuàng)建者在該項(xiàng)目文檔中解釋的那樣，該項(xiàng)目只依賴于一些用C++編寫的文件和CUDA GPU框架。雖然該項(xiàng)目的代碼很少，但是還是提供了大量的預(yù)訓(xùn)練模型，這些模型可以像項(xiàng)目本身代碼一樣，能夠在合適的場(chǎng)合復(fù)用或者根據(jù)用戶的需要共享。