譯者 | 朱先忠

審校 | 梁策 孫淑娟

簡介

本文將介紹把機(jī)器學(xué)習(xí)基礎(chǔ)設(shè)施、員工和流程融合的方式，以實(shí)現(xiàn)適用于企業(yè)的MLOps(面向人工智能系統(tǒng)的運(yùn)維管理)。本文希望對(duì)旨在以高效人工智能團(tuán)隊(duì)開發(fā)強(qiáng)大的人工智能/機(jī)器學(xué)習(xí)(AI/ML)項(xiàng)目的經(jīng)理和主管提供啟發(fā)。

本文的經(jīng)驗(yàn)來自Provectus公司的人工智能團(tuán)隊(duì)，該團(tuán)隊(duì)在人工智能技術(shù)的不同發(fā)展階段先后與多家客戶有過成功的合作。

怎樣才算是一支平衡的人工智能團(tuán)隊(duì)?

幾年前，AI/ML(人工智能/機(jī)器學(xué)習(xí))項(xiàng)目中相當(dāng)一部分工作是由數(shù)據(jù)科學(xué)家負(fù)責(zé)完成的。雖然有些團(tuán)隊(duì)依賴更先進(jìn)的角色與工具的組合來完成任務(wù)，但是由數(shù)據(jù)科學(xué)家通過自己的筆記本電腦來處理相關(guān)模型已經(jīng)成為行業(yè)常態(tài)。

如今，僅僅雇傭一名數(shù)據(jù)科學(xué)家已經(jīng)不足以快速、高效、大規(guī)模地將一個(gè)可行的AI/ML項(xiàng)目交付生產(chǎn)。更現(xiàn)實(shí)的方案是，這些項(xiàng)目最好由一個(gè)具有多個(gè)角色的跨職能、高績效的團(tuán)隊(duì)來協(xié)作完成——每個(gè)角色僅負(fù)責(zé)處理自己的ML基礎(chǔ)設(shè)施和MLOps部分。

在現(xiàn)代團(tuán)隊(duì)中，數(shù)據(jù)科學(xué)家或公民數(shù)據(jù)科學(xué)家仍然是不可或缺的成員。數(shù)據(jù)科學(xué)家是負(fù)責(zé)從整體上理解數(shù)據(jù)及相關(guān)業(yè)務(wù)的主題專家。他們是數(shù)據(jù)挖掘、數(shù)據(jù)建模和數(shù)據(jù)可視化方面的實(shí)際操作人員，此外還關(guān)注數(shù)據(jù)質(zhì)量和數(shù)據(jù)偏差問題、分析實(shí)驗(yàn)和模型輸出、驗(yàn)證假設(shè)并為ML工程路線藍(lán)圖出謀劃策。

一支平衡的人工智能團(tuán)隊(duì)還應(yīng)包括一名ML工程師，但其技能與數(shù)據(jù)科學(xué)家不同。他們應(yīng)該在特定的AI和ML應(yīng)用程序與案例方面擁有深厚的專業(yè)知識(shí)。比如你想要構(gòu)建一款計(jì)算機(jī)視覺應(yīng)用程序，那么ML工程師應(yīng)該了解計(jì)算機(jī)視覺方面前沿而廣泛的深度學(xué)習(xí)模型知識(shí)。

理論上講，每個(gè)ML工程師都應(yīng)該具備MLOps專業(yè)知識(shí)，但對(duì)于ML/MLOps基礎(chǔ)設(shè)施本身(包括相關(guān)工具和組件)來說，所有這些都交由專門的MLOps專業(yè)人員負(fù)責(zé)會(huì)更好。

項(xiàng)目經(jīng)理還應(yīng)接受執(zhí)行ML和AI項(xiàng)目的培訓(xùn)。傳統(tǒng)的Scrum或Kanban項(xiàng)目工作流已不適用于ML項(xiàng)目。例如，在Provectus公司中，我們采用一種特定的方法來管理ML項(xiàng)目的范圍和時(shí)限，并設(shè)定公司各業(yè)務(wù)利益相關(guān)者的期望值。

下文中會(huì)更詳細(xì)地探討這其中(以及其他)的每一個(gè)角色，并解釋它們?nèi)绾斡成涞組L基礎(chǔ)設(shè)施、MLOps支持流程和ML交付方面。這里要傳達(dá)的信息是，人工智能團(tuán)隊(duì)迫切需要一種平衡的組成，以實(shí)現(xiàn)MLOps并加速人工智能技術(shù)的采用。

有興趣的讀者可參閱“Provectus和GoCheck Kids公司如何在視覺篩查中共同協(xié)作構(gòu)建ML基礎(chǔ)設(shè)施以提高可用性”(原文鏈接https://aws.amazon.com/cn/blogs/apn/how-provectus-and-gocheck-kids-built-ml-infrastructure-for-improved-usability-during-vision-screening/)。

打造人工智能團(tuán)隊(duì)的管理挑戰(zhàn)

除了實(shí)際的團(tuán)隊(duì)組成之外，有效的管理對(duì)于使AI團(tuán)隊(duì)與ML基礎(chǔ)設(shè)施和MLOps基礎(chǔ)同步是至關(guān)重要的。

從管理角度來看，一個(gè)典型的組織結(jié)構(gòu)應(yīng)該包括以下成員：

• 負(fù)責(zé)向工程副總裁匯報(bào)的業(yè)務(wù)部門和傳統(tǒng)軟件工程師
• 負(fù)責(zé)向基礎(chǔ)設(shè)施副總裁匯報(bào)的DevOps專業(yè)人士和基礎(chǔ)設(shè)施專家
• 處理數(shù)據(jù)的數(shù)據(jù)科學(xué)家，通常直接與商業(yè)利益相關(guān)者合作
• 數(shù)據(jù)工程師，他們構(gòu)建的系統(tǒng)旨在將原始數(shù)據(jù)轉(zhuǎn)換為數(shù)據(jù)科學(xué)家和業(yè)務(wù)分析師可用的信息

從上圖不難看出，這種組織結(jié)構(gòu)很容易帶來部門孤島等挑戰(zhàn)，例如：

1. 由于公司對(duì)ML工作流和AI項(xiàng)目管理的理解有限，上述團(tuán)隊(duì)中沒有人完全理解如何將業(yè)務(wù)目標(biāo)轉(zhuǎn)化為在生產(chǎn)中推出的AI產(chǎn)品。因此，無法管理項(xiàng)目的界限和KPI(關(guān)鍵績效指標(biāo))，導(dǎo)致無法滿足業(yè)務(wù)利益相關(guān)者的期望。

2. 一些公司試圖將人工智能項(xiàng)目委托給現(xiàn)有的數(shù)據(jù)科學(xué)團(tuán)隊(duì)。然而，這些團(tuán)隊(duì)過去一直在自己的孤島上工作，而且他們依賴于不適用于人工智能/機(jī)器學(xué)習(xí)項(xiàng)目的數(shù)據(jù)科學(xué)方法。結(jié)果是，他們開發(fā)出的是未成形產(chǎn)品以及根本無法部署到生產(chǎn)中的項(xiàng)目。

3. 其他一些公司則通常選擇將人工智能項(xiàng)目或者分配給傳統(tǒng)的Java和.NET程序員或者利用第三方ML API。這種方法往往也會(huì)失敗，因?yàn)樗麄內(nèi)匀恍枰钊肓私鈹?shù)據(jù)及其底層算法才能有效地使用這些API。結(jié)果，他們最終以數(shù)據(jù)科學(xué)代碼的形式背負(fù)著越來越大的技術(shù)債務(wù)，而這些代碼永遠(yuǎn)不會(huì)投入生產(chǎn)。

其實(shí)，解決這些挑戰(zhàn)的辦法在于找到一種人與工具之間的適當(dāng)?shù)钠胶狻Ｔ诒疚乃峁┑姆桨钢校@意味著需要一個(gè)平衡的AI團(tuán)隊(duì)，他們能夠利用端到端的MLOps基礎(chǔ)設(shè)施進(jìn)行協(xié)作和迭代開發(fā)。

切不可簡單地雇傭MLOps專家或購買MLOps平臺(tái)，我們需要的是讓一個(gè)強(qiáng)大的基礎(chǔ)設(shè)施和一個(gè)平衡的人工智能團(tuán)隊(duì)兩者結(jié)合，只有二者共同努力才能讓你的AI/ML項(xiàng)目最終落地。

一個(gè)平衡的人工智能團(tuán)隊(duì)和MLOps基礎(chǔ)設(shè)施如何協(xié)同工作

在一支平衡的人工智能團(tuán)隊(duì)和MLOps基礎(chǔ)設(shè)施之間，一些具體角色的協(xié)同作用可以通過下面這個(gè)三層生態(tài)系統(tǒng)來形象展示：

1. 最底部的第一層是MLOps的基礎(chǔ)設(shè)施主干，由云端與安全專家和DevOps支持。這一層承載基本的基礎(chǔ)設(shè)施組件，如訪問、網(wǎng)絡(luò)、安全和CI/CD管道。

2. 第二層是MLOps的可共享和可重用的資源部分。這一層由ML工程師和MLOps專業(yè)人員管理，包括配備有各種圖像軟件、內(nèi)核及模板應(yīng)用的Notebook;包含被視為共享資源的組件和庫組成的管道;實(shí)驗(yàn);數(shù)據(jù)集和特征數(shù)據(jù);還有模型部分。這一層的每一項(xiàng)資源都可以被不同的團(tuán)隊(duì)使用和重用，從而加快人工智能的開發(fā)和采用。

3. 第三層是人工智能項(xiàng)目，由數(shù)據(jù)科學(xué)家、全棧工程師和項(xiàng)目經(jīng)理負(fù)責(zé)。這一層獨(dú)立于其他兩層，但由這兩層啟用。

請(qǐng)注意，云端與安全、DevOps、ML工程師和MLOps角色位于不同的層之間，并為彼此做出貢獻(xiàn)。例如：

• 云端及安全部分擁有基礎(chǔ)設(shè)施主干網(wǎng)，但它們也負(fù)責(zé)重用資源層，確保所有組件和檢查都到位。
• DevOps專業(yè)人員負(fù)責(zé)底部兩層的自動(dòng)化任務(wù)，具體包括從自動(dòng)構(gòu)建到管理環(huán)境等任務(wù)。
• ML工程師擁有MLOps基礎(chǔ)設(shè)施和項(xiàng)目專業(yè)知識(shí)。他們負(fù)責(zé)重用資源層的各個(gè)組件。
• MLOps專家與ML工程師攜手合作，但他們擁有整個(gè)基礎(chǔ)設(shè)施(例如亞馬遜的機(jī)器學(xué)習(xí)平臺(tái)服務(wù)SageMaker以及谷歌發(fā)布的機(jī)器學(xué)習(xí)工具庫Kubeflow等)，最終目標(biāo)是把一切都融合在一起。

與此同時(shí)，公民數(shù)據(jù)科學(xué)家可以優(yōu)先實(shí)施特定的AI/ML項(xiàng)目，主要通過Notebook工作。他們可以擁有ML管道的特定部分，但不會(huì)被迫進(jìn)入MLOps“凌亂”的部分。全棧工程師負(fù)責(zé)實(shí)現(xiàn)AI產(chǎn)品從UI到API的常規(guī)軟件部分，受過ML培訓(xùn)的項(xiàng)目經(jīng)理則負(fù)責(zé)產(chǎn)品的實(shí)施。

當(dāng)然，上面僅是一個(gè)抽象的表述。下圖給出的是一個(gè)可供參考的基礎(chǔ)設(shè)施，其中主要展示了基礎(chǔ)設(shè)施中主干部分的組成部件。

在這里，我們看到數(shù)據(jù)科學(xué)家可以通過工具來處理原始數(shù)據(jù)，在他們的Notebook中進(jìn)行數(shù)據(jù)分析并完成檢驗(yàn)假設(shè)。他們可以在ML工程師管理的實(shí)驗(yàn)環(huán)境中輕松運(yùn)行實(shí)驗(yàn)。實(shí)驗(yàn)環(huán)境由共享和重用的組件組成，如特征存儲(chǔ)、數(shù)據(jù)集生成、模型訓(xùn)練、模型評(píng)估和預(yù)配置的數(shù)據(jù)訪問模式等。這使得繁瑣、容易出錯(cuò)的任務(wù)能夠自動(dòng)化，同時(shí)又不會(huì)把數(shù)據(jù)科學(xué)家逼出他們的舒適工作區(qū)。

另一方面，ML工程師負(fù)責(zé)將ML模型產(chǎn)品化。這意味著，他們能夠開發(fā)出將在生產(chǎn)環(huán)境中使用的算法代碼和數(shù)據(jù)預(yù)處理代碼。另外，他們還可以為實(shí)驗(yàn)環(huán)境搭建和運(yùn)行各種管道。

最后，DevOps專業(yè)人員可以幫助高效地管理所有基礎(chǔ)設(shè)施組件。例如，在我們的參考體系架構(gòu)中，通過從1到4的簡單的幾個(gè)數(shù)字即可以演示出由DevOps處理的CI工作流。

結(jié)語

真正使MLOps在企業(yè)中落地需要時(shí)間和資源。最重要的是，你需要理解MLOps與人和流程的關(guān)系，就像它和實(shí)際技術(shù)的關(guān)系一樣。如果你能夠組織特定的角色和功能，并將它們與機(jī)器學(xué)習(xí)基礎(chǔ)設(shè)施的相應(yīng)組件相匹配，問題就不會(huì)過于復(fù)雜。記住：人員+基礎(chǔ)設(shè)施= MLOps。

在Provectus公司，我們已經(jīng)成功地幫助企業(yè)構(gòu)建出先進(jìn)的AI/ML解決方案，同時(shí)培養(yǎng)了高效的AI團(tuán)隊(duì)，并為MLOps提供強(qiáng)大的基礎(chǔ)設(shè)施支持。

【注】本文作者Stepan Pushkarev是Provectus公司的CEO、CTO和聯(lián)合創(chuàng)始人。Provectus是一家人工智能咨詢和解決方案提供商，目標(biāo)是幫助企業(yè)加快人工智能技術(shù)的采用并促進(jìn)增長。Pushkarev在Provectus公司率先提出了針對(duì)特定行業(yè)的人工智能解決方案的愿景，該解決方案有助于重塑企業(yè)運(yùn)營、競爭和提供客戶價(jià)值的方式。此外，Pushkarev還是一位在機(jī)器學(xué)習(xí)、云計(jì)算和分布式數(shù)據(jù)處理系統(tǒng)方面擁有深厚專業(yè)知識(shí)的意見領(lǐng)袖，他在開發(fā)專業(yè)的服務(wù)業(yè)務(wù)和創(chuàng)建SaaS技術(shù)方面都有過出色的業(yè)績。

譯者介紹

朱先忠，51CTO社區(qū)編輯，51CTO專家博客、講師，濰坊一所高校計(jì)算機(jī)教師，自由編程界老兵一枚。早期專注各種微軟技術(shù)(編著成ASP.NET AJX、Cocos 2d-X相關(guān)三本技術(shù)圖書)，近十多年投身于開源世界(熟悉流行全棧Web開發(fā)技術(shù))，了解基于OneNet/AliOS+Arduino/ESP32/樹莓派等物聯(lián)網(wǎng)開發(fā)技術(shù)與Scala+Hadoop+Spark+Flink等大數(shù)據(jù)開發(fā)技術(shù)。

原文標(biāo)題：??People Management for AI: Building High-Velocity AI Teams??，作者：Stepan Pushkarev