在優(yōu)先考慮AI時不要低估了IT基礎(chǔ)
GenAI繼續(xù)主導(dǎo)著許多企業(yè)的IT項目,三分之二的企業(yè)領(lǐng)導(dǎo)人告訴哈里斯民意調(diào)查,他們已經(jīng)在內(nèi)部部署了GenAI工具,IDC預(yù)測2024年在GenAI上的支出將增加一倍以上。
但是,IT領(lǐng)域通常要優(yōu)先考慮的事項清單并沒有消失,安全、成本控制、身份管理、容器蔓延、數(shù)據(jù)管理和硬件更新等基本面仍然是CIO需要處理的關(guān)鍵戰(zhàn)略領(lǐng)域。
很容易將這些視為爭奪CIO注意力和預(yù)算的相互競爭的優(yōu)先事項,與董事會對Gen AI承諾的新的、閃亮的機會的興趣相比,這些相形見絀,但當(dāng)談到成功實施這些項目時,事實證明,它們?nèi)Q于IT企業(yè)實施連接、權(quán)限和配置管理等基本要素的情況。
星座研究公司副總裁兼首席分析師迪翁·欣奇克利夫表示:“掌握當(dāng)今IT的基礎(chǔ)知識——靈活的多云基礎(chǔ)、強大的網(wǎng)絡(luò)安全、有效的數(shù)據(jù)隱私和知識產(chǎn)權(quán)控制,或許對最終釋放AI的承諾、跨應(yīng)用程序豎井構(gòu)建強大、開放的數(shù)據(jù)基礎(chǔ)可能是最重要的--是讓船保持運轉(zhuǎn)的木板和釘子。”
他說:“人們可能會把這些IT基礎(chǔ)知識比作‘吃青菜’——雖然不總是光彩照人,但對IT行業(yè)的長期健康和實力來說是絕對必要的,就像均衡的飲食會增強身體一樣,強大而現(xiàn)代的IT基礎(chǔ)設(shè)施也為AI和其他先進技術(shù)的蓬勃發(fā)展奠定了基礎(chǔ)?!?/p>
獨立研究分析師Sagable創(chuàng)始人安迪·曼對此表示贊同,他指出,有多少IT基礎(chǔ)設(shè)施的內(nèi)部運營和基本功能最終被證明是推動AI淘金熱的“鎬和鏟子”。他說:“CIO需要做所有的事情,以使AI工作負載以一種有紀(jì)律和衛(wèi)生的方式良好運行,當(dāng)你考慮到CIO需要為常規(guī)應(yīng)用程序做的所有屏蔽和處理時,這尤其適用于AI?!?/p>
數(shù)據(jù)盡職調(diào)查
Mann說,GenAI尤其對數(shù)據(jù)安全有特殊的影響。當(dāng)你告訴你的AI去吸收所有這些數(shù)據(jù)并重新使用它時,你如何實現(xiàn)數(shù)據(jù)丟失預(yù)防呢?
事實上,出于安全、合規(guī)性和效率的原因,CIO將希望仔細管理GenAI可以訪問哪些數(shù)據(jù),例如,檢索增強生成(RAG)正在成為一項關(guān)鍵技術(shù),它可以使LLM在處理你自己的數(shù)據(jù)時變得有用——但你不想輸入所有數(shù)據(jù),這不僅僅是準(zhǔn)備一個比你需要的更大的數(shù)據(jù)集的成本,這需要一些仍然不常見的專業(yè)知識,并要求高薪,還包括你教給模型的東西。輸入你的整個Slack或Teams歷史,你可能會得到這樣的回應(yīng):“我明天再做這件事”,這對人類員工來說是非常合適的,但并不是你對GenAI系統(tǒng)的期望。
微軟MVP和Rencore合作伙伴管理總監(jiān)Christian Buckley警告說,像Copilot這樣的AI工具將暴露企業(yè)信息管理方法中的缺陷,例如企業(yè)數(shù)據(jù)和元數(shù)據(jù)的結(jié)構(gòu)、信息體系結(jié)構(gòu)、清理和了解其中的內(nèi)容,以及許多企業(yè)在權(quán)限管理和數(shù)據(jù)清理方面是多么松懈。
隨著數(shù)據(jù)存儲成本的下降,許多企業(yè)正在保留不必要的數(shù)據(jù),或者在遷移或重組后清理過時或不再有用的數(shù)據(jù)。巴克利說:“人們不會回去清理垃圾,因為這是沒有成本的——除了你的風(fēng)險狀況和你的搜索性能下降”。他警告說,在不考慮數(shù)據(jù)衛(wèi)生的情況下引入GenAI功能,當(dāng)人們沒有做好準(zhǔn)備工作以使其最佳性能時,他們將感到幻想破滅。
當(dāng)微軟推出Delve時,同樣的問題也暴露了出來,在此之前,快速集成在2010年為SharePoint帶來了強大的搜索功能。他說:“當(dāng)我們開始看到搜索在SharePoint中真正起作用時,人們會抱怨它不能正常工作,但事實就是如此,它所做的是暴露出你對數(shù)據(jù)缺乏管理。我聽到人們說,‘這違反了我所有的許可’,不,它是在你有洞的地方浮出水面的,你想在你的數(shù)據(jù)中使用AI來擁有更強大的搜索能力,并且不確定你是如何企業(yè)這些數(shù)據(jù)的嗎?”
另一個問題是GenAI工具和用戶看不到應(yīng)該包括的信息,因為元數(shù)據(jù)標(biāo)記和敏感度標(biāo)簽沒有正確應(yīng)用到數(shù)據(jù)上。
無論哪種方式,管理不善的數(shù)據(jù)都會引發(fā)合規(guī)性和保密性問題,比如外部合作伙伴可以訪問Gen AI工具,該工具暴露了本應(yīng)僅在內(nèi)部提供的信息。畢竟,涉及更多外部用戶的項目需要仔細檢查正在訪問哪些信息,以及這種外部訪問是否仍然合適,例如,如果你是一家跨國公司,在法國的員工根據(jù)澳大利亞的養(yǎng)老金或育兒假政策從人力資源機器人那里獲取信息,即使是內(nèi)部使用也會造成混亂。
巴克利說:“如果你不知道你有什么內(nèi)容,它在哪里,誰可以在內(nèi)部和外部訪問它,什么被分享,以及它是如何標(biāo)簽的,你怎么能說你已經(jīng)準(zhǔn)備好治理AI呢。從治理的角度來看,你需要跟蹤人們在做什么,在哪里做,以及他們是如何做的,而這一點將會不斷發(fā)生變化?!?/p>
容器和證書
特權(quán)管理依賴于身份管理,這是另一個需要繼續(xù)關(guān)注的領(lǐng)域。隨著容器生態(tài)系統(tǒng)的發(fā)展,更多地采用Kubernetes需要新的技能,許多CIO仍在加快管理容器化應(yīng)用程序的環(huán)境,這些應(yīng)用程序與虛擬化有顯著差異 - 隨著企業(yè)決定如何應(yīng)對博通對VMware許可方式的重大變化,這一過渡可能會在今年加速。
IAM平臺提供商AppViewX的首席解決方案官Murali Palanisamy表示,這也意味著需要管理更多的機器身份。他說:“數(shù)字化轉(zhuǎn)型作為一個整體推動了互聯(lián)設(shè)備、云服務(wù)、原生云和集裝箱化應(yīng)用的使用顯著增加,所有這些額外的計算機、工作負載和服務(wù)都需要受信任的身份,這擴大了對計算機身份管理的需求。”
物聯(lián)網(wǎng)、軟件供應(yīng)鏈安全 - 尤其是通過代碼簽名來緩解這一需求 - 以及將你的數(shù)據(jù)用于GenAI正在增加對安全訪問所依賴的TLS證書和私鑰的使用。Palanisamy補充道:“每當(dāng)應(yīng)用程序或機器相互通信時,它們中的絕大多數(shù)都使用TLS證書來建立信任,向系統(tǒng)識別彼此的身份,以及安全地驗證和加密通信?!?/p>
他認為,保護這些機器身份至關(guān)重要,管理它們不能再是一個臨時的、手動的過程,特別是在谷歌提議將TLS證書的有效期從398天減少到90天的情況下,這需要更快的更替,還有其他監(jiān)管變化也需要注意:美國證交會2023年12月起的新網(wǎng)絡(luò)安全規(guī)則,歐盟擴大的網(wǎng)絡(luò)和信息系統(tǒng)指令(NIS2),以及全面轉(zhuǎn)變,使安全標(biāo)準(zhǔn)基于風(fēng)險,而不是像支付卡行業(yè)數(shù)據(jù)安全標(biāo)準(zhǔn)(PCI-DSS)更新到PCI 4.0那樣。
Palanisamy補充說,管理計算機身份也需要成為核心安全重點領(lǐng)域,依賴于自動化、自動注冊和取消配置來控制對私人和敏感數(shù)據(jù)的訪問?!爱?dāng)數(shù)據(jù)在傳輸過程中需要保護時,機器身份扮演著至關(guān)重要的角色”,他說,“隨著AI項目的發(fā)展,管理計算機身份對于確保信任以及安全的身份驗證和加密至關(guān)重要,這樣才能管理和控制對正確數(shù)據(jù)的正確訪問,從而確保敏感和私人數(shù)據(jù)的安全,人們很容易認為云項目的優(yōu)先級低于閃亮的新AI計劃”,但他表示,這些項目實際上是基礎(chǔ)性的。他補充道:“速度和敏捷性是AI項目成功的必要條件,因此從一開始,安全就需要融入到AI項目的底層云基礎(chǔ)設(shè)施中?!?/p>
成本控制
云服務(wù)的Finop和成本控制仍然是優(yōu)先事項,由于有如此多的GenAI使用依賴于云AI服務(wù)和API,CIO將希望考慮預(yù)算和自動化,特別是對于AI開發(fā)和實驗。
“如果你有100個人在做AI實驗,只有一個人忘了取消配置他們的實例,你就會收到賬單”,Mann說,還應(yīng)該監(jiān)視生產(chǎn)工作負載,看看你是否可以使用用于管理其他工作負載成本的相同策略和工具,縮減到更小的實例、更便宜的LLM或更低級別的許可?!肮芾鞢opilot不僅僅是權(quán)限管理”,他補充道,“人們想知道他們支付的許可證是否被使用了。”
正如其他云工作負載需要根據(jù)許可證和API調(diào)用為企業(yè)提供的價值來證明它們的成本是合理的一樣,GenAI項目也需要評估它們是否真的提供了它們承諾的工作效率提高和創(chuàng)新。
“我在等待第一位因讓AI運行太快、太久而被解雇的CIO”,曼恩說,這是CIO的基本攔截和處理紀(jì)律:我的投資組合是什么,有什么價值,我花了什么錢,我得到了什么,以及管理這些工作負載的利用率和質(zhì)量,這種ITSM、ITIL風(fēng)格的紀(jì)律和投資組合管理將會卷土重來,因為你肯定需要這種級別的紀(jì)律來應(yīng)對這種新的工作負荷。
但在其他領(lǐng)域,IT團隊將尋求增加預(yù)算和支出。
加速硬件更新
隨著Windows 10將于2025年到期,CIO將計劃在未來18個月內(nèi)遷移到Windows 11,默認情況下,要獲得承諾的安全改進,意味著投資于配備更新一代CPU的新PC,這些PC具有正確的指令,可以在不影響性能的情況下支持安全功能。
越來越多的此類設(shè)備將包括神經(jīng)處理單元(NPU)或類似的專用硬件,以加快設(shè)備上的AI工作負載,無論是實時編輯視頻通話還是在Windows 11中運行Copilot,但快速的硬件進步可能意味著CIO們需要為未來更短的硬件更新周期做預(yù)算,以保持最新,跟蹤哪些員工擁有合適的PC硬件的資產(chǎn)管理,可能是從AI獲得承諾的生產(chǎn)率提高的關(guān)鍵。
準(zhǔn)備好你的數(shù)據(jù)中心可能意味著更多的投資,這不僅僅是你能找到GPU的價格。雖然大多數(shù)LLM將在云中運行,并可通過API訪問,但要使GenAI工具對業(yè)務(wù)有用,需要將它們連接到你自己的數(shù)據(jù)源。
發(fā)展你的網(wǎng)絡(luò)架構(gòu)以減少延遲并安全地提供更好的連接 - 無論你是通過5G、Wi-Fi 6和7實現(xiàn)這一點,還是新興的衛(wèi)星連接 - 是支持混合和遠程工作的關(guān)鍵,但AI將進一步推動安全的邊緣計算和網(wǎng)絡(luò)需求。
此外,數(shù)據(jù)管理軟件公司Datadobi的產(chǎn)品營銷副總裁Steve Leeper表示,不斷下降的價格正在推動向全閃存對象存儲系統(tǒng)的過渡,提供數(shù)據(jù)庫性能,這將有利于處理需要快速吞吐量和可擴展性的AI工作負載所必需的大數(shù)據(jù)集,還將迎合永無止境的數(shù)據(jù)胃口和AI驅(qū)動的運營的快速訪問需求。
他補充說,總的來說,CIO需要考慮AI處理管道的硬件基礎(chǔ)設(shè)施,從AI處理的存儲數(shù)量和類別、互聯(lián)網(wǎng)絡(luò)和GPU場開始,還有數(shù)據(jù)處理:識別合適的數(shù)據(jù)集,在處理流水線上的點之間快速準(zhǔn)確地重新定位數(shù)據(jù) - 這意味著沒有靜默的數(shù)據(jù)損壞 - 并確保AI處理結(jié)果也被重新定位到適當(dāng)?shù)奈恢煤痛鎯︻悇e。
Leeper說,GenAI的數(shù)據(jù)集不會總是巨大的。“將會有大大小小的數(shù)據(jù)集”,他說,其中一些數(shù)據(jù)集包含關(guān)鍵數(shù)據(jù),根據(jù)企業(yè)的治理策略,這些數(shù)據(jù)需要使用本地資源進行處理,管理AI對這些數(shù)據(jù)集的訪問依賴于CIO非常熟悉的那種傳統(tǒng)IT基礎(chǔ)設(shè)施管理,因此,將對這些基礎(chǔ)設(shè)施的投資作為今年的優(yōu)先事項將對兩者都有回報。
“只有當(dāng)我們運用我們所擁有的紀(jì)律時,這些問題才能得到解決”,曼恩補充道,“但它們往往得不到解決,因為沒有人考慮到更長期的影響,所以沒有所有權(quán)”,但這種情況可能正在改變。2023年初,Gartner報告稱,只有15%的企業(yè)已經(jīng)擁有對數(shù)據(jù)進行分類和優(yōu)化的數(shù)據(jù)存儲管理解決方案,但該分析公司預(yù)計,到2027年,這一比例將至少升至40%。