事實上，生成式AI可能很快就會在整個企業(yè)的銷售、營銷、采購和供應鏈中大力支持人類決策。想想看，IBM方面已經宣布，將暫停招聘其首席執(zhí)行官認為AI可以填補的7800個當前和未來的職位。然而，盡管生成式AI存在巨大的潛力領域，但其在隱私、算法偏見甚至業(yè)務連續(xù)性方面也存在同樣重大的風險。

我一直在與其他領導人討論這些問題，特別是因為它們涉及管理供應商合規(guī)使用AI的安全和道德政策。根據這些對話，以下是領導團隊考慮的一些風險領域，以及針對采購團隊的一些常識性指導方針，以確保AI在道德、準確和安全的情況下運行。

風險

雖然與AI相關的風險數量可能還不完全清楚，但以下是一些已經浮出水面并亟需解決的問題：

1. 欺詐和AI魚叉式網絡釣魚

安全研究人員認為，ChatGPT正在引發(fā)一場騙局的“浪潮”。任何針對供應商(即使是很小的供應商)的騙局都可以用來損害其客戶的采購團隊。這一點可以參見2021年涉及SolarWinds和其他公司的攻擊，以了解受損的供應商如何影響下游的其他公司。

另一方面，供應商可能會擔心AI在采購過程中選擇獲勝供應商的準確性或公平性——客戶或黑客可能會操縱AI系統，使其偏袒某些供應商，而非其他供應商，這意味著可能會失去一份利潤豐厚的合同。

2. 盜竊知識產權

除非使用得當，否則輸入ChatGPT或其他生成式AI工具的數據可能會傳播給使用該服務的其他用戶或公司，從而暴露敏感的IP和“商業(yè)機密”。這可能會導致嚴重的法律后果——特別是考慮到歐盟的《通用數據保護條例》(GDPR)等法律——并可能損害公司的聲譽。作為回應，三星等一些公司已經禁止或暫停員工使用生成式AI技術，同時調查潛在風險。

3. 算法偏見

許多新的AI系統為供應商提供算法推薦。不幸的是，AI是根據歷史數據和過去的決策進行訓練的，其中可能包括對邊緣化供應商的(無意識的)偏見。如果數據中存在的偏見沒有得到妥善解決，AI可能會延續(xù)甚至加劇這些偏見，導致不公平的結果和潛在的法律責任。

目前，這些偏見正在影響使用AI進行招聘決策的公正性。為此，紐約剛剛通過了一項法律，要求公司對其自動招聘工具中的算法偏見承擔法律責任。

4. 供應中斷

在與供應鏈領導者的對話中，一些人擔心AI可能會檢測到或先發(fā)制人地對某種特定商品進行擠兌/搶購，并在搶購之前觸發(fā)一個自動購買周期，從而引發(fā)擠兌。很容易想象，隨著AI與監(jiān)控市場并為重復交易執(zhí)行購買周期的自主系統更加融合，試圖在價格飆升之前“戰(zhàn)勝市場”觸發(fā)供應短缺的風險可能會無意中造成供應中斷。

對于食品、燃料和藥品等類別，采購和供應管理團隊可能會感到痛苦，更不用說我們所服務的客戶和社區(qū)了。AI管理的庫存決策也可能導致意想不到的庫存水平——導致庫存減少、缺貨、物流成本增加、收入損失和客戶信心下降。

常識性指南

考慮到這些威脅，以及AI的發(fā)展速度，立即圍繞這項技術的使用制定一項常識性政策是有意義的。

在工作場所之外建立負責任的使用方式

不要假設所有員工都是“AI禁欲者”。提供關于提示(prompt)中應該和不應該包含哪些信息的指導，對于圍繞負責任的使用展開全面討論至關重要。用戶應該接受培訓，以有效地使用AI工具并解釋其輸出，并保持對AI局限性和潛在風險的認知。

與供應商間設立界限

無論您的團隊成員和供應商是否知道，事實是，放入ChatGPT的任何信息都可能被競爭對手和其他第三方訪問。IT團隊已經在競相建立規(guī)則，但他們往往只關注內部。

作為采購和供應鏈團隊，我們的工作是將這些期望傳達給我們的供應商合作伙伴。至少，提醒供應商始終實施數據匿名化和加密技術，以保護敏感信息。

組建專業(yè)團隊

對許多人來說，創(chuàng)造有效的“提示”是一項關鍵的新技能，所以可以考慮培訓團隊如何創(chuàng)造提示，甚至聘請“提示工程師”(prompt engineer)來優(yōu)化結果。

您可能還要考慮執(zhí)行程序來檢測和減輕AI數據和輸出中的偏見。這可能涉及偏見審計、公平指標和多樣化的訓練數據集。

討論自觸發(fā)(self-triggering)供應中斷

哪些商品類別可能容易受到“恐慌性購買”的影響?其他市場參與者是如何應對這一挑戰(zhàn)的?

這些都是戰(zhàn)略關注的主題，無論AI是被您的公司還是被市場上的其他買家/賣家使用，這些問題都將至關重要。作為一種預防措施，建議現在就開始與您的團隊進行這些類型的對話。

防護機制的未來演變

隨著技術的進步和業(yè)務實踐的改變，圍繞AI的風險和法律限制將繼續(xù)演變。考慮一下未來可能需要對AI功能進行哪些增強，以實現更高級的功能，如預測分析、更多語言的自然語言處理、偏見審計和高級欺詐檢測。

現在有很多關于AI的炒作，對許多采購和供應鏈領域的人來說，這并不是什么新鮮事。然而，這些模型只會變得越來越好，而且改進的速度從未如此之快。如果我們在這項技術加速之前沒有進行內部討論，形成明確的界限和具體的意圖，我們可能會被AI本身產生的想法和建議所困。