訓練一個人工智能(AI)模型看起來似乎很簡單，但事實并非如此。要成功、安全地駕馭AI模型并不容易，這是一段充滿了許多不確定因素和潛在陷阱的旅程，隨時都可能導致錯誤的輸出、低效的資源使用，甚至引發重大的安全事件。

安全研究人員表示，只有通過對細節的敏銳觀察，對道德實踐的承諾，以及對先進技術的有力掌握，我們才可以創造出安全、高效、道德的AI解決方案。企業是在AI項目開發和實施過程中，必須規避以下10種類型的錯誤。

1、糟糕的數據預處理

AI模型的開發需要高質量的數據進行訓練，如果數據的質量無法保證，那么AI模型很可能就會出錯。不完整的用戶數據、錯誤填充的數據以及未更新的過期數據都可能會讓AI模型產生錯誤的結果，難以實現對數據的深入理解，無法捕捉到數據的潛在屬性，進而導致糟糕的用戶體驗和潛在的應用風險。

2、模型評估不準確

除了高質量的數據，選擇正確的開發模型也很重要。AI項目開發人員需要確保使用正確的模型，并理解哪種模型最適合什么解決什么問題。例如，如果一家銀行使用AI模型來預測客戶貸款的違約概率，應用程序往往會根據歷史客戶的準確性對其進行訓練。但如果銀行只把準確性作為唯一的績效衡量標準是遠遠不夠的。模型應該結合使用其他性能指標，如精確召回率和F1分數等，進行交叉驗證和AUC-ROC分析，以確定模型評估結果(默認和非默認)的可靠性。

3、模型對齊(Alignment)不準確

開發人員通常會基于一些關鍵性技術指標(如準確性、精確度、召回率或F1分數)來優化模型，但是這些指標中很多都沒有與業務指標(如創收、成本節約、客戶滿意度或風險降低)直接相關。然而大量實踐表明，將技術性AI指標與業務性AI指標保持一致對于實現預期的業務成果至關重要。

以信用卡欺詐檢測模型為例，僅僅強調模型的準確性或F1分數，可能會導致更多的警告交易出現。這會導致大量誤報的出現，很多合法交易會被錯誤地標記為欺詐。這將產生嚴重的業務影響，降低了AI應用系統的實際可用性。

4、忽視數據隱私

在AI項目開發過程中，數據隱私保護是一個非常敏感的問題，需要額外的關注和重視，尤其是AI模型中包含有未成年人的數據時，問題就更復雜了。例如，針對青少年的一些借記卡選項，銀行必須確保其安全標準符合監管合規要求。所有以任何形式或途徑收集客戶信息的公司都需要制定數據保護政策。這樣，客戶就可以知道組織如何處理他們的數據。然而，用戶如何知道他們的數據是否流入了人工智能算法的應用中?很少(或者可以說幾乎沒有)有開發人員會關注這些信息。

我們正在步入人工智能驅動的時代，對于個人來說，了解企業如何使用人工智能、人工智能的功能及其對數據的影響將變得非常重要。企業組織必須定期進行安全審計，并在人工智能開發的所有階段實施強有力的數據保護實踐。隱私風險可能發生在數據生命周期的任何階段，因此為所有利益相關者制定統一的隱私安全策略非常重要。

5、擴展能力不足

今年初，當ChatGPT剛推出的時候，在短短兩個月內就擁有了1億用戶。然而OpenAI公司并沒有預料到用戶數的激增，導致很多用戶難以正常訪問該服務。AI模型的應用通常會令人興奮，在系統上線后可能在一夜之間就迅速傳播開來，有數千甚至數百萬用戶會同時訪問這個系統。如果我們沒有為這種快速的應用規模擴展做好計劃，AI模型將無法跟上節奏并導致資源過載。因此，從一開始就做好AI模型的實時擴展計劃是非常重要的。要考慮該模型將如何處理大量用戶，確?；A設施能夠處理激增的數據處理，并管理好不斷增加的存儲需求。

6、模型訓練過度

眾所周知，AI模型需要通過大量的數據進行訓練，然而在訓練AI應用模型時，過多的數據訓練也會導致過擬合(overfitting)情況的出現。過擬合是指在訓練集上達到比較高的精度，但是在實際測試中的精度卻很低，也就是缺少泛化能力(指對訓練數據以外的數據難以做出準確分析)。當AI模型部署應用后，數據量會日新月異，重新訓練模型的時間成本和資金花費都是不可接受的。對AI模型而言，要避免大量的重復訓練，而是要通過不斷地更新模型參數來適應不斷變化的數據分布，從而不斷提高模型的可用性。

7、用非真實的數據訓練

當研究人員訓練和測試AI模型時，他們經常使用干凈、標記良好的數據集，且通常不反映真實世界的數據分布。因此，結果在表面上看起來令人印象深刻，因為模型在測試數據上表現良好，測試數據與訓練數據共享相同的分布。這被稱為“分布內”(in-distribution)性能。然而，在現實場景中，AI模型所獲取的數據會與它所訓練的數據有明顯不同。這些數據可能比較嘈雜，也沒有清晰的標簽和特征。因此，當AI模型部署實際部署應用時，它的性能往往會顯著降低。這被稱為“分布外”(out-of-distribution)性能。而實際上，企業需要面對“分布外”數據也能保持高性能的AI模型。

8、算法偏見

算法偏見(Bias)是AI模型應用中所面臨的一個主要問題。AI模型算法和機器學習程序應該是客觀和公正的，但事實卻并非如此。因為人工智能模型是由人類訓練的，所以它們會繼承人類的偏見。當算法由于訓練數據或模型設計方式的潛在偏見而產生系統性錯誤或不公平決策時，就會出現偏見。如果不檢查人工智能模型是否存在偏見，它可能會系統性地使某些數據點處于不利地位。對抗偏見的一個有效方法是制定指導方針和規則，并不斷監督和審查，以確保算法偏見的影響是已知和可掌控的。

9、忽略模型的可理解性

為了讓AI模型得到充分的信任，其決策的原理必須要透明。因此，對于維護AI模型倫理來說，這需要是可理解和可解釋的。科學家們一直致力于使復雜的AI模型(如深度神經網絡)更加透明和可理解。他們提出了一些技術來幫助解釋為什么這些模型會做出某些決定。事實上，維護透明度和確保AI模型易于理解的最佳方法是維護完整的開發文檔。該文檔應包括用于訓練AI模型數據的詳細信息，這有助于使用者更清晰地理解人工智能模型，并為其決策過程注入信心。

10、忽視持續性監測

隨著日常數據和底層模式的變化，AI模型的算法可能會過時或不那么準確。這些變化可能源于不斷變化地消費者行為、市場趨勢演變、競爭格局的變化、法規政策的修改等因素。這種現象也被稱為“概念漂移”(concept drift)。因此，持續性地監控AI模型的性能表現和準確性是至關重要的。盡管該模型最初可能提供了準確的預測，但隨著時間的推移，由于上述現實數據的變化，其準確性可能會顯著降低。

為了解決這樣的問題，公司需要根據實際需求持續跟蹤模型的輸出，并實時監控性能指標。此外，應用增量學習技術也是至關重要的。這種方法使模型能夠從新數據中學習，同時保留從以前觀察到的數據中獲得的有價值的知識。通過采用這些策略，企業可以有效地適應概念漂移，并確保對AI模型應用需求的準確把握。

參考鏈接：

https://dzone.com/articles/dont-make-these-mistakes-in-ai-development。