譯者 | 布加迪

審校 | 孫淑娟

機(jī)器學(xué)習(xí)（ML）并不是神奇的技術(shù)。通常來說，ML適合在擁有龐大數(shù)據(jù)集的情況下解決范圍狹窄的問題，受關(guān)注的模式具有高度可重復(fù)性或可預(yù)測性。大多數(shù)安全問題不需要ML，也并不得益于ML。包括谷歌人員在內(nèi)的許多專家建議，在解決復(fù)雜問題時(shí)，應(yīng)該在用盡所有其他方法后再試用ML。

ML結(jié)合一系列廣泛的統(tǒng)計(jì)技術(shù)：即使我們沒有提前為正確答案編好程，ML也讓我們可以訓(xùn)練計(jì)算機(jī)來估計(jì)解決問題的答案。如果精心設(shè)計(jì)的ML系統(tǒng)用來處理合適類型的問題，可以發(fā)掘原本無法獲得的洞察力。

每家組織的IT環(huán)境有不一樣的用途、架構(gòu)、優(yōu)先級和風(fēng)險(xiǎn)承受力。不可能創(chuàng)建在所有場景下廣泛支持安全用例的算法、ML或其他產(chǎn)品。這就是為什么ML在安全領(lǐng)域的大多數(shù)成功應(yīng)用結(jié)合了多種方法來解決一個(gè)非常具體的問題。典型例子包括垃圾郵件過濾器、DDoS或僵尸程序（bot）緩解以及惡意軟件檢測。

1.垃圾進(jìn)垃圾出

ML的最大挑戰(zhàn)是擁有相關(guān)的可用數(shù)據(jù)來解決實(shí)際問題。對于監(jiān)督式ML而言，您需要一個(gè)正確標(biāo)記的大型數(shù)據(jù)集。比如說，要構(gòu)建一個(gè)識別貓照片的模型，需要拿許多標(biāo)記為“貓”的貓照片和許多標(biāo)記為“非貓”的非貓照片來訓(xùn)練模型。如果您沒有足夠的照片或者它們的標(biāo)記不準(zhǔn)確，模型的效果就不會很好。

在安全方面，一個(gè)著名的監(jiān)督式ML用例是無特征惡意軟件檢測。許多端點(diǎn)保護(hù)平臺 （EPP）供應(yīng)商使用ML來標(biāo)記大量惡意樣本和良性樣本來訓(xùn)練模型，知道“惡意軟件是什么樣子”。這些模型可以正確識別規(guī)避性變異惡意軟件及其他詭計(jì)（文件被篡改后，可以規(guī)避特征檢測方法，但仍然是惡意的）。ML并不匹配特征，而是使用另一個(gè)特征集預(yù)測惡意內(nèi)容，常常可以逮住基于特征的方法所疏漏的惡意軟件。

由于ML模型是概率性的，因此需要取舍。ML可以逮住特征方法所疏漏的惡意軟件，但也可能疏漏特征方法逮住的惡意軟件。這就是為什么現(xiàn)代EPP工具使用混合方法，結(jié)合ML和基于特征的技術(shù)，以實(shí)現(xiàn)最大保護(hù)范圍。

2.誤報(bào)問題

即使模型精心設(shè)計(jì)，ML在解釋輸出時(shí)也會帶來一些另外的挑戰(zhàn)，包括：

• 結(jié)果是概率。ML 模型輸出的是可能性。如果您的模型旨在識別貓，會得到類似“這東西80%的可能性是貓”的結(jié)果。這種不確定性是ML系統(tǒng)的固有特征，可能會使結(jié)果難以解釋。80%的可能性是貓夠準(zhǔn)確嗎？
• 模型無法調(diào)整，至少最終用戶無法調(diào)整。為了處理概率性結(jié)果，工具可能由供應(yīng)商設(shè)置的閾值，將它們處理成二進(jìn)制結(jié)果。比如說，貓識別模型可能會報(bào)告任何可能性>90%的“貓”都是貓。貴企業(yè)在這方面的容忍度可能高于或低于供應(yīng)商設(shè)置的容忍度。
• 漏報(bào)（FN），即未能檢測出真正的惡意內(nèi)容，這是ML模型的一大弊端，尤其是調(diào)整欠佳的模型。我們不喜歡誤報(bào)（FP），因?yàn)樗鼈兝速M(fèi)時(shí)間。但PF 率和FN率之間存在固有的取舍。調(diào)整ML模型以優(yōu)化這種取舍，優(yōu)先考慮FP率-FN率的“最佳”平衡。然而，“正確”的平衡因組織而異，取決于它們各自的威脅和風(fēng)險(xiǎn)評估。使用基于ML的產(chǎn)品時(shí)，必須信任供應(yīng)商為您選擇適當(dāng)?shù)拈撝怠?/li>
• 沒有足夠的上下文進(jìn)行警報(bào)分類。ML的一部分魔力在于，從數(shù)據(jù)集提取顯著的預(yù)測性但任意性的“特征”。想象一下，識別一只貓恰好與天氣高度相關(guān)。沒有人會這樣推理。但這就是ML的重點(diǎn)——找到我們原本無法找到的模式，并且大規(guī)模地這么做。即使預(yù)測的原因可以暴露給用戶，它在警報(bào)分類或事件響應(yīng)情況下常常毫無幫助。這是由于最終定義ML系統(tǒng)決策的“特征”對預(yù)測能力進(jìn)行了優(yōu)化。

3.任何其他名稱的“統(tǒng)計(jì)”方法

聽起來都很美嗎？

除了ML的利弊外，還有一個(gè)地方要注意：并非所有的“ML”都是真正的ML。統(tǒng)計(jì)方法可以為您提供有關(guān)數(shù)據(jù)的一些結(jié)論。ML根據(jù)您擁有的數(shù)據(jù)對您沒有的數(shù)據(jù)進(jìn)行預(yù)測。營銷人員熱衷于蹭“ML”和“人工智能”的熱度，號稱這是某種現(xiàn)代、創(chuàng)新、先進(jìn)的技術(shù)產(chǎn)品。然而，人們常常很少考慮這項(xiàng)技術(shù)是否使用ML，更不用說ML是否是正確的方法。

4.ML能檢測出惡意內(nèi)容嗎？

當(dāng)“惡意內(nèi)容”定義明確且范圍狹窄時(shí)，ML可以檢測出。它還可以檢測出與高度可預(yù)測的系統(tǒng)中的預(yù)期行為相偏差的情況。環(huán)境越穩(wěn)定，ML越有可能正確識別異常。但并非每個(gè)異常都是惡意的，操作人員并不總是有足夠的上下文來響應(yīng)。

ML的強(qiáng)大功能在于增強(qiáng)而不是代替現(xiàn)有方法、系統(tǒng)和團(tuán)隊(duì)，以實(shí)現(xiàn)最佳覆蓋范圍和效率。

原文鏈接：https://www.darkreading.com/vulnerabilities-threats/the-beautiful-lies-of-machine-learning-in-security