人工智能技術還是以美國為第一梯隊，美國越是防備什么，我們可以理解美國就在做什么，所以美國在防備人工智能虛假信息和錯誤信息過程中，大張旗鼓不遺余力里的樣子，我們不難想象美國在這塊已經(jīng)制造了大量的虛假信息。那么，我們看看美國有關媒體對這塊的探討。

隨著最近的美國總統(tǒng)行政命令以及在英國布萊奇利公園舉行的人工智能安全峰會，人工智能的發(fā)展繼續(xù)成為世界各地的頭條新聞。

人工智能最近的快速崛起在許多積極方面繼續(xù)改變游戲規(guī)則，盡管我們?nèi)蕴幱谄錆摿Φ倪吘墶Ｒ郧半y以想象的新型醫(yī)療、更安全、更清潔和更一體化的公共交通、更快速和準確的診斷以及環(huán)境突破都在當今人工智能的可信承諾之內(nèi)。然而，在這場革命中，陰影籠罩著。

頭部國家都毫不掩飾他們“贏得人工智能競賽”的愿望，目前和承諾的人工智能研發(fā)投資從數(shù)億到數(shù)十億美元不等。當被問及人工智能領域的主要參與者時，OpenAI、IBM 和蘋果等公司可能是最受關注的公司，但我們不應該忘記，每個亞馬遜都有一個阿里巴巴，每個微軟都有一個百度，每個谷歌都有一個 Yandex。國家、活動人士和高級威脅行為者不可避免地會利用人工智能的力量來加強虛假信息活動。

人工智能的發(fā)展為在線傳播錯誤和虛假信息的創(chuàng)新方法鋪平了道路。從制造虛假網(wǎng)絡攻擊和破壞事件響應計劃，到操縱用于自動化的數(shù)據(jù)湖，人工智能驅(qū)動的虛假信息活動可能會暴露或?qū)σ呀⒌陌踩到y(tǒng)和流程造成嚴重破壞。想象一下，虛假內(nèi)容的數(shù)量和質(zhì)量呈指數(shù)級增長，人工智能驅(qū)動的數(shù)字角色大軍的創(chuàng)建和自動化，充滿了豐富而無辜的背景故事來傳播和放大它，以及預測分析來識別最有效的情感杠桿點利用來制造混亂和恐慌。

這一趨勢對網(wǎng)絡安全從業(yè)者構成了重大威脅，要求安全團隊應對利用人工智能欺騙、操縱和制造混亂的新興技術。后真相社會需要一種后信任的方式來對待真相。

人工智能驅(qū)動的虛假信息技術的影響是多方面的，包括：

• 破壞事件響應計劃：通過制造虛假的外部事件或模擬網(wǎng)絡攻擊，使用人工智能的威脅行為者可能會誤導安全團隊，導致資源分配不當、響應程序混亂，并暴露或損害事件緩解策略的有效性。
• 操縱數(shù)據(jù)以獲取錯誤信息：可以利用人工智能來篡改用于自動化的數(shù)據(jù)湖。通過注入虛假數(shù)據(jù)、生成大量有毒數(shù)據(jù)或操縱現(xiàn)有信息，威脅行為者可能會損害數(shù)據(jù)驅(qū)動決策過程的完整性和可靠性，從而導致錯誤的結論或錯誤的自動化。如果偽造的數(shù)據(jù)滲透到這些系統(tǒng)中，可能會破壞自動化流程的可靠性和完整性，從而導致災難性的結果。
• 信任和信心的侵蝕：人工智能驅(qū)動的虛假信息的傳播侵蝕了對信息系統(tǒng)的信任，并削弱了對數(shù)據(jù)和安全措施準確性的信心。這可能會產(chǎn)生深遠的后果，不僅影響技術系統(tǒng)，還會破壞公眾對機構、公司和整體網(wǎng)絡安全基礎設施的信任。

安全團隊在打擊這些人工智能驅(qū)動的虛假信息活動時面臨著巨大的挑戰(zhàn)，而人工智能工具的復雜性也構成了重大障礙。人工智能技術的進步使威脅行為者能夠創(chuàng)建高度復雜且真實的虛假信息活動，這使得安全系統(tǒng)難以區(qū)分真實信息和捏造信息。這就像大海撈針一樣，人工智能技術發(fā)展的速度加劇了這種情況。隨著人工智能技術的快速發(fā)展，安全團隊需要迅速適應不斷變化的環(huán)境，需要不斷學習、開發(fā)新的防御機制，并及時了解最新的人工智能驅(qū)動的威脅。

目前，人工智能缺乏全面的監(jiān)管框架和標準化實踐，特別是在網(wǎng)絡安全方面，這留下了空白，使得很難減少人工智能在虛假信息活動中的濫用。

為了應對這些威脅，安全團隊必須采取日益創(chuàng)新的策略。人工智能驅(qū)動的防御機制，例如采用能夠識別和消除人工智能生成的惡意內(nèi)容的機器學習算法，是至關重要的。人工智能工具可以攝取并理解表征整個組織的大量不同數(shù)據(jù)，建立合理的基線并對潛在的操縱發(fā)出警報。人工智能或許為構建能夠在如此規(guī)模下運行的有效數(shù)據(jù)完整性模型提供了最佳機會。同樣，人工智能可以充當外部哨兵，監(jiān)控新生內(nèi)容、活動或情緒，并推斷出對您的業(yè)務可能或潛在的威脅。

考慮防御如何從人工智能驅(qū)動的數(shù)據(jù)收集、聚合和挖掘功能中受益。正如潛在的攻擊者從偵察開始一樣，防御者也可以這樣做。對組織和行業(yè)周圍信息空間的持續(xù)監(jiān)控可以作為高效的預警系統(tǒng)。

教育和意識也發(fā)揮著關鍵作用。通過不斷對安全專業(yè)人員進行有關最新人工智能驅(qū)動威脅的培訓和更新，他們可以更好地適應不斷變化的挑戰(zhàn)。網(wǎng)絡安全社區(qū)內(nèi)部的協(xié)作在這里至關重要——分享見解和威脅情報可以建立統(tǒng)一戰(zhàn)線來對抗這些不斷適應的對手，而培養(yǎng)批判性思維技能使安全團隊能夠更有效地識別和阻止虛假信息活動。

保持持續(xù)的警惕和適應能力是應對這些威脅的另一個關鍵。從過去的事件（例如通過社交媒體錯誤信息活動操縱公眾輿論）中汲取教訓，強調(diào)需要采取靈活的方法，不斷更新協(xié)議以有效應對新出現(xiàn)的威脅。虛假信息的有效性部分來自于其“震撼因素”。假新聞可能如此嚴重，而且危險似乎如此迫在眉睫，以至于人們可能會以不太協(xié)調(diào)的方式做出反應，除非他們提前做好準備。在這種情況下，對您的企業(yè)最有可能受到打擊的虛假信息類型進行一些“預先掩飾”會非常有幫助。這將幫助您的員工為某些異常情況做好心理準備，并更好地準備采取適當?shù)暮罄m(xù)措施。

安全領導者應在 IT、OT、PR、營銷和其他內(nèi)部團隊之間發(fā)起對話，以確保他們知道在發(fā)現(xiàn)虛假信息時如何有效協(xié)作。一個簡單的例子就是將虛假信息練習納入桌面討論或定期團隊培訓中。

人工智能在提供看似無限的可能性的同時，也讓我們面臨新的漏洞。人工智能驅(qū)動的虛假信息的興起對社會辨別事實與虛構的能力提出了巨大的挑戰(zhàn)。反擊需要采取全面的方法。通過采用將技術進步與批判性思維技能、協(xié)作和持續(xù)學習文化相結合的戰(zhàn)略，組織可以更有效地防范其破壞性影響。