在當今快速發展的數字環境中，人工智能毫無疑問將會重塑我們的世界，問題是如何重塑？從新手到經驗豐富的高管都在努力應對這一重大轉變，在努力挖掘人工智能的潛力的同時降低相關風險。OpenAI的ChatGPT已經在該領域引起轟動。我們驚嘆于它與人類一樣流利地對話，同時也不禁要問：我們能相信它嗎？

在我們應對這一重大轉變的過程中，對信息安全和風險防范的關注變得至關重要，尤其是在人工智能領域。這就是數字信任既迷人又復雜之處。在最近關于數據泄露和隱私問題的新聞報道中，數字信任和強大的信息安全從未如此重要。ChatGPT對數字互動的深刻影響迫使我們仔細研究數字信任的概念。

我們將通過檢查確保ChatGPT在道德和法律范圍內運行的機制，探討人工智能如何加強數字交互中的信息安全。此外，我們將考慮如何處理潛在的錯誤信息、偏見和隱私問題，以及如何使用ChatGPT識別網絡安全威脅和降低風險。最后，我們將研究人工智能時代先進的人工智能模型為數字信任帶來的機遇和挑戰。

圍繞ChatGPT和數字信任的對話都會影響到我們所有人，無論你是剛開始從事科技行業，還是經驗豐富的專業人士。所以，讓我們開始深入了解吧。

ChatGPT在數字身份驗證和欺詐檢測中的作用

隨著我們對數字互動領域的深入研究，有一點是明確的：信任已經成為一種關鍵貨幣。對于每個人，無論是行業新人或者是成熟的風險和安全專業人士，問題一直存在——我們如何確保與我們互動的數字身份是真實和值得信賴的？這是我們的AI主角ChatGPT的切入點。

復雜的驗證

ChatGPT可以提供更加動態、交互式的驗證過程。傳統的數字身份驗證方法通常依賴于靜態的二進制數據點，比如密碼或安全問題。然而，ChatGPT參與復雜對話的能力可能會帶來更先進的、基于對話的身份檢查。想象驗證過程中，系統可以根據先前的交互向用戶提出個性化的上下文問題。這將使惡意行為者很難冒充用戶，因為他們需要訪問大量特定的個人對話歷史，而不僅僅是一個密碼。

增強的欺詐檢測

ChatGPT的另一個亮點是欺詐檢測。人工智能模型可以快速準確地分析大量數據。當ChatGPT用于通信數據時，可能會識別出暗示欺詐活動的模式、異常或行為。例如，它可以識別用戶的通信方式是否發生了巨大變化——這是他們的帳戶遭到入侵的潛在跡象。ChatGPT還可以通過發現惡意鏈接或識別騙子語言的微妙之處幫助檢測網絡釣魚企圖。

然而，重要的是要記住，ChatGPT與任何人工智能應用程序一樣，在數字身份驗證和欺詐檢測方面的作用并非沒有挑戰。在我們應用這一令人興奮的前沿技術時，隱私問題、濫用的可能性以及維護人類監督的重要性都是必須解決的問題。

開發“可信的”人工智能：ChatGPT的倫理和法律考量

在數字和物理之間的界限不斷模糊的世界里，確保人工智能在道德和法律范圍內運行變得越來越重要。ChatGPT憑借其廣泛的功能，將“可信”的人工智能概念放在首位。

防范錯誤信息

開發“值得信賴”的人工智能的關鍵挑戰之一是確保其傳播的信息是準確的。利用ChatGPT龐大的語言模型，錯誤信息可能會漏洞百出。

解決偏見

另一個關鍵問題是偏見。由于人工智能模型從數據中學習，可能會無意中反映或放大現有的社會偏見。這意味著，必須完善提供給人工智能審查人員的指導方針以確保透明度。

確保隱私

隱私是值得信賴的人工智能領域的一個關鍵考慮因素。雖然ChatGPT的通用FAQ強調用戶不應在人工智能對話中共享任何敏感信息，但我們都應確保盡最大努力維護用于訓練模型的ChatGPT輸入和輸出的隱私性。

法律邊界

就法律邊界而言，人工智能技術的演變性質往往帶來挑戰，因為現有法律可能無法完全涵蓋這些新情況。因此，積極主動地與政策制定者、法律專家和整個社會接觸，對于塑造確保負責任的人工智能使用的法律框架至關重要。

為了確保像ChatGPT這樣的人工智能在未來值得信賴，很明顯，我們需要一種全面的方法：積極應對錯誤信息，持續努力最大限度地減少偏見，采取強有力的隱私措施，并參與制定法律框架。這個過程是一項集體努力，需要科技界所有人員的參與。在我們不斷創新的同時，還必須努力維持一個合乎道德和可靠的數字環境。

對網絡安全的影響：ChatGPT等人工智能技術的雙刃劍

在一個數字前沿不斷擴張和演變的世界里，維護網絡安全已成為一項日益復雜的任務。像ChatGPT這樣的人工智能技術可以為加強網絡安全提供什么樣的可能性將很有趣。然而，這些創新也帶來了必須面對的新挑戰。

識別威脅和緩解風險

ChatGPT的語言處理能力使其成為識別網絡安全威脅的潛在強大盟友。通過分析模式和檢測通信數據中的異常，可以幫助發現入侵、網絡釣魚企圖或不規則網絡行為的跡象。例如，使用機器學習模型分析大量的網絡流量數據可以幫助識別可能表明隱藏威脅的微妙模式。

挑戰和考量

然而，當我們在網絡安全中利用人工智能時，也必須意識到出現的新挑戰。首先，我們用來保護系統的工具也可能遭到惡意使用。例如，人工智能系統可以用來發起復雜的攻擊或生成深度偽造，從而導致確保人工智能操作的透明度和保持人類監督變得至關重要。

這是一個微妙的平衡。作為這個數字世界的管理者，我們必須繼續帶著創新者的好奇心和守門人的謹慎駕馭這個領域。

人工智能時代的數字信任：在ChatGPT及其他領域構建透明度、問責和道德

隨著人工智能繼續與我們的生活和業務交織在一起，“數字信任”概念變得越來越重要。這種信任——相信我們與技術的互動是安全、私密和可靠的——構成了所有成功的數字社會的基石。當我們部署像ChatGPT這樣的人工智能技術時，都可以在促進數字信任方面發揮作用。

透明度

人工智能的透明度是指將人工智能系統的工作方式清晰地傳達給用戶。例如，這意味著當ChatGPT響應查詢時，用戶應該理解它為什么給出那個特定的響應。這是為了確保人工智能不會成為一個“黑匣子”——一臺在沒有人理解它是如何得出這些結論的情況下接收數據并給出答案的機器。

問責

在人工智能的世界里，問責包括確保ChatGPT不會導致傷害或濫用。這意味著要采取措施糾正所造成的任何傷害，并從這些事件中吸取教訓。

道德考量

人工智能的道德與透明度和問責密不可分。合乎道德地部署ChatGPT意味著考慮其對社會和個人的潛在影響，如隱私問題、錯誤信息傳播和潛在偏見。道德考量有助于我們在人工智能的巨大潛在收益和可能帶來的風險之間找到界限。

建立信任基礎

從根本上說，顯然像ChatGPT這樣的工具在加強我們數字互動中的信息安全方面具有巨大潛力。在人工智能時代，保持對數字世界的信任是一個持續的過程，需要不斷關注和適應。這個過程包括提出棘手的問題，做出復雜的決策，以及作為一個技術社區進行合作。隨著我們繼續將ChatGPT等人工智能技術融入數字環境，讓我們專注于建立一個強大的信任基礎，促進創新，同時優先考慮每個參與者的安全和福祉。作為技術領域的專業人士，我們有責任以負責任和合乎道德的方式理解、適應和創新。讓我們繼續探索、質疑和學習，因為這就是技術之旅的意義所在，在加強信息安全方面尤其如此。

圖片

編者按: 本文于2023年7月19日首次發表于ISACA官網News and Trends/Newsletters/@isaca。文章內容僅代表作者本人觀點。

圖片

作者：Sampa David Sampa, CISA

翻譯：唐四寶（Jerry Tang），CISA， CDPSE，CZTP，ISACA微信公眾號特邀通訊員。

校對：姚凱（Kevin Yao），CISA，CISM，CRISC，CGEIT，CDPSE，ISACA微信公眾號特邀通訊員，關注IT安全，隱私保護和數字化。