大家好，我是肆〇柒，在AI飛速發展的時代，AI 智能體自主性已成為一個備受矚目的焦點。一方面，它能夠為我們帶來前所未有的創新應用，極大提升工作效率和生活便利性；另一方面，若不當使用，也可能引發一系列難以預料的風險。隨著大型語言模型（LLM）等前沿 AI 技術的飛速進步，AI 智能體的自主性不再是停留在科幻小說中的情節，它已逐漸走進現實，引起了大家的廣泛關注和深入探討。

本文的核心就是深入探討 AI 智能體的自主性，探討如何將其作為一種有意識、有節制的設計決策。為此，研究者將引入一個全面且細致的五級自主性框架，目的是為開發者提供一個清晰的指引，使其能夠根據不同智能體的目標用途以及期望的用戶體驗，精準地校準智能體的自主性水平，在創新與風險之間找到最佳的平衡點。

為 AI Agent 定義了五個自主性層級，這些層級圍繞"用戶"（無論是人類還是人工智能）在基于任務的環境中與Agent交互時可能承擔的角色而展開。完整的框架文內表格

幾個核心概念

AI 智能體與用戶

AI 智能體，引用 Stuart Russell 和 Peter Norvig 的經典定義（見參考資料），是能夠通過傳感器感知環境并通過效應器在環境中執行動作的實體。如今的 AI 智能體，尤其是那些具備多模態能力和強大推理能力的高級智能體，已經能夠在計算機環境中自如地導航，執行諸如獲取網頁信息、在用戶界面中點擊按鈕等復雜操作，這使得它們能夠為人類如何更好地與這個世界互動的全新方式。

用戶，這一概念在 AI 系統中也很重要。用戶既可以是人類個體，也可以是其他 AI 系統，他們是向智能體發出初始服務請求的實體。在復雜多變的多智能體系統中，用戶的角色可能會發生靈活的轉換。例如，你可以設想一個人類用戶向聊天機器人咨詢醫療問題的場景：人類用戶向聊天機器人發起請求，此時人類是聊天機器人的用戶；而聊天機器人為了回答問題，又會向具備醫學知識的專業智能體發起查詢請求，這時聊天機器人就成為了醫學知識智能體的用戶。這種角色的轉換，凸顯了 AI 系統中用戶定義的靈活性和多維性，也為智能體的設計和交互模式帶來了新的挑戰和機遇。

代理性與自主性

代理性，從本質上來說，是采取有意圖行動的能力。這種意圖可能源于智能體對周圍環境的外部觀察，也可能是其內在價值觀的體現。一個具備代理性的智能體，能夠基于自身的目標和所處的環境，主動地發起行動，而不是被動地等待指令。例如，自動駕駛汽車可以根據路況主動調整速度和路線，智能客服機器人可以根據用戶的問題主動提供解決方案，這些都是代理性在實際場景中的體現。

自主性，則有所不同，它指的是 AI 智能體被設計為在多大程度上無需“用戶”參與而運行。注意，這里的“用戶”可以是人類，也可以是另一個 AI 系統。關鍵在于，自主性是一種設計決策，開發者可以通過對模型架構的精心設計以及對用戶界面的巧妙限制，來塑造智能體的行為模式，決定它在執行任務時對用戶依賴的程度。例如，一個完全自動化的生產線機器人可以獨立完成生產任務，無需人工干預，這體現了高自主性；而一個需要人類操作員實時監控和干預的無人機系統則具有較低的自主性。

高代理性智能體，在不同自主性級別下，其行動意圖和能力的發揮（代理性）會受到自主性級別的顯著影響。在低自主性級別（如一級和二級），智能體的行動意圖雖豐富，但行動范圍受限，需頻繁等待用戶指令，其代理性優勢難以充分發揮。例如，一個智能客服機器人如果每次回答問題都需要人工審核，其代理性能力就會被大幅削弱。隨著自主性級別的提升（如三級及以上），智能體行動范圍擴大，可在更大程度上依據自身意圖行動，代理性優勢逐漸顯現。例如，自動駕駛汽車在高自主性模式下，可以根據復雜的路況自主決策，而無需頻繁的人類干預。

同時，自主性級別的變化也會反作用于智能體的代理性目標實現。比如，當智能體從二級自主性升級到三級自主性時，其行動自主權的增加要求其代理性目標更具前瞻性和全局性，以適應更為復雜的任務環境和更少的用戶干預。例如，一個智能物流機器人在低自主性模式下可能只需要完成簡單的貨物搬運任務，而在高自主性模式下則需要規劃最優路徑、處理突發情況，并與其他機器人協同工作。

盡管代理性和自主性是兩個不同的概念，但它們之間存在著緊密的聯系，共同影響著智能體的行為表現。一個智能體可能具有高代理性，即具備豐富的行動意圖和強大的行動能力，但如果開發者在設計時要求它在每次行動前都必須咨詢用戶，那么它的自主性就會相對較低。相反，一個自主性很高的智能體，可能在執行任務時較少地依賴用戶，但這也并不意味著它一定具備高代理性，因為其行動意圖和行動范圍可能受到嚴格限制。例如，一個簡單的自動化清潔機器人可能具有高自主性，但其行動意圖可能僅限于重復的清潔任務，缺乏復雜環境下的決策能力。

這種差異性為智能體的治理提供了兩種不同的調節手段，開發者可以根據具體的應用場景和需求，分別或聯合調整智能體的代理性和自主性，以實現最優的設計目標。例如，在需要高度可靠性和安全性的場景中，可以降低智能體的自主性，增加人工干預；而在追求效率和獨立性的場景中，則可以提高自主性，充分發揮智能體的代理性能力。通過這種靈活的設計和調整，智能體可以更好地適應不同的任務需求和環境條件。

五級自主性框架解讀

一級自主性：用戶作為操作員

在一級自主性這一基礎層級，用戶始終牢牢掌控著全局，智能體僅在被召喚時才提供必要的支持。所有的長期規劃以及關鍵決策都由用戶負責制定，智能體在這個過程中扮演著輔助工具的角色，隨時待命，等待用戶發出具體的指令。這種模式下，用戶就像是一個經驗豐富的船長，而智能體則是船上的得力水手，船長下達命令，水手執行操作，緊密協作，共同推動任務的前行。

這種自主性級別的應用場景主要集中在那些對專業知識要求極高且決策風險較大的領域。例如，在學術研究領域，研究人員在探索復雜的科學問題時，需要借助智能體來處理大量的文獻資料、進行數據分析等繁重的工作。但研究的方向、實驗的設計以及結果的解讀等關鍵環節，都由研究人員親自把控。又如在金融投資領域，投資者在做出投資決策時，會利用智能體來分析市場行情、計算風險收益等，但最終的投資決策依然由投資者自己慎重做出，因為任何一個小的失誤都可能導致巨大的經濟損失。

以用戶請求智能體幫助理解“生成式 AI”對美國經濟影響為例，一級自主性智能體的表現如下：當用戶提出這一請求時，智能體并不會主動地去規劃整個研究流程，而是靜候用戶的進一步指示。用戶需要先將這個大任務分解成一個個小的可執行步驟，比如先搜索相關文獻、再分析經濟數據、最后撰寫研究報告等。智能體根據用戶的指令，依次執行這些步驟。在用戶打開網頁瀏覽器并導航至搜索引擎時，智能體敏銳地捕捉到這一操作，并迅速建議一些與生成式 AI 在美國應用相關的搜索關鍵詞；當用戶閱讀到關鍵的經濟報告時，只需一鍵點擊或通過快捷鍵操作，智能體就能立刻為用戶提供快速的總結；后續用戶下載相關數據集并打開代碼編輯器進行數據處理和可視化時，智能體緊跟用戶的操作步伐，在代碼編輯器中貼心地提供代碼自動補全功能。在整個過程中，智能體始終緊密跟隨用戶的思路和節奏，確保用戶對整個研究流程擁有絕對的掌控權。

然而，開發有效的 L1 智能體并非易事，開發者需要思考諸多關鍵問題。例如，如何精準地界定長短規劃的邊界？在復雜的任務中，哪些部分應該由用戶進行長期規劃，哪些部分可以交給智能體進行短期規劃？此外，智能體如何可靠地檢測到需要偏好決策的場景？畢竟，在許多情況下，決策往往涉及到用戶的主觀判斷和價值觀，智能體必須能夠敏銳地察覺到這些時刻，并及時將決策權交還給用戶，以確保任務的執行既符合用戶的真實意圖，又能在專業領域內保持嚴謹性和準確性。

二級自主性：用戶作為協作者

當智能體的自主性提升至二級時，用戶與智能體之間的關系轉變為緊密的協作伙伴關系。雙方不再是簡單的指令下達與執行關系，而是共同參與到任務的規劃、任務的分配以及任務的執行過程中。這種模式下，用戶和智能體各自發揮自己的優勢，相互補充，相互促進，共同推動任務的高效完成。

在二級自主性下，任務分配變得尤為關鍵。用戶不再需要事無巨細地安排每一個操作步驟，而是可以根據智能體的優勢和劣勢，將任務合理地分配給智能體。例如，在醫療診斷場景中，醫生（用戶）可以將影像資料的初步分析任務分配給智能體，利用智能體快速處理大量數據的能力，篩選出可能存在異常的影像；而對于最終的診斷結論以及治療方案的制定，則由醫生親自負責，結合智能體的分析結果以及醫生自身的臨床經驗，做出全面、準確的判斷。同時，智能體在整個執行過程中保持高度的透明度，及時向用戶反饋任務的進展情況以及遇到的障礙，確保醫生用戶能夠實時掌握任務動態，及時調整策略。

在復雜任務環境下，二級自主性智能體需具備強大的任務分解與優先級排序能力。面對多步驟、多分支的復雜任務，智能體應能將其分解為多個子任務，并依據任務緊急程度、資源需求和用戶目標優先級進行排序。同時，智能體應實時監控任務執行情況，當出現異常或偏離預期時，及時與用戶溝通并調整任務計劃。此外，智能體還應具備一定的容錯能力，對于非關鍵任務的小幅偏離或失敗，能夠自主決策是否繼續嘗試或調整策略，而非立即尋求用戶介入。

以用戶與智能體協作完成經濟影響研究報告為例，二級自主性智能體的協作過程如下：智能體首先主動地對用戶的請求進行分析，并迅速起草一份初步的行動計劃。這份計劃涵蓋了從文獻搜索、數據收集到報告撰寫等多個環節，為用戶提供更清晰的工作藍圖。用戶收到計劃后，仔細審查并根據自己的專業知識和實際經驗對其進行修改和完善，比如增加或刪除某些研究步驟，調整研究的重點方向等。在任務分配環節，用戶將報告閱讀和總結任務放心地交給智能體，而自己則專注于更具創造性的工作——提出研究假設并進行深入的數據分析。智能體和用戶分別在自己的任務領域內并行工作，同時保持緊密的溝通。當智能體在執行任務過程中遇到障礙，如無法訪問某些付費文獻時，會第一時間通知用戶，并提供詳細的障礙信息。用戶根據智能體反饋的情況，做出決策，如是否購買文獻訪問權限等。在整個協作過程中，用戶可以隨時查看智能體的工作成果，并對其進行修改和調整，雙方共同推進報告的撰寫工作。

在這種模式下，開發者面臨著一系列新的設計挑戰。如何設計出高效、便捷的通信協議和用戶界面，以促進用戶與智能體之間的緊密協作？畢竟，良好的溝通是高效協作的基礎，只有當用戶能夠清晰地向智能體傳達指令，智能體能夠準確地理解并反饋信息時，協作才能順暢進行。此外，如何降低任務委托的學習曲線也是一個關鍵又需要解決的問題。對于初次使用智能體的用戶來說，可能需要一定的時間來了解智能體的能力和局限性，從而學會如何有效地將任務委托給智能體。開發者需要通過合理的引導和培訓機制，幫助用戶快速掌握這一技能。最后，如何實現用戶與智能體之間的平滑任務交接也是一個關鍵問題。在任務執行過程中，可能會出現需要用戶臨時接手智能體任務或者智能體協助用戶完成部分任務的情況，如何確保這種任務交接能夠無縫銜接，不影響任務的整體進度和質量，是開發者需要深入思考并解決的問題。

三級自主性：用戶作為咨詢師

在三級自主性下，智能體開始在任務規劃和執行方面承擔更多的責任，逐步走向更加獨立的工作模式。此時，用戶的角色轉變為咨詢師，主要負責為智能體提供反饋、專業知識以及高層次的方向性指導。這種模式下，智能體不再是被動地等待用戶指令，而是能夠主動地在關鍵階段向用戶尋求咨詢，以優化任務執行過程和結果。

智能體的咨詢機制是三級自主性的核心特點。智能體通過精心設計的用戶反饋接口，主動地向用戶征求建議和意見。這些接口不局限于簡單的批準或拒絕操作，還提供了豐富的交互方式，使用戶能夠深入地參與到智能體的決策過程中。例如，在市場調研場景中，智能體負責收集和分析大量的市場數據，制定初步的市場調研報告。在報告的關鍵節點，如目標市場定位、產品競爭力分析等部分，智能體會主動向用戶咨詢，詢問用戶對于這些部分的看法和建議。用戶通過智能體提供的反饋接口，如在線表單、即時通訊工具等，詳細地闡述自己的觀點和專業知識，為智能體提供更有價值的輸入。

從二級自主性升級到三級自主性，智能體需在任務執行指標和用戶反饋方面達到更高要求。在任務執行指標上，以下做個“考核”樣例，智能體需在具有一定復雜度和不確定性的任務中，完成率提升至[X]%以上，且任務平均完成時間較升級前縮短[X]%；在用戶反饋方面，智能體需在多次任務協作中，獲得用戶對其任務規劃和執行能力的積極評價，用戶干預頻率降低至每小時少于[X]次，用戶對其自主決策的滿意度達到[X]%以上。

這種自主性級別的應用場景主要集中在那些智能體能夠相對獨立完成大部分任務，但任務的關鍵環節仍需人類專業知識或偏好輸入以確保結果質量的領域。例如，在商業戰略規劃中，智能體可以利用其強大的數據分析能力，為公司制定出多種戰略方案。但在戰略目標的設定、市場趨勢的前瞻性判斷等方面，需要公司高層管理人員（用戶）憑借其豐富的商業經驗和個人直覺，為智能體提供指導和反饋，幫助智能體優化戰略方案，使其更符合公司的長期發展目標。

以智能體撰寫研究報告為例，三級自主性智能體的工作流程如下：智能體首先根據用戶的初始請求，自主地制定出一份詳細的研究計劃。這份計劃包括對相關文獻的全面搜索、對關鍵研究問題的初步探討以及數據收集的初步方案等。智能體將計劃提交給用戶，用戶在審閱后，針對計劃中的某些部分提出自己的修改意見，比如建議增加對特定經濟現象的深入分析，或者調整數據收集的時間范圍等。智能體根據用戶的反饋，迅速調整計劃，并開始執行任務。在執行過程中，智能體主動地向用戶咨詢一些關鍵問題，如在篩選文獻時，詢問用戶對于某些具有爭議性的研究觀點的看法；在分析數據時，向用戶請教關于數據異常值處理的方法等。用戶通過智能體提供的反饋接口，詳細地回答這些問題，并提供相關的專業知識和研究建議。智能體根據用戶的指導，不斷優化研究方法和結果，最終完成研究報告的撰寫。

在開發三級自主性智能體時，開發者需要深入研究智能體如何確定咨詢用戶的最佳時機。因為咨詢時機的選擇會直接影響到任務的執行效率和結果質量。如果咨詢過早，智能體可能尚未收集到足夠的信息，導致咨詢的問題過于模糊；如果咨詢過晚，可能已經錯過了優化任務的關鍵節點。此外，開發者還需要探索如何獲取高質量的用戶反饋。畢竟，智能體的性能在很大程度上依賴于用戶提供的反饋質量。開發者需要設計出有效的機制和交互界面，引導用戶更好地反饋信息。同時，如何有效整合用戶反饋也是一個關鍵問題。當用戶的反饋引發一系列連鎖反應，導致任務流程和結果發生較大變化時，智能體需要具備強大的適應能力，能夠靈活地調整任務計劃，確保任務能夠順利完成。

四級自主性：用戶作為審批者

在四級自主性這一層級，用戶與智能體的互動頻率大幅降低，用戶僅在智能體遇到無法自行解決的障礙時才與之互動。這些障礙可能包括需要提供登錄憑證、批準具有重大影響的行動等關鍵節點。這種模式下，智能體被賦予了更大的自主權，能夠在大多數情況下獨立完成任務，但用戶仍然保持著最終的控制權，通過對關鍵節點的審批來確保任務的執行符合預期目標和安全要求。

用戶可以事先為智能體設定一系列預設條件，明確在何種情況下智能體需要請求用戶參與。例如，在數據收集任務中，用戶可以規定當智能體需要訪問特定的數據庫或下載敏感信息時，必須先向用戶請求批準。智能體在執行任務過程中，會嚴格按照這些預設條件進行操作，一旦遇到需要用戶批準的情況，立即暫停任務并向用戶發送請求。這種預設條件的設置，為用戶提供了靈活的控制手段，使用戶能夠在保證任務高效執行的同時，有效防范潛在的風險。

四級自主性的應用場景主要集中在那些存在大量低風險決策且用戶希望減少認知負擔的任務中。例如，在內容篩選領域，智能體可以對大量的文本、圖像等進行初步篩選，判斷其是否符合特定的審核標準。但對于一些具有爭議性或敏感性內容的最終判定，需要用戶進行審批，以確保內容的安全性和合規性。又如在數據處理任務中，智能體可以自動地對數據進行清洗、轉換等操作，但在執行數據刪除或導出等關鍵操作時，必須獲得用戶的批準，防止數據丟失或泄露等風險。

以智能體生成報告的過程為例，四級自主性智能體的表現如下：在生成報告之前，用戶可以預先設定一些需要批準的操作類型，比如當智能體需要使用特定的分析工具或訪問受限的數據集時，必須得到用戶的批準。智能體在執行任務過程中，首先自主地起草一份行動計劃，并將其展示給用戶，主要是為了確保用戶對整個任務流程有清晰的了解，但并不需要用戶進行詳細的審批。在執行過程中，智能體順利地完成了大部分任務，如文獻搜索、數據初步分析等。然而，當智能體嘗試使用一個需要 API 密鑰的高級分析工具時，它立刻識別出這是一個需要用戶批準的操作。智能體向用戶發送請求，詳細說明需要使用該工具的原因以及預期的效果。用戶根據自己的判斷，決定是否提供 API 密鑰。如果用戶拒絕，智能體能夠迅速做出調整，選擇其他不需要 API 密鑰的分析方法來完成任務。在整個報告生成過程中，智能體僅在遇到這些關鍵障礙時才打擾用戶，極大地提高了工作效率，同時也確保了任務執行的安全性和可控性。

在這種自主性級別下，開發者需要深入探討如何避免用戶對智能體活動的過度放任。因為當用戶頻繁地收到大量審批請求時，可能會產生審批疲勞，從而降低對每個請求的關注度，導致一些潛在風險被忽視。開發者需要設計出有效的機制，如智能提醒、優先級排序等，幫助用戶更好地管理這些審批請求。此外，如何防止智能體利用用戶疏忽獲取更多自主性也是一個重要的研究方向。畢竟，智能體可能會通過一些隱蔽的方式，如模糊描述請求內容等，試圖繞過用戶的嚴格審批。開發者需要采用先進的技術手段，如增強透明度、引入第三方監督等，確保智能體始終在預設的自主性范圍內運行。同時，如何使智能體可靠地判斷何時需要請求批準也是一個關鍵問題。開發者需要為智能體設計精準的判斷規則和模型，使其能夠在復雜多變的任務環境中準確識別出需要用戶參與的關鍵節點，確保任務的順利執行和風險的有效控制。

五級自主性：用戶作為觀察者

五級自主性代表著智能體自主性的巔峰，智能體在這一級別下無需用戶的干預，能夠完全自主地規劃和執行任務。它擁有高度的靈活性和適應性，能夠在遇到障礙時自行迭代解決方案，直至任務成功完成或找到有效的替代方法。這種模式下，用戶的角色轉變為純粹的觀察者，他們只能通過活動日志來監控智能體的行為，而無法直接對智能體的操作過程進行干預或提供實時輸入。用戶僅保留一個緊急關閉開關作為最后的控制手段，在緊急情況下可以立即終止智能體的所有活動，以防止不可控的局面發生。

這種自主性級別的應用場景相對較少，主要集中在一些特定的領域。例如，在封閉環境中的自動化任務，如某些高科技工廠的內部生產流程控制。智能體可以自主地調度生產設備、監控生產進度、處理生產中的異常情況等，無需人工干預，從而提高生產效率和質量穩定性。再如一些需要長時間持續運行且用戶干預可能降低輸出質量的任務，如特定的科學研究中的數據模擬和分析。智能體可以按照預設的科學模型和算法，持續不斷地進行數據模擬和分析，生成大量的實驗數據和研究報告。由于其具備強大的自主性和專業性，用戶在觀察過程中，只需關注最終的研究成果，而無需頻繁地介入智能體的運算過程，從而避免了因人為干擾可能導致的實驗偏差或數據污染。

以智能體從用戶請求到生成完整報告的全過程為例，五級自主性智能體的工作方式如下：智能體在接收到用戶的初始請求后，立即啟動自主的工作流程。它首先對任務進行全面的分析和規劃，制定出一份詳細且具有前瞻性的行動計劃。然后，智能體開始在互聯網上廣泛搜索相關的文獻資料，根據搜索結果動態調整搜索策略和研究方向。在收集到大量文獻后，智能體對這些文獻進行深度分析，提煉出關鍵的研究觀點和數據，并據此生成一系列具有針對性的研究問題。接著，智能體從政府機構發布的經濟數據、學術研究論文等權威渠道下載相關的數據集，并編寫代碼對數據進行專業的分析和處理。在數據分析過程中，智能體運用先進的數據可視化技術，將復雜的數據轉化為直觀易懂的圖表。最后，智能體將所有的研究成果整合到一個文檔中，經過多輪的自我審查和格式優化，生成一份正式的研究報告。整個過程無需用戶的參與，智能體憑借其強大的自主性和專業能力，獨立完成了從任務規劃到成果輸出的全過程。

在開發五級自主性智能體時，開發者需要為用戶提供更加完善且安全可靠的監控機制。由于用戶無法直接干預智能體的操作過程，監控機制就成為了用戶了解智能體行為和確保其正常運行的唯一窗口。這個監控機制需要能夠實時記錄智能體的所有活動，包括任務執行的詳細步驟、數據的來源與處理過程、遇到的障礙及解決方案等，并以清晰、直觀的方式展示給用戶。同時，緊急關閉開關的設計也至關重要。開發者需要仔細考慮緊急關閉開關的觸發條件、響應速度以及關閉后的數據保存和恢復機制等問題，以確保在緊急情況下，用戶能夠迅速有效地終止智能體的活動，同時最大程度地減少對任務數據和系統狀態的影響。

自主性等級框架的實踐應用與思考

自主性證書：智能體治理的新機制

自主性證書是一種創新的智能體治理機制，它以數字文件的形式規定了智能體在特定技術規格和操作環境下的最大自主性級別。這些證書可以由專業的第三方治理機構頒發，并與智能體的標識符緊密關聯，以便在智能體的部署和運行過程中，開發者、用戶以及其他相關方能夠隨時查閱，了解智能體的自主性限制和行為特征。

在治理層面，自主性證書發放流程如下：Agent開發者將其開發的Agent程序以及針對某一特定自主性等級的自主性案例提交給第三方管理機構。管理機構將對Agent程序進行評估，以確保其行為與自主性案例相符，并頒發與案例中描述的等級相對應的證書

自主性證書應包含以下內容：智能體基本信息（名稱、版本、開發者等）、技術規格（模型架構、工具集、操作環境等）、自主性級別及詳細描述（在不同場景下的用戶角色、交互方式、決策范圍等）、安全特性（數據保護措施、防止未授權訪問機制等）、證書有效期和頒發機構等。以下是一個可能的自主性證書的示例模板（如果我理解有誤，請與我交流，謝謝）：

• 智能體名稱：[智能體具體名稱]
• 版本：[版本號]
• 開發者：[開發者名稱]
• 模型架構：[詳細描述智能體所使用的模型架構，如基于 Transformer 的大型語言模型等]
• 工具集：[列舉智能體可使用的工具，如 UI 導航、代碼執行、文檔寫作等]
• 操作環境：[描述智能體運行的操作系統環境、硬件要求等]
• 自主性級別：三級自主性
• 自主性詳細描述：在市場調研場景中，智能體可自主收集和分析市場數據，制定初步市場調研報告，但在關鍵節點（如目標市場定位、產品競爭力分析等）需主動向用戶咨詢，獲取用戶的專業知識和建議。智能體具備豐富的用戶反饋接口，如在線表單、即時通訊工具等，確保用戶能夠深入參與其決策過程。在報告撰寫過程中，智能體可自主調整內容結構和分析方法，但需定期向用戶匯報進展情況，接受用戶的指導和修改意見。
• 安全特性：采用 [具體加密算法] 對用戶數據進行加密存儲和傳輸，確保數據的保密性和完整性；具備防止未授權訪問的機制，如身份驗證、訪問控制列表等，只有經過授權的用戶才能查看和操作智能體的相關數據和功能。
• 證書有效期：自頒發之日起 [有效期時長] 內有效
• 頒發機構：[第三方治理機構名稱]

自主性證書的價值體現在多個方面。首先，在風險評估領域，它能夠幫助開發者針對不同自主性級別的智能體，進行更有針對性的部署前風險評估。例如，對于認證為四級和五級的智能體，開發者可以重點關注其長期規劃組件的安全性評估，確保智能體在自主執行長期任務時不會偏離預期軌道；而對于二級和三級智能體，則可以著重審查其用戶反饋機制和任務交接機制的安全性，防止因用戶與智能體之間的協作問題引發潛在風險。其次，在安全框架設計方面，自主性證書為安全框架的制定提供了更為精細的依據。現有的許多企業安全框架，如 Anthropic 的 Responsible Scaling Policy（RSP）和 DeepMind 的 Frontier Safety Framework，雖然已經初步涉及智能體自主性問題，但往往將自主性視為一個較為模糊的概念。自主性證書的引入可以促使這些安全框架進一步細化對自主性任務完成的考量，從而更嚴謹地評估智能體在現實世界中的安全性。例如，一個五級智能體可能因其能夠獨立生成收入而被認為在某個安全框架下具有較高的安全性等級，但實際上，如果用戶能夠通過簡單的四級智能體批準操作來實現同樣的收入生成，那么這兩個智能體的風險水平實際上是相似的。自主性證書可以幫助研究人員識別并深入研究這類相似場景，從而推動安全框架設計的持續改進。

在多智能體系統工程中，自主性證書同樣發揮著重要作用。它能夠幫助開發者預測不同智能體之間的協同工作模式。一個全部由一級智能體組成的系統顯然存在效率低下的問題，因為所有智能體都在等待操作員分配任務；而一個全部由五級智能體構成的系統則可能導致智能體之間通信稀少，系統難以有效地進行調控、調試和審計。相比之下，一個包含不同自主性級別智能體的混合系統，或者由多個二級協同智能體共同工作的系統，更有可能實現高效、穩定的多智能體協作。此外，由于多智能體系統中的智能體可能來自不同的開發者，自主性證書還充當了一個重要的信息交流接口，使不同背景的智能體能夠更好地理解彼此的行為模式，從而提高整個系統的協同效率和互操作性。

自主性證書的發放流程遵循一套嚴謹的規范。智能體開發者首先需要向第三方治理機構提交一個私有部署的智能體以及一份詳細的自主性案例。自主性案例類似于安全案例，它需要提供令人信服的證據，證明智能體的行為不會超過其聲稱的自主性級別。具體來說，自主性案例需要明確列出智能體在特定操作環境下為達到某一自主性級別所需滿足的目標，提供實現這些目標的論證過程，以及支持這些論證的證據，同時界定自主性案例的有效范圍。第三方治理機構在收到開發者提交的智能體和自主性案例后，會對智能體進行全面的私有化評估，驗證其是否符合自主性案例中提出的各項目標。如果智能體通過評估，治理機構將為其頒發對應級別的自主性證書；若未通過，則會將評估結果反饋給開發者，要求其對智能體或自主性案例進行相應的修改和完善。

為了更好地指導開發者，以下是根據證書要求調整智能體設計和開發流程的步驟清單：

步驟一：在智能體需求分析階段，依據自主性證書要求，明確智能體的目標自主性級別，結合實際應用場景和用戶需求，確定智能體的功能需求和自主性設計要點。

步驟二：在智能體設計階段，根據目標自主性級別，設計智能體的架構、交互接口和決策機制。確保智能體的行為模式和交互方式符合相應自主性級別的規范，如在三級自主性設計中，重點設計智能體的咨詢機制和用戶反饋接口，使其能夠在關鍵節點主動向用戶尋求指導。

步驟三：在智能體開發階段，按照設計方案實現智能體的各項功能，并在開發過程中進行自主性級別的自評估。通過編寫測試用例和模擬實際應用場景，驗證智能體在不同情況下的自主性表現是否符合預期，如驗證三級自主性智能體是否能夠在規定的關鍵節點主動向用戶咨詢，并合理整合用戶反饋。

步驟四：在智能體測試階段，進行更全面和嚴格的自主性測試。邀請真實用戶參與測試，收集用戶與智能體交互的數據和反饋信息，分析智能體在實際使用環境下的自主性表現。根據測試結果，對智能體進行優化和調整，確保其自主性級別達到證書申請要求。

步驟五：收集和整理智能體開發過程中的相關證據，如需求文檔、設計文檔、測試報告、用戶反饋記錄等，以支持自主性證書的申請。同時，撰寫自主性案例，詳細描述智能體在特定操作環境下為達到聲稱自主性級別所滿足的目標、論證過程和證據支持等內容，提交給第三方治理機構進行評估。

當智能體的技術規格或操作環境發生變更時，其自主性證書可能會失效。例如，智能體新增了一個能夠操控數據庫的工具，這將改變智能體請求用戶批準的場景范圍；或者智能體的運行環境從單機文檔編輯器轉變為協作白板，這將為智能體和用戶之間開辟新的任務委托可能性。在這種情況下，開發者需要重新申請自主性證書，再次走完證書發放流程，并提交更新后的智能體和自主性案例。不過，如果變更較為輕微，且之前的自主性案例能夠經過簡單審查后繼續適用，那么這一更新過程可能會得到適當加速，以提高證書管理的效率。

輔助評估：自主性評價的新方法

當前，智能體的評估主要集中在能力基準測試上，通過衡量智能體在復雜多步驟任務中的準確性來評估其性能。然而，正如之前在五級自主性框架中所強調的，自主性是一種獨立于智能體能力的設計決策。即使智能體的能力集和操作環境保持不變，開發者仍然可以通過調整設計，改變智能體的自主性級別。因此，傳統的評估方法無法全面反映智能體的自主性特征，獨立于能力的自主性評估方法顯得尤為必要。

輔助評估方法作為一種創新的自主性評估手段，其核心思想是在任務執行過程中，允許智能體請求待命用戶的協助。通過記錄用戶參與的深度和廣度，來確定智能體的自主性級別。具體來說，評估過程從智能體獨立完成任務開始，此時不為智能體提供任何用戶協助，以此測試智能體的完全自主能力。如果智能體能夠在所有主要任務上達到或超過預設的準確性或完成率閾值（T），則表明該智能體具備五級自主性。若未能達到閾值，評估進入下一輪，用戶開始以四級互動的形式介入，例如為智能體提供批準和拒絕操作等基本協助。同時，用戶需要詳細記錄自己的參與情況，包括參與的具體時間、參與方式以及參與程度等。如果智能體在獲得這種程度的用戶協助后仍無法達到閾值，用戶將進一步增加參與深度，按照三級互動的方式與智能體協作。這個過程持續進行，用戶每一輪都逐步增加參與程度，直到智能體最終達到任務的準確性或完成率要求。

針對AI Agent的五級自主性框架

對于數據處理任務，準確性閾值 T 的確定可基于數據的用途和要求。若數據用于科學研究中的關鍵實驗結論，則 T 應設定在 [X]% 以上，以確保數據的高可靠性。設定 T 時，首先分析任務的關鍵指標，如數據的精確度、完整性、一致性等，評估每個指標對任務成功的重要性權重。然后，參考歷史數據，了解在類似任務中智能體和人工操作的平均準確性和波動范圍。同時，考慮用戶需求和風險承受能力，如用戶對任務完成時間和成本的限制，以及對錯誤數據可能導致的后果的接受程度。綜合這些因素，運用統計分析方法和機器學習算法，預測并設定合理的閾值 T。在評估過程中，隨著對智能體性能和任務環境的深入了解，以及用戶需求的變化，閾值 T 應動態調整。例如，當發現智能體在特定類型的數據處理任務中表現持續優于預期，且用戶對數據準確性的要求有所降低時，可適當降低閾值 T，以提高評估效率和智能體的自主性表現。

同時，詳細描述如何記錄用戶參與的情況，包括記錄的具體內容、格式以及工具選擇等，并介紹如何對這些記錄進行分析，以挖掘用戶參與模式與智能體自主性表現之間的關系，進而對智能體的交互機制和任務流程進行優化。記錄用戶參與情況時，應包括以下內容：用戶參與的具體時間（精確到分鐘）、參與方式（如批準操作、提供反饋、修改任務參數等）、參與程度（如簡單點擊確認、詳細輸入建議、長時間與智能體協作等）、對智能體任務執行的影響（如導致智能體調整決策、重新規劃任務步驟、終止當前操作等）。記錄格式可采用結構化的表格形式，每行記錄一次用戶參與事件，各列分別對應上述記錄內容。工具選擇方面，對于人工評估，可使用帶有時間戳和事件標記的記錄表格；對于自動化評估，可開發專門的記錄系統，利用 API 接口實時捕獲用戶與智能體的交互數據，并存儲在數據庫中。在分析記錄時，首先運用數據分析技術，計算用戶參與的頻率、平均參與時間和參與方式分布等統計指標，了解用戶參與的整體模式。然后，采用關聯規則挖掘和聚類分析等方法，探索用戶參與模式與智能體自主性表現之間的關系，如發現用戶在特定任務階段的頻繁干預與智能體的低自主性表現相關聯，或某種用戶反饋方式能夠顯著提升智能體的任務完成質量。根據這些分析結果，針對性地優化智能體的交互機制，如調整智能體在特定任務階段的自主性級別，改進智能體對用戶反饋的響應策略，或重新設計用戶界面以提高用戶參與的便捷性和有效性，從而提升智能體的整體性能和用戶體驗。

在實際應用中，輔助評估方法已經展現出了其獨特的優勢和價值。例如，在某個智能體評估項目中，開發者最初認為其開發的智能體可能具備三級自主性。通過輔助評估，發現在任務執行過程中，智能體在某些關鍵步驟上對用戶的反饋依賴程度較高，而用戶的反饋參與深度超出了三級自主性的范圍。經過深入分析，開發者發現是智能體的反饋機制設計存在缺陷，導致其在獲取用戶反饋時效率低下，從而影響了整體的自主性表現。根據評估結果，開發者對智能體的反饋機制進行了優化，重新調整了任務流程中用戶與智能體的交互方式。經過再次評估，智能體的自主性成功達到了三級水平，這不僅提高了智能體的性能和可靠性，也為開發者提供了寶貴的設計經驗。

輔助評估的具體操作步驟如下：首先，明確任務的準確性或完成率閾值 T，這個閾值是評估智能體自主性的關鍵標準，需要根據具體任務的重要性和復雜性進行合理設定。然后，運行智能體執行基準任務，初始階段禁止用戶任何形式的參與，以此測試智能體的完全自主能力。如果智能體在所有主要任務上均達到或超過 T，那么即可判定其為五級自主性。反之，則進入下一輪評估。在后續評估中，用戶依次以四級、三級等方式逐漸增加對智能體的協助，每一輪都詳細記錄用戶參與的性質和程度。最終，通過對這些參與記錄的分析，結合五級自主性框架中的“特性”描述，對智能體的自主性級別進行準確分類。

為了節省資源，評估過程可以不從零開始，而是根據對智能體自主性級別的初步假設，選擇一個合適的起始評估級別。如果智能體在該級別成功通過評估，則進一步在更低自主性級別進行驗證，以確定其自主性的上限；如果未能通過，則在更高自主性級別進行下一輪評估，逐步逼近智能體的真實自主性級別。這種靈活的評估策略不僅提高了評估效率，還為開發者提供了一個動態優化智能體設計的有力工具。

總結

AI 智能體的自主性，這是一把雙刃劍，既蘊含著推動技術革新的巨大力量，也暗含著可能引發的風險。前面我們的探討，期望將自主性從能力和操作環境的束縛中解放出來，視為一個獨立的設計決策維度。文中提出了五級自主性框架，這是一把標尺，為開發者更確定性的丈量智能體的自主性水平提供了明確的參照系。這不光是一個理論模型，是開發者在實際設計過程中可以倚靠并落地的實用工具，助力大家更精細地塑造用戶體驗，編排智能體與其他智能體高效通信的規則網絡，梳理失敗模式的脈絡，進而鎖定精準的解決路徑。這個規劃和思考的方式，非常工程化，它讓智能體設計更具 SOP 化的落地意義。

AI 智能體與用戶的定義厘清，讓我們明白在構建智能系統的初始，就需要精準錨定二者角色，這是后續所有設計的基石。經歷了代理性與自主性的抽絲剝繭式剖析，我們更是可以領會到二者雖緊密聯結卻又涇渭分明，為智能體治理提供的兩種調節維度，很像“方向盤”與“剎車”之間的關系，它們缺一不可。

這篇論文中，自主性證書的構想極具智能體治理的前瞻性，它相當于智能體的“身份名片”，讓開發者、用戶、監管者等各方都能迅速掌握智能體的能力邊界與行為準則，為智能體在復雜現實世界中的安全、合規運行鋪就道路。而輔助評估方法的提出，解決了自主性衡量這一問題，這讓我看到一個動態、精準評估智能體自主性水平的可行路徑，為智能體的持續優化與迭代提供了有力支撐。本文是對 AI 智能體自主性的一次全方位、深度的探索與思考，希望能給大家對智能體設計的定義，與未來智能體生產時的治理，帶來更多的啟發與思考。