意大利成首個封禁ChatGPT的國家！OpenAI CEO：我覺得沒違規
就在昨天，意大利政府突然下令，封禁ChatGPT！
很快，OpenAI首席執行官Sam Altman做出回應稱，公司已經關停了當地的ChatGPT服務（但自認為并沒有違反任何規定）。
自此，意大利成為了世界上第一個宣布禁用ChatGPT的國家。
（其他國家和地區無法使用ChatGPT，是因為OpenAI一開始就沒給開通。）
意大利封禁ChatGPT，全面調查隱私問題
3月31日，意大利國家隱私監管機構正式下令封禁ChatGPT，并指控OpenAI「非法收集個人數據」。
值得注意的是，該「臨時禁令」將一直生效，直到OpenAI能夠尊重歐盟具有里程碑意義的隱私法——通用數據保護條例（GDPR）。
文件地址：https://www.garanteprivacy.it/home/docweb/-/docweb-display/docweb/9870847#english
根據意大利國家數據保護機構GPDP發布新聞稿，OpenAI收集用戶數據并用于算法「訓練」的行為，缺乏法律依據。
同時，3月20日涉及用戶對話和支付信息的泄露事件，也明確地暴露出了OpenAI在個人信息的處理上存在著問題。
除此之外，OpenAI雖然聲稱ChatGPT面向的是13歲以上的用戶，但由于缺乏相應的年齡驗證機制，因此未成年人很可能會看到超出其自身發展和自我認知水平的信息。
監管機構表示，OpenAI有20天的時間，如不給出可行的補救措施，則會面臨最高2000萬歐元，或全球總年營業額4%的罰款。
對此，OpenAI表示，現在已經為意大利用戶關閉了服務，并承諾會保護用戶的隱私：
「我們在訓練ChatGPT這樣的系統時，一直在努力減少個人數據，因為我們想要這個AI了解世界，而不是了解個人。當然我們也相信，AI監管是必要的。」
這么看來，ChatGPT未來在意大利的命運，可能就取決于這20天了。
不過，對于意大利來說，這已經不是第一次對AI聊天機器人采取此類行動了。
在2月份，監管機構就禁止了聊天機器人應用程序Replika.ai。Replika曾因一些用戶與機器人建立的親密關系而「臭名昭著」，后來Replika取消了色情角色扮演的選項，有用戶甚至需要自殺熱線的援助。
是否應該限制AI工具？
ChatGPT發布后，雖然寫論文、寫代碼的能力讓人眼花繚亂，但它對錯誤信息的傳播、對就業的影響，以及對整個人類社會更廣泛的風險，都讓很多人憂心忡忡，發出預警。
最近，封禁GPT技術的浪潮，更是一波接一波。
不僅圖靈獎得主Yoshua Bengio、馬斯克、馬庫斯等千名大佬聯名簽署公開信，呼吁全球所有AI實驗室暫停訓練比GPT-4更強大的AI模型。
而且消費者權益保護組織BEUC，也在近日呼吁歐盟和國家當局調查ChatGPT。
此外，很多專家也表示，由于AI對國家安全、就業和教育的潛在影響，需要制定新的法規來管理AI。
歐盟委員會發言人稱：「我們希望所有在歐盟活躍的公司都尊重歐盟的數據保護規則。執行通用數據保護條例是歐盟數據保護當局的責任。」
歐盟委員會執行副主席Margrethe Vestager在推特上表示，正在討論歐盟人工智能法案的委員會可能不傾向于禁止人工智能。
「無論我們使用哪種技術，都必須保護自身的權利。這就是為什么我們不規范AI技術，而是規范AI的使用。」
在美國，非營利組織人工智能與數字政策中心（CAIDP）也要求聯邦貿易委員會（FTC）調查OpenAI是否違反了消費者保護規則，并禁止其進一步發布GPT-4。
畢竟，有了千名大佬的聯名信這個先例，CAIDP的申訴看起來也似乎更加順理成章。而且，CAIDP主席Marc Rotenberg好不意外地也簽署了那封信。
文件地址：https://cdn.arstechnica.net/wp-content/uploads/2023/03/CAIDP-FTC-Complaint-OpenAI-GPT-033023.pdf
整體來說，CAIDP申訴的內容與那封信一致，都是呼吁放慢生成式AI模型的發展，并實施更嚴格的政府監督。
不過，CAIDP更進一步地認為，ChatGPT「存在偏見、具有欺騙性，并且對公共安全構成風險」。
雖然OpenAI已經公開指出AI生成文本的潛在威脅，但CAIDP認為，GPT-4已經遠遠越線了，為了保護消費者，應該采取監管行動。
CAIDP表示，GPT-4模型具有許多重大的潛在威脅，比如GPT-4可以產生惡意代碼，和高度定制宣傳的方式，而它有偏見的訓練數據，可能導致在招聘等方面形成刻板印象，或不公平的種族和性別偏好。
CAIDP認為，OpenAI的行為違反了FTC法案第5條，這一條令禁止不公平和欺騙性的貿易行為。
其中，AI模型的幻覺，信口開河胡說八道的問題，在CAIDP看來都是欺騙。它警告ChatGPT「宣傳具有欺騙性的商業聲明和廣告」，這些都可能納入FTC的權限范圍。
在申訴中，CAIDP要求FTC停止GPT模型所有進一步的商業部署，并要求在未來推出任何模型之前，都要對模型進行獨立評估。它還要求提供一種可公開訪問的舉報工具，類似于允許消費者提出欺詐投訴的那種。
CAIDP主席Lina Khan表示，CAIDP在尋找大型科技公司試圖壟斷競爭的跡象，而對AI軍備競賽的主要參與者之一OpenAI的調查，標志著調查的重大升級。
有分析認為，雖然CAIDP的申訴在短時間內不會讓FTC有所行動，但未來很有可能會出現相關的監管，并可能讓GPT-5的發布推遲。
最后，只能說，谷歌一直擔心的「聲譽風險」，終于來了。
參考資料：?
