隨著以ChatGPT為代表的大型語(yǔ)言模型的流行，人們對(duì)其安全性的焦慮越發(fā)顯著。在意大利于3月31日因隱私和安全問(wèn)題宣布暫時(shí)禁用ChatGPT之后，加拿大也于4月4日宣布就數(shù)據(jù)安全問(wèn)題調(diào)查ChatGPT母公司OpenAI。4月5日，OpenAI官方博客更新了一篇文章，重點(diǎn)談到自身如何保障AI安全性，算是從側(cè)面對(duì)人們的擔(dān)憂進(jìn)行回應(yīng)。

為測(cè)試 GPT-4花了6個(gè)月時(shí)間

文章提到，在對(duì)最新的GPT-4模型完全所有訓(xùn)練后，團(tuán)隊(duì)花了 6 個(gè)多月的時(shí)間進(jìn)行內(nèi)部測(cè)試，以在公開(kāi)發(fā)布時(shí)能夠更加安全，并認(rèn)為強(qiáng)大的人工智能系統(tǒng)應(yīng)該接受嚴(yán)格的安全評(píng)估，需要在確保被監(jiān)管的基礎(chǔ)上與政府積極合作，制定最佳的監(jiān)管方式。

文章也提到，雖然在實(shí)驗(yàn)測(cè)試過(guò)程中無(wú)法預(yù)測(cè)所有風(fēng)險(xiǎn)，但AI正是需要在實(shí)際使用中不斷汲取經(jīng)驗(yàn)、不斷完善，以迭代出更加安全的版本，并認(rèn)為社會(huì)確實(shí)需要一定時(shí)間來(lái)適應(yīng)越發(fā)強(qiáng)大的AI。

重視兒童保護(hù)

文章稱安全工作的重點(diǎn)之一是保護(hù)兒童，要求使用AI工具的用戶年齡必須已年滿18周歲，或者是在有父母監(jiān)護(hù)條件下已年滿13周歲。

OpenAI強(qiáng)調(diào)，不允許自身技術(shù)被用于生成仇恨、騷擾、暴力或成人內(nèi)容等類型，與 GPT-3.5 相比， GPT-4 對(duì)拒絕響應(yīng)禁止內(nèi)容的能力提升了82%，并通過(guò)監(jiān)控系統(tǒng)來(lái)監(jiān)測(cè)可能存在的各類濫用情形，比如當(dāng)用戶試圖將兒童性虐待材料上傳到圖像工具時(shí)，系統(tǒng)會(huì)阻止并將其報(bào)告給國(guó)家失蹤與受虐待兒童中心。

尊重隱私，提高事實(shí)準(zhǔn)確性

文章稱，OpenAI的大型語(yǔ)言模型在廣泛的文本語(yǔ)料庫(kù)上進(jìn)行訓(xùn)練，其中包括公開(kāi)可用的內(nèi)容、許可內(nèi)容和人工審核人員生成的內(nèi)容，不會(huì)使用數(shù)據(jù)對(duì)服務(wù)進(jìn)行銷售、打廣告、對(duì)用戶歸檔。OpenAI承認(rèn)在訓(xùn)練過(guò)程中會(huì)從公共互聯(lián)網(wǎng)上獲得個(gè)人信息，但會(huì)盡力在可行的情況下從訓(xùn)練數(shù)據(jù)集中刪除個(gè)人信息，并微調(diào)模型以拒絕獲取個(gè)人信息的請(qǐng)求，積極響應(yīng)要求刪除系統(tǒng)中涉及個(gè)人信息內(nèi)容的請(qǐng)求。

在提供的內(nèi)容準(zhǔn)確性上，文章稱，通過(guò)用戶對(duì)不實(shí)內(nèi)容的標(biāo)記反饋，GPT-4所生成內(nèi)容的準(zhǔn)確性比 GPT-3.5 提高了 40%。

文章認(rèn)為，解決 AI 安全問(wèn)題的實(shí)際方法不僅是投入更多時(shí)間和資源來(lái)研究有效的緩解技術(shù)，并在實(shí)驗(yàn)環(huán)境中測(cè)試在實(shí)際使用場(chǎng)景中的濫用情況，更重要的是，要把提高安全性和提升AI的能力齊頭并進(jìn)，OpenAI有能力用最好的安全防護(hù)措施來(lái)匹配最強(qiáng)大的AI模型，以越來(lái)越謹(jǐn)慎的態(tài)度創(chuàng)建和部署功能更強(qiáng)大的模型，并將隨著AI系統(tǒng)的發(fā)展繼續(xù)加強(qiáng)安全措施。