Sora于 2024 年 2 月首次亮相，它用簡單的文字提示制作出高質(zhì)量的 60 秒視頻片段，讓所有人大吃一驚。它掀起了亞馬遜、YouTube、阿里巴巴和電影制片廠 Lionsgate 的視頻生成器浪潮，但目前尚未向公眾開放。

泄露地址是 https://huggingface.co/spaces/PR-Puppets/PR-Puppet-Sora

事件發(fā)生在11月27日，一個(gè)自稱為“Sora PR Puppets”的組織在人工智能開發(fā)平臺(tái)Hugging Face上發(fā)布了與Sora API相關(guān)的項(xiàng)目（PR-Puppets）。這個(gè)項(xiàng)目允許用戶使用Sora生成視頻，只需輸入簡短的文字描述，就能生成分辨率高達(dá)1080p、時(shí)長為10秒的視頻。這個(gè)前端界面在發(fā)布后大約1小時(shí)就無法正常工作了，外界猜測OpenAI或Hugging Face可能已經(jīng)撤銷了訪問權(quán)限

什么是 Sora？

Sora代表了生成式人工智能能力的重大飛躍，它充當(dāng)擴(kuò)散模型，將文本提示轉(zhuǎn)換為長達(dá)一分鐘的視頻。利用來自各種模型的技術(shù)，Sora 提供精確的文本到視覺對齊和增強(qiáng)的時(shí)間連貫性。OpenAI 對 Sora 的愿景是雄心勃勃的，將其定位為實(shí)現(xiàn)通用人工智能的基礎(chǔ)一步。盡管有這些愿望，但這項(xiàng)技術(shù)并非沒有局限性；復(fù)制復(fù)雜物理和確保內(nèi)容安全方面的挑戰(zhàn)仍有待改進(jìn)。

正如 Hugging Face 討論平臺(tái)所描述的那樣，Sora 是“令人著迷的技術(shù)實(shí)力展示”。該模型以視頻形式制作“視覺連貫的敘述”的能力被譽(yù)為生成式人工智能的里程碑式成就。

泄密事件及其涉嫌動(dòng)機(jī)

Sora泄密緣由

Sora 模型的泄露似乎源于測試人員和貢獻(xiàn)者的不滿，尤其是創(chuàng)意產(chǎn)業(yè)的不滿。批評(píng)者指控 OpenAI（目前估值超過 1500 億美元）利用他們的勞動(dòng)，依靠無償或報(bào)酬過低的貢獻(xiàn)來完善模型。這些測試人員，包括視覺藝術(shù)家和電影制作人，提供了寶貴的反饋和創(chuàng)意意見，但據(jù)稱卻發(fā)現(xiàn)自己被排除在公平認(rèn)可或補(bǔ)償之外。

這次反抗行為是對人工智能開發(fā)中創(chuàng)造性專業(yè)知識(shí)更廣泛商品化的抗議。此次泄密是經(jīng)過精心策劃的，旨在凸顯 OpenAI 涉嫌無視藝術(shù)勞動(dòng)的經(jīng)濟(jì)價(jià)值，呼應(yīng)了人工智能倫理話語中已經(jīng)普遍存在的不滿情緒。

該組織表示，三個(gè)小時(shí)后，“OpenAI 暫時(shí)關(guān)閉了所有藝術(shù)家對 Sora 的早期訪問權(quán)限?！?/p>

倫理和法律問題

Sora 爭議也重新引發(fā)了有關(guān)版權(quán)和知識(shí)產(chǎn)權(quán)的爭論。OpenAI 此前曾因?qū)⑹馨鏅?quán)保護(hù)的材料用于培訓(xùn)目的而受到審查，并聲稱這是合理使用。盡管 OpenAI 表示 Sora 的訓(xùn)練數(shù)據(jù)包括授權(quán)和公開數(shù)據(jù)集，但該公司對具體細(xì)節(jié)保持沉默，這讓人懷疑不已。這種不透明性，加上創(chuàng)作者和出版商正在進(jìn)行的訴訟，凸顯了技術(shù)進(jìn)步與知識(shí)產(chǎn)權(quán)之間的緊張關(guān)系。

對 Sora 等生成式 AI 模型的安全擔(dān)憂促使 OpenAI 實(shí)施了保護(hù)措施，包括檢測分類器和內(nèi)容策略執(zhí)行機(jī)制。然而，這些措施可能不足以解決泄露模型的潛在濫用問題。Hugging Face 評(píng)論者指出，“如此大規(guī)模的泄露破壞了 OpenAI 執(zhí)行道德保障的努力。它將不受制約的權(quán)力交到了任何有訪問權(quán)限的人手中?！?/p>

對人工智能和創(chuàng)意產(chǎn)業(yè)的更廣泛影響

Sora 泄密事件是人工智能時(shí)代一場更大權(quán)力斗爭的象征。一方面，OpenAI 將自己定位為創(chuàng)新與實(shí)用性交匯處的先驅(qū)，而 Sora 則代表著一種使視頻創(chuàng)作民主化的工具。另一方面，泄密事件凸顯了系統(tǒng)性問題，例如創(chuàng)造性勞動(dòng)被低估以及圍繞人工智能對人類創(chuàng)造力的依賴而產(chǎn)生的道德困境。

正如 Hugging Face 的另一位貢獻(xiàn)者所說，“人工智能并非憑空而來。它建立在創(chuàng)意人員的肩膀上，而這些創(chuàng)意人員往往沒有得到認(rèn)可。Sora 泄密事件敲響了警鐘：沒有道德的創(chuàng)新就是剝削?！?/strong>

對于創(chuàng)意專業(yè)人士來說，此次泄密事件是一把雙刃劍。它不僅揭露了現(xiàn)行制度的不公平，也有可能破壞藝術(shù)家和技術(shù)開發(fā)者之間合作的信任。展望未來，此次事件呼吁企業(yè)重新思考如何與創(chuàng)意社區(qū)互動(dòng)，強(qiáng)調(diào)透明度、公平報(bào)酬和尊重知識(shí)產(chǎn)權(quán)。

歸根結(jié)底，Sora 爭議是人工智能行業(yè)面臨的更廣泛挑戰(zhàn)的一個(gè)縮影：如何在追求進(jìn)步與尊重和保護(hù)支撐人工智能的人類勞動(dòng)之間取得平衡。正如一位觀察家在 Hugging Face 上評(píng)論的那樣，“這不僅僅是一次泄密，更是一次清算?！?/strong>

?本文轉(zhuǎn)載自微信公眾號(hào)「云原生AI百寶箱」，可以通過以下二維碼關(guān)注。轉(zhuǎn)載本文請聯(lián)系云原生AI百寶箱公眾號(hào)。

本文轉(zhuǎn)載自 ??云原生AI百寶箱??，作者： OpenAI