疫情期間,遠程辦公成為剛需,一批視頻會議工具隨之起飛。Zoom就是其中的佼佼者。不過最近,Zoom攤上事了。
軟件自由保護協會(SFC)呼吁開源開發者停止使用Zoom視頻會議,因為這款應用被曝出了一條丑聞。
今年3月,Zoom悄悄修改了其人工智能友好服務條款的細則,在第10.4節中加入了一個條款,規定視頻聊天業務使用“客戶內容”訓練機器學習模型的權利是永久的、免版稅的。一時引起輿論嘩然。
1、出爾反爾的始作俑者
許多公司似乎熱衷于擴展自己對用戶生成數據的處理能力,同時限制其他公司對此類數據的處理。在Zoom改變規則的一個月前,微軟采取了類似的措施,修改了服務條款,讓AI增強的必應在處理和存儲用戶輸入內容方面有更大的自由。
今年7月,這家巨頭表示,將在9月底修改微軟服務協議(Microsoft Services Agreement),以限制逆向工程和數據提取。與此同時,《紐約時報》修改了其服務條款,明確表示其內容不能用于訓練人工智能模型。Reddit和Twitter也采取了類似措施,防止網站數據被喂給AI模型。
直到本月早些時候,Zoom暗搓搓的舉動才被曝光受到了廣泛關注,隨后Zoom在8月7日以一篇博客回應了因此事而引起的反對聲浪。為了進行彌補,該公司修改了第10.4節中的獲取性服務條款,“盡管有上述規定,未經您的同意,Zoom不會使用音頻、視頻或客戶聊天內容來訓練我們的人工智能模型。”
圖片
圖源:Zoom Blog
戲劇性的是,四天后,也就是8月11日,Zoom再退一步,重寫了第10.4節細則,去掉了限定詞“未經您同意”,直接表示,拒絕將客戶內容用于機器學習。
“Zoom不會使用您的任何音頻、視頻、聊天、屏幕共享、附件或其他客戶通信內容(如投票結果、白板和反應)來訓練Zoom或第三方人工智能模型,”該公司的法律文件目前寫道。
2、來自開源界的一記重錘
盡管Zoom似乎想將前事一筆勾銷,但依然有人表示已經受夠了。這次振臂一呼的帶頭大哥是軟件自由保護協會(SFC)。
軟件自由保護協會(SFC,SoftwareFreedom Conservancy)成立于2006年,是一個旨在為自由開源軟件項目提供支持和基礎設施的非營利組織。長期以來,SFC一直得到Google、紅帽等多家公司的財務支持。
SFC于周二明文寫道:“在疫情期間以及廣泛采用Zoom的過程中,我們警告說,依賴專有的、以營利為目的的受控技術作為必要的基礎設施是危險的。”“上周,Zoom向我們展示了為什么所有人都必須停止使用他們的服務,不能再拖延了。”
為了助力實現這一目標,SFC表示,它將采用BigBlueButton的開源聊天軟件,作為該組織基礎設施的正式組成部分,該軟件之前只對FOSS成員項目開放。SFC表示,任何FOSS貢獻者如果需要使用視頻聊天服務,都可以申請使用。
當被要求就SFC要求放棄Zoom的呼吁發表評論時,Zoom的一位發言人指出,該公司已經于8月11日撤銷了其相關條款,并發送了一份聲明副本,否認使用任何相關用戶數據來訓練Zoom或第三方人工智能模型。
外媒TheRegister對此做了進一步追問:那么在條款更改之前,Zoom是否真的曾使用客戶內容來訓練人工智能模型呢,就像SFC聲稱的“發現Zoom將私人用戶數據重新用于訓練機器學習模型”,還是說Zoom只是“賦予”了自己這樣做的權利,而沒有實際這么做。
Zoom的發言人則表示,沒有進行過這樣的訓練。
不管Zoom如何否認,SFC并不買賬。它在公開發文中援引了Zoom在3月改條款的舉動作為放棄該應用的理由,盡管它也承認,Zoom當前已經改變了立場,并試圖與這場AI權利之爭保持距離。
SFC表示:“在廣泛的抵制和負面報道之后,Zoom修改了他們的服務條款,表示他們不會使用任何用戶參與Zoom會議的數據來訓練他們的模型。”
“但令人沮喪的是,在令人難以置信的冗長和充滿法律術語的服務條款中,Zoom保留在任何時候更改條款的權利。”
最近的一項分析表明,閱讀Zoom的條款和條件可能需要長達30個小時的時間,SFC希望FOSS社區重新考慮對Zoom軟件的依賴。
3、GitHub曾是前車之鑒
去年,SFC對GitHub采取了類似的立場,原因是GitHub在被微軟收購后推出了編程助手Copilot,Copilot很快開啟了收費模式。可關鍵在于Copilot是建立在開源社區代碼研究之上,這引來了業界一些組織的強烈不滿。
Copilot的發布引發了一系列問題。開源并不意味著完全免費,仍然需要滿足許可證要求和歸屬要求,Copilot從來不是什么“原生AI代碼生成器”,因此如果Copilot從一個項目“復制黏貼”代碼并將其推薦給另一個項目的作者,“誰”是軟件的實際編寫者就會存在爭議,這一做法可以說為版權侵權訴訟打開了潘多拉之匣。
SFC也是反對者中的一員,他們呼吁停止使用微軟GitHub開展項目托管,并敦促其他軟件開發者一同退出。
圖片
圖源:https://sfconservancy.org/GiveUpGitHub/
政策研究員布拉德利?庫恩表示,SFC沒有微軟這樣的公司資源來收集數據,以評估其放棄GitHub活動的影響,而且GitHub的服務條款禁止通過搜索GitHub賬戶來找到GiveUpGitHub的標志。
庫恩說:“我們還定期與FOSS項目的貢獻者交談,他們迫切希望長期擺脫GitHub。”在他看來,面向社區的FOSS項目普遍都不想留在GitHub,但GitHub的損失領導者(LossLeader)專有產品的網絡效應讓他們陷入了困境。他將這種情況比作擺脫化石燃料汽車的挑戰。
庫恩補充說:“我們也認為ExitZoom或GiveUpGitHub活動不會很快發生。”
“這些專有服務的全部問題在于,它們會滲透到企業的工作流程中,要想擺脫它們,需要付出大量的、有時甚至是艱巨的努力。”
盡管如此,庫恩表示,盡管資源有限,SFC在推動人們擺脫對專有服務和軟件的依賴方面取得了進展。他說,SFC一直在與俄勒岡州立大學的開源實驗室進行長期談判,以開發GitHub托管的替代品。另外,Sourceware項目最近也加入了SFC,為某些項目提供基于開源軟件的托管服務。
“在ExitZoom方面,你可以從我們的公告中看到,在過去的一周里確保我們準備好立即向FOSS社區的成員提供基于BigBlueButton的服務。”“由于視頻聊天只是一項服務,基本上是一個需要維護的軟件包,相信我們可以為需要視頻聊天但想要退出Zoom的FOSS貢獻者提供面向外部的服務。相比之下,GiveUpGitHub需要更長的時間。”
4、在隱私與便利之間,我們一定要二選一嗎
總體看來,無論是呼吁放棄GitHub還是離開Zoom,SFC正在取得一些進展,但也面臨極大的阻力,但可以肯定的是,這必然會對相關組織施加相當的壓力,促使其改變麾下產品的運作模式并為使用者提供更多的透明度。
但就事件本身來說,隨著人工智能技術的發展,大模型、AIGC等應用繼續狂飆突進,這種伴隨技術而生的隱私侵犯,幾乎所有人都無法抵抗。那么到底有沒有不可逾越的底線呢?這個底線又會落在什么地方呢?
在這波技術浪潮中,用戶數據逐漸成為最昂貴又最廉價的資源。站在用戶角度,無論是被侵犯隱私數據還是被侵犯知情權,似乎總是被動的。
不可否認,不少人會因為某些便利而同意放棄隱私。大致可歸因為三點:
其一,默認為了現實生活的便利可以讓渡自己的隱私,而且人人皆是如此,那么不如從眾,據理力爭也是費力不討好。
其二,商家有意將某些涉及隱私的條款藏于冗長且術語繁多的協議之后,就如Zoom的服務協議僅讀完就需要30小時,少有人有足夠的耐心、時間和知識儲備去細究原委;即使有人追究,還有萬能的“最終解釋權歸商家所有”。
其三,不同的人對于隱私的理解、重視程度以及隱私泄露帶來的風險,認識程度不同。
但事實上,無論技術如何發展,用戶數據都不應該是堂而皇之被利用、被出賣的東西。在長久的思辨中,與其追問“你愿意為了便利而犧牲一部分隱私嗎”,不如從源頭上警醒,一定要在隱私和便利之間二選一的社會不應該是我們追求的社會。