像 ChatGPT 這樣的生成型人工智能模型是如此令人震驚，以至于現(xiàn)在有人聲稱，人工智能不僅可以與人類平起平坐，而且往往更加聰明。它們以令人眼花繚亂的風(fēng)格拋出美妙的藝術(shù)品。它們能寫出飽含細節(jié)、想法和知識的文本。生成的人工制品是如此多樣，而且看來如此獨特，以至于很難相信它們來自于機器。我們才剛剛開始發(fā)現(xiàn)生成性人工智能所能做的一切。

一些觀察家認為，這些新的人工智能終于跨越了圖靈測試的門檻。其他人則認為，這個門檻并沒有被輕易超越，只是被過度吹捧。可是，這項杰作確實另個驚嘆，以至于確實有一批人已經(jīng)在走向失業(yè)的邊緣。

但是，一旦人們見慣不怪，生成性人工智能天生的光環(huán)也與消退。一批觀察者以正確的方式提出問題，讓這些智能機器表達出或愚蠢或錯誤的內(nèi)容。這已經(jīng)成為當(dāng)下的一種時髦。其中一些人使用了在小學(xué)藝術(shù)課上流行的老式邏輯炸彈，比如要求提供一張晚上的太陽或暴風(fēng)雪中的北極熊的照片。其他人則提出了奇怪的請求，展示了人工智能上下文意識（也被稱為常識）的局限性。那些對此有興趣的人可以計算生成性人工智能失敗的規(guī)律。

本文提出了生成式人工智能的十項缺點或缺陷。這份清能讀來也許有點酸葡萄味，因為如果允許機器接管，他就會失去工作。你可以說我是一個支持人類團隊的小人物，只不過希望人類在與在與機器的拼搏中能表現(xiàn)出英雄氣概。盡管如此，我們是不是都應(yīng)該有點擔(dān)心呢？

1、剽竊

當(dāng)像 DALL-E 和 ChatGPT 這樣的生成型人工智能模型打造之初，它們實際上只是從其訓(xùn)練集中的數(shù)百萬個例子中制造新的模式，其結(jié)果是對各種來源的剪切和粘貼的綜合。如果人類這樣做，就會被稱為剽竊。

當(dāng)然，人類也是通過模仿來學(xué)習(xí)。但是，在某些情況下，這種借鑒是如此明顯，以至于會讓一位小學(xué)老師感到不安。這種人工智能生成的內(nèi)容由大塊的文字組成，或多或少都是逐字逐句地呈現(xiàn)。然而，有時涉及到足夠的混合或綜合，即使是交給一組大學(xué)教授也很難發(fā)現(xiàn)其來源。無論如何，從中都不可能看到獨特性。盡管這些機器閃亮奪目，但它們并沒有能力生產(chǎn)出真正的新作品。

2、版權(quán)

雖然抄襲在很大程度上是學(xué)校才關(guān)心的，但著作權(quán)法卻也適用于市場。當(dāng)一個人抄襲另一個人的作品時，他們有可能被帶到法院，可能會被處以數(shù)百萬美元的罰款。但是人工智能呢？同樣的規(guī)則是否適用于它們？

著作權(quán)法是一個復(fù)雜的話題，生成性人工智能的法律地位將需要花費數(shù)年才能解決。但請記住這一點：當(dāng)人工智能開始生產(chǎn)看起來足夠好的作品，使人類處于失業(yè)的邊緣，其中一些人肯定會用他們新的業(yè)余時間提起訴訟。

3、無償勞動

抄襲和版權(quán)并不是生成性人工智能引起的唯一法律問題。律師們已經(jīng)在幻想著新的訴訟道德問題。舉例來說，一家制作繪畫程序的公司是否應(yīng)該收集人類用戶的繪畫行為數(shù)據(jù)，然后將這些數(shù)據(jù)用于人工智能訓(xùn)練？人類是否應(yīng)該為這種創(chuàng)造性勞動的使用而得到補償？當(dāng)前一代人工智能的成功，很大程度上源于對數(shù)據(jù)的獲取。那么，當(dāng)產(chǎn)生數(shù)據(jù)的人想要分一杯羹時會發(fā)生什么？哪些是公平的？什么可以被認定為合法？

4、信息不是知識

AI 特別善于模仿人類需要多年才能發(fā)展的那種智能。當(dāng)人類學(xué)者介紹一位晦澀難懂的 17 世紀(jì)藝術(shù)家，或者用幾乎被遺忘的文藝復(fù)興時期的音調(diào)結(jié)構(gòu)寫出新的音樂時，我們有充分的理由留下深刻的印象。我們知道，這需要多年的研究來發(fā)展這種深度的知識。當(dāng)人工智能只經(jīng)過幾個月的訓(xùn)練就做這些同樣的事情時，其結(jié)果可能是令人眼花繚亂的精確和正確，但卻缺少一些關(guān)鍵因素。

如果一臺訓(xùn)練有素的機器能夠在一個裝滿數(shù)十億條記錄的數(shù)字鞋盒中找到正確的舊收據(jù)，它也可以學(xué)習(xí)關(guān)于像 Aphra Behn 這樣的詩人的一切知識。你甚至可能相信，機器是為了解碼瑪雅象形文字的含義而制造的。AI 可能看起來是在模仿人類創(chuàng)造力中俏皮和不可預(yù)測的一面，但它們無法真正做到。同時，不可預(yù)知性是推動創(chuàng)意創(chuàng)新的原因。像時尚圈這樣的行業(yè)不僅沉迷于變化，而且被變化所定義。事實上，人工智能有它的位置，但是，老的來之不易的人類智能也是如此。

5、智力停滯不前

說到智力，人工智能本質(zhì)上是機械的和基于規(guī)則的。一旦人工智能處理了一組訓(xùn)練數(shù)據(jù)，它就會創(chuàng)建一個模型，而這個模型并不會真正改變。一些工程師和數(shù)據(jù)科學(xué)家設(shè)想隨著時間的推移逐漸重新訓(xùn)練人工智能模型，這樣機器就能學(xué)會適應(yīng)。但是，在大多數(shù)情況下，這個想法是要創(chuàng)建一個復(fù)雜的神經(jīng)元集，以固定的形式編碼某些知識。恒定性有它的位置，可能對某些行業(yè)有效。人工智能的危險在于，它將永遠停留在其訓(xùn)練數(shù)據(jù)的時代潮流中。當(dāng)我們?nèi)祟愖兊萌绱艘蕾嚿尚匀斯ぶ悄埽灾劣谖覀儫o法再為訓(xùn)練模型產(chǎn)生新的材料時，又會發(fā)生什么？

6、隱私和安全

AI 的訓(xùn)練數(shù)據(jù)需要來自某處，而我們并不總是那么確定神經(jīng)網(wǎng)絡(luò)中會出現(xiàn)什么。如果 AI 從其訓(xùn)練數(shù)據(jù)中泄露個人信息怎么辦？更糟糕的是，鎖定人工智能要困難得多，因為它們被設(shè)計得如此靈活。一個關(guān)系型數(shù)據(jù)庫可以限制對含有個人信息的特定表格的訪問。但是，人工智能可以用幾十種不同的方式進行查詢。攻擊者將很快學(xué)會如何以正確的方式提出正確的問題，以獲得他們想要的敏感數(shù)據(jù)。舉個例子，比如說某項資產(chǎn)的經(jīng)緯度被鎖定了。一個聰明的攻擊者可能會問該地點幾周內(nèi)太陽升起的確切時刻。一個盡職的人工智能會嘗試回答。教導(dǎo)人工智能保護私人數(shù)據(jù)我們還并不掌握。

7、未被察覺的偏見

如果你知道最早的大型機程序員創(chuàng)造了縮寫詞 GIGO 或 “垃圾進，垃圾出”，你就能明白從那時起他們就認識到計算機問題的核心。AI 的許多問題來自于糟糕的訓(xùn)練數(shù)據(jù)。如果數(shù)據(jù)集不準(zhǔn)確或有偏見，結(jié)果就一定會反映出來。

生成式人工智能的核心硬件可能像 Spock（電視劇《星際旅行》的外星人主角）一樣以邏輯為導(dǎo)向，但建造和訓(xùn)練機器的人類卻不是這樣。偏見和偏袒已經(jīng)被證明確有途徑進入人工智能模型。也許有人使用有偏見的數(shù)據(jù)來創(chuàng)建模型。也許他們添加了重寫功能，以防止模型回答特定的熱點問題。也許他們把硬性規(guī)定的答案放進去，然后變得難以檢測。人類已經(jīng)找到了許多方法來確保人工智能成為我們有害信仰的絕佳載體。

8、機器的愚蠢

我們很容易原諒人工智能模型犯錯，因為它們在其他許多方面做得很好。只是，許多錯誤是很難預(yù)測的，因為人工智能的思維方式與人類不同。例如，許多文字轉(zhuǎn)圖像功能的用戶發(fā)現(xiàn)，人工智能把相當(dāng)簡單的事情搞錯了，比如算術(shù)。人類在小學(xué)時就學(xué)會了基本的算術(shù)，然后我們在各種各樣的方面使用這種技能。讓一個 10 歲的孩子畫章魚的草圖，這個孩子幾乎肯定會確定它有八條腿。當(dāng)前版本的人工智能在涉及到數(shù)學(xué)的抽象和背景用途時往往會陷入困境。如果模型建造者對這種失誤投入一些關(guān)注，這很容易改變，但還會有其他的失誤。機器智能與人類智能不同，這意味著機器的愚蠢也會不同。

9、人類的易受騙性

有時在不知不覺中，我們?nèi)祟愅鶗钛a人工智能的空白。我們填補缺失的信息或插播答案。如果人工智能告訴我們亨利八世是殺害妻子的國王，我們不會質(zhì)疑它，因為我們自己并不了解這段歷史。我們只是提前假設(shè)人工智能是正確的，就像我們在有魅力的明星前歡呼雀躍的時候一樣。如果一個說法聽起來信心滿滿，那么人類的頭腦往往愿意接受它就是真實和正確的。

對于生成性人工智能的用戶來說，最棘手的問題是知道人工智能何時是錯誤的。機器不能像人類那樣撒謊，但這使它們更加危險。它們可以產(chǎn)生幾段完全準(zhǔn)確的數(shù)據(jù)，然后轉(zhuǎn)向猜測，甚至是徹底的誹謗，而沒有人能意識到。二手車交易商或撲克牌手往往知道他們什么時候在作假，而且大多數(shù)人都有暴露他們誹謗行為的證據(jù)。但人工智能沒有。

10、無限的豐富性

數(shù)字內(nèi)容是可以無限復(fù)制的，這已經(jīng)使許多圍繞稀缺性建立的經(jīng)濟模式變得緊張。生成性人工智能將更多地打破這些模式。生成性人工智能將使一些作家和藝術(shù)家失去工作；它也顛覆了我們賴以生存的許多經(jīng)濟規(guī)則。當(dāng)廣告和內(nèi)容都可以無休止地重新組合和再生時，廣告支持的內(nèi)容還能發(fā)揮作用嗎？互聯(lián)網(wǎng)的免費部分是否會淪為一個機器人點擊網(wǎng)頁上的廣告的世界，所有這些都是由生成性的AI精心制作和無限復(fù)制的？

這種輕松的豐富性可能會破壞經(jīng)濟的各個角落。如果這些代幣可以永遠被復(fù)制，人們還會繼續(xù)為不可復(fù)制的代幣買單嗎？如果制作藝術(shù)如此容易，它還會被尊重嗎？它還會是特別的嗎？如果它不特別，會有人關(guān)心嗎？當(dāng)一切都被視為理所當(dāng)然時，是否會失去價值？這就是莎士比亞說到“The slings and arrows of outrageous fortune”時想表達的意思嗎？讓我們不要試圖自己回答這此問題。讓我們向生成型人工智能尋求答案。這個答案將是有趣的、奇特的，并最終神秘地被困在正確與錯誤之間的某個冥界。

來源：www.cio.com