在人工智能開發(fā)領域，最重要的目標莫過于創(chuàng)建真正掌握自然語言處理(natural language processing，NLP)的系統(tǒng)。這是使AI得以廣泛應用的關鍵，因為它需要與(不懂機器語言，不會編程技能的)人類互動。在通往NLP的道路上，可以說，只有先讓AI學會說人類語言，才能使它們理解人們到底在說什么。

[[275189]]

問題是，為了能讓AI用人類語言寫作，技術人員已經(jīng)做出很多努力，卻導致了一些比較滑稽的結(jié)果。然而，現(xiàn)在一些新的AI文本生成器正在逐步發(fā)展地更為成熟，生成的文本幾乎與人類書寫的文本無甚差別。最新版本的AI文本生成器更為智能，以至于開發(fā)人員開始限制對其進行訪問，以防它們被濫用。

AI NLP已經(jīng)發(fā)展到新的階段，即整個行業(yè)將不得不開始著手處理隨之而來的倫理問題——以免重蹈DeepFake的覆轍，近年來Deepfake的“換臉”黑科技引起的道德問題備受關注。

下面是三個必須解決的潛在問題。

1. 虛假新聞的泛濫

在所有將AI文本生成用于邪惡目的的方式中，有一種對整個世界構(gòu)成了很大的威脅，即AI可能會被用來大規(guī)模制造虛假信息，并以難以想象的方式大肆宣傳。這確實會帶來巨大風險。有一款叫作Grover的AI工具，其設計者試圖用它來檢測AI撰寫的虛假新聞。然而事實上，Grover也擅長制造虛假新聞。我們無法用完美的假設來說明新的AI文本生成工具將會帶來什么挑戰(zhàn)——它們既是問題，又是解決方案。

2. 對教育事業(yè)的挑戰(zhàn)

自互聯(lián)網(wǎng)出現(xiàn)以來，教育機構(gòu)就鼓勵學生使用網(wǎng)絡來獲取來自世界各地的知識。問題是，這也導致剽竊事件數(shù)量急劇上升，因為許多學生發(fā)現(xiàn)剪切和粘貼網(wǎng)上的文本要比形成自己的原創(chuàng)想法容易的多。

互聯(lián)網(wǎng)也催生了大量的寫作服務，學生利用這些服務來減少他們的工作量——而老師們卻無法察覺。這就很容易看出較新的AI文本生成可能對教育事業(yè)產(chǎn)生的影響，它以一種全新的方式來幫助學生逃避寫作和論文。如果AI在這方面得到廣泛應用，將會嚴重危害世界各地的教育成果。

3. 對搜索引擎的危害

由于如今的互聯(lián)網(wǎng)充斥著各種各樣無意義的內(nèi)容，因此在需要信息時，我們要借助搜索引擎的幫助來判斷什么是相關的和有用的。搜索引擎的判斷是基于對網(wǎng)站的評估，并根據(jù)網(wǎng)站滿足用戶查詢的程度和提供的內(nèi)容質(zhì)量來為其打分。然而，在搜索行業(yè)，有人擔心AI創(chuàng)造的數(shù)百萬博客帖子、新聞文章和其他內(nèi)容會影響當前搜索引擎的判斷。

有人預計，這種影響就像是更具破壞性的名為article spinning的文章生成系統(tǒng)，該系統(tǒng)迫使谷歌徹底改革其算法以進行反擊。專家認為，掌控AI內(nèi)容浪潮遠沒有這么快、那么容易完成。

未雨綢繆

迄今為止，對于如何預防上述AI問題，還沒有太多討論——至少在公共領域還沒有。毫無疑問，AI技術的主要開發(fā)人員正在試圖解決他們的新研究可能導致的問題，但是整個科技界也應該開始運用其先進的技能來解決這些問題。否則，一旦將“妖怪”放出來，就很難把它們收回去。鑒于結(jié)果會有巨大的破壞性，我們必須盡快找到一些解決辦法來避免進入問題雷區(qū)。