2023年人工智能安全峰會（AI Safety Summit）將于11月1日和2日在英國標志性的布萊切利公園舉行。一些世界領(lǐng)先的科技公司、人工智能專家、政府官員和民間社會團體將參加此次峰會。峰會的主要議程是強調(diào)人工智能的風險，重點關(guān)注人工智能前沿，并討論如何通過國際協(xié)調(diào)行動減輕這些風險。

前沿模型是高度先進的人工智能基礎(chǔ)模型，在推動創(chuàng)新、經(jīng)濟增長和科學進步方面具有巨大潛力。不幸的是，前沿模型也具有高度危險的能力。濫用或事故，基礎(chǔ)模型可能在全球范圍內(nèi)造成重大傷害和破壞。

了解前沿人工智能帶來的風險是2023年人工智能安全峰會的一個關(guān)鍵目標。目標是讓世界領(lǐng)先的人工智能技術(shù)專家召開會議，討論人工智能安全國際合作的方法和戰(zhàn)略。峰會的另一個關(guān)鍵目標是展示人工智能的安全發(fā)展將如何幫助人工智能在全球范圍內(nèi)得到良好利用。這將有助于促進人工智能技術(shù)的創(chuàng)新和發(fā)展。

里希·蘇納克警告人工智能危險

英國首相里希·蘇納克（Rishi Sunak）在2023年人工智能安全峰會前表示，各國政府必須意識到，他們有能力應(yīng)對人工智能帶來的風險。蘇納克強調(diào)，人工智能造成的風險包括制造大規(guī)模殺傷性武器、傳播錯誤信息和宣傳，甚至逃離人類控制的能力。他還宣布，英國將成立一個人工智能安全研究所，以更好地了解不同的人工智能模型，以及如何減輕人工智能帶來的風險。

蘇納克將人工智能技術(shù)的快速進步比作工業(yè)革命（事實上第四次工業(yè)革命的核心基礎(chǔ)就是人工智能），并警告稱，如果不采取政府層面的行動，人工智能技術(shù)可能會使網(wǎng)絡(luò)攻擊“更快、更有效、更大規(guī)模”。他還強調(diào)，濫用人工智能可能會導致“信任信息的侵蝕”。

根據(jù)蘇納克的說法，deepfakes（深度偽裝）和超現(xiàn)實機器人可以被用來操縱金融市場，傳播假新聞，甚至破壞刑事司法系統(tǒng)。蘇納克認為，人工智能可能會取代人類工人，從而擾亂勞動力市場，并建議對從人工智能取代工人中獲利的企業(yè)征收“機器人稅”。

此次峰會將接待來自全球各地的關(guān)鍵人物，包括谷歌DeepMind首席執(zhí)行官德米斯·哈薩比斯（Demis Hassabis）、美國副總統(tǒng)卡瑪拉·哈里斯（Kamala Harris）和七國集團其他經(jīng)濟體領(lǐng)導人，我國也已被邀請參加峰會。

牛津人工智能專家有異議

牛津大學牛津互聯(lián)網(wǎng)研究所副教授兼研究主任Brent Mittelstadt不同意蘇納克的某些觀點——英國不應(yīng)該因為對人工智能缺乏適當?shù)牧私舛庇诒O(jiān)管人工智能。Mittelstadt認為，人工智能技術(shù)已經(jīng)完成了一系列令人難以置信的研究，足以開始監(jiān)管該行業(yè)。

Mittelstadt表示，不采取積極主動的監(jiān)管方式將是一個錯誤，這將使私營部門和技術(shù)發(fā)展決定監(jiān)管何時開始以及未來如何監(jiān)管。政府應(yīng)該負責決定何時以及如何監(jiān)管該行業(yè)。

牛津大學哲學學院和人工智能倫理研究所副教授Carissa Veliz也對蘇納克關(guān)于人工智能技術(shù)的言論感到擔憂。Veliz表示，科技高管不是就如何監(jiān)管人工智能向政府提供建議的合適人選，蘇納克的觀點聽起來與大型科技公司的觀點相似。牛津大學的其他幾位人工智能專家也有類似的擔憂，并敦促英國政府不要推遲對人工智能行業(yè)的監(jiān)管。