編輯 ｜星璇

出品 | 51CTO技術棧（微信號：blog51cto）

谷歌近日在谷歌搜索中首次推出了“AI Overview”，上線還不到兩周，就被爆料由于該 AI 功能中的查詢返回了毫無意義或不準確的結果（并且沒有任何選擇退出的方式），公眾的批評日益增多。

AI Overview在 Google 搜索的最頂部顯示搜索問題答案的簡要摘要。例如，如果用戶搜索清潔皮靴的最佳方法，結果頁面可能會在頂部顯示“AI Overview”，其中包含多步清潔過程，這些信息是從網絡上綜合收集的信息中收集的。

但近日，社交媒體用戶分享了大量截圖，顯示人工智能工具給出了不正確且有爭議的回答。

根據用戶分享的截圖，以下是 AI Overview 產生的一些錯誤示例。

當被問及美國有過多少位穆斯林總統時，AI Overview回答道：“美國有過一位穆斯林總統，即巴拉克·侯賽因·奧巴馬。”

圖片

當用戶搜索“奶酪不粘在披薩上”時，該功能建議添加“約 1/8 杯無毒膠水到醬汁中”。社交媒體用戶找到了一條11 年前的 Reddit 評論，似乎是該評論的來源。

圖片

歸因對于 AI Overview 來說也可能是一個問題，尤其是在將不準確的信息歸因于醫療專業人員或科學家時。

例如，當被問及“為了獲得最佳健康，我應該盯著太陽看多長時間”時，該工具回答道，“根據 WebMD 的說法，科學家表示，盯著太陽看 5-15 分鐘，或者如果你的皮膚較黑，則最多盯著 30 分鐘，一般來說是安全的，并且對健康最有益。”

當被問及“我每天應該吃多少塊石頭”時，該工具回答道：“根據加州大學伯克利分校地質學家的說法，人們每天應該至少吃一塊小石頭”，并列出了其維生素和消化益處。

圖片

該工具還可能無法準確響應簡單的查詢，例如列出以“um”結尾的水果列表，或者說 1919 年是20 年前。

圖片

當被問及谷歌搜索是否違反反壟斷法時，AI Overview表示，“是的，美國司法部和 11 個州正在起訴谷歌違反反壟斷法。”

圖片

1.谷歌發言人聲明

谷歌在年度 Google I/O 大會上推出 AI Overview 當天，該公司表示還計劃在搜索中直接引入類似助手的規劃功能。該公司解釋說，用戶將能夠搜索諸如“為一個群體創建易于準備的 3 天膳食計劃”之類的內容，然后他們就會從網絡上的各種食譜中獲得一個起點。

谷歌發言人在一份聲明中告訴外媒 CNBC：“絕大多數 AI Overview 都提供了高質量的信息，并提供了深入挖掘網絡的鏈接。”

“我們看到的許多例子都是不常見的查詢，我們也看到了被篡改或我們無法重現的例子。”

該發言人表示，AI Overview 在推出之前經過了廣泛的測試，并且公司正在“根據我們的內容政策采取適當的迅速行動”。

2.被屢屢吐槽的谷歌AI產品

此前，谷歌于 2 月份高調推出了 Gemini圖像生成工具，但因出現類似問題，于同月暫停了該工具的發布。

該工具允許用戶輸入提示來創建圖像，但幾乎立即，用戶就發現了歷史錯誤和可疑的回應，并在社交媒體上廣泛流傳。

例如，根據社交媒體平臺 X 上的截圖，當一名用戶要求 Gemini 展示一名 1943 年的德國士兵時，該工具會描繪出一群 種族各異的士兵， 他們身著當時的德國軍裝。

截圖 顯示， 當被要求提供“中世紀英國國王的歷史準確描述”時，該模型生成了另一組種族多樣化的圖像，其中包括一張女性統治者的 圖像。當用戶要求提供美國開國元勛、18 世紀法國國王、19 世紀德國夫婦等圖像時，他們報告了類似的結果 。用戶報告稱，在回答有關谷歌創始人的問題時，該模型顯示了一張亞洲男性的圖像。

谷歌當時在一份聲明中表示，正在努力修復 Gemini 的圖像生成問題，承認該工具“沒有達到預期”。不久之后，該公司宣布將立即“暫停人物圖像生成”并“很快重新發布改進版本”。

Gemini 圖像生成輸出的問題再次引發了人工智能行業的爭論，一些團體稱 Gemini 太過“覺醒”或左傾，而另一些人則表示該公司沒有充分投資于正確的人工智能倫理形式。谷歌在 2020 年和 2021 年因 罷免其人工智能倫理小組的聯合負責人而受到抨擊 ，此前他們發表了一篇批評此類人工智能模型某些風險的研究論文，隨后重組了該小組的結構。

2023 年，谷歌母公司 Alphabet 首席執行官桑達爾·皮查伊 (Sundar Pichai) 因公司 在 ChatGPT 迅速傳播之后拙劣且“倉促”地推出 Bard而受到部分員工的批評。

本文轉載自51CTO技術棧，作者：星璇