為何不公布ChatGPT訓(xùn)練細節(jié)?OpenAI聯(lián)合創(chuàng)始人:容易造成巨大傷害
3月17日消息,本周OpenAI?發(fā)布了GPT-4。雖然這款人工智能?聊天機器人不斷增加新功能,但人們越來越擔(dān)心,這種人工智能工具也可能被用于不良目的。OpenAI聯(lián)合創(chuàng)始人、首席科學(xué)家伊利亞·薩茨科弗(Ilya Sutskever)在接受采訪時承認,別有用心的人容易利用人工智能給他人造成傷害。
“這些模型非常強,而且會變得越來越強,”他說?!霸谀撤N程度上,如果有人想的話,很容易用這些模型造成很大傷害。”
薩茨科弗是在解釋為什么OpenAI不再提供關(guān)于如何訓(xùn)練這些模型的詳細信息時這樣說的。
他在接受采訪時表示:“隨著人工智能的性能不斷提升,不想透露它們是有原因的?!薄拔掖_信,在幾年內(nèi),每個人都將十分清楚,人工智能開源是不明智的做法。”
OpenAI首席執(zhí)行官薩姆·奧爾特曼(Sam Altman)過去也表達過類似的看法。
在今年早些時候的一次采訪中,奧爾特曼表示,就人工智能而言,雖然最好的情況是“令人難以置信的好,以至于我都很難想象”,但最壞的情況是“讓我們所有人都熄火”。
上個月,奧爾特曼還在推特上表示,他認為人工智能工具可以幫助人們變得更高效、更健康、更聰明,但也補充說,世界可能離可怕的人工智能工具可能并沒有那么遠,所以對它們進行監(jiān)管“至關(guān)重要”。