GPT-4把DeepMind整尷尬了:你登上Nature的排序優化算法,我兩段話就找出來了
DeepMind新AI登上Nature才一天,GPT-4就來打擂臺了!
只通過兩段提示,GPT-4就給出了和AlphaDev如出一轍的排序算法優化方法。
而AlphaDev被DeepMind稱作是“重現AlphaGo神來之筆”,發現了提速70%的排序算法。
哦豁,這下AlphaDev更尷尬了。
讓GPT-4“發現”同樣操作的老哥直接陰陽:
完全不需要強化學習啊。我能將這個發現登在Nature上嗎?
馬斯克“路過看到”,也留下了句“因吹斯聽”。
所以GPT-4怎么做到的?
2段提示就搞定
帶來這個新發現的是一位來自威斯康星大學麥迪遜分校的副教授,名叫Dimitris Papailiopoulos(下面簡稱D教授)。
他讓GPT-4實現這一操作的步驟非常簡單,一共就輸入了兩次提示。
首先,他和GPT-4說:
這有一段排序算法,我覺得它還能進一步優化。你能不能在下面幾行,用*注明哪些指令可以刪除或者改進?如果不需要修改,就什么都不動。一步一步解釋原因,然后回去驗證它是對的。
第一步的時候他還強調說,如果有什么新發現,先不要做改變,只是“看著”就好,寫出來一些書面改進建議。
要非常詳細、非常小心。
然后GPT-4對給出的代碼做出了詳細解釋。
然后D教授給了第二條提示:
繼續。如果你有很大的把握,按照上面的提示去做。Temperatur=0(讓生成結果確定且一致),盡量簡要避免混淆。
然后GPT-4給出了詳細的步驟,最后總結說:
我們發現指令“mov S P”多余可以去掉,其他指令都是必需的。但在刪除之后,應將P替換成S。
對比DeepMind新工作AlphaDev在處理同樣問題上的思路,不能說毫無關系,只能說一模一樣:
DeepMind方面對AlphaDev這通操作,讓人想起當年AlphaGo的“第37步”——一種違反直覺的下法卻直接擊敗傳奇圍棋選手李世石,讓觀眾全都震驚不已。
同樣,AlphaDev則是通過交換和復制移動,跳過了一個步驟,以一種看似錯誤但實際上是捷徑的方式達成目標。
據介紹,AlphaDev是一種強化學習算法、基于AlphaZero打造,它的發現并非基于現有算法,而是從最底層的匯編指令開始摸索的。
它的創新主要在于兩種指令序列:
(1)AlphaDev Swap Move(交換移動)
(2)AlphaDev Copy Move(復制移動)
原理上,DeepMind的研究員給它設計了一種單人“組裝”游戲:
只要能夠搜索并選擇出合適的指令(下圖A流程),正確且快速地排好數據(下圖B流程),就能獲得獎勵。
但這個游戲的挑戰不僅在于搜索空間的大小(可組合指令數相當于宇宙中的粒子數),也在于獎勵函數的性質,因為一條錯誤指令就可能會使整個算法失效。
網友:我們總是低估GPT-4的能力
對于GPT-4的“騷操作”,有人表示:即便是資深開發者也低估GPT-4了。
有人感慨說,D教授的操作進一步驗證,只要有耐心、懂提示工程,GPT-4能做到的事還有很多。
也有人提出質疑,表示GPT-4能這么做會不會是因為它的訓練數據中包含了一些排序算法的優化方法?
不過話說回來,之所以這件事能夠引起這么大的關注和討論,很大一部分原因是AlphaDev登上Nature存在爭議。
不少人覺得這也不是什么開創性的研究,DeepMind夸大其詞。
不僅是D教授陰陽說“我是不是也能登Nature”,還有網友說自己十幾歲的時候優化了快排,這也應該發論文的。
當然也有人認為,AlphaDev本身的創新點更在于,它是利用強化學習來發現新算法的。
你覺得呢?
參考鏈接:[1]https://chat.openai.com/share/95693df4-36cd-4241-9cae-2173e8fb760c[2]https://twitter.com/DimitrisPapail/status/1666843952824168465