電子計算機于上世紀40年代誕生，而在計算機出現(xiàn)后的10年內，人類歷史上的第一個AI應用就出現(xiàn)了。

70多年過去了，AI模型現(xiàn)在不僅能寫詩，還能根據(jù)文本提示生成圖像，甚至是幫助人類發(fā)現(xiàn)未知的蛋白質結構。

那么，是什么推動了AI技術在如此短時間內的指數(shù)級增長呢？

一張來自「我們數(shù)據(jù)中的世界」（Our World in Data）的長圖，通過用于訓練AI模型的算力變化為刻度，對AI發(fā)展歷史進行了追溯。

高清大圖：https://www.visualcapitalist.com/wp-content/uploads/2023/09/01.-CP_AI-Computation-History_Full-Sized.html

圖中數(shù)據(jù)的來源，是源于一篇由MIT等大學研究人員發(fā)表的論文。

論文地址：https://arxiv.org/pdf/2202.05924.pdf

除了論文之外，還有一個研究團隊根據(jù)這篇論文數(shù)據(jù)做了一個可視化的表格，可以隨意縮放圖標來獲取精細的數(shù)據(jù)

表格地址：https://epochai.org/blog/compute-trends#compute-trends-are-slower-than-previously-reported

圖表的作者主要通過計算運算次數(shù)以及GPU時間來估計訓練每個模型的計算量，而對于選擇哪一個模型作為重要模型的代表，作者主要通過3個性質來確定：

顯著的重要性：某個系統(tǒng)具有重大歷史影響，顯著提高了SOTA，或者被引用次數(shù)超過 1000次。

相關性：作者只收錄了包含實驗結果和關鍵機器學習組成部分的論文，并且論文目標是推動現(xiàn)有SOTA發(fā)展。

獨特性：如果描述同一系統(tǒng)的另一篇論文更具影響力，那么該論文將被從作者的數(shù)據(jù)集中排除。

AI發(fā)展的三個時代

在1950年代，美國數(shù)學家Claude Shannon訓練了一個名為Theseus的機器老鼠，使其能在迷宮中導航并記住路徑—這是第一個人工學習的實例。

Theseus的構建基于40個浮點運算（FLOPs）。FLOPs通常用作衡量計算機硬件計算性能的指標。FLOP數(shù)量越高，計算能力越強，系統(tǒng)也越強大。

計算能力、可用的訓練數(shù)據(jù)和算法是AI進步的三大要素。而在AI發(fā)展的最初幾十年里，所需的計算能力是按照摩爾定律增長的——計算能力也在大約20個月的時間翻一倍。

然而，在2012年由AlexNet（一個圖像識別AI）標志著深度學習時代的開始時，這個翻倍時間大大縮短到了六個月，因為研究人員加大了對計算和處理器的投資。

隨著2015年AlphaGo的出現(xiàn)——一個擊敗了人類職業(yè)圍棋選手的計算機程序——研究人員發(fā)現(xiàn)了第三個時代：大規(guī)模AI模型時代到來了，它的計算需求比以前所有的AI系統(tǒng)都要大。

未來AI技術的進展

回顧最近的十年，計算能力的增長是如此之快，簡直令人難以置信。

例如，用于訓練Minerva（一個可以解決復雜數(shù)學問題的AI）的計算能力幾乎是十年前用于訓練AlexNet的600萬倍。

這種計算增長，加上大量可用的數(shù)據(jù)集和更好的算法，令AI在極短的時間內取得了大量進展。如今，AI不僅能達到人的表現(xiàn)水平，甚至在很多領域超過了人類。

AI能力將在方方面面不斷超越人類

從上圖可以清楚地看出，人工智能在很多領域已經(jīng)超越了人類的表現(xiàn)，并且在其他方面也將很快超越人類的表現(xiàn)。

下圖展示了在常見的人類日常工作和生活會使用到的能力中，AI在哪一年已經(jīng)達到或者超過了人類水平。

AI技術發(fā)展勢能充足

難以說計算增長是否會保持相同的速度。大規(guī)模模型需要越來越多的算力來訓練，如果算力供應不能繼續(xù)增長，可能會減緩AI技術發(fā)展的進度。

同樣，耗盡目前可用于訓練AI模型的所有數(shù)據(jù)也可能妨礙新模型的開發(fā)和實施。

然而，2023年，大量資本涌入AI行業(yè)，尤其是以大語言模型為代表的生成式AI?；蛟S更多的突破即將出現(xiàn)，似乎以上3個促進AI技術發(fā)展的元素都將在未來進一步得到優(yōu)化和發(fā)展。

2023年上半年，AI行業(yè)的初創(chuàng)公司融資規(guī)模達到了140億美元，甚至比過去4年獲得的融資總和還要多。

而大量（78%）的生成式AI初創(chuàng)公司都還處于發(fā)展非常早期的階段，甚至27%的生成式AI初創(chuàng)公司公司還沒有進行融資。

360多家生成式人工智能公司，27% 尚未進行融資。超過一半是 輪或更早的項目，說明整個生成式AI行業(yè)還屬于非常早期的階段。

由于開發(fā)大型語言模型的資本密集型性質，自 2022 年第三季度以來，生成式AI基礎設施類別已獲得超過 70% 的資金，僅占所有生成式AI交易量的10%。大部分資金源于投資者對基礎模型和API、MLOps（機器學習操作）以及向量數(shù)據(jù)庫技術等新興基礎設施的興趣。