什么是主動學習？ 原創
如果數據是無標簽的，我們很難構建一個監督學習系統。
使用無監督技術是一種可行的解決方案，但它們能完成的任務類型有限。
另一種可能的方法，是依賴自監督學習。
自監督學習是指我們有一個無標簽的數據集，但我們通過某種方式能夠從中構建一個監督學習模型。
這通常依賴于任務的固有屬性。
例如，ChatGPT自回歸地基于當前詞預測下一個單詞。
這樣我們就可以簡單地將文本左移一位在海量文本上構造訓練數據集。
輸入："The cat sat on"
標簽："cat sat on the"
或者像BERT那樣，通過將文本中的某些單詞替換為占位符，并預測這些占位符的單詞。
"The cat sat on the [MASK]。"
"I went to the [MASK] to buy some milk."
但并不是所有任務都有這種屬性，所以它的應用場景也有限。
現在唯一能想到的方法就是標注數據集。然而，數據標注既困難、昂貴、耗時，又枯燥乏味。
主動學習是一種相對簡單、便宜、快速且有趣的解決方法。
顧名思義，它的想法是通過主動獲取人工反饋，幫助模型改進其在難以處理樣本上的表現。下圖總結了這一過程：
讓我們看下細節。
我們先手動標注一小部分數據。
根據經驗，標注約1%的數據集是個不錯的選擇。
接下來，在這個小的標注數據集上訓練一個模型。
當然，這個模型不會是完美的，但沒關系。
接下來，使用訓練好的模型在未標注的數據上生成預測：
很明顯，我們無法確定這些預測是否正確，因為我們沒有標簽。
但我們可以得到這些預測的置信度。
因為在主動學習中，我們通常會選擇能夠在其預測中提供置信水平的模型。
概率模型（即為每個類別提供概率估計的模型）通常在這里是一個很好的選擇。
這是因為可以從概率輸出中確定置信度的水平。
在上述兩個例子中，考慮第1和第2大概率之間的差距：
● 在例子#1中，差距較大。這可能表示模型對它的預測非常有信心。
● 在例子#2中，差距較小。這可能表示模型對它的預測信心不足。
現在，回到上面生成的預測，并按照置信度的大小對它們進行排名：
在上面的圖像中：
● 模型已經對前兩個實例非常有信心。沒有必要再檢查它們了。
● 相反，最好由我們（人類）來標注模型信心最弱的實例。
為了更好地理解，考慮下面的圖像。從邏輯上講，哪個數據點的人工標簽將為模型提供更多信息？我知道你已經知道答案。
因此，在下一步中，我們對置信度低的預測進行人工標注，并將其與先前標注的數據集一起去繼續改進模型。
多次重復這個過程，直到你對模型的表現感到滿意為止。
根據我的經驗，主動學習是處理無標注數據集的一個極大節省時間的辦法。唯一需要小心的是生成置信度度量。
如果你搞錯了這一步，它會影響之后的每一個訓練步驟。
另外，除了人工標注的低置信度數據和種子數據，還可以使用高置信度數據。它們的標簽將是模型的預測結果。
這種主動學習的變體稱為合作學習。
本文轉載自公眾號人工智能大講堂
