[[205069]]

1.數(shù)學(xué)定義

保序回歸是回歸算法的一種,基本思想是：給定一個(gè)有限的實(shí)數(shù)集合,訓(xùn)練一個(gè)模型來(lái)最小化下列方程：

并且滿(mǎn)足下列約束條件：

2.算法過(guò)程說(shuō)明

從該序列的首元素往后觀察，一旦出現(xiàn)亂序現(xiàn)象停止該輪觀察，從該亂序元素開(kāi)始逐個(gè)吸收元素組成一個(gè)序列，直到該序列所有元素的平均值小于或等于下一個(gè)待吸收的元素。

舉例：

原始序列：<9, 10, 14>

結(jié)果序列：<9, 10, 14>

分析：從9往后觀察，到***的元素14都未發(fā)現(xiàn)亂序情況，不用處理。

原始序列：<9, 14, 10>

結(jié)果序列：<9, 12, 12>

分析：從9往后觀察，觀察到14時(shí)發(fā)生亂序(14>10)，停止該輪觀察轉(zhuǎn)入吸收元素處理，吸收元素10后子序列為<14, 10>，取該序列所有元素的平均值得12，故用序列<12, 12>替代<14, 10>。吸收10后已經(jīng)到了***的元素，處理操作完成。

原始序列：<14, 9, 10, 15>

結(jié)果序列：<11, 11, 11, 15>

分析：從14往后觀察，觀察到9時(shí)發(fā)生亂序(14>9)，停止該輪觀察轉(zhuǎn)入吸收元素處理，吸收元素9后子序列為<14,9>。求該序列所有元素的平均值得12.5，由于12.5大于下個(gè)待吸收的元素10，所以再吸收10，得序列<14, 9, 10>。求該序列所有元素的平均值得11，由于11小于下個(gè)待吸收的元素15，所以停止吸收操作，用序列<11, 11, 11>替代<14, 9, 10>。

3.舉例說(shuō)明下面實(shí)驗(yàn)的原理

以某種藥物的使用量為例子：

假設(shè)藥物使用量為數(shù)組X=0,1,2,3,4….99，病人對(duì)藥物的反應(yīng)量為Y=y1,y2,y3…..y99 ，而由于個(gè)體的原因，Y不是一個(gè)單調(diào)函數(shù)(即：存在波動(dòng))，如果我們按照藥物反應(yīng)排序，對(duì)應(yīng)的X就會(huì)成為亂序，失去了研究的意義。而我們的研究的目的是為了觀察隨著藥物使用量的遞增，病人的平均反應(yīng)狀況。在這種情況下，使用保序回歸，即不改變X的排列順序，又求的Y的平均值狀況。如下圖所示：

從圖中可以看出，最長(zhǎng)的綠線x的取值約是30到60，在這個(gè)區(qū)間內(nèi)，Y的平均值一樣，那么從經(jīng)濟(jì)及病人抗藥性等因素考慮，使用藥量為30個(gè)單位是最理想的。

當(dāng)前IT行業(yè)虛擬化比較流行，使用這種方式，找到合適的判斷參數(shù)，就可以使用此算法使資源得到***程度的合理利用。

4.實(shí)驗(yàn)代碼

import numpy as np 
import matplotlib.pyplot as plt 
from matplotlib.collections import LineCollection 
from sklearn.isotonic import IsotonicRegression 
from sklearn.utils import check_random_state 
 
n = 100 
##產(chǎn)生一個(gè)0-99的列表 
x = np.arange(n) 
##實(shí)例化一個(gè)np.random.RandomState的實(shí)例，作用是每次取的隨機(jī)值相同 
rs = check_random_state(0) 
##randint(-50, 50)：產(chǎn)生-50到50之間的整數(shù) 
##np.log  求以e為低的對(duì)數(shù) 
y = rs.randint(-50, 50, size=(n,)) + 50. * np.log(1 + np.arange(n)) 
 
##設(shè)置保序回歸函數(shù) 
ir = IsotonicRegression() 
##訓(xùn)練數(shù)據(jù) 
y_ = ir.fit_transform(x, y) 
 
##繪圖 
segments = [[[i, y[i]], [i, y_[i]]] for i in range(n)] 
##plt.gca().add_collection(lc),這兩步就是畫(huà)點(diǎn)與平均直線的連線 
lc = LineCollection(segments) 
 
fig = plt.figure() 
plt.plot(x, y, 'r.', markersize=12) 
plt.plot(x, y_, 'g.-', markersize=12) 
plt.gca().add_collection(lc) 
plt.legend(('Data', 'Isotonic Fit'), loc='lower right') 
plt.title('Isotonic regression') 
plt.show()