（六）機(jī)器學(xué)習(xí)過程舉例說明

所謂機(jī)器學(xué)習(xí)過程，是指觀察有n個(gè)樣本數(shù)據(jù)組成的集合，并根據(jù)這些數(shù)據(jù)來預(yù)測(cè)未知數(shù)據(jù)的性質(zhì)，那么在給定數(shù)據(jù)集（所謂大數(shù)據(jù)）和具體問題的前提下，一般解決問題的步驟可以概括如下：

1．?dāng)?shù)據(jù)抽象

將數(shù)據(jù)集和具體問題抽象成數(shù)學(xué)語言，以恰當(dāng)?shù)臄?shù)學(xué)符號(hào)表示。這樣做自然是為了方便表述和求解問題，而且也更加直觀。

2．設(shè)定性能度量指標(biāo)

機(jī)器學(xué)習(xí)是產(chǎn)生模型的算法，一般來說模型都有誤差。如果模型學(xué)的太好，把訓(xùn)練樣本自身的一些特點(diǎn)當(dāng)成所有潛在樣本具有的一般性質(zhì)，這種情況稱為過擬合，這樣的模型在面對(duì)新樣本時(shí)就會(huì)出現(xiàn)較大誤差，專業(yè)表述就是導(dǎo)致模型的泛化性能下降。與之相對(duì)的是欠擬合，模型對(duì)樣本的一般性質(zhì)都沒學(xué)好，這種情況一般比較好解決，擴(kuò)充數(shù)據(jù)集或者調(diào)整模型皆可。

3．?dāng)?shù)據(jù)預(yù)處理

之所以要做數(shù)據(jù)預(yù)處理，是因?yàn)樘峁┑臄?shù)據(jù)集往往很少是可以直接拿來用的。例如：如果樣本的屬性太多，一般有兩種方法： 降維和特征選擇。特征選擇比較好理解，就是選擇有用相關(guān)的屬性，或者用另外一種表達(dá)方式：選擇樣本中有用、跟問題相關(guān)的特征。

4．選定模型

在數(shù)據(jù)集完美的情況下，接下來就是根據(jù)具體問題選定恰當(dāng)?shù)哪Ｐ土恕Ｒ环N方式是根據(jù)有沒有標(biāo)記樣本考慮。如果是有標(biāo)記樣本，可以考慮有監(jiān)督學(xué)習(xí)，反之則是無監(jiān)督學(xué)習(xí)，兼而有之就看半監(jiān)督學(xué)習(xí)是否派的上用場(chǎng)。

5．訓(xùn)練及優(yōu)化

選定了模型，如何訓(xùn)練和優(yōu)化也是一個(gè)重要問題。如果要評(píng)估訓(xùn)練集和驗(yàn)證集的劃分效果，常用的有留出法、交叉驗(yàn)證法、自助法、模型調(diào)參等如果模型計(jì)算時(shí)間太長，可以考慮剪枝如果是過擬合，則可通過引入正則化項(xiàng)來抑制（補(bǔ)償原理）如果單個(gè)模型效果不佳，可以集成多個(gè)學(xué)習(xí)器通過一定策略結(jié)合，取長補(bǔ)短（集成學(xué)習(xí)）

6．機(jī)器學(xué)習(xí)舉例分析

在機(jī)器學(xué)習(xí)領(lǐng)域特征比模型（學(xué)習(xí)算法）更重要。舉個(gè)例子，如果我們的特征選得很好，可能我們用簡單的規(guī)則就能判斷出最終的結(jié)果，甚至不需要模型。比如，要判斷一個(gè)人是男還是女，假設(shè)由計(jì)算機(jī)來完成這個(gè)任務(wù)，首先采集到各種數(shù)據(jù)（特征：姓名、身高、頭發(fā)長度，籍貫、是否吸煙等等。因?yàn)楦鶕?jù)統(tǒng)計(jì)我們知道男人一般比女人高，頭發(fā)比女人短，并且會(huì)吸煙；所以這些特征都有一定的區(qū)分度，但是總有反例存在。我們用最好的算法可能準(zhǔn)確率也達(dá)不到100％。然后再進(jìn)行特征提取，提出對(duì)目標(biāo)有意義的特征，刪除無關(guān)的（籍貫），然后進(jìn)行預(yù)處理，對(duì)特征提取結(jié)果的再加工，目的是增強(qiáng)特征的表示能力，防止模型（分類器）過于復(fù)雜和學(xué)習(xí)困難。接下來就是訓(xùn)練數(shù)據(jù)，這里我們通過監(jiān)督學(xué)習(xí)或無監(jiān)督的方法來擬合分類器模型。學(xué)習(xí)器通過分析數(shù)據(jù)的規(guī)律嘗試擬合出這些數(shù)據(jù)和學(xué)習(xí)目標(biāo)間的函數(shù)，使得定義在訓(xùn)練集上的總體誤差盡可能的小，從而利用學(xué)得的函數(shù)來預(yù)測(cè)未知數(shù)據(jù)的學(xué)習(xí)方法預(yù)測(cè)出結(jié)果，最后對(duì)結(jié)果進(jìn)行評(píng)價(jià)和改進(jìn)。

圖23 機(jī)器學(xué)習(xí)過程舉例說明