日本免费精品视频,男人的天堂在线免费视频,成人久久久精品乱码一区二区三区,高清成人爽a毛片免费网站

第3章 進(jìn)階篇 在第2章中，我們向讀者介紹了大量經(jīng)典的機(jī)器學(xué)習(xí)模型，并且使用Python編程語言分析這些模型在許多不同現(xiàn)實數(shù)據(jù)上的性能表現(xiàn)。然而，細(xì)心的讀者在深入研究這些數(shù)據(jù)或者查閱Scikit-learn的文檔之后就會發(fā)現(xiàn)： 所有我們在第2章中使用過的數(shù)據(jù)幾乎都經(jīng)過了規(guī)范化處理，而且模型也大多只是采用了默認(rèn)的初始化配置。換言之，盡管我們可以使用經(jīng)過處理之后的數(shù)據(jù)，在默認(rèn)配置下學(xué)習(xí)到一套用以擬合這些數(shù)據(jù)的參數(shù)，并且使用這些參數(shù)和默認(rèn)配置取得一些看似良好的性能表現(xiàn)；但是我們?nèi)匀粺o法回答幾個最為關(guān)鍵的問題： 實際研究和工作中接觸到的數(shù)據(jù)都是這樣規(guī)整的嗎？難道這些默認(rèn)配置就是的么？我們的模型性能是否還有提升的空間？本章“3.1模型使用技巧”節(jié)將會幫助讀者朋友解答上述疑問。閱讀完這一節(jié)，相信各位讀者朋友就會掌握如何通過抽取或者篩選數(shù)據(jù)特征、優(yōu)化模型配置，進(jìn)一步提升經(jīng)典模型的性能表現(xiàn)。 然而，隨著近些年機(jī)器學(xué)習(xí)研究與應(yīng)用的快速發(fā)展，經(jīng)典模型漸漸無法滿足日益增長的數(shù)據(jù)量和復(fù)雜的數(shù)據(jù)分析需求。因此，越來越多更加高效而且強(qiáng)力的學(xué)習(xí)模型以及對應(yīng)的程序庫正逐漸被設(shè)計和編寫，并慢慢被科研圈和工業(yè)界所廣泛接受與采用。這些模型和程序庫包括： 用于自然語言處理的NLTK程序包；詞向量技術(shù)Word2Vec；能夠提供強(qiáng)大預(yù)測能力的XGBoost模型，以及Google的用于深度學(xué)習(xí)的Tensorflow框架等等。更加令人振奮的是，上述這些最為流行的程序庫和模型， 不但提供了Python的編程接口API，而且有些成為Python編程語言的工具包，更是方便了我們后續(xù)的學(xué)習(xí)和使用。因此，在“3.2流行庫/模型實踐”節(jié)將會帶領(lǐng)各位讀者一同領(lǐng)略這些時下最為流行的程序庫和新模型的奧妙。

3.1模型實用及技巧 這一節(jié)將向讀者朋友傳授一系列更加偏向于實戰(zhàn)的模型使用技巧。相信各位讀者在第2章中品味了多個經(jīng)典的機(jī)器學(xué)習(xí)模型之后，就會發(fā)現(xiàn)： 一旦我們確定使用某個模型，本書所提供的程序庫就可以幫助我們從標(biāo)準(zhǔn)的訓(xùn)練數(shù)據(jù)中，依靠默認(rèn)的配置學(xué)習(xí)到模型所需要的參數(shù)(Parameters)；接下來，我們便可以利用這組得來的參數(shù)指導(dǎo)模型在測試數(shù)據(jù)集上進(jìn)行預(yù)測，進(jìn)而對模型的表現(xiàn)性能進(jìn)行評價。 但是，這套方案并不能保障: (1) 所有用于訓(xùn)練的數(shù)據(jù)特征都是好的；(2) 學(xué)習(xí)得到的參數(shù)一定是的；(3) 默認(rèn)配置下的模型總是的。也就是說，我們可以從多個角度對在前面所使用過的模型進(jìn)行性能提升。本節(jié)將向大家介紹多種提升模型性能的方式，包括如何預(yù)處理數(shù)據(jù)、控制參數(shù)訓(xùn)練以及優(yōu)化模型配置等方法。 3.1.1特征提升 早期機(jī)器學(xué)習(xí)的研究與應(yīng)用，受模型種類和運算能力的限制。因此，大部分研發(fā)人員把更多的精力放在對數(shù)據(jù)的預(yù)處理上。他們期望通過對數(shù)據(jù)特征的抽取或者篩選來達(dá)到提升模型性能的目的。所謂特征抽取，就是逐條將原始數(shù)據(jù)轉(zhuǎn)化為特征向量的形式，這個過程同時涉及對數(shù)據(jù)特征的量化表示；而特征篩選則更進(jìn)一步，在高維度、已量化的特征向量中選擇對指定任務(wù)更有效的特征組合，進(jìn)一步提升模型性能。 3.1.1.1特征抽取 原始數(shù)據(jù)的種類有很多種，除了數(shù)字化的信號數(shù)據(jù)(聲紋、圖像)，還有大量符號化的文本。然而，我們無法直接將符號化的文字本身用于計算任務(wù)，而是需要通過某些處理手段，預(yù)先將文本量化為特征向量。 有些用符號表示的數(shù)據(jù)特征已經(jīng)相對結(jié)構(gòu)化，并且以字典這種數(shù)據(jù)結(jié)構(gòu)進(jìn)行存儲。這時，我們使用DictVectorizer對特征進(jìn)行抽取和向量化。比如下面的代碼55。

代碼55： DictVectorizer對使用字典存儲的數(shù)據(jù)進(jìn)行特征抽取與向量化 >>> # 定義一組字典列表，用來表示多個數(shù)據(jù)樣本(每個字典代表一個數(shù)據(jù)樣本)。 >>>measurements= [{'city': 'Dubai', 'temperature': 33.}, {'city': 'London', 'temperature': 12.}, {'city': 'San Fransisco', 'temperature': 18.}] >>> # 從sklearn.feature_extraction 導(dǎo)入 DictVectorizer >>>from sklearn.feature_extraction import DictVectorizer >>> # 初始化DictVectorizer特征抽取器 >>>vec=DictVectorizer() >>> # 輸出轉(zhuǎn)化之后的特征矩陣。 >>>print vec.fit_transform(measurements).toarray() >>> # 輸出各個維度的特征含義。 >>>print vec.get_feature_names()[[1. 0 0.33] [0. 1. 0.12.] [0. 0. 1.18.]] ['city=Dubai', 'city=London', 'city=San Fransisco', 'temperature']

從代碼55的輸出可以看到： 在特征向量化的過程中，DictVectorizer對于類別型(Categorical)與數(shù)值型(Numerical)特征的處理方式有很大差異。由于類別型特征無法直接數(shù)字化表示，因此需要借助原特征的名稱，組合產(chǎn)生新的特征，并采用0/1二值方式進(jìn)行量化；而數(shù)值型特征的轉(zhuǎn)化則相對方便，一般情況下只需要維持原始特征值即可。 另外一些文本數(shù)據(jù)則表現(xiàn)得更為原始，幾乎沒有使用特殊的數(shù)據(jù)結(jié)構(gòu)進(jìn)行存儲，只是一系列字符串。我們處理這些數(shù)據(jù)，比較常用的文本特征表示方法為詞袋法(Bag of Words)： 顧名思義，不考慮詞語出現(xiàn)的順序，只是將訓(xùn)練文本中的每個出現(xiàn)過的詞匯單獨視作一列特征。我們稱這些不重復(fù)的詞匯集合為詞表(Vocabulary)，于是每條訓(xùn)練文本都可以在高維度的詞表上映射出一個特征向量。而特征數(shù)值的常見計算方式有兩種，分別是： CountVectorizer和TfidfVectorizer。對于每一條訓(xùn)練文本，CountVectorizer只考慮每種詞匯(Term)在該條訓(xùn)練文本中出現(xiàn)的頻率(Term Frequency)。而TfidfVectorizer除了考量某一詞匯在當(dāng)前文本中出現(xiàn)的頻率(Term Frequency)之外，同時關(guān)注包含這個詞匯的文本條數(shù)的倒數(shù)(Inverse Document Frequency)。相比之下，訓(xùn)練文本的條目越多，TfidfVectorizer這種特征量化方式就更有優(yōu)勢。因為我們計算詞頻(Term Frequency)的目的在于找出對所在文本的含義更有貢獻(xiàn)的重要詞匯。然而，如果一個詞匯幾乎在每篇文本中出現(xiàn)，說明這是一個常用詞匯，反而不會幫助模型對文本的分類；在訓(xùn)練文本量較多的時候，利用TfidfVectorizer壓制這些常用詞匯的對分類決策的干擾，往往可以起到提升模型性能的作用。 我們通常稱這些在每條文本中都出現(xiàn)的常用詞匯為停用詞(Stop Words)，如英文中的the、a等。這些停用詞在文本特征抽取中經(jīng)常以黑名單的方式過濾掉，并且用來提高模型的性能表現(xiàn)。下面的代碼讓我們重新對“20類新聞文本分類”問題進(jìn)行分析處理，這一次的重點在于列舉上述兩種文本特征量化模型的使用方法，并比較他們的性能差異。 ……