Share via

特徵選取 (資料採礦)

  • 發行項

適用于：SQL Server 2019 和更早版本的 Analysis Services Azure Analysis Services Fabric/Power BI Premium

重要

資料採礦自 SQL Server 2017 Analysis Services 起退場，現在的 SQL Server 2022 Analysis Services 已不再繼續提供。 已退場和不再繼續提供之功能的文件不予更新。 若要深入了解，請參閱 Analysis Services 回溯相容性。

特徵選取 是機器學習中很重要的一部分。 特徵選取指的是減少處理序和分析的輸入，或尋找最有意義之輸入的過程。 相關詞彙： 特徵工程設計 (或 功能擷取)，指的是從現有資料擷取實用資訊或功能的過程。

為何執行特徵選取？

特徵選取對於建立優良的模型十分重要，而原因有多個。 其中一個是特徵選取意指某種程度的 基數縮減，以對建置模型時可考慮的屬性數目施加截斷。 資料幾乎一律會包含比建立模型所需的更詳細資訊，或包含錯誤的資訊類型。 例如，您可能必須具有 500 個資料行的資料集來描述客戶特性；不過，如果某些部分資料行中的資料非常疏鬆，您幾乎無法從將它們加入模型中得到好處；而且如果部分資料行對彼此進行複製，使用這兩個資料行可能會影響模型。

功能選擇不只能改善模型的品質，它也會使建立模型的過程更有效率。 如果您在建置此模型時保留不需要的資料行，定型程序期間就會需要更多 CPU 和記憶體，而且完成模型將會需要更多儲存空間。 即使資源不成問題，您仍會想要執行功能選取項目，並找出最佳的資料行，因為不需要的資料行可能會在幾個不同的方面降低模型品質︰

  • 吵雜或多餘的資料會使有意義的資料模式更難發現。

  • 如果是高維度資料集，則大部分的資料採礦演算法需要大很多的定型資料集。

在特徵選取的過程中，分析師、模型工具或演算法會根據對分析的實用性，主動選取或捨棄屬性。 分析師可能會執行特性工程設計以加入功能，並移除或修改現有的資料，而機器學習演算法通常會為資料行評分，並驗證其在模型中的實用性。

簡而言之，特徵選取有助於解決兩個問題：低價值資料過多，或高價值資料過少。 您在特徵選取中的目標應該是識別資料來源中，對建置模型很重要之資料行的最小數目。

SQL Server 資料採礦中功能選項的運作方式

在定型模型之前，一律會執行特徵選取。 在某些演算法，特徵選取技術是 「內建」的，如此會排除不相關的資料行，並且會自動探索最佳功能。 每個演算法都有一組自有的預設技術，用於智慧地套用特徵減少。 但是，您也可以手動設定參數以影響特徵選取行為。

自動特徵選取期間，會計算每個屬性的分數，並且只會選取擁有最佳分數的屬性供模型使用。 您也可以調整高分的臨界值。 SQL Server資料採礦提供多個方法來計算這些分數，而任何模型中套用的確切方法取決於這些因素：

  • 模型中所使用的演算法

  • 屬性的資料類型

  • 您可能在模型上設定的任何參數

特徵選取會套用到輸入、可預測的屬性或是資料行中的狀態。 完成特徵選取的計分之後，只有演算法選取的屬性和狀態會包含在模型建立程序中，而且可以用來預測。 如果您選擇的可預測屬性不符合特徵選取的臨界值，屬性仍可用於預測，但預測只會以模型中存在的全域統計資料為基礎。

注意

特徵選取只會影響用於模型的資料行，對採礦結構的儲存不會有任何影響。 排除在採礦模型外的資料行仍可用於結構，而採礦結構資料行中的資料則會存入快取。

特徵選取分數

SQL Server資料採礦支援這些熱門且妥善建立的評分屬性方法。 在任何演算法或資料集中所使用的特定方法取決於資料類型及資料行的使用方式。

  • 「有趣性」(Interestingness) 分數是用來在包含非二進位連續數值資料的資料行中排名及排序屬性。

  • 包含離散和離散化資料的資料行使用「Shannon 熵」(Shannon's Entropy) 和兩個貝氏 (Bayesian) 分數。 但是，如果模型包含任何連續資料行，則會使用有趣性分數評估所有輸入資料行，以確保一致性。

有趣性分數

如果特徵能告訴您一些有用的資訊，就具備「有趣性」。 不過，「有趣性」可以從許多方面來測量。 對極端值偵測來說，「新奇」可能很重要，但是區分緊密關聯之項目的能力 (或稱為「辨識權重」)，對分類而言可能更有趣。

SQL Server資料採礦中使用的有趣度量值是以entropy 為基礎，這表示具有隨機分佈的屬性具有較高的 entropy 和較低的資訊增益;因此，這類屬性較不有趣。 任何特定屬性的熵都會與所有其他屬性的熵進行比較，如下所示：

Interestingness(Attribute) = - (m - Entropy(Attribute)) * (m - Entropy(Attribute))

中間熵 (或稱 m) 代表整個功能集的熵。 藉由從中間熵減去目標屬性的熵，您可以評估屬性所提供的資訊量。

每當資料行包含非二進位的連續數值資料時，依預設就會使用此分數。

Shannon 熵

Shannon 熵可針對特定結果而測量隨機變數的不確定性。 例如，擲銅板的熵可以表示為銅板呈現大頭的機率函數。

Analysis Services 使用下列公式來計算 Shannon 熵：

H(X) = -∑ P(xi) log(P(xi))

這個計分方法可用於分隔和離散化的屬性。

使用 K2 優先的貝氏

SQL Server資料採礦提供兩個以貝氏網路為基礎的特徵選取分數。 貝氏網路是狀態及狀態間轉換的「導向」或「非循環」圖表，代表某些狀態一定會在目前的狀態之前、某些狀態會在之後，而圖表並不會重複或迴圈。 依照定義，貝氏網路可以使用先前的知識。 不過，在計算稍後狀態的機率時要使用什麼先前狀態的問題，對於演算法的設計、效能和精確度都很重要。

貝氏網路學習的 K2 演算法是由 Cooper 和 Herskovits 所開發，常用於資料採礦中。 這個演算法可以擴充，而且可以分析多個變數，但需要對當做輸入的變數進行排序。

這個計分方法可用於分隔和離散化的屬性。

使用統一優先的貝氏狄氏等價

貝氏狄氏等價 (Bayesian Dirichlet Equivalent，BDE) 分數也會使用貝氏分析來評估具有資料集的網路。 BDE 計分方法是由 Heckerman 開發，以 Cooper 和 Herskovits 所開發的 BD 標準為基礎。 Dirichlet 散發是多維度散發，描述網路中每個變數的條件式機率，而且具有許多對學習有用的屬性。

使用統一優先的貝氏狄氏等價 (Bayesian Dirichlet Equivalent with Uniform Prior，BDEU) 方法假設狄氏散發的特殊案例，其中會使用數學常數來建立先前狀態的固定或統一散發。 BDE 分數也假設可能性相等，這代表不能預期資料會區別相等的結構。 換句話說，如果「If A Then B」的分數與「If B Then A」的分數相同，則不能根據資料區分結構，也不能推斷因果關係。

每個演算法的特徵選取方法

下表列出支援特徵選取的演算法、演算法所使用的特徵選取方法，以及設定來控制特徵選取行為的參數：

演算法 分析的方法 註解
貝氏機率分類 Shannon 熵

使用 K2 優先的貝氏

使用優先統一狄氏分配的貝氏 (預設值)		 Microsoft 貝氏機率分類演算法只接受分隔或離散化的屬性，因此無法使用有趣性分數。

如需這個演算法的詳細資訊，請參閱 Microsoft 貝氏機率分類演算法技術參考。
決策樹 有趣性分數

Shannon 熵

使用 K2 優先的貝氏

使用優先統一狄氏分配的貝氏 (預設值)		 如果任何資料行包含非二進位連續數值，則所有資料行都會使用有趣性分數以確保一致性。 否則，便會使用預設特徵選取方法，或是當您建立模型時所指定的方法。

如需這個演算法的詳細資訊，請參閱 Microsoft 決策樹演算法技術參考。
類神經網路 有趣性分數

Shannon 熵

使用 K2 優先的貝氏

使用優先統一狄氏分配的貝氏 (預設值)		 Microsoft 類神經網路演算法可以使用貝氏和以熵為基礎的方法，只要資料包含連續資料行即可。

如需這個演算法的詳細資訊，請參閱 Microsoft 類神經網路演算法技術參考。
羅吉斯迴歸 有趣性分數

Shannon 熵

使用 K2 優先的貝氏

使用優先統一狄氏分配的貝氏 (預設值)		 雖然 Microsoft 羅吉斯迴歸演算法是根據 Microsoft 類神經網路演算法，但是您無法自訂羅吉斯迴歸模型來控制特徵選取行為。因此，特徵選取一定會預設為最適合屬性的方法。

如果所有屬性都是離散或離散化的，則預設值為 BDEU。

如需這個演算法的詳細資訊，請參閱 Microsoft 羅吉斯迴歸演算法技術參考。
叢集 有趣性分數 Microsoft 群集演算法可以使用離散或離散化資料。 但是，由於每一個屬性的分數都會計算為距離，並表示為連續的數字，因此必須使用有趣性分數。

如需這個演算法的詳細資訊，請參閱 Microsoft 群集演算法技術參考。
線性迴歸 有趣性分數 Microsoft 線性迴歸演算法只能使用有趣性分數，因為它只支援連續的資料行。

如需這個演算法的詳細資訊，請參閱 Microsoft 線性迴歸演算法技術參考。
關聯規則

時序群集		 未使用 不會使用這些演算法叫用特徵選取。

不過，您可以藉由設定 MINIMUM_SUPPORT 和 MINIMUM_PROBABILIITY 參數的值，控制演算法的行為，並在必要時減少輸入資料的大小。

如需詳細資訊，請參閱 Microsoft 關聯分析演算法技術參考 和 Microsoft 時序群集演算法技術參考。
時間序列 未使用 特徵選取不適用於時間序列模型。

如需這個演算法的詳細資訊，請參閱 Microsoft 時間序列演算法技術參考。

特徵選取參數

在支援特徵選取的演算法中，您可以使用下列參數來控制何時開啟特徵選取。 每個演算法都具有所允許之輸入數目的預設值，但是您可以覆寫這個預設值並指定屬性的數目。 本節列出為管理特徵選取所提供的參數。

MAXIMUM_INPUT_ATTRIBUTES

如果模型包含的資料行比在 MAXIMUM_INPUT_ATTRIBUTES 參數中所指定的數目多，則演算法會忽略認為不重要的任何資料行。

MAXIMUM_OUTPUT_ATTRIBUTES

同樣地，如果模型包含的可預測資料行比在 MAXIMUM_OUTPUT_ATTRIBUTES 參數中所指定的數目多，則演算法會忽略認為不重要的任何資料行。

MAXIMUM_STATES

如果模型包含的案例比在 MAXIMUM_STATES 參數中所指定的數目多，則會將最不常用的狀態群組在一起，並視為遺漏。 如果其中有任何參數設定為 0，特徵選取就會關閉，且會影響處理時間和效能。

除了這些特徵選取方法之外，您也可以透過在模型上設定「模型旗標」，或透過在結構上設定「散發旗標」，來改進演算法識別或提升有意義屬性的能力。 如需這些概念的詳細資訊，請參閱 模型旗標 (資料採礦) 和資料行 散發 (資料採礦) 。

另請參閱

自訂採礦模型和結構