9 特徴選択
9.1 最適な属性の検出
情報量が多すぎると、データ・マイニングの有効性が低下する可能性があります。モデルの作成やテストのために集められたデータ属性の列が、そのモデルにとって意味のある情報とならない場合もあります。実際にモデルの質や精度を落としてしまう場合もあります。
一例として、ある集団内で特定の病気が発生する可能性を予測する目的で、その集団に関するデータを大量に集めたとします。この情報の一部(おそらくその大部分)は、その病気に対する罹患率についてほとんどあるいはまったく影響を与えません。1世帯当たりの車の所有台数といった属性は、通常は何の影響も及ぼさない可能性があります。
無関係な属性は、データにノイズを加えるのでモデルの精度に響きます。ノイズがあると、モデルのサイズが大きくなり、モデルの作成およびスコアリングに必要な時間やシステム・リソースも増大します。
多くの属性を持つデータセットには、相関した属性のグループが含まれることがあります。これらの属性は、実際には基底に存在する同一の特徴を測定します。こうした属性が作成データに存在していると、アルゴリズムのロジックが歪められ、モデルの精度が影響を受ける可能性があります。
ワイド・データ(多くの属性)は通常、データ・マイニング・アルゴリズムについて処理上の問題が生じる元となります。モデル属性は、アルゴリズムで使用される処理空間のディメンションです。処理空間のディメンション性が高くなるほど、アルゴリズムの処理にかかる計算コストが高くなります。
ノイズ、相関、高いディメンション性の影響を最小限に抑えるには、データ・マイニングの前処理ステップとして、なんらかの形でディメンションを削減することが望ましい場合があります。ディメンションを削減するには、特徴選択と特徴抽出という2つの方法があります。
-
特徴選択: 最適な属性の選択
-
特徴抽出: 属性の組合せによる、新しい削減された特徴セットの作成
9.2 特徴選択および属性評価とは
一部のデータ・マイニング・プロジェクトでは、最も重要な予測子を見つけることが最終目的となります。たとえば、高い信用リスクを示す顧客の主要な特徴を見つけることを目的とするモデルなどです。
Oracle Data Mining for SQLは、重要度に従って属性をランク付けする属性評価データ・マイニング手法をサポートしています。属性評価は、実際には特徴を選択するものではなく、結果の予測との関連性に応じて特徴をランク付けするものです。ユーザーは、ランク付けされた特徴を再検討して、目的とする特徴が含まれるデータセットを作成する責任を負います。
特徴選択は、予測モデリングの計算効率を向上させるための前処理手段として有効です。
9.3 特徴抽出とは
特徴抽出は、属性を削減するプロセスです。最も重要な属性を選択および保持する特徴選択とは異なり、特徴抽出では実際に属性を変換します。変換された属性、つまり特徴は、元の属性の一次結合です。
特徴抽出のプロセスによって、より小さく上質な属性のセットが生成されます。特徴の最大数は、ユーザーが指定するか、アルゴリズムによって決定されます。デフォルトでは、アルゴリズムによって決定されます。
抽出した特徴で作成されたモデルは、意味のある少数の属性でデータが説明されるため、質が高くなります。
特徴抽出では、高いディメンション性を持つデータセットを、少数のディメンションに投影します。そのため、特徴抽出はデータの視覚化に役立ちます(ディメンションを2つまたは3つに削減すると、複雑なデータセットを効果的に視覚化できるためです)。
特徴抽出の用途には、潜在意味解析、データ圧縮、データ分解および投影、パターン認識などがあります。特徴抽出を使用して、教師あり学習の速度と効率を向上させることもできます。
特徴抽出は、一連のキーワードとその頻度によって表されるドキュメントのまとまりからテーマを抽出する場合に使用できます。各テーマ(特徴)は、キーワードの組合せで表されます。これにより、発見されたテーマで各ドキュメントを表現できるようになります。