15.3 Unsupervised GraphWiseアルゴリズムの使用

Unsupervised GraphWiseは、頂点情報を利用できる、教師なしの帰納的な頂点表現学習アルゴリズムです。学習した埋込みは、頂点分類、頂点クラスタリング、類似の頂点検索など、様々なダウンストリーム・タスクで使用できます。

Unsupervised GraphWiseは、VelickovicらによるDeep Graph Infomax (DGI)に基づいています。

モデル体系

Unsupervised GraphWiseモデルは、グラフの畳込み層とそれに続くDGI層で構成されます。

頂点の畳込み層を通過する前方パスは、次のように処理されます。

1. 頂点の近隣のセットがサンプリングされます。
2. 近隣の前の層表現は平均集約され、集約された特徴は頂点の前の層表現と連結されます。
3. この連結されたベクトルに重みが乗算され、バイアス・ベクトルが追加されます。
4. 結果は、層出力が単位ノルムを持つように正規化されます。

DGI層は3つの部分で構成され、畳込み層によって生成された埋込みを使用することで、教師なし学習が可能になります。

1. Corruption関数: グラフ構造を保持しながらノードの特徴をシャッフルし、畳込み層を使用して負の埋込みサンプルを生成します。
2. Readout関数: グラフのサマリーとして使用される、シグモイドによって活性化された埋込みの平均。
3. 識別器: 損失関数の計算元となるサマリーとの負のサンプルの類似性に加えて、サマリーとの正の(シャッフルされていない)埋込みの類似性を測定します。

これらのいずれにも可変のハイパーパラメータが含まれていないため、デフォルトのDGI層が常に使用され、これを調整することはできません。

次に、Coraグラフを例として使用して、PGXでのDGIの実装における主な機能の使用方法を示します。

• グラフのロード
  
• 最小限のUnsupervised GraphWiseモデルの作成
  
• 高度なハイパーパラメータ・カスタマイズ
  
• 異機種間グラフを使用したUnsupervised GraphWiseモデルの作成
  
• Unsupervised GraphWiseモデルのトレーニング
  
• Unsupervised GraphWiseモデルのLoss値の取得
  
• Unsupervised GraphWiseモデルの埋込みの推測
  
• Unsupervised GraphWiseモデルの格納
  
• 事前トレーニング済Unsupervised GraphWiseモデルのロード
  
• Unsupervised GraphWiseモデルの破棄
  
• Unsupervised GraphWiseモデルの予測の説明