Loading...
PloS one20210101Vol.16issue(3)

双線形相互作用を伴う動的グラフの一時的な注意を学ぶ

,
,
,
文献タイプ:
  • Journal Article
  • Research Support, Non-U.S. Gov't
  • Research Support, U.S. Gov't, Non-P.H.S.
概要
Abstract

時間の経過とともに進化するグラフに関する推論は、バイオインフォマティクス、物理学、ソーシャルネットワークなど、多くのドメインで挑戦的な概念です。エッジが短期の相互作用(メッセージングなど)または長期的な構造接続(たとえば、友情)になる可能性がある一般的なケースを検討します。実際には、長期的なエッジはしばしば人間によって指定されています。ヒト指定されたエッジは、生成に費用がかかり、下流タスクの最適ではありません。これらの問題を軽減するために、ノード通信を観察することにより、ノード間の時間的注意を推測することを学ぶ時間的点プロセスと変分自動エンコーダーに基づくモデルを提案します。一時的な注意がノードの特徴伝播を駆動するため、ノードインタラクションのダイナミクスを使用してこの重要なコンポーネントを学習すると、人間指定されたエッジに関連する問題を同時に回避すると同時に柔軟性が得られます。また、通常の作業で通常使用される連結ではなく、ノード機能のペアの双線形変換層を提案し、すべての場合においてその優れた性能を示します。動的リンク予測タスクの2つのデータセットの実験では、モデルはしばしば、ヒト指定されたグラフを必要とするベースラインモデルを上回ります。さらに、私たちの学んだ注意は意味的に解釈可能であり、実際のグラフと同様の接続をーマッションします。

時間の経過とともに進化するグラフに関する推論は、バイオインフォマティクス、物理学、ソーシャルネットワークなど、多くのドメインで挑戦的な概念です。エッジが短期の相互作用(メッセージングなど)または長期的な構造接続(たとえば、友情)になる可能性がある一般的なケースを検討します。実際には、長期的なエッジはしばしば人間によって指定されています。ヒト指定されたエッジは、生成に費用がかかり、下流タスクの最適ではありません。これらの問題を軽減するために、ノード通信を観察することにより、ノード間の時間的注意を推測することを学ぶ時間的点プロセスと変分自動エンコーダーに基づくモデルを提案します。一時的な注意がノードの特徴伝播を駆動するため、ノードインタラクションのダイナミクスを使用してこの重要なコンポーネントを学習すると、人間指定されたエッジに関連する問題を同時に回避すると同時に柔軟性が得られます。また、通常の作業で通常使用される連結ではなく、ノード機能のペアの双線形変換層を提案し、すべての場合においてその優れた性能を示します。動的リンク予測タスクの2つのデータセットの実験では、モデルはしばしば、ヒト指定されたグラフを必要とするベースラインモデルを上回ります。さらに、私たちの学んだ注意は意味的に解釈可能であり、実際のグラフと同様の接続をーマッションします。

Reasoning about graphs evolving over time is a challenging concept in many domains, such as bioinformatics, physics, and social networks. We consider a common case in which edges can be short term interactions (e.g., messaging) or long term structural connections (e.g., friendship). In practice, long term edges are often specified by humans. Human-specified edges can be both expensive to produce and suboptimal for the downstream task. To alleviate these issues, we propose a model based on temporal point processes and variational autoencoders that learns to infer temporal attention between nodes by observing node communication. As temporal attention drives between-node feature propagation, using the dynamics of node interactions to learn this key component provides more flexibility while simultaneously avoiding issues associated with human-specified edges. We also propose a bilinear transformation layer for pairs of node features instead of concatenation, typically used in prior work, and demonstrate its superior performance in all cases. In experiments on two datasets in the dynamic link prediction task, our model often outperforms the baseline model that requires a human-specified graph. Moreover, our learned attention is semantically interpretable and infers connections similar to actual graphs.

医師のための臨床サポートサービス

ヒポクラ x マイナビのご紹介

無料会員登録していただくと、さらに便利で効率的な検索が可能になります。

Translated by Google