mindspore_gl.nn.DOTGATConv

class mindspore_gl.nn.DOTGATConv(in_feat_size: int, out_feat_size: int, num_heads: int, bias=False)[源代码]

在GAT中应用点积版的self-attention。 来自论文 Graph Attention Network

\[h_i^{(l+1)} = \sum_{j\in \mathcal{N}(i)} \alpha_{i, j} h_j^{(l)}\]

\(\alpha_{i, j}\) 表示节点 \(i\) 和节点 \(j\) 之间的attention分数。

\[\begin{split}\alpha_{i, j} = \mathrm{softmax_i}(e_{ij}^{l}) \\ e_{ij}^{l} = ({W_i^{(l)} h_i^{(l)}})^T \cdot {W_j^{(l)} h_j^{(l)}}\end{split}\]
参数:
  • in_feat_size (int) - 输入节点特征大小。

  • out_feat_size (int) - 输出节点特征大小。

  • num_heads (int) - GAT中使用的attention头数。

  • bias (bool, 可选) - 是否使用偏置。默认值:False。

输入:
  • x (Tensor) - 输入节点特征。Shape为 \((N,*)\) ,其中 \(N\) 是节点数, \(*\) 可以是任何shape。

  • *g (Graph) - 输入图。

输出:
  • Tensor,输出节点特征。Shape为 \((N, num\_heads, out\_feat\_size)\)

异常:
  • TypeError - 如果 in_feat_size 不是正整数。

  • TypeError - 如果 out_feat_size 不是正整数。

  • TypeError - 如果 num_heads 不是正整数。

  • TypeError - 如果 bias 不是bool。

支持平台:

Ascend GPU

样例:

>>> import mindspore as ms
>>> from mindspore_gl.nn import DOTGATConv
>>> from mindspore_gl import GraphField
>>> n_nodes = 4
>>> n_edges = 8
>>> feat_size = 16
>>> src_idx = ms.Tensor([0, 0, 0, 1, 1, 1, 2, 3], ms.int32)
>>> dst_idx = ms.Tensor([0, 1, 3, 1, 2, 3, 3, 2], ms.int32)
>>> ones = ms.ops.Ones()
>>> nodes_feat = ones((n_nodes, feat_size), ms.float32)
>>> graph_field = GraphField(src_idx, dst_idx, n_nodes, n_edges)
>>> out_size = 4
>>> conv = DOTGATConv(feat_size, out_size, num_heads=2, bias=True)
>>> ret = conv(nodes_feat, *graph_field.get_graph())
>>> print(ret.shape)
(4, 2, 4)