文献阅读10期：ATTENTION, LEARN TO SOLVE ROUTING PROBLEMS!

Posted 2022-12-06 RaZLeon

[ 文献阅读·路径规划 ] ATTENTION, LEARN TO SOLVE ROUTING PROBLEMS! [1]

推荐理由：这篇应该不用多说了，ATTENTION模型做路径规划，算是一篇MileStone了。

1. Attention Model

• 一个TSP实例假定有n个节点，$i\in 1,\dots ,n$，每个节点的特征为${\mathbf{x}}_i$，对于TSP问题来说，${\mathbf{x}}_i$即节点i的坐标，且构成图为全连接图（其中包括自连接）。
• 总而言之，TSP问题的模型可以被认为是一个Graph Attention Network。
• 通过Mask来定义图结构。
• 解$\mathbf{\pi }=\left({\pi }_1,\dots ,{\pi }_n\right)$为节点的排列组合
• 对于给定实例$s$，选择解$\pi$的概率即一种随机策略概率$p(\mathbf{\pi }\mid s)$，则对于一个完整TSP问题，策略表达如下：
  $$p_{\theta }(\mathbf{\pi }\mid s)=\prod _{t=1}^n{p}_{\mathbf{\theta }}\left({\pi }_t\mid s,{\mathbf{\pi }}_{1:t-1}\right)\text{\hspace{1em}(1)}$$
• 整个文章的大致思路是：把所有点依次输入编码器，然后解码器输出解序列。

1.1.编码器

• 如图1所示，本文采用了Transformer结构，但本文不使用位置编码所以节点Embedding的结果相比输入顺序没有改变。
  
• 从NodeInput到GraphEmbedding总共分为两步，Multi-Head Attention（MHA）& Feed-Forward（FF）:
  $${\hat{\mathbf{h}}}_i=\mathrm{B}{\mathrm{N}}^{\ell }\left({\mathbf{h}}_i^{(\ell -1)}+{\mathrm{M}\mathrm{H}\mathrm{A}}_i^{\ell }\left({\mathbf{h}}_1^{(\ell -1)},\dots ,{\mathbf{h}}_n^{(\ell -1)}\right)\right)\text{\hspace{1em}(2)}$$
  $${\mathbf{h}}_i^{(\ell )}={\mathrm{B}\mathrm{N}}^{\ell }\left({\hat{\mathbf{h}}}_i+{\mathrm{F}\mathrm{F}}^{\ell }\left({\hat{\mathbf{h}}}_i\right)\right)\text{\hspace{1em}(3)}$$

2.解码器

• Context embedding：解码器在t时刻的上下文有两个源头，一是编码器，二是直到t时刻的输出。每一个TSP问题，由三个部分组成：Graph Embedding, 初始点，终点。对于第一时刻则有：
  $${\mathbf{h}}_{(c)}^{(N)}=\{\begin{array}{ll}\left[{\overline{\mathbf{h}}}^{(N)},{\mathbf{h}}_{{\pi }_{t-1}}^{(N)},{\mathbf{h}}_{{\pi }_1}^{(N)}\right]& t>1\\ \left[{\overline{\mathbf{h}}}^{(N)},{\mathbf{v}}^1,{\mathbf{v}}^{\mathrm{f}}\right]& t=1\end{array}\text{\hspace{1em}(4)}$$
• 对于已经经过的点，需要Mask掉：
  $$u_{(c)j}=\begin{array}{ll}\frac{{\mathbf{q}}_{(c)}^T{\mathbf{k}}_j}{\sqrt{d_{\mathrm{k}}}}& \text{ if }j\ne {\pi }_{t^{\prime }}\forall t^{\prime }<t\\ -\infty & \text{ otherwise }\end{array}\text{\hspace{1em}以上是关于文献阅读10期：ATTENTION, LEARN TO SOLVE ROUTING PROBLEMS!的主要内容，如果未能解决你的问题，请参考以下文章 文献阅读21期：Attention mechanisms and deep learning for machine vision: A survey 文献阅读21期：Attention mechanisms and deep learning for machine vision: A survey 文献阅读21期：Attention mechanisms and deep learning for machine vision: A survey 文献阅读21期：Attention mechanisms and deep learning for machine vision: A survey 论文阅读-ICLR2019-ATTENTION, LEARN TO SOLVE ROUTING PROBLEMS 文献阅读：Synthesizer: Rethinking Self-Attention in Transformer Models}$$