2021/7/24 SVM 2021/7/26 后门学习&对抗神经网络

Posted 2021-08-28 ViviranZ

7.24

SVM:support vector machine

https://www.bilibili.com/video/BV1Ys411N7jh?p=1

目的：我们是想得到一个超平面最好地分割两类点（e.g.猫或者狗）。问题转换为…………

 SVM可以通过引入松弛变量给予分错的一些点惩罚函数，（C. Cortes and V. Vapnik. Support Vector Networks. Machine Learning, 1995. 54），使得优化后为：

 也可以推广为非平面的分割（B.E. Boser, I.M. Guyon, and V. Vapnik. A training algorithm for optimal margin classifiers. Fifth Annual Workshop on Computational Learning Theory, 1992.）

7.26

后门学习（backdoor learning）：

通过在设定的模型里面增加一个后门，使得当攻击者使用某个trigger之后激发。激发之前该模型表现与其他模型相同，激发后被变为攻击者给定的、带有恶意的设定。例如，通过改变神经网路训练中的一些目标值，使得训练结果变化。

网络不安全性可能来源于使用别人的数据集、云端计算或者干脆利用别人的网络。

https://zhuanlan.zhihu.com/p/160964591

↑这篇讲的很明白，抠细节的时候再看吧。

对抗神经网络（GANs）：

对抗特征学习一般指的是一种双向生成对抗网络（Generative Adversarial Networks，GANs）。GAN由两个网络组成：用来拟合数据分布的生成网络G，和用来判断输入是否“真实”的判别网络D。 生成器的目标是通过生成尽可能接近实际数据的样本来“欺骗”鉴别器。在对抗特征学习中我们使用一种新颖的无监督特征学习框架，即双向生成对抗网络（Bidirectional Generative Adversarial Networks，BiGAN）。其结构如下图所示：

简而言之，除了来自标准GAN框架的生成器G之外，BiGAN还包括编码器E，其将数据x映射到潜在表示z。 BiGAN鉴别器D不仅在数据空间（x与G（z））中进行区分，而且在数据和潜在空间（元组（x，E（x））与（G（z），z））进行区分。即对于生成器生成的数据而言，其包含生成的数据和用以生成数据的噪声数据；而对于真实数据而言，其包含数据本身和经过生成器逆映射得到的值。

https://www.jiqizhixin.com/graph/technologies/fbc5c5cf-dc05-455d-82e0-f344da7b35dd#:~:text=%E5%AF%B9%E6%8A%97%E7%89%B9%E5%BE%81%E5%AD%A6%E4%B9%A0%E4%B8%80%E8%88%AC%E6%8C%87%E7%9A%84%E6%98%AF%E4%B8%80%E7%A7%8D%E5%8F%8C%E5%90%91%E7%94%9F%E6%88%90%E5%AF%B9%E6%8A%97%E7%BD%91%E7%BB%9C%EF%BC%88Generative%20Adversarial%20Networks%EF%BC%8CGANs%EF%BC%89%E3%80%82.%20GAN%E7%94%B1%E4%B8%A4%E4%B8%AA%E7%BD%91%E7%BB%9C%E7%BB%84%E6%88%90%EF%BC%9A%E7%94%A8%E6%9D%A5%E6%8B%9F%E5%90%88%E6%95%B0%E6%8D%AE%E5%88%86%E5%B8%83%E7%9A%84%E7%94%9F%E6%88%90%E7%BD%91%E7%BB%9CG%EF%BC%8C%E5%92%8C%E7%94%A8%E6%9D%A5%E5%88%A4%E6%96%AD%E8%BE%93%E5%85%A5%E6%98%AF%E5%90%A6%22%E7%9C%9F%E5%AE%9E%22%E7%9A%84%E5%88%A4%E5%88%AB%E7%BD%91%E7%BB%9CD%E3%80%82.%20%E7%94%9F%E6%88%90%E5%99%A8%E7%9A%84%E7%9B%AE%E6%A0%87%E6%98%AF%E9%80%9A%E8%BF%87%E7%94%9F%E6%88%90%E5%B0%BD%E5%8F%AF%E8%83%BD%E6%8E%A5%E8%BF%91%E5%AE%9E%E9%99%85%E6%95%B0%E6%8D%AE%E7%9A%84%E6%A0%B7%E6%9C%AC%E6%9D%A5%22%E6%AC%BA%E9%AA%97%22%E9%89%B4%E5%88%AB%E5%99%A8%E3%80%82.%20%E5%9C%A8%E5%AF%B9%E6%8A%97%E7%89%B9%E5%BE%81%E5%AD%A6%E4%B9%A0%E4%B8%AD%E6%88%91%E4%BB%AC%E4%BD%BF%E7%94%A8%E4%B8%80%E7%A7%8D%E6%96%B0%E9%A2%96%E7%9A%84%E6%97%A0%E7%9B%91%E7%9D%A3%E7%89%B9%E5%BE%81%E5%AD%A6%E4%B9%A0%E6%A1%86%E6%9E%B6%EF%BC%8C%E5%8D%B3%E5%8F%8C%E5%90%91%E7%94%9F%E6%88%90%E5%AF%B9%E6%8A%97%E7%BD%91%E7%BB%9C%EF%BC%88Bidirectional,Generative%20Adversarial%20Networks%EF%BC%8CBiGAN%EF%BC%89%E3%80%82.%20%E5%85%B6%E7%BB%93%E6%9E%84%E5%A6%82%E4%B8%8B%E5%9B%BE%E6%89%80%E7%A4%BA%EF%BC%9A.%20%E7%AE%80%E8%80%8C%E8%A8%80%E4%B9%8B%EF%BC%8C%E9%99%A4%E4%BA%86%E6%9D%A5%E8%87%AA%E6%A0%87%E5%87%86GAN%E6%A1%86%E6%9E%B6%E7%9A%84%E7%94%9F%E6%88%90%E5%99%A8G%E4%B9%8B%E5%A4%96%EF%BC%8CBiGAN%E8%BF%98%E5%8C%85%E6%8B%AC%E7%BC%96%E7%A0%81%E5%99%A8E%EF%BC%8C%E5%85%B6%E5%B0%86%E6%95%B0%E6%8D%AEx%E6%98%A0%E5%B0%84%E5%88%B0%E6%BD%9C%E5%9C%A8%E8%A1%A8%E7%A4%BAz%E3%80%82.%20

概论的讲座

1.卷积：获得特征的方法

2.

 

 

感悟：

作为一个报告，综述是既boring又没有水平的方式了，综述性的文章是为了学习而并不能作为优秀的研究成果，真正安下心做学术、且学术内容不涉密的人做出来的高水平结果是针对一个特定的、具体的问题进行系列的研究的。

妙啊