腾讯报告谷歌TensorFlow首个安全风险，谷歌确认并致谢

Posted 2021-04-24 新智元

---

  新智元报道  

【新智元导读】 TensorFlow爆出发布以来首个自身安全风险，据悉，腾讯安全平台部预研团队已向谷歌报告这一风险并获得致谢。

谷歌面向机器学习和深度学习的开源框架TensorFlow被爆存在严重安全风险，可被黑客利用，带来安全威胁。

这应该是TensorFlow发布以来首个自身安全风险，据悉，腾讯安全平台部预研团队已向谷歌报告这一风险并获得致谢。

腾讯团队对新智元表示，整个风险的发现过程是：首先与部门AI同事碰撞思路，确定尝试研究tensorflow模型文件；然后，深入挖掘tensorflow API文档及源码，确认漏洞存在及危害。

其中最大问题在在于：Tensorflow的模型文件可被恶意利用，对模型使用者发起攻击。

腾讯安全平台部预研团队发现，攻击者可以生成Tensorflow的恶意模型文件，对AI研究者进行攻击。具体来说危害有四个方面：

a. 漏洞被成功利用后，被攻击者电脑可被恶意控制，可导致AI模型被盗或被恶意篡改

b. 该漏洞利用成本低，普通攻击者即可实施

c. 攻击成功率高，该漏洞利用迷惑性强，大部分AI研究者可能毫无防备

d. 漏洞危害面大，漏洞利用的是tensorflow本身的机制，tensorflow PC/移动平台最新版本均受影响。

AI 模型被窃取，损失的是开发者的心血；而一旦被篡改，造成AI失控，后果更难以想象。

腾讯安全平台对新智元表示，传统AI安全，主要研究AI算法的恶意对抗，而对AI框架等基础设施的安全性关注不够，尤其是AI框架自身的安全性；该漏洞就是利用TensorFlow框架自身的设计缺陷。

本次发现TensorFlow漏洞的思路同样适用于其他机器学习框架，如caffe等。

针对此事，谷歌官方负责人称，考虑到TensorFlow在AI的广泛使用，TensorFlow官网将会像大多数重要软件一样在网站创建安全公告页面，及时披露和修复安全漏洞。

TensorFlow——最流行的深度学习开源框架之一

 

根据谷歌在2017上海开发者大会上的介绍，TensorFlow目前在Github上获得的好评星星已经超过67000颗。是最受欢迎的深度学习框架之一。

TensorFlow也是谷歌大力推广的工具，今年在中国，谷歌还招募TensorFlow分享和推广的志愿者，定期为谷歌开发者社区进行TensorFlow、人工智能、深度学习等技术推广，帮助大批开发者学习技术。

据了解，Google的TensorFlow作为开源框架被互联网广泛使用。根据官方介绍，该框架在谷歌、ebay、airbnb、twitter、uber、京东、联想、小米、中兴等公司均有使用。在TensorFlow中，AI研究者可以复用他人建好的模型来进行AI训练，或直接提供AI服务，大大提高开发效率。这些公开的模型通常以文件形式提供，也普遍被认为是无害的。此次安全事件也让关注该领域的开发者对开源框架的潜在风险提高了警惕。

新智元了解到，腾讯安全平台部安全预研团队不仅聚焦AI、移动及IoT前沿领域的安全问题研究，同时也曾向Google，Apple，微软，Adobe等公司报告多个安全漏洞并多次获得官方致谢。此外，他们对无人机、无线电、物联网、智能楼宇的安全问题也有研究。 

---