20+顶尖高校同时开打《王者荣耀》！实际上是一场科研battle，你能信？

Posted 2021-09-17 QbitAl

金磊 假装发自 王者峡谷
量子位 报道 | 公众号 QbitAI

不是吧，不是吧。

一群学霸聚集在一起，竟然是为了打《王者荣耀》？！

而且还是来自清北、中科院、浙大等20余所顶级学府的那种。

但毕竟是一帮学霸们的“聚会”，果然连打游戏的“姿势”都那么与众不同：

他们竟然要用《王者荣耀》搞科研！

（妥妥的是有种诸葛亮“黄金分割率”的味道了。）

这到底是怎么一回事？

在《王者荣耀》里搞科研

要想搞清楚这件事，就需要先来颠覆一下你对《王者荣耀》的认知。

友友们，其实它不单单是一款游戏那么简单：

还是一个极具科研价值的游戏环境。

更准确来说，《王者荣耀》背后是一个AI 开放研究平台，它背靠腾讯各方面资源优势，为学术研究和算法开发开放的研究与应用探索平台——

“开悟”。

但搞科研嘛，算法、算力、数据、场景，可以说是缺一不可。

于是“开悟”就放话了：

各路英雄豪杰，我这儿啥都有！

比如《王者荣耀》提供了游戏测试环境、脱敏游戏数据集，还有游戏核心集群等资源。

腾讯AI Lab则把搭建好的算法、计算平台、评估工具亮了出来；算力的支持则是由腾讯云计算提供。

于是乎，来自各大顶尖高校的学霸们，就华山论剑般地汇聚于此。

至于各家高手们的“论剑之道”，就是在限定时间和资源内，训练出最优模型，并把它部署到AI服务器当中。

在提交系统之后，学霸们就相当于“炼”出了他们各自的《王者荣耀》英雄。

这不，同样是貂蝉，在修炼完不同“功法”后，便展开了一场激烈的博弈。

在1级狭路相逢之际，便来了个同归于尽。

△ 注：动图来自2021高校联赛AI表演赛

虽说都只是智能体，但在这波battle中，她们很好地发挥了自身的基本功：

作战中……

预测敌方走位……

已击杀，阵亡……

每个基本功背后，都是智能体在“审时度势”后的最佳决策。

而在双方复活之后，策略之间的博弈就变得更加紧凑和激烈。

毕竟常言道：一招棋错，满盘皆输

蓝方貂蝉在入场发觉自己经济较低，果断选择“发展我方经济”。

但同时也没有做到过分“猥琐发育”，还是该出手时就出手——发起进攻、持续进攻。

△ 注：动图来自2021高校联赛AI表演赛

而在后期的决策博弈更是精彩：

战略撤退、进攻防御塔、返回基地、追击地方……

很是有种人类玩家的感觉了。

不仅如此，智能体在紧张的战斗决策同时，还兼顾了出装策略。

大家都知道，出完血书（血族之书）的貂蝉，战斗中的续航能力会得到大幅提升。

为此，蓝方貂蝉第二个法术大件果断选择梦魇之牙，以此来克制红方貂蝉的回血。

△ 注：动图来自2021高校联赛AI表演赛

红蓝貂蝉在交手“八百回合”之后，终于迎来了“决战紫禁之巅”的时刻。

在红方水晶之下，两位貂蝉纷纷喊出“花开了，怒放吧”开启大招，完成最后的较量。

最终，以双方纷纷倒地，由蓝方小兵推倒红方水晶结束战斗。

……

这就是学霸们在《王者荣耀》里搞科研的结果展示。

而更具体一点来说，就是在特定的环境中，对多智能体之间的博弈展开研究，属于强化学习领域范畴。

它的难点之一，就在于智能体的每一个决策与动作，都会对全局产生非常复杂的变化，是有种“牵一发而动全身”的感觉了。

而在刚才的例子中，只是展示了学霸们在1V1场景中的科研成果，但其实他们还会有3V3的战斗。

这种场景对于智能体的挑战就更高了，因为每个智能体仅能获取局部的观测信息，但无法得知其他“队友”或“敌人”的信息。

这就对合作与竞争、完成特定任务背后的算法，提出了高难度的要求。

果然，学霸们打个游戏都是如此烧脑。

……

不过讲真，如此“名场面”还真不是什么新鲜事。

游戏中搞科研，并不是第一次

其实刚才学霸们的“科研展示”，就是去年中科大和电子科大，在第一届腾讯“开悟”AI大赛上演的一场决斗。

这场比赛可以说是扩大了社会各界对“AI+游戏”的认知。

但说实话，在游戏里搞科研这件事，国内外早就有所行动了。

例如早在2017年，OpenAI“修炼”的智能体，就单挑苦练了半辈子Dota的人类玩家Dendi，最终AI大获全胜。

时隔一年（2018年），OpenAI再次派出OpenAI Five，以5V5模式对战人类顶级阵容。

结果，又是以AI100%胜率告终比赛。

当时这样的结果简直是出乎观众的意料之外，就连马斯克在比赛前被问及“谁会赢”，都非常自信地回复到“人类”。

与此相关的技术论文也早就有所公布。

而除了在Dota2这种5V5团队竞技类型游戏外，“AI+游戏”在其他类型的游戏中也有所渗透。

例如DeepMind从2017年开始，也频繁曝出在《星际争霸2》这款游戏中碾压人类顶级玩家的消息。

DeepMind在这方面的科研研究——AlphaStar，其背后的相关技术论文，更是登上了顶刊Nature。

而在国内，对于“AI+游戏”的科研也是如火如荼地进行中。

例如早在2018年开始，腾讯AI Lab便在《王者荣耀》中持续发力，并与游戏团队打造出了策略协作型AI“王者绝悟”。

要知道，类似于这样的5V5 团队竞技游戏，单是玩家的动作状态空间便高达10²⁰⁰⁰⁰。

这个数字远远大于围棋及其他简单游戏，甚至超过整个宇宙的原子总数（10⁸⁰）。

在这三年期间，腾讯AI Lab在与之相关的研究，更是频频登上了AAAI、NeurIPS 等 AI 顶级会议（相关链接附在文末，感兴趣的读者可深入研究）。

而就在前不久的世界人工智能大会中，“王者绝悟”更是以全英雄达到职业电竞水平亮相。

在与人类顶级选手的较量中，更是以绝对的胜率惊艳四座。

值得一提的是，正是由于腾讯AI Lab在“AI+游戏”领域的技术沉淀，才能够在将其能力“打包”输送给高校的学霸们，也就是我们刚才提到的“开悟”AI开放研究平台。

……

至此，或许你有一个大大的疑问：

在游戏里搞科学研究，对我们现实生活有什么意义吗？

直接上答案——有的！而且意义非凡。

游戏，会是下一个AI里程碑的诞生地吗？

是的，这就是业界目前普遍认同的一种看法：

下一个AI里程碑可能会在复杂策略游戏中诞生。

这种说法并不是空穴来风。

首先，“AI+游戏”所涉足的大领域，便是强化学习。

一般来说，强化学习是用于描述和解决智能体在与环境的交互过程中，通过学习策略以达成回报最大化或实现特定目标的问题。

而一些复杂的强化学习算法，更是在一定程度上具备了解决复杂问题的通用智能。

但要通过训练，让智能体“炼就”如此能力，正如我们刚才说到的，算法、数据、算力、场景，这四样缺一不可。

尤其是场景和数据，需要够复杂、够具备不确定性，才能更好的贴近真实世界中人类决策时面对的环境。

游戏场景，恰恰就是符合这些高要求的“阵地”。

因此，长远来看，“AI+游戏”研究将是攻克通用人工智能（AGI）的关键一步。

而之于现实意义，以近几年大火的自动驾驶为例。

在这一领域中，随着技术的不断发展，自动驾驶逐步地从“感知层”向“决策层”过渡。

这是因为自动驾驶车辆在面临突发、不确定性问题时，需要作出精准的决策，来避免意外的发生。

可以把一辆自动驾驶汽车想象为一个游戏中的智能体，当它在现实生活中运行时，所要面对的问题复杂度之高，就不言而喻了。

这就离不开通过强化学习方法的大量训练，让自动驾驶这个“智能体”的应变能力，能够无限接近甚至超越人类。

但要练就这身功夫，在真实生活场景中训练定然是不现实的，而游戏，就成了一个非常好的训练场。

自动驾驶只是应用场景的案例之一，更多的还包括城市/空中交通管理、多机器人协调、能源分配等问题。

……

而腾讯AI Lab之所以携手王者荣耀团队打造“开悟”，也是基于上述情况的考量，不过他想要的做的却更多：

推动多智能体强化学习的发展。

尤其是高校在这方面的研究，更是“硬性条件”上面临着较为严峻的挑战。

但开放“开悟”，仅仅是腾讯AI Lab和王者荣耀团队为了完成这一目标的举措之一。

据了解，开悟还携手高校合作开发课程，进一步普及多智能体强化学习教育。

例如在今年8月，腾讯就宣布与四所国内一流高校（北京大学、电子科技大学、清华大学、中国科学技术大学），共建教学内容和课程体系改革项目。

据悉，这些顶尖高校将分别构建一门至少20学时的多智能体及强化学习平台的专业课程，理论授课知识点包括但不限于机器学习、强化学习、多智能体决策等相关的知识点。

除此之外，腾讯“开悟”还联合高校成立了人工智能科教联盟，并携手高校、科研院所、产业园区、投资机构组建人工智能科创联合体。

正如《王者荣耀》执行制作人、腾讯天美L1总经理黄蓝枭总结的那样：

我们开放了《王者荣耀》核心机制，提供标准接口、核心算法、脱敏的测试数据、评估工具和计算集群等，给高校老师和同学们进行多智能体的机器学习算法研究、学习成果交流，对算法成果反复迭代升级。期待这些研究成果能够落地其他产业环境，为工业机器人、救灾机器人等提供助力。

……

读到这里，你想不想围观清北等高校的学霸们，如何不仅打了游戏，还顺便把科研也一块搞了？

请继续关注开悟平台及赛事动向。

传送门

开悟官网地址：

https://aiarena.tencent.com/aiarena/zh/index

绝悟相关论文地址：

Mastering Complex Control in MOBA Games with Deep Reinforcement Learning：
https://arxiv.org/abs/1912.09729

Hierarchical Macro Strategy Model for MOBA Game AI：
https://arxiv.org/abs/1812.07887

Supervised Learning Achieves Human-Level Performance in MOBA Games: A Case Study of Honor of Kings：
https://arxiv.org/abs/2011.12582