深度学习“炼丹”难？三分钟带你了解国产丹炉旷视天元

Posted 2021-04-19 算法与数学之美

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了深度学习“炼丹”难？三分钟带你了解国产丹炉旷视天元相关的知识，希望对你有一定的参考价值。

自从炼丹界推出新丹药“深度学习”，各大炼丹世家(Google, Facebook, Microsoft)不惜重金招纳炼丹贤士。优秀的炼丹师一师难求，上古炼丹世家Google曾发布英雄帖，悬赏30万两黄金只为求一优秀炼丹师(Google招聘的人工智能博士应届生平均年薪30万美元)。

昔日的底层人民衣不果腹，如今，只要学会炼丹，从此走上迎娶白富美的人生巅峰，衣食无忧。

炼丹的过程就是研究深度学习算法的过程，数据就是各种具有金木水火土属性的灵材，深度学习框架就是用来炼丹的丹炉，算力就是炼丹炉下的三味真火。灵材，丹炉，真火是炼丹师练出一颗AI的灵丹妙药的先决条件。

炼丹简史

炼丹这一门在修真界存在已久，上次辉煌发生在上世纪80，90年代。鼎盛时期，一次炼丹大会，场地在海边一字排开，连绵几百米。

炼丹门的上一次衰退有多个原因。一个是kernel派的入侵，他们凭着一招无穷升维打得炼丹门措手不及。一方面上手容易，修炼不需要感受天地元气，另一方面又有一套从史前数学界偷来的泛函心法，老少皆宜。接踵而来的都是统计学习流，凸优化流，图模型流，他们凭着从数学界那里搬来的各式外门功夫迅速占领了修真界。

炼丹门因为入门困难，操作复杂，于是人员凋落，门内坚守最后的几大长老纷纷躲在极寒之地加拿大过冬。那段时期大家只要一听到“炼丹”纷纷脸色一变绕道而行。

但数年前，炼丹门大长老的得意弟子凭借一张AlexNet丹方在修仙界大擂台Imagenet竞赛上一举夺魁。随后炼丹界突破不断，全民炼丹拉开了帷幕。

与此同时，作为修仙界人一直崇尚的礼仪——开源，推动了炼丹界的快速发展。开源促进了灵材、丹方、丹炉的共享，因为开源，年轻炼丹师可以轻易获得常见灵材和丹方，上手一款丹炉炼制入门灵丹。长此以往反复练习，初级丹师就可以晋级中级，中级可以升至高级。

而炼丹的成功离不开好的丹炉。一个好的丹炉使用简单，能够装入大量灵材，而且能有效的使用真火。目前市面上流行数个丹炉：蒙特利尔理工学院2008年推出的Theano、加州大学伯克利贾教主2013年闭关打造的Caffe，Amazon 2015年底开源的MXNet和炼丹第一世家谷歌开源的TensorFlow，Facebook 2017年开源的PyTorch等。

丹炉制造哪家强？

国产丹炉的惊耀现世

近日，中国新一代炼丹宗师旷视也开源了一款丹炉——天元(MegEngine)。

这个丹炉跟其他的有什么区别？旷视研究院的丹炉制作人田忠博讲述，天元最早由3名潜力非凡的道童打造了雏形，6年多以来，旷视结合炼丹师和凡间疑难杂症的需求不断改进丹炉的功能，已经颇具规模。

具体天元这个丹炉包括计算接口、图表示、优化与编译、运行时管理和计算内核5层，不仅吃的进大量的灵材（训得动）、能够高效利用真火（训得好），还能把原来花费数周才能练出丹的速度缩短到几个时辰（训得快）。无论是初级丹师还是高级丹师都能用的得心应手。

天元丹炉架构

目前，旷视天元已身经成千上万次炼丹的验证，此次开源，旷视希望能够让更多的炼丹师用上这款好丹炉，同时也加入开源社区为这款丹炉提改造意见，以让它变得更强大。

炼丹术发展至今，灵材、丹炉与真火已经形成密不可分的一体。2014年，在其他炼丹师还在东拼西凑炼丹的家伙的时候，旷视就打造了集灵材、丹炉与真火为一体的炼丹房——Brain++, 其包括灵材库MegData （数据管理平台）, 三味真火池MegCompute（深度学习云计算平台）与先进丹炉MegEngine (深度学习框架)。

天道酬勤！

经过多年的磨练打磨，旷视凭借Brain++在炼丹协会举办的各项人工智能大赛中屡屡霸榜。在 2017 年至 2019 年间，旷视曾一举拿下修仙界大擂台COCO竞赛的三连冠，吊打上古炼丹老师傅，刚入行8年的旷视，已然成为CV炼丹界的一代宗师。

修仙界大擂台COCO竞赛的三连冠引发了无数武林英雄好汉的追捧!

目前，Brain++的炼丹房供养着旷视1400多名中级高级炼丹师，他们不断完善灵材、加固丹炉、修炼真火，把Brain++炼丹房建成了为凡人提供灵丹妙药的基础设施。而今天，旷视决定把Brain++的能力开源、开放给修仙界，让凡人也能用上这样的装备炼制适合自己体质的灵丹。

那么旷视的这个炼丹炉究竟好不好用？

值得一提的是，天元ModelHub中汇聚了全球顶尖算法的一些预训练的丹方，和旷视研究院一些最新的技术、研发成果。