谷歌发布移动端深度学习框架TensorFlow Lite

Posted 2021-04-29 绿米内蒙古

事件：谷歌发布移动端深度学习框架TensorFlow Lite

       今年 5 月，谷歌曾在 I/O 大会上宣布即将推出 TensorFlow Lite，11月15日， 谷歌终于发布了TensorFlow Lite开发者预览版本，这是一款 TensorFlow 用于移动设备和嵌入式设备的轻量级解决方案。TensorFlow 可以在多个平台上运行，从机架式服务器到小型 IoT 设备。但是随着近年来机器学习模型的广泛使用，出现了在移动和嵌入式设备上部署它们的需求。而 TensorFlow Lite 允许设备端的机器学习模型的低延迟推断。

      具有轻量级、跨平台、速度快的特点。它允许小 binary size 和快速初始化／启动的设备端  机器学习模型进行推断，可以在多个平台上运行，最先允许的平台是安卓和 ios，并且专为移动设备进行优化，包括大幅提升模型加载时间，支持硬件加速。现在，越来越多移动设备内置了专门的自定义硬件以高效处理机器学习工作负载。TensorFlow Lite 支持安卓神经网络 API，以充分利用新的可用加速器。当加速器硬件不可用时，TensorFlow Lite 返回至经优化的 CPU 执行操作，确保模型仍然可在大量设备上快速运行。 

      适用范围很广，并依然处于积极开发之中。TensorFlow 已经支持通过 TensorFlow Mobile API 在移动端和嵌入端部署模型。进一步来说，TensorFlow Lite 可以看作 TensorFlow Mobile 的升级，它成熟之后，就可以作为在移动设备、嵌入设备上部署模型的首要推荐。通过这一开发者预览版本，谷歌特意从一个受限平台开始，保证其在最重要的常用模型上的性能，优先考虑根据用户需求扩展未来的功能。未来持续开发的目标是简化开发者体验，并在一系列移动端和嵌入式设备上实现模型部署。

上市公司动态

       科大智能：蔡茹莘女士减持公司股份不超过374,806股，占总股本的0.05%

科大智能11月17日发布公告，公司持股5%以上股东蔡剑虹女士一致行动人股东蔡茹莘女士计划自2017年11月17日起15个交易日后的6个月内，以集中竞价方式减持本公司股份不超过374,806股，占本公司总股本比例的0.05%。

       GQY视讯：发布全资子公司洲际机器人出售建筑物类固定资产及土地使用权资产的补充内容

       GQY视讯11月19日发布公告，出售资产的目的是公司董事会认为收益率偏低，出售资产后所得资金进行对外投资可以大幅提高收益。商业技师学校愿意以约324.4万元/亩的价格购买此块土地及地面建筑。浙商职教集团完全有能力支付购买上述土地资产。

       思创医惠：公司股东、董事兼副总经理张佶先生计划减持本公司股份不超过2,531,250股，占总股本的0.31%

      思创医惠11月21日发布公告，公司股东、董事兼副总经理张佶先生计划在自减持计划预披露公告之日起15个交易日后的六个月内以集中竞价方式减持本公司股份不超过2,531,250股，占本公司总股本比例0.31%。截至11月21日，张佶先生预披露的股份减持时间已过半。张佶先生本次减持的股份，系首次公开发行股票之前持有的股份，包括首次公开发行股票后送股、资本公积金转增股本部分,减持最高价15.83元/股，减持最低价15.41元/股，减持均价15.51元/股。

       东方网力：审议通过第三次解锁限制性股票相关事宜，可申请解锁并上市流通的限制性股票数量3,462,500股，占总股本的0.40%

       东方网力11月22日发布公告，公司审议通过了首期限制性股票激励计划首次授予的限制性股票第三次解锁相关事宜，本次可申请解锁并上市流通的限制性股票数量为3,462,500股，占公司目前股本总额的0.40%。

       东方网力：15东网债的债项信用等级由AA+调升至AAA

      东方网力11月23日发布公告，深圳高新投为公司2015年面向合格投资者公开发行的公司债券提供全额无条件不可撤销连带保证担保。新世纪评级已将深圳高新投主体信用等级由AA+/稳定调升至AAA/稳定，因此15东网债的债项信用等级由AA+调升至AAA。

       京山轻机：因发行股份及支付现金购买资产并募集配套资金暨关联交易股票自11月23日开市起停牌

      京山轻机11月23日发布公告，公司于2017年11月22日收到中国证监会的通知，中国证监会上市公司并购重组委员会将于近日召开工作会议，审核公司发行股份及支付现金购买资产并募集配套资金暨关联交易事项。经公司申请，自2017年11月23日开市起停牌，待公司收到并购重组委审核结果并公告后复牌。

       东方网力：公司债券“15东网债”债券持有人可进行回售申报登记，本期债券存续期后1年的票面利率仍为6.00%

      东方网力11月26日发布公告，公司债券“15东网债”债券持有人可在回售申报期，即2017年11月27日至2017年11月29日，对其所持有的全部或部分“15东网债”债券进行回售申报登记。回售价格为人民币100元/张，回售资金发放日为2017年12月11日，债券利率不调整，即本期债券存续期后1年票面利率仍维持6.00%不变。

       东方网力：解除限售公司2016年非公开发行股份45,994,195股，占总股本5.38%，实际可上市流通数量为45,994,195股，占总股本5.38%

       东方网力11月27日发布公告，解除限售公司2016年非公开发行股份45,994,195股，占公司总股本比例5.38%，实际可上市流通数量为45,994,195股，占公司总股本比例5.38%。本次解除限售股份的上市流通日为2017年11月29日。

 

      神思电子：公司及控股子公司2017年累计收到增值税软件退税人民币5,563,217.18元，政府科研项目及其它补助资金人民币4,003,500.00元

       神思电子11月27日发布公告，截至11月27日，公司及控股子公司2017年累计收到增值税软件退税人民币5,563,217.18元，政府科研项目补助资金及其它政府补助资金为人民币4,003,500.00元。

行业新闻

        Nature拟推出机器智能在线期刊Nature Machine Intelligence

     《Nature Machine Intelligence》是 Nature 推出的全新在线期刊，将于 2019 年 1 月开始每月出版一期。期刊主要针对人工智能、机器学习和机器人领域的最佳研究，涉猎范围广泛，专门的线上刊物将便于尽快发布研究文章，使读者能够在文章发布在专门期刊前数周看到。内容类型多样化，包括原始研究论文和分析、新闻 & 评述、评论、观点、特征和信件这些能够阐明特定领域中重大进展且覆盖热门话题的内容。

巨头新动向

 

        谷歌发布自然语言框架语义解析器SLING

       11月16日，谷歌发布实验性系统 SLING，该系统是一个自然语言框架语义解析器，用于自然语言理解任务中，可将自然语言文本直接解析成语义表示——语义框架图。输出框架图直接捕捉用户感兴趣的语义标注，不运行任何中间阶段以避免流程系统的缺陷，还能够阻止不必要的计算。SLING 在推断阶段可以提供快速解析，通过提供一个高效、可扩展的框架存储实现和JIT 编译器，生成执行该循环神经网络的高效代码。尽管 SLING 仍处于实验阶段，但依靠高效的框架存储能力和神经网络编译器，它已经在一块台式机 CPU 上取得了>2,500 tokens／second 的解析速度。

        Facebook研究者提出用非局部操作解决视频处理中时空域的长距离依赖

        Facebook何恺明和RGB两位研究者最近提出非局部操作non-local operations为解决视频处理中时空域的长距离依赖打开了新的方向。受计算机视觉中的经典非局部均值方法的启发，采用图像去噪中常用的非局部平均的思想处理局部特征与全图特征点的关系，在处理序列化的任务是考虑所有的特征点来进行加权计算，克服了CNN网络过于关注局部特征的缺点。这种非局部操作可以很方便的嵌入已有模型，在视频分类任务中取得的很好的结果，并在在静态图像识别的任务中超过了何恺明本人ICCV最佳论文的Mask R-CNN。何恺明等人提出新的非局部通用网络结构，超越CNN。

 

      百度AI开发者实战营将在广州举办AI主题交流活动

     11 月 30 日，百度AI开发者实战营继10 月 19 日深圳首站以后，将再次回到广东，在广州举办一场规模盛大的 AI 主题交流活动。目前百度拥有中国最全面、最领先的 AI 开放平台，从 7 月百度 AI 开发者大会发布至今的不到四个月时间里，平台开放的能力总计超过 80 项，几乎涵盖目前已知人工智能的所有技术领域。自燎原”的 AI 开发者扶植计划发布以来，百度 AI 开发者实战营已走过了深圳、成都、杭州和上海四站，为全国各地的开发者和创业者带来了百度最核心的 AI 技术能力，百度语音技术和 UNIT 理解与交互技术平台将是本次广州站的“重头戏”，百度也将对AI计划做进一步深入的阐述。

 

      华为推出HiSR超分辨率技术，将低分辨率图片转化成高清图片并实现移动端快速预览

      近日，华为推出了 HiSR 超分辨率技术，该模型借助深度学习算法将低分辨率图片转化生成高清图片，在同样的标准下，处理效果相比 Google 的 RAISR 超分算法有明显的提升。并通过第一款人工智能手机芯片 Kirin 970 芯片的 HiAI 移动人工智能平台加速，首次实现了移动端的深度网络超分辨率算法，不仅达到了实时处理的速度，还保证了图片的效果，能效比提升了 50%，在移动端实现了快速预览高清图片的效果。HiSR 网络具有很强的适应性和扩展性，针对压缩之后不同分辨率的图像，提供1x 和3 x两种可选的网络用于图片的增强和放大，网络效果大大提升。

技术新突破

       普林斯顿大学提出神经网络生成工具 NeST：为给定的数据集自动生成非常紧凑的体系结构

       传统上通过大量试错来寻找最优神经网络架构的方式非常低效，而生成的 NN 架构存在相当数量的冗余组织。为了解决这些问题，普林斯顿大学最近提出的NeST 方法，从新的角度为神经网络优化打开了方向。研究人员提出的新技术可以用种子神经网络为基础，对特定数据集自动生成最优化的神经网络，这些生成的模型在性能上超过此前业内最佳水平，同时资源消耗与模型尺寸相比同类模型小了一个数量级。研究人员称，NeST 方法在工作过程中与人类大脑的成长和处理任务方式非常相近。

 

       Citadel等提出BBQ网络：将深度强化学习用于对话系统

       强化学习是近年来最受关注的人工智能研究方向之一，近日，卡内基梅隆大学、微软研究院、谷歌和 Citadel 等机构在 arXiv 上联合发表了一篇研究论文，提出了一种将深度强化学习应用于对话系统的新技术：BBQ 网络，可以显著提升对话系统中深度 Q 学习智能体的探索效率。智能体通过汤普森采样进行探索，可以从 Bayes-by-Backprop 神经网络中抽取蒙特卡洛样本。此算法的学习速度比 ε-greedy、波尔兹曼、bootstrapping 和基于内在奖励的方法等常用的探索策略快得多。此外，当 Q 学习可能失败时，只需将少数几个成功 episode 的经历叠加到重放缓冲之上，就能使该 Q 学习可行。

 

       吴恩达团队展示全新医疗影像识别技术：肺炎诊断准确率超过人类医生

       吴恩达和他在斯坦福大学的团队发表的新论文中提出了名为 CheXNet 的新技术，可以让计算机通过胸透照片自动诊断肺炎。它是一个 121 层的卷积神经网络。该网络在目前最大的开放式胸透照片数据集上进行训练，数据集包含 14 种疾病的 10 万张前视图 X-ray 图像。在实验中，4 名专业的放射科学者在测试数据集上进行手动注释，并与 CheXNet 的表现进行对比。在肺炎检测的敏感性与特异性上，CheXNet 的准确率超越了普通的放射科医生，把 CheXNet 应用到对数据集中 14 种疾病的检测上，也取得了顶尖的结果。

 

       LeCun提出错误编码网络：可在不确定环境中执行时间预测

      Yann LeCun 团队近日提出一种新型框架错误编码网络 Error-Encoding Networks，是允许在时间序列数据中进行鲁棒的多模式条件预测的网络架构，可在不确定环境中执行时间预测。它基于将未来状态分解为确定性分量和随机或难预测分量的简单直觉，确定性分量可以从固有的难以预测的部分中预测出来，并将不可预测的组成部分编码成一个低维的隐变量，将其馈送到前向模型。实验证明它能够持续生成多种预测，而不需要在隐空间或对抗训练中交替进行最小化，并直接避免了模式崩溃问题。

 

      新型元算法SafePredict可以使用拒绝机制保证正确率，比基于置信度的拒绝机制更有优势

      SafePredict是一种新型元算法，它可以和任意基础预测算法一起处理在线数据，通过拒绝来保证任意选择的正确率 1−ϵ。允许拒绝表示元算法有时可拒绝基础算法生成的预测，以使非拒绝预测的错误率不超过 ϵ。SafePredict 的错误界限不依赖于任何关于数据分布或基础预测器的假设。如果基础预测器未超过目标错误率ϵ，则 SafePredict 只能拒绝有限次。如果基础预测器的错误率随着时间发生改变，则 SafePredict 利用重心转移的启发式算法在无需了解变化时间的情况下适应这些变化，同时保证准确率。实证研究表明SafePredict 与顶尖的基于置信度的拒绝机制相比更有优势，后者无法提供鲁棒的错误率保证；SafePredict 和此类拒绝机制的组合可以在多种情况下进一步减少拒绝的数量。

 

      新强化学习算法ExIt：不需要模仿人类策略而训练出强大的 AI 机器

      ExIt 可被视为模仿学习的延伸，在标准的模仿学习中，学徒被训练以模仿专家的行为，ExIt 则在每一次迭代中都会执行一次专家提升步骤，依靠快速的学徒策略来改善相对较慢的专家的表现。ExIt 将强化学习分解为两个独立的子问题：泛化和规划。树搜索负责规划新策略，而深度神经网络则泛化这些规划。神经网络策略随之改善新的树搜索，并增强新的规划。这将允许智能体做长期规划，并进行更快速的学习，即使在极具挑战的问题也能达到高水平表现。这个训练策略在棋牌类人工智能玩家中是非常强大的，不需要任何人类专家的棋谱就能达到当前最佳性能。

 

       新型两步检测器 Light-Head R-CNN：改变两步检测器头重脚轻的设计，实现速度和准确率的双重突破

       通常情况下，两步检测器为了达到最高准确率，负责识别的头的设计比较复杂，耗时较长。近日，来自旷视和清华的研究者提出一种轻量级检测器头设计以构建一个高效、准确率高的两步检测器，通过使用一个稀疏的特征图和一个廉价的 R-CNN 子网络把网络的头部尽可能轻量化。该设计的计算量使随后的 RoI 子网络计算量大幅降低，检测系统所需内存减少。因其轻量级头部结构，该检测器能够实现速度和准确率之间的最优权衡，在速度和准确率上显著优于快速的一步检测器。此外，该算法还很灵活，适用于大型主干网络。