AI手语主播通过朱广权魔鬼面试，残影级手速无惧贯口，今已正式上岗助力冰雪盛会...

Posted 2022-02-18 程序员小灰

鱼羊 发自 凹非寺
量子位 | 公众号 QbitAI

什么样的手语主播能跟朱广权battle得有来有回？

话不多说，咱直接板凳瓜子备齐，一起前排围观：

只见朱广权语速起飞，妙语连珠，频出“魔鬼”面试题，但这位手语老师完全没在怕的：

如此表现，不仅面试官朱广权连连夸赞“精彩”，网友们也纷纷点赞。

没错，这位手语主播并非真人，而是一名来自百度智能云的虚拟数字人。

现在，她已正式上岗冰雪盛会，将在各类冰雪赛事中，为2780万听障人士提供24小时不间断的手语服务。

虽然是初次上岗，但这位AI手语数字人的专业度不容小觑。

根据测评，其手语可懂度能达到85%以上，与主流的中英、中日机器翻译结果相差无几。

毕竟，“台上一分钟，台下十年功”，为了给听障人士们奉上这精彩的瞬间，AI手语数字人背后的程序员们，已经下了不少苦工。

手语数字人背后的技术挑战

在聊技术之前，或许你会好奇这样一个问题，明明有字幕，为啥体育赛事等电视节目还需要手语解说？

实际上，由于种种现实因素的制约，比起文字，手语对听障人士而言更加亲切，也能更快速地传递信息。

因此，屏幕一角的手语翻译，对于特殊人群而言其实是一个“更加平等享受资讯”的窗口。

这也就给AI手语数字人提出了一个本质的技术问题：如何让听障人士能真正看懂数字人打出的手语？

乍一看，这就是个从语音到文本，从文本到手语符号，再到手语数字人动作的一个翻译流程，但深究其背后的技术细节，就会发现需要克服的难点要比表面看上去复杂得多。

首先，语音转手语，并不是简单地构建一个语音到视觉的转换模型就行。

单就语序而言，手语和自然语言之间就存在较大的差异。举个例子，“我想回家”这样一句话，用手语打出来的顺序其实是“家 回 我想”。

并且，手语还有语言精简的特性，手语的描述会对口语进行精简。

也就是说，如果只是生硬地把口语中的词汇转换成手势，再把动作简单地连接起来，这样打出的手语只能说是“半吊子手语”，听障人士很难看懂。

其次，表情神态同样是手语表达中极为重要的部分。

有时一个手势代表好几个意思，如果没有表情和口型的配合，就可能产生误解。

除此之外，还要考虑数据匮乏、数字人动作灵活度欠缺等种种问题。

总而言之，想要打造一个高质量手语数字人，既需要语音、视觉、自然语言处理等AI技术同时发力，也少不了对于听障人士真实需求的深入调研。

所以，这一次百度智能云的程序员们是如何成功让AI手语主播具备助力冰雪盛会的实力的？

2个月，“做难而正确的事”

研发团队接到手语数字人任务时，距离万众期待的冰雪盛会已仅剩不到2个月的时间。

但就是在这种几乎没有时间试错的情况下，程序员们却放弃了现成的手势汉语语料。

正如前文所言，汉语到手势的简单转换在很多情况下会让听障观众产生理解歧义，实际效果其实是大打折扣的。

为了“治本”，尽管面临数据需要从头采集标注、额外增加的成本难以预估的压力，百度智能云团队还是果断选择了自然手语语料：

做就做难而正确的事。

为此，百度智能云团队联合天津理工大学，组织了上百位听障学生做语料的数据标注，同时邀请手语语言学专家、特殊教育专家等专业人士，将大量行业知识融合到模型效果和听障人群的体验当中。

打下了高质量的基础，接下来，就是一步步解决手语数字人“听得清”、“会翻译”、“会表达”三个问题。

“听得清”，要靠语音识别模型。

ASR语音识别方面，在NLP、语音领域有着逾10年积累的百度本身已具备成熟的解决方案，识别准确率能达到98%以上，还能hold住中英文混杂、生僻字、方言等特殊场景。

“会翻译”，用上的就是手语翻译模型。

与一般的语言翻译模型不同，由于前文提到的手语表达中语言精简等特性，手语翻译模型需要着重考虑精准度和精简度。

其中精准度影响到数字人手势的精准，而精简度会影响传递信息的及时性。

在高质量数据资源和百度多年积累的神经网络翻译技术的基础上，研发团队设计了从中文文本到手语符号的翻译方法。

通过大规模知识学习、中间件控制等手段，研发团队成功在保障翻译准确率的情况下缩减了译文长度，实现了翻译效果和时延的平衡。

2个月的时间里，经过6次大的版本迭代，这一手语翻译模型可懂度最终达到了85%以上，媲美主流的中英、中日等方向的机器翻译结果，达到了业界领先水平。

最后，数字人的表达靠的是动作生成模型，包括手势、口型、表情的生成。

针对手势问题，研发团队运用人体动作视觉识别技术，让AI学习手语视频，将其中的二维骨骼点转化为驱动三维数字人的手语动作，并且能够精确到每一根手指。

基于此，百度智能云已经建立起拥有近1万个手语动作的强大动作库。

而在口型和表情方面，研发团队运用首创的4D扫描数据进行训练，对表情和口型进行精准校正，通过超10万个全身多边形面、超1万个脸部面、超240个面部表情行变基、超100个身体骨骼界限，赋予了手语数字人自然生动的表情。

wink、吹泡泡都不在话下：

总体上，口型生成的准确度能够超过98.5%。

“降低成本是虚拟数字人发展的关键”

说到这里，想必你也看出来了，百度智能云的程序员们能够大胆挑战更有难度的技术路线，与百度本身长期积累的AI技术、数字人技术不无关系。

实际上，在数字人的生产上，百度已经把上述人像驱动技术、智能对话技术、语音交互技术，以及智能推荐技术汇总到了其平台级产品——百度智能云曦灵平台上。

百度智能云曦灵集数字人生产、内容创作、业务配置服务为一体，无论是虚拟员工这样的服务型数字人，还是虚拟主持人、虚拟偶像这样的演艺型数字人，都能基于该平台一站式打造，甚至是“一句话生成”。

此前与马斯克妈妈梅耶·马斯克对话的百度集团数字人“希加加”：

能够弹琴献唱的“龚俊数字人”：

就都是基于百度智能云曦灵打造。

目前，百度智能云曦灵平台已经推出了3D写实、2D写实、3D卡通三条生产线，实现了银行/保险、运营商、媒体/广电、互娱/品牌商、MCN/艺人经纪等全场景覆盖，一站式打造“能听、能说、能理解、可互动”的数字人。

这就大大加速了一个数字人从设计到落地的流程，有效降低了数字人生产的成本，为数字人的规模化应用打下了基础。

百度集团副总裁吴甜在参加央视《对话》节目录制时还谈到这样的观点：

降低成本是虚拟数字人发展的关键之一。

百度希望通过领先的全栈AI能力，把虚拟人的生产周期缩短到小时级别，降低生产成本，并驱动生成内容。

科技让世界更公平

严格说起来，数字人并不算是全新的事物。

在过去几年中，随着AI等技术的成熟，以及短视频、直播等新兴媒介需求的涌现，数字人正不断涌现出新的面貌和新的应用模式。

而从被提出到今天的广泛落地，“数字人”这一科技热词，其实也已经历了好几个认知阶段。

第一阶段，大家探讨的重点是数字人“真不真”，这是新技术之初见。

当技术落地的尝试开始展开，第二阶段围绕“危机感”的讨论便随之而来：人们开始关注数字人是否会侵占掉人类的工作机会。

现在，或许我们对数字人的认知，又到了进入新阶段的时候。

正如AI手语数字人让冰雪赛事的魅力触达到了更多人群，越来越多的落地案例正在说明，数字人作为一种提升服务效率的方式，并非在“替代”人类工作，而是在填补人力所不能及的空白。

这也正是科技背后真正的价值——并非取而代之，而是帮助人、做人所不能之事。

而当百度这样的科技企业，致力于降低技术的成本、加速技术的落地，体现出的亦正是科技工作者的社会责任担当。

从这个角度来讲，前沿技术俨然不再冰冷和遥远，而是真正在让人类共同体变得更加公平和美好。

你觉得呢？

— 完 —