AV1，实时编码READY
Posted LiveVideoStack_
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了AV1，实时编码READY相关的知识，希望对你有一定的参考价值。
点击上方“LiveVideoStack”关注我们
一款编码器的成功，不仅需要大量的金钱，还需要耐心。AV1定稿三年后，是时候为它庆祝了。
文 | 包研
不知不觉，距离AV1完成定稿已经过去了三年多，这个新的视频编码标准已经获得了工业界认可，换句话说：AV1成功了。
截止到2021年8月27日的AOMedia成员名单（图片来自AOMedia官网）
2018年3月28日，AOMedia（简称AOM）在其官网上发布消息，AV1完成定稿，并开放了相关规格和参考代码。一个时代开始了。在过去三年间，AOMedia不断迎来新会员加入，其中不乏重量级的国内企业；AV1算法不断优化，大幅度降低了计算复杂度，包括点播场景和实时场景都可在生产环境中应用，我们也看到如Netflix、Facebook、Google、微软等巨头不断在内部部署AV1；一年一度的MSU视频编码大赛从在2017年开始也引入了AV1标准，MSU编码大赛被认为是最权威的视频编码器评测机构。种种迹象表明，AV1已经成为重要的编码器之一。
AV1的成功，要得益于HEVC混乱的专利授权机制，并且很好的抓住了VVC成熟之前的时间窗口。相比于HEVC，AV1打出了开源、免专利费的杀手锏。尽管存在一定的专利争议，比如Sisvel就宣布建立了AV1专利池并开始收费。但在Google和众多巨头组成的AOMedia拥有越来越强的谈判筹码，目前没有因AV1专利引起的诉讼的公开报道。LiveVideoStack曾经询问过关于AV1专利的争议，一名Google多媒体组的工程师告诉LiveVideoStack：所有与专利相关的询问都将由法务团队回复。
突破
相对于单纯的提升编码效率（压缩率），提供低延时、高压缩率的编码能力要困难的多。回顾AV1的发展历史，最先应用AV1的是在点播场景下的视频压缩，Netflix和Intel在2019年共同宣布了SVT-AV1计划，通过在服务端大量并行的CPU来加速AV1编码，Netflix也被认为是最早的应用AV1的长视频平台，他们在2016年就宣布拥抱AV1，并在2020年再android平台上部署AV1。YouTube、Facebook、Vimeo、爱奇艺先后宣布支持AV1。Twitch计划在2022年或2023年让最火爆的视频支持AV1，全面支持AV1将于2024-2025年实现。
YouTube AV1视频的观看时长趋势（图片来自Matt Frost在AOM Summit 2021上的分享）
云平台方面，阿里云、腾讯云、AWS等云平台先后在2019年至2020年推出了AV1的视频转码方案，当然这些服务都仅能实现离线转码服务，不能用于实时视频应用。
第一则关于AV1实时编码成果来自思科，2019年6月举行的Big Apple Video大会上，Cisco演示了通过AV1编码的Webex视频会议，可以实现720p@30fps和1080p@30fps。但根据Cisco的另一篇博客显示，直到2021年早些时候AV1才会部署在生产环境中。这凸显了一款新的视频编码器冷启动的难度。
同时，商用编码器也在取得突破，“微帧团队在2019年推出了全自研 Aurora AV1 编码器”，微帧科技联合创始人&首席科学家Zoe Liu告诉LiveVideoStack。
2021年5月，NETINT发布了一款用于数据中心的AV1编码实时加速卡。NETINT采用了ASIC芯片方案，这从一个侧面印证了AV1的成熟度与市场前景。
图：在码率为30kbps情况下，左图是AV1编解码技术处理效果，右图是Duo目前所使用的编解码技术的处理效果（图片来自Google产品博客）
首次将AV1用于实时编码大规模生产环境的是Google的 Duo，Duo是一款实时视频通话产品。在2020年4月21日，Google产品博客公布了这一消息。
巨人的肩膀
AV1生态的繁荣离不开背后巨头的投入，libaom AV1是其中最重要的项目，主要由Google来维护。从AV1定稿以来，保持了每年一个大版本更新。尤其在2021年，libaom AV1的3.0版更新格外频繁。Google将Duo上实时AV1编码能力通过libaom AV1开放给社区，并在不断优化中。“过去半年我们的主要工作方向在提高实时编码器运行速度，提高压缩性能，特别是主观压缩质量方向。同时我们也是2-4线程下的实时编码器算法进行优化，提高多线程效率。这些工作方向在未来的一段时间还会继续展开”，Google Senior Staff Engineer韩敬宁告诉LiveVideoStack。
dav1d是最成熟的AV1开源解码器，2018年由VideoLAN、VLC和FFmpeg共同开发，由AOMedia提供资助。VideoLAN的president，Jean-Baptiste Kempf在博客上透露：“most of the work for the optimizations are done”，尽管未来dav1d还会做一些优化工作，但主要的工作已经完成。
libaom AV1 + dav1d让AV1的生态达成了非常理想的状态，尤其是用于终端的硬件解码器还未普及的情况下，软件方案也可以很好的享受AV1带来的收益。
WebRTC加速器
今年1月20日，IETF RTCWEB草案最终都成为标准并获得了一个RFC编号，一周后WebRTC 1.0版发布。尽管此前WebRTC已经广泛应用各种浏览器、Android客户端中。毫无疑问，WebRTC定稿将更好的促进各种浏览器和系统之间兼容与协作。1月21日，Google宣布在Chrome中支持AV1 SVC实时编码。SVC提供了从单个编码器在单个比特流中生成多层次分辨率的能力。换言之，SVC是对服务器端转码和ABR的替代方案。在提供海量视频通信的场景下，SVC能够节省巨大的服务器算力开销。
借助WebRTC，AV1驶入了RTC的快车道。
“近几年, AV1编解码器的开发已经有了长足的进步。很快，各家都会推出AV1实时编码的产品或者基于AV1的RTC产品”，拍乐云创始人&CEO赵加雨告诉LiveVideoStack，“Google的Duo及Cisco的Webex都已经成功将AV1应用于RTC产品，增加了产业界的信心。”本月，拍乐云发布了Pano Venus，一款基于AV1的实时视频通话引擎，也是一套实时视频SDK服务Solution。赵加雨透露，Venus支持视频会议、社交娱乐、云游戏、泛教育等各行业实时场景，未来也将会服务于4K/8K、全景、VR等下一代实时视频通信产品形态，一些头部教育客户已经找到我们体验产品。
“开源的AOM Encoder已经可以在性能好的终端上实时运行，此外开源的AV1解码器dav1d的进展也非常迅速，它早就支持在PC或者移动终端的实时解码”，拍乐云首席科学家&合伙人章琦表示，“目前主流的i5/i7的CPU上均可以支持Pano Venus，主流的ios和Android手机上也可以支持Pano Venus，支持的最大分辨率为1080p@30fps。”
“从我们在iPhone 12 Pro的测试情况看，在720p@30fps和相同的主观质量条件下，运行 AV1 SDK设备的温度比运行H.264 SDK增加2摄氏度, 电量消耗增加电池容量的1%，内存和CPU消耗相近”，章琦对AV1充满了信心。
未来
“对于开发商和制造商来说，使用新的视频编解码器是一场既费时又费钱的博弈”，Matt Frost（Chair of the board, AOMedia）在演讲中直言不讳的表示。在AV1渐入佳境之时，AOMedia已经启动了AV2的开发工作。AV1不仅要面临来自HEVC、VVC的挑战，还要和AV2同场竞技。
“我认为AV1的核心压缩能力还有很大的空间没有发挥出来。更好的核心压缩能力也会带来新的速度和性能的平衡点。所以我个人预期AV1在未来的一年内会带来更高的压缩性能，同时运算复杂度会进一步降低，”韩敬宁告诉LiveVideoStack，“AOM也在推进AV2的研发工作。目前的主要工作重心依然是在压缩性能方向。”
据了解，AV2将在标准层面，针对实时编码场景做优化。包括声网在内的企业正在参与相关工作。
在采访最后，韩敬宁强调：libaom是一个面向全球的开源项目，我们欢迎更多的同行加入我们，一同提升AV1的性能，服务全球的生态系统。
“Venus的发布是拍乐云音视频技术上一个非常重要的里程碑，代表着AV1在实时通信领域的应用走向成熟。我们希望可以为AV1生态的进一步发展添砖加瓦，尽一份心力”，赵加雨表示。他还透露，拍乐云有计划加入AOMedia。
HEVC被认为是被专利毁掉的标准，相比而言，VVC的专利池清晰了许多。“HEVC由于其高昂且不明晰的专利政策，在其定稿后的多年，都未得到真正大规模应用，特别是在RTC领域。VVC作为业界最新标准，拥有较高的编码效率和较高的编码复杂度，在RTC领域，还有一段路要走，特别是RTC生态的建立。如果其能打破知识产权方面的壁垒，或许未来可期，”谈到HEVC与VVC的前景，赵加雨表示。
谈到Pano Venus的未来，章琦表示：“首先，提升主观质量。第二，增加覆盖到的设备种类， 在尽可能多的设备上支持运行AV1的编码和解码。”据了解，当Pano Venus发现设备无法支持AV1编解码的情况下，系统将自动切换到H.264视频流。Cisco Webex也采用了相似的策略。
参考
Sisvel宣布成立AV1专利池 1050项专利许可面临收费
9家专利拥有者退出MPEG LA HEVC 华为加入HEVC Advance
Netflix在安卓移动启用AV1格式 较VP9编码效率提升20%
重新定义实时视频时代，拍乐云发布国内首个 AV1 编码引擎 Pano Venus
阿里云视频云正式支持AV1编码格式 为视频编码服务降本提效
https://developer.aliyun.com/article/738081
AV1 在 RTC 应用实践中的现状与展望
https://www.infoq.cn/article/2x8BYoYzoeuBk9K21suY
https://en.wikipedia.org/wiki/AV1
https://www.chromestatus.com/feature/6206321818861568
https://trac.ffmpeg.org/wiki/Encode/AV1
https://blog.webex.com/engineering/the-av1-video-codec-comes-to-webex/
https://www.blog.google/products/duo/4-new-google-duo-features-help-you-stay-connected/
https://aomedia.googlesource.com/aom/
http://webrtcbydralex.com/index.php/2019/07/09/real-time-av1-in-webrtc-is-now-production-ready/
https://blogs.cisco.com/collaboration/cisco-leap-frogs-h-264-video-collaboration-with-real-time-av1-codec
https://blog.webex.com/engineering/the-av1-video-codec-comes-to-webex/
http://www.compression.ru/index_en.htm
https://aws.amazon.com/cn/about-aws/whats-new/2020/03/av1-encoding-now-available-with-aws-elemental-mediaconvert/
https://caniuse.com/?search=av1
https://code.videolan.org/videolan/dav1d
http://www.jbkempf.com/blog/post/2021/dav1d-0.9.1-a-ton-of-asm
https://www.prnewswire.com/news-releases/netint-announces-the-worlds-first-commercially-available-hardware-av1-video-encoder-for-the-data-center-301247855.html
扫描图中二维码或点击阅读原文
了解大会更多信息
喜欢我们的内容就点个“在看”吧！
以上是关于AV1，实时编码READY的主要内容，如果未能解决你的问题，请参考以下文章