一天超2000次,阿里如何打响音视频超时空战役?

2018-12-14 13:40:24来源: 阿里技术 作者: 致凡热度:

导读:在阿里,音视频会议已经成为跨地区沟通、开会以及招聘的首选方式。据悉,目前阿里巴巴的办公网络与音视频会议已经覆盖全球33个国家和地区,其中,音视频会议在过去3个月平均每天召开超过2000余场。在使用如此频繁、覆盖面如此之广的音视频场景中,如何满足全球各地使用者的不同需求,保障交流的顺畅?下面,我们一起来探讨、研究。

分享者:阿里巴巴信息平台事业部资深技术专家致凡

音视频行业的发展

音视频行业发展迅速,经历了1970年代的黑白时代、1980年代的数字化时代、1990年代的数字标清时代、2006-2015年代的高清时代,2016年逐步开始以融合通信为主的行业趋势,高质量(4K,高清,高帧率,HDR)、多场景(点播,直播,实时通讯)、云化(硬件软件化,平台云化)和行业化已经成为当下音视频行业的发展趋势。

音视频行业未来的发展趋势,在我看来就是云+端+服务。

云:平台云化,从PaaS到SaaS,从私有公有云,一切都是基于云的服务。

端:兼容各种终端,PSTN和VOIP,会议室设备,手机,PC,Web,Android终端等。

服务:包括短信,语音,IM,音视频,呼叫中心,云客服和附加AI服务等多种服务。

目前,音视频已广泛应用于包括B2B(企业与企业间、企业内部间)、C2C(用户与用户间),以及B2C(企业和用户间)。

图片来自《艾瑞2018通信云服务行业报告》

根据著名Cisco的VNI(Virtual Network Index)预测,到2021年,地球上将有46亿互联网用户,271亿联网设备,82%互联网的流量是视频。每一秒钟将会有一百万分钟的视频内容被创建,其中4K高清的内容会增加30%,相当于每个月生成71亿部DVD影片,直播的需求也会大幅增长15倍。

从视频本身发展的趋势看也是一路狂奔向高清、CIP、4CIP、720P、1080P、UHD4K和8K;加上高帧率FPS 120-160FPS、HDR(High Dynamic Range)、宽色域(Wide Color Gamut),一切发展变化都是为了给人一种身临其境的Immersive体验。当然还有VR、AR、360视频,这所有的一切都意味着更多的视频数据流将被生成和消费。

网络环境让我们需不断完善音视频服务

如果网络带宽是无限且畅通无阻的,那世界将是多么美好。但网络并不是一马平川的。有时像十一长假堵车,有时像乡间泥泞小道,而且还有可能布满大坑。

根据Silver-Peak跨美国和欧洲的网络健康报告发现,网络传输的延时、抖动和丢包是普遍存在现象。有时网络状况就像天气一样令人难以捉摸。虽然网络的平均丢包率只有0.34%,但个别情况下可以达到2.2%;而且丢包从来都不是均匀的,是突发性的Burst,网络延迟可能会超过平均值300多倍。这些极端的网络情况对音视频的传输和用户体验来说,都是极大挑战。

网络和音视频流量的供求矛盾,网络传输的不确定和不完善的残酷现实,倒逼着我们不断完善和监控音视频服务。

音视频内容从生产到消费的过程会经历不同环节,且链路较长,其中涉及的技术也较多,下面将主要对其中的视频编码,网络构架进行解析。

视频编码

视频编码标准的选择

视频编码标准作为视频技术的核心,在过去几个世纪出现过很多不同标准,但最终被市场采纳主要为以下两套体系:一套是标准化体系的H264、H265 和正在制定中的VVC;另一套是开源无版税的VP8、VP9和AOM(Alliance for Open Meida)的AV1。

阿里巴巴是AOM的成员也同时积极参与VVC的制定,对于视频编码的核心不能被掐住发展的咽喉。

针对不同场景的不同编码需求

视频不同的应用场景(如:点播、直播、实时通讯),决定了在每一个应用场景底下对编码的不同需求。

对点播而言最重要的是编码效率,如何有效节约带宽。直播对延时有要求,但是是在秒级的,对编码的速度和稳定性的需求也比点播高。实时通讯对“点对点”的延时要求最高,同时它对稳定性和容错性的要求也很高,这需要通过平衡编码效率来实现。

如何配对编码率与分辨率

视频编码以前简单地采用固定压缩参数,固定码率和固定分辨率,对于HLS和MPEG-DASH的ABR(Adaptive Bitrate),也用固定编码率和分辨率来配对。这就无法满足不同视频对码率的不同需求。1M的720P动画片看起来可能已经不错了,但是1M的720P动作片看起来就会很糊。

但对于ABR,编码率和分辨率也是一个动态平衡的过程。在低码率的情况下用低分辨率以减少块状效果(blocking effects),当码率的提高到一定程度时提升分辨率,包围不同分辨率RD曲线的就是凸包(Convex Hall)。曲线中的交叉点就是理性的编码率和分辨率配对。

如何确定视频质量的衡量指标

但怎么确定曲线中的交叉点呢?这需要有衡量视频质量的指标。

通常的视频指标包括主观的MOS分和客观指标比如PSNR,SSIM和VMAF。阿里巴巴的视频质量指标,不但结合了通用的客观指标,也同时考虑了影响播放质量的的卡顿和网络状况。

如何进行自适应编码

自适应编码(Content Adaptive Encoding)是视频编码的一大趋势。从One-size-fit-all的单一编码参数、码率和分辨率配对,到根据视频内容的复杂度进行定制化的编码参数适配。自适应编码可以针对单个视频、场景、GOP,甚至是Frame用不同的压缩参数进行动态调整,这样最大限度优化视频质量、节约带宽。这种自适应优化最重要的就是视频质量的衡量指标。一旦定义好可用的指标,就可以围绕它进行不同层次的优化。

对于自适应编码,机器学习可以大有用处。比如利用机器学习针对不同的视频特征,找到对应优化的编码参数。

人脑占人身体的比例不大,但是消耗人体大约1/3的能量,人的基因特性决定了大脑只会关注画面中重要区域,忽略不重要的区域。利用这种ROI(Region of Interest)进行编码,就可以在保持视频主观质量的情况下减少编码率。比如人脸和文字是经验意义下的ROI的例子。

音视频服务器网络架构

实时音视频服务器的网络架构,除了MESH外,还有MCU(Multi-point Control Unit)和SFU(Selectiveforward Unit)两种。

MCU是集中的媒体处理服务,优势在于可以对媒体和信令进行控制和转换,如对媒体进行转码、转流、混屏、分流,对信令进行转换,对媒体包进行路由优化等等。MCU可以减低Client端的CPU和对网络带宽的需求,但是MCU的缺点也较明显,那就是服务器CPU的开销以及带来的延迟。

相对MCU来说,目前更流行的架构是SFU,它主要的好处是简单、低时延、高吞吐,缺点是对client端的带宽要求比较高,client上传一路或者多路流同时下载多路流。SFU的客户端可以发单流、多流(Simulcast)和SVC。根据运用场景的不同,客户端发流策略也不同。

在阿里巴巴的音视频会议系统中,采用的是一种SFU+MCU的混合模式,以保证最大的兼容性。这种SFU和MCU级联的策略保证对各类客户端的最大灵活性。此外媒体服务器在不同区域可以进行级联,客户端就近入会、就近补包,减低第一公里和最后一公里对音视频质量的影响。

网络带宽评估

网络带宽评估是实时通话的关键技术。阿里巴巴在这方面进行了很多针对会议室场景的优化。并且通过评估算法可以在服务器端快速发布,不用等待更新客户端软件。

在弱网不可避免的情况下,通过合理的带宽分配,确保音频优先传输,同时及时把弱网信息传达给用户,同样可以得到用户理解,提升用户体验。

后记

音视频提供的是服务,不是单点的QoS,用户的最终体验不是简单的抗丢包率、卡顿率的指标,而是端到端的体验。所以不仅需要我们在事先创造一个良好的音视频环境,更需要我们对整体链路进行质量监控。除了能及时发现问题,快速响应外,还能帮助我们不断发现与创造更多新业务场景。通过把业务数据化,再根据数据来指导业务,这样才能让音视频的服务体验达到极致。

责任编辑:张迪

为您推荐

阿里云手机100G存储被指噱头 安全性遭质疑

“下一个十年所做的事情就是云手机”。在不久前的中国互联网大会上,阿里巴巴集团主席马云如此表示。但即将推小米手机的雷军却认为,手机内置100G云存储只是噱头。云手机很大程度上不能单纯由终端本身的优劣所决定,其背后的云平台乃至管道支持是否“给力”,才是关键所在。云计算、云终端、云服务,云里雾里,一片云山雾罩。当前,“云”成为企业现在标榜自己具有高科技技术的最时髦的词。到底云是什么,阿里云手机是这样解释的,通过免费提供一个最高可达100G的云存储空间,用户可以用来同步联系人、短信、通话记录、照片、便签等。用户可以直接调用多种应用,而无需把软件下载安装到本地。从这些解释中可以看出,云平台可以把重要文件

消息称阿里巴巴全资收购华数淘宝

12月12日,据消息人士透露,阿里巴巴集团已经全资收购华数淘宝,并将整编至淘宝商城旗下。目前阿里巴巴官方并未对此事进行评论。相关人士称,近日华数淘宝已经被阿里全资收购,整编到淘宝商城旗下了,交易金额为2856万元人民币。不过,对于此消息,阿里巴巴集团则未予置评。2010年6月29日,阿里巴巴集团与华数数字电视传媒集团宣布双方投资华数淘宝正式成立。华数淘宝注册资本达人民币1亿元,上线的业务板块包括了华数电视淘宝商城和淘花网两大平台。

传阿里云无线并入天宇朗通 荣秀丽任CEO

凤凰网科技讯1月31日下午消息,丁香园CTO、贝塔咖啡共同创建人冯大辉在微博上透露,阿里云无线并入天宇,天语手机董事长荣秀丽任CEO,王坚任CTO。对此消息,凤凰网科技致电阿里巴巴相关负责人,对此事不予置评。而天宇方面也未回应。此前有媒体报道称,阿里巴巴与天宇双方就入资一事商谈逾一年,具体结果或于2月敲定。中国移动安徽公司浏览器基地筹备办公室主任盛鸿彬表示,互联网公司与传统IT公司相互收购将成为常态。以用户需求和体验为中心,云和端的紧密结合是大趋势。天宇朗通作为老牌公司具有丰富的终端设计开发经验,尤其是在硬件和固件方面,有能力帮助阿里云更好地落地人间。分析人士认为,互联网公司涉足手机行业已经不

中国平安携手阿里巴巴、腾讯试水互联网金融

中国平安首席执行官马明哲昨日证实,中国平安将联合阿里巴巴、腾讯共同投资申报成立一家合作企业,主营包括互联网虚拟财产保险在内的互联网产品业务。马明哲表示,阿里巴巴和腾讯有着庞大的客户群和成本较低的销售平台,这是吸引保险试水互联网销售的主要原因;而中国平安则有着设计保险产品和理赔服务的专业性,结合双方优势开辟保险销售新渠道,是一种有益的尝试。马明哲表示,此前他已和阿里巴巴董事长马云(微博)、腾讯董事长马化腾(微博)进行过多次沟通。马明哲透露,三方的合作不仅将体现在销售渠道的创新,而且将延伸到产品研发。虽然互联网交易金额较小,但网络游戏等所蕴含的虚拟价值不可忽视,保险产品创新可以从“地面”转向“网上