VR起飞阶段来临!新基建加持,五横两纵技术框架全面展开 | 智东西内参

现在,“新基建”已成为拉动投资、促进消费、稳定就业和提升综合实力的重要抓手,如何加载高质量的业务生态成为释放新基建发展动能的关键。当前,以虚拟现实VR(包含增强现实AR)为代表的未来视频,正在成为工业数字孪生、沉浸式教学等传统行业转型升级与长短视频领域的重点发展路径。在今年新冠疫情的影响下,视频社交、视频会展等虚拟现实创新应用市场逆势增长,表现出对新型基础设施更加迫切的需求,并对通信基础设施的带宽、时延等网络传输能力、对算力基础设施的计算、存储能力提出了不断进阶支撑要求。

继 2016 年虚拟现实产业元年、2018年云 VR 产业元年、2019 年 5G 云 VR 产业元年过后,2020-2021 年将成为虚拟现实驶入产业发展快车道的关键发力时窗。

本期的智能内参,我们推荐中国信通院的报告《虚拟(增强)现实白皮书2021》,从VR(AR)的关键技术趋势、产业发展趋势和创新应用分析三大方面还原VR产业的最新发展情况。

本期内参来源:中国信通院 华为 京东方

原标题:

《虚拟(增强)现实白皮书 》

作者: 陈曦、胡可臻等

一、关键技术:“五横两纵”

总体来说,虚拟(增强)现实趋势包含“五横两纵”的技术框架与发展路径。其中,“五横”是指近眼显示、感知交互、网络传输、渲染计算与内容制作,“两纵”是指 VR 与 AR,各技术点发展成熟度具体如下。

近眼显示方面,快速响应液晶屏、折反式(Birdbath)已规模量产,Micro-LED 与衍射光波导成为重点探索方向。

渲染计算方面,云渲染、人工智能与注视点技术等进一步优化渲染质量与效率间的平衡。

内容制作方面,WebXR、OS、OpenXR 等支撑工具稳健发展,六自由度视频摄制技术、虚拟化身技术等前瞻方向进一步提升虚拟现实体验的社交性、沉浸感与个性化。

感知交互方面,内向外追踪技术已全面成熟,手势追踪、眼动追踪、沉浸声场等技术使能自然化、情景化与智能化的技术发展方向。

网络传输方面,5G+F5G 构筑虚拟现实双千兆网络基础设施支撑,传输网络不断地探索传输推流、编解码、最低时延路径、高带宽低时延、虚拟现实业务AI 识别等新兴技术路径。

VR起飞阶段来临!新基建加持,五横两纵技术框架全面展开 | 智东西内参

虚拟现实关键技术体系(2020)

VR起飞阶段来临!新基建加持,五横两纵技术框架全面展开 | 智东西内参

虚拟现实技术成熟度曲线(2020)

1、近眼显示:Micro-LED 与衍射光波导成为当前探索热点

近眼显示受限于核心光学器件与新型显示的发展,整体发展相对迟缓。2020 年随着市场需求日渐清晰,业界对近眼显示领域表现出更高的期待。

在显示领域,快速响应液晶与硅基 OLED(OLEDoS)作为主流的显示技术,处于实质规模量产阶段,微型发光二极管(Micro-LED)有望迅速发展。快速响应液晶被广泛用于 2020 年发布的新一代代表性 VR 终端,如 Facebook Quest 2 即采用一块改良后的 Fast-LCD 替换了上代产品中的两块 AMOLED。

当前快速响应液晶屏成为多数 VR终端的常用选择,主要表现为以超高清(如 5.5 英寸 3840*2160 分辨率)、轻薄(2.1 寸 1600*1600)、成本(5.5 寸 2160*1440)为设计导向的三类技术规格;

硅基液晶(LCoS)作为 AR 终端常用的显示技术得到了一定发展与认可,但其较高功耗与较低对比度的不足限制了该技术的发展地位;

OLEDoS 可显著改善 LCOS 在对比度、功耗与响应时间等方面的性能表现,成为新近发布 AR 终端的主流技术选择,

2019 年底京东方在昆明量产;LBS 激光扫描显示已用于微软等部分行业巨头的相关产品,亮度、功耗与体积等方面的优势使得该技术获得业界关注,但须搭配较为复杂的光学架构实现功能,短期内市场预期有限;

Micro-LED 成为继 LCD 和 OLED 后业界期待的下一代显示技术,广阔市场前景致使诸多行业巨头加速战略布局,苹果(LuxVue)、脸书 (InfiniLED)、谷歌(Glo、Mojo Vision)、英特尔(Aledia)等纷纷投资或收购该领域初创公司,业界正在规划的规格以 1.3 寸4K*4K 为主。

虽然 Micro-LED 具备低功耗、高亮度、高对比、反应速度快、厚度薄与高可靠等虚拟现实应用方面的性能优势,但现阶段由于 LED 外延成本较高,巨量转移的速度和良率尚未达到可量产的水平,当前 Micro-LED 显示技术正处在量产突破的前夕,梳理晶元光电股份有限公司、友达光电股份有限公司、镎创显示科技股份有限公司、三星等重点企业的发展进度可知,预计其规模量产时间在 2022 年左右

在光学领域,作为下一代人机交互平台,虚拟现实呼唤以人为中心的光学架构,视觉质量、眼动框范围、体积重量、视场角、光学效率与量产成本间的权衡取舍、优化组合成为驱动技术创新的主要动因。

超薄 VR(Pancake)利用半透半反偏振膜的双透镜系统折叠光学路径,将头显重量降至 200g 以内,体积缩减至传统终端的三分之一,缓解了 VR 头显尺寸重量与便携性的痛点,且可保证较好的显示效果及更大的视场角;

折反式(Birdbath)得益于设计难度与量产成本的优势,触发了消费级 AR 终端的规模上量,基于这一传统技术路径的光学模组体积较大厚度减薄困难,眼动框范围受限,其光学系统须搭配算法缓解畸变,且光效难以高于 15%,效果和成本较大程度受限于微显示器的发展,高亮的 OLEDoS 成为最优搭配,目前我国已有厂商采用该技术大量出货;

自由曲面在早期得到业界认可,其显示效果、光效表现较好,但量产加工难以保持较高精度,局部精度下降可导致图像局部扭曲和分辨率降低,存在产品一致性难题。此外,通过厚棱镜观察真实世界会出现一定程度扭曲和水波纹样畸变,这些因素影响了自由曲面的发展潜力;

光波导在 AR 领域的技术发展前景明确,可进一步分为阵列和衍射光波导两大技术路线。相比其他光学架构,光波导外观形态趋近日常眼镜,且通过增大眼动框范围更易适配不同脸型用户,有助于推动消费级 AR 产品显著升级。

其中,阵列光波导采用传统光学冷加工技术,连续多层半透半反镜面阵列镀膜、贴合、切割等复杂多步工艺对产品良率提升提出较大挑战,量产成本难以降低。此外,基于阵列光波导的二维扩瞳方案对加工工艺的挑战极大,短期难以商用;

衍射光波导依循光学元件从毫米级到微纳级、从立体转向平面的技术趋势,采用平面的衍射光栅取代传统的光学结构。衍射光波导利用经过两次两个方向的扩瞳光栅或二维光栅以实现二维扩瞳,从而给以人为中心的光学设计与用户体验优化留有更大的容差空间。衍射光波导理论上具有较高的可加工性,成本可控,批量生产难度显著低于阵列光波导,现已成为国内外标杆企业研发创新的活力区。此外,为了改善色散问题,针对 FOV 和动眼框内的“彩虹效应”,如何用一层光栅作用于 RGB 三色且实现最大的 FOV 成为重要的技术挑战。

目前,衍射光波导根据光耦合器的差异可分为利用纳米压印技术制造的表面浮雕光栅波导(Surface Relief Grating,SRG)及基于全息干涉技术制造的全息体光栅波导(Volumetric Holographic Grating,VHG)等。其中,微软、Magic Leap 等多家 AR 明星企业的规模量产证明了 SRG这一技术路线在经济成本上的可行性,当前国内有条件建设该产线的厂商相对有限。全息体光栅由于受到可利用材料的限制,致使其在视场角、光效率、清晰度等方面尚未达到表面浮雕光栅的水平,但因其在量产经济性等方面的发展潜力,业界对此方向的探索未曾停歇;

可变焦显示成为当前解决辐辏调节冲突(Vergence Accommodation Conflict, VAC)的重要技术,继 2018 年脸书发布基于可变焦显示的第一代原型机 Half Dome 后,于 2020 年开始了第三代原型机实验室外场景环境下的集成验证,Half Dome 3 通过电子变焦取代了此前的移动式机械变焦,极大程度的优化了头显体积重量与系统可靠性,有望开启可变焦显示技术产业化的量产之路;全息显示通过全息方式显示多个焦面,可作为未来解决辐辏调节冲突的技术路径。目前,由于光相位调制器(SLM)价格昂贵、全息图生成算法尚不完善、所须计算量大且难以实时完成等因素致使该技术短期内难以推广应用。

VR起飞阶段来临!新基建加持,五横两纵技术框架全面展开 | 智东西内参

虚拟现实近眼显示部分代表性技术路线

2、渲染计算:云渲染、人工智能与注视点技术引领VR 渲染 2.0

虚拟现实渲染领域的主要技术挑战在于面向传统游戏的上述权衡范式难以直接套用于虚拟现实应用,表现为相比游戏画面的主流渲染要求(如 FHD 分辨率所须每秒渲染六千万像素且不高于 150 毫秒的用户交互时延),虚拟现实渲染负载与 MTP 时延须提升十倍量级才可达到初级沉浸的入门体验。

此外,手机式/一体式 VR 与 AR 移动平台的渲染功耗预算尤为有限。当前,针对虚拟现实渲染所面临的“小马拉大车,既要马儿吃得少,又要跑得快”的技术挑战,业界先后发展出异步时间扭曲(ATW)、异步空间扭曲(ASW)、多视图渲染(MultiView)、多分辨率渲染、畸变补偿渲染等一系列优化算法,旨在弥合传统游戏与虚拟现实渲染间的技术断点。

另外,在跨越了沉浸体验的初始门槛后,渲染质量与效率间的平衡优化成为时下驱动虚拟现实渲染技术新一轮发展的核心动因,即用户需求的持续进阶放大了渲染画质、速度、成本、带宽等多目标规划的求解难度。在智能云控与以人为本的创新架构下,云渲染、人工智能与注视点技术触发虚拟现实渲染计算 2.0 开启。

云渲染聚焦云网边端的协同渲染,时延不确定性成为关键技术挑战。将虚拟现实交互应用所须的渲染能力导入云端,有助于降低终端配置成本,帮助用户在移动头显平台获得媲美高价 PC 级的渲染质量。在云化架构的引领下,各类内容应用可更便捷地适配差异化的终端设备,也有助于实施更严格的内容版权保护措施,遏制内容盗版,缓解用户体验痛点清单中的部分问题。相比虚拟现实单机版的发展思路,部分企业对云渲染这一网联式技术路径存在发展定见。

云游戏平台厂商认为网络状况难以预测,因而向网络中“倾泻”数据,最终造成网络资源浪费,客户端接收到无序数据,致使端侧须为此付出额外的计算成本。事实上,本地渲染与云渲染并非处于相互独立的发展轨道,亦非非此即彼的替代关系,相比单机版渲染依赖终端完成,云渲染并非完全依靠云侧进行,而是聚焦云网边端协同分工,旨在实现“不要让终端补缺云网协同落下的课”。当前,针对时延、带宽、丢包、抖动等技术挑战,业界通过调节 CPU 与 GPU 协同编码、前向纠错率、缓冲区大小等方式实现 QoS 保障。

需要指出的是,比之时延因素本身,网络、算力等导致的时延不确定性对虚拟现实云渲染用户体验影响尤甚,不同于传输环节的丢帧,因时延不确定性产生的弃帧主要是由帧未能及时到达,致使在终端显示环节丢弃(不显示)某些帧,在虚拟现实用户感受上表现为画面卡顿、跳跃与拖尾,有测试表明,对于 1080P@144 帧的云渲染体验,7ms 网络抖动是大众用户的感知边界。除流媒体 QoS 视角外,ATW/ASW 成为虚拟现实渲染标配的“弃帧保险”,由于 ATW 导致视觉黑边,可通过扩大渲染面积予以解决。此外,在虚拟现实体验过程中用户即便没有位移,眼睛亦会发生位置改变,因而引入 ASW,前者适用于远景静物,后者侧重近景动画。

VR起飞阶段来临!新基建加持,五横两纵技术框架全面展开 | 智东西内参

基于时延不确定性的云渲染情况示意

注视点技术入选业界标配,基于眼球追踪的注视点渲染与注视点光学成为热点技术架构。由于提供高分辨率与色彩视觉的视锥细胞集中分布在人眼最中心区域(Fovea),眼球中央向外的区域视觉感知加速模糊(30°内每远离 2.5°视觉分辨率降低一半),业界据此提出注视点渲染技术,通过对视场角内各部分画面进行差异化渲染,显著节省算力开销,据 VRPC 统计,注视点渲染已成为 2018 年虚拟现实渲染领域专利数量最为富集的细分技术。

2020 年10 月脸书发售第二代VR一体机 Quest 2,新增动态固定注视点功能(Dynamic Fixed FoveatedRendering, DFFR),系统可根据 GPU 帧率高低自动决定是否触发固定注视点渲染,内容开发者无须延续 Oculus Quest/Go 平台上手动配置 FFR 的经历,也无须为 Quest 2 DFFR 修改既有内容应用。鉴于眼球运动致使注视点区域随之改变,基于眼球追踪的可变注视点渲染成为业界热点,在日常扫视(Saccade)过程中,眼球运动速度高达每秒900 度,因而精准化的眼球追踪成为了技术挑战。此外,作为注视点技术路径的新生分支,注视点光学通过组合低分辨率/大 FOV(60+°)与高分辨率/小 FOV(20°)两个显示系统,且以手机面板与微显示器或两个不同分辨率的微机电(MEMS)扫描显示系统为常见搭配,旨在实现用户体验分辨率不因渲染算力与显示像素数减少而降低。当前,注视点渲染与注视点光学日益成为支撑上述目标的焦点性技术架构,业界对此积极布局,且两者具备潜在的结合空间。通过梳理各类注视点技术与相关量产终端可知,基于眼球追踪的可变注视点渲染与注视点光学已成为时下技术产业化的主攻方向,且后者对渲染算力及显示像素数要求较低。

VR起飞阶段来临!新基建加持,五横两纵技术框架全面展开 | 智东西内参

各类注视点技术基本情况

人工智能将成为虚拟现实渲染质量与效能的倍增器与调和剂。当前,业界日益聚焦深度学习渲染这一热点领域,以期针对多样化的业务场景,解锁平衡质量、速度、能耗、带宽、成本等多维渲染指标间的技术定式。

在渲染质量方面,比之基于传统渲染软硬件架构的超采样(SSAA)、多重采样(MSAA)、快速近似(FXAA)、子像素增强(SMAA)、覆盖采样(CSAA)、时间性抗锯齿(TXAA)等抗锯齿技术,在 2018 年英伟达发布 GeForce RTX 20 系列显卡中,推出了包含深度学习超采样(DLSS)功能的驱动程序,通过以较低分辨率渲染图像再经 AI 算法填充像素的方式,显著提升了画面精细程度。得益于独立的 AI 计算单元,DLSS 运算基于 Tensor Core 完成,无须占用显卡 CUDA 通用运算单元,释放了传统抗锯齿技术对渲染计算资源的负载压力。2020 年英伟达推出 DLSS 2.0,通过持续优化深度学习算法,从而以较低渲染分辨率进一步提升了体验分辨率与帧率的性能表现。

在渲染效能方面,为在移动终端平台加载高质量的虚拟现实沉浸体验,业界结合深度学习与人眼注视点特性,积极探索在不影响画质感知的情况下,如何进一步优化渲染效能的技术路径。脸书提出一种基于AI的注视点渲染系统DeepFovea,利用生成对抗网络(GAN)的新近研究进展,通过馈送数百万个真实视频片段模拟注视点外围像素密度降低来训练 DeepFovea 网络,GAN 的设计有助于神经网络根据训练视频的统计信息来补缺细节,进而得到可基于稀疏输入生成自然视频片段的渲染系统。测试显示该方案可将渲染计算负载降低约十倍,且能够管理外围视场的闪烁、锯齿和其他视频伪影。

在图像预处理方面,预先对图像进行降噪处理有助于提升后续图像分割、目标识别、边缘提取等任务的实际效果,与传统降噪方法相比,深度学习降噪可获得更优的峰值信噪比(PSNR)与结构相似性(SSIM),如英伟达 OptiX 6.0 采用人工智能加速高性能降噪处理,从而减少高保真图像渲染时间。在端云协同架构方面,随着电信运营商云化虚拟现实发展推广,针对多样化的应用场景与网络环境,人工智能有望成为渲染配置自优化的重要探索。

3、内容制作:交互性体验和支撑工具快速发展

在弱交互领域,虚拟现实视频的社交性、沉浸感与个性化特质日益凸显,强弱交互内容界线趋于模糊。由于体育赛事、综艺节目、新闻报道与教育培训等直播事件受众群体明确,商业落地相对成熟,VR直播成为丰富虚拟现实内容的利器,可较大程度上缓解目前高品质VR 内容匮乏、“有车没油”的问题。

对于手机式、一体单目/多目、阵列式、光场式等内容采集设备的技术选型,VR 直播呈现两极化趋势,即满足专业生产内容(PGC)高质量、多格式与用户生成内容(UGC)操作便捷、成本可控的发展要求。此外,作为 VR 直播相比传统直播独有的关键技术,图像拼接可基于特征、光流等多种不同的处理域进行拼接,其中,图像配准涉及特征空间、相似性度量、搜索空间和搜索策略的选择,图像融合须考虑拼接处过渡自然和整体画面协调,因摄像机和光照强度的差异,图像间亮度和色度不统一,缝合后的图像会出现明暗交替或有明显接缝的问题,因而需要进行亮度和色度的均衡处理。

当前,VR 直播可分为表演区与观众区,在观众区引入以用户为对象的虚拟化身,有助于进一步增强视频社交性。同时,通过Unity、Unreal 等开发引擎进行虚拟现实拍摄与制作,而后传至头显终端,可避免基于用户交互信息的本地渲染负载。未来,随着 VR 直播的常态化,制作上云将成为简化虚拟现实内容摄制流程的关键技术。

在强交互领域,VR 社交成为游戏以外的战略高地,虚拟化身正在拉开虚拟现实社交大幕。虚拟化身技术由来已久,在传统游戏中用户可见能够控制的整体人物形象(第三人称)或看到模拟手和身体等部分形象(第一人称射击游戏),受限于 2D 视频、狭窄视野及有限追踪感知能力,虚拟化身难以被视为用户本人。

相比之下,VR 用户对虚拟化身的感知与控制构成了不再脱钩的交互闭环,即追踪采集的用户数据被实时投射于虚拟化身外观及行为表现。得益于 3D 沉浸视频、超大视角及进阶追踪能力,位置、外貌、注意力、姿态、情绪等日益多元精细的身态语汇激活了虚拟化身潜藏的社交表现力。通过营造多人共享的临场感,VR 社交进一步放大了虚拟现实强交互业务的互动程度,并结合日常交流所须的适宜间距、注视转头、手势表情等潜藏的通识准则来优化虚拟化身。

此外,一味追求照片画质级的虚拟化身存在“恐怖谷”效应,过高拟真度的外貌表现大幅拉升了用户对虚拟化身行为举止拟人化的心理预期,从而降低了虚拟化身总体可信性。如何持续提高虚拟化身真实感,同时精准调和外貌与行为拟真度间的配伍关系,成为 VR 社交虚拟化身的主要技术挑战与发展方向。

在技术实践上,虚拟化身跨 VR 终端平台的兼容性不断提高,相关内容制作 SDK 开始向游戏引擎中集成迭代,体育赛事、综艺活动与会议展览等 VR 直播业务解锁了虚拟化身自定义的市场需求,用户在Venue 等代表性虚拟现实内容直播平台中,可根据发型、服饰、妆容、配饰等配置组合,个性化定制亿万种虚拟化身。由于 VR 社交领域存在诸如多达数百人同时加载虚拟化身等性能挑战,针对不同的场景功能,可通过降低 Drawcall 频次、设置渲染优先级、匹配差异化的顶点数目与纹理精度等技术实践,梯度调整虚拟化身视觉质量,优化性能表现。

在技术选型上,基于口、眼、表情、上肢拟真等的虚拟化身技术初步成熟,现已开始用于 VR 社交应用。

在内容相关的其他支撑性技术上,WebXR、OS、OpenXR 等重点领域稳健发展。作为电脑、手机、平板等智能终端用户交互窗口的延续,据统计,约有 2/3 虚拟现实头显用户使用浏览器。WebXR 推动了虚拟现实内容与各类终端平台、操作系统间的解耦,提供了更加便捷的网页 VR/AR 应用开发环境,将成为下一代 Web 沉浸体验的基石。

2020 年 7 月 W3C 发布新版 WebXR 规范草案,与此前 WebVR 相比,WebXR 新增了对 6DoF 追踪定位、交互外设与 AR 应用的支持,A-Frame、React360、Three.js、Babylon.js 等网页开发框架均已支持。

当前,内容不足成为虚拟现实用户面临的主要体验痛点,内容生态发展成效被碎片化的软硬件平台分化稀释,2019 年 7 月 Khronos 对此发布了 OpenXR 1.0,旨在实现内容应用无须修改移植即可跨头显平台运行。同时,OpenXR 强化了对 WebXR 网页开发框架的支撑,深化了对新一代 3D 图形应用程序接口 Vulkan 的协同,适配了手势、眼动追踪等多元化交互方式,丰富了 5G 边缘计算等应用场景。

在操作系统方面,实时性、多任务、感知交互与端云协同成为当前发展焦点。手机 OS 对于虚拟现实用户姿态变化难以做出实时性响应,系统设计存在诸多缓存逻辑,虚拟现实 OS 更像稳态系统,不论用户主动操作与否,从姿态到渲染保持稳定运行,MTP 时延约束成为实时性挑战。由于虚拟现实空间可极大延展,支持用户同时可见更加丰富信息,操作系统多任务特性成为必然需求。在三维系统中的多任务化须实现系统多应用的三维化合成,在虚拟现实空间中布置各应用的运行位置,并实现 3D 交互,如微软 Hololens、Facebook Quest 等代表性终端对操作系统三维化多任务运行的支持。

2020 年虚拟现实操作系统持续演进,VR、AR OS 在感知交互方面日渐趋同,基于计算机视觉的头手成为发展重点,脸书发布 Oculus Quest 系列验证了计算机视觉实现的可行性和准确性,须挂载 4 颗以上实时性要求较高的摄像头,操作系统亦须适配调优。此外,对于云化虚拟现实业务需求,如何同步终端和云端数据成为操作系统技术演进焦点,如微软推出 Hololens云方案,用户可在云端记录三维地图扫描信息。开发引擎方面,基于OpenGL ES 底层框架,面向移动设备的低功耗、可视化开发引擎助力VR 应用开发效率提升。对于移动虚拟现实设备,如何平衡性能和功耗成为选择虚拟现实开发引擎的关键因素。Unity、Unreal 借助于其在游戏领域的优势积累,目前作为虚拟现实强交互应用的主要开发引擎。近年来随着国内虚拟现实产业的快速发展,Nibiru Studio 等国产虚拟现实开发引擎持续完善。

4、感知交互:自然化、情景化与智能化为前行之路点亮灯塔

感知交互强调与近眼显示、渲染计算、内容制作、网络传输等关键领域间的技术协同,各大 ICT 巨头与虚拟现实科技型初创公司对此深度布局,积极投入。当前,追踪定位、沉浸声场、手势追踪、眼球追踪、三维重建、机器视觉、肌电传感、语音识别、气味模拟、虚拟移动、触觉反馈、脑机接口等诸多感知交互技术百花齐放,共存互补,并在各细分场景下呈现相应的比较优势。未来,理想的人机交互可让虚拟现实用户聚焦交互活动本身,而忘记交互界面(手段)的存在,界面愈发“透明”,自然化、情景化与智能化成为感知交互技术发展的主航道。

沉浸声场体验“富矿”尚待挖潜,听音辨位、空间混响、通感移觉等成为发展重点。虚拟现实沉浸体验的进阶提升有赖于对视觉、听觉等多感官通道一致性与关联性的强化。由于周边环境、头耳构型等多重因素会影响双耳听觉闻声辨位,人们通过转头寻视声源,以消除定位判定的模糊性。虚拟现实可结合用户头部追踪特性,解决数字内容长久以来双耳听觉的问题。基于多通道 3D 全景声场拾音技术(Ambisonics),声音表现可依据用户头动情况进行动态解码,虚拟现实用户即可实现更加精准的听音辨位。

另外,耳机佩戴致使 3D 全景声被“压扁”,如何解决因声音高低位置出现的辨位失真成为关键问题。目前,脸书、微软、英伟达、杜比、谷歌、高通等对沉浸声场积极投入,并结合人体 3D 扫描开始构建差异化的头部相关传递函数(HRTF)数据库,旨在进一步实现虚拟现实声音的“私人定制”。由于游戏等应用仅可准确渲染直达声,缺少对房间声学中早期反射和混响的逼真模拟,在一定程度上影响了用户“眼见为虚,耳听为实”的沉浸体验。

在混响声模拟技术方面,以往开发人员须将混响手工添加至虚拟环境中的各个位置,操作修改繁冗耗时,对算力与内存资源需求较高,且因各声学响应预先计算,仅用于结构保持固定的静态环境。当前,脸书等企业在房间声学上取得了一定成果,混响声可根据环境的几何形状自动精准生成,且符合实时虚拟现实应用严格要求的计算和内存预算,同时实现了随环境空间构型变化的动态混响声模拟,如VR 密室等探秘游戏。此外,诸如“风随柳转声皆绿”的通感表达成为了虚拟现实视听关联性发展的特色方向,如《Rez Infinite》等 VR通感游戏的上市迭代。

Inside-out 技术全面成熟,追踪定位将呈现集视觉相机、IMU 惯性器件、深度相机、事件相机等多传感融合的发展趋势。追踪定位作为感知交互领域的基础能力,业界投入大,且日趋成熟。在 VR 领域,
存在 outside-in 和 inside-out 两条技术路线。通过超声、激光、电磁、惯导等多种传感器融合定位较单一惯性和光学定位减少了计算资源消耗,在一定程度上优化了功耗与鲁棒性表现。目前,基于视觉+IMU
的 inside-out 追踪定位技术实现产品化,开始大量应用于头显终端,代表产品有 Oculus Quest1/2、HTC Vive Focus 等。此外,2019 年脸书、HTC 发布的新一代主机式 Rift S、Vive Cosmos,标志着 inside-out的追踪定位方式与此前 Rift 的 outside-in 追踪效果足够接近,这种省去基站外设的追踪方式符合大众市场发展趋势,未来将持续优化。在AR 领域,inside-out 成为唯一主流技术路线,基于终端平台的差异,视频投射式 AR(video see-through)以苹果 ARKit、谷歌 ARCore、华为 AREngine 以及商汤 SensAR 为代表的 AR SDK 普遍遵循单目视觉+IMU 融合定位的技术路线,在 2019 年对其跟踪精度和鲁棒性进行了进一步提升,毫米级别的定位精度使得 AR 尺子等空间测距等应用大量出现。光学投射式 AR(optical see-through)以微软 Hololen2、Magic Leap One 为代表的 AR 眼镜普遍遵循双目/多目视觉+IMU 融合的技术路线,可提供毫米级别精准度的定位输出和世界级规模的6DoF 追踪定位,其中 SLAM 算法的稳定性主要受光线与环境复杂程度影响。

由于室外光线会影响到摄像头的使用,Oculus 在黑暗条件下难以提取环境信息,从而影响 SLAM 结果。Hololens2 采用 TOF 提供主动光辅助定位,在一定程度上缓解了该问题。环境复杂度表现为 AR眼镜受限于摄像头可实现高精准度获取信息的范围限制,在过于空旷(无参照物)的环境中,难以实现厘米级别定位。此外,随着基于神经拟态视觉传感器(dynamic vision sensor)的事件型相机技术发展,利用其高帧率、抗光照等特性,追踪定位技术鲁棒性有望进一步提升。

手势追踪初步成熟,“手势追踪+”将成为虚拟现实输入交互新模式。相比其他虚拟现实输入交互方式,手势追踪技术的价值优势在于消减了用户对交互外设的配置操作与购买成本,无须考虑充电配对问题,且手势信息等身态语增强了虚拟现实体验的社交表现力,赋予了内容开发者更大的创作空间。鉴于追踪范围、体积重量、成本功耗、操作部署等方面的优势,基于黑白/RGB 摄像头的机器视觉技术路径已成为标记点、3D 深度摄像头方案外手势追踪的重点实现方式。当前,手势追踪技术在多维发展方向上初步成熟。

在算法鲁棒性优化方面,通过收集用于深度学习的多类人群手势及环境数据,可探知手部位置及关节指尖等特征点信息,进而结合反向动力学算法构建手部3D 模型。在计算及功耗开销控制方面, ,通过深度神经网络量化压缩技术,精准可靠的手势追踪算法得以在移动式虚拟现实终端上(一体式、手机伴侣)以较低算力、时延与功耗预算运行。在交互表现性探索方面,由于虚拟现实手势输入发生在 3D 空间中,照搬手机触屏的2D 交互语言将引发时延、遮挡、触觉反馈等诸多输入问题。时下业界围绕人因工程视角,就输入交互进行创新设计,以“捏”代“按”,可有效节省交互空间,明确交互起止时点,获知输入反馈。除单手追踪外,双手、手与笔、手与键盘、手与控制器等外设配合成为手部交互表现性探索的新方向。

其中,2020 年脸书与罗技合作,双方基于实体键盘与双手追踪的交互组合,以期实现虚拟现实无界办公的体验愿景。需要说明的是,发展手势追踪并非旨在取代目前常见的 VR 控制器,未来虚拟现实手部交互将与 VR 控制器解绑,即由 VR 控制器输入向基于手势追踪的裸手输入、裸手+控制器等交互外设协同共存的方向发展。

眼动追踪成为虚拟现实终端的新标配。早期虚拟现实终端(如HTC Vive、Hololens V1、Meta 2 等)以 6DoF 头动追踪技术作为眼动追踪的近似替代,在达成沉浸体验门槛后,日益进阶的用户需求开始对眼动追踪提出了更高要求。眼动追踪主要涵盖注视点追踪、瞳孔位置尺寸追踪、眼睑数据采集、生物识别等,得益于该领域在虚拟现实融合创新与以人为中心研发思路上的技术潜力,眼动追踪日渐成为VR/AR 终端的新标配,且应用场景趋于多元。例如,注视点追踪可用于眼控交互、可变注视点渲染与注视点光学、FOV 一致性补偿、可变焦显示系统中的辐辏调节冲突控制等任务场景。

眼动追踪技术主要分为基于特征与基于图像的发展路径。两种方案均须红外摄像头与 LED完成,前者通过光线在角膜外表面上普尔钦斑(Purkinje image)反射以推算瞳孔位置,已成为 SMI(苹果)、EyeFluence(谷歌)、HololensV2、Magic Leap One、七鑫易维、Tobii 等代表性产品的技术方案。当前,眼动追踪技术发展的难点与焦点在于眼动算法如何基于所采集的原始眼动行为来“透视”用户意图。此外,除追踪精度指标外,用户个体与环境差异(眼球角膜、佩戴眼镜、周围光线等)对系统通用性提出了更高要求。时下多数眼动追踪系统须先行完成用户标定校准后方可使用,业界积极尝试在现有眼动系统架构中更多引入深度神经网络等人工智能算法,以期精简用户使用流程,并增强系统通用性。

环境理解与 3D 重建将成为虚拟现实感知交互领域技术内核之一。在数据采集方面,由于早期发展受到深度图像传感(RGBD)器件功耗和精度的限制,环境重建技术门槛较高,大多基于激光雷达和大功率 ToF 器件实现,重建过程繁复,且采集设备昂贵。随着 OPPO、三星、华为等主流手机厂商旗舰机型上预制深度相机,激光雷达大幅降价,以及微软发布的 Kinect V4 版本可提供 720P 高精度深度图,较为成熟的产业链供应使得低成本、高速率生成可用于 VR/AR 的高质量3D 模型成为可能,对周边环境和物体的理解和建模逐渐平民化。基于 RGBD 相机的动态语义化重建技术逐渐成熟,针对人体形状、运动、材质不易描述等难点,基于参数化人体模型和人体语义分割的语义化分层人体表达、约束及求解方式,在提升人体三维重建精度的同时,实现了人体动态三维信息的多层语义化重建。在数据处理方面,随着 AI 能力的渗透释放,2019 年学界出现较多基于单目 RGB 进行深度估计、人体建模、环境建模的学术论文,并开始快速进行技术产业化推进。

AI 与三维重建技术的融合创新使二维到三维图像转化以及三维场景理解成为可能。通过海量真实三维重建数据的训练,能够实现单目深度图像估算,通过二维照片估算出真实空间的三维深度数据,从而生成准确的 3D 模型。借助点云金字塔模型提取出三维点云在多个尺度上的局部特征,再通过图模型的三维点云语义分割和特征聚合,可完成三维点云体素级别的分类并最终实现基于三维点云数据的场景理解。

5、网络传输:5G+F5G 构筑虚拟现实双千兆网络基础设施支撑

2019 年 5 月工信部、国资委共同印发专项行动,确定开展“双 G双提”,推动固定宽带和移动宽带双双迈入千兆(G 比特)时代,明确提出 2019 年我国千兆宽带发展的目标,2020 年 9 月,国务院常务会议确定加快新型消费基础设施建设,第五代固定网络(F5G)千兆宽带与 5G 网络共同构成双千兆接入网络联接,助力千兆城市建设。

当前,作为影响虚拟现实业务体验的关键因素,传输网络不断地探索传输推流、编解码、最低时延路径、高带宽低时延、虚拟现实业务 AI识别等新的技术路径,旨在实现无卡顿、无花屏、黑边面积小、高低清画质切换无感知等用户体验,让产业有评估业务质量的技术和方法,加速虚拟现实的规模化发展。

边缘计算赋能双 G 云化虚拟现实提档升级。多接入边缘计算(MEC)将密集型计算任务迁移到附近的网络边缘,降低核心网和传输网的拥塞与负担,减缓网络带宽压力,提高万物互联时代数据处理效率,能够快速响应用户请求并提升服务质量。同时,通过网络能力开放,应用可实时调用访问网络信息,有助于应用体验的提升。MEC在组网上与传统网络的本质变化是控制面与用户面的分离,一般控制面集中部署在云端,用户面根据不同的业务需求下沉到接入侧或区域汇聚侧。

用户面下沉的同时,根据业务具体可将云服务环境、计算、存储、网络、加速等资源部署随网络延伸到边缘侧,实现各类应用和网络更紧密的结合,用户也可获取更为丰富的网络资源和业务服务。针对虚拟现实业务,标准组织 ETSI 于 2014 年底成立了 ISG MEC,Phase1 和 Phase2 标准已发布场景、需求、架构和开放 API 等,虚拟现实作为七大场景之一,即边缘应用快速处理用户位置和摄像头图像,给用户提供实时辅助信息。其中,MEC 的 APP 和 3GPP R14/R15 的边缘 DN 实现有机融合,UPF 作为 MEC 的用户面,NEF 作为 MEC API 能力开放提供者。

由于虚拟现实编码率高、交互性强,在 4G 网络和百兆以下家宽网络部署中,仅可满足 2K 业务,尚难以满足 4K/8K虚拟现实业务的规模部署,故 5G/MEC 的上行 150Mbps 大带宽以及网络时延小于 20ms 低时延能力可有效满足虚拟现实进阶体验。当前,云化虚拟现实业务基于 MEC 下沉部署,是优化网络传输效率,提升体验保证的重要途径。MEC 可为应用层提供 CPU/NPU/GPU 算力和存储等基础设施能力、动态网络路由和精准资源调用,用户感知和网络能力开放以及运营商可靠可信可达的 SLA 服务能力。通过 MEC 边缘服务,可进一步降低云化虚拟现实业务的网络连接和终端硬件门槛,加速虚拟现实业务在 5G 网络和固定宽带网络的规模商用,相关商业模式转型或创新成为可能。

千兆光网+云 VR 将成为 F5G 时代的典型特征与重点应用的结合。F5G 重点聚焦于全光联接、增强型固定宽带和可保障的极致体验三大业务场景,以 10G PON、Wi-Fi 6、200G/400G、NG OTN 和 OXC 等技术为代表,具有大带宽、低时延、能力开放、高稳定全光联接特性。为满足多路用户并发诉求,10G PON 是虚拟现实业务承载的必然选择。此外,业界在大力推进光纤入户(FTTH/FTTO)的同时,进一步延伸光纤网络部署,推动对家庭、企业的网络升级改造,打通光纤网络“最后一米”接入,实施“光纤到房间 FTTR(Fiber to the Room)”、“光纤到终端”,以期配合 Wi-Fi6 技术保障每个房间均可实现高质量的虚拟现实体验,并解决云 VR 高密接入和多机位直播场景下的网络难题。

IP 架构简化、全光网络、端网协同等成为虚拟现实承载网络技术的发展趋势。IP 网络架构扁平化和网络切片有助于提升承载网的传输效率,提供差异化的体验保证。由于虚拟现实对带宽、时延、丢包率有较高要求,当前传统高汇聚、高收敛承载网络面临效率低、拥塞概率大、时延长、相对丢包多等问题。基于上述原因,首先需要对传统网络的层次和网络结构进行简化,消除 LSW 汇聚层和城域汇聚层,BNG 向上直连 CR,OLT 直通 BNG,提高承载网传输效率。

信道子接口和FlexE等网络切片技术可在同一物理端口上实现不同等级业务间的隔离,为云化虚拟现实业务提供带宽和时延保证。随着 IPV6 技术的推进,业界将逐步从 IPv4 扩展到 IPv4/v6 双栈,直至切换为 IPv6网络,从而减少网络中 IP 地址 NAT 转换,进一步简化网络结构。基于全光网的 E2E 网络切片架构有助于提供确定性低时延和大带宽保证。由于 IP 网络的带宽是多业务共享,在流量拥塞的情况下难以保证时延敏感业务。光通信技术具有容量大,确定性时延、功耗低等特点。随着虚拟现实网联云控技术路径的发展,数据中心之间的骨干网络可构筑立体化的智能光网络,实现 DC 之间的一跳直达。OTN 设备逐步下沉到 CO 机房,在城域网络中区分业务,为高品质业务进行高优先级质量保障,提供一跳入云的能力。

OLT 设备可以连接 OTN 或者 BRAS,是业务流走向光网络还是 IP 网络的选择节点,为满足多种业务不同的服务等级诉求,OLT 须支持网络切片功能,即在同一个物理端口上划分出可保证服务等级的切片。

端网协同业务识别技术可将运营商虚拟现实业务从众多业务流中精准识别,并进行优先保障。考虑到虚拟现实 CDN 和云渲染边缘节点众多,且地址分散,在网络设备上静态预配置服务器地址段进行识别的传统方法,在规模较大的家庭网络设备等方面实际执行存在困难。为应对上述问题,可在终端与家庭网关设备等边缘网络节点间增加数据通信接口,以便获得访问服务器地址、业务类型、操作类型、网络需求等业务信息准确及时的通报,以及终端侧的业务体验、流传输与网络侧空口传输指标等的数据共享。

VR起飞阶段来临!新基建加持,五横两纵技术框架全面展开 | 智东西内参

▲全光网络组网结构示意

精细化运维技术成为云化虚拟现实业务质量的重要保障。云化虚拟现实运维基于产业发展和实现难度可分为手动、自动和智能运维层次。手动运维阶段业务出现卡顿或者闪断时,通常通过 Ping 的方式进行故障定界和定位,效率比较低,很难定位出是终端、网络还是云平台出现问题。随着用户规模发展,迫切需要更有效的自动化运维手段。结合业务体验评估体系的构建,可通过工具进行精细化运维,例如通过工具采集业务指标,进行用户质差分析。支持定界指标采集,通过探针采集云渲染流化时延、终端处理时延、网络 RTT 时延,进行端管云三段定界。

支持随流探针采集网络指标,通过端网协同接口,支持五元组或者业务流特征智能识别云 VR 业务类型,终端上报业务类型、业务开始和结束时间、用户体验指标、分段时延指标等至家庭网关,家庭网关根据上报体验指标和分段 KPI,结合家庭 Wi-Fi 和承载网 KPI,进行家庭 Wi-Fi 和承载网分责。未来,可进一步在自动化运维的基础上引入人工智能技术,以提供主动性、人性化及动态可视的虚拟现实智能运维能力。

VR起飞阶段来临!新基建加持,五横两纵技术框架全面展开 | 智东西内参

▲面向虚拟现实业务的网络传输技术供需匹配情况

二、产业发展趋势

1、终端出货量与市场规模稳步增长

虚拟现实终端出货量稳步增长,AR 与一体式增速显著,不同终端形态间的融通性增强。受新冠疫情及宏观经济形势影响,据 IDC 统计 2020 年全球虚拟现实终端出货量约为 630 万台,VR、AR 终端出货量占比分别 90%、10%,预计 2024 年终端出货量超 7500 万台,其中 AR 占比升至 55%,2020-2024 五年期间虚拟现实出货量增速约为86%,其中 VR、AR 增速分别为 56%、188%,预计 2023 年 AR 终端出货量有望超越 VR。比之 2018-2020 年相对平缓的终端出货量,随着 Facebook Quest2、微软 Hololens2 等标杆 VR/AR 终端迭代发售以及电信运营商虚拟现实终端的发展推广,2021 年有望成为虚拟现实终端规模上量、显著增长的关键年份,VR/AR 终端平均售价将从当前2500/9700 元人民币进一步下降。此外,华为 VR Glass 手机伴侣、PicoNeo 2 等一体式头显终端均可通过串流功能而不再受制于移动平台的功耗预算与渲染算力,跨终端形态的使用融通性显著提高,一体式终端出货量份额预计将从 2020 年 51%进一步升至 2024 年 64%。

VR起飞阶段来临!新基建加持,五横两纵技术框架全面展开 | 智东西内参

▲全球虚拟现实终端出货量及结构占比

全球虚拟现实市场规模接近千亿,AR 与内容应用成为首要增长点。据 IDC 等机构统计,2020 年全球虚拟现实市场规模约为 900 亿元人民币,其中 VR 市场 620 亿元,AR 市场 280 亿元。预计 2020-2024 五年期间全球虚拟现实产业规模年均增长率约为 54%,其中 VR增速约 45%,AR 增速约 66%,2024 年两者份额均为 2400 亿元人民币。从产业结构看,终端器件市场规模占比位居首位,2020 年规模占比逾四成,随着传统行业数字化转型与信息消费升级等常态化,内容应用市场将快速发展,预计 2024 年市场规模超过 2800 亿元。

VR起飞阶段来临!新基建加持,五横两纵技术框架全面展开 | 智东西内参

▲全球虚拟现实市场规模

虚拟现实产业链条长,主要分为内容应用、终端器件、渠道平台和内容生产。内容应用方面,聚焦文化娱乐、教育培训、工业生产、医疗健康、商贸创意等领域,呈现出“虚拟现实+”大众与行业应用融合创新的特点。文化娱乐以游戏、视频等强弱交互业务为主,在数量规模上占据主导,商贸创意可有效提升客流量与成交率,主要包括地产、电商、时尚等细分场景,工业生产与医疗健康应用早期局限于培训指导,目前开始逐渐向产品设计、生产制作或临床诊疗等更为核心的业务领域拓展;内容生产方面,主要涉及面向虚拟现实的操作系统、开发引擎、SDK、API 等开发环境/工具,以及全景相机、3D 扫描仪、光场采集设备等音视频采集系统;渠道平台方面,除互联网厂商主导的内容聚合与分发平台外,包含电信运营商发力的电信级云控网联平台,以及自助VR终端机、线下体验店与主题乐园等线下渠道;终端/器件方面,主要分为终端外设及关键器件,其中终端外设包括以PC 式、一体式、手机伴侣与云化虚拟现实终端,以及手柄、全向跑步机等感知交互外设。

关键器件主要包括芯片、屏幕、传感器、光学镜片等,近年来业务针对虚拟现实终端开发了专用器件,如京东方快速响应液晶屏、海思、高通处理器芯片等。参考中国信通院 XR 产业数据库,并对《虚拟(增强)现实白皮书(2018 年)》中产业地图更新完善,得到修订后如下产业地图 2020,对产业链结构分布统计可知,内容应用、终端器件、内容生产系统、渠道平台环节分布比例约为 5:2.5:1.5:1,业内企业以内容应用为主。

虚拟现实较长的产业链条与交织融合的创新体系驱动厂商由供需合作向生态协同升级,即表现为发展战略、资源整合及能力实现的协同。通过对虚拟现实产业链竞合网络的梳理分析,可将企业间的生态协同关系归纳为投入力度、产业辐射、断点弥合、合作成果等发展要素,并据如下多维能力模型进一步分析评估产业链生态现状。

2、云化虚拟现实触发端网边云产业链条融合创新

作为除单机智能外主要发展路径,云化虚拟现实有助于优化用户体验,降低终端门槛,丰富内容生态,推动版权保护。由于部分计算和内容处理在云端实现,电信运营商凭借渠道、资金和技术优势,结合高带宽、低时延等的新一代网络特性,积极开拓基于体验的新型业务模式,旨在聚合产业资源,促进生态各方共赢发展,加速虚拟现实推广普及。目前,我国基础电信运营商均已启动云化虚拟现实业务发展。中国电信 2019 年 10 月 10 日自四川电信开始,各省电信分公司纷纷宣布云 VR 业务正式放号,启动了天翼云 VR 业务正式商用。

2018 年福建移动全球首发运营商云 VR 试商用,成为第一个推出云VR 业务的运营商。2019 年中国移动宣布将投入超 30 亿元实施“5G+超高清 VR 赋能数字内容产业创新发展”计划,2020 年宣布了移动云VR 的“内容生态三五计划”,聚焦五大垂直内容领域、拓展五类合作模式、提升五项体验感知。中国联通成功开展了 2019 年国庆阅兵历史上首次 VR 直播活动,同年宣布 2020 年中国联通云 VR 用户目标达百万,目前四大基础电信运营商全国云VR用户已超过1000万。

在网络支撑方面,信息网络等新型基础设施迅速普及,云化虚拟现实产业发展条件基本成熟。当前,良好的网络基础设施促进了虚拟现实产业发展。我国移动宽带突出技术创新与生态培育,实现了从 3G追赶到 4G 同步、5G 引领的飞跃,现已建成近 70 万个 5G 基站,5G终端连接数超过 1.8 亿。光纤宽带突出公平竞争和普及渗透,实现了从铜缆接入到光纤入户的快速升级、从城市到农村的深度下沉。据中国信通院《中国宽带发展白皮书》,截至到 2020 年 6 月,我国光纤接入(FTTH/O)用户达 4.3 亿户,占固定宽带用户比重达 92.3%,全国所有地级市均已建成光纤网络全覆盖的“光网城市”,百兆及以上接入速率的固定宽带用户超过 4 亿户,占比 86.8%。我国移动数据流量资费为 4.3 元/GB,同比下降 23.3%,用户月均移动数据流量为10.1GB,同比增长 29.2%,3G/4G 用户普及率超过 94%,超额完成宽带中国战略 85%的预期目标。

在终端发展方面,云 VR/AR 终端有望重塑虚拟现实终端形态。在传统 VR/AR 终端的发展架构下,对于多阶梯、多层次与多场景的用户体验,难以不以牺牲某方面需求来满足其他。云化虚拟现实终端架构更加宽广的技术纵深,有助于解决终端创新顾此失彼的发展挑战,有利于承载适配各类云化 VR/AR 业务。随着 Oculus Quest、华为 VRGlass、Vive Focus Plus、Pico Neo2 等代表性终端串流功能的引入,移动虚拟现实用户进阶体验将不再受制于功耗预算与算力负载,一体式/手机式与 PC 式等跨产品形态间的使用融通性显著提高,终端分类依据正在由算力来源与供电方式向算力协同与业务场景迁移,在此过程中,云化虚拟现实终端这一新兴形态的发展轮廓逐渐浮现,并结合云化支撑、负载协同与连接方式等特征要素,呈现如下不同的表现形式。预计 2020-2024 年,虚拟现实终端将日益减重便携,随者 5G 终端的规模普及,一体式终端将原生集成 5G 能力,计算负载开始向云边端协同分配,手机伴侣式终端将通过无线连接适配更多 5G 手机。

VR起飞阶段来临!新基建加持,五横两纵技术框架全面展开 | 智东西内参

▲虚拟现实终端形态分类演进

在应用落地方面,对传统业务流程的解构重组催生视频内容上云、图形渲染上云与空间计算上云。在云化虚拟现实体系中,终端是门槛,业务是基础,网联是保障,协同是核心。VR/AR 强弱业务云化的难点与焦点在于分解流媒体、交互应用及机器视觉等现有任务流程,并结合虚拟现实人机交互的内生特性,在云边端侧优化分配计算负载。对于云化视频等弱交互应用,端侧用户视角这一人机交互信息可有效用于云侧视频映射、编码与传输。其中,传统经纬映射(ERP)致使两极过采样,码率存在浪费,2017 年 OMAF 确定了八种常用投影映射格式,相比 ERP,金字塔结构(VPP)等依赖终端上传视角信息的映射方式可将视角区域以高分辨率投影到二维平面,其余背景区域则以较低分辨率进行映射变换,进而在同等带宽的情况下,提高视角区域的观看质量。

此外,传统视频编码技术对 VR 全景视频仍然有效,但结合端侧 FOV 信息可进一步缓解全景视频传输的带宽压力。在云 VRFOV 视频传输方案中,当用户的方位角发生变化时,云端并不能立即发送一帧相应的画面,而是以 GOP 为时间粒度发送视频内容,在这种情况下,即便有头部动作预测和二次投影技术的支持,仍可能存在较为严重的黑边现象。为了改善或消除黑边问题,主要有 TilewiseFOV 等端云协同方案,即云侧可将 HEVC 流按照相同分辨率进行不同质量和比特率的编码,服务器上每个视角存储多份不同码率视频流,同一时刻根据端侧 FOV 信息传输较高码率的主视角切片流和低质量背景,并在端侧组合成混合质量虚拟现实视频。另外,业界积极探索针对个性化、社交化、六自由度等新兴虚拟现实视频端云协同的业务架构,例如云侧 VR 视频内容依托 5G 低时延特性,对端侧采集到的用户心率、眼动等生理指标作出及时响应,从而生成适配用户生理特性的后续视频内容。

对于云化渲染等强交互应用,除 Stadia、GeforceNow 等对传统游戏的云化实践外,业界现已围绕 VR/AR 应用推动商业落地,2020 年英伟达联合高通、爱立信推出 CloudXR 解决方案,旨在依托 5G、Wi-Fi 等高性能网络导入云边渲染能力,优化流式传输体验,降低终端算力门槛,助力电信运营商吸引 5G 用户。通过在云侧加载虚拟的头显驱动,应用程序无须变更,终端对收到的音视频进行解码,并回传各类追踪及用户输入信息。

其中,虚拟现实“瘦终端”的渲染任务界面可精简为头动、眼动等更具人机交互特性的关工作,如 ATW、注视点、畸变补偿渲染等。此外,对于渲染质量与速度的权衡问题,两者间的选择通常取决于应用,业界并无可在各类差异化应用中均能实现最佳计算配置的万灵药。基于云化虚拟现实端云协同的渲染架构,由谁来界定,又如何界定渲染质量、速度、能耗、带宽等多目标间的平衡点成为产业焦点。当前,由于终端厂商相比用户及内容开发者具备更多的专业洞察,对 CPU、GPU、温度等相关指标动态监测能力较强且涉及内容适配,因而更多主导调配最优渲染“配方”。随着云化虚拟现实的迅速铺开,电信运营商将依托云网优势,在更大程度上参与界定,并可结合大数据与人工智能技术,进一步探索渲染配置自优化的控制策略。

3、终端、行业应用与增强现实孕育投融资市场新机遇

2020 年全球虚拟现实风险投资受疫情影响出现一定程度上的滑坡。当前,以 Facebook Quest 2 与微软 HoloLens 2 为代表新一代高性能虚拟现实终端推动了全球 VR 大众消费市场和 AR 商用市场的进一步发展,让市场看到了虚拟现实切实的技术价值和清晰的市场潜力,但源于新冠疫情及贸易摩擦等因素导致宏观经济下行压力不断增加,且由于虚拟现实市场回报周期相对较长,并未吸引大量新增风险资本进驻,2020 年全球虚拟现实风险资本市场出现一定下滑。据映维网统计,2017-2019 年间投融资环境相对稳定,年投资额约为 100-120 亿元,投资频次在 170-190 次左右,预计 2020 年投资总额及频次约为90 亿元、140 次。

VR起飞阶段来临!新基建加持,五横两纵技术框架全面展开 | 智东西内参

▲全球虚拟现实风险投资市场情况

VR、AR 分别占据风险投资频次与总额的主导地位。预计 2020年有 61%的风险投资投向 AR 企业,32%投向 VR 企业,7%流入兼具VR/AR 业务的公司。过去五年,尽管多数资金流入研发难度更高、与行业融合更加紧密的 AR 领域,但从投资频次上看有 49%的风险投资投向 VR 企业,37%投向 AR 企业,14%流入兼具 VR/AR 业务的公司,主要原因在于相比于 AR,VR 大众消费市场初步形成,技术研发与终端门槛相对较低,体验内容日益丰富,VR 企业需要具备更高的现金流转能力。

VR起飞阶段来临!新基建加持,五横两纵技术框架全面展开 | 智东西内参

▲全球虚拟现实风险投资规模(左)、频次(右)占比

硬件终端与行业应用占据全球风险投资产业细分领域主体。2020年硬件终端领域在投资规模和频次占比分别为 57%和 25%,行业应用领域上述指标占比为 33%和 53%,除硬件终端和行业应用外,包含大众应用、开发工具、游戏、影视及其他领域合计在投资规模和频次占比仅为 10%和 22%,两项指标均为近三年最低,投资方向进一步向硬件终端和行业应用领域聚焦,如今年获得风险投资的游戏制作公司数量出现明显下滑,从 2017 年的 39 家降至 2019 年的 11 家直至今年的 7 家。相比之下,变现能力更强的硬件终端和行业应用公司更易获得资本青睐。在硬件终端领域,头显公司在过去三年获得的资金支持逐渐提升,外设及器件风投规模逐渐缩减,这源于头显终端技术集成度日益提高。在行业应用领域,投资总额及频次比之 2018 年均有一定增长,表明工业、教育、医疗与商贸等行业用户对虚拟现实解决方案的投资回报前景看好程度加大,买单意愿提升。

VR起飞阶段来临!新基建加持,五横两纵技术框架全面展开 | 智东西内参

VR起飞阶段来临!新基建加持,五横两纵技术框架全面展开 | 智东西内参

▲全球虚拟现实风险投资规模、频次占比(按投资领域划分)

中美成为投资热点地区,风投资本集中度凸显,并针对产业链开展更加审慎明确的投入。从地域分布来看,2019 年获得风险投资的公司中,33%的总部位于美国,14%位于中国大陆,并分别获得 60%、9%的资金,中美继续保持风险投资市场主导地位。2020 年中国大陆获得风险投资的公司数量约为 20 家,相比 2018 年、2019 年的 47 及32 家有所减少,获投资金规模相比去年减少约五成。从资本集中度来看,前十企业的融资集中度提升,终端及爆款应用成为焦点领域,如Magic Leap、Niantic 当年均获数亿美元融资。此外,AR 方向渐成热点,在 2017-2019 年间占比从三成增至七成。

VR起飞阶段来临!新基建加持,五横两纵技术框架全面展开 | 智东西内参

▲近年来全球虚拟现实风险投资热点事件

4、国家部委及地方政府积极推动虚拟现实产业发展

我国积极推动虚拟现实产业发展。自 2016 年虚拟现实被列入“十三五”信息化规划、互联网+等多项国家政策文件以来,工信部、国家发改委、科技部、教育部等部委相继出台指导政策支持虚拟现实产业发展。国务院从十三五规划开始把虚拟现实视为构建现代信息技术和产业生态体系的重要新兴产业,在《新一代人工智能发展规划》中将虚拟现实智能建模技术列入“新一代人工智能关键共性技术体系”,2020 年相继出台《关于进一步激发文化和旅游消费潜力的意见》、《新时代爱国主义教育实施纲要》和《关于推进对外贸易创新发展的实施意见》等文件,进一步明确虚拟现实在文化旅游、教育宣传、商贸会展等领域的创新应用。

在 2021 年出台的《中华人民共和国国民经济和社会发展第十四个五年规划和 2035 年远景目标纲要》中将VR/AR 产业列为未来五年数字经济重点产业之一。工信部在 2018 年12 月出台《关于加快推进虚拟现实产业发展的指导意见》,从核心技术、产品供给、行业应用、平台建设、标准构建等方面提出了发展虚拟现实产业的重点任务。在 2020 年 2 月发布《关于运用新一代信息技术支撑服务疫情防控和复工复产工作的通知》,提出要深化增强现实/虚拟现实等新一代信息技术在复工复产中的应用,推广协同研发、无人生产、远程运营、在线服务等新模式新业态。同年 3 月出台的《关于推动工业互联网加快发展的通知》提出引导工业互联网平台增强5G、人工智能、区块链、增强现实/虚拟现实等新技术支撑能力,强化设计、生产、运维、管理等全流程数字化功能集成。

国家发改委在“互联网+”领域创新能力建设专项中,提出建设虚拟现实/增强现实技术及应用创新平台,促进虚拟现实在互联网医疗救治等领域的应用。在2019 年将虚拟现实列入《产业结构调整指导目录》中的鼓励类产业,同年 12 月联合教育部、民政部、商务部等七部委发布《关于促进“互联网+社会服务”发展的意见 》,提出支持引导虚拟现实/增强现实等产品和服务研发,培育壮大社会服务新产品新产业新业态。2020 年
《关于促进消费扩容提质加快形成强大国内市场的实施意见》中指出要加快发展超高清视频、虚拟现实等新型信息产品,助力形成强大国内市场。科技部在“十三五”中将虚拟现实列入现代服务业、健康产业、医疗器械、中医药科技、技术标准科技等领域的创新规划中,并联合中宣部于 2019 年发布《关于促进文化和科技深度融合的指导意见》,提出加强包括 VR/AR 虚拟制作在内的文化创作、生产、传播和消费等环节共性关键技术研究以及高端文化装备自主研发及产业化。

文化和旅游部 2016 年出台的《关于推动文化娱乐行业转型升级的意见》将虚拟现实、增强现实做为游戏游艺设备创新的重要支撑,2020 年底发布的《关于推动数字文化产业高质量发展的意见》明确指出要引导和支持虚拟现实、增强现实等技术在文化领域应用,推动现有文化内容向沉浸式内容移植转化。

教育部在《教育信息化“十三五”规划》中把加快推进示范性虚拟仿真实验教学项目建设列入深入推进信息技术与高等教育教学深度融合工作,在 2018 年《教育信息化 2.0行动计划》中提出为结合 5G 技术发展,将以国家精品在线开放课程、示范性虚拟仿真实验教学项目等建设为载体,加强大容量智能教学资源建设。同年发布《普通高等学校高等职业教育(专科)专业目录》中增设“虚拟现实应用技术”专业,据不完全统计至 2020 年已有七十余所高职院校开设虚拟现实应用技术专业。在 2019 年《关于加强和改进中小学实验教学的意见》中指出,要创新实验教学方式,可用增强现实、虚拟现实等技术手段呈现不宜现场操作的实验。

卫健委在《“十三五”健康产业科技创新专项规划》中提出重点发展虚拟现实康复系统等智能康复辅具,加快增强现实、虚拟现实等关键技术的应用突破,提高治疗水平。

VR起飞阶段来临!新基建加持,五横两纵技术框架全面展开 | 智东西内参

▲我国各部委虚拟现实领域相关政策

各地政府积极推进本地虚拟现实产业发展。自 2018 年底工信部出台虚拟现实产业发展指导意见后,各地随之出台适配本地情况的扶持政策,比之 2016 年产业元年的概念热潮,此轮地方产业政策聚焦终端设备规模上量、优质内容制作聚合、行业应用落地实践、云控网联平台支撑推广、融合创新中心建设运营等更加切实的产业问题。综合各地现状,虚拟现实发展情况可大致归纳为 ICT 优势、特色领域以及政策驱动多类。其中,北上广深等优势型城市具备较为完整成熟的ICT 产业链条,专利持有量位居全国前列,投融资事件相对活跃。

三、创新应用分析

1、虚拟现实+ 商贸会展:后疫情时代的未来会展新常态

在商贸会展领域,针对线下会展参与可行性与便利性、固有组织成本、传统线上活动感官认知与互动体验受限等现状问题,虚拟现实有助于实现会展组织由以活动议程为中心向与会体验为中心的方向转变,将成为未来会展发展的新动能与新常态。

2020 年新冠疫情对千行百业带来巨大冲击,生产停滞致使供应链断裂,供需双方亟待重新接续。在这一背景下,国家大力倡导“云上会展”,以“云展示、云对接、云洽谈、云签约”实现远程多方协作,唤醒企业运营活力。2020年 11 月国务院《关于推进对外贸易创新发展的实施意见》中指出,利用 5G、VR/AR 等现代信息技术开拓市场,推进展会模式创新,探索线上线下同步互动、有机融合的办展新模式。

以云化架构为引领,业界积极探索虚拟现实在各类细分会展场景的技术实施路径与业务发展范式。从会展形式看,可分为仅线上与线上线下相融合的参与方式,远程与会者可通过自拍视频前后景抠像或3D 虚拟化身方式线上接入,且交互空间可根据业务实际由 3DoF 扩展至 6DoF。从技术支撑看,沉浸声场成为 VR/AR+会展业务的刚需技术,听音辩位、背景降噪、定向增强与空间混响有助于营造线上会议的临场感。此外,云上会展的业务架构有助于实现虚拟现实终端瘦身,并将自拍抠像、虚拟化身、环境渲染、视频融合、沉浸声场、6DoF定位追踪等计算处理任务向云边卸载。

从场景功能看,论坛、圆桌、聚会、展览已成为虚拟现实商贸会展的重点场景。以线上线下相结合的展览场景为例,身在展厅现场的观众与厂方讲解者可借助 AR 眼镜(或展位大屏)同远程与会者交流互动,且线上观众如临会场,声音方位始终与其虚拟化身位置、现场人员方位朝向实时适配。对于远程观众而言,通过佩戴 6DoF VR 头显可在多个不同展位间逛览,对感兴趣的展品内容凑前交流或同其他线上线下观众在展位外公共区域交流停歇。此外,若厂方讲解者未在展位现场,亦可通过 VR 终端远程接入,进而与现场与远程观众同步互动。当前,业界积极探索加载虚拟现实技术的新一代的云上会展方案,为降低参展企业云展会的落
地实施门槛,其平台易用性得到了普遍关注。

例如,华为公司 2020 年推出商臻云展厅解决方案采用云渲染+3D 模型+VR 全景技术模拟线下场景,观众可在虚拟场景中以自由视角逛展。同时,通过 3D 环拍、3D 模型等三维商品展示方式,可进一步改善传统线上 2D 图片观众体验受限的痛点问题。另外,参展企业可套用不同搭建模板快速布展,附带虚拟讲解员 VR 带看服务,并基于云平台编解码、边缘推流、跨平台分发、8K FOV、CDN、5G 网络分片等技术等保证云上会展的体验流畅性。

2、虚拟现实+ 工业生产:企业数字化转型的新动能

在工业生产领域,针对产品复杂度的不断提升、技能娴熟工人的紧缺、设计开发与规划生产的协同、营销与销售绩效的压力等问题,虚拟现实作为新一代人机交互工具,可为开发设计、生产制造、营销销售、运营维护等人员连接起数字世界和现实世界,提升企业数字化转型过程中从多元数据获取洞察的能力与水平。

当前,诸多工业企业积极开展数字化转型的顶层设计与系统实践,但在制造、营销等特定领域,员工往往与企业内其他职能所依赖的丰富信息生态系统脱节,如工厂车间的多数员工依靠传统工具和方法来收集信息和分享知识。通过虚拟现实这一创新方式有效连接这些员工,组织可以优化人员绩效、降低生产成本、提升产品质量,同时提高效率并促进内部专业知识普及。

虚拟现实在工业领域的应用场景可贯穿产品的全生命周期,发展阶段也从起初验证探索向现实环境落地。在制造环节,客户要求制造商提供全新的创新产品,增大产品差异化,缩短交付时间并提高质量。复杂性并非某种新趋势,但为解决不断发展的产品组合覆盖面和复杂度问题,制造商须建立更多产线,或提高现有产线的可用性、生产力和灵活性。企业越来越多地使用先进制造技术,装配工、操作员和技术人员负责执行的任务种类也相应增多,复杂的产品带来了复杂的操作,拉升了员工整体技能要求,而不断流动的员工影响了优质劳动力的供给。在装配/运维场景,基于虚拟现实的工作说明显著优于以往静态参考图片,依托远程协助、3D 可视化、实时诊断与反馈等功能特点,可提高按时交付率、产能利用率、首次修复率、新人培训效率,减少返工、废料与不合格率。

3、虚拟现实+地产营销:行业差异化竞争必由之路

在地产营销领域,针对线上看房难以直观清晰了解房屋全貌及诸多细节、远程看房缺乏实时互动体验等现状问题,依托虚拟现实技术,大众可获得房屋翔实的三维复刻体验,并根据用户偏好即时生成未来家装效果预览,实现“线上身临其境有温度,线下未来之家可预见”。虚拟现实进一步提高了线上看房的信息承载含量与质量,助力用户决策,日渐成为地产营销差异化竞争的必由之路。有别于传统 2D 照片与视频,VR 可以更加清晰地呈现出房源的三维结构、尺度信息、整体户型、内部装修以及房间细节等信息,提高供需对接效率。

据不完全统计,虚拟现实+地产营销应用可提升房源约看量 100%以上,线下看房时长缩短约 10%,房均成交周期缩短约 5%。借助 VR 扫描相机,可对房屋进行多点多角度扫描,并与彩色镜头拍摄的全景照片数据相
结合,修正全景照片畸变,在云端重建出房屋完整的 3D 彩色模型。通过上述过程重建房屋空间数字信息,用户可自主变换观察角度与位置,不再受限于以往固定位置、固定视角的 2D 房屋图像。以 VR 看房代表性企业为例,对于不同场景、不同精度的差异化 3D 重建需求,贝壳·如视构建了包括激光、结构光、全景相机、手机在内的多元化解决方案,截止到 2020 年底,已在全国 180 多个城市采集、创建并上线超过九百万套 VR 空间,用户日均 VR 使用时间超过 22 万小时。

与传统线上房源呈现形式相比,浏览时间提升 270%。在线上 VR 定制装修设计场景中,用户仅需提供设计效果需求,即可获得自动生成包含平面视图、硬装软装搭配、三维效果在内的全屋设计方案,用户可在“装修”后的客厅、卧室各功能区移步换景,查看细节。在 AI 设计方案基础上,用户可按照喜好参与到家装设计中来,自主更改家居风格、拖拽和替换家居物品,实时渲染完成相应装修 3D 效果,如贝壳未来家 AI 设计业务等。在线下家居布置效果 AR 预览场景中,房屋交易中线下看房难以取代,客户现场看房时会根据房间空间位置等信息,设想未来室内家具布置效果。由于空间尺寸不精确、受房间当前杂乱陈设等影响,以往用户只能“粗放设计”。

借助 AR 技术,用户不受当前房屋环境客观限制,以虚实融合的方式即刻预览未来装饰效果,给客户带来对房屋空间的切实感知和全新想象。此外,虚拟现实+地产营销已成为 5G 首批规模商业应用。在 4G 时代的看房业务,由于受限 4G 网络并考虑浏览经济性,需要将 150MB(以一套 100 平米房屋为例)的 3D 高清数据压缩数倍,致使部分细节呈现失真乃至丢失。随着 5G 的正式商用,其大带宽和低时延的技术特性,使 3D 数据的快速传输成为可能,为用户带来高清房源即点即看的进阶体验。另外,相比 4G 网络下用户浏览 VR 房源实景的效果(单流),5G 大带宽能力可轻松实现双流高清数据同时传输,在用户手机上同步呈现
装修前实景图和云端渲染后装修设计效果。

4、虚拟现实+医疗健康:传统医学手段的有效补充

在医疗健康领域,针对医生短缺、医疗资源分布不均、诊疗方式单一等现状问题,虚拟现实的高沉浸性、高可重复性、高定制化性、远程可控性等特点,有助于丰富教学和诊疗手段、降低治疗风险、提高设备利用率、促进高素质人才和医疗资源下沉,为医患双方创造便利条件,推动医疗准确性、安全性与高效性的持续进阶。现阶段虚拟现实+医疗尚无法完全取代真实诊疗过程,但现已作为传统医学手段的有效补充,具备规模推广的条件,有望成为医疗行业的重要辅助技术手段之一。

虚拟现实+医疗广泛用于模拟医学、医疗工具、诊疗方案方面,主要涉及医学教育培训、心理/精神疾病治疗、强化临床诊治、医学康复护理和远程医疗指导等业务场景。其中,基于虚拟现实的医学教育培训便于医学用户以更加直观、高效、安全的方式学习专业知识,实践专业技能,同时有助于节省医学教育成本。如缓解了解剖医学解剖样品供应严重短缺,帮助医学生在虚拟手术台上反复练习,加快对解剖结构的理解,解决了医生职业的准入门槛高、在夯实基础知识的同时需要配合大量解剖练习掌握实战技巧等问题。

此外,可面向外科医生在重大手术前开展模拟和训练,进而对手术过程中可能出现的问题提前预知,如 Level Ex 通过对人体组织动力学、内窥镜设备光学和运动流体的现实模拟,针对外科手术医生提供了一种避免对人产生伤害的手术训练方式;心理/精神类疾病诊治中采用虚拟现实疗法可免于创建真实治疗环境,通过为患者模拟不同的环境场所,提供认知行为刺激或进行暴露疗法,刺激病患大脑中相关的感应区,提供了一种治疗心理精神类疾病的无药物方法,且患者可居家治疗。如凡聚科技构建出可诱发心理障碍患者恐惧和焦虑等情绪的虚拟场景,通过暴露疗法治疗恐高症、幽闭恐惧症患者。

Relax VR 模拟海滩、海洋、海风、海浪等场景,对用户进行放松,缓解其压力、焦虑和抑郁;临床诊疗强化借助 VR 技术对患者病灶体征等进行实时模拟,可应用于临床疾病辅助诊断,达到减少疼痛、消除患者紧张和恐惧效果,帮助医生获取更加全面的病患信息,减少患者在就诊过程中不便,如手术计划协助系统可通过计算机断层扫描(CT),磁共振(MR)、超声心动图和 C 型臂透视图像,创建器官、血管等 3D 全息影像,医生可借此与患者交流病情,识别最佳的治疗方法,进行针对性的术前规划,从而达到更好的治疗效果;医学康复护理借助虚拟现实训练内容为患者的神经系统提供有意义的刺激,同时利用多感觉训练来改善大脑的神经可塑性,从而引起功能恢复。

VR 让患者在虚拟环境中扮演角色,充分调动利用患者自主性,通过训练动作与之进行交互,虚拟环境及时给予患者评估和反馈,充分激发患者参与治疗积极性,使被动治疗变为主动治疗。如微软开发的 VR 系统 Canetroller,创新性地将视障人员视觉性体验转换为听觉体验。MindMaze 专注于将虚拟现实与运动捕捉技术与脑机界面相结合,改善患者中风康复治疗;远程医疗指导通过超高清回传再现的 VR/AR 视频,结合反馈设备为远程支援医生提供更真实的病况,可为病人提供高阶会诊服务,提高手术成功率。

5、虚拟现实+ 教育培训:教学模式由被动接受向自主体验升级

在教育培训领域,针对传统教学过程中部分课程内容难于记忆、难于实践、难于理解等现状问题,虚拟现实有助于提升教学质量与行业培训效果。在面向大众的教育教学方面,Edgar Dale 的“学习尖塔”理论认为,学生对于学习情境的参与度越高,记忆就越牢固,借助体验习得的知识经验效率远高于传统教学培训方式(文字符号、录音广播、静态图片等)。依托虚拟现实技术,学生通过与各种虚拟物品、复杂现象与抽象概念进行互动,得以身临其境的体验现实世界中难以实现的“实操”机会,进而激发学习热情,增强注意力水平,提升知识保留度,降低潜在安全风险。此外,虚拟现实有助于辅助教师高效授课,释放新一代信息技术带来创新潜力。

在教育部等多部委联合印发的《教师教育振兴行动计划(2018—2022 年)》中指出,要充分利用虚拟现实等新技术,推进教师教育信息化教学服务平台建设和应用,推动以自主、合作、探究为主要特征的教学方式变革。在面向企业的技能培训方面,根据各类企业培训目标定位的差异,通常可分为面向任务过程的培训、多人协同设备设施培训与基于 AI 的软技能培训等。与 K-12 等具备标准课程设置的教育市场不同,企业市场中 VR 培训在各垂直行业呈现高度定制化、情景长尾化的特点,且对 VR 创新应用项目的投资回报要求更为明确。例如,在面向石油化工行业的职业教育领域,易智时代依托云 VR 平台为石化企业员工提供了设备操作演练、工艺流程模拟、安全事故还原、结构原理讲解、智能巡检、技能考核等多场景的垂直行业 VR 培训解决方案,旨在提高培训效果与效率。

6、虚拟现实+ 文娱休闲:新型信息消费模式的新载体

在文娱休闲领域,针对传统文娱体验互动性有限、社交性不足、体验形式单一等现状问题,虚拟现实支持融合型、分享型和沉浸型数字内容与服务,有助于围绕信息技术融合创新应用,打造信息消费升级版,培育中高端消费领域新增长点。虚拟现实在文娱休闲中主要用于商超、旅游、社交、游戏、剧集与活动直播等应用场景。作为高频次、大流量、趋势性的消费场景,智慧商业综合体汇集人流、物流、资金流和信息流,是推广信息化应用和培育新型信息消费模式的新载体和理想试验田。以数字化赋能实体商业,以流量平台激活实体商圈,以虚拟现实场景引领消费新时尚,推进商业综合体和万家实体商户上云用数赋智,是推动消费业态推陈出新,深化商旅文体协同,提升综合体、消费者和商户的获得感,满足人民群众对美好生活的需要的关键举措。

2020 年中国电信推出了 5G MEC 商业综合体云 XR 数字孪生平台,面向商家提供了基于 MEC 的商场信息化应用、数字孪生系统、客流轨迹精细化分析等应用,面向消费者提供了虚拟导购、虚拟景观、红包探宝、点评导航、娱乐空间、虚拟化身直播等功能,旨在加速推动虚拟现实等新型智能交互技术与线下消费场景的深度融合。

2020 年万达集团举办商业中心 5G 创新应用大赛,并联合产业伙伴发布《商业中心 5G 创新应用白皮书》,XR 成为商业中心智能服务的核心业务。智慧旅游方面,AR 实景导览与 VR 行前预览,丰富了景点的游览方式,营造沉浸式的互动体验。如通过将莫高窟景区文物与风景融合呈现,华为河图实现了自动识物的自助讲解、文物复原、场景再现等功能,帮助游客对景观概要“知其然,亦知其所以然”。线上社交方面,虚拟现实通过手势识别、虚拟化身、表情识别等更加个性化、更具表现力、日益丰富沉浸的互动形式,突破了传统线上社交的体验瓶颈,开启了网络社交 2.0。

2020 年脸书启动 VR 社交平台Horizon 试运营,用户可利用 Grant 等创作工具自行构建可与他人共享的虚拟世界互动体验。3D 游戏方面,成熟的受众群体以及玩家对于新技术的积极态度使得虚拟现实游戏成为文娱休闲领域的市场重点。Valve 推出的首款 VR 游戏《半条命:艾利克斯》成为 2020 年VR 游戏爆款,该游戏在物品场景互动性、画面细节拟真度等方面进步显著,为 STEAM VR 平台新增发展百万用户。剧集视频及活动直播方面,VR 巨幕影院、360 3D 视频等媒体形式突破屏幕尺寸和空间位置的限制,为用户提供影视作品、综艺节目、体育赛事、风景名胜等内容题材,并引入社交互动元素,给用户带来新的观赏体验。

智东西认为,VR和AR与“新基建”背景下的多个重点领域密切相关。在今年新冠疫情的影响下,视频社交、视频会展等虚拟现实创新应用市场逆势增长,表现出对新型基础设施更加迫切的需求,并对通信基础设施的带宽、时延等网络传输能力、对算力基础设施的计算、存储能力提出了不断进阶支撑要求。2020年,VR、AR迎来了快车道的发力窗口期,我国在这个行业中的很多细分领域与国际差距不大,若能抓住此次机遇,未来会早就一个国际领先的产业链条。