智东西(公众号:zhidxcom
作者 | 香草
编辑 | 漠影

在大模型的火热角逐中,云计算再次掀起巨大声浪。

随着5G、物联网等技术的发展,可穿戴设备、机器人等终端设备的迅速增加,所产生的数据量也呈指数级增长。VR/AR、智能交通等更多应用场景对数据传输提出了“低时延、大带宽、大连接”等需求,推动云计算不断向边缘发展

近日,在2024春季火山引擎FORCE原动力大会上,火山引擎边缘云在现场与扣子(Coze)平台进行互动,通过API调用,观展嘉宾可以向部署在边缘智能设备上的bot提问,获得展区展位分布情况、现场人流量等信息的实时解答。这为大模型感知或操作物理世界实体、拓展场景边界提供了更广阔的想象空间。

边缘云行业发展二十余年,在AI时代,大模型能为其带来什么样的转型机遇?在落地层面,边缘云有哪些创新的应用场景,能解决哪些产业痛点?未来的发展趋势是什么?

带着这些疑问,智东西对话了火山引擎边缘云网络产品研发负责人韩伟、火山引擎边缘智能产品经理刘浩然,对此进行了深入探讨。

一、蓝海二十年,边缘云进入稳定发展阶段

作为中心云计算的延伸,边缘云打通了将计算能力下沉到离用户最近的“最后一公里”。并且由于更加靠近数据产生和使用的位置,边缘云具备时延低、带宽占用率低、数据安全性高、本地化等优势。

边缘云行业的发展历程,可以追溯到边缘计算的兴起和物联网的快速发展,大致分为三个阶段:

1998—2015年是技术储备阶段。2006年,AWS正式对外提供云服务。2009年,IBM首次提出了“边缘计算”概念,指的是将计算和数据处理从云端转移到离数据源更近的边缘设备上。随着云计算与移动互联网的发展,特别是在2010年至2015年期间,数据中心的网络边缘和用户之间的“最后一公里”带宽成为制约发展的瓶颈,边缘计算应运而生,通过在边缘侧部署数据和服务,有效减轻了网络拥堵的问题。

2015—2017年是高速发展阶段。2015年,欧洲电信标准化协会发布移动边缘计算白皮书。2016年,边缘计算产业联盟成立。边缘计算开始被业界大力推广,进入快速增长阶段,市场参与者数量不断增加、类型逐渐丰富,ICT(信息与通信技术)厂商、云计算企业、CDN(内容分发网络)公司等纷纷入局。

2018年至今是稳定发展阶段。很多边缘云厂商开始以云原生为主流架构去做落地尝试,将概念逐渐转化为实际的应用和实践。到2022年,已有17个边缘数据中心入选国家新型数据中心典型案例名单,覆盖智慧城市、电力、政务、医疗、矿山等行业。

经过二十余年的发展,边缘云仍处于蓝海市场。据美国市场研究机构Grand View Research预测,到2028年全球边缘计算市场规模将达到611.4亿美元,在预测期内的复合年增长率为38.4%。国际数据公司IDC预测,到2025年底,全球75%的企业生成数据将会在边缘产生和处理。

二、百亿市场的痛点:技术创新、场景适配、网络融合

作为蓝海市场,边缘云仍存在大量未被开发或未被充分开发的市场机会。

一方面,企业面临的直接竞争相对较少;另一方面,因为没有既定的模式可循,需要企业不断探索和创新,挖掘新的产品、服务和商业模式。

尽管在需求上升及技术进步的推动下,边缘云市场呈现出百亿级的发展趋势,但该产业仍面临技术创新、场景适配和网络融合等挑战,同时还存在数据管理、网络计算和成本管理等风险。

具体来看,在技术成熟度上,边缘云相关技术仍在不断发展和完善中,稳定性、可靠性可能不足;在标准规范上,行业内缺乏统一的标准和规范,导致不同厂商的设备和解决方案之间兼容性可能较差,增加了部署和整合的难度;在安全方面,由于边缘设备分布广泛且更接近用户端,面临的数据安全和用户隐私保护挑战更为复杂,安全防护难度较大。

这对边缘云赛道的玩家提出要求,既需要持续的技术研发,不断投入资源进行技术创新,提升边缘云技术的稳定性、可靠性,优化性能;又要强化安全保障能力,建立完善的安全防护体系,确保数据安全和用户隐私;此外还需具备场景探索与适配能力,深入研究不同应用场景的特点和需求,针对性地开发和优化产品与服务,提高场景适配能力。

如何突破这些痛点,把握更多市场机会呢?也许能从知名机构的报告及评估标准中得到答案。

近日,全球增长咨询公司沙利文发布《2024年中国边缘云市场报告》,对国内边缘云产品、技术、市场动向等进行了梳理分析,并结合市场发展前景解读了国内边缘云领域内主要竞争者所处的地位。

智东西注意到,其中火山引擎作为产业中游横跨SaaS、PaaS、IaaS服务的解决方案提供商,凭借规模弹性、边缘云原生、技术创新与内外统一四大技术优势,以及增长能力和创新能力,入选边缘云领导者象限。

边缘云行业发展二十余年,据公开信息显示,火山引擎从2020年开始大力建设边缘云资源底座。作为该领域的“后来者”,火山引擎是如何“后来居上”成为领导者的?在技术层面上相比友商具有哪些优势?

火山引擎边缘云网络产品研发负责人韩伟告诉智东西,火山引擎以云原生技术为基础底座,融合异构算力边缘网络,在大规模边缘基础设施之上,形成以边缘位置的计算、网络、存储、安全、智能为核心能力的新一代分布式云计算解决方案

具体来看,其优势主要在于四个方面:

一是规模弹性。基于从字节跳动集团内部业务发展起来的背景,火山引擎的边缘云从最开始就具备了一定的规模优势,目前全网的带宽储备已达到150T,边缘节点达到2500个,覆盖全球50多个国家和地区。

二是边缘云原生。在云原生技术的基础上,火山引擎团队对边缘计算进行了创新尝试,提供了一套小型化、轻量化和集成化的原生操作系统,从而具备完整的云边、网边协同能力。

三是技术创新。基于边缘云原生的操作系统,通过融合网络链路加速等方式提供对CPU、GPU等异构算力的支持。

四是内外统一。指的是字节跳动内部业务和对外业务采用相同的边缘云产品和服务。基于公司内部业务的规模和复杂性,技术团队持续打磨架构和产品,同时也经历了很多流量洪峰的验证,呈现出相对成熟的一套方案。

韩伟谈道,火山引擎边缘云的Slogan是让“连接与计算无处不在”,体现了其在网络的边缘侧提供IT基础设施和云服务的目标。

其中有两个关键点,“连接”和“计算”,分别对应网络、计算从中心向边缘的延伸。

火山引擎是如何践行这一Slogan的?主要包含三个层面的布局。

网络是支撑边缘云的关键基础设施。火山引擎采取融合的分布式网络,面向客户数字化应用和业务需求,提供1~40ms的广域网络接入,具有低延迟、低成本、广覆盖等特征,具备强网络调度属性及扩展性。

操作系统是云原生在边缘场景的创新实践。火山引擎自研边缘云原生操作系统,为客户提供包含边缘虚拟机、裸金属、容器等多种形态的异构算力,同时提供云上一致的边缘网络、边缘存储等多种云服务能力。

边缘智能是“边缘+AI”的创新实践。火山引擎边缘云还将AI能力下沉到边缘,推出了边缘智能产品,提供AI应用能力,支持边缘推理功能,包括云上推理模型管理和本地模型实时推理,支持实时响应、安全隐私等边缘AI场景的业务需求。

通过这三个层面的布局,火山引擎为未来在更广泛的领域连接和拓展奠定了基础。韩伟告诉智东西,火山引擎未来将从纵向、横向两个维度去突破。

在纵向维度上,火山引擎将强调更深的融合,在云边端的联动上融合得更加紧密;在横向维度上,随着边缘云网络规模越来愈大,火山引擎将在全球范围内建立更广的连接

三、AI+万物互联开启增量市场

在边缘云落地中,AIoT(智能物联)是非常重要且极具潜力的场景之一。

作为AI技术与物联网在实际应用中的落地融合,在当下政务数字化、产业数字化、企业数字化转型的大趋势下,AIoT正逐渐成为传统行业智能化升级的重要通道和物联网产业未来发展的大趋势。近年来,AIoT结合边缘云技术在各个行业中的应用越来越广泛,如智慧城市建设、工业互联网、智能交通、远程医疗等,这些都依赖于边缘云的实时数据处理能力和AIoT的技术优势。

根据《2024中国AIoT产业全景图谱报告》数据,2022年全球企业级AIoT市场规模达到5.37万亿元,预计到2026年将达到7.61万亿元。同时中国市场占比将持续上涨,2022年中国市场规模占比为23.5%,预计到2026年提升至29.7%

整体市场需求呈上升趋势,但AIoT要成为企业的生产力工具,仍面临工程化落地的挑战,包括需求碎片化、系统割裂、成本高企等。

具体来说,AIoT市场用户需求碎片化、应用场景分散,需要大量的行业应用知识和领域知识来完成技术的效能转化;同时随着各类物联网设施的出现,如何实现多设备间的互联互通、打通各子系统的数据链路也成为决定AIoT系统实用性的一大关键;在算力、算法等成本上,AI应用前期需要投入较大,因此目前AIoT规模化应用的场景主要集中在G端和大B端行业市场。

由于业务中存在子业务系统多、专业性强、数据结构不统一、设备异构等问题,AI场景落地层面存在较大的困难。为了解决这一系列AI工程化的难点,火山引擎面向AIoT场景的应用开发,提供了平台化的解决方案,也就是边缘智能产品。

根据算力部署的位置和数据处理延时不同,边缘计算分为现场边缘、近场边缘、云边缘三层。

其中现场边缘指的是位于用户现场或自有机房,覆盖1~5ms时延范围,可以将云中心训练好的模型算法和能力下沉到用户现场侧,满足超低时延的计算和网络能力,主要应用于AIoT边缘时序数据等实时性业务的典型场景。

火山引擎边缘智能的定位是“立足于现场边缘,协同近场/云边缘的算力网络,打造智能物联解决方案”,围绕AIoT场景,提供从设备接入、数据处理、边缘推理,到处理结果上云的全链路开发平台。

这一定位该如何理解?火山引擎边缘智能产品经理刘浩然告诉智东西,火山引擎认为,从云到终端之间的所有算力层都属于边缘,其中现场边缘作为最靠近用户的地方尤为重要。如楼宇中的配电房、家庭中的家庭网关等,这些算力载体提供响应的时效性更高,处理数据也更为有效。

以智能楼宇为例,火山引擎与美的楼宇科技联合共创了智慧园区解决方案,通过采用云边端一体架构,解决了碎片化异构数据统一、不同场景标准化的难题。

刘浩然称,边缘智能的主要核心能力在于低延时快速响应以及数据安全保障。

具体到场景中,边缘智能是如何应用的?

火山引擎与国内某高校合作,通过边缘智能实现了本地化算力运行算法,来识别监控视频中的异常,如外来人员进入、食品安全问题等。在监测到这些异常现象后及时发送警报给保卫处、后勤处,便于学校管理智能化,减少人力投入。

谈及边缘智能未来的想象空间,刘浩然认为大模型与边缘云的结合会是未来的主要方向。更长远来看,AI将会进入生产环节,从数据筛选分类、环境监测判断、重复性指令执行等简单场景开始,向应对突发故障、综合决策等复杂场景和复杂任务演进。

结语:边缘云需求爆发,下一战场有三大关键

边缘云作为云计算的前沿技术,正迅速成为支持智能应用的关键力量。火山引擎凭借其技术优势和全链路开发平台,推动了AIoT等智能场景的创新应用。

作为蓝海市场,边缘云正在快速增长,这个产业最终将走向何方?

根据沙利文报告,边缘云技术未来发展趋势涵盖边缘云硬件面向场景深度定制化、核心技术趋势同化、智能行业驱动边缘智能化三方面。

在边缘硬件基础设施技术方面,未来边缘硬件将会支持集成大量的异构设备,同时为了满足边缘场景的定制化需求,也会出现更多定制化设备;在边缘管控技术方面,统一的管控技术会持续升级,同时中心与边缘间也需要建立完善的分级管控机制,实现边缘云在资源和业务层面协同统一;在智能边缘化方面,当AI下沉到边缘侧,涉及大计算的智能硬件将变成机器人,形成场景中心。

在此背景下,如何通过技术创新,针对不同行业提供定制化的解决方案,并抓住AI时代的智能化机遇,成为边缘云下一战场的关键。