智东西(公众号:zhidxcom)
作者 | ZeR0
编辑 | 漠影

智东西12月19日报道,在生成式AI热潮中,凭借与英伟达的合作以及拿下10亿级GPU算力大单,成立仅1年多的英博数科成为现象级“算力黑马”,并带动其母公司彩票巨头鸿博股份股价今年迄今涨幅高达347%。

在新华社国家重点实验室指导下,英博数科本周一举办了首届AI Tech Day暨人工智能生态发展峰会。英博数科的多家生态合作伙伴及客户们在会上进行主题分享。

百川智能创始人、CEO王小川,软通智慧CTO杨旭青,潞晨科技Colossal-AI云平台负责人崔子源,无问芯穹联合创始人、CEO夏立雪,爱奇艺AI基础服务总监董峰,分别从大模型的技术发展、体系设计、能效优化、降低成本、生成式AI应用实践等角度输出了大量干货。

这场大会上,英博数科正式宣布战略升级,从1.0阶段定位大模型算力服务商,升级到2.0定位“AGI全栈生态服务平台”——为AGI全产业链客户提供充足稳定的算力和全栈式解决方案。

同时,英博数科重磅推出“搏博云”,作为汇聚生态开发者、提供增值服务的产品平台,以开源生态助力实现产业价值落地。

AI Tech Day期间还宣布包括“AGI泛娱乐联盟”、“梧桐计划”、“MM豆计划”在内的众多生态重磅商业化落地项目,并成立了北京·AI创新赋能中心技术委员会,从而更好地解决软硬件融合、让算力自由可控的研发课题,为中国人工智能(AI)产业打造最领先的技术解决方案样板工程。

累计签约超18亿!国产AI算力黑马战略升级,晒大模型顶流朋友圈

一、10月份累计交付3000P AI算力,迄今累计签约超过18亿元

鸿博股份副总裁、英博数科CEO周韡韡首先回顾了英博数科发展历程和关键节点:

英博数科于2022年6月在北京成立,同年与中关村服务联盟、英伟达共同合作成立北京·AI创新赋能中心,并获得了24个城市IDC运营许可。

进入今年,英博数科在2月交付首个DGX A800 AI算力集群,10月累计交付3000P AI算力,持续扩张单一通讯集群超大智算单元,截至今年12月累计签约额超过18亿人民币。

其客户类型既有像百川智能、MiniMax、深言科技等国内头部大模型客户,也有像潞晨科技、无问芯穹这样的头部中间层算法技术服务商。同时,英博数科入资布局了包括公安经侦大模型创新企业中科朗克和大模型泛娱乐短剧、游戏公司等首批应用场景的优质公司。

累计签约超18亿!国产AI算力黑马战略升级,晒大模型顶流朋友圈▲鸿博股份副总裁、英博数科CEO周韡韡

周韡韡回忆说,作为第一批吃螃蟹的人,2021年英博数科启动之初,就开始集海内外多方力量、资源、团队为算力储备努力,目标就是打造北京智算中心样板,在全国推广复制。基于此,英博数科并没有因为对华芯片限制受太大影响,反而超预期的完成了第一阶段的算力落地和储备目标。

“英博数科和客户的关系更像是亲人、手足或者是师生,我们能够坦诚面对双方的需求,互相扶持,各施所长,共同成长。”周韡韡谈道,客户与英博数科共同搭建调试出了超越原厂商标准参数的智算集群训练效果,用高性能国产通讯设备跑出了与昂贵进口设备基本持平的效果。 

二、升级AGI全栈生态服务平台,发布搏博云V1.0版本

周韡韡宣布,英博数科启动第二阶段商业战略——从专业AI多模态大模型训练平台的定位升级为AGI(通用人工智能)全栈生态服务平台。

累计签约超18亿!国产AI算力黑马战略升级,晒大模型顶流朋友圈

在IaaS基建层,英博数科携手京能集团共建北京·AI创新赋能中心,打造对标英伟达H系列产品的单一物理空间、单一通讯单元的万卡智算集群作为算力主单元,并在其他城市特别是东数西算的主要节点城市建设规模不等的智算中心子单元,从而最大限度满足不同模型阶段客户的分布式训练以及合作伙伴AI生态工具交付业务的需求。

在中间的PaaS层,客户可在搏博云及其工具商店里购买无问芯穹、潞晨科技等英博数科生态合作伙伴提供的PaaS训练加速解决方案,还可以基于未来英博数科和合作共同研发的最新X架构最大限度降低大模型智算集群的传输效率衰减,从而匹配市面几乎所有兼容CUDA的GPU解决方案,以帮助平台上的AGI研发者降本增效。

第三层SaaS服务层提供数据工程服务,以高效精准的向量数据库和数据产品化服务提供为核心,帮助拥有数据资产的客户实现收益变现。

第四层Data&MaaS层由模型商店、数据商店组成,可轻松下载体验各种开源模型,或是购买垂类应用模型,也可以在租用搏博云的算力空间来实现定制模型的私有化部署使用和训练。

累计签约超18亿!国产AI算力黑马战略升级,晒大模型顶流朋友圈

周韡韡认为,通过搭建AI商业交易平台,实现良性经济自循环的闭环产业链,是让AI产业做大做强的重要一环。英博数科将自己定位为一个企业服务平台,希望能够加快进步,处理客户的多样化商业需求。据她透露,英博数科计划将AI Tech Day持续性办成一个常规化的开发者活动,邀请出色的产品团队开发者直接面对市场进行交流。

向客户交付增值服务工具和汇聚生态开发者的平台,就是搏博云(Best of the Best Cloud)。

累计签约超18亿!国产AI算力黑马战略升级,晒大模型顶流朋友圈

它是一个GPU云平台,现阶段主要是连接大模型头部客户和希望加入AI产业的开发者,通过工具、应用、数据、应用商店,提供自助开户、商业交易,并可对接代理商、加盟商进行算力的商业化调度、为客户进行跨平台数据迁移、虚拟GPU等功能,实现算力像水和电一样随取随用。

搏博云将基于算力供给、客户模型全周期陪伴式专家调优、数据工程、数据资产化与数据集市的一站式聚合云服务,并打造数据产品、工具服务、模型产品及众多开源产品的动态闭环生态环境,供给、开发者与需求方的闭环,加速大模型从开发到落地的进程。

同时,搏博云提供丰富多样的工具包,用户既可为大模型加载独立的数据集,也能单独升级基础模型或能力集;工具包能将复杂的大模型开发过程流程化、标准化,帮助用户实现一站式开发,并支撑构建大模型原生应用。

三、披露分阶定价计划,积极与ISV服务商合作

会上,英博数科披露了战略升级后的收入构成,包括搏博云各类商店的分成,异构调度、vGPU云服务收入,算力、产品和服务代理收入的梧桐计划,各地算力纳管销售分成的MM豆计划甚至是相关金融衍生产品等。

累计签约超18亿!国产AI算力黑马战略升级,晒大模型顶流朋友圈

填补高端算力和创新需求之间的鸿沟,需要一个强有力的生态系统支撑。英博数科致力于构建生态系统,打造基于多样性算力平台的全线自研产品和通用解决方案。

英博数科商务副总裁孟健雄分享了英博数科的M·M·D算力聚合,要基于算力、结合金融手段,实现算力的融合、放大和多样化。

累计签约超18亿!国产AI算力黑马战略升级,晒大模型顶流朋友圈

第一,通过搏博云聚合纳管,将传统IDC的计算算力、电信专业IDC的计算算力实现跨云融合;

第二,通过金融工具和资本合作的方式,持续的追求做国内最大的单一物理空间集群;

最后通过智算中心的建设项目,托管代运营的服务和私有云等方式,进一步实现服务和算力部署的多样化。

比如在金融方案中,民营资本在面对智算项目时可能会缺乏客户储备、相应技术背景和实际运营运维的经验,作为金融租赁服务角色,英博数科充当了一个项目启动期运营平台的角色,在项目前三年提供一个收益的兜底方案。

孟健雄说,这样的组合能够充分利用民营资本、经营优势、英博数科充裕的算力资源以及对市场需求的准确预判,实现双方利益的最大化。

在定价上,结合实际积累的业务经验与客户成长规律,英博数科将客户分成大致三类,根据不同需求提供符合其发展阶段的定制化内容:

累计签约超18亿!国产AI算力黑马战略升级,晒大模型顶流朋友圈

1)战略合作伙伴,如百川智能、MiniMax等,在超大规模集群和数据资产方面开展深入合作;

2)成长性客户,即仍需进行市场验证的中型客户群体,英博数科除了提供标准化战略供应外,会努力帮助他们将模型产品推向市场;

3)潜力客户,面向更广泛的尚处在发展初期的企业,最大化降低技术门槛,提供灵活的付费选项。

孟健雄谈道,仅凭英博数科一己之力,难以全面涵盖所有的客户需求,因此英博数科愿意用开放的态度积极与更贴近客户、了解客户需求的ISV服务商建立合作关系,将在明年开始推进其ISV服务商体系,即梧桐计划。

累计签约超18亿!国产AI算力黑马战略升级,晒大模型顶流朋友圈

经过深入研究,英博数科发现目前算力市场由卖方主导,这滋生出一些问题,例如虚假的算力供应、价格不透明且频繁上涨,算力的期货活动缺乏违约的惩罚条款等现象。

英博数科在设计梧桐计划时充分考虑到这些痛点,同时利用技术制度和金融工具来解决问题,为英博数科的服务商群体赋能:

第一,通过搏博云的算力聚合串珠成链,撮合零散的算力,供给与需求端实现算力的弹性超售;

第二,通过远期合约作为衍生品的工具,为买方对冲算力供应商违约的风险,为金融参与者创造机会,真正做到算力供应的可交可产;

最后,利用搏博云算力供应的平台优势,提供给客户与中间商之间的交易担保服务。

孟健雄举例说,一个年服务于大概15~20家中小型客户的服务商,通过算力服务费和搏博云增值服务费的销售返佣,结合资源锁定工具,粗略计算每年可得到大几十万的毛利收入。

四、大模型占中国智算需求近6成,多家生态伙伴拆解落地实践与算力挑战

艾瑞咨询在峰会期间发布《2023年中国智能计算中心行业发展白皮书》。据艾瑞咨询产业数字化研究院负责人徐樊磊分享,2023年中国智能算力需求中,训练占70%,推理占30%;其中大模型占据2023年中国智能算力总需求的58.8%,是智能算力的最大需求方。

累计签约超18亿!国产AI算力黑马战略升级,晒大模型顶流朋友圈

通过分析,他总结出了未来AGI时代的创新解决方案:拥有足够的高端智能算力和不断优化的软硬件融合解决方案;可以构建生态汇聚上下游、全链条、各领域的参与者;不论是开发者还是使用者,门槛都要足够低和便利。

随后,英博数科从算力服务、算法优化、场景数据模型使用等方面的全栈生态服务客户和用户们分别进行了分享。

百川智能是英博数科首个算力租赁和战略客户,也是国内迄今为止算力云服务最大金额订单购买者。本月初,鸿博股份宣布英博数科于近期与百川智能签订云服务协议,未来三年向百川智能提供协议约定规模的英伟达智算服务器所有的算力和资源以及配套软件、应用以及技术服务,交易总金额预计13.82亿元。

百川智能创始人、CEO王小川现场分享了大模型的发展与技术思考。他谈道,今年是通用人工智能(AGI)元年,语言模型是AGI的起点。他相信大模型带来的行业赋能包括三个分支:1)生产力提升,通过提供数字员工帮助企业更好地降本增效;2)智能助理,打造私人医生、私人老师、私人律师等更多“专家”;3)开放世界,从做出情感陪伴角色走向创造原创剧情、构建虚拟世界,预计在娱乐行业未来会有巨大发展。

累计签约超18亿!国产AI算力黑马战略升级,晒大模型顶流朋友圈

从技术角度来看,王小川认为,大模型+搜索才能构成完整技术栈,通过搜索经验和能力来助力大模型研发,补齐大模型短板,减少幻觉并优化时效性、安全性。他希望与英博数科一起推动大模型行业的发展,百川智能的宗旨是帮助大众轻松、普惠地获取世界知识和专业服务。

软通智慧CTO杨旭青分享了多模态大模型在城市治理场景中的体系设计。在他看来,光靠大数据不足以解决让城市有智慧的问题,以前一个城市构建了一个拥有很多碎片式AI算法的体系,但把这些算法管理起来、充分融合并不容易,而大模型本身的泛化性使其能将各种实践关联起来,大大提升算法及前端硬件使用率和准确率。

累计签约超18亿!国产AI算力黑马战略升级,晒大模型顶流朋友圈

他提到很多大模型应用面临的问题是结合城市场景中的数据进行微调加再训练,以及与Self-ASK和React等多种大语言模型Agents技术,才能真正服务于城市场景。软通智慧近年来交付了一批城市级AI计算中心、多样性算力中心相关成功案例,在建设、运维、运营、使能服务等方面积累了大量经验。不久前,软通智慧联合华为发布城市大模型联合解决方案,深化了智慧应用和创新场景建设,通过探索超大型城市中心城区治理新路,提升治理体系和治理能力现代化水平。

潞晨科技Colossal-AI云平台负责人崔子源谈道,AI大模型面临训练耗时长、显卡稀缺且昂贵、开发和运维人力成本高等挑战,Colossal-AI通过大规模的大模型异构内存优化和管理系统、高效的多维模型并行计算管理系统、自研低延迟高吞吐推理引擎等方案来最大限度帮助企业级AI大模型降本增效。

累计签约超18亿!国产AI算力黑马战略升级,晒大模型顶流朋友圈

其云服务提供了大模型训练、微调、推理、部署的能力,同时也提供了多种无代码、低代码方式,有助于大幅减少垂直企业领域招聘AI团队的人力成本。潞晨科技将参加英博数科的梧桐计划,同时把Colossal-AIPaaS云平台原生融入到搏博云的生态,和英博数科将携手进行大模型科技前沿和商业探索,为更多的垂直领域的企业提供优质的大模型服务。

无问芯穹创始成员主要来自清华大学电子工程系。据无问芯穹联合创始人、CEO夏立雪博士称,共同构建一个大模型的生态,能够进一步让很多有自己想法的、一些好的创业者和开发者,能够更方便享受到更经济更高效率的算力应用。在未来的赛道竞争上,把“全栈生态服务平台”打造好才能让真正的中国的AI能够腾飞起来。

累计签约超18亿!国产AI算力黑马战略升级,晒大模型顶流朋友圈

他谈道,能效是衡量生产力和竞争力的测度,GPU可使用性不足、多元异构GPU生态分散、算力/存储/贷款不足等难题限制了大模型落地的极致能效。无问芯穹想要在多元异构硬件和软件模型生态之间打造一个高度灵活、高兼容性的中间层,实现M x N的高效统一部署,最终能够让所有应用与算力之间的衔接又快又好。其“M x N”中间层产品中最核心的是Infini-ACC大模型计算优化引擎,该工具使得其很多模型、系统、硬件优化能力可被自动加入研发工作中。

五、布局AI+泛娱乐应用场景,成立北京·AI创新赋能中心技术委员会

在AI Tech Day上,由英博数科牵头的“AGI泛娱乐联盟”正式启动。

累计签约超18亿!国产AI算力黑马战略升级,晒大模型顶流朋友圈

爱奇艺AI基础服务总监董峰分享了爱奇艺的AIGC实践。爱奇艺已经规模化地将AI技术与业务进行结合,基于文生文、文生图、文生视频等方案,有两大AIGC落地方向:一是智能制作,涉及策略、制作、宣发;二是用户体验,涉及播放、搜索、推荐、广告。

AIGC赋能内容制作的整个生命周期涵盖策划、开发、制作、宣发四个部分,设计语言表达、创意发散、美术设计等能力的运用,具体应用案例有剧本小说评估、概念海报和前期设计、宣发视频制作、包括AI配音和艺人补录对白在内的奇声智能配音、衍生品设计与同人创作、基于AI视频理解和智能海报素材的用户增长宣发素材、搜索体验提升、推荐素材生成和广告素材制作提升、播放体验提升(本集看点、绿镜功能升级)等。

累计签约超18亿!国产AI算力黑马战略升级,晒大模型顶流朋友圈

周韡韡说,从AI向AGI的发展,需要跨学科的深度融合,英博数科不仅要打造一个一站式服务的生态闭环,更要通过这个生态,汇聚中国乃至全球最顶尖的技术伙伴,专注于寻找硬件侧的融合创新算力解决方案和软件侧的数据、模型、算法优化提升方案,从而对现阶段高端智算设备单一品牌路径依赖的问题实现突围。

面向这个目标,大会现场成立了北京·AI创新赋能中心技术委员会。

累计签约超18亿!国产AI算力黑马战略升级,晒大模型顶流朋友圈

北京·AI创新赋能中心由技术委员会领导,专注于寻找硬件侧和算法侧的解决方案,希望以此打破现阶段高端AI训练方面设备单一品牌路径依赖的问题。技术委员将轮值担任执行主席。

据介绍,超大型智算平台可满足目前头部AGI开发者们的研发诉求,一方面提供算力供给,另一方面通过引入由汪玉教授、CCF中国计算机学会包括国际知名院校专家学者所组建的技术委员会进行硬件侧融合创新、自主可控,算法侧通过算子库优化、模型压缩等方式解决算力紧缺问题。

大会基于北京·AI创新赋能中心合作计划、搏博云数据服务合作签约、搏博云开发者计划签约、商业代理梧桐计划、大模型与算存解决方案实验室合作计划,与一众国内人工智能产业头部企业共同成立了生态联盟。

结语:让AGI在具体实践中发挥出实际价值

英博数科与一众生态合作伙伴在这场技术盛会上对前瞻性技术与前沿应用进行了深度探讨,输出了在大模型时代需要多少算力、如何用好算力、最佳算力调度与调优方法等关键议题的独到见解,为AI产业创新发展思路提供了参考。

作为AI算力板块龙头,英博数科判断,推动场景落地、赋能产业发展,是决定AI能否在产业中发挥出更大价值的核心因素。在技术发展过程中以算力为“养分”,让应用去“生长”,不断学习和优化,才能让AGI在具体实践中发挥出实际价值。

战略升级后的英博数科,在高速增长的算力租赁收入之余,探路可能会以更快速的增长和更高的利润率逐步超越算力租赁占比的生态和服务未来带来的收入,这构建了一个新的样板。英博数科选此次推出生态蓝图、建立联盟,是其战略迭代升级关键的一步,其生态布局也将是未来能否稳固住AGI全栈服务商的重要阵地。