智东西(公众号:zhidxcom)
作者 | 程茜
编辑 | 漠影
智东西12月27日报道,昨日,在2023联想天禧AI生态大会上,联想发布天禧AI生态“四端一体”战略,并首次亮相了个人智能体“小乐同学”。
其中,“四端”指的是,AI PC、AI平板、AI手机和AIoT四类终端设备;“一体”一方面指承接用户个人助理任务的个人智能体,也就是“小乐同学”,另一方面意味着个人智能体将四类AI终端融为一体。
随着端云混合大模型、个人智能体、AI应用开放生态等的嵌入,以及上下游厂商的携手发力,AI终端及生态必将掀起新一轮的变革浪潮。
围绕着“AI终端及个人智能体的思考与实践”这一主题,在大会的圆桌论坛环节,智一科技联合创始人、总编辑张国仁与英特尔中国研究院院长、英特尔研究院副总裁宋继强,百度副总裁陈一凡,联想集团副总裁、中国区战略及业务拓展副总裁阿不力克木·阿不力米提(以下简称阿木),爱设计&AIPPT创始人、CEO赵充,MiniMax副总裁魏伟,联想中国区消费互联网服务事业部总经理陈学桂,共同探讨了芯片玩家、云服务玩家、大模型玩家、AI应用玩家将如何通过AI终端及个人智能体协同为用户打造便捷、高效、易用的AI体验。
一、英特尔宋继强:PC、AIoT、云是最优部署方式
张国仁首先抛出了一个问题,如今业界对终端跑大模型、本地AI部署的关注度上升,英特尔如何解决性能和算力的要求?
对于芯片厂商而言,宋继强谈道,这是一个十分现实的问题。
▲英特尔中国研究院院长、英特尔研究院副总裁宋继强
大模型基于云端访问带给人们的体验已经十分丰富,但他认为,想要让大模型的能力发挥更为广泛,就需要更靠近用户来部署,“现在最优的部署方式就是,PC、AIoT加云”。
他谈道,个人智能体要和用户实现密切交互十分复杂,既要做到低延迟、保护隐私,还要真正释放出大模型在终端设备上的能力。
宋继强举了一个例子,智能体的框架中需要基于终端的外设与用户通过自然语言、视觉等方式实现交互,当设备进入休眠状态,也能够有计算能力支持其不断听、观察。该设备还能通过调用本地个性化的知识图谱进行数据处理,同时完成隐私管控、安全方面的检查。
“这样的多任务进程,就需要大量的高通量计算,未来对于这样本地算力的支持将基于多架构共同完成,包括系统级芯片、系统架构等,还要满足不同功耗运行的需求。”他解释道。
12月15日,英特尔发布了作为AI PC基石的酷睿Ultra处理器,采用Meteor Lake架构,宋继强称,这就是典型的NPU+GPU+CPU架构。
其中,CPU中包含性能核、能效核等,可以根据工作负载需要调度,并基于软硬件组合提供相应性能;GPU就可以负责完成本地大模型的推理、调优;NPU主要负责完成高性能、低功耗的大模型推理,并在系统休眠时期提供智能化管理的平台能力。
最后,宋继强总结道,这样的演进是未来的必由之路,通过硬件创新以及软件工具将大模型在终端调度起来,然后通过生态合作继续推动未来大模型在终端的部署,呈现出大模型这一使用模式的更多价值。
二、百度陈一凡:大模型端云结合让用户体验达到最好
百度作为国内云厂商同时也是国产大模型的典型代表,张国仁问道,百度认为用户本地终端具备部署AI的能力后,端云混合可以带来哪些不一样的AI使用体验?
在陈一凡看来,大众的认知在发生变化,大模型刚出现之时,大家普遍认为其能解决非常多的问题,但现在大模型相结合这种混合专家模型(MoE)的方式被看作比较好的方案。
当对用户进行需求分析时,陈一凡举例说道,用户在问乘法、“今天星期几”等简单问题时,往往需要快速得到答案;用户询问帮我订机票等问题时,大模型需要根据其个人习惯给出答案。他认为,个人数据上传到云端,云端反馈不仅时延长,也有一定安全的风险。
▲百度副总裁陈一凡
因此,这种情况下MoE的方式就更合适。这一解决方案既能在终端回答问题简单的问题,还能结合用户反馈在云端进行训练,包括对Prompt的调整、微调等。
陈一凡认为,对于联想的用户而言,大模型实现从终端到云端的结合后,其获得的体验最好。用户能通过终端大模型得到快速反馈,在解数学题、生成摘要等复杂场景中也能基于云端能力获得更高质量的答案。
在用户个人隐私方面,百度与联想的合作采用了向量数据库等方案,能实现对用户个人数据的脱敏,保证用户获得更好的个人服务,同时发挥出云端大模型的能力。
他还提到,这一过程里百度和联想的合作非常顺理成章。他说:“过去十年有一个思维习惯就是Mobile First——所有事先考虑移动生态。”但他认为,很多生产力其实在PC上,例如预定回忆、处理文档、智能助手等功能。
因此AI时代很多功能回到了PC上,百度将与PC大厂联想在PC端、移动端启动终端和云端合作,并最终服务好其共同用户。
三、联想阿木:大模型成OS,打造AI终端生态
本月中旬,联想发布两款AI PC产品,张国仁问道,在此背景下,联想未来打算如何携手合作伙伴将这种智能体验辐射到更多场景中?
阿木谈道,大模型和设备相结合,并让用户肉眼看到强大的表现,就是始于PC。
大模型呈现出了强大的创作能力,这一能力的重要载体一直以来都是PC,智能手机主要解决的是消费和社交。因此,他认为,从AI PC开始,AI手机、AI平板、AI投影仪、AI机器人,甚至是家庭边缘侧的主机,都会有新形态来承载大模型的运算、快速推理及本地数据保护,并且这些设备将变得越来越懂用户,并在端侧完成微调。
这背后有一个重要的概念,阿木认为,这是15年来OS(操作系统)的一大升级,现在OS就是大模型,形成了智能体前端、大模型支持、知识库调用、AI原生应用相连接的服务形态,并且在这个时代已经落地。
▲联想集团副总裁、中国区战略及业务拓展副总裁阿不力克木·阿不力米提
对于应用开发者而言,他提到,要么做AI原生应用,要么将原有应用升级为能够通过原生自然交互方式调用的应用,并且这一产品还需要获得用户认可并愿意持续使用,“这件事情就是越快越好”。
一方面,这样的产品形态未来将与AI PC、AI手机、AI平板等各种终端设备直接一体全部适配;另一方面,阿木谈道,算力的支撑也会让AI技术更快推广到类型丰富的终端上。不过从目前来看,PC因其在配置、续航、交互方面已经打磨了几十年之前,所以现阶段其能力也更强。
他也坚信,在不同玩家的共同参与下,英特尔等厂商会引领终端AI第一算力的身份,拉动整个AI的下一代OS创新,其余设备在这样的趋势下很快补齐算力的不足,迎头赶上,这样就会逐渐形成真正意义的终端生态。
四、爱设计&AI PPT赵充:做应用要从高频使用场景切入
作为国内AI首批开发者,爱设计&AIPPT对于AI应用开发的方向有什么思考?张国仁问道。
作为AI应用首批创业开发者,思考AI应用开发的方向选择,
一开始,承接着阿木的观点,赵充谈道,他们与联想达成了高度共识——这是AI PC时代,整个OS被AI重新改造。他同样认为,所有的应用都应该基于AI重做一遍或者增加AI功能,这对于开发者而言是一个重要变量,因为其为用户带来的体验将会存在代际差异,因此开发者必须拥抱AI。
▲爱设计&AIPPT创始人、CEO赵充
爱设计的AI PC产品早已开始布局,该公司2017年就上线了首款GPT产品,并陆续开发了十几款不同的编辑器,内置了几十万份素材模板。基于这样的产品体系,赵充谈道,他们抽出其中一个单品打造了AI PPT,并在今年成为小爆款应用,在联想生态下获得了用户反馈并变现。
谈及最初选择市场时,他举例说,做海报这一场景的用户频次大概在双周左右,很多公司会选择在某一节气发布海报,因此他们希望选择一大用户使用频次更高的赛道。办公场景做PPT就是这样的存在,赵充补充道,这一赛道国内有千亿市值玩家、国外有万亿市值玩家,因为市场足够大,“我们只需要抢一点点就足够了”。
未来,基于AI PPT,赵充谈道,首先他们会布局多模态大模型,引入虚拟人等,其中一大典型的应用就是为嘉宾打造数字人,并换各种方言讲解PPT。此外,他们还会与视觉中国的图库进行匹配,自动生成配图等。
其次就是协作。日常工作中,一份PPT的制作与完善往往需要很多同时参与,因此他们会将这一模式变为线上化,用户只需要发送链接就能进行同步修改。
第三是出海。他谈道,全球办公市场的规模大概为450亿美元,目前AI PPT已经上线了英文版。
在最后总结时,赵充称,他们先后推出了开放平台和API,并基于Agent已经在文心一言插件商城上线,明年1月会在联想小乐同学个人智能体中上线。这也是他们重要的增长策略,拥抱联想生态共同成长。
五、MiniMax魏伟:模型能力决定产品上限
对于有丰富AI经验的大模型厂商MiniMax,张国仁提问道,MiniMax将如何赋能其他不同产品的应用落地?
MiniMax作为国内最早做AGI(通用人工智能)的创企之一,一开始就瞄准了文本、语音、视觉三大模型,并不断布局面向B端和C端的产品。魏伟透露,近期MiniMax将发布国内首个MoE模型,该模型的数据和性能将对标GPT-4,他们会不断迭代产品来缩小其与CPT-4的差距。
▲MiniMax副总裁魏伟
在赋能场景落地方面,魏伟提到了一个观点,模型的能力决定了应用或产品的上限,产品的边界由技术驱动。
他解释道,MiniMax的文本模型迭代并不是结合理论上的测试题,而是基于实际用户的场景,语音模型在生成的自然度、拟人性、多样性方面会比传统的TSL中文语音合成模块效果更好。
MiniMax已经如让郭德纲用英文讲相声、马斯克讲中文、实时对话等在很多场景通过大模型能力实现了。
面向C端,该公司打造了娱乐类产品星野等,魏伟谈道这一产品在用户使用时长、互动上的效果表现较好。还有生产力产品海螺问问,在实时搜索、语音通话、长文本分析、拍照解析上做了更多探索。
对外开放赋能方面,MiniMax已经服务了上千家客户。
如作为生产力工具的金山办公,MiniMax通过模型微调、思维链拆分、意图理解等,帮助其完成文档、表格、PPT等的深层润色优化;还有娱乐类的阅文集团、小红书,MiniMax会帮助其提高长文理解、人机交互的效果。
魏伟谈道,MiniMax坚持的就是通过迭代自己的技术,来不断扩展应用和场景的上限。
六、联想陈学桂:让生态链伙伴抓住AI机遇
目前联想已经拥有十分丰富的上下游合作伙伴,张国仁也询问了联想将如何携手合作伙伴开放共赢。
陈学桂感慨道,当下上下游伙伴的合作让他回忆起了12年前,当时移动互联网刚开始,行业中孕育了大量的机会,也有众多类似今天的圆桌对话活动。
过去10余年间,移动互联网行业诞生了很多成功的公司、产品、开发者,他认为现在或许是一轮新的机会。
根据以往的经验,每一次的技术发展可能都会使得原先的业务形态发生变化。陈学桂一直身处行业之中,他见证了安卓、iOS操作系统的诞生。
▲联想中国区消费互联网服务事业部总经理陈学桂
他回忆道,当时智能终端的操作系统是塞班、应用形态纷繁复杂、手机屏幕采用电阻屏,当2011-2013年间,市场机会出现时大家并没有第一时间反应过来。与此同时,一些大的桌面互联网公司被逐步淘汰,一些抓住机遇的公司成长起来。
回到现在,他认为,联想作为终端平台希望将最新的机会展现出来。上一个时代设备先行,智能手机先跑起来才造就了移动互联网行业崛起。所以这一轮AI机遇期,可能智能体、端云混合的大模型架构、开放的互联互通交互会让新的公司抓住机遇成长起来。
在大模型的应用方面,如何实现商业闭环是联想与众多生态链企业需要共同探索的方向,其变现方式是基于订阅、Token的使用或者广告需要整个行业的合作伙伴共同实践。他补充说,或许这一过程还会通过互相组合产生全新的机会,使得这一行业的体量翻番。
结语:AI终端元年即将开启
大模型引爆的热潮已经持续一年之久,在端侧部署的大模型能力受关注度越来越高。AI终端和更强的个人智能体正在走向我们,并改变我们的工作和生活。最后,各位嘉宾也探讨了对于AI终端及个人智能体未来的发展期许。
宋继强将AI PC这一波创新机遇类比为多年前将Wi-Fi能力装进PC,对于企业而言,这是非常大的机会,它会改变未来整个平台架构、OS、用户交互界面。
陈一凡认为AI的全栈技术和边缘云的部署方式将成为AI原生应用的重要成功因素。
阿木谈道,今年2024年不仅是AI PC的元年,更是AI终端的元年。个人智能体成为终端和用户、大模型与实际体验的一座桥梁,这将重构未来应用体验与产品之间的关系。
做AI应用的赵充称,他希望2024年AI PPT能成为打工人“神器”,将这些工具送到所有打工人面前。
从大模型的角度来看,魏伟对AGI充满希望,临界点会很快到来。
陈学桂谈道,联想致力于将智能体打造为下一代设备和用户的新交互入口,让更多企业参与到这一大变革浪潮中。
可以预见,在不远的将来,AI不仅会改变PC的发展进程,同样会促使各类终端设备发生改变。