智东西(公众号:zhidxcom)
编译 | 徐豫
编辑 | 漠影
智东西9月13日消息,据The Verge昨日报道,多家AI手机开发商扩大了设备的运行内存(RAM),以支持端侧AI功能的正常使用。
iPhone 16系列已于9月10日正式发布,内嵌的苹果AI原生系统Apple Intelligence成为其最大卖点。发布会上,苹果公司声称Apple Intelligence能够在手机端支持一系列AI功能,包括改写电子邮件、生成自定义表情符号、调用升级版的Siri语音助手等。
但AI给iPhone带来的改变不止于此。目前,这些AI功能在手机端流畅地运行,其背后已经越来越依赖充足的手机运行内存了。
一、3.8亿参数量的小模型,却占了近1/4的手机运行内存
设想你手上拿着一台搭载了AI功能的手机,正忙着回复客户消息。此时,你收到老板发来的一封数百字的加急电子邮件,却一时半会儿腾不出手来处理。
于是,你想起了手机里的AI助手,打算让它帮你快速提炼总结一段邮件摘要,以便节省一些工作量。
然而,由于手机运行内存不够,AI模型加载不出来,甚至崩溃。亦或者AI模型被内嵌在硬盘当中,而非运行内存,使用时只能从头开始加载,你越等越烦躁和恼怒。
这解释了为什么AI手机需要充足的运行内存。运行内存可以随时读写,其响应速度比硬盘等用于长期存储的介质快得多。因此,若想实现手机用户快速调用AI功能的效果,最高效的方法是让AI模型一直在运行内存中加载,即“时刻准备着”。
问题是,对于过往的手机设备来说,即便只是一个小语言模型,也是难以负担的。
以微软的AI模型Phi-3-mini为例,该模型的参数量仅有3.8亿,但也要占用1.8GB的运行内存,挤占了手机内其他软件原本的运行空间。
二、iPhone 16全系运行内存增加了2GB,支持苹果首个AI系统
尽管苹果公司从未在发布会上提及过手机RAM容量的变化,但据苹果爆料网站MacRumors的消息,最新款的iPhone 16全系配备了8GB的运行内存,而去年的iPhone 15和iPhone 15 Plus机型运行内存只有6GB。
虽然最新款iPhone机型的运行内存增加得并不多,只扩大了2GB,但对于苹果公司而言是十分罕见的改变,同时iPhone用户也将收获不一样的使用体验。
▲苹果iPhone 16系列AI手机(图源:The Verge)
今年6月,苹果机器学习与AI战略高级副总裁John Giannandrea曾接受了苹果爆料网站Daring Fireball的采访。当时他透露iPhone 15系列机型的带宽和芯片性能不够,带不动AI功能。
苹果软件工程高级副总裁Craig Federighi也参与了上述访谈,他提到运行内存是影响其整体性能的原因之一。
苹果方面尚未明确Apple Intelligence需要多少运行内存,不过目前来看,每一款支持该AI系统的设备,至少配备了8GB的运行内存。其中,包括早在2020年就推出的MacBook Air,搭载的是苹果自研的M1芯片,以及去年发布的iPhone 15 Pro。
然而,只有6GB运行内存的标准版iPhone 15,则不支持Apple Intelligence。
三、谷歌Pixel 9全系运行内存增加了4GB,还为AI划定了专用空间
不仅仅是苹果,谷歌也扩大了其Pixel 9系列AI手机的运行内存容量。
谷歌去年推出的标准版机型Pixel 8就是一个典型的例子。由于“硬件限制”,谷歌起初并未开放Pixel 8的本地AI功能。
今年3月,谷歌设备与服务软件副总裁Seang Chau曾解释道,Pixel 8的运行内存只有8GB,而Pixel 8 Pro版的运行内存为12GB,富余了4GB,从而能够更好地处理谷歌较小的AI模型Gemini Nano。
Seang Chau当时提到谷歌之所以不打算在Pixel 8上启用AI功能,是因为Gemini Nano在手机端“跑通”依赖的是运行内存。如果Pixel 8默认使用该AI模型,会占用过多的运行内存。
即使谷歌最终允许了Gemini Nano在Pixel 8上运行,但也只提供了开发者模式。
大概是考虑到前车之鉴,谷歌决定为Pixel 9系列的所有机型增加运行内存。
▲谷歌Pixel 9系列AI手机(图源:The Verge)
上个月召开的Made by Google大会上,谷歌发布了包括Pixel 9、Pixel 9 Pro、Pixel 9 Pro XL和Pixel 9 Pro Fold在内的4款AI手机,所有机型的运行内存配置12GB起步。
与上一代Pixel 8 Pro版相比,Pixel 9 Pro版除了运行内存上限从12GB增加至16GB,还为AI功能预留了3GB的专用运行内存,即非AI软件的实际运行内存为13GB。
据谷歌产品经理Stephanie Scott透露,该公司不希望为了引入体量更大的模型,而舍弃手机其他功能的丝滑体验,最终选择扩大总运行内存来提供更好的AI服务。
那么,这些额外的运行内存是AI专用的吗,用户又是否能感受到性能上的全面提升?
谷歌方面声称,这很大程度上取决于AI模型的运作方式,以及它们的规模大小。以Pixel 9系列为例,用户在享受手机整体性能增强的同时,也能获得更好的AI体验。
Stephanie Scott补充说,Pixel 9系列未来将兼容更先进的AI模型。不过,如果下一代AI模型的规模越来越大,可能会占用手机内更多运行内存。
四、微软AI PC全系运行内存16GB起步,说是刚好够用
手机运行内存不断扩大的趋势,已蔓延至PC领域。
今年早些时候,微软规定只有配备至少16GB运行内存的设备,才是Copilot+PC。换句话说,运行内存16GB以上的PC,才能在Windows本地“跑通”AI功能。
▲微软Surface Pro 11的运行内存16GB起步,这是其AI+PC的最低要求(图源:The Verge)
有市场传闻称,苹果公司也计划在其下一代PC产品中提高运行内存的配置,可能会改变其多年以来提供8GB运行内存的惯例。
如果PC开发商希望在本地设备上运行更大的AI模型,那么提高运行内存的配置则是关键的一步。
Julien Chaumond是美国开源AI独角兽Hugging Face的首席技术官。他认为,大多数PC操作系统将至少内嵌一个大语言模型,而6至8GB的运行内存会是一个“甜点区”,使原系统功能和AI模型可以同步流畅运行。
除此之外,设备运行内存充足的前提下,PC操作系统还可以在此基础上,增加或减少“一个小模型”,以提供某些特定AI功能。例如,定制AI图像的风格,或是引入一些专业领域的语言模型。
结语:运行内存扩容速度,需追赶AI模型增长的步伐
当前,AI已成为智能手机的必备功能。与此同时,它也是一项非常消耗和依赖运行内存的技术。无论手机开发商们是否公开承认过这件事,但他们最后还是选择通过增加设备的运行内存,来保证用户可以正常使用AI功能。换句话说,AI成为了手机开发商们相继升级运行内存的幕后推手。
The Verge称,我们不知道Apple Intelligence能帮上多少忙,以及小幅度扩容后的运行内存,是否能满足iPhone的所有AI功能。不过,有一点是可以肯定的,那便是随着AI被广泛应用于电子消费品行业,类似的硬件升级现象也会越来越多。
来源:The Verge