智东西(公众号:zhidxcom)
编译 |  茄子
编辑 |  程茜

智东西7月16日消息,今日,OpenAI前CTO米拉·穆拉蒂(Mira Murati)创办的、美国AI独角兽Thinking Machines Lab发布其首个多模态MoE开放权重模型Inkling。该模型的核心优势是可改造、可部署、可控成本,开发者能对模型微调、调节推理强度,以控制其效果、延迟和成本。

穆拉蒂在社交平台X上发帖称,这是我们首个模型,Inkling。从零开始训练,权重对外开放,即日起可在Tinker平台开展微调。

9750亿参数!OpenAI前CTO的明星独角兽,发首个开放权重模型

▲Mira Murati发文宣布Inkling(图源:X)

Thinking Machines Lab联合创始人、前OpenAI研究安全副总裁翁荔发文称,Inkling作为基础底座,在广泛任务维度拥有均衡扎实的能力,并提供实际落地与定制微调。

9750亿参数!OpenAI前CTO的明星独角兽,发首个开放权重模型

▲翁荔发文介绍Inkling(图源:X)

目前,Inkling已在Thinking Machines Lab旗下Tinker平台上线,支持64K和256K两种上下文长度,并限时提供5折优惠。Thinking Machines Lab称,开发者可通过Tinker对Inkling进行调整,也可以先在Tinker控制台的测试页面Inkling Playground中体验聊天和Agent式网络搜索功能。

同时,Inkling完整权重已在Hugging Face开放,开发者可下载原始checkpoint和NVFP4 checkpoint,用于部署或调整该模型。

9750亿参数!OpenAI前CTO的明星独角兽,发首个开放权重模型

▲Inkling开放权重(图源:Hugging Face)

据官方博客介绍,Inkling基础模型借鉴了中国的DeepSeek-V3模型的MoE架构设计,并在后训练阶段使用了由月之暗面公司Kimi K2.5生成的数据进行了优化。

9750亿参数!OpenAI前CTO的明星独角兽,发首个开放权重模型

▲Inkling借鉴中国DeepSeek-V3、使用Kimi K2.5优化(图源:Thinking Machines Lab)

Inkling采用MoE Transformer架构,总参数量9750亿,激活参数量410亿,最高支持100万token上下文窗口。在预训练阶段Inkling就融合了文本、图像、音频和视频数据,仅靠单一模型就能实现视觉理解、音频问答、代码开发和工具调用。

多名用户在社交平台分享了对Inkling模型的实测反馈。部分测试者认为Inkling在文学创作场景表现尚可、具备开发潜力。但是,也有开发者指出模型当前存在明显缺陷,认为其任务稳定性不足,并且综合性能尚未达到顶尖开放权重模型水平。

从基准测试看,Inkling综合能力均衡。在大模型评测榜单Artificial Analysis中,Inkling的综合测试得分为41分,高于Nemotron 3 Ultra、Gemma 4 31B等开放权重模型,在美国开放权重模型中排名第一。在通用智能和综合任务测试中,该模型获得1238 Elo分,超过Kimi K2.6和DeepSeek v4 Flash(max)。

9750亿参数!OpenAI前CTO的明星独角兽,发首个开放权重模型

▲Inkling在Artificial Analysis中的排名(图源:Artificial Analysis)

价格方面,在64K上下文窗口下,该模型输入价格为每百万token 1.87美元(约合人民币12.65元),缓存输入0.374美元(约合人民币2.53元),输出4.68美元(约合人民币31.7元);在256K上下文窗口下,该模型输入价格为每百万token 3.74美元(约合人民币25.3元),缓存输入0.748美元(约合人民币5.06元),输出9.36美元(约合人民币63.3元)。

此外,Thinking Machines Lab同步上线了轻量版本Inkling-Small预览版。该轻量化模型激活参数量为120亿,采用与Inkling相同的训练方案,在降低模型规模的同时,保留了部分核心能力。据官方博客透露,Inkling只是开端,Thinking Machines Lab会持续迭代拓展这条产品线。

Hugging Face体验地址:

https://huggingface.co/thinkingmachines/Inkling

一、从写网页到制作游戏,Inkling展示多任务Agent能力

Inkling上线后,用户很快开始测试其文本、编码和工具调用能力。有的用户认为Inkling在文本创作表现良好,还有的开发者则对Inkling的网页生成能力进行了测试。

比如这位用户让Inkling创作200词的文本,Inkling根据同一提示词生成了3篇风格统一的短篇科幻文本。该用户认为Inkling有较好的英文文本功底。

9750亿参数!OpenAI前CTO的明星独角兽,发首个开放权重模型

▲用户对Inkling的文本创作实测(图源:X)

这位用户则对Inkling开展多维度验证,他基于Inkling搭建只能书法教练应用,并测试了该模型的编码、工具调用与视觉能力。经过测试,他认为,这款从零开始训练的多模态模型具备不错的开发潜力。

9750亿参数!OpenAI前CTO的明星独角兽,发首个开放权重模型

▲用户对Inkling的生成应用的实测(图源:X)

但是,也有一些用户对Inkling的实际表现提出质疑。AI研究者Ethan Mollick测试后称,Inkling整体表现难以接近中国头部开放权重模型。他在测试中发现,Inkling未能通过Lem诗歌测试,在GLSL编程调试中也存在输出不稳定的问题,即使开启最高推理强度,处理简单代码任务时仍会出现偏差。

9750亿参数!OpenAI前CTO的明星独角兽,发首个开放权重模型

▲用户对Inkling的实测表现不满意(图源:X)

Thinking Machines Lab也通过案例展示了该模型在复杂任务执行、多轮迭代方面的能力。

在Agent任务方面,Inkling可以结合工具调用完成端到端的软件开发。例如,在一次测试中,Inkling仅根据一句需求描述,便生成了一个完整的求职网站,并进一步驱动浏览器Agent操作网页,根据已有资料自动填写求职表单。

9750亿参数!OpenAI前CTO的明星独角兽,发首个开放权重模型

▲Inkling制作求职网站(图源:Thinking Machines Lab)

官方称,Inkling在训练过程中适配了不同类型的Agent框架,并随机化训练阶段使用的工具集合和工具调用格式,使得该模型降低对特定工具环境的依赖,从而具备更强的任务迁移能力。

除了代码开发,Inkling还展示了长流程任务处理能力。在一项测试中,Inkling根据用户反馈持续优化一款多人在线贪吃蛇游戏,经过40轮迭代后,最终生成了包含实时服务器、AI Bot和排行榜等功能的完整游戏。

9750亿参数!OpenAI前CTO的明星独角兽,发首个开放权重模型

▲Inkling对贪吃蛇的长任务处理(图源:Thinking Machines Lab)

在图像和文本方面,Inkling可以根据用户的要求生成一份设计风格统一的文档,并且具有详细的说明和准确的信息。

9750亿参数!OpenAI前CTO的明星独角兽,发首个开放权重模型

▲Inkling制作的文档(图源:Thinking Machines Lab)

二、Inkling在多项基准测试中表现均衡

第三方测试机构Artificial Analysis对Inkling进行了多项测试。在Artificial Analysis Intelligence Index测试中,Inkling首次该进入榜单便获得41分,比此前领先的美国开放权重模型Nemotron 3 Ultra 38分高出3分,同时也优于Gemma 4 31B的29分和gpt-oss-120b的24分。

9750亿参数!OpenAI前CTO的明星独角兽,发首个开放权重模型

▲Inkling在Artificial Analysis中的排名(图源:Artificial Analysis)

在衡量通用智能与综合任务表现的GDPval-AA v2测试中,Inkling获得1238 Elo分,高于Kimi K2.6的1190分以及DeepSeek v4 Flash(max)的1189分。

9750亿参数!OpenAI前CTO的明星独角兽,发首个开放权重模型

▲Inkling在GDPval-AA v2测试中的分数(图源:Artificial Analysis)

此外,Inkling还展现出较高的token效率。据Artificial Analysis测试,Inkling平均生成约2.5万个token,而GLM-5.2(max)、Kimi K2.6和DeepSeek v4 Pro(max)分别需要约4.3万、3.8万和3.7万个token。这意味着,在达到相近任务效果时,Inkling能够通过更少的推理token完成任务,从而降低实际部署成本和响应延迟。9750亿参数!OpenAI前CTO的明星独角兽,发首个开放权重模型

▲Inkling在token消耗上的排名(图源:Artificial Analysis)

Thinking Machines Lab称,Inkling并不是为了成为某一项测试中的最高分模型,而是希望打造一个覆盖推理、Agent、多模态、代码和事实准确性的综合型基础模型。他们认为,通用性对于定制化和实际应用至关重要:不同的用户需要能够适应截然不同的工作流程的模型。

9750亿参数!OpenAI前CTO的明星独角兽,发首个开放权重模型

▲Inkling综合得分(图源:Thinking Machines Lab)

从下方表格也可以看到,Inkling在多数测试表现中并未超过闭源模型,但在SWE-bench Pro Public、GDPval-AA v2、MCP Atlas、VoiceBench等测试中进入开放权重模型前列。

9750亿参数!OpenAI前CTO的明星独角兽,发首个开放权重模型

▲Inkling在推理、Agent、代码、视觉、音频、安全等多项测试中的表现(图源:Thinking Machines Lab)

在评估模型处理银行业务代理任务能力的Tau 3 Banking测试中,Inkling取得23.7%的成绩,高于Kimi K2.6的20.6%,接近DeepSeek v4 Pro的25.8%。

9750亿参数!OpenAI前CTO的明星独角兽,发首个开放权重模型

▲Inkling在Tau 3 Banking测试中的分数(图源:Thinking Machines)

在代码能力测试中,Inkling同样保持较强表现。在考察真实软件工程问题修复能力的SWE-bench Pro Public测试中,Inkling取得 54.3%的成绩;在评估模型终端操作与命令行任务完成能力的Terminal Bench 2.1测试中,使用最佳Harness时达到63.8%。

9750亿参数!OpenAI前CTO的明星独角兽,发首个开放权重模型

▲Inkling在代码能力测试上的分数(图源:Thinking Machines Lab)

在设计领域,Inkling在Design Arena的智能Web开发排行榜上接受了评估,该排行榜由不知情的评估人员对生成的Web应用进行直接比较。在榜单上,该模型排在第7名。

9750亿参数!OpenAI前CTO的明星独角兽,发首个开放权重模型

▲Inkling在设计领域分数(图源:Thinking Machines Lab)

在评估语音理解与语音交互能力的VoiceBench测试中,Inkling取得91.4%的成绩;在衡量多模态音频理解能力的MMAU测试中达到77.2%。

在考察多模态视觉理解与推理能力的MMMU Pro标准测试中,Inkling取得73.5%,能够完成图像描述、图表理解以及基于视觉信息的复杂推理任务。

9750亿参数!OpenAI前CTO的明星独角兽,发首个开放权重模型

▲Inkling在音频和图像测试上的分数(图源:Thinking Machines Lab)

Thinking Machines Lab称,Inkling并非当前综合能力最强的模型,其优势在于多模态能力、可控推理效率以及开放权重后的可定制能力。

三、9750亿参数MoE架构,多模态训练+可控推理降低使用成本

在MoE架构设计上,Inkling参考了DeepSeek-V3的部分方案。Inkling每个MoE层包含256个路由专家和2个共享专家,每个token仅激活6个路由专家参与计算。同时,Inkling采用基于Sigmoid函数计算专家选择权重的路由机制,并通过无辅助损失负载均衡策略,让不同专家被调用的频率更加均衡。

在注意力机制方面,Inkling采用滑动窗口注意力与全局注意力结合的方式。官方介绍,该模型按照5:1比例交替使用局部窗口层和全局层,同时采用8个KV Head,以提升长上下文处理效率。

不同于目前大量模型采用的旋转位置编码(RoPE),Inkling采用相对位置嵌入方式编码位置信息。Thinking Machines Lab称,相比RoPE,相对位置嵌入在长序列外推方面表现更好,更适合百万token级上下文窗口。

在训练数据方面,Inkling预训练阶段使用了4500万亿token规模的数据,覆盖文本、图像、音频和视频。与传统先训练文本模型,再外挂视觉或音频模块不同,Inkling从训练阶段便加入多模态数据,使模型能够直接处理不同类型的信息。

在音频输入方面,该模型将音频信号转换为dMel频谱,通过轻量级Embedding层后,与文本token共同输入模型。视觉输入方面,Inkling采用40×40像素Patch方式编码图片,再通过四层hMLP进行处理。

这些视觉和音频信息最终都会映射到统一隐藏空间,由同一个Transformer进行推理。因此,Inkling不仅可以进行图片理解,也能够完成语音转写、音频内容分析以及基于长音频信息的推理任务。

在后训练阶段,Thinking Machines Lab采用大规模异步强化学习(RL checkpoint)优化模型能力。官方数据显示,Inkling训练过程中累计完成超过3000万次迭代。随着强化学习规模扩大,该模型在推理测试中的表现持续提升。

9750亿参数!OpenAI前CTO的明星独角兽,发首个开放权重模型

▲Inkling的异步学习优化(图源:Thinking Machines Lab)

此外,Inkling还引入了“可控思考努力程度”(Controllable Thinking Effort)。开发者可以根据实际需求调整模型推理强度:当任务需要更高准确率时,可以让模型投入更多计算资源;当任务更关注速度和成本时,则可以降低推理token消耗。

以下是Inkling在强化学习训练初期和后期对同一数学问题展开思考的示例,可以看到,在初期阶段,Inkling的思考过程是比较冗长的,并且还会出现错误,而在后期阶段则压缩了冠词和连接词,较初期比较简洁。

9750亿参数!OpenAI前CTO的明星独角兽,发首个开放权重模型

▲Inkling强化学习后思路更加简洁(图源:Thinking Machines Lab)

Inkling目前已经接入Tinker平台,开发者可以基于该模型进行定制训练。官方展示了一个案例:让Inkling自己设计微调任务,包括生成训练任务、运行训练流程并评估训练效果。

9750亿参数!OpenAI前CTO的明星独角兽,发首个开放权重模型

▲Thinking Machines Lab对Inkling的微调(图源:Thinking Machines Lab)

结语:开放模型加速落地,开发者生态成为关键变量?

Thinking Machines Lab选择开放Inkling完整权重,通过多模态能力、可控推理以及微调能力,将其定位为企业和开发者构建AI应用的基础模型。

近年来越来越多模型也在朝这个方向走:DeepSeek-V3采用MoE架构并开放权重;阿里云Qwen系列持续推出多模态和Agent相关模型;Meta的Llama系列、Mistral系列也通过开放权重策略推动开发者生态。它们除了提升推理能力,也在长上下文、多模态、Agent任务适配和微调能力上持续提升。

对于企业和开发者而言,模型是否开放、是否具备进一步定制能力,将影响其在具体业务中的应用空间。随着越来越多厂商布局开放权重模型,未来竞争或将围绕模型能力、使用成本以及开发生态展开。

来源:Thinking Machines Lab、Artificial Analysis、X