智东西（公众号：zhidxcom）
编译 | 龚玉文
编辑 | 程茜

智东西3月5日消息，昨天，美国AI软件创企Baseten宣布获得4000万美元B轮投资，据一位直接知情人士透露，Baseten估值超过2亿美元。

本轮融资由全球知名风险投资公司IVP和Spark Capital领投，美国老牌风投公司Greylock、新成立的风投公司Conviction Partners和天使投资人Lachy Groom等现有支持者也参与了投资。

在看到聊天机器人ChatGPT等工具的爆发后，Baseten将其业务重心放到AI推理，使得收入在去年急速增长超过数百万美元，并且吸引了多家大公司和数万名开发者。

目前，推理在人工智能市场中逐渐占据主导地位，众多公司对于大模型的关注重点已经从花费数十亿美元来训练人工智能模型，向人工智能的实际应用转移。英伟达首席执行官黄仁勋也指出，推理占其去年计算收入的40%。

博客中提到，这家创企将继续专注于推理业务，帮助客户将训练好的人工智能模型部署到应用程序中。

▲Baseten联合创始人阿米尔·哈格哈特（Amir Haghighat）、图欣·斯里瓦斯塔瓦（Tuhin Srivastava）、菲利普·豪斯（Philip Howes） 和潘卡杰·古普塔（Pankaj Gupta）。（从左至右）

一、 AI推理市场爆发，2023成Baseten关键转折点

Baseten成立于2019年，总部位于美国旧金山，最初创立专注于研究机器学习。成立后的三年间，Baseten推出的业务软件让企业在构建人工智能驱动的应用程序时变得更加容易。Baseten首席执行官图欣·斯里瓦斯塔瓦（Tuhin Srivastava）与阿米尔·哈格哈特（Amir Haghighat）、菲利普·豪斯（Philip Howes）和潘卡杰·古普塔（Pankaj Gupta）共同创办了这家公司，但起初他们并没有获得多少助力。斯里瓦斯塔瓦告诉《福布斯》，他们的努力换来的收入 “基本上为零”。

在大模型快速发展，消费者大规模采用聊天机器人ChatGPT和文生图Midjourney等产品的背景下，Baseten开始探索机器学习工作负载的最具性能、可扩展性和可靠性的方式。

“在过去的12个月里，我们正处于开源模型变得非常出色的浪潮中。”斯里瓦斯塔瓦在接受采访时这样说。2023年是Baseten抓住机遇的关键节点。斯里瓦斯塔瓦说：“2023年让我们意识到，推理实际上是这里最大的市场，所以我们基本上砍掉了一切，重新专注于推理。”

具体来说，他指的是去年围绕OpenAI的ChatGPT所产生的巨大反响。“ChatGPT之所以如此出色，是因为它不会让人感觉笨拙。原来，这是因为OpenAl内部有十几、几十个人研究推理”，这使得ChatGPT的响应速度更快，并消除了可能出现的故障停机的风险。

Baseten可帮助客户将已经训练好的开源或定制人工智能模型，发布到供公众使用的应用程序中。客户可以将模型部署到Baseten的云上，不需要构建所需的AI基础设施。

Baseten的软件会根据人工智能模型在特定时间的流量，自动调整公司支付的计算资源数量。如果客户需要，它还可以帮助获取稀缺的GPU。在全流程安全方式（SOC、HIPAA）的保障下，Baseten的自动缩放和冷启动功能可有效控制成本，原生工作流可为生产中的大模型提供服务，因此用户无需考虑版本管理、推出和可观察性等问题。

该公司为众多企业以及开发人员提供核心机器学习工作负载的技术支持，如Descript、Picnic Health、Writer、Patreon、Loop和Robust Intelligence等企业。2023年，Baseten将推理负载扩大了数百倍，“没有一分钟停机时间”，斯里瓦斯塔瓦提到。未来，该公司将进一步推出多项新功能，如多云支持、与TensorRT等同类最佳运行时的集成应用。

二、Baseten去年收入超数百万美元，新融资用来招募销售团队

Baseten从ChatGPT背后大模型的快速发展中观察到了市场的发展趋势，专注于推理市场，业务增长迅速，其收入一举跃升至百万美元。风险投资公司IVP合伙人索梅什·达什（Somesh Dash）和什拉万·纳拉延（Shravan Narayen）告诉《福布斯》，在看到该公司在没有销售和营销团队的情况下取得如此快速的增长后，他们急迫地想要进行投资。

斯里瓦斯塔瓦说，部分融资金额将被用于建立销售和营销团队。他预计到今年年底，Baseten将把目前25人的规模扩大近一倍。部分新资金还将用于购买更多的GPU并升级优化公司的软件。

他说，目前已经有大约20家大公司和数万名开发者在为Baseten的产品付费，该产品根据使用的计算能力计费。例如会员制平台Patreon，消费者向创作者付费以获得独家视频和其他内容的访问权，该平台使用Baseten的产品来管理OpenAI的开源语音识别模型Whisper的部署，该模型可以自动生成字幕。

但是，AI推理目前的繁荣也可能在日后带来风险。Baseten的产品依赖于客户选择使用客制化开源模型，尽管管理基础设施需要额外的工作。

如果OpenAI的GPT、Anthropic的Claude或谷歌的Gemini等闭源大模型在市场上占据主导地位，那么Baseten在很大程度上将失去意义。但斯利瓦斯塔瓦认为，未来开发人员将同时使用开源和闭源两种模式。他说，尽管封闭源代码服务可能拥有更好的性能，但成本、速度和数据隐私等因素可能将吸引初创企业选择开源服务。

另一个风险来自于人工智能基础设施提供商之间日趋白热化的竞争。美国知名风险投资公司火花资本（Spark Capital）的普通合伙人威尔·里德（Will Reed）在此次融资中加入了董事会，他告诉《福布斯》，根据他的观察，Baseten正在赢得 “难以置信的不成比例份额 ”的客户，尽管它并不是最便宜的选择。

在Baseten的竞争对手中，包括里德支持的一家为视频和播客编辑应用提供了所有机器学习功能的初创公司Descript。斯里瓦斯塔瓦打赌，客户会选择Baseten而不是竞争对手Descript，因为前者的性能很好——其2023年所支持的人工智能应用没有出现停机。

三、 AI推理创企频繁吸金，巨头玩家或将入局

正如前文所提到的，推理占其去年计算收入的40%。英伟达首席执行官黄仁勋最近在接受《连线》采访时称，如果有如此多的计算能力专门用于推理，表明 “人工智能终于成功了”。

市场中的投资者越来越多地支持专注于AI推理的公司：服务于云上代码运行的Modal Labs获得了Redpoint和Amplify Partners的融资；为开发者建立AI生产平台的Fireworks AI获得了Benchmark和Sequoia的支持；Replicate去年从包括 Andreessen Horowitz在内的投资者那里融资4000万美元，该企业致力于服务用户进行简易化运行及个性化配置开源AI模型。

同时，聚焦生成式AI平台搭建的Together AI和专注于分布式机器学习的Anyscale等独角兽初创公司也在进入这一领域。斯里瓦斯塔瓦预计亚马逊或微软可能是下一个将要进入该领域的企业，“实际上，你也必须考虑超大规模企业，因为我认为他们确实看到了这是一个竞争激烈的市场。”

结语：AI推理需求激增，创企又迎新机遇

越来越多的大模型产业玩家开始关注AI的应用和落地，更加丰富的行业应用案例出现，与此同时，AI推理的需求急速扩张。

在这一背景下，以Baseten为代表的企业，基于此前的产品与技术积累，看到了市场发展的显著趋势，赢得了市场机遇。可以看出，大模型产业的阶段性变革与发展中，仍会为创企带来发展的新机遇。

来源：Forbes