欢迎来智东西
登录
免费注册
我的订阅
关注我们
智东西
车东西
芯东西
智猩猩
燧原科技与清程极智签署战略合作协议
2024-07-05
智东西
17
智东西7月5日消息,燧原科技今日宣布与人工智能系统软件商清程极智签署战略合作协议,联合开发面向超万亿参数大模型和超大规模集群的高性能系统软件方案。双方致力于共同打造超大规模智算集群的训练方案,针对大模型实际应用场景进行软硬协同的开发与优化,在满足基础大模型的预训练、行业大模型的微调和大模型推理部署等不同的应用场景和多元的算力需求,提供更高性能、更高效率、更高性价比的算力方案。
此前双方已经在技术领域开展了重要合作。基于燧原的新一代人工智能推理加速卡“燧原S60”和清程极智的高性能推理框架“FastDecode”,共同研发了千亿参数规模大模型的高性能推理平台。该平台在不同场景下可实现1到10倍不等的吞吐量提升,实测的并发量是vLLM等开源框架的4倍,为进一步降低相关应用场景的算力使用成本提供了可规模落地的技术产品方案。
燧原科技

加载中...