7 月 18 日,云启科技在线上发布会上正式推出大模型平台「云启天工」3.0。新版本通过自研推理引擎、W8A8 量化与投机解码等技术组合,在相同硬件上推理吞吐提升 2.4 倍,综合成本下降 60%。

「云启天工」3.0 基础模型上下文窗口扩展至 128K,并强化了长文档理解、代码生成与多模态理解能力;同期发布的行业模型在政务办事、金融研报、工业质检等评测集上平均准确率提升 18%。

「云启天工」3.0 正式发布:大模型推理综合成本下降 60%配图

为降低中小企业使用门槛,公司同步推出轻量版模型 TianGong-Lite,可在单张消费级显卡上运行,并提供每月 100 万 tokens 的免费调用额度。

发布会上还公布了平台最新数据:平台上企业自建智能体数量已突破 12 万个,日均 API 调用量超过 8 亿次。