据 TechCrunch 报道,Fireworks AI 联合创始人 Chenyu Zhao 提出,企业可以把复杂规划留给前沿模型,用开放权重模型处理规则清楚、结果容易验收的任务。他所在的公司曾把 Notion 当作提速样板,称微调后延迟从约 2 秒降至 350 毫秒。Notion 后来披露部分 AI 聊天记录暴露,并断开了与 Fireworks AI 的连接。
提速和断开连接并不矛盾。前者说明一项功能有优化空间,后者暴露出另一笔采购账。企业既要算同等质量下交付一个合格结果要花多少钱,也要弄清交给托管商的数据,自己还能不能管、删和带走。
Fireworks AI 主张按任务换模型,不按榜单换
Zhao 估计开放模型落后前沿模型最多六个月,更可能接近三个月,但没有给出任务、模型版本或评分标准。他把用户达到 1 万或 10 万、月度 token 支出达到 1 万至 10 万美元列为考虑换模型的时点。这可以作为复核账单的提醒,不能当成迁移门槛。产品还在试需求、调用量也不大时,直接用前沿模型 API 省下的评测和运维工时,可能比模型差价更值钱。
Fireworks AI 公告显示,公司于 2026 年 7 月 15 日宣布完成 15.05 亿美元 D 轮融资,投后估值 175 亿美元,由 Atreides Management、Index Ventures 和 TCV 领投。这笔融资说明投资者愿意为推理托管下注,不能证明客户已经省钱。TechCrunch 将采访置于赫尔辛基 Slush 大会,并与其所称的 Anthropic 同日创纪录 IPO 并置;大会时间线、IPO 日期及纪录口径仍待独立核实。
模型单价降了,合格结果未必更便宜
采购对照应固定同一批真实任务、质量门槛和尾部延迟目标,再比较全用前沿模型 API、全用托管开放权重模型和混合路由。把模型调用、失败重试、升级调用、人工复核、评测和运维都计入总支出,再除以达标交付的任务数。失败请求花掉的钱照算,没达标的结果不进分母。这样算出的每个合格任务成本,才看得出低价调用会不会被返工吃掉。
<svg viewBox='0 0 760 220' width='100%' height='220' role='img' aria-label='在相同任务和验收要求下对照三种方案,计算每个合格任务的总成本'>
<rect x='1' y='1' width='758' height='218' rx='8' fill='#fbf9f4' stroke='#e2dccf'/>
<text x='32' y='42' fill='#b25a3a' font-size='20' font-weight='700'>合格任务成本</text>
<line x1='32' y1='58' x2='728' y2='58' stroke='#e2dccf'/>
<rect x='32' y='87' width='208' height='102' rx='6' fill='#f5f1e9'/>
<rect x='276' y='87' width='208' height='102' rx='6' fill='#f5f1e9'/>
<rect x='520' y='87' width='208' height='102' rx='6' fill='#f5f1e9'/>
<line x1='247' y1='138' x2='262' y2='138' stroke='#7a7266'/>
<polygon points='262,134 269,138 262,142' fill='#7a7266'/>
<line x1='491' y1='138' x2='506' y2='138' stroke='#7a7266'/>
<polygon points='506,134 513,138 506,142' fill='#7a7266'/>
<text x='136' y='127' text-anchor='middle' fill='#2c2822' font-size='16' font-weight='700'>固定验收条件</text>
<text x='136' y='157' text-anchor='middle' fill='#7a7266' font-size='13'>同任务同质量同延迟</text>
<text x='380' y='127' text-anchor='middle' fill='#2c2822' font-size='16' font-weight='700'>对照三种方案</text>
<text x='380' y='157' text-anchor='middle' fill='#7a7266' font-size='13'>前沿/开放/混合</text>
<text x='624' y='127' text-anchor='middle' fill='#2c2822' font-size='16' font-weight='700'>总支出÷达标数</text>
<text x='624' y='157' text-anchor='middle' fill='#7a7266' font-size='13'>重试复核运维入账</text>
</svg>
Fireworks AI 宣称其推理服务栈最高可实现 4 倍吞吐量,并引用 Notion 的延迟案例。一个是厂商披露的最高值,一个是单客案例,都不是与 Claude 或 OpenAI 模型在同等质量下的独立对照。现有材料也无法拆出,提速有多少来自模型和微调,有多少来自服务栈和硬件。
产品团队可以拿重复度高、结果容易验收的任务试迁,用真实流量看达标率、尾部延迟和兜底成本。复杂规划可以继续交给前沿模型。若开放权重模型频繁答错,而路由又识别不出哪些请求该升级,混合方案就可能既付两笔调用费,又把错误留给用户。现有材料不足以判断企业有多少任务适合迁移。
Notion 的提速案例,过不了数据治理这一关
开放权重意味着企业能取得模型权重,训练数据、训练代码和使用许可却未必同样开放。企业可以在自控环境部署,也可以交给第三方托管。权重可下载,不代表托管商接触不到提示词或微调数据。
Fireworks AI 当年秋季披露了两起安全事件。Zhao 称,没有迹象表明在线推理流量的零留存承诺受到影响,但 Notion 使用的批量预测需要上传并存储数据集,不在这项承诺内。Notion 披露,暴露的是 Insights 功能的部分 AI 聊天记录,涉及不到 1% 的工作区。Fireworks AI 返回的数据没有把记录关联到工作区或用户身份,但聊天正文仍可能含有身份线索。Notion 称其于 11 月 3 日断开连接并删除数据,11 月 8 日收到受影响数据集的确认。
<svg viewBox='0 0 760 220' width='100%' height='220' role='img' aria-label='在线推理零留存承诺不覆盖需要存储上传数据集的批量预测'>
<rect x='1' y='1' width='758' height='218' rx='8' fill='#fbf9f4' stroke='#e2dccf'/>
<text x='32' y='42' fill='#b25a3a' font-size='20' font-weight='700'>零留存的适用边界</text>
<line x1='32' y1='58' x2='728' y2='58' stroke='#e2dccf'/>
<rect x='32' y='87' width='336' height='102' rx='6' fill='#f5f1e9'/>
<rect x='392' y='87' width='336' height='102' rx='6' fill='#f5f1e9'/>
<text x='56' y='127' fill='#2c2822' font-size='17' font-weight='700'>在线推理</text>
<text x='56' y='158' fill='#7a7266' font-size='14'>适用零留存承诺</text>
<text x='416' y='127' fill='#2c2822' font-size='17' font-weight='700'>批量预测</text>
<text x='416' y='158' fill='#c0392b' font-size='14'>需存储上传数据集</text>
</svg>
Uber 也称正通知近 15 万名受影响人员。相关申报文件记载 149,346 人,暴露信息包括姓名和驾照信息。将涉事供应商识别为 Fireworks AI 的是 TechCrunch,并非 Uber 在这一表述中点名。
采购团队可以把数据核查放进同一轮试迁。逐项问清提示词、聊天记录和微调数据由谁接触、保存多久、分包商有什么权限,以及供应商能否证明数据已经删除。合同还要写明退出时能否带走微调产物和评测集。只要实际数据流和合同还对不上,试跑就应停在不含敏感数据的任务,不能凭延迟达标放行。
