Fireworks AI
开源模型高速推理
Fireworks 提供开源模型的推理、微调和专用部署接口。
Fireworks AI API 是 Fireworks 提供的开源模型推理服务,通过 fireworks.ai 对外开放。开发者申请 Key 后即可调用,无需自己部署 GPU。
主要能力
- 对话补全:/inference/v1/chat/completions 兼容 OpenAI。
- 函数调用与结构化输出:支持工具调用和 JSON 约束。
- 微调:/v1/fine_tuning/jobs 上传 JSONL 训练。
- 专用部署:把模型钉在专属 GPU 上,延迟稳定。
- 投机解码:提供推理加速选项。
特点
- 强项是推理优化和专用部署。
- serverless 按 token,专用部署按小时。
- 模型更新不如聚合平台快,选型前查支持的权重版本。
典型使用场景:生产级开源模型服务、微调后部署、高并发推理。
适合:要把开源模型跑成生产服务。
基本信息
- 认证
- 需要 API Key
- 免费额度
- 新户赠额,之后按量
- 额度来源
- 人工核实
- 商用限制
- 以官网为准
- 状态
- 需要 Key
- 最后检测时间
- 2026-11-18
- 分类
- AI 与大模型
常见问题
- Fireworks 和 Together 有什么区别?
- 都托管开源模型;Fireworks 强在推理优化和专用部署,Together 模型线更全、微调流程更简单。
- Fireworks 能微调吗?
- 能,走 /v1/fine_tuning/jobs,上传 JSONL 训练,产出可直接部署。