Cerebras Inference
超快推理芯片
发请求给开源模型,它用特制芯片算,输出速度比 GPU 快很多。
Cerebras Inference API 是 Cerebras 提供的推理接口,通过 cloud.cerebras.ai 对外开放。开发者申请 Key 后即可调用,无需自己部署。
主要能力
- 对话补全:/v1/chat/completions 兼容 OpenAI。
- 高速生成:用晶圆级芯片推理,输出速度明显高于常见 GPU 服务。
- 流式输出:支持 SSE。
- 代码生成:对代码类任务支持较好。
- 模型列表:/v1/models 查询可用模型。
特点
- 速度是核心卖点,适合长输出和高吞吐。
- 模型选择少,只覆盖主流开源权重。
- 免费档按模型限速,正式按 token。
典型使用场景:批量摘要、实时对话、代码生成、高吞吐任务。
适合:对速度和吞吐要求高的场景。
基本信息
- 认证
- 需要 API Key
- 免费额度
- 免费档(限速)
- 额度来源
- 人工核实
- 商用限制
- 以官网为准
- 状态
- 需要 Key
- 最后检测时间
- 2026-11-18
- 分类
- AI 与大模型
常见问题
- Cerebras API 免费吗?
- 有免费档,按模型限 RPM 和 TPM,额度不大,适合压测和 demo;正式用按 token。
- Cerebras 支持哪些模型?
- 只有主流开源权重,比如 llama3.1-8b、llama-3.3-70b,以 /v1/models 返回为准。