Cerebras Inference

超快推理芯片

发请求给开源模型,它用特制芯片算,输出速度比 GPU 快很多。

Cerebras Inference API 是 Cerebras 提供的推理接口,通过 cloud.cerebras.ai 对外开放。开发者申请 Key 后即可调用,无需自己部署。

主要能力

  • 对话补全:/v1/chat/completions 兼容 OpenAI。
  • 高速生成:用晶圆级芯片推理,输出速度明显高于常见 GPU 服务。
  • 流式输出:支持 SSE。
  • 代码生成:对代码类任务支持较好。
  • 模型列表:/v1/models 查询可用模型。

特点

  • 速度是核心卖点,适合长输出和高吞吐。
  • 模型选择少,只覆盖主流开源权重。
  • 免费档按模型限速,正式按 token。

典型使用场景:批量摘要、实时对话、代码生成、高吞吐任务。

适合:对速度和吞吐要求高的场景。

  • 密钥
  • 定价
  • 文档
  • 模型

基本信息

认证
需要 API Key
免费额度
免费档(限速)
额度来源
人工核实
商用限制
以官网为准
状态
需要 Key
最后检测时间
2026-11-18
分类
AI 与大模型

常见问题

Cerebras API 免费吗?
有免费档,按模型限 RPM 和 TPM,额度不大,适合压测和 demo;正式用按 token。
Cerebras 支持哪些模型?
只有主流开源权重,比如 llama3.1-8b、llama-3.3-70b,以 /v1/models 返回为准。