Ollama
本机跑开源模型,OpenAI 兼容
在自己电脑上装好,断网也能跟大模型对话,数据不出本机。
Ollama 是本地运行开源大模型的工具。安装后通过 localhost:11434 提供 HTTP 接口,无需申请 Key,也无需联网。
主要能力
- 本地对话:/api/chat 与 /api/generate 提供对话和补全。
- OpenAI 兼容:/v1/chat/completions 可直接接现成 SDK。
- 模型管理:/api/tags 列出本地模型,命令行可拉取和删除。
- 嵌入:/api/embeddings 提供本地向量计算。
- 硬件自适应:显存不足时自动把部分层放到 CPU。
特点
- 数据不出机器,适合隐私和离线场景。
- 默认无鉴权,不要暴露到公网。
- 模型是量化 GGUF,速度取决于本机硬件。
典型使用场景:本地开发、离线环境、隐私数据处理、模型试验。
适合:本地开发、离线环境或数据不能外发。
基本信息
- 认证
- 无需认证
- 免费额度
- 完全免费(本地)
- 额度来源
- 人工核实
- 商用限制
- 以官网为准
- 状态
- 可用
- 最后检测时间
- 2026-11-18
- 分类
- AI 与大模型
常见问题
- Ollama 需要 API Key 吗?
- 不需要,本地服务默认无鉴权;也正因为如此,别把 11434 端口暴露到公网。
- Ollama 有 OpenAI 兼容接口吗?
- 有,路径 /v1/chat/completions,base_url 用 http://localhost:11434/v1,现成 SDK 直接能接。