Ollama

本机跑开源模型,OpenAI 兼容

在自己电脑上装好,断网也能跟大模型对话,数据不出本机。

Ollama 是本地运行开源大模型的工具。安装后通过 localhost:11434 提供 HTTP 接口,无需申请 Key,也无需联网。

主要能力

  • 本地对话:/api/chat 与 /api/generate 提供对话和补全。
  • OpenAI 兼容:/v1/chat/completions 可直接接现成 SDK。
  • 模型管理:/api/tags 列出本地模型,命令行可拉取和删除。
  • 嵌入:/api/embeddings 提供本地向量计算。
  • 硬件自适应:显存不足时自动把部分层放到 CPU。

特点

  • 数据不出机器,适合隐私和离线场景。
  • 默认无鉴权,不要暴露到公网。
  • 模型是量化 GGUF,速度取决于本机硬件。

典型使用场景:本地开发、离线环境、隐私数据处理、模型试验。

适合:本地开发、离线环境或数据不能外发。

  • 密钥
  • 免费额度
  • 文档

基本信息

认证
无需认证
免费额度
完全免费(本地)
额度来源
人工核实
商用限制
以官网为准
状态
可用
最后检测时间
2026-11-18
分类
AI 与大模型

常见问题

Ollama 需要 API Key 吗?
不需要,本地服务默认无鉴权;也正因为如此,别把 11434 端口暴露到公网。
Ollama 有 OpenAI 兼容接口吗?
有,路径 /v1/chat/completions,base_url 用 http://localhost:11434/v1,现成 SDK 直接能接。