ollama

本地跑开源大模型不必依赖云端,ollama 把下载、运行与服务化压成几条命令,提供 CLI、REST API 与官方 Python / JS 库,覆盖 macOS、Windows、Linux 与 Docker。

v0.40.14
发布于
16 小时前
185,796
星标
6,491,672
下载
同步于
6 分钟前

最新版本

v0.40.142026年11月3日 09:40
下载慢?可在上方随时切换镜像源

项目说明

项目概述

ollama 把「下载一个开源大模型、跑起来、再给别人调用」变成三条命令:ollama pull 拉模型,ollama run 直接对话,服务进程自动在本机提供 REST API。模型库在 ollama.com/library,默认服务端口 11434,还能用 ollama launch 一键拉起 Claude Code、Codex 等编码工具或 OpenClaw 个人助理。

项目 内容
平台 macOS、Windows、Linux、Docker
默认端口 11434
客户端库 ollama-python、ollama-js
模型库 ollama.com/library

三条命令把开源大模型跑成你自己的本地服务。

核心命令

  • 拉取模型:ollama pull 模型名 把模型下载到本地
  • 对话运行:ollama run gemma4 直接与 Gemma 4 对话,首次运行自动拉取
  • 一键集成:ollama launch claude 启动 Claude Code,ollama launch openclaw 把 ollama 变成跨 WhatsApp、Telegram、Slack、Discord 的个人助理
  • REST API:向 http://localhost:11434/api/chat POST 消息即可获得补全,完整端点见 API 文档

集成方式

  1. macOS / Linux 执行 curl -fsSL https://ollama.com/install.sh | sh;Windows 执行 irm https://ollama.com/install.ps1 | iex,或到官网下载安装包
  2. Python 用户执行 pip install ollama 后用 from ollama import chat 调用;JS 用户使用 ollama-js
  3. Docker 用户使用官方镜像 ollama/ollama
  4. 支持的编码集成包括 Claude Code、Codex、Copilot CLI、DeepSeek Harness、Droid 与 OpenCode

适用场景

  • 想在本地私有运行开源大模型的开发者
  • 需要为应用加一个本地模型后端的服务端开发者
  • 用 Claude Code 等编码工具但想换成本地模型的用户

环境要求

项目 要求
操作系统 macOS、Windows、Linux,或 Docker
硬件 显存或内存需容纳所选模型
网络 拉取模型需访问 ollama.com

注意事项

  • 模型自选:ollama 不附赠任何模型,首次 ollama run 会按需自动拉取对应模型
  • 端口占用:服务固定监听 11434,被占用时启动会报错
  • API 为本地服务:REST API 默认只在本机监听,暴露到外网需自行处理鉴权与访问控制

历史版本

排序