本地跑开源大模型不必依赖云端,ollama 把下载、运行与服务化压成几条命令,提供 CLI、REST API 与官方 Python / JS 库,覆盖 macOS、Windows、Linux 与 Docker。
- v0.40.14
- 发布于
- 16 小时前
- 185,796
- 星标
- 6,491,672
- 下载
- 同步于
- 6 分钟前
最新版本
v0.40.142026年11月3日 09:40下载慢?可在上方随时切换镜像源
项目说明
项目概述
ollama 把「下载一个开源大模型、跑起来、再给别人调用」变成三条命令:ollama pull 拉模型,ollama run 直接对话,服务进程自动在本机提供 REST API。模型库在 ollama.com/library,默认服务端口 11434,还能用 ollama launch 一键拉起 Claude Code、Codex 等编码工具或 OpenClaw 个人助理。
| 项目 | 内容 |
|---|---|
| 平台 | macOS、Windows、Linux、Docker |
| 默认端口 | 11434 |
| 客户端库 | ollama-python、ollama-js |
| 模型库 | ollama.com/library |
三条命令把开源大模型跑成你自己的本地服务。
核心命令
- 拉取模型:
ollama pull 模型名把模型下载到本地 - 对话运行:
ollama run gemma4直接与 Gemma 4 对话,首次运行自动拉取 - 一键集成:
ollama launch claude启动 Claude Code,ollama launch openclaw把 ollama 变成跨 WhatsApp、Telegram、Slack、Discord 的个人助理 - REST API:向
http://localhost:11434/api/chatPOST 消息即可获得补全,完整端点见 API 文档
集成方式
- macOS / Linux 执行
curl -fsSL https://ollama.com/install.sh | sh;Windows 执行irm https://ollama.com/install.ps1 | iex,或到官网下载安装包 - Python 用户执行
pip install ollama后用from ollama import chat调用;JS 用户使用 ollama-js - Docker 用户使用官方镜像
ollama/ollama - 支持的编码集成包括 Claude Code、Codex、Copilot CLI、DeepSeek Harness、Droid 与 OpenCode
适用场景
- 想在本地私有运行开源大模型的开发者
- 需要为应用加一个本地模型后端的服务端开发者
- 用 Claude Code 等编码工具但想换成本地模型的用户
环境要求
| 项目 | 要求 |
|---|---|
| 操作系统 | macOS、Windows、Linux,或 Docker |
| 硬件 | 显存或内存需容纳所选模型 |
| 网络 | 拉取模型需访问 ollama.com |
注意事项
- 模型自选:ollama 不附赠任何模型,首次
ollama run会按需自动拉取对应模型 - 端口占用:服务固定监听 11434,被占用时启动会报错
- API 为本地服务:REST API 默认只在本机监听,暴露到外网需自行处理鉴权与访问控制
历史版本
排序