ollama

本地跑开源大模型不必依赖云端，ollama 把下载、运行与服务化压成几条命令，提供 CLI、REST API 与官方 Python / JS 库，覆盖 macOS、Windows、Linux 与 Docker。