GitHub Store
weave-os

router

weave-os

一个为代理系统设计的模型路由器，能在50ms内将每个提示词路由到最合适的模型，通过简单更换端点即可降低40-70%的成本，支持Anthropic、OpenAI、Gemini及开源模型。

hmm-model-v1
发布于
2026年7月13日
5,563
星标
3,847
下载
同步于
15 天前

最新版本

hmm-model-v12026年7月13日 08:44测试版
下载慢？可在上方随时切换镜像源

项目说明

项目概述

WorkWeave Router 是一个为代理系统设计的模型路由器，能在50ms内将每个提示词路由到最合适的模型。它作为一个即插即用的代理，支持 Anthropic Messages、OpenAI Chat Completions 和 Gemini 原生 API，通过一个小型本地嵌入器为每个请求选择最佳模型。

主要功能

  • 快速路由：每个请求在50ms内完成路由
  • 多API支持：支持 Anthropic Messages、OpenAI Chat Completions 和 Gemini 原生 API
  • 开源模型支持：通过 OpenRouter 支持 DeepSeek、Kimi、GLM、Qwen、Llama、Mistral 等
  • 自带密钥：提供商密钥保留在本地，静态加密
  • 可观测性：开箱即用的 OTLP 追踪，支持 Weave 仪表盘、Honeycomb、Datadog、Grafana 等
  • 流式、工具调用和视觉支持：完整支持主流功能

适用人群

  • 使用 Claude Code、Codex、Cursor 等 AI 编码代理的开发者
  • 希望优化多模型调用成本的团队
  • 需要统一 API 接入多种 LLM 的工程团队

快速上手

  1. 最快方式：通过 npx 一键安装，为 Claude Code、Codex、opencode 或 pi 配置路由器
    npx @workweave/router
    安装程序会询问使用哪个工具、配置范围，并自动生成配置文件
  2. 指定工具安装：
    • Claude Code：npx @workweave/router --claude
    • Codex CLI：npx @workweave/router --codex
    • opencode：npx @workweave/router --opencode
  3. 自托管完整服务：
    echo "OPENROUTER_API_KEY=sk-or-v1-..." >> .env.local
make full-setup
    路由器在 http://localhost:8080 运行，仪表盘在 http://localhost:8080/ui/dashboard
  4. 需要 Node ≥ 18

核心优势

  • 降低 40-70% 的 LLM 调用成本
  • 每个请求在 50ms 内完成路由，延迟极低
  • 统一的 API 接入，支持主流模型提供商和开源模型
  • 开箱即用的可观测性，支持 OTLP 追踪

系统要求

  • 操作系统：跨平台（macOS、Linux、Windows）
  • 额外依赖：Node.js ≥ 18（部分路径需要 jq）

历史版本

排序