面向所有 AI 流量
的安全网关
ThinkWatch 是企业内所有模型请求与 MCP 工具调用的唯一控制平面。每一次访问都被认证、授权、限流、记录和计费。
原生兼容
- Claude Code
- Cursor
- Continue
- Cline
- OpenAI SDK
- Anthropic SDK
- LangChain
- LlamaIndex
AI 无处不在，治理却无人问津.
随着 AI Agent 在工程团队中爆发，组织面临日益严峻的治理挑战，每个季度都更糟糕。
密钥四散
硬编码在 .env、在 Slack 里互传、从未轮换。一把泄露的密钥能在一夜之间烧光当月预算。
毫无可见性
谁用了哪个模型？消耗多少 token？归到哪个项目？账单到了才知道。
无访问控制
每位工程师都能直连任意模型和任意 MCP 工具，根本谈不上最小权限。
合规盲区
AI 辅助代码生成和数据访问没有任何审计轨迹，法务和安全团队连最基本的问题都答不上来。
成本爆雷
每月 AI 账单没人能解释、没人能归因。预算超支几周之后才被发现。
ThinkWatch 用一次部署解决所有这些问题。
所有 AI 请求都流经同一道网关.
OpenAI 和 Anthropic SDK 的零侵入替代品。你的 Agent 完全不需要改代码，只要把 base URL 指向 ThinkWatch。
- 01 身份认证
虚拟
tw-API 密钥校验到 PostgreSQL，限定到用户/团队/项目级别。 - 02 权限授权
5 级 RBAC 根据调用方角色检查模型与工具的访问权限。
- 03 限流
Redis 实现的滑动窗口 RPM/TPM 限制，可按密钥或按用户。
- 04 路由与转换
选择 Provider 并自动转换请求格式（Anthropic ⇄ OpenAI ⇄ Bedrock ⇄ Gemini）。
- 05 流式转发与计量
SSE 零开销转发，token 实时计数。
- 06 审计
每次调用写入 ClickHouse，可选转发到你的 SIEM。
网关、MCP 代理、RBAC、分析 —— 全在一个二进制里.
ThinkWatch 是一个 Rust 二进制，依赖 PostgreSQL、Redis、ClickHouse。没有微服务大杂烩，没有粘合代码 —— 所有职责都在同一个控制平面里处理。
一个端口，所有模型，零侵入接入。
多格式代理
OpenAI Chat Completions、Anthropic Messages、OpenAI Responses 三种 API 在同一端口提供 —— Cursor、Continue、Cline、Claude Code 以及官方 SDK 都可零修改接入。
多 Provider 路由
OpenAI、Anthropic、Google Gemini、Azure OpenAI、AWS Bedrock，或任何 OpenAI 兼容端点，请求格式自动转换。
虚拟 API 密钥
按团队、项目或开发者签发限定范围的 tw- 密钥，一键吊销。明文仅展示一次；存储为 SHA-256 哈希。
滑动窗口限流
基于 Redis 的 RPM/TPM 限制，可按密钥或按用户。内置三态熔断（Closed/Open/HalfOpen）和指数退避重试。
实时成本追踪
按模型计价，含预算告警与团队归因。SSE 零开销转发，token 实时计数。
每一个 token、每一把密钥、每一次调用.
对组织内每一个 AI 请求的实时可观测性。下面这些面板是真正的 React 组件 —— 不是截图 —— 用模拟数据渲染，让你直观感受控制台。
- OpenAIus-eastHealthyCB:Closed412 ms99.8%
- Anthropicus-westHealthyCB:Closed538 ms99.6%
- Google Geminius-centralHealthyCB:Closed297 ms99.9%
- Azure OpenAIeastus2DegradedCB:HalfOpen1240 ms96.2%
- AWS Bedrockus-east-1HealthyCB:Closed624 ms99.4%
一分钟内.
用 Docker Compose 单节点自托管，或用 Helm Chart 上生产 Kubernetes。无论哪种方式，4 条命令就能跑起来。
- 启动基础设施
通过 Docker Compose 拉起 PostgreSQL、Redis、ClickHouse。
$ make infra - 启动网关
两个端口同时启动：3000（网关）与 3001（控制台 API）。
$ cp .env.example .env && make dev-backend - 启动控制台 UI
Vite 开发服务器跑在 :5173，支持热重载。
$ cd web && pnpm install && pnpm dev - 运行初始化向导
创建超级管理员账号并添加第一个 Provider。
$ open http://localhost:5173/setup
curl https://gateway.your-org.com/v1/chat/completions \
-H "Authorization: Bearer tw-prod-xxxxxxxxxxxxxxxxx" \
-H "Content-Type: application/json" \
-d '{
"model": "gpt-4o",
"messages": [{"role": "user", "content": "Hello"}],
"stream": true
}' 无需修改任何代码 —— 只需替换 base URL 并使用虚拟 tw- 密钥。
源码开放。对绝大多数团队免费.
ThinkWatch 采用 Business Source License 1.1。非生产环境永久免费；生产环境在每月慷慨阈值内同样免费 —— 超出才需商业授权。
运行生产负载的小团队。
- 每月最多 10,000,000 计费 Token
- 每月最多 10,000 次 MCP 工具调用
- 全部功能包含
- BSL 1.1 授权
- Change Date 后自动转为 GPL-2.0-or-later
超出免费阈值的组织。
- 每 UTC 月超过 1000 万 Token 或 1 万次 MCP 调用
- 需要商业授权
- 按用量阶梯计费
- 可选优先支持
- 定制部署咨询
「计费 Token」和「MCP 工具调用」的定义、阶梯计费模型，以及到 GPL-2.0-or-later 的转换条款，详见 LICENSING.md。