技术优势

架构

用户
  ↓
Nginx 反向代理（HTTPS/H2/SSE）
  ↓
NewAPI（用户/计费/路由/审计）
  ↓
多上游分发
  ├─ CPA：Claude 订阅账号转 API
  ├─ Anthropic Official API
  ├─ OpenAI Official API
  ├─ Google Vertex / Gemini API
  └─ 第三方聚合商（容灾备份）

核心能力

1. 上游多活 + 自动故障转移

• 每个模型配置多条上游路由
• 首路由失败时毫秒级切换到备路由
• 支持按成功率/延迟动态加权

2. 流式响应无损透传

• SSE 流原样透传，不做缓存重组
• 首字延迟（TTFT）与官方一致
• 断线自动重连，中间态不丢字

3. Prompt Caching 完整支持

• Anthropic cache_control 参数原样透传
• 命中率和官方一致，最高 90% 输入成本节省
• 控制台展示缓存命中统计

4. 工具调用 & 结构化输出

• 支持 OpenAI tools / Anthropic tools 双格式
• 自动做 schema 转换
• 支持 strict mode 结构化 JSON 输出

5. 安全

• 每次请求审计日志保留 30 天（可关）
• 支持 IP 白名单、域名绑定
• Key 可配置：每日用量、单次 token 上限、允许模型白名单

合规

• 服务器位于香港，遵守香港地区法律
• 不保留用户对话内容（仅保留 token 计数）
• 支持企业发票

---

了解完架构 → 开始使用