Skip to content

产品简介 ​

VeyraOS Router(维驭智能模型网关)是一个智能模型网关服务。你的应用只需要对接一个地址、一个 Key,即可获得多模型、多供应商的统一调用入口——路由层自动完成选模型、容灾切换、计量计费与调用留痕。

核心概念 ​

概念说明
对外模型你在 model 字段填写的名字。直接映射到具体的供应商通道,行为与普通模型 API 一致
智能路由池一种特殊的对外模型:调用时由路由层按任务类型与难度,在池内多个模型中自动选择一个最合适的。选池 = 把「选哪个模型」交给路由层
通道一个对外模型背后可以挂多个供应商通道,互为备份,故障时自动切换
API Key调用凭证。在控制台自助签发,可限定可用模型范围与月度限额

能力地图 ​

  • 三协议兼容:OpenAI Chat Completions、OpenAI Responses、Anthropic Messages 三种协议同一个 Key 通用,现有代码几乎零改造。详见三种 API 协议。
  • 智能选路:路由池按任务语义自动分档(简单/中等/复杂/推理),简单任务自动落到便宜模型,复杂任务落到强模型。
  • 自动容灾:上游限流(429)、服务异常(5xx)、通道凭据或配额失效(401/403)、连接超时,自动切换同模型的其他备用通道重试(同一请求最多尝试 3 次),故障通道进入冷却、恢复后自动回归;参数类错误(400/422)属于调用方问题,不换通道直接返回。
  • 计量计费:每次调用按 tokens 精确计量,费用按售价口径按天出账。详见用量与账单。
  • 路由偏好:成本优先/质量优先、延迟敏感、排除指定通道,由运营方按组织统一配置,全部 Key 生效。
  • 调用留痕:每次调用的选路原因、落地通道、延迟、token 用量与费用都可在控制台「调用记录」中追溯。

下一步 ​

维驭智能模型网关