Auriko

Auriko 能做什么？

• 统一API

  通过一个兼容OpenAI的API访问所有模型和提供商，可直接替换。

• 深度成本优化

  根据定价和提示缓存机制，路由到最低成本提供商。

• 预测信号

  提供商性能、健康、缓存行为和用法模式的实时信号。

• 路由策略

  内置默认或自定义策略，优化成本、延迟、吞吐量或自定义目标。

• 全球部署

  全球分布式边缘网络，具有最先进的延迟优化。

• 自动故障转移

  每个请求都有冗余，确保持续正常运行时间。

• 密钥编排

  自带密钥、平台密钥或两者兼用；通过编排引擎最大化密钥利用率。

• 容量智能

  跨提供商和密钥的容量感知；访问全球容量储备。