Skip to main content

资源保障

为保证资源的高效使用，引入速率限制（Rate Limits），以确保服务的可用性、稳定性。

资源详情​

语音合成接口同时使用项目空间 RPM（每分钟请求数）和平台全局 RPS（每秒请求数）进行速率限制：

具体速率限制情况如下表所示：

接口模型项目空间限制平台全局限制
/v1/text-to-speechLuna-TTS-1600 RPM10 RPS
/v1/text-to-speech/streamLuna-TTS-1600 RPM10 RPS

项目空间限制按项目空间分别计算；平台全局限制由所有项目空间共享。同步接口和流式接口分别计算限流额度。

相关说明​

1、什么是速率限制​

速率限制（Rate Limits）是 API 对调用方在指定时间段内可以发起的请求数所作出的限制。

  • RPM 是指每分钟允许发起的请求数
  • RPS 是指每秒允许发起的请求数

2、为什么会有速率限制？​

速率限制是 API 的常见做法，实施速率限制有几个不同的原因：

  • 有助于防止 API 被滥用和误用。例如，防止有些用户恶意的超载调用 API，试图使其过载或导致服务中断。我们通过设置速率限制可以防止此类恶意使用的发生
  • 速率限制有助于确保每个人都可以公平访问 API。防止一个人或组织发出过多的请求，造成可能会使其他人的 API 资源分配不均的情况。通过限制单个用户可以发出的请求数量，可以确保最多的人有机会使用 API，而不会遇到速度变慢的情况
  • 通过设置速率限制，VUI Labs 可以帮助为所有用户保持流畅一致的体验

3、如果触发速率限制会怎样？​

您将收到速率限制错误，表示项目空间的每分钟请求数或平台的每秒请求数已经达到上限。API 会暂时拒绝后续请求，待限流窗口释放后即可继续调用。

4、如何更好的在限速策略下进行 API 的使用​

建议调用方平滑发送请求，避免在短时间内集中突发调用。触发限流后，请等待限流窗口释放，并使用带抖动的指数退避策略重试，避免立即并发重试进一步加剧限流。

5、如何提高速率限制​

我们的默认限速是为了帮助最大限度的提高 API 调用的稳定性，以及更公平合理的将相应资源进行分配。
如果您认为您拥有必要的流量数据以来申请提高速率限制时，您可以通过邮件api@vuilabs.cn 进行提高速率限制的申请。