Skip to main content

Documentation Index

Fetch the complete documentation index at: https://nvd-54.mintlify.app/llms.txt

Use this file to discover all available pages before exploring further.

目前仅在 langchainjs(JavaScript/TypeScript)中使用。
您已超过模型提供商在给定时间段内允许的最大请求数,正在被临时限制。 当您在特定时间范围内超过模型提供商允许的最大请求数时会发生此错误,导致临时阻止。此限制通常是临时的,在限制重置后会解除。

故障排除

要解决此错误,您可以:
  1. 实施速率限制:部署速率限制器来调节发送到模型的请求频率。
  2. 实施响应缓存:当传入查询重复时,使用模型响应缓存来减少冗余请求。
  3. 使用多个提供商:如果您的应用架构支持,将请求分布到多个提供商
  4. 联系您的提供商:联系您的模型提供商请求提高速率限制