您的速率限制取决于您的使用层级,目前通过三个关键指标进行衡量:
每分钟请求数 (RPM)
每分钟输入令牌数 (ITPM)
每分钟输出令牌数 (OTPM)
如果您超过任何这些速率限制,您将收到429错误,描述超过了哪个速率限制,以及一个retry-after
标头,指示需要等待多长时间。
速率限制在组织级别设置,由使用层级定义。每个层级都有不同的支出和速率限制,基于使用阈值自动提升层级,最高可达第4层。
您可以在Anthropic Console中查看您组织的当前层级和限制。
有关使用层级和速率限制的更多信息,请参阅我们的API文档。