您的速率限制取決於您的使用層級,目前以三個關鍵指標來衡量:
每分鐘請求數 (RPM)
每分鐘輸入代幣數 (ITPM)
每分鐘輸出代幣數 (OTPM)
如果您超過任何一項速率限制,您將收到 429 錯誤,說明超過了哪項速率限制,並附帶一個 retry-after
標頭,指示需要等待多長時間。
速率限制在組織層級設定,並由使用層級定義。每個層級都有不同的支出和速率限制,根據使用閾值自動提升層級,最高可達第 4 層。
您可以在 Anthropic Console 中查看您組織的當前層級和限制。
有關使用層級和速率限制的更多資訊,請參閱我們的 API 文件。