속도 제한

제한에는 두 가지 유형이 있습니다:

1. 지출 제한(Spend limits)은 조직이 API 사용으로 발생시킬 수 있는 월간 최대 비용을 설정합니다.
2. 속도 제한(Rate limits)은 조직이 정해진 기간 동안 보낼 수 있는 최대 API 요청 수를 설정합니다.

API는 서비스에서 구성한 제한을 조직 수준에서 적용하지만, 조직의 워크스페이스에 대해 사용자가 구성 가능한 제한을 설정할 수도 있습니다.

속도 제한에 대하여

• 제한은 일반적인 고객 사용 패턴에 미치는 영향을 최소화하면서 API 남용을 방지하도록 설계되었습니다.
• 제한은 사용량 티어(usage tier)에 따라 정의됩니다. 조직은 사용 이력과 계정 상태에 따라 자동으로 티어에 배치되며, API를 사용함에 따라 시간이 지나면서 더 높은 티어로 이동할 수 있습니다.
• 신규 조직 및 사용 이력이 제한적인 조직은 Evaluation 티어에서 시작할 수 있으며, 계정 이력이 쌓이는 동안 이 페이지에 표시된 표준 제한보다 낮은 제한이 적용됩니다. 이러한 시작 제한은 Anthropic이 사기 및 남용을 방지하는 방법의 일부이며, 조직이 사용 이력을 쌓아감에 따라 자동으로 증가합니다.
• 제한은 조직 수준에서 설정됩니다. Claude Console의 Rate limits 페이지에서 조직의 티어와 현재 제한을 확인할 수 있습니다.
• 더 짧은 시간 간격에서 속도 제한에 도달할 수도 있습니다. 예를 들어, 분당 60개 요청(RPM)의 속도는 초당 1개 요청으로 적용될 수 있습니다. 짧은 시간에 요청이 집중되면 제한을 초과하여 속도 제한 오류가 발생할 수 있습니다.
• 다음 제한은 각 티어의 표준 제한입니다. 더 높은 제한이 필요한 경우 더 높은 제한 요청하기를 참조하세요.
• API는 속도 제한을 위해 token bucket algorithm(토큰 버킷 알고리즘)을 사용합니다. 이는 용량이 고정된 간격으로 재설정되는 것이 아니라 최대 제한까지 지속적으로 보충된다는 것을 의미합니다.
• 여기에 설명된 모든 제한은 보장된 최소치가 아니라 허용되는 최대 사용량을 나타냅니다. 이러한 제한은 의도하지 않은 과다 지출을 줄이고 사용자 간 리소스의 공정한 분배를 보장하기 위한 것입니다.

지출 제한

Start, Build, Scale 티어 각각에는 월간 지출 한도가 있으며, 이는 조직이 매 달력월에 API에 지출할 수 있는 최대 금액입니다. Billing 페이지에서 조직의 월간 지출 한도를 확인하고 자체 제한을 설정할 수 있습니다.

Custom 티어의 조직에는 월간 지출 한도가 없으며, 제한은 계정 팀과 협의하여 정해집니다.

지출 한도 도달

티어의 지출 한도에 도달하면, 더 일찍 더 높은 한도를 요청하지 않는 한 다음 달 1일 00:00 UTC까지 API 사용이 일시 중지됩니다. 사용이 일시 중지된 동안 API 요청은 HTTP 429를 반환합니다:

{
  "type": "error",
  "error": {
    "type": "rate_limit_error",
    "message": "You have reached your API usage limits: your organization has crossed its monthly API usage threshold, set based on your organization's API tier. You will regain access on 2026-09-01 at 00:00 UTC.",
    "details": { "error_code": "enforced_spend_limit_reached" }
  },
  "request_id": "req_018EeWyXxfu5pfWkrYcMdjWG"
}

• 오류 유형은 속도 제한과 동일한 rate_limit_error이지만, 응답에 retry-after 헤더가 없습니다. SDK의 자동 재시도를 포함한 재시도는 액세스가 재개될 때까지 실패합니다.
• Messages API에서 error.details.error_code는 enforced_spend_limit_reached입니다. 이를 사용하여 이 응답을 속도 제한과 구별하세요.
• 더 높은 티어로 이동하면 액세스가 복원됩니다. 더 높은 제한 요청하기를 참조하세요.

자체 지출 제한 설정

비용을 관리하기 위해 티어 한도보다 낮은 자체 지출 제한을 설정할 수도 있습니다:

1. 1

   Billing 페이지로 이동

   Claude Console에서 Settings > Billing으로 이동하세요.

2. 2

   지출 제한 편집기 열기

   Spend limits 섹션에서 Adjust limit을 클릭하세요(현재 설정된 제한이 없는 경우 Set limit).

3. 3

   지출 제한 조정

   새 값을 입력하세요. 지출 제한은 현재 티어의 한도를 초과할 수 없습니다.

사용량이 설정한 지출 제한에 도달하면 요청은 오류 유형 invalid_request_error와 함께 HTTP 400을 반환합니다. 메시지는 You have reached your specified API usage limits로 시작하거나, 워크스페이스 제한의 경우 You have reached your specified workspace API usage limits로 시작하며, 액세스가 재개되는 시점을 명시합니다. 액세스를 더 빨리 복원하려면 제한을 높이거나 제거하세요.

Claude Code 워크스페이스의 제한은 별도로 확인됩니다. 해당 워크스페이스의 제한을 초과하는 Claude Code 요청은 대신 retry-after 헤더가 포함된 429를 받을 수 있습니다.

속도 제한

Messages API의 속도 제한은 각 모델 클래스에 대해 분당 요청 수(RPM), 분당 입력 토큰 수(ITPM), 분당 출력 토큰 수(OTPM)로 측정됩니다. 속도 제한 중 하나라도 초과하면 어떤 속도 제한이 초과되었는지 설명하는 429 오류와 함께 얼마나 기다려야 하는지를 나타내는 retry-after 헤더를 받게 됩니다.

캐시 인식 ITPM

많은 API 제공업체는 캐시된 토큰과 캐시되지 않은 토큰, 입력과 출력을 모두 포함할 수 있는 통합 "분당 토큰 수"(TPM) 제한을 사용합니다. 대부분의 Claude 모델에서는 캐시되지 않은 입력 토큰만 ITPM 속도 제한에 포함됩니다. 이는 속도 제한을 처음 보이는 것보다 실질적으로 더 높게 만드는 핵심 이점입니다.

ITPM 속도 제한은 각 요청 시작 시 추정되며, 요청 중에 실제 사용된 입력 토큰 수를 반영하도록 추정치가 조정됩니다.

ITPM에 포함되는 항목은 다음과 같습니다:

• input_tokens(마지막 캐시 중단점 이후의 토큰) ✓ ITPM에 포함됨
• cache_creation_input_tokens(캐시에 기록되는 토큰) ✓ ITPM에 포함됨
• cache_read_input_tokens(캐시에서 읽은 토큰) ✗ 대부분의 모델에서 ITPM에 포함되지 않음

예시: 2,000,000 ITPM 제한과 80% 캐시 적중률이 있으면, 캐시된 토큰은 속도 제한에 포함되지 않으므로 분당 총 10,000,000개의 입력 토큰(캐시되지 않은 2M + 캐시된 8M)을 실질적으로 처리할 수 있습니다.

속도 제한을 최대한 활용하려면 시스템 지침 및 프롬프트, 대용량 컨텍스트 문서, 도구 정의, 대화 기록과 같은 반복되는 콘텐츠를 캐시하세요. 지침은 프롬프트 캐싱을 참조하세요. 효과적인 캐싱을 통해 속도 제한을 높이지 않고도 실제 처리량을 크게 늘릴 수 있습니다. 캐싱 전략을 조정하려면 Usage 페이지에서 캐시 적중률을 모니터링하세요.

OTPM 속도 제한은 출력 토큰이 생성될 때 실시간으로 평가되며, 실제로 생성된 토큰만 계산합니다. max_tokens 매개변수는 OTPM 속도 제한 계산에 반영되지 않으므로, 더 높은 max_tokens 값을 설정해도 속도 제한상의 불이익은 없습니다.

속도 제한은 각 모델에 대해 별도로 적용되므로, 서로 다른 모델을 각각의 제한까지 동시에 사용할 수 있습니다. Claude Console의 Rate limits 페이지에서 현재 속도 제한과 동작을 확인하거나, Rate Limits API를 사용하여 구성된 제한을 프로그래밍 방식으로 읽을 수 있습니다.

^{1 Fable 속도 제한은 Claude Fable 5.1과 Claude Fable 5의 합산 트래픽에 적용되는 총 제한입니다. Claude Mythos 5.1과 Claude Mythos 5는 동일한 조건으로 별도의 합산 제한을 공유합니다.}

^{2 Opus 속도 제한은 Claude Opus 4.8, Opus 4.7, Opus 4.6, Opus 4.5의 합산 트래픽에 적용되는 총 제한입니다. Claude Opus 5.5와 Claude Opus 5는 각각 별도의 속도 제한이 있으며 이 합산 버킷에 포함되지 않습니다.}

^{3 Sonnet 4.x 속도 제한은 Sonnet 4.6과 Sonnet 4.5(지원 중단)의 합산 트래픽에 적용되는 총 제한입니다. Claude Sonnet 5.5와 Claude Sonnet 5는 각각 별도의 속도 제한이 있으며 이 합산 버킷에 포함되지 않습니다.}

^{4 이 제한은 cache_read_input_tokens를 ITPM 사용량에 포함합니다.}

Message Batches API

Message Batches API에는 모든 모델에서 공유되는 자체 속도 제한 세트가 있습니다. 여기에는 모든 API 엔드포인트에 대한 분당 요청 수(RPM) 제한과 동시에 처리 대기열에 있을 수 있는 배치 요청 수에 대한 제한이 포함됩니다. 여기서 "배치 요청"은 Message Batch의 일부를 의미합니다. 수천 개의 배치 요청을 포함하는 Message Batch를 생성할 수 있으며, 각 배치 요청은 이 제한에 포함됩니다. 배치 요청은 모델에 의해 아직 성공적으로 처리되지 않은 경우 처리 대기열의 일부로 간주됩니다.