Request to enable Anthropic Claude pay‑per‑token (Foundation Model APIs) — Databricks

Junwoo Jeong 0 평판 포인트 Microsoft 직원
2026-07-02T11:29:14.1633333+00:00

Hi Support,

We are building an application on Azure Databricks Model Serving that uses the Anthropic Claude Foundation Model APIs (pay‑per‑token). Every call to the Claude endpoints fails with the following error, while all other Databricks‑hosted models work normally:

HTTP 403

{"error_code":"PERMISSION_DENIED","message":"PERMISSION_DENIED: The endpoint is temporarily disabled due to a Databricks-set rate limit of 0."}

Affected endpoints (all Anthropic,  system.ai , READY):  databricks-claude-opus-4-8 ,  databricks-claude-sonnet-5 

Working endpoints (Databricks‑hosted open models, HTTP 200):  databricks-meta-llama-3-3-70b-instruct ,  databricks-gpt-oss-120b 

What we have already verified (so this looks like an account‑level Anthropic capacity/entitlement issue, not a workspace misconfiguration):

• The affected endpoints are  READY ; only Anthropic models return the rate‑limit‑0 error, while Databricks‑hosted open models return 200 on the same workspace.

•  partner-powered AI features  is enabled and enforced at the account level ( llm_proxy_partner_powered_account = true ,  ..._enforce = true ).

• Unity Catalog metastore is assigned and  system.ai  is accessible; the issue is not a UC/permissions or metastore problem.

• Reproduced across two regions ( koreacentral ,  eastus2 ) and two independent Databricks accounts/tenants — always the same result: Anthropic blocked, open models fine.

• Setting an AI Gateway rate limit on the endpoint does not override the Databricks‑set limit of 0.

Thank you for your help.

Microsoft Foundry
Microsoft Foundry

AI 모델, 에이전트, 애플리케이션을 생성하고 관리하기 위한 통합 Azure 플랫폼으로, 엔터프라이즈 수준의 보안, 모니터링, 거버넌스를 기본 제공합니다.


답변 1개

정렬 기준: 가장 유용함
  1. Karnam Venkata Rajeswari 5,340 평판 포인트 Microsoft 외부 직원 중재자
    2026-07-02T14:15:10.8133333+00:00

    안녕 하세요, 정준우,

    마이크로소프트 Q&A에 오신 것을 환영합니다. 연락해 주셔서 감사합니다.

    현재 연구 결과는 일반적인 작업 공간이나 모델 서빙 구성 문제에서 벗어나 Anthropic Foundation 모델 API 서비스 경로에 특화된 제한을 시사합니다. 서비스가 반환하는

    {

    "error_code": "PERMISSION_DENIED",

    "message": "PERMISSION_DENIED: The endpoint is temporarily disabled due to a Databricks-set rate limit of 0."

    }

    이 응답은 요청이 Foundation Model API 서비스에 성공적으로 도달하고 있으나 추론이 실행되기 전에 차단되고 있음을 나타냅니다.

    관찰된 동작은 반환된 오류 메시지와 일치합니다. AI 게이트웨이 정책은 고객이 설정할 수 있는 제어 제어를 관리하지만, 오류는 Databricks가 설정한 속도 제한을 명시적으로 참조합니다. 따라서 AI 게이트웨이 설정 변경이 이미 유효한 요금 제한을 제로로 강제하는 플랫폼 관리 제한을 무효화할 것으로 기대되지 않습니다.

    이 시나리오에서 서비스는 HTTP 403 PERMISSION_DENIED을 반환하고 있는데, 이는 이 동작이 일반적인 소비 기반 제한이 아니라 Anthropic 특유의 권한, 서비스 활성화 상태, 백엔드 용량 할당, 온보딩 요구사항 또는 다른 플랫폼 관리 제한과 관련이 있을 수 있음을 시사합니다.

    다음 단계들이 도움이 되는지 확인해 주세요-

    1. Foundation Model API 엔드포인트 구성 검토 다음 구성에 대해 검토해 주세요:
      • databricks-claude-opus-4-8
      • databricks-claude-sonnet-5
      구성된 Foundation Model API 설정과 관찰된 유효 동작을 비교해 보세요.
    2. 재단 모델 API 전제 조건 검증 확인해 주세요:
      • 작업 공간은 프리미엄 등급으로 운영되고 있습니다.
      • 작업 공간은 지원되는 모델 서빙 영역에 배포됩니다.
      • Anthropic 엔드포인트는 여전히 Serving UI에 나타납니다.
      • 인류적 종단점은 여전히 준비 상태에 있습니다.
      • Foundation Model API 전제 조건은 계속 충족되고 있습니다

    다음 참고문헌들이 도움이 될 수 있으니 꼭 확인해 보시길 바랍니다

    답변이 도움이 되었는지 알려주세요

     

    감사합니다

    이 대답이 도움이 되었나요?

    댓글 0개 설명 없음

답변

질문 작성자는 답변을 '승인됨'으로 표시하고, 중재자는 답변을 '추천됨'으로 표시할 수 있습니다. 이를 통해 사용자는 해당 답변이 작성자의 문제를 해결했다는 것을 알 수 있습니다.