Azure Foundry 내에서 anthropic model 배포가 되지 않습니다.

안녕하세요 Yoon Bin 2 [vini]! 말씀해주신 상황을 보면 Azure AI Foundry(구 Microsoft Foundry)에서 Anthropic(예: Claude 계열) 모델을 “배포”하려고 하면 계속 InternalServerError가 발생하는 케이스로 보입니다. (스크린샷의 문구: “InternalServerError… Please try again.”)

제공해주신 문서 기준으로는, 이런 배포 실패는 보통 아래 범주 중 하나에서 발생합니다. 아래 순서대로 점검해보시면 원인 좁히는 데 도움이 될 거예요.

1. 모델이 “현재 선택한 지역/배포 방식”에서 지원되는지 확인

Anthropic 모델은 지역(region) 및 배포 타입에 따라 가용성이 달라질 수 있습니다. 또한 모델/지역 조합에 따라 포털에서 배포 옵션(예: Standard)이 막히거나(회색/미표시) 실패할 수 있어요.

• AI Foundry에서 Deployments > + Deploy model로 이동
• 현재 선택한 region에서 해당 Anthropic 모델이 배포 가능한지 확인
• 만약 다른 배포 타입/지역에서 동작한다면, 그게 가장 흔한 원인입니다.

문서에 따르면 “Model not found / endpoint creation failed” 류 이슈도 지역 가용성 및 배포 설정 호환성과 관련이 있을 수 있습니다.

2. 쿼터(Quota)가 “해당 모델/해당 지역/해당 배포 타입”에 실제로 충분한지 확인

사용자님이 “모델 할당량이 4M”이라고 하셨지만, 문서 상으로는 쿼터는 보통

• 선택한 region
• 모델
• 배포 타입(예: Managed Compute vs Serverless/또는 Standard 등 모델별 지원 배포유형)

에 따라 달라질 수 있습니다.

따라서 AI Foundry에서 아래를 확인해 주세요.

• Management > Quota에서 해당 모델 배포에 필요한 쿼터(예: TPM/표시되는 quota)가 0이 아닌지, 부족으로 표시되는지 확인
• 부족이면 quota increase 요청

3. 권한(RBAC) / 배포 권한 문제 가능성 확인 (특히 허브 기반 프로젝트라면)

Foundry 배포는 작업에 사용하는 Workspace MSI(Managed Service Identity) 권한이 부족할 때 실패할 수 있습니다.

문서에 따르면 배포 중 아래 계열 에러가 나는 경우가 있고, 해법은 권한 부여입니다:

• “The workspace MSI does not have deployments/write permissions”
• 해결: 해당 resource group 레벨에서 Azure AI Administrator role을 작업에 필요한 MSI/UAI에 부여

사용자님은 스크린샷에 해당 MSI 권한 문구가 “직접적으로” 보이진 않지만, InternalServerError 뒤에서 권한 이슈가 섞여 있을 가능성은 있습니다.

→ 포털의 에러 상세/로그(가능하다면)에서 권한 관련 문구가 있는지 확인해보세요.

또한 기본적으로 배포를 하려면 최소한

• Cognitive Services OpenAI Contributor 같이 “deploy 가능”한 권한이 필요하다고 안내되어 있습니다(Reader만으로는 deploy가 안 됨).

4. Anthropic 모델 접근 조건(결제/구독 타입/지역 정책) 확인

Anthropic 모델은 “구독 종류/지역에서 구매 가능 여부” 같은 조건이 걸릴 수 있습니다.

문서 요지는:

• 유료(결제 가능한) Azure subscription이어야 함 (무료/트라이얼/일부 크레딧 기반 등은 제한)
• Anthropic이 판매/제공하는 국가/지역 정책을 충족해야 함
• 일부 구독 유형은 지원되지 않음(CSP, 특정 엔터프라이즈 CA 등)

사용자님이 배포 요청을 했는데 계속 실패한다면, 해당 Anthropic 모델이 현재 구독/지역에서 구매/배포가 허용된 상태인지도 점검해보는 게 좋아요.

5. Key Vault/Managed Identity 관련 문제 점검

Foundry는 모델 배포에 따라 Key Vault에 API key를 저장/참조하는 흐름이 있을 수 있고, 이때 Key Vault 권한(Managed Identity 대상 권한)이 부족하면 문제가 생길 수 있습니다.

문서에 따르면:

• Key Vault issues: AI Foundry 모델에 연관된 managed IDs에 대해 Key Vault 권한을 적절히 부여해야 함
• 필요한 역할 예: Cognitive Services OpenAI User / Contributor 등(상황에 따라)

역시 사용자님 스크린샷에 Key Vault 문구는 없지만, InternalServerError가 권한/연동 이슈일 때 흔히 섞여 나옵니다.

위 내용이 도움이 되었는지, 아니면 추가적인 도움이 필요하신지 알려주세요.

답변이 도움이 되었다면 "답변 채택"을 클릭하고 추천(업보트)해 주세요. 이 답변에 대해 추가 질문이 있으시면 "댓글"을 클릭해 주세요.