Azure Yapay Zeka Arama'te Azure OpenAI becerileri ve vektörleştiricileriyle Azure API Management kullanımı

Azure API Management'ı, Foundry modellerini kullanan Azure Yapay Zeka Arama iş yükleri için yönlendirme, yük dengeleme, kısıtlama ve gözlemlenebilirliği merkezileştirmek amacıyla Microsoft Foundry Modellerindeki Azure OpenAI ve Microsoft Foundry dağıtımlarının önüne yerleştirebilirsiniz. Bu makalede desteklenen senaryolar, önerilen kimlik doğrulaması ve rol tabanlı erişim denetimi (RBAC) deseni ve isteğe bağlı olarak Azure Yapay Zeka Arama'dan bağlantının nasıl özel hale getirilebileceğini açıklar.

Desteklenen senaryolar

Şu Azure Yapay Zeka Arama özelliklerinden API Management aracılığıyla bir Microsoft Foundry model dağıtımını çağırabilirsiniz:

• Azure OpenAI ekleme becerisi
• Azure OpenAI vektörleştiricisi
• GenAI istem oluşturma becerisi

Her biri için, beceri veya vektörleştirici uç noktasını https://<resource-name>.azure-api.net ya da API Management özel etki alanı olmak üzere API Management ağ geçidi URL'si olarak ayarlayın.

Desteklenmeyen senaryolar

API Management, ağ geçidi olarak desteklenmez:

• Azure Content Understanding becerisi tarafından kullanılan büyük dil modeli (LLM).
• Bir etmen tabanlı erişimdeki bilgi tabanı tarafından kullanılan LLM.

Mimari

İki yaygın akış vardır. Her ikisi de arka uçta aynı API Management yapılandırmasını kullanır.

Ortak yol

Azure Yapay Zeka Arama, API Management ağ geçidini genel uç noktası üzerinden çağırır. API Management, Microsoft Foundry kaynağında kimlik doğrulaması yapar ve isteği iletir.

Azure AI Search (skill or vectorizer)
   └─▶ API Management gateway (azure-api.net or custom domain)
          [API Management policies authenticate the caller]
          [API Management's managed identity authenticates to Foundry]
          └─▶ Azure OpenAI in Foundry Models / Microsoft Foundry resource

Azure Yapay Zeka Arama'dan API Management'a özel yol

Arama hizmetinin API Management'a özel olarak ulaşması gerektiğinde, arama hizmetinden API Management örneğine paylaşılan bir özel bağlantı oluşturun ve özel yürütme ortamında dizin oluşturucuları çalıştırın.

Azure AI Search (private indexer execution)
   └─▶ Shared private link (Microsoft.ApiManagement/service, group "Gateway")
          └─▶ API Management private endpoint
                 └─▶ Microsoft Foundry resource (public or private endpoint)

API Management to Foundry standart arka uç desenidir. Daha ayrıntılı topoloji yönergeleri için; çok bölgeli, çok örnekli ve aktif-aktif veya aktif-pasif varyantlar dahil olmak üzere, Birden çok Azure OpenAI dağıtımının veya örneğinin önünde bir ağ geçidi kullanma ve Azure API Management'ta üretken yapay zeka ağ geçidi özelliklerine genel bakış bölümüne bakın.

Uç noktayı yeteneğinizde veya vektör oluşturucunuzda yapılandırın

Beceri veya vektörleştirici uç noktasını API Management ağ geçidi URL'sine ayarlayın:

Kimlik doğrulaması ve RBAC

İki kimlik söz konusudur. Farklı sorumlulukları ve farklı rol atamaları vardır.

Önerilen desen credential sonlandırma ve yeniden oluşturma şeklindedir: Çağıran API Management'ta kimlik doğrulaması yapar ve API Management, Microsoft Foundry kaynağında kimlik doğrulaması yapmak için kendi yönetilen kimliğini kullanır. Daha fazla bilgi için AOAI ağ geçidi mimarisi kılavuzundaki Azure OpenAI yetkilendirme bölümüne bakın.

API Management ağ geçidinde kimlik doğrulama seçenekleri

AZURE AI SEARCH API Management'ta kimlik doğrulaması yapmak için aşağıdaki seçeneklerden birini belirleyin. Daha fazla bilgi ve ilke örnekleri için bkz. API Management kullanarak LLM API'lerine erişimi doğrulama ve yetkilendirme.

• Abonelik anahtarı: API Management, Microsoft Foundry kaynağının API anahtarını bir adlandırılmış değer içinde depolar ve bir ilke bunu arka uç isteğine iletir. Bu, yapılandırmak için en basit seçenektir. set-header üst bilgisiyle api-key ilkesini kullanır. Arama hizmeti yalnızca API Management abonelik anahtarını gönderdiğinden, arama hizmeti yönetilen kimliğinde Microsoft Entra ID rolü gerekmez.

• Ağ geçidinde OAuth doğrulamasıyla yönetilen kimlik: API Management, arama hizmetinin yönetilen kimliği tarafından sunulan Microsoft Entra ID belirtecini doğrulamak için validate-azure-ad-token ilkesini kullanır. Derinlemesine savunma için bu seçeneği kullanın.

• (Önerilen model için gereklidir) API Management'tan arka uca yönetilen kimlik:API Management örneğinde sistem tarafından atanan veya kullanıcı tarafından atanan bir yönetilen kimliği etkinleştirin ve ardından Microsoft Foundry kaynağında buna Cognitive Services OpenAI User rolünü atayın. Yönetilen kimlikle kimlik doğrulama ve Azure OpenAI için rol tabanlı erişim denetimi konularına bakın.

Azure Yapay Zeka Arama'den API Management'a özel bağlantı

Azure Yapay Zeka Arama, API Management’i ortak uç noktası üzerinden çağırıyorsa bu bölümü atlayın.

Arama hizmetinden özel kanala giden trafiği kısıtlamak için:

1. Arama hizmetinden API Management örneğine paylaşılan bir özel bağlantı oluşturun. Microsoft.ApiManagement/service kaynak türünü ve Gateway grup kimliğini kullanın. Adımlar için bkz. Paylaşılan özel bağlantı üzerinden giden bağlantılar oluşturma.

2. API Management örneğinde özel uç nokta bağlantısını onaylayın.

3. Beceriyi veya vektörleştiriciyi kullanan dizin oluşturucuları özel yürütme ortamında çalışacak şekilde yapılandırın.

Paylaşılan özel bağlantı, arama hizmeti katmanınız için paylaşılan özel bağlantı sınırına göre sayılır.

API Management'tan Microsoft Foundry kaynağına özel bağlantı

API Management ile Microsoft Foundry kaynağı arasındaki özel kanal, arama ile API Management arasındaki bağlantıdan bağımsızdır ve API Management tarafında yapılandırılır. Seçenekler için bkz:

• Azure API Management ile sanal ağ kullanma
• Azure OpenAI ağını yapılandırma

İlgili içerik

• Azure OpenAI ekleme becerisi
• Azure OpenAI vektörleştiricisi
• GenAI istem oluşturma becerisi
• Paylaşılan özel bağlantı üzerinden bağlantılar kurarak dışa dönük bağlantılar yapma
• Birden fazla Azure OpenAI dağıtımı veya örneği önünde bir ağ geçidi kullanma