Gunakan Azure API Management dengan skill Azure OpenAI dan vectorizer di Pencarian Azure AI

Anda dapat menempatkan Azure API Management di depan Azure OpenAI di Microsoft Foundry Model dan Microsoft Foundry untuk mempusatkan perutean, penyeimbangan beban, pembatasan, dan pengamatan untuk Pencarian Azure AI beban kerja yang menggunakan model Foundry. Artikel ini menjelaskan skenario yang didukung, pola autentikasi dan kontrol akses berbasis peran (RBAC) yang direkomendasikan, dan cara secara opsional membuat koneksi dari Pencarian Azure AI privat.

Skenario yang didukung

Anda dapat memanggil penyebaran model Microsoft Foundry melalui API Management dari fitur Pencarian Azure AI ini:

• Keterampilan penyematan Azure OpenAI
• Azure OpenAI Vectorizer
• Keterampilan membuat prompt GenAI

Untuk masing-masing, atur skill atau endpoint vectorizer ke URL gateway API Management, baik https://<resource-name>.azure-api.net maupun domain kustom API Management.

Skenario yang tidak didukung

API Management tidak didukung sebagai gateway untuk:

• Model bahasa besar (LLM) yang digunakan oleh skill Azure Content Understanding.
• LLM yang digunakan oleh pangkalan pengetahuan dalam pengambilan agenik.

Arsitektur

Ada dua alur umum. Keduanya menggunakan konfigurasi API Management yang sama pada backend.

Jalur publik

Pencarian Azure AI memanggil gateway API Management melalui titik akhir publiknya. API Management mengautentikasi ke sumber daya Microsoft Foundry dan meneruskan permintaan.

Azure AI Search (skill or vectorizer)
   └─▶ API Management gateway (azure-api.net or custom domain)
          [API Management policies authenticate the caller]
          [API Management's managed identity authenticates to Foundry]
          └─▶ Azure OpenAI in Foundry Models / Microsoft Foundry resource

Jalur privat dari Pencarian Azure AI ke API Management

Ketika layanan pencarian harus menjangkau API Management secara privat, buat tautan privat bersama dari layanan pencarian ke instans API Management, dan jalankan pengindeks di lingkungan eksekusi privat.

Azure AI Search (private indexer execution)
   └─▶ Shared private link (Microsoft.ApiManagement/service, group "Gateway")
          └─▶ API Management private endpoint
                 └─▶ Microsoft Foundry resource (public or private endpoint)

API Management ke Foundry adalah pola backend standar. Untuk panduan topologi yang lebih mendalam, termasuk varian multi-wilayah, multi-instans, dan aktif-aktif atau aktif-pasif, lihat Gunakan gateway di depan beberapa deployment atau instans Azure OpenAI dan Gambaran umum kemampuan gateway AI generatif di Azure API Management.

Konfigurasikan endpoint di skill atau vektorizer Anda

Atur titik akhir keterampilan atau vektorizer ke URL gateway API Management:

Autentikasi dan RBAC

Dua identitas terlibat. Mereka memiliki tanggung jawab yang berbeda dan penetapan peran yang berbeda.

Pola yang direkomendasikan adalah pengakhiran dan pembentukan ulang kredensial: pemanggil mengautentikasi ke API Management, dan API Management menggunakan identitas terkelolanya sendiri untuk mengautentikasi ke sumber daya Microsoft Foundry. Untuk informasi selengkapnya, lihat otorisasi Azure OpenAI dalam panduan arsitektur gateway AOAI.

Opsi autentikasi di gateway API Management

Pilih salah satu opsi berikut tentang cara Pencarian Azure AI mengautentikasi ke API Management. Untuk informasi selengkapnya dan contoh kebijakan, lihat Mengautentikasi dan mengotorisasi akses ke API LLM dengan menggunakan API Management.

• Subscription key: API Management menyimpan kunci API sumber daya Microsoft Foundry dalam named value, dan kebijakan meneruskannya dalam permintaan ke backend. Ini adalah opsi paling sederhana untuk dikonfigurasi. Ini menggunakan header set-header dengan kebijakan api-key. Karena layanan pencarian hanya mengirim kunci langganan API Management, tidak ada peran Microsoft Entra ID yang diperlukan pada identitas terkelola layanan pencarian.

• Identitas terkelola di gateway dengan validasi OAuth: API Management menggunakan kebijakan validate-azure-ad-token untuk memvalidasi token Microsoft Entra ID yang diberikan oleh identitas terkelola layanan pencarian. Gunakan opsi ini untuk pertahanan secara mendalam.

• (Diperlukan untuk pola yang direkomendasikan) Identitas terkelola API Management ke backend:Mengaktifkan identitas terkelola yang ditetapkan sistem atau ditetapkan pengguna pada instans API Management, lalu tetapkan peran Cognitive Services OpenAI User pada sumber daya Microsoft Foundry. Lihat Autentikasi dengan identitas terkelola dan kontrol akses berbasis peran untuk Azure OpenAI.

Konektivitas privat dari Pencarian Azure AI ke API Management

Lewati bagian ini jika Pencarian Azure AI memanggil API Management melalui endpoint publiknya.

Untuk membatasi lalu lintas keluar dari layanan pencarian ke saluran privat:

1. Buat tautan privat bersama dari layanan pencarian ke instans API Management. Gunakan jenis sumber daya dan ID grup /> Membuat koneksi keluar melalui tautan privat bersama.

2. Setujui koneksi titik akhir privat pada instans API Management.

3. Konfigurasikan pengindeks yang menggunakan keterampilan atau vektorizer untuk berjalan di lingkungan eksekusi privat.

Tautan privat bersama dihitung sebagai bagian dari batas tautan privat bersama untuk tingkat layanan pencarian Anda.

Konektivitas privat dari API Management ke sumber daya Microsoft Foundry

Saluran privat dari API Management ke sumber daya Microsoft Foundry tidak bergantung pada koneksi search-to-API Management dan dikonfigurasi di sisi API Management. Untuk opsi, lihat:

• Menggunakan jaringan virtual dengan Azure API Management
• Mengonfigurasi jaringan Azure OpenAI

Konten terkait

• Keterampilan penyematan Azure OpenAI
• Azure OpenAI Vectorizer
• Keterampilan membuat prompt GenAI
• Membuat koneksi keluar melalui tautan pribadi yang dibagikan
• Gunakan gateway untuk beberapa penyebaran atau instans Azure OpenAI