Pengambilan berbasis agen dalam Pencarian Azure AI

Dalam Pencarian Azure AI, pengambilan agentic adalah rangkaian multi-kueri yang dirancang untuk pertanyaan kompleks yang diajukan oleh pengguna atau agen perangkat lunak dalam aplikasi obrolan dan aplikasi copilot. Ini ditujukan untuk pola retrieval-augmented generation (RAG) dan alur kerja agen-ke-agen.

Berikut yang dilakukan retrieval agentik:

• Anda dapat menggunakan perencanaan kueri berbasis LLM (pratinjau) untuk memecah kueri kompleks menjadi subkueri yang lebih kecil dan lebih terfokus guna memperoleh cakupan yang lebih luas pada konten proprietary dan eksternal. Perencanaan kueri dapat menggunakan riwayat obrolan untuk konteks tambahan.

• Menjalankan subkueri secara paralel. Setiap subkueri diurutkan ulang secara semantik untuk mengutamakan kecocokan yang paling relevan.

• Menggabungkan hasil terbaik ke dalam respons terpadu yang dapat digunakan LLM untuk menghasilkan jawaban dasar.

• Dapat mengembalikan referensi sumber dan log aktivitas beserta konten gabungan, sehingga Anda dapat menggunakan data grounding saja atau meneruskannya ke LLM untuk mendapatkan jawaban lengkap.

Alur berkinerja tinggi ini membantu Anda menghasilkan data grounding berkualitas tinggi atau jawaban untuk aplikasi obrolan Anda, dengan kemampuan untuk menjawab pertanyaan kompleks dengan cepat.

Mengapa menggunakan penelusuran berbasis agen?

Pengambilan berbasis agen mendukung baik pengalaman terkelola maupun pengalaman kustom untuk agen dan aplikasi. Di portal Microsoft Foundry, ini mendukung Foundry IQ sebagai lapisan pengetahuan terkelola untuk agen. Anda juga dapat membangun solusi pengambilan agenik kustom dengan menggunakan portal Azure, SEARCH Service REST API, atau Azure SDK yang didukung.

Gunakan penelusuran agentik saat Anda ingin menyediakan konten yang paling relevan bagi agen dan aplikasi untuk menjawab pertanyaan yang lebih sulit, dengan memanfaatkan konteks chat, konten proprietari Anda, dan sumber eksternal.

Retrieval agentik menimbulkan latensi lebih tinggi dibandingkan dengan pipeline kueri tunggal, tetapi dapat menangani kompleksitas kueri yang tidak dapat ditangani oleh pipeline kueri tunggal. Misalnya, ia dapat menangani:

• Pertanyaan dengan beberapa permintaan, seperti "carikan saya hotel di dekat pantai, dengan layanan antar-jemput bandara, dan yang dapat ditempuh dengan berjalan kaki dari restoran vegetarian."

• Pertanyaan yang bergantung pada konteks sebelumnya dalam percakapan.

• Kueri yang mendapat manfaat dari penulisan ulang, menggunakan peta sinonim dan parafrase yang dihasilkan LLM untuk memperluas cakupan di seluruh konten Anda.

• Kesalahan ejaan.

Arsitektur dan alur kerja

Proses pengambilan agenik berfungsi sebagai berikut:

1. Inisiasi alur kerja: Aplikasi Anda memanggil pangkalan pengetahuan dengan tindakan ambil yang menyediakan riwayat kueri dan percakapan.

2. Perencanaan kueri: Pada tingkat upaya penalaran pengambilan low dan medium, basis pengetahuan mengirimkan kueri dan riwayat percakapan Anda ke LLM, yang menghasilkan subkueri yang terfokus. Pada upaya minimal, langkah ini dilewati dan kueri dikirimkan langsung ke sumber pengetahuan. Upaya penalaran secara default adalah low dan dikonfigurasi di basis pengetahuan.

3. Eksekusi kueri: Pangkalan pengetahuan mengirimkan subkueri ke sumber pengetahuan Anda. Semua subkueri berjalan secara bersamaan dan dapat berupa kata kunci, vektor, atau pencarian hibrid. Setiap subkueri menjalani reranking semantik untuk menemukan kecocokan yang paling relevan. Referensi diekstrak dan dipertahankan untuk tujuan kutipan.

4. Sintesis hasil: Sistem menggabungkan semua hasil ke dalam respons terpadu. Konten yang digabungkan selalu dikembalikan. Referensi sumber dan log aktivitas eksekusi bersifat opsional.

Components

Untuk semua skenario pengambilan agenik, pangkalan pengetahuan dan setidaknya satu sumber pengetahuan diperlukan. Komponen lain bersifat opsional dan bergantung pada konfigurasi Anda.

Persyaratan integrasi

Aplikasi Anda mendorong alur dengan memanggil pangkalan pengetahuan dan menangani respons. Alur mengembalikan data grounding yang dapat Anda teruskan ke LLM untuk pembuatan jawaban atau digunakan langsung di antarmuka percakapan Anda. Untuk detail implementasi, lihat Tutorial: Membangun solusi pengambilan berbasis agen end-to-end.

Ketersediaan fitur

Retrieval agentik mendukung fitur yang tersedia secara umum dan fitur pratinjau. Pilih versi REST API Layanan Pencarian yang sesuai dengan pengalaman pengambilan berbasis agen Anda:

• 2026-04-01 Gunakan REST API untuk beban kerja produksi yang menggunakan jenis sumber pengetahuan yang tersedia secara umum dengan pengambilan ekstraktif minimal.

• 2026-08-01-preview Gunakan REST API untuk mempratinjau jenis dan kemampuan sumber pengetahuan seperti perencanaan kueri berbasis LLM, sintesis jawaban, upaya penalaran pengambilan non-minimal, dan pesan multi-giliran. Lihat ketentuan pratinjau Pencarian Azure AI.

Portal Azure dan Portal Microsoft Foundry menyediakan akses pratinjau saja ke semua kemampuan agentic retrieval. Objek yang dibuat di salah satu portal mungkin menggunakan skema pratinjau dan memerlukan migrasi saat Anda pindah ke versi REST API yang tersedia secara umum. Untuk perincian versi demi versi dan panduan migrasi, lihat Migrasikan kode retrieval agentic ke versi terbaru.

Ketersediaan wilayah, batasan, dan penagihan

Sebelum Anda menggunakan pengambilan berbasis agen, tinjau ketersediaan regional, batas layanan, dan model penagihan.

Ketersediaan menurut wilayah

Pengambilan agenik tersedia di wilayah tertentu.

Limits

Sumber pengetahuan dan pangkalan pengetahuan memiliki batas maksimum yang bervariasi menurut tingkat harga dan upaya penalaran pengambilan.

Penagihan

Pengambilan agenik dikenakan biaya dari dua layanan:

• Pencarian Azure AI menagih untuk token pengambilan yang dikonsumsi selama pelaksanaan subkueri dan peringkat semantik. Paket gratis (default) menyediakan jatah token bulanan. Paket standar memungkinkan harga bayar sesuai pemakaian setelah tunjangan gratis digunakan. Untuk informasi selengkapnya, lihat Aktifkan atau nonaktifkan penagihan pengambilan agentik.

• Azure OpenAI mengenakan biaya untuk token input dan output yang digunakan dalam perencanaan kueri berbasis LLM dan sintesis jawaban (pratinjau). Harga selalu berbayar sesuai penggunaan dan berdasarkan model yang Anda tetapkan ke pangkalan pengetahuan. Biaya muncul pada tagihan OpenAI Azure Anda. Untuk tarif, lihat harga Azure OpenAI.

Tabel berikut membandingkan penagihan antara alur kueri tunggal klasik dan alur multi-kueri pengambilan agenik. Dalam alur klasik, komponen yang dapat ditagih adalah peringkat semantik.

Contoh: Memperkirakan biaya

Contoh ini membantu mengilustrasikan proses estimasi biaya untuk perencanaan kueri dan eksekusi kueri, tetapi tidak menjawab sintesis. Biaya Anda bisa lebih rendah. Untuk tarif saat ini, lihat harga Pencarian Azure AI dan harga Azure OpenAI.

Untuk memperkirakan biaya rencana kueri sebagai bayar sesuai penggunaan di Azure OpenAI, mari kita asumsikan gpt-4o-mini:

• 15 sen untuk 1 juta token input.
• 60 sen untuk 1 juta token output.
• 2.000 token input untuk ukuran percakapan rata-rata.
• 350 token untuk ukuran rata-rata rencana keluaran.

Estimasi biaya penagihan untuk pelaksanaan kueri

Untuk memperkirakan jumlah token pengambilan agenik, mulailah dengan gambaran seperti apa dokumen rata-rata dalam indeks Anda. Misalnya, Anda mungkin memperkirakan:

• 10.000 potongan, di mana setiap gugus adalah satu hingga dua paragraf PDF.
• 500 token per potongan.
• Setiap subkueri melakukan pengurutan ulang hingga 50 potongan.
• Rata-rata, ada tiga subkueri untuk setiap rencana kueri.

Menghitung harga eksekusi

1. Asumsikan kami melakukan 2.000 pengambilan data agen dengan tiga subkueri per rencana. Ini menghasilkan sekitar 6.000 total kueri.

2. Rerank 50 potongan per subkueri, yaitu total 300.000 potongan.

3. Potongan rata-rata adalah 500 token, sehingga total token untuk reranking adalah 150 juta.

4. Mengingat harga hipotetis 0,022 per token, $3,30 adalah total biaya untuk pengurutan ulang dalam mata uang dolar AS.

5. Beralih ke biaya rencana kueri: 2.000 token input dikalikan dengan 2.000 pengambilan agenik sama dengan 4 juta token input dengan total 60 sen.

6. Perkirakan biaya output berdasarkan rata-rata 350 token. Jika kita mengalikan 350 dengan 2.000 pengambilan data oleh agen, kita mendapatkan total 700.000 token output dengan biaya total 42 sen.

Menggabungkan semuanya, Anda akan membayar sekitar $3,30 untuk pengambilan agentik di Pencarian Azure AI, 60 sen untuk token input di Azure OpenAI, dan 42 sen untuk token output di Azure OpenAI, dengan total perencanaan kueri sebesar $1,02. Biaya gabungan untuk eksekusi penuh adalah $4,32.

Tips untuk mengontrol biaya

• Tinjau log aktivitas dalam respons untuk mengetahui kueri apa yang dikeluarkan untuk sumber dan parameter mana yang digunakan. Anda dapat membuat ulang kueri tersebut terhadap indeks Anda dan menggunakan tokenizer publik untuk memperkirakan token dan membandingkan dengan penggunaan yang dilaporkan API. Namun, rekonstruksi kueri atau respons yang tepat tidak dijamin. Faktor-faktor termasuk jenis sumber pengetahuan, seperti data web publik atau sumber pengetahuan SharePoint jarak jauh yang berpredikat pada identitas pengguna, yang dapat memengaruhi reproduksi kueri.

• Mengurangi jumlah sumber pengetahuan (indeks); mengonsolidasikan konten dapat menurunkan volume fan-out dan token.

• Turunkan upaya penalaran untuk mengurangi penggunaan LLM selama perencanaan kueri dan perluasan kueri (pencarian iteratif).

• Atur konten sehingga informasi yang paling relevan dapat ditemukan dengan lebih sedikit sumber dan dokumen (misalnya, ringkasan atau tabel yang dikumpulkan).

Cara memulai

Untuk membuat solusi pengambilan agenik, Anda dapat menggunakan portal Azure, portal Microsoft Foundry (baru), REST API, atau paket Azure SDK yang setara.

Langkah berikutnya