Azure Yapay Zeka Arama aracılı alma

Azure Yapay Zeka Arama'da agentic retrieval sohbet ve yardımcı pilot uygulamalarında kullanıcılar veya aracılar tarafından sorulan karmaşık sorular için tasarlanmış çok sorgulu bir işlem hattıdır. ** Geri alma ile artırılmış oluşturma (RAG) desenleri ve acenteden acenteye iş akışları için tasarlanmıştır.

Aracılı alma şunları yapar:

• LlM tabanlı sorgu planlaması (önizleme) kullanarak karmaşık bir sorguyu daha küçük, odaklanmış alt sorgulara ayırarak özel ve dış içerikte daha iyi bir kapsama sahip olabilir. Sorgu planlama, ek bağlam için sohbet geçmişini kullanabilir.

• Alt sorguları paralel olarak çalıştırır. Her alt sorgu, en uygun eşleşmeleri teşvik etmek için semantik olarak yeniden sıralanır.

• En iyi sonuçları bir LLM'nin temelli yanıtlar oluşturmak için kullanabileceği birleşik bir yanıtta birleştirir.

• Birleştirilmiş içerikle birlikte kaynak referanslarını ve etkinlik günlüğünü döndürebilir; böylece yalnızca dayanak verilerini kullanabilir veya tam bir yanıt için bunları bir LLM'ye iletebilirsiniz.

Bu yüksek performanslı işlem hattı, karmaşık soruları hızlı bir şekilde yanıtlayarak sohbet uygulamanız için yüksek kaliteli topraklama verileri veya yanıtları oluşturmanıza yardımcı olur.

Ajan tabanlı erişim neden kullanılır?

Aracı tabanlı bilgi getirme, ajanlar ve uygulamalar için hem yönetilen hem de özel deneyimleri destekler. Microsoft Foundry portalında, Aracılar için yönetilen bilgi katmanı olarak Foundry IQ'ya güç sağlar. Ayrıca Azure portalını, Arama Hizmeti REST API'sini veya desteklenen bir Azure SDK kullanarak özel aracılı alma çözümleri oluşturabilirsiniz.

Aracılara ve uygulamalara, sohbet bağlamından, size özel içeriğinizden ve dış kaynaklardan yararlanarak daha karmaşık soruları yanıtlamaları için en alakalı içeriği sağlamak istediğinizde aracılı bilgi getirme özelliğini kullanın.

Ajan tabanlı getirme, tek sorgulu bir işlem hattına kıyasla ek gecikme yaratır, ancak tek bir sorgunun ele alamadığı sorgu karmaşıklığını ele alır. Örneğin, şunları işleyebilir:

• "Bana plaj yakınlarında, havaalanı ulaşımı olan ve vejetaryen restoranlara yürüme mesafesinde olan bir otel bul" gibi birçok soruyla ilgili sorular.

• Konuşmadaki önceki bağlama bağlı sorular.

• İçeriğiniz genelinde kapsamı genişletmek için eş anlamlı haritaları ve LLM tarafından oluşturulan yeniden ifade etmeleri kullanan, yeniden yazımdan fayda sağlayan sorgular.

• Yazım hataları.

Mimari ve iş akışı

Temsili geri çağırma süreci şu şekilde çalışır:

1. İş akışı başlatma: Uygulamanız, sorgu ve konuşma geçmişi sağlayan bir alma eylemiyle bir bilgi bankası çağırır.

2. Sorgu planlaması:low ve medium alma muhakemesi çabasında, bilgi tabanı sorgunuzu ve konuşma geçmişinizi bir LLM'ye gönderir; bu da odaklı alt sorgular oluşturur. minimal düzeyinde çabayla bu adım atlanır ve sorgular doğrudan bilgi kaynaklarına gönderilir. Akıl yürütme düzeyi varsayılan olarak low şeklindedir ve bilgi tabanında yapılandırılır.

3. Sorgu yürütme: Bilgi bankası, alt sorguları bilgi kaynaklarınıza gönderir. Tüm alt sorgular aynı anda çalışır ve anahtar sözcük, vektör veya karma arama olabilir. Her alt sorgu, en uygun eşleşmeleri bulmak için anlamsal yeniden boyutlandırmadan geçer. Kaynaklar alıntı amacıyla ayıklanır ve korunur.

4. Sonuç sentezi: Sistem tüm sonuçları birleşik bir yanıtta birleştirir. Birleştirilmiş içerik her zaman döndürülür. Kaynak başvuruları ve yürütme etkinlik günlüğü isteğe bağlıdır.

Components

Tüm aracısal alma senaryoları için bir bilgi bankası ve en az bir bilgi kaynağı gereklidir. Diğer bileşenler isteğe bağlıdır ve yapılandırmanıza bağlıdır.

Tümleştirme gereksinimleri

Uygulamanız bilgi bankasını çağırarak ve yanıtı işleyerek işlem hattını yönetir. İşlem hattı, yanıt oluşturmak üzere bir LLM’ye iletebileceğiniz veya doğrudan sohbet arayüzünüzde kullanabileceğiniz dayanak verileri döndürür. Uygulama ayrıntıları için bkz Eğitici: Uçtan uca etkili alma çözümü geliştirme.

Özellik kullanılabilirliği

Etmen tabanlı alma, hem genel kullanıma açık hem de önizleme özelliklerini destekler. Aracı destekli alma deneyiminize uygun Arama Hizmeti REST API sürümünü seçin:

• 2026-04-01 Minimum, ayıklayıcı alma ile genel olarak kullanılabilir bilgi kaynağı türlerini kullanan üretim iş yükleri için REST API'yi kullanın.

• 2026-08-01-preview LLM tabanlı sorgu planlaması, yanıt sentezi, minimal olmayan alma mantığı çalışması ve çok aşamalı iletiler gibi bilgi kaynağı türlerini ve özelliklerini önizlemek için REST API'yi kullanın. Bkz. Azure Yapay Zeka Arama önizleme terimleri.

Azure portalı ve Microsoft Foundry portalı, tüm aracısal alma özelliklerine yalnızca önizleme erişimi sağlar. Her iki portalda da oluşturulan nesneler önizleme şemalarını kullanabilir ve genel olarak kullanılabilir REST API sürümüne geçtiğinizde geçiş gerektirebilir. Sürüm sürüm döküm ve geçiş yönergeleri için bkz. Agentic retrieval kodunu en son sürüme geçirme.

Bölge kullanılabilirliği, sınırları ve faturalaması

Aracı destekli alma özelliğini kullanmadan önce, bölgesel olarak kullanılabilirliğini, hizmet sınırlarını ve faturalama modelini gözden geçirin.

Bölgesel kullanılabilirlik

Agentic retrieval , belirli bölgelerde kullanılabilir.

Limits

Bilgi kaynakları ve bilgi bankaları, fiyatlandırma katmanına ve alma mantığı çabalarına göre değişen maksimum sınırlara sahiptir.

Fatura

Aracı geri alma işleminde iki hizmetten ücret alınır.

• Azure Yapay Zeka Arama, alt sorgu yürütme ve anlamsal sıralama sırasında tüketilen alma belirteçleri için ücretlendirir. Ücretsiz plan (varsayılan olarak) aylık token izni sağlar. Standart plan, ücretsiz ödenek tüketildikten sonra kullandıkça öde fiyatlandırmasını etkinleştirir. Daha fazla bilgi için bakınız Etkin getirme faturalamasını etkinleştirme veya devre dışı bırakma.

• Azure OpenAI, LLM tabanlı sorgu planlama ve yanıt sentezi (önizleme) için kullanılan giriş ve çıkış belirteçleri üzerinden ücret alır. Fiyatlandırma her zaman 'kullandıkça öde' esasına dayanır ve bilgi tabanına atadığınız modele göre belirlenir. Ücretler Azure OpenAI faturanızda görünür. Fiyatlar için bkz. Azure OpenAI fiyatlandırması.

Aşağıdaki tabloda klasik tek sorgulu boru hattı ile ajan destekli geri alma çok sorgulu boru hattı arasındaki faturalama karşılaştırması yapılmaktadır. Klasik işlem hattında faturalanabilir bileşen anlamsal sıralayıcıdır.

Örnek: Tahmin maliyetleri

Bu örnek, sorgu planlama ve sorgu yürütme için maliyet tahmin sürecini göstermeye yardımcı olur, ancak yanıt sentezi için gösterilmez. Maliyetleriniz daha düşük olabilir. Geçerli fiyatlar için bkz. Azure Yapay Zeka Arama pricing ve Azure OpenAI fiyatlandırması.

Azure OpenAI'de sorgu planı maliyetlerini kullanım başına ödeme olarak tahmin etmek için, gpt-4o-mini'yi kullandığımızı varsayalım:

• 1 milyon giriş belirteci için 15 sent.
• 1 milyon çıkış birimi için 60 sent.
• Ortalama sohbet konuşması boyutu için 2.000 giriş belirteci.
• Ortalama çıkış planı boyutu için 350 token.

Sorgu yürütme için tahmini faturalama maliyetleri

Aracısal alma belirteci sayılarını tahmin etmek için, dizininizdeki ortalama bir belgenin nasıl göründüğüne dair bir fikirle başlayın. Örneğin, yaklaşık olarak:

• 10.000 öbek, her öbek pdf'nin bir-iki paragrafıdır.
• Öbek başına 500 token.
• Her alt sorgu, en fazla 50 parçayı yeniden sıralar.
• Ortalama olarak, sorgu planı başına üç alt sorgu vardır.

Yürütme fiyatını hesaplama

1. Plan başına üç alt sorguyla 2.000 aracılı alma işlemi gerçekleştirdiğimiz varsayılır. Bu bize toplam 6.000 sorgu verir.

2. Alt sorgu başına 50 öbek sıralayın, bu da toplamda 300.000 öbek yapar.

3. Ortalama parça 500 token olduğundan, yeniden sıralama için toplam token sayısı 150 milyondur.

4. Belirteç başına 0,022 abd doları varsayımsal fiyat göz önünde bulundurulduğunda 3,30 ABD doları cinsinden yeniden boyutlandırmanın toplam maliyetidir.

5. Sorgu planı maliyetlerine geçiş: 2.000 giriş tokeni, 2.000 etken geri alma işlemi ile çarpılarak toplam 60 sent için 4 milyon giriş tokenine eşittir.

6. Ortalama 350 belirteç temelinde üretim maliyetlerini tahmin edin. 350'yi 2.000 etken çağırım ile çarparsak toplamda 700.000 çıkış belirteci elde ederiz, bu da toplam 42 sent yapar.

Hepsini bir araya getirerek, Azure Yapay Zeka Arama'te eylemsel alma için yaklaşık 3,30 ABD doları, Azure OpenAI'deki giriş belirteçleri için 60 sent ve çıkış belirteçleri için 42 sent öder, toplamda sorgu planlaması için 1,02 ABD doları ödersiniz. Tam yürütme için birleşik maliyet 4,32 ABD dolarıdır.

Maliyetleri denetleme ipuçları

• Hangi kaynaklara ve kullanılan parametrelere hangi sorguların verildiğini öğrenmek için yanıttaki etkinlik günlüğünü gözden geçirin. Bu sorguları dizinlerinizde yeniden oluşturabilir ve belirteçleri tahmin etmek ve API tarafından bildirilen kullanımla karşılaştırmak için genel belirteç oluşturucu kullanabilirsiniz. Ancak sorgunun veya yanıtın kesin yeniden yapılandırılması garanti değildir. Faktörler, genel web verileri gibi bilgi kaynağı türleri veya kullanıcı kimliğine dayanan uzak bir SharePoint bilgi kaynağı gibi unsurları içerir ve bu da sorgu oluşturmayı etkileyebilir.

• Bilgi kaynaklarının (dizinler) sayısını azaltın; içeriği birleştirmek dağılımı ve belirteç hacmini düşürebilir.

• Sorgu planlama ve sorgu genişletme (yinelemeli arama) sırasında LLM kullanımını azaltmak için akıl yürütme çabasını azaltın.

• İçeriği düzenleyerek en uygun bilgilerin daha az kaynak ve belgeyle (örneğin, seçilmiş özetler veya tablolar) bulunabilmesini sağlayın.

Nasıl başlarsınız?

Ajan tabanlı bir alma çözümü oluşturmak için Azure portalını, Microsoft Foundry'nin yeni portalını, REST API'lerini veya eşdeğer bir Azure SDK paketini kullanabilirsiniz.

Sonraki adım