Arama hizmetinin kapasitesini tahmin edip yönetme

Azure Yapay Zeka Arama, kapasiteyi farklı şekilde işleyen iki fiyatlandırma modeli sunar:

• Adanmış: Replikaları ve bölümleri boyutlandırıp bir hizmet katmanı seçerek kapasiteyi planlayın.

  • Çoğaltmaları ve bölümleri kullanarak kapasiteyi doğrudan önceden sağlayın.
  • Gerekli depolama alanını (bölümler) ve gerekli aktarım hızını (çoğaltmalar) tahmin edin.
  • Beklenen yoğun talebe göre gereken kapasiteyi sağlamak için bir hizmet katmanı seçin.
  • Kapasiteyi önceden yapılandırdıktan sonra, kullanımdan bağımsız olarak Arama Birimleri (SU) ile ölçülen saatlik bir ücret ödersiniz.

• Sunucusuz (önizleme):Hizmet, kullanım ve hizmet sınırlarına göre kapasiteyi otomatik olarak yönetir. Kapasiteyi önceden hazırlamanız gerekmez. Bunun yerine, maliyeti yönetmek için iş yükü verimliliğinizi iyileştirin.

  • Kapasite, taleple otomatik olarak ölçeklendirilir (boştayken sıfıra ölçeklendirilebilir).
  • İşlem Birimleri (CU) ve depolama tarafından ölçülen gerçek kullanıma göre faturalandırılırsınız.
  • Planlama, altyapı yerine şu maliyet etmenlerine odaklanır: Sorgu desenleri, Dizin boyutu ve büyümesi ve Veri alımı desenleri. Bkz . Sunucusuz model için maliyeti iyileştirme.

Daha fazla bilgi edinmek için bkz. Nasıl yapılır:

• Maliyetleri planlama ve yönetme
• Fiyatlandırma modeli ve hizmet katmanı seçme
• Sunucusuz fiyatlandırma modeliyle maliyetleri iyileştirme

Adanmış model kapasitesini planlama

Ayrılmış modelde, Arama Birimlerini (SU) kullanarak kapasiteyi hazırlarsınız:

• Arama birimi (SU) = çoğaltma sayısı × bölüm sayısı
• Replika: Arama motorunun kopyaları. Sorgu aktarım hızı ve yüksek kullanılabilirlik sağlar.
• Bölüm: Depolama birimleri. Depolama ve dizin oluşturma işleme kapasitesi sağlar.

Her hizmet 1 kopya × 1 bölüm (1 SU) ile başlar. Değişken iş yüklerine uyum sağlamak için çoğaltmaları ve bölümleri bağımsız olarak ekleyebilir veya kaldırabilirsiniz. Kapasite eklemek , arama hizmeti çalıştırma maliyetini artırır.

36 birim sınırının altında kalan olası birleşimleri belirlemek için bölümler ve çoğaltmalar tablosunu gözden geçirin.

çoğaltmaların ve bölümlerin işleme hızı ve disk GÇ gibi fiziksel özellikleri hizmet katmanına göre değişir. Standart bir arama hizmetinde, çoğaltmalar ve bölümler, temel bir hizmetinkilerden daha hızlı ve daha büyüktür.

Adanmış model için kapasite ne zaman eklenmeli?

Şu durumlarda replikalar veya bölümler eklemeyi değerlendirin:

• Sorgu gecikmesi artar veya hizmet düzeyi sözleşmesi ölçütleri karşılanmaz.
• HTTP 503 (Hizmet kullanılamıyor) hatalarının sıklığı artar.
• HTTP 429 (Çok fazla istek) hatalarının sıklığı artar; bu, isteklerin kısıtlandığına işaret eder.
• Büyük sorgu hacimleri bekleniyor.
• Dizin oluşturma işleri yavaş veya geride kalıyor.
• Depolama veya dizin oluşturma aktarım hızı yetersiz.

Ölçeklendirme kılavuzu:

• Sorgu aktarım hızını ve kullanılabilirliğini artırmak için çoğaltmalar ekleyin.
• Depolama ve dizin oluşturma performansını artırmak için bölümler ekleyin.
• Sorgu ağırlıklı iş yükleri genellikle daha fazla replika gerektirir.
• Büyük dizinler, performansı sürdürmek için ek replikalar gerektirebilir.

Seçtiğiniz hizmet katmanı bölüm boyutunu ve hızını belirler. Her katman, çeşitli senaryolara uyan bir dizi özellik etrafında iyileştirilmiştir. Daha üst düzey bir katman seçerseniz, S1 ile gittiğinize göre daha az bölüme ihtiyacınız olabilir. Kendi kendine yapılan testlerle yanıtlamanız gereken sorulardan biri, daha büyük ve daha pahalı bir bölümün daha düşük bir katmanda sağlanan bir hizmette iki daha ucuz bölümden daha iyi performans sağlayıp sağlamadığıdır.

Tek bir hizmetin tüm iş yüklerini (dizin oluşturma ve sorgular) işlemek için yeterli kaynaklara sahip olması gerekir. Hiçbir iş yükü arka planda çalışmaz. Sorgu isteklerinin doğal olarak daha az sık olduğu zamanlar için dizin oluşturmayı zamanlayabilirsiniz, ancak hizmet başka bir durumda bir görevin önceliğini başka bir göreve göre belirlemez. Ayrıca, hizmetler veya düğümler dahili olarak güncelleştirildiğinde belirli miktarda yedeklilik sorgu performansını kolaylaştırır.

Genel bir kural olarak, hizmet işlemleri sorgu iş yüklerine yatkın olduğunda arama uygulamaları genellikle bölümlerden daha fazla kopyaya ihtiyaç duyar. Her replika, dizininizin bir kopyasıdır; bu sayede hizmet, istekleri birden çok kopya arasında yük dengelemesiyle dağıtabilir. Azure Yapay Zeka Arama bir dizinin tüm yük dengelemesini ve çoğaltmasını yönetir. Hizmetiniz için ayrılan çoğaltma sayısını istediğiniz zaman değiştirebilirsiniz. Standart arama hizmetinde en fazla 12 çoğaltma ve Temel arama hizmetinde 3 çoğaltma ayırabilirsiniz. Çoğaltma atamasını Azure portalından veya programlama seçeneklerinden birini kullanarak yapabilirsiniz.

Ek bölümler yoğun dizin oluşturma iş yükleri için yararlıdır. Ek bölümler, okuma ve yazma işlemlerini daha fazla sayıda işlem kaynağına yayar.

Son olarak, daha büyük dizinlerin sorguya alınması daha uzun sürer. Bu nedenle, bölümlerdeki her artımlı artışın çoğaltmalarda daha küçük ama orantılı bir artış gerektirdiğini fark edebilirsiniz. Sorgularınızın karmaşıklığı ve sorgu hacmi faktörleri, sorgu yürütmenin ne kadar hızlı döndürülmesine neden olur.

Hizmet sınırları ve geçerli ölçeklendirme aralıkları için bkz:

• Katmanlar ve SKU'lar için hizmet sınırları
• Fiyatlandırma modeli ve hizmet katmanı seçme

Kapasiteyi yönetme ve ayarlama

Kapasiteyi değiştirmek anlık bir işlem değildir. Veri hacmine ve işlem türüne bağlı olarak ölçeklendirme dakikalardan birkaç saate kadar sürebilir.

Bir arama hizmetini ölçeklendirirken, aşağıdaki araçlar ve yaklaşımlar arasından seçim yapabilirsiniz:

• Azure portalı
• Azure PowerShell
• Azure CLI
• Yönetim REST API'si

Hizmetinizin kapasitesini artırmak veya azaltmak için iki seçeneğiniz vardır:

• Partisyon ve replikaları ekleme veya kaldırma
• Fiyatlandırma katmanınızı değiştirme

Bölümleri ve replikaları ekleyin veya kaldırın

1. Azure portalında arama hizmetinize gidin.

2. Sol bölmeden Ayarlar>Ölçeği'ni seçin.

   Aşağıdaki ekran görüntüsünde tek bir çoğaltma ve bölümle sağlanan bir Standart hizmet gösterilmektedir. Alttaki formül, kaç arama biriminin kullanıldığını gösterir (1). Birim fiyatı 100 ABD doları ise (gerçek bir fiyat değilse), bu hizmeti çalıştırmanın aylık maliyeti ortalama 100 ABD doları olacaktır.

   

3. Bölüm sayısını artırmak veya azaltmak için kaydırıcıyı kullanın ve kaydet'i seçin.

   Bu örnek, ikinci bir kopya ve bölüm ekler. Arama birimi sayısına dikkat edin; faturalama formülü kopyalar ile bölümlerin çarpımı olduğundan (2 x 2), artık dört oldu. Kapasiteyi ikiye katlama, hizmeti çalıştırma maliyetini iki katına çıkartır. Arama birimi maliyeti 100 TL ise, yeni aylık fatura artık 400 ABD doları olacaktır.

   Her katmanın birim başına geçerli maliyetleri için fiyatlandırma sayfasını ziyaret edin.

   

4. İşlemin başlatıldığını onaylamak için bildirimlerinizi denetleyin.

   

   Bu işlemin tamamlanması birkaç saat sürebilir. Arka planda gerçekleştiğinden arama hizmetiniz tamamen çalışır durumda kalır ve okuma ve yazma işlemleri için kullanılabilir.

   İşlemi iptal edebilir veya ilerleme durumunu izleyemezsiniz. Ancak, değişiklikler devam ederken aşağıdaki ileti görüntülenir.

   

Fiyatlandırma katmanınızı değiştirme

Fiyatlandırma katmanınız, Ayrılmış fiyatlandırma modeli için arama hizmetinizin maksimum depolama alanını belirler. Daha fazla veya daha az kapasiteye ihtiyacınız varsa, depolama gereksinimlerinizi karşılayan farklı bir fiyatlandırma katmanına geçebilirsiniz. (Bu yalnızca Ayrılmış fiyatlandırma modeli katmanları için geçerlidir. Sunucusuz model Geliştirici katmanı seçildikten sonra değiştirilemez).

Fiyatlandırma katmanları kapasiteye ek olarak dizinler, dizin oluşturucular ve diğer arama nesneleri üzerindeki sınırları belirler. Devam etmeden önce geçerli katmanınızın hizmet sınırlarını ve istediğiniz katmanı karşılaştırın. Genellikle daha yüksek bir katmana geçmek depolama sınırınızı ve vektör sınırınızı artırır, istek aktarım hızını artırır ve gecikme süresini azaltırken, daha düşük bir katmana geçmek tam tersi bir etkiye sahiptir.

Daha yüksek bir fiyatlandırma katmanına geçmek, arama hizmetinizi çalıştırma maliyetini de artırır. Daha fazla bilgi için bkz. fiyatlandırma sayfası.

Fiyatlandırma katmanınızı değiştirmek için:

1. Azure portalında arama hizmetinize gidin.

2. Sol bölmeden Ayarlar>Ölçeği'ni seçin.

3. Geçerli katmanınızın altında Fiyatlandırma Katmanını Değiştir'i seçin.

   

4. Fiyatlandırma Katmanı Seç sayfasında listeden farklı bir katman seçin.

   Temel, S1, S2 ve S3 arasında geçiş yapabilirsiniz ancak Ücretsiz, S3HD, L1 veya L2'ye geçiş yapamazsınız. Bu katmanlar seçilebilir değildir ve soluk görünür.

   

5. Ölçeklendirme işlemini başlatmak için Kaydet'i seçin.

   

   Bu işlemin tamamlanması birkaç saat sürebilir. Arka planda gerçekleştiğinden arama hizmetiniz tamamen çalışır durumda kalır ve okuma ve yazma işlemleri için kullanılabilir.

   İşlemi iptal edebilir veya ilerleme durumunu izleyemezsiniz. Ancak, değişiklikler devam ederken aşağıdaki ileti görüntülenir.

   

Ayrılmış model için ölçeklendirme istekleri nasıl işlenir?

Arama hizmeti bir ölçek isteği aldığında:

1. İsteğin geçerli olup olmadığını denetler.
2. Verileri ve sistem bilgilerini yedeklemeye başlar.
3. Hizmetin hâlihazırda bir hazırlık durumunda (şu anda replika veya bölüm eklenip eklenmediği ya da çıkarılıp çıkarılmadığı) olup olmadığını denetler.
4. Sağlamayı başlatır.

Hizmetin boyutuna ve isteğin kapsamına bağlı olarak hizmetin ölçeklenmesi birkaç dakika ile birkaç saat arasında sürebilir. Yedekleme süresi, veri miktarına ve bölüm ve çoğaltma sayısına göre de değişir.

Ölçek isteğini işleme adımları tamamen ardışık değildir. Örneğin, sistem bunu güvenli bir şekilde gerçekleştirebildiğinde sağlamayı başlatır. Bu, yedekleme işlemi tamamlanırken olabilir.

Ölçeklendirme sırasında oluşan hatalar

Aşağıdaki tabloda, ölçeklendirme işlemleri sırasında oluşabilecek hataların nedenleri ve çözümleri listeleniyor.

¹ Yedeklemeler, iç işlemler olup ölçeklendirme alıştırmasını kesintiye uğratma olasılığı düşük olduğu için durum bilgisine sahip değildir.

² Arama hizmetiniz sağlama durumunda durdurulmuş gibi görünüyorsa, sıfır sorgu birimi olan ve dizin güncelleştirmesi olmayan, kullanılamayan yalnız bırakılmış dizinleri denetleyin. Kullanılamayan bir dizin, hizmet kapasitesinde yapılan değişiklikleri engelleyebilir. Özellikle, anahtarları artık geçerli olmayan CMK ile şifrelenmiş dizinleri arayın. Dizini silin veya dizini yeniden çevrimiçi hale getirmek ve ölçeklendirme işleminizin engelini kaldırmak için anahtarları geri yükleyin.

Bölüm ve çoğaltma birleşimleri

Aşağıdaki grafik Standart katman ve üzeri için geçerlidir. Hizmet başına en fazla 36 arama birimi koşulu altında, tüm olası bölüm ve çoğaltma kombinasyonlarını gösterir.

Temel arama hizmetlerinin arama birimi sayısı daha düşüktür.

• 3 Nisan 2024'ten önce oluşturulan arama hizmetlerinde, Temel hizmetler tam olarak bir bölüme ve toplamda maksimum üç SU sınırı içinde en fazla üç replikaya sahip olabilir. Ayarlanabilir tek kaynak kopyalardır. Ancak hizmetinizi yükselterek bölüm sayınızı artırabilirsiniz.

• Desteklenen bölgelerde, 3 Nisan 2024'ten sonra oluşturulan arama hizmetlerinde, Temel hizmetler en fazla üç bölüme ve üç çoğaltmaya sahip olabilir. Bölümlerin ve çoğaltmaların tam kümesini desteklemek için maksimum Hizmet Birimi (SU) sınırı dokuzdur.

Oluşturma tarihinden bağımsız olarak ücretli herhangi bir seviyedeki arama hizmetleri için arama sorgularında yüksek kullanılabilirlik sağlamak amacıyla en az iki çoğaltma gerekir.

Katman ve para birimi başına faturalama ücretleri için Azure Yapay Zeka Arama fiyatlandırma sayfasına bakın.

Ayrılmış fiyatlandırma modeli katmanını kullanarak kapasite tahmini

Depolama gereksinimleriniz, derlemeyi beklediğiniz dizinlerin boyutuna bağlıdır. Tahminlere yardımcı olacak sağlam buluşsal yöntemler veya genel yönergeler yoktur. Bir dizinin boyutunu belirlemenin tek yolu bir dizin oluşturmaktır. Boyutu belirteçlere ve eklemelere, öneride bulunanları, filtrelemeyi ve sıralamayı etkinleştirip etkinleştirmediğinize veya vektör sıkıştırmadan yararlanıp yararlanamayacağınıza bağlıdır.

Temel veya daha yüksek bir faturalanabilir katmanda kapasite tahmini. Ücretsiz katmanı, birden çok müşteri tarafından paylaşılan fiziksel kaynaklarda çalışır ve denetiminizin dışındaki faktörlere tabidir. Geliştirme sırasında dizin miktarı, boyutu ve sorgu hacimleriyle ilgili daha gerçekçi tahminler için yalnızca faturalanabilir arama hizmetinin ayrılmış kaynakları daha büyük örnekleme ve işlem sürelerine uyum sağlayabilir.

1. Düşük katmanların ihtiyacınız olan dizin sayısını destekleyip desteklemediğini belirlemek için her katmandaki hizmet sınırlarını gözden geçirin. Etkin geliştirme, test ve üretim için bir dizinin birden çok kopyasına ihtiyacınız olup olmadığını göz önünde bulundurun.

   Arama hizmeti nesne sınırlarına (dizin sayısı üst sınırı, dizin oluşturucu, beceri kümesi vb.) ve depolama sınırlarına tabidir. İlk önce ulaşılan sınır geçerli sınırdır.

2. Faturalanabilir bir katmanda hizmet oluşturma. Katmanlar belirli iş yükleri için iyileştirilmiştir. Örneğin, depolama için iyileştirilmiş katmanın sınırı 10 dizindir çünkü düşük sayıda büyük dizini destekleyecek şekilde tasarlanmıştır.

   • Öngörülen yük hakkında emin değilseniz, Temel veya S1'de düşük bir başlangıç yapın.

   • Test büyük ölçekli dizin oluşturma ve sorgu yükleri içeriyorsa, S2 veya hatta S3 ile yüksekten başlayın.

   • Depolama için Optimizasyon ile başlayın, örneğin, iç iş uygulamalarında olduğu gibi büyük miktarda verinin dizinini oluştururken sorgu yükü görece düşükse L1 veya L2'yi kullanın.

3. Kaynak verilerin bir dizine nasıl çevrildiğini belirlemek için bir ilk dizin oluşturun. Dizin boyutunu tahmin etmenin tek yolu budur. Alan tanımları üzerindeki öznitelikler fiziksel depolama gereksinimlerini etkiler:

   • Anahtar sözcük araması için alanları filtrelenebilir ve sıralanabilir olarak işaretlemek dizin boyutunu artırır.

   • Vektör araması için, vektör boyutunu küçültmek için parametreler ayarlayabilirsiniz.

4. Azure portalında Monitor depolama, hizmet sınırları, sorgu hacmi ve gecikme süresi. Azure portalı saniyede sorgu, kısıtlanmış sorgular ve arama gecikme süresini gösterir. Bu değerler doğru katmanı seçerek karar vermenize yardımcı olabilir.

5. Yüksek kullanılabilirlik veya yavaş sorgu performansını azaltmak için çoğaltmalar ekleyin.

   Sorgu yüklerini karşılamak için kaç replika gerektiği konusunda bir yönerge yoktur. Sorgu performansı, sorgunun karmaşıklığı ve rakip iş yüklerine bağlıdır. Çoğaltmaların eklenmesi net bir şekilde daha iyi performansa neden olsa da, sonuç kesinlikle doğrusal değildir: üç çoğaltma eklemek üçlü aktarım hızını garanti etmez. Çözümünüz için QPS'yi tahmin etme konusunda rehberlik için bkz . Performansı analiz etme ve Sorguları izleme.

Ters dizin için boyut ve karmaşıklık içeriğe göre belirlenir; içine beslediğiniz veri miktarına göre belirlenmeyebilir. Yüksek yedekliliğe sahip büyük bir veri kaynağı, yüksek oranda değişken içerik içeren daha küçük bir veri kümesinden daha küçük bir dizine neden olabilir. Bu nedenle, özgün veri kümesinin boyutuna göre dizin boyutunu çıkarsamak nadiren mümkündür.

Depolama gereksinimleri, hiç aramadığınız verileri eklerseniz şişirilebilir. İdeal olarak, belgeler yalnızca arama deneyimi için ihtiyacınız olan verileri içerir.

Hizmet düzeyi sözleşmesinde dikkat edilmesi gerekenler

Hizmet düzeyi sözleşmeleri (SLA) Ücretsiz katman ve önizleme özelliklerini kapsamaz. Tüm faturalanabilir katmanlar için, hizmetiniz için yeterli yedeklilik sağladığınızda SLA'lar geçerlilik kazanır.

• İki veya daha fazla kopya, sorgu (okuma) SLA'larını karşılamakta.

• Üç veya daha fazla çoğaltma sorgu ve dizin oluşturma (okuma-yazma) SLA'larını karşılar.

Bölüm sayısı SLA'ları etkilemez.

Sunucusuz model için maliyeti iyileştirme

Sunucusuz fiyatlandırma modelinde:

• Hizmet kapasiteyi otomatik olarak yönetir.
• Çoğaltmaları, bölümleri veya arama birimlerini yapılandırmanız gerekmez.
• İşlem, iş yüküne (sorgu ve dizin oluşturma talebi) göre dinamik olarak ölçeklendirilir ve boşta kaldığında sıfıra ölçeklendirilebilir.

Sunucusuz modeline yönelik sınırlamalar hakkında daha fazla bilgi edinmek için bkz. Hizmet sınırları.

Faturalama iki boyuta dayanır:

• İşlem kullanımı (CU): Sorgu ve dizin oluşturma işlemlerine göre ücretlendirilir.
• Dizinli depolama: Aylık GB başına ücretlendirilir.

Faturalama tüketim tabanlı olduğundan maliyet doğrudan kullanıma bağlıdır:

• Karmaşık sorgular daha fazla işlem tüketir.
• Verimsiz şema tasarımı hem dizin oluşturma hem de sorgu maliyetlerini artırır.
• Büyük veya sık güncelleştirilen dizinlere sahip zayıf sorgu desenleri depolama ve işlem kullanımını artırır.

İş yükü verimliliğini iyileştirme

Sunucusuz modelde verimsizlik maliyet olarak göründüğünden, iş yükü kullanan tasarım uygulamazsanız aynı çalışma için daha fazla ödeme yapabilirsiniz. Sunucusuz harcamayı denetlemenin en iyi yolu, dizinlerinizi ve sorgularınızı başlangıçtan itibaren verimli bir şekilde tasarlamaktır.

Sunucusuz fiyatlandırma modelini kullanırken iş yüklerini verimlilik için tasarlamak için şunları göz önünde bulundurun:

Dizin tasarımı

• Yalnızca sorgularda kullanılan alanları ekleyin.
• Vektör boyutlarını mümkün olduğunca azaltın.
• Gereksiz filtrelenebilir, sıralanabilir veya modellenebilir özniteliklerden kaçının.

Sorgu desenleri

• Döndürülen alanları sınırlamak için kullanın $select .
• Sonuç kümelerini azaltmak için filtreleri erken uygulayın.
• Derin sayfalama ($skip) kullanmaktan kaçının.
• Geniş kapsamlı tam metin sorguları yerine hedeflenen sorguları tercih edin.
• Daha yüksek işlem maliyeti nedeniyle karma aramayı dikkatli bir şekilde kullanın.

Monitoring

• Pahalı sorguları belirlemek için CU tüketimini izleyin.
• Depolama büyümesini izleyin ve kullanılmayan verileri kaldırın.

Sunucusuz'da performansı geliştirmek (daha hızlı, daha hedefli sorgular) genellikle maliyeti azaltır.

Daha fazla bilgi için bkz. Azure Yapay Zeka Arama'te Sunucusuz fiyatlandırma modeliyle maliyetleri optimize etme.

Bölgesel kapasiteyle ilgili dikkat edilmesi gerekenler

Kapasite ve kullanılabilirlik desteklenen bölgeye göre farklılık gösterebilir. Bazı bölgelerin yeni hizmetler sağlama veya mevcut hizmetleri ölçeklendirme konusunda kısıtlamaları olabilir.

Tercih ettiğiniz Azure Yapay Zeka Arama bölge kapasite kısıtlamaları nedeniyle kullanılamıyorsa bkz. Azure Yapay Zeka Arama'da bölgesel kapasite kısıtlamalarını işleme.

Sonraki adımlar