Relevansi dalam pencarian kata kunci (penilaian BM25)

Artikel ini menjelaskan algoritma penilaian relevansi BM25 yang digunakan untuk menghitung skor pencarian untuk pencarian teks lengkap. Relevansi BM25 hanya berlaku untuk pencarian teks lengkap. Kueri filter, kueri lengkapi otomatis serta kueri yang disarankan, pencarian wildcard, dan kueri pencarian fuzzy tidak diberi skor atau peringkat untuk relevansi.

Algoritma penilaian yang digunakan dalam pencarian teks lengkap

Pencarian Azure AI menyediakan algoritma penilaian berikut untuk pencarian teks lengkap:

Baik BM25 maupun Klasik adalah fungsi pencarian seperti TF-IDF yang menggunakan frekuensi istilah (TF) dan frekuensi dokumen terbalik (IDF) sebagai variabel untuk menghitung skor relevansi untuk setiap pasangan kueri-dokumen, yang kemudian digunakan untuk menentukan peringkat hasil. Meskipun secara konseptual mirip dengan klasik, BM25 berakar pada pengambilan informasi probabilistik yang menghasilkan kecocokan yang lebih intuitif, seperti yang diukur oleh penelitian pengguna.

BM25 menawarkan opsi kustomisasi tingkat lanjut, yang memungkinkan pengguna untuk memutuskan bagaimana skala skor relevansi dengan frekuensi istilah yang cocok.

Cara kerja peringkat BM25

Penilaian relevansi mengacu pada komputasi skor pencarian (@search.score) yang berfungsi sebagai indikator relevansi item dalam konteks kueri saat ini. Rentang tidak terbatas. Namun, semakin tinggi skornya, semakin relevan item tersebut.

Skor pencarian dihitung berdasarkan properti statistik input string dan kueri itu sendiri. Pencarian Azure AI menemukan dokumen yang cocok dengan istilah pencarian (beberapa atau semua, tergantung pada searchMode), mendukung dokumen yang berisi banyak instans istilah pencarian. Skor pencarian naik lebih tinggi lagi jika istilah tersebut jarang ditemukan di seluruh indeks data, tetapi umum dalam dokumen. Dasar pendekatan untuk menghitung relevansi ini dikenal sebagai TF-IDF atau istilah frekuensi terbalik dokumen frekuensi.

Skor pencarian dapat diulang sepanjang kumpulan hasil. Ketika beberapa hit memiliki skor pencarian yang sama, urutan item dengan skor yang sama tidak terdefinisi dan tidak stabil. Jalankan kueri lagi, dan Anda mungkin melihat item bergeser posisi, terutama jika Anda menggunakan layanan gratis atau layanan berbayar dengan beberapa replika. Mengingat dua item dengan skor yang identik, tidak ada jaminan bahwa satu item muncul terlebih dahulu.

Untuk memecahkan kebuntuan di antara skor berulang, Anda dapat menambahkan klausa $orderby untuk mengurutkan pertama berdasarkan skor, kemudian berdasarkan bidang lain yang dapat diurutkan (misalnya, ).

Hanya bidang yang ditandai sebagai searchable dalam indeks, atau searchFields dalam kueri, yang digunakan untuk penilaian. Hanya bidang yang ditandai sebagai retrievable, atau bidang yang ditentukan dalam select kueri, yang dikembalikan dalam hasil pencarian, bersama dengan skor pencariannya.

Segmen video berikut ini diteruskan dengan cepat ke penjelasan tentang algoritma peringkat yang tersedia secara umum yang digunakan dalam Pencarian Azure AI. Anda dapat menonton video lengkap untuk latar belakang lebih lanjut.

Skor dalam hasil teks

Setiap kali hasil diberi peringkat, @search.score properti berisi nilai yang digunakan untuk mengurutkan hasil.

Tabel berikut mengidentifikasi properti penilaian, algoritma, dan rentang.

Variasi skor

Skor pencarian memberikan pengertian umum hubungan, yang mencerminkan kekuatan kecocokan relatif terhadap dokumen lain dalam tataan hasil yang sama. Tetapi skor tidak selalu konsisten dari satu kueri ke kueri berikutnya, sehingga saat Anda bekerja dengan kueri, Anda mungkin melihat perbedaan kecil dalam cara dokumen pencarian diurutkan. Ada beberapa penjelasan mengapa hal ini mungkin terjadi.

Efek sharding pada hasil kueri

Sebuah shard adalah bagian dari sebuah indeks. Pencarian Azure AI memecah indeks menjadi pecahan untuk mempercepat proses penambahan partisi (dengan memindahkan pecahan ke unit pencarian baru). Pada layanan pencarian, manajemen shard adalah detail implementasi dan tidak dapat dikonfigurasi, tetapi mengetahui bahwa indeks dipecah membantu memahami anomali sesekali dalam perilaku peringkat dan lengkapi otomatis:

• Anomali peringkat: Skor pencarian dihitung pada tingkat pecahan terlebih dahulu, lalu dikumpulkan menjadi satu set hasil. Bergantung pada karakteristik konten pecahan, kecocokan dari satu pecahan mungkin memiliki peringkat lebih tinggi dibandingkan kecocokan di pecahan lain. Jika Anda melihat peringkat yang tidak intuitif dalam hasil pencarian, kemungkinan besar disebabkan oleh efek sharding, terutama jika ukuran indeksnya kecil. Anda dapat menghindari anomali peringkat ini dengan memilih untuk menghitung skor secara global di seluruh indeks, tetapi hal itu akan dikenai penalti performa.

• Anomali pelengkapan otomatis: Kueri pelengkapan otomatis, di mana kecocokan dibuat berdasarkan beberapa karakter pertama dari istilah yang sebagian dimasukkan, menggunakan parameter fuzzy yang mengizinkan penyimpangan kecil dalam ejaan. Untuk pelengkapan otomatis, pencocokan fuzzy dibatasi untuk istilah dalam pecahan saat ini. Misalnya, jika partisi berisi "Microsoft" dan istilah parsial "mikro" dimasukkan, mesin pencari akan mencocokkan "Microsoft" dalam partisi tersebut, tetapi tidak di partisi lain yang menyimpan bagian indeks yang tersisa.

Diagram berikut menunjukkan hubungan antara replika, partisi, pecahan, dan unit pencarian. Diagram tersebut menunjukkan contoh bagaimana indeks tunggal tersebar di empat unit pencarian dalam layanan dengan dua replika dan dua partisi. Masing-masing dari empat unit pencarian hanya menyimpan setengah dari pecahan indeks. Unit pencarian di kolom kiri menyimpan paruh pertama pecahan, yang terdiri dari partisi pertama, sementara unit pencarian di kolom kanan menyimpan paruh kedua pecahan, yang terdiri dari partisi kedua. Karena ada dua replika, artinya ada dua salinan masing-masing pecahan indeks. Unit pencarian di baris atas menyimpan satu salinan, yang terdiri dari replika pertama, sementara unit pencarian di baris bawah menyimpan salinan lain, yang terdiri dari replika kedua.

Diagram di atas hanya merupakan satu contoh. Banyak kombinasi partisi dan replika yang dapat dilakukan, hingga maksimum 36 total unit pencarian.

Statistik penilaian dan sesi lekat

Untuk skalabilitas, Pencarian Azure AI mendistribusikan setiap indeks secara horizontal melalui proses sharding, yang berarti bahwa bagian indeks secara fisik terpisah.

Secara default, skor dokumen dihitung berdasarkan properti statistik data dalam pecahan. Pendekatan ini umumnya bukan masalah untuk korpus data yang besar, dan memberikan kinerja yang lebih baik daripada harus menghitung skor berdasarkan informasi di semua pecahan. Namun demikian, menggunakan optimasi kinerja ini dapat menyebabkan dua dokumen yang sangat mirip (atau bahkan identik) berakhir dengan skor relevansi yang berbeda jika mereka berakhir di shard yang berbeda.

Jika Anda lebih suka menghitung skor berdasarkan properti statistik di semua shard, Anda dapat melakukannya dengan menambahkan scoringStatistics=global sebagai parameter kueri (atau menambahkan "scoringStatistics": "global" sebagai parameter isi permintaan kueri).

POST https://[service name].search.windows.net/indexes/hotels/docs/search?api-version=2026-04-01
{
    "search": "<query string>",
    "scoringStatistics": "global"
}

Menggunakan scoringStatistics akan memastikan bahwa semua shard dalam replika yang sama memberikan hasil yang sama. Meskipun demikian, replika yang berbeda bisa sedikit berbeda satu sama lain karena selalu diperbarui dengan perubahan terbaru pada indeks Anda. Dalam beberapa skenario, Anda mungkin ingin pengguna mendapatkan hasil yang lebih konsisten selama "sesi kueri". Dalam skenario seperti itu, Anda dapat memberikan sessionId sebagai bagian dari kueri Anda. sessionId adalah string unik yang Anda buat untuk merujuk ke sesi pengguna.

POST https://[service name].search.windows.net/indexes/hotels/docs/search?api-version=2026-04-01
{
    "search": "<query string>",
    "sessionId": "<string>"
}

Selama menggunakan sessionId yang sama, usaha terbaik yang dilakukan adalah menargetkan replika yang sama, menaikkan konsistensi hasil yang akan dilihat oleh pengguna Anda.

Penyetelan relevansi

Di Pencarian Azure AI, untuk pencarian kata kunci dan bagian teks kueri hibrid, Anda dapat mengonfigurasi parameter algoritma BM25 ditambah menyetel relevansi pencarian dan meningkatkan skor pencarian melalui mekanisme berikut.

parameter modeFitur (pratinjau)

Permintaan Dokumen Pencarian (pratinjau) mendukung featuresMode parameter yang memberikan detail lebih lanjut tentang skor relevansi BM25 di tingkat bidang. @searchScore Sedangkan dihitung untuk dokumen secara menyeluruh (relevansi dokumen ini terhadap kueri ini), featuresMode mengungkapkan informasi tentang kolom individual, seperti yang @search.features dinyatakan dalam struktur. Struktur berisi semua bidang yang digunakan dalam kueri (baik bidang tertentu melalui Bidangpencarian dalam kueri, atau semua bidang yang dikaitkan sebagai dapat dicari dalam indeks).

Nilai yang valid untuk featuresMode:

• "tidak ada" (default). Tidak ada detail penilaian tingkat fitur yang dikembalikan.
• "diaktifkan". Mengembalikan perincian penilaian terperinci per bidang

Untuk setiap bidang, @search.features berikan nilai berikut:

• Jumlah token unik yang ditemukan di lapangan
• Skor persamaan, atau ukuran seberapa mirip konten bidang, yaitu relatif terhadap istilah kueri
• Frekuensi istilah, atau berapa kali istilah kueri ditemukan pada bidang

Parameter ini sangat berguna ketika Anda mencoba memahami mengapa dokumen tertentu memberi peringkat lebih tinggi atau lebih rendah dalam hasil pencarian. Ini membantu menjelaskan bagaimana bidang yang berbeda berkontribusi pada skor keseluruhan.

Untuk kueri yang menargetkan bidang "deskripsi", permintaan mungkin terlihat seperti ini:

POST {{baseUrl}}/indexes/hotels-sample/docs/search?api-version=2026-08-01-preview  HTTP/1.1
  Content-Type: application/json
  Authorization: Bearer {{accessToken}}

    {
        "search": "lake view",
        "select": "HotelId, HotelName, Tags, Description",
        "featuresMode": "enabled",
        "searchFields": "Description, Tags",
        "count": true
    }

Respons yang menyertakan @search.features mungkin terlihat seperti contoh berikut.

  "value": [
    {
      "@search.score": 3.0860271,
      "@search.features": {
        "Description": {
          "uniqueTokenMatches": 2.0,
          "similarityScore": 3.0860272,
          "termFrequency": 2.0
        }
      },
      "HotelName": "Downtown Mix Hotel",
      "Description": "Mix and mingle in the heart of the city. Shop and dine, mix and mingle in the heart of downtown, where fab lake views unite with a cheeky design.",
      "Tags": [
        "air conditioning",
        "laundry service",
        "free wifi"
      ]
    },
    {
      "@search.score": 2.7294855,
      "@search.features": {
        "Description": {
          "uniqueTokenMatches": 1.0,
          "similarityScore": 1.6023184,
          "termFrequency": 1.0
        },
        "Tags": {
          "uniqueTokenMatches": 1.0,
          "similarityScore": 1.1271671,
          "termFrequency": 1.0
        }
      },
      "HotelName": "Ocean Water Resort & Spa",
      "Description": "New Luxury Hotel for the vacation of a lifetime. Bay views from every room, location near the pier, rooftop pool, waterfront dining & more.",
      "Tags": [
        "view",
        "pool",
        "restaurant"
      ]
    }
  ]

Anda dapat mengkonsumsi titik data ini dalam solusi penilaian kustom atau menggunakan informasi untuk men-debug masalah relevansi pencarian.

Jumlah hasil peringkat dalam respons kueri teks penuh

Secara default, jika Anda tidak menggunakan pagination, mesin pencari mengembalikan 50 kecocokan peringkat tertinggi teratas untuk pencarian teks lengkap. Anda dapat menggunakan top parameter untuk mengembalikan jumlah item yang lebih kecil atau lebih besar (hingga 1.000 dalam satu respons). Anda dapat menggunakan skip dan next untuk halaman hasil. Paging menentukan jumlah hasil pada setiap halaman secara logis untuk mendukung navigasi konten. Untuk informasi selengkapnya, lihat Hasil pencarian bentuk.

Jika kueri teks lengkap Anda adalah bagian dari kueri hibrid, Anda bisa mengatur maxTextRecallSize untuk menambah atau mengurangi jumlah hasil dari sisi teks kueri.

Pencarian teks lengkap tunduk pada batas maksimum 1.000 kecocokan (lihat batas respons API). Setelah 1.000 kecocokan ditemukan, mesin pencari tidak lagi mencari lebih banyak.

Lihat juga

• Profil Penilaian
• Referensi REST API
• API Dokumen Pencarian
• Pencarian Azure AI .NET SDK