Dil kaynağı bileşenlerini anlama

Dil kaynakları, dizin oluşturma ve sorgulama kapasitelerini yeni dillere ve bölgelere genişleten sözcük ayırıcılardan ve kök buluculardan oluşur. Sözcük ayırıcıları hem dizin oluşturma hem de sorgulama sırasında kullanılır. Kök ayırıcılar yalnızca sorgulama için kullanılır. Windows Search, belirli bir dil yerel ayarı için IWordBreaker ve IStemmer uygulamalarına bağlanmak üzere dil kaynağı DLL'lerini kullanır.

Bu konu aşağıdaki gibi düzenlenmiştir:

Dil kaynakları hakkında

Windows Search, bir belgeye yerel biçiminde erişmek için bir filtre (IFilter arabiriminin bir uygulaması) ve ILoadFilter kullanır. IFilter bileşeni belgeden metin içeriğini, özelliklerini ve biçimlendirmesini ayıklar. IFilter, filtrelediği belgenin yerel ayarını tanımlar. Dizin oluşturma bileşeni, bu yerel ayar için uygun sözcük ayırıcıyı çağırır. Hiçbiri kullanılamıyorsa, dizin oluşturma bileşeni nötr sözcük ayırıcısını çağırır. Bir kelime ayırıcı, bir IFilter'ten Unicode karakterlerinin giriş akışını alır ve bu akışı ayrıştırarak tek tek kelimeler ve deyimler üretir. Sözcük ayırıcı, tarih ve saat biçimlerini de normalleştirir. Dizin oluşturucu, sözcükleri tüm büyük harflere dönüştürerek sözcük ayırıcı tarafından üretilen sözcükleri normalleştirir. Dizin oluşturucu, büyük harfli kelimeleri tam metin dizinine kaydeder, ancak o yerel ayar için tanımlanan önemsiz kelimeler hariç.

Aşağıdaki tabloda, "Şekil 1'de dizin oluşturma işlemi sırasında Windows Search için dil kaynaklarının rolü gösterilmektedir" cümlesinin eylemleri ve buna karşılık gelen sonuçları listelenmiştir.

Eylem Sonuçta elde edilen metin
Özgün metin Şekil 1'de, dizin oluşturma işlemi sırasında Windows Search için dil kaynaklarının rolü gösterilmektedir.
Filtreleme Şekil 1'de, dizin oluşturma işlemi sırasında Windows Search için dil kaynaklarının rolü gösterilmektedir.
Sözcük hataya neden olan Şekil 1, Windows Arama için dil kaynaklarının rolünü, dizin oluşturma süreci sırasında gösterir. EOS
Normalleştirme ŞEKIL 1, DİL KAYNAKLARI'NIN, WINDOWS ARAMASI'NIN İNDEKS OLUŞTURMA SÜRECİNDEKİ ROLÜNÜ GÖSTERMEKTEDİR.
Gürültü kelimelerinin kaldırılması ŞEKIL, ÖRNEKLER, ROL, DIL, KAYNAKLAR, WINDOWS, ARAMA, SıRASıNDA, DIZIN, OLUŞTURMA, SÜREÇ
Tam metin dizinine kaydetme ŞEKIL, ÖRNEKLER, ROL, DIL, KAYNAKLAR, WINDOWS, ARAMA, SıRASıNDA, DIZIN, OLUŞTURMA, SÜREÇ

 

Sözcük ayırıcılar ve kök ayırıcılar, sorgu zamanında FREETEXT sorgularını genişletmek için kullanılır. Sorgunun yerel ayarı, bir dil kodu tanımlayıcısı (LCID) sorgu parametresi olarak geçirilmediği sürece varsayılan yerel ayardır. Sorgu bileşeni, sorgunun WHERE yan tümcesinde listelenen sorgu terimlerinde uygun sözcük ayırıcıyı çağırır. Örneğin, sorgunun WHERE yan tümcesi "FREETEXT (elmalar, portakallar ve armutlar) içeriyorsa, sözcük ayırıcı "elmalar, portakallar ve armutlar" metnini alır. SORGU WHERE yan tümcesi CONTAINS tam metin koşulunu kullanıyorsa, sözcük ayırıcıdan gelen metin çıkışı normalleştirilir. Aksi takdirde, sorgu bileşeni, sözcük ayırıcısının tanımladığı her sözcüğü, ilgili dil ve yerel ayar için uygun kök ayırıcıya geçirir. Kök oluşturucu, bu sözcük için alternatif veya çekimli form listesi oluşturur. Sorgu bileşeni, genişletilmiş sorgu terimleri listesini normalleştirir ve kirli sözcükleri kaldırır.

Aşağıdaki tabloda "elmalar, portakallar ve armutlar" sorgusu için eylemler ve buna karşılık gelen sonuçlar listelenir.

Eylem Sonuçta elde edilen metin
Özgün metin elmalar, portakallar ve armutlar
Sözcük hataya neden olan elmalar, portakallar ve armutlar, EOS
Dallanma elma, elmalar, portakal, turuncumsu, portakallar ve armut, armutlar
Normalleştirme ELMA, ELMALAR, PORTAKAL, TURUNCU, PORTAKALLAR, VE, ARMUT, ARMUTLAR
Gürültü kelimelerinin kaldırılması ELMA, ELMALAR, PORTAKAL, TURUNCU, PORTAKALLAR, ARMUT, ARMUTLAR
Genişletilmiş sorgu terimleri listesi ELMA, ELMALAR, PORTAKAL, TURUNCU, PORTAKALLAR, ARMUT, ARMUTLAR

 

Genişletilmiş sorgu terimleri, sorgunun özgün sorgunun amacıyla eşleşen belgeleri bulma olasılığını artırır. Kelime bölücü veya kökleyicinin sorgu zamanında oluşturduğu metin diskte depolanmaz.

Sözcük hataya neden olan

Sözcük kesme, metnin tek tek metin belirteçlerine veya sözcüklere ayrılmasıdır. Özellikle Roma alfabesine sahip olan birçok dil, sözcükleri, tümcecikleri ve tümceleri ayırt etmek için kullanılan bir dizi sözcük ayırıcısına (boşluk gibi) ve noktalama işaretlerine sahiptir. Sözcük ayırıcıların güvenilir ve doğru sonuçlar sağlamak için doğru dil buluşsal yöntemlerine güvenmesi gerekir. Sözcük kesme, karakter tabanlı yazma veya betik tabanlı alfabe sistemleri için daha karmaşıktır ve burada tek tek karakterlerin anlamı bağlamdan belirlenir. Sözcük ayırıcı uygulamanızı etkileyebilecek dilsel konular hakkında daha fazla bilgi için bkz. Dilbilimsel ve Unicode Ile İlgili Önemli Noktalar.

Dallanma

Windows Search, yalnızca sorgu sırasında FREETEXT ve özellik sorgularındaki terimler için ek sözcük formları oluşturmak amacıyla kök oluşturucuları uygular. Kök bulucular, sözcükler için alternatif veya çekimli formlar listesini oluşturmak amacıyla morfolojik analiz yapar ve dil bilgisi kuralları uygular. Alternatif formlar genellikle aynı gövde veya taban formuna sahiptir. Dizin Oluşturma Hizmeti, bir sözcük için ekli formlar oluşturarak, bir sorguyla istatistiksel olarak daha ilgili olan sorgu sonuçlarını döndürür. Örneğin, "yüzme yarışması" için yapılan bir tam metin sorgusu, "yüzme, yüzmenin, yüzmeler, yüzer, yüzdü, yüzmüş" veya "yarışma, yarışmanın, yarışmalar, yarışmaların, toplantı, karşılaştı" ve bu terimlerin çeşitli bileşimlerini içeren belgelerle eşleşir.

Bazı diller, hem standart hem de değişken çekimler için hem dizin zamanında hem de sorgu zamanında çekimli terimlerin oluşturulmasını gerektirir. Bu durumda sözcük ayırıcı bileşeninde kök oluşturma işlemi gerçek kök ayırıcıda minimum kök oluşturma çalışması ile gerçekleşir. Örneğin, Japonca kelime çözümleyici, bir sorgunun arama terimlerinin farklı biçimlerini bulmasını sağlamak için hem dizin oluşturma hem de sorgulama sırasında kökteleme gerçekleştirir.

Normalleştirme

Tüm dillerin belgeleri tek bir dizinde depolanır. Sözcükler ve dil kuralları önemli ölçüde farklılık gösterse de sayı, tarih ve saat gibi tüm sözcük ayırıcılarda tutarlı bir şekilde ele alınan bazı önemli noktalar vardır. Sözcük ayırıcı uygulamanızı etkileyebilecek normalleştirme konuları hakkında daha fazla bilgi için bkz. Surface Form Normalization.

Kirli sözcükler

"Gürültü kelimeler" olarak da bilinen durdurma sözcükleri, içerik için önemli göstergeler olmayan kelimelerdir. Dizin Oluşturma Hizmeti, sorgu terimlerinden ve tam metin dizinine dahil edilen içerikten gelen kirli sözcükleri kaldırır. yer, belgede veya sorgu terimleri listesinde bir sözcüğün ortaya çıkmasıdır. Bir belge veya sorgudaki gürültü sözcüklerinin konumu boşluk olarak kaydedilir. Kirli sözcüklerin kaldırılması, gereksiz dizin büyümesini önleyerek sorgu performansını artırır. Ayrıca sorgu sonuçlarının ilgi düzeyini artırır. Windows Search'i belirli diller için kirli sözcük listelerini kullanacak şekilde yapılandırabilirsiniz. Bu listeler, söz konusu dil için bir sözcük ayırıcı çağrıldığında kullanılır. Örneğin, İngilizce dilinde "the" o kadar sık oluşur ki benzersiz anahtar olarak çok az değere sahiptir. "The" kirli sözcük listesindedir, içerik dizinine yazılmaz ve sorgulanırsa hiçbir sonuç döndürmez.

Gürültü sözcükleri, tümcecik sorgularında yer tutucu görevi görür. "Bir metin olan 'wag the dog' ifadesini içeren bir belge, dizinde 1. geçişte 'wag' ve 3. geçişte 'dog' ile depolanmaktadır." "Wag dog" ifadeli sorgu eşleşmiyor, ancak "wag a dog" ifadeli sorgu eşleşiyor, çünkü oluşum bilgileri eşleşiyor. "Mor kuyruğunu sallayan köpek" ifadesi eşleşmiyor çünkü 2. örnekte dizinde "mor" bulunamadı. Ancak, "wag the dog" sorgusu, "wag" ile "dog" arasında gürültüsüz bir kelime olup olmadığını etkili bir şekilde belirlemenin bir yolu olmadığından, "wag mor köpek" içeren belgeleri sonuç olarak verir.

Dil Kaynaklarını Genişletme

Kelime Ayırıcı ve Kök Bulucu Gerçekleştirme

Dilbilimsel ve Unicode Ile İlgili Önemli Noktalar

Sorun Giderme Dil Kaynakları ve En İyi Yöntemler