Ako testovať vyhľadávanie podľa obsahu (fulltext)
Keď do vyhľadávacieho poľa zadáme slovo alebo krátku frázu, očakávame, že systém rýchlo zobrazí správne výsledky. Málokedy pritom rozmýšľame nad tým, čo všetko musí aplikácia urobiť, aby našla hľadaný výraz v stovkách článkov, dokumentov alebo produktov.
Fulltextové vyhľadávanie neprehľadáva iba názvy alebo vopred určené hodnoty. Dokáže pracovať aj s textovým obsahom. Vďaka tomu môžeme nájsť článok podľa vety v jeho texte, dokument podľa mena uvedeného na tretej strane alebo produkt podľa slov v jeho podrobnom opise.
Výsledok však závisí od toho, aký obsah systém spracoval, ako má vyhľadávanie nastavené a akým spôsobom vyhodnocuje zadaný výraz.
Čo znamená fulltextové vyhľadávanie
Pri bežnom vyhľadávaní podľa presnej hodnoty môže systém porovnávať zadaný údaj s konkrétnym poľom. Ak napríklad hľadáme objednávku s číslom 2026-1058, aplikácia môže priamo vyhľadať záznam, ktorý má toto číslo uložené v databáze.
Fulltextové vyhľadávanie je určené najmä na prácu s väčším množstvom textu. Môže prehľadávať obsah článkov, opisy produktov, poznámky, komentáre, e-maily alebo text získaný z dokumentov.
Predstavme si článok, ktorý obsahuje vetu:
„Automatizované testovanie pomáha zrýchliť regresné testy.“
Používateľ zadá výraz regresné testy. Fulltext môže článok nájsť, aj keď sa tento výraz nenachádza v jeho názve. Systém však musí najprv vedieť, že dané slová v článku existujú.
Ako sa obsah pripravuje na vyhľadávanie
Pri malom množstve údajov by aplikácia mohla pri každom vyhľadávaní postupne prechádzať celý obsah. Pri tisícoch dokumentov alebo miliónoch záznamov by však takýto postup mohol byť veľmi pomalý.
Preto sa zvyčajne vytvára fulltextový index. Môžeme si ho predstaviť ako register na konci knihy. Pri každom výraze je uvedené, v ktorých dokumentoch sa nachádza. Odborne sa takáto štruktúra nazýva invertovaný index.
Pred zaradením obsahu do indexu môže systém vykonať niekoľko krokov:
- získa text z článku, dokumentu alebo databázy,
- rozdelí ho na jednotlivé slová alebo iné vyhľadateľné časti,
- upraví veľké a malé písmená,
- podľa nastavenia spracuje diakritiku a rôzne tvary slov,
- vynechá niektoré veľmi časté slová,
- uloží informáciu o tom, kde sa jednotlivé výrazy nachádzajú.
Rozdelenie textu na menšie časti sa nazýva tokenizácia. Výsledné slová alebo časti slov sa označujú ako tokeny. Ďalšie spracovanie môže zjednotiť veľké a malé písmená alebo previesť rôzne tvary slova na spoločný základ.
Konkrétny postup závisí od použitej technológie a jej nastavenia. Nie každý systém napríklad považuje slová test, testy a testovanie za príbuzné. Rovnako nemusí automaticky považovať výrazy regresné a regresne za rovnaké.
Pri dokumentoch je dôležité aj to, či z nich systém dokáže získať text. PDF vytvorené priamo z textového dokumentu ho zvyčajne obsahuje. Naskenovaná strana však môže byť iba obrázkom. V takom prípade je potrebné optické rozpoznávanie znakov, známe ako OCR. Bez neho fulltext nemusí mať čo indexovať.
Čo sa stane po zadaní výrazu
Keď používateľ odošle vyhľadávaný výraz, systém ho najprv spracuje. Môže ho rozdeliť na jednotlivé slová a upraviť podobným spôsobom, akým predtým spracoval indexovaný obsah.
Následne vyhľadá zodpovedajúce výrazy v indexe. Nemusí pritom iba zisťovať, či dokument obsahuje určité slovo. Môže zohľadniť aj to, kde sa slovo nachádza, koľkokrát sa opakuje a či sa viaceré hľadané slová nachádzajú blízko seba.
Ak používateľ zadá automatizované regresné testovanie, systém môže hľadať:
- dokumenty obsahujúce aspoň jedno zo zadaných slov,
- iba dokumenty obsahujúce všetky slová,
- presnú frázu v zadanom poradí,
- podobné alebo jazykovo príbuzné výrazy.
Výsledkom preto nemusí byť iba zoznam nájdených dokumentov. Fulltext často vypočíta aj mieru relevantnosti a podľa nej výsledky zoradí.
Prečo sú niektoré výsledky vyššie ako iné
Nie každý nájdený dokument je pre používateľa rovnako dôležitý. Ak sa hľadaný výraz nachádza v názve článku, môže mať väčšiu váhu, než keď sa objaví iba raz na konci dlhého textu.
Poradie výsledkov môže ovplyvniť napríklad:
- výskyt výrazu v názve,
- počet výskytov v texte,
- blízkosť jednotlivých slov,
- zhoda celej frázy,
- dĺžka dokumentu,
- dátum vytvorenia alebo úpravy,
- popularita alebo iná dôležitosť obsahu.
Tieto pravidlá nie sú univerzálne. Každý systém môže relevantnosť počítať inak a niektoré aplikácie ju kombinujú s ďalšími pravidlami. Vyhľadávanie v e-shope môže napríklad uprednostniť dostupný produkt alebo platenú ponuku, aj keď iný produkt lepšie zodpovedá zadanému textu.
Aké technológie sa používajú
Fulltextové vyhľadávanie nemusí byť samostatná aplikácia. Môže byť zabudované priamo v databáze alebo môže fungovať ako samostatná vyhľadávacia služba.
Fulltextové funkcie poskytujú napríklad databázy PostgreSQL, MySQL a Microsoft SQL Server. Takéto riešenie môže byť postačujúce, keď sa prehľadávajú údaje uložené priamo v databáze a aplikácia nepotrebuje veľmi rozsiahle možnosti vyhľadávania.
Pri väčšom objeme obsahu alebo zložitejších požiadavkách sa používajú špecializované vyhľadávacie technológie. Medzi známe riešenia patria Elasticsearch a Apache Solr. Umožňujú nastavovať analýzu textu, jazykové pravidlá, relevantnosť, zvýrazňovanie výsledkov, filtre a ďalšie funkcie.
Použiť možno aj spravované cloudové služby, napríklad Azure AI Search. Tie môžu kombinovať klasické fulltextové vyhľadávanie s vektorovým a sémantickým vyhľadávaním.
Výber technológie závisí od množstva údajov, požadovanej rýchlosti, podporovaných jazykov, spôsobu aktualizácie indexu, bezpečnosti a možností prevádzky. Samotný názov technológie ešte nezaručuje kvalitné výsledky. Veľmi dôležité zostáva jej nastavenie a kvalita zdrojového obsahu.
Čo fulltextové vyhľadávanie môže podporovať
Podľa konkrétneho riešenia môže fulltext pracovať s presnými slovami, frázami, rôznymi tvarmi slov alebo ich kombináciami. Môže ignorovať rozdiel medzi veľkými a malými písmenami, zohľadňovať jazyk textu alebo tolerovať niektoré preklepy.
Vyhľadávacie pole môže byť doplnené o filtre. Používateľ tak môže najprv vyhľadať dokumenty obsahujúce slovo zmluva a následne výsledky obmedziť podľa autora, dátumu, typu dokumentu alebo kategórie.
Fulltext môže tiež zvýrazniť nájdený výraz a zobraziť krátku časť textu, v ktorej sa nachádza. Používateľ potom nemusí otvárať každý výsledok, aby zistil, prečo ho systém našiel.
Nie všetky tieto možnosti sú automatickou súčasťou každého riešenia. Musia byť podporované použitou technológiou a správne nastavené.
Čo fulltext nemusí vedieť
Klasický fulltext pracuje najmä so slovami a ich výskytom v texte. To ešte neznamená, že rozumie významu otázky rovnakým spôsobom ako človek.
Ak dokument obsahuje slovo automobil a používateľ hľadá auto, systém ho nemusí nájsť, ak nemá nastavenú prácu so synonymami. Problém môže vzniknúť aj pri skloňovaní, diakritike, preklepoch, skratkách alebo slovách s viacerými významami.
Fulltext tiež nemusí automaticky:
- prehľadávať všetky polia a prílohy,
- rozpoznať text v naskenovanom dokumente,
- hľadať podľa ľubovoľnej časti slova,
- nájsť synonymá a významovo podobné výrazy,
- správne spracovať všetky jazyky,
- okamžite zobraziť nový alebo upravený obsah,
- vysvetliť, prečo bol výsledok zaradený na určité miesto.
Obmedzenie nemusí znamenať chybu. Ak systém nepodporuje vyhľadávanie podľa časti slova alebo ignorovanie diakritiky, môže ísť o zámerné rozhodnutie. Dôležité je, aby bolo jeho správanie známe, jednotné a zrozumiteľné pre používateľa.
Prečo sa nový dokument nemusí nájsť okamžite
Vyhľadávací index musí reagovať aj na zmeny obsahu. Keď používateľ pridá nový článok, upraví dokument alebo odstráni záznam, príslušná zmena sa musí preniesť do indexu.
V niektorých systémoch sa index aktualizuje takmer okamžite. Inde sa obsah spracúva v pravidelných intervaloch alebo prostredníctvom úloh bežiacich na pozadí. Nový dokument preto môže byť v aplikácii dostupný, ale vo výsledkoch vyhľadávania sa objaví až neskôr.
Ak aktualizácia zlyhá, fulltext môže pracovať so starými údajmi. Môže nenájsť nový dokument, zobrazovať pôvodný text po jeho úprave alebo ponúkať odkaz na už odstránený obsah.
Od čoho závisí kvalita vyhľadávania
Dobré výsledky nevzniknú iba výberom vyhľadávacej technológie. Závisia aj od kvality zdrojového obsahu a od rozhodnutí pri nastavovaní systému.
Výsledky ovplyvňuje najmä:
- kvalita textu získaného z dokumentov,
- správne jazykové nastavenie,
- výber polí zaradených do indexu,
- pravidlá pre rôzne tvary slov a synonymá,
- aktuálnosť indexu,
- spôsob výpočtu relevantnosti,
- správne nastavenie používateľských oprávnení.
Prístupové oprávnenia sú obzvlášť dôležité. Systém môže technicky nájsť dokument, ale nesmie ho zobraziť používateľovi, ktorý naň nemá právo. Ochrana sa má týkať nielen otvorenia dokumentu, ale aj jeho názvu, ukážky textu a ďalších údajov vo výsledku vyhľadávania.
Databázové, fulltextové, sémantické a hybridné vyhľadávanie
Tieto spôsoby vyhľadávania sa môžu dopĺňať, ale nie sú totožné.
Databázové vyhľadávanie je vhodné napríklad na nájdenie objednávky podľa presného čísla, zákazníka podľa identifikátora alebo záznamov s určitým stavom. Pracuje najmä so štruktúrovanými údajmi uloženými v konkrétnych poliach.
Fulltextové, niekedy označované aj ako lexikálne vyhľadávanie, pracuje s textom. Hľadá slová a frázy v článkoch, opisoch, poznámkach alebo dokumentoch a môže výsledky zoradiť podľa relevantnosti.
Sémantické alebo vektorové vyhľadávanie sa snaží pracovať aj s významovou podobnosťou. Pri otázke Ako zruším objednávku? môže nájsť text o stornovaní nákupu, aj keď neobsahuje presné slovo zruším.
Ani sémantické vyhľadávanie však nie je neomylné. Môže nájsť významovo podobný, ale vecne nevhodný výsledok. Zároveň môže prehliadnuť presný kód, číslo produktu alebo odborný výraz, pri ktorom je klasická textová zhoda veľmi dôležitá.
Preto sa používa aj hybridné vyhľadávanie. Spája fulltextové vyhľadávanie s vektorovým vyhľadávaním a následne vyhodnotí alebo zoradí výsledky z oboch spôsobov.
Kam patrí RAG
RAG je skratka z anglického názvu Retrieval-Augmented Generation, teda generovanie odpovede rozšírené o vyhľadanie podkladov.
RAG nie je iba ďalší spôsob vyhľadávania. Je to postup, ktorý spája vyhľadávanie s jazykovým modelom. Jeho zjednodušený priebeh môže vyzerať takto:
- používateľ položí otázku,
- systém vyhľadá relevantné dokumenty alebo ich časti,
- nájdený obsah poskytne jazykovému modelu ako podklad,
- model z podkladov vytvorí výslednú odpoveď.
Vyhľadávacia časť RAG môže používať klasický fulltext. Môže však používať aj vektorové vyhľadávanie alebo ich kombináciu. V takom prípade hovoríme o hybridnom vyhľadávaní.
Ak sa používateľ opýta: „Ako môžem zrušiť objednávku?“, fulltext môže nájsť dokumenty obsahujúce slová zrušiť alebo objednávka. Sémantické vyhľadávanie môže nájsť aj návod, ktorý používa výraz storno nákupu. RAG následne z vybraných podkladov vytvorí súvislú odpoveď.
Kvalita odpovede RAG preto výrazne závisí od vyhľadávania. Ak systém nájde nesprávne, neaktuálne alebo neúplné podklady, jazykový model môže vytvoriť nesprávnu odpoveď, aj keď ju napíše veľmi presvedčivo.
RAG musí rešpektovať aj prístupové oprávnenia. Používateľ nesmie prostredníctvom odpovede získať obsah dokumentu, ku ktorému nemá prístup. Nestačí teda chrániť iba otvorenie dokumentu. Prístup sa musí kontrolovať už pri vyhľadávaní podkladov.
Prečo je užitočné vedieť, ako fulltext funguje
Používateľ potrebuje najmä nájsť správny obsah. Tester, analytik, vývojár alebo správca systému však potrebuje rozumieť aj tomu, čo sa deje medzi zadaním výrazu a zobrazením výsledkov.
Keď poznáme princíp fulltextu, vieme si položiť presnejšie otázky:
- Ktoré časti obsahu sa indexujú?
- Ako systém pracuje s diakritikou a rôznymi tvarmi slov?
- Kedy sa nový alebo zmenený obsah dostane do indexu?
- Podľa čoho sa určilo poradie výsledkov?
- Môže používateľ vo výsledkoch vidieť obsah, ku ktorému nemá oprávnenie?
- Používa aplikácia klasický fulltext, sémantické alebo hybridné vyhľadávanie?
- Používajú sa výsledky aj ako podklady pre odpovede RAG?
- Čo sa stane, ak systém nenájde žiadnu zhodu?
Fulltextové vyhľadávanie teda nie je iba jedno textové pole a tlačidlo Hľadať. Je za ním príprava obsahu, vytvorenie a aktualizácia indexu, spracovanie otázky, výpočet relevantnosti aj kontrola prístupových práv. Môže fungovať samostatne alebo ako jedna z dôležitých častí moderného vyhľadávania a systémov RAG.
Praktické scenáre na overenie týchto vlastností sú spracované v súvisiacom článku „Ako testovať vyhľadávanie podľa obsahu (fulltext)“.
