Ανάκτηση Πληροφορίας — Ιούνιος 2024¶
20240620_150041.jpg¶
ΤΜΗΜΑ ΜΗΧΑΝΙΚΩΝ Η/Υ ΚΑΙ ΠΛΗΡΟΦΟΡΙΚΗΣ ΠΑΝΕΠΙΣΤΗΜΙΟ ΠΑΤΡΑΣ ΑΝΑΚΤΗΣΗ ΠΛΗΡΟΦΟΡΙΑΣ 2023-2024 Διδάσκων: [όνομα παραλείπεται] ΔΙΑΡΚΕΙΑ 3:00 ΩΡΕΣ Σελίδες 2
ΘΕΜΑ 1 (Μονάδες 2,5)
α. Στην ανάδραση με σχετική πληροφορία (relevance feedback) ο χρήστης παρεμβαίνει στη διαδικασία ανάκτησης προσδιορίζοντας (μετά από ένα αρχικό ερώτημα) ποια κείμενα είναι σχετικά από τα επιστρεφόμενα, έτσι ώστε το ερώτημα να επαναδιατυπωθεί αυτόματα με σκοπό την επιστροφή πιο σχετικών κειμένων. Εξηγήστε πως το μοντέλο διανυσματικού χώρου θα μπορούσε να επεκταθεί για να υλοποιήσει μία τέτοια στρατηγική. Εξηγήστε επίσης πως μοντέλα βαθιάς μηχανικής μάθησης όπως το BERT θα μπορούσαν να βοηθήσουν σε μια τέτοια προσέγγιση.
Σημείωση: η φωτογραφία περιέχει χειρόγραφες απαντήσεις φοιτητή.
β. Θεωρήστε ότι έχουμε μία συλλογή κειμένων και όρων που περιγράφεται από τον ακόλουθο πίνακα (ο αριθμός σε κάθε κελί συμβολίζει το πλήθος εμφανίσεων της κάθε λέξης στο κείμενο):
| Term1 | Term2 | Term3 | Term4 | Term5 | Term6 | Term7 | Term8 | |
|---|---|---|---|---|---|---|---|---|
| Doc1 | 0 | 3 | 4 | 0 | 0 | 2 | 4 | 0 |
| Doc2 | 5 | 5 | 0 | 0 | 4 | 0 | 4 | 3 |
| Doc3 | 3 | 0 | 4 | 3 | 4 | 0 | 0 | 5 |
| Doc4 | 0 | 7 | 0 | 3 | 2 | 0 | 4 | 3 |
| Doc5 | 0 | 1 | 0 | 0 | 0 | 5 | 4 | 2 |
| Doc6 | 2 | 0 | 2 | 0 | 0 | 4 | 0 | 1 |
| Doc7 | 3 | 5 | 3 | 4 | 0 | 0 | 4 | 2 |
| Doc8 | 0 | 3 | 0 | 0 | 0 | 4 | 4 | 2 |
| Doc9 | 0 | 0 | 3 | 3 | 3 | 0 | 0 | 1 |
| Doc10 | 0 | 5 | 0 | 0 | 0 | 4 | 4 | 2 |
(i) Σχεδιάστε το ανεστραμμένο αρχείο το οποίο θα πρέπει να δημιουργηθεί για την αποθήκευση της πληροφορίας που δίνει ο συγκεκριμένος πίνακας.
(ii) Εξηγήστε πως το ανεστραμμένο αρχείο θα απαντούσε στο ερώτημα Q=term1 AND term3 στο μοντέλο Boolean.
(iii) Παρουσιάστε (γενικά και όχι για το συγκεκριμένο πίνακα) στρατηγικές τομής ή ένωσης λιστών όρων στο μοντέλο διανυσματικού χώρου (υπόδειξη (αν και δεν είναι υποχρεωτική): θυμηθείτε τις έννοιες DAAT (Document At A Time) και TAAT (Term At A Time) processing που είχαμε πει στο μάθημα).
ΘΕΜΑ 2 (Μονάδες 2,5)
α. Λόγω του μεγάλου όγκου δεδομένων που έχουν να χειριστούν οι μηχανές ψαξίματος στον παγκόσμιο ιστό, συχνά διατηρούν δύο ανεστραμμένα αρχεία ένα που περιέχει πληροφορία για όλα τα κείμενα και αποθηκεύεται στο δίσκο και ένα μικρότερου μεγέθους που περιέχει ένα υποσύνολο της συνολικής πληροφορίας και αποθηκεύεται στην κύρια μνήμη. Τα δύο αυτά ανεστραμμένα αρχεία λειτουργούν με τη λογική ότι σε δοθέν ερώτημα, πρώτα θα ερωτηθεί η δομή στην κύρια μνήμη και αν η απάντηση δεν είναι ικανοποιητική θα ερωτηθεί και η δομή στον δίσκο. Προτείνετε πολιτικές δημιουργίας και ενημέρωσης της δομής ανεστραμμένων αρχείων της κύριας μνήμης,
20240620_150058.jpg¶
Σημείωση: η φωτογραφία ξεκινά στη μέση της ερώτησης· το αρχικό τμήμα της δεν φαίνεται.
υποθέτοντας ότι η μηχανή ακολουθεί ένα συνδυασμό μοντέλου διανυσματικού χώρου, και μίας link μετρικής (ανεξάρτητης περιεχομένου), στη βαθμολόγηση των ιστοσελίδων. Σκεφτείτε και επεκτάσεις των πολιτικών για ανεστραμμένα αρχεία πολλαπλών στρωμάτων (tiered indices).
β. Ένα σημαντικό πρόβλημα στο μοντέλο διανυσματικού χώρου είναι η μεγάλη διάσταση του χώρου που παράγεται καθώς το πλήθος των όρων, που αποτελεί και το μέγεθος του χώρου είναι γενικά μεγάλο. Το πρόβλημα αυτό μπορεί να αντιμετωπιστεί με τη χρήση τεχνικών μείωσης διαστατικότητας που αναπαριστούν και κείμενα και όρους σε χώρους αρκετά μικρότερης τάξεως. Αναφέρετε ποιες είναι οι βασικές τεχνικές μείωσης διαστατικότητας και ποιες οι διαφορές μεταξύ τους. Ειδικότερα εξετάστε τις τεχνικές LSI, LDA, Word Embeddings (word2vec), BERT Embeddings και αναφέρετε τις μεταξύ τους διαφορές.
ΘΕΜΑ 3 (Μονάδες 2,5)
α. Θεωρώντας ότι ο αριθμός των επιστρεφόμενων κειμένων είναι 100, σχεδιάστε τα γραφήματα ανάκλησης ακρίβειας, για το ακόλουθο ερώτημα, όπως διατυπώθηκε σε δύο μηχανές (δίνονται ο αριθμός των σχετικών κειμένων και η θέση τους στο αποτέλεσμα):
M1: Αριθμός: 10, θέση: 1, 3, 5, 17, 19, 23, 33, 64, 81, 98 M2: Αριθμός: 10, θέση: 1, 4, 12, 15, 29, 34, 61, 80, 83, 99.
Με βάση τα δύο προκύπτοντα γραφήματα συγκρίνετε μεταξύ τους τις δύο μηχανές.
β. Κάντε την ίδια σύγκριση χρησιμοποιώντας τη μετρική NDCG (αναφέρετε απλώς τον τύπο που προκύπτει για κάθε μηχανή όχι αναλυτικό υπολογισμό, θεωρώντας ότι τα πέντε πρώτα σχετικά κείμενα έχουν κέρδος συνάφειας 2 τα επόμενα πέντε κέρδος συνάφειας 1 και τα μη σχετικά 0.)
ΘΕΜΑ 4 (2.5)
α. Στην πολυγλωσσική ανάκτηση πληροφορίας επιδιώκεται η ανάκτηση κειμένων σε μία πολυγλωσσική συλλογή, με τη δυνατότητα οι ερωτήσεις να γίνονται σε περισσότερες της μίας διαφορετικές γλώσσες. Προτείνετε τρόπους επέκτασης των κλασσικών συστημάτων για την υλοποίηση ενός πολυγλωσσικού συστήματος.
β. Εξηγήστε τις έννοιες της συνωνυμίας και της πολυσημίας και πως αυτές επηρεάζουν την ανάκληση και την ακρίβεια σε συστήματα Ανάκτησης Πληροφορίας. Αναφέρετε τεχνικές αντιμετώπισης της συνωνυμίας και εξηγήστε πως η χρήση του Pagerank θα μπορούσε να αντιμετωπίσει την πολυσημία στο ψάξιμο στον Παγκόσμιο Ιστό.
γ. Περιγράψτε το αποτέλεσμα προσθήκης νέων, ή μεταβολής υπαρχόντων κειμένων στη στρατηγική του μοντέλου διανυσματικού χώρου. Ποιες τιμές πρέπει να επανυπολογιστούν; Πως μπορεί η στρατηγική δυναμοποίησης να μεταβληθεί έτσι ώστε να είναι πιο ευέλικτη στην προσθήκη νέων κειμένων;
Σημείωση: στη σελίδα υπάρχουν υπογραμμίσεις και διαγραφές (με στυλό) στα «α.» και «β.» του Θέματος 3, και κύκλος στο «γ.» του Θέματος 4. Σημείωση: αχνό κείμενο που διαφαίνεται από την πίσω όψη της σελίδας δεν μεταγράφεται.
Λύσεις (⚪ AI, μη επαληθευμένο)
Κατάσταση: ⚪ AI, μη επαληθευμένο Πηγή: λύσεις AI (deepseek-flash), ανεξάρτητη επανάληψη και αντιπαραβολή· καμία δεν έχει ελεγχθεί από άνθρωπο
Προσοχή
Λύση από AI — ελέγξτε την· δεν έχει επαληθευτεί από άνθρωπο. Η ένδειξη «δύο λύσεις συμφωνούν» δεν σημαίνει ότι η απάντηση είναι σωστή.
AI λύσεις — 2024-06¶
Οι λύσεις γράφτηκαν από μοντέλα AI και δεν έχουν ελεγχθεί από άνθρωπο. Η αρίθμηση ακολουθεί το αρχείο θεμάτων.
Θέμα 1¶
Αξιοπιστία: μία λύση AI, δεν έχει αντιπαραβληθεί με δεύτερη · εμπιστοσύνη λύτη: υψηλή
α. Στο μοντέλο διανυσματικού χώρου η ανάδραση σχετικότητας υλοποιείται συνήθως με τον αλγόριθμο Rocchio. Αν \(q_0\) είναι το αρχικό διάνυσμα ερωτήματος, \(R\) το σύνολο των χαρακτηρισθέντων ως σχετικών και \(N\) το σύνολο των μη σχετικών εγγράφων, το νέο διάνυσμα ερωτήματος είναι [ q_{\text{new}}=\alpha q_0+\beta\frac{1}{|R|}\sum_{d\in R}d-\gamma\frac{1}{|N|}\sum_{d\in N}d, ] με \(\alpha,\beta,\gamma\ge 0\) βάρη. Έτσι το ερώτημα μετακινείται προς το κέντρο των σχετικών διανυσμάτων και απομακρύνεται από τα μη σχετικά· η διαδικασία επαναλαμβάνεται για μερικούς κύκλους. Τα \(d\) είναι κανονικοποιημένα διανύσματα tf-idf και η ομοιότητα υπολογίζεται με συνημίτονο. Το BERT μπορεί να βοηθήσει είτε ως bi-encoder που παράγει πυκνά διανύσματα για ερώτημα/έγγραφα και εφαρμόζει αντίστοιχη «Rocchio» ενημέρωση στον διανυσματικό χώρο, είτε ως cross-encoder reranker που βαθμολογεί ζεύγη (ερώτημα, έγγραφο) και εκπαιδεύεται/προσαρμόζεται με τα σήματα σχετικότητας του χρήστη. Επίσης μπορεί να χρησιμοποιηθεί για επέκταση ερωτήματος με συνώνυμα/παραφράσεις και για αποσαφήνιση εννοιών με βάση το συμφραζόμενο.
β. (i) Ανεστραμμένο αρχείο (σε κάθε όρο: έγγραφο:συχνότητα):
- Term1: Doc2:5, Doc3:3, Doc6:2, Doc7:3
- Term2: Doc1:3, Doc2:5, Doc4:7, Doc5:1, Doc7:5, Doc8:3, Doc10:5
- Term3: Doc1:4, Doc3:4, Doc6:2, Doc7:3, Doc9:3
- Term4: Doc3:3, Doc4:3, Doc7:4, Doc9:3
- Term5: Doc2:4, Doc3:4, Doc4:2, Doc9:3
- Term6: Doc1:2, Doc5:5, Doc6:4, Doc8:4, Doc10:4
- Term7: Doc1:4, Doc2:4, Doc4:4, Doc5:4, Doc7:4, Doc8:4, Doc10:4
- Term8: Doc2:3, Doc3:5, Doc4:3, Doc5:2, Doc6:1, Doc7:2, Doc8:2, Doc9:1, Doc10:2
(ii) Στο Boolean μοντέλο για \(Q=\text{term1 AND term3}\) λαμβάνονται οι ταξινομημένες λίστες εγγράφων όπου οι όροι εμφανίζονται τουλάχιστον μία φορά: [ L(\text{term1})={2,3,6,7},\qquad L(\text{term3})={1,3,6,7,9}. ] Με τομή (merge) των δύο λιστών προκύπτει [ L(Q)={3,6,7}. ] Άρα επιστρέφονται τα Doc3, Doc6 και Doc7. Οι συχνότητες δεν επηρεάζουν το Boolean αποτέλεσμα, μόνο η ύπαρξη του όρου.
(iii) Γενικές στρατηγικές: - TAAT (Term At A Time): διαβάζονται διαδοχικά οι λίστες των όρων του ερωτήματος και ενημερώνονται αθροιστικά scores ανά έγγραφο (accumulators). Είναι φυσικό για OR/διανυσματικά ερωτήματα, αλλά απαιτεί πολλούς μετρητές. - DAAT (Document At A Time): γίνεται συγχώνευση των λιστών με αύξον docID· για κάθε έγγραφο συλλέγονται οι συνεισφορές των όρων που το περιέχουν και υπολογίζεται απευθείας το τελικό score. Είναι κατάλληλο για τομές/φιλτράρισμα και για αλγορίθμους top-\(k\). - Τομή λιστών: multiway merge ταξινομημένων λιστών, ή δύο-δύο συγχώνευση· χρήση skip pointers/galloping search, εκκίνηση από τη μικρότερη λίστα και φιλτράρισμα υποψηφίων. - Ένωση λιστών: k-way merge με heap ή απλή σάρωση όλων των postings, με αθροιστές scores. - Top-\(k\) βελτιστοποιήσεις: διάταξη όρων κατά idf/impact, όρια αποκοπής, WAND/MaxScore, ώστε να αποφεύγονται πλήρεις σαρώσεις όταν το τρέχον \(k\)-οστό score δεν μπορεί να βελτιωθεί.
Θέμα 2¶
Αξιοπιστία: μία λύση AI, δεν έχει αντιπαραβληθεί με δεύτερη · εμπιστοσύνη λύτη: υψηλή
α. Η κύρια μνήμη πρέπει να κρατά ένα «μερικό» ανεστραμμένο ευρετήριο που μεγιστοποιεί την πιθανότητα να απαντήσει ικανοποιητικά στα συχνότερα/σημαντικότερα ερωτήματα. Επειδή το τελικό score είναι συνδυασμός VSM και link μετρικής, [ s(d,q)=s_{\text{VSM}}(d,q)+\lambda s_{\text{link}}(d), ] η link μετρική είναι ανεξάρτητη περιεχομένου και σχετικά σταθερή, άρα κατάλληλη για στατική ιεράρχηση σελίδων. Πολιτικές δημιουργίας/ενημέρωσης: - Τοποθέτηση στη μνήμη σελίδων με υψηλό PageRank/link score, υψηλή επισκεψιμότητα/δημοτικότητα, πρόσφατη ενημέρωση ή υψηλή προεπιλεγμένη ποιότητα. - Χρήση πολλαπλών επιπέδων: L0/RAM για κορυφαίες σελίδες, L1/SSD, L2/δίσκος για πλήρες ευρετήριο. - Διατήρηση delta index στη μνήμη για νέα/τροποποιημένα έγγραφα και περιοδική συγχώνευση με το πλήρες ευρετήριο (π.χ. LSM-tree λογική). - Ενημέρωση με βάση logs: προαγωγή συχνά ανακτώμενων/υψηλού PageRank σελίδων, υποβιβασμός παλαιών/σπάνιας χρήσης. - Ερώτημα πρώτα στη μνήμη· αν το \(k\)-οστό score είναι μεγαλύτερο από ένα άνω φράγμα για ό,τι μπορεί να επιστρέψει ο δίσκος, τερματισμός χωρίς πρόσβαση στον δίσκο· αλλιώς fallback και συγχώνευση αποτελεσμάτων. - Για tiered indices: ανάθεση εγγράφων σε επίπεδα με βάση PageRank, δημοτικότητα, συχνότητα προσπέλασης και άνω φράγμα VSM score· εξέταση επιπέδων κατά φθίνουσα μέγιστη δυνατή βαθμολογία και πρώιμος τερματισμός με top-\(k\) pruning. Τα hot postings μπορούν να αντιγράφονται σε ανώτερο επίπεδο, ενώ ενημερώσεις γίνονται πρώτα στο ταχύτερο επίπεδο.
β. Βασικές τεχνικές μείωσης διαστατικότητας: - LSI (Latent Semantic Indexing): SVD στον όρο-έγγραφο πίνακα, \(A\approx U_k\Sigma_k V_k^T\). Κρατά \(k\) κύριες συνιστώσες· γραμμική, μη πιθανοτική μέθοδος, βασίζεται σε συνολική συν-εμφάνιση και ανιχνεύει συνωνυμία/θέματα, αλλά οι διαστάσεις δεν είναι άμεσα ερμηνεύσιμες. - LDA (Latent Dirichlet Allocation): πιθανοτικό γενετικό μοντέλο θεμάτων· κάθε έγγραφο είναι μίγμα θεμάτων και κάθε θέμα κατανομή πάνω σε λέξεις. Δίνει μη αρνητικά, ερμηνεύσιμα θέματα· απαιτεί inferencing (Gibbs/VI) και για νέα έγγραφα υπολογισμό των topic proportions. - Word2vec: νευρωνική πρόβλεψη από τοπικό συγκείμενο (CBOW/SG). Κάθε λέξη αποκτά ένα στατικό πυκνό διάνυσμα μικρής διάστασης· συλλαμβάνει σημασιολογικές/συντακτικές σχέσεις, αλλά όχι άμεσα έγγραφα-θέματα και όχι πολυσημία ανά περίσταση. Για έγγραφο συνήθως γίνεται μέσος/σταθμισμένος μέσος όρος διανυσμάτων λέξεων. - BERT embeddings: βαθύ, αμφίδρομο Transformer μοντέλο· τα διανύσματα είναι συμφραζομενικά, άρα η ίδια λέξη μπορεί να πάρει διαφορετικό διάνυσμα σε διαφορετικό συγκείμενο (αντιμετωπίζει καλύτερα πολυσημία). Για έγγραφο χρησιμοποιείται το [CLS] ή pooling· απαιτεί μεγάλους υπολογιστικούς πόρους και συχνά fine-tuning για ανάκτηση.
Διαφορές: LSI είναι γραμμική/φθηνότερη και βασίζεται σε καθολικές συν-εμφανίσεις· LDA είναι πιθανοτική/ερμηνεύσιμη με θέματα· word2vec είναι προβλεπτικό, τοπικό και στατικό ως προς τη λέξη· BERT είναι βαθύ, συμφραζομενικό και δυναμικό ως προς τη σημασία. Ως προς την πολυσημία: LSI/LDA την αντιμετωπίζουν έμμεσα μέσω θεμάτων, word2vec όχι ικανοποιητικά (ένα διάνυσμα ανά τύπο), BERT άμεσα μέσω συμφραζομένων.
Θέμα 3¶
Αξιοπιστία: μία λύση AI, δεν έχει αντιπαραβληθεί με δεύτερη · εμπιστοσύνη λύτη: υψηλή
α. Για \(10\) σχετικά έγγραφα, σε κάθε σχετικό έγγραφο που βρίσκεται στη θέση \(k_r\) με σειρά \(r=1,\ldots,10\): [ \text{Recall}=\frac{r}{10},\qquad \text{Precision}=\frac{r}{k_r}. ] Προκύπτουν τα σημεία \((\text{Recall},\text{Precision})\):
| \(r\) | Recall | M1: \(k\) | M1 Precision | M2: \(k\) | M2 Precision |
|---|---|---|---|---|---|
| 1 | 0.1 | 1 | 1.0000 | 1 | 1.0000 |
| 2 | 0.2 | 3 | 0.6667 | 4 | 0.5000 |
| 3 | 0.3 | 5 | 0.6000 | 12 | 0.2500 |
| 4 | 0.4 | 17 | 0.2353 | 15 | 0.2667 |
| 5 | 0.5 | 19 | 0.2632 | 29 | 0.1724 |
| 6 | 0.6 | 23 | 0.2609 | 34 | 0.1765 |
| 7 | 0.7 | 33 | 0.2121 | 61 | 0.1148 |
| 8 | 0.8 | 64 | 0.1250 | 80 | 0.1000 |
| 9 | 0.9 | 81 | 0.1111 | 83 | 0.1084 |
| 10 | 1.0 | 98 | 0.1020 | 99 | 0.1010 |
Το γράφημα ανάκλησης-ακρίβειας σχηματίζεται ενώνοντας τα παραπάνω σημεία, ξεκινώντας συνήθως από \((0,1)\). Αν ληφθεί υπόψη και η θέση 100, στο τέλος η ακρίβεια γίνεται \(10/100=0.1\) και για τις δύο μηχανές. Η M1 είναι σαφώς καλύτερη στα πρώτα επίπεδα ανάκλησης: στα recall \(0.2\) και \(0.3\) έχει ακρίβεια \(0.6667\) και \(0.6000\) έναντι \(0.5000\) και \(0.2500\) της M2. Η M2 υπερτερεί ελαφρά μόνο στο recall \(0.4\) (\(0.2667\) έναντι \(0.2353\)), αλλά συνολικά η M1 υπερέχει· ενδεικτικά το Average Precision είναι περίπου \(0.358\) για την M1 και \(0.279\) για την M2.
β. Με ορισμό [ \mathrm{DCG}@100=\sum_{i=1}^{100}\frac{g_i}{\log_2(i+1)},\qquad \mathrm{NDCG}@100=\frac{\mathrm{DCG}@100}{\mathrm{IDCG}@100}, ] όπου \(g_i=2\) για τα πέντε πρώτα σχετικά και \(g_i=1\) για τα επόμενα πέντε σχετικά, ενώ \(g_i=0\) για τα μη σχετικά. Το ιδανικό DCG είναι [ \mathrm{IDCG}@100= \sum_{j=1}^{5}\frac{2}{\log_2(j+1)} +\sum_{j=6}^{10}\frac{1}{\log_2(j+1)}. ] Για την M1: [ \mathrm{DCG}{M1}= \frac{2}{\log_2 2}+\frac{2}{\log_2 4}+\frac{2}{\log_2 6} +\frac{2}{\log_2 18}+\frac{2}{\log_2 20} +\frac{1}{\log_2 24}+\frac{1}{\log_2 34} +\frac{1}{\log_2 65}+\frac{1}{\log_2 82} +\frac{1}{\log_2 99}. ] Για την M2: [ \mathrm{DCG}= \frac{2}{\log_2 2}+\frac{2}{\log_2 5}+\frac{2}{\log_2 13} +\frac{2}{\log_2 16}+\frac{2}{\log_2 30} +\frac{1}{\log_2 35}+\frac{1}{\log_2 62} +\frac{1}{\log_2 81}+\frac{1}{\log_2 84} +\frac{1}{\log_2 100}. ] Άρα \(\mathrm{NDCG}_{M1}=\mathrm{DCG}_{M1}/\mathrm{IDCG}@100\) και \(\mathrm{NDCG}_{M2}=\mathrm{DCG}_{M2}/\mathrm{IDCG}@100\). Προκύπτει \(\mathrm{NDCG}_{M1}>\mathrm{NDCG}_{M2}\), άρα η M1 είναι καλύτερη και με αυτή τη μετρική. Αν στο μάθημα χρησιμοποιείται ο εκθετικός ορισμός \(g_i=2^{rel_i}-1\), τότε τα \(2,1\) αντικαθίστανται από \(3,1\) αντίστοιχα.
Θέμα 4¶
Αξιοπιστία: μία λύση AI, δεν έχει αντιπαραβληθεί με δεύτερη · εμπιστοσύνη λύτη: υψηλή
α. Για πολυγλωσσική ανάκτηση, βασικές επεκτάσεις κλασικών συστημάτων είναι: - Μετάφραση ερωτήματος προς τη γλώσσα/τις γλώσσες των εγγράφων, με λεξικά, μοντέλα μετάφρασης ή πιθανοτικά μοντέλα μετάφρασης· μετάφραση σε πολλές γλώσσες και συγχώνευση αποτελεσμάτων. - Μετάφραση εγγράφων σε κοινή γλώσσα ή χρήση interlingua/εννοιών (π.χ. οντολογίες, πολυγλωσσικά λεξικά, Wikipedia). - Πολυγλωσσικά embeddings (π.χ. mBERT, XLM-R, cross-lingual word embeddings) που mappa-ρουν ερωτήματα και έγγραφα σε κοινό διανυσματικό χώρο χωρίς ρητή μετάφραση. - Γλωσσική αναγνώριση και γλωσσολογική επεξεργασία ανά γλώσσα (stemming, stopwords, tokenization), με ξεχωριστά ευρετήρια ανά γλώσσα ή ενιαίο ευρετήριο με ετικέτες γλώσσας. - Επέκταση ερωτήματος με μεταφράσεις, συνώνυμα, transliteration και named entities· χρήση parallel/comparable corpora για εκμάθηση μεταφραστικών πιθανοτήτων. - Συγχώνευση κατατάξεων από επιμέρους γλωσσικά συστήματα με κανονικοποίηση βαθμολογιών ή learning-to-rank, ώστε να αντιμετωπίζονται διαφορετικές κλίμακες IDF/βαθμολογιών.
β. Συνωνυμία είναι η ύπαρξη διαφορετικών λέξεων με ίδια/παρόμοια σημασία. Προκαλεί ασυμφωνία όρων: ένα σχετικό έγγραφο που χρησιμοποιεί συνώνυμο αντί του όρου του ερωτήματος μπορεί να μην ανακτηθεί, άρα μειώνεται η ανάκληση. Τεχνικές αντιμετώπισης: θησαυροί/WordNet, query expansion, pseudo-relevance feedback, συν-εμφανίσεις όρων, word embeddings. Η επέκταση μπορεί όμως να εισαγάγει μη σχετικά έγγραφα και να μειώσει την ακρίβεια.
Πολυσημία είναι η ύπαρξη πολλών σημασιών για την ίδια λέξη. Το σύστημα μπορεί να ανακτήσει έγγραφα με λάθος σημασία, μειώνοντας την ακρίβεια. Τεχνικές: word sense disambiguation, χρήση συμφραζομένων, φράσεων, οντολογιών, clustering αποτελεσμάτων. Στον Παγκόσμιο Ιστό το PageRank μπορεί να βοηθήσει έμμεσα: σελίδες της «κυρίαρχης» σημασίας συχνά έχουν περισσότερους και ποιοτικότερους εισερχόμενους συνδέσμους, άρα υψηλότερο PageRank· συνδυαζόμενο με τη σχετικότητα περιεχομένου, αναδεικνύει αυθεντικές σελίδες της επικρατούσας σημασίας και μειώνει spam/τυχαία αποτελέσματα. Καλύτερα αποτελέσματα δίνει το topic-sensitive PageRank ή εστιασμένο PageRank με anchor text/θέμα, ώστε η διάδοση βαθμολογίας να ευνοεί τη σωστή σημασία αντί για μια καθολικά δημοφιλή αλλά άσχετη σημασία.
γ. Στο μοντέλο διανυσματικού χώρου με tf-idf και συνημίτονο, προσθήκη νέου εγγράφου αλλάζει: - το πλήθος εγγράφων \(N\), - τις συχνότητες εγγράφων \(df_t\) για τους όρους που περιέχει, - τα \(idf_t=\log(N/df_t)\) για τους επηρεαζόμενους όρους· αν το \(N\) αλλάζει, αυστηρά μεταβάλλονται τα idf όλων των όρων, - τα βάρη των όρων και το μέτρο (norm) του νέου εγγράφου, - κατ' επέκταση τα βάρη των υπαρχόντων εγγράφων/ερωτημάτων για όρους των οποίων το idf άλλαξε, καθώς και οι κανονικοποιήσεις τους.
Για τροποποίηση υπάρχοντος εγγράφου: αφαιρούνται οι παλιές εγγραφές postings, μειώνεται το \(df_t\) για όρους που παύουν να υπάρχουν, προστίθενται/ενημερώνονται τα νέα tf και αυξάνεται το \(df_t\) για νέους όρους· αν αλλάζει μόνο η συχνότητα ενός όρου χωρίς αλλαγή παρουσίας, το \(df_t\) μένει ίδιο. Επανυπολογίζονται οι συχνότητες, τα idf των όρων με μεταβολή \(df\), τα βάρη και το norm του τροποποιημένου εγγράφου, και τα βάρη των άλλων εγγράφων που περιέχουν όρους με αλλαγή idf.
Για πιο ευέλικτη προσθήκη νέων κειμένων, η στρατηγική στάθμισης/ενημέρωσης μπορεί να γίνει αυξητική/dynamic: χρήση delta index ή buffer για νέα έγγραφα, περιοδική συγχώνευση (LSM-tree), τοπικά/κατά προσέγγιση idf, πάγωμα ή lazy ενημέρωση των καθολικών στατιστικών, χρήση σταθερού background idf ή BM25-like παραγόντων, και επανυπολογισμός μόνο των επηρεαζόμενων postings/norms. Έτσι αποφεύγεται η πλήρης ανακατασκευή του ευρετηρίου σε κάθε προσθήκη, με μικρό συμβιβασμό στην ακρίβεια των βαθμολογιών.