Ανάκτηση Πληροφορίας¶
Επίσημο περίγραμμα μαθήματος του ΤΜΗΥΠ (Πανεπιστήμιο Πατρών), όπως δημοσιεύεται στη σελίδα του μαθήματος και στο συνημμένο αρχείο «Περίγραμμα Μαθήματος». Το κείμενο παρατίθεται αυτούσιο, χωρίς τα πρότυπα οδηγιών του εντύπου.
Στόχοι¶
- Στο τέλος αυτού του μαθήματος ο φοιτητής θα μπορεί:
- να εξηγήσει τις βασικές έννοιες αποθήκευσης και ανάκτησης πληροφορίας, και να κατανοήσει τα θέματα που είναι ειδικά για αποτελεσματική ανάκτηση πληροφορίας
- να εξηγήσει τις διαφορές ανάμεσα σε εναλλακτικά μοντέλα ανάκτησης πληροφορίας και να αναλύσει γιατί ένα συγκεκριμένο μοντέλο είναι κατάλληλο για μία συγκεκριμένη εφαρμογή.
- να κατανοεί τα βασικά σχεδιαστικά πίσω από την ανάπτυξη μίας αποτελεσματικής μηχανής ψαξίματος στο παγκόσμιο ιστό.
- να σχεδιάζει και να υλοποιεί ένα μικρό προς μεγάλο σύστημα αποθήκευσης και ανάκτησης πληροφορίας.
- να κατανοεί την έννοια της διανυσματικής αναπαράστασης λέξεων (word embeddings) και της χρήσης της σε διάφορες εφαρμογές
Στο τέλος του μαθήματος ο φοιτητής θα έχει περαιτέρω αναπτύξει τις ακόλουθες δεξιότητες:
- ικανότητα να κατανοεί τις διάφορες έννοιες που εμπλέκονται σε συστήματα ανάκτησης πληροφορίας, και πως αυτά διασυνδέονται με την απόδοση συστημάτων που ήδη είναι σε λειτουργία.
- ικανότητα να εφαρμόζει μεθοδολογικά αυτές τις έννοιες με σκοπό την σχεδίαση και την υλοποίηση αποτελεσματικών συστημάτων
- ικανότητα να δουλεύει συνεργατικά, με σκοπό την επίλυση προβλημάτων που ανακύπτουν κατά την δόμηση ενός πλήρως λειτουργικού συστήματος ανάκτησης πληροφορίας
Περιεχόμενο (ύλη)¶
- Εισαγωγή (μοντελοποίηση χρήστη, λογική αναπαράσταση κειμένου, διεργασία ανάκτησης)
- Μετρικές εκτίμησης απόδοσης (recall, precision, average precision, R-precision, precision histograms, NDCG metric, harmonic median, user oriented metrics).
- Μοντελοποίηση στην Ανάκτηση Πληροφορίας
- Συνολοθεωρητικά Μοντέλα (boolean models, fuzzy set model, extended boolean model), αλγεβρικά μοντέλα ((vector space models, latent semantic indexing model, topic models), πιθανοτικά μοντέλα (κλασσικά και γλωσσικά μοντέλα)
- Ανάκτηση Πληροφορίας στον Παγκόσμιο Ιστό και ιδιαιτερότητες αυτού
- Μηχανές Ψαξίματος στον Παγκόσμιο Ιστό (crawler, indexer), HITS algorithm (Hyperlink-induced topic search), Google μηχανή αναζητήσεως (η PageRank μετρική), ο SALSA αλγόριθμος, παραλλαγές στο ψάξιμο στον παγκόσμιο Ιστό.
- Τεχνικές Μηχανικής Μάθησης και Νευρωνικά Μοντέλα στην Ανάκτηση Πληροφορίας (Learning to Rank, διανυσματική αναπαράσταση λέξεων και ενσωματώσεις όπως word2vec, CBOW,skipgram, Transformers, BERT, GPT, Μεγάλα Γλωσσικά Μοντέλα και Sparse vs Dense Αναζήτηση, Vector Search σε λ.χ. FAISS ( HNSW, …), χρήση dense ή/και sparse search σε Retrieval Augmented Generation (RAG), Search engines vs reasoning engines)
- Δομές Δεικτοδότησης (inverted files, signature files, bitmaps).
- Τεχνικές Αποθήκευσης σε Κατανεμημένη Ανάκτηση Πληροφορίας (Mapreduce, Apache Spark),
- Full indexing structures in main memory (suffix trees, suffix arrays, acyclic directed graphs (DAWG) for strings), and in secondary memory (supra-suffix array, prefix Β-tree, string Β-tree).
- Συμπίεση Κειμένων και Δομών Δεικτοδότησης
- Εξόρυξη Γνώσης από Κείμενα και Μοντέλα Βασισμένα σε Γράφους (Graph embeddings)
Αξιολόγηση¶
(1) στην παράδοση και στην παρουσίαση μιας εργασίας από ομάδες 1-2 ατόμων, που συνίσταται στη κριτική παρουσίαση, υλοποίηση και ανάλυση ενός συνόλου επιστημονικών εργασιών που πραγματεύεται ένα από τα ζητήματα του μαθήματος. Εναλλακτικά οι φοιτητές μπορούν να εμπλακούν στην εις βάθος υλοποίηση τμημάτων ενός ολοκληρωμένου συστήματος κατάταξης ανάκτησης (45% του συνολικού βαθμού, μόνο όταν ο φοιτητής στην τελική εξέταση εξασφαλίσει πάνω από ένα ελάχιστο βαθμό),
(2) σε γραπτή εξέταση (55% του συνολικού βαθμού)
Βιβλιογραφία¶
- Christofer D. Manning, Prabhakar Raghavan, Hinrich Schutze, Εισαγωγή στην Ανάκτηση Πληροφορικών 1η/2012 ΕΚΔΟΣΕΙΣ ΚΛΕΙΔΑΡΙΘΜΟΣ
- Baeza-Yates Ricardo, Ribeiro-Neto Berthier, Ανάκτηση Πληροφορίας, 2η Έκδοση ΕΚΔΟΣΕΙΣ Α. ΤΖΙΟΛΑ & ΥΙΟΙ Α.Ε., 2η, 2015
- Omar Alonso and Ricardo Baeza-Yates, Information Retrieval: Advanced Topics and Techniques, December 2024, Association for Computing Machinery, New York, United States, ISBN:979-8-4007-1050-6
- Jimmy Lin, Rodrigo Nogueira, and Andrew Yates, Pretrained Transformers for Text Ranking: BERT and Beyond by University of Waterloo, University of Campinas, University of Amsterdam) Morgan & Claypool (Synthesis Lectures on Human Language Technologies, edited by Graeme Hirst, volume 53), 2021.
- Dan Jurafsky and James H. Martin Speech and Language Processing (3rd ed. draft) Jan 2, 2025 draft (https://web.stanford.edu/~jurafsky/slp3 /)
- Mohammad Taher Pilehvar , Jose Camacho-Collados, Embeddings in Natural Language Processing Theory and Advances in Vector Representations of Meaning, Morgan Claypool, 2020 (https://sites.google.com/view/embeddings-in-nlp , https://sites.google.com/view/embeddings-in- nlp/tutorial )
-
Stefan Büttcher Charles L. A. Clarke, Gordon V. Cormack, Information Retrieval: Implementing and Evaluating Search Engines (MIT Press) Paperback – February 12, 2016
-
Langville Amy, Meyer Carl, H μέθοδος Pagerank της Google και άλλα συστήματα κατάταξηςιστοσελίδων GOOGLE ΚΑΙ ΑΛΛΑ ΣΥΣΤΗΜΑΤΑ ΚΑΤΑΤΑΞΗΣ ΙΣΤΟΣΕΛΙΔΩΝ ΙΔΡΥΜΑ ΤΕΧΝΟΛΟΓΙΑΣ & ΕΡΕΥΝΑΣ- ΠΑΝΕΠΙΣΤΗΜΙΑΚΕΣ ΕΚΔΟΣΕΙΣ ΚΡΗΤΗΣ, 1Η/2010
- Witten, A. Moffat, T. Bell, Managing Gigabytes: Compressing and Indexing Documents and Images, Morgan Kaufmann Publishers, 1999.