Επεξεργασία και Κατανόηση Φυσικής Γλώσσας — Χωρίς τυπωμένη ημερομηνία¶
Μεταγραφή των φωτογραφιών 1.jpg (σελ. 1/2) και 2.jpg (σελ. 2/2) της ίδιας κόλλας εξέτασης.
1.jpg¶
Θέμα 1ο Α) Περιγράψτε με λίγα λόγια πώς αντιλαμβάνεστε την επιστήμη της Επεξεργασίας Φυσικής Γλώσσας και γιατί θεωρείτε ότι είναι σημαντική; 5 μονάδες
Β) Περιγράψτε τα επίπεδα ανάλυσης της γλώσσας, το πεδίο της γλωσσολογίας που εμπλέκεται στο καθένα, και τις εργασίες που εκτελούνται σε κάθε επίπεδο. 5 μονάδες
Γ) Με ποιες προσεγγίσεις προσαρμογής ένα σύστημα Εξαγωγής Πληροφορίας μπορεί να αντιμετωπίσει τις δυσκολίες που προκύπτουν; Να τις αξιολογήσετε. 5 μονάδες
Δ) Αυτόματη εξαγωγή περιλήψεων: Να αναφέρετε και να περιγράψετε τις βασικές κατηγορίες περιλήψεων και τα στάδια της αυτόματης παραγωγής περιλήψεων που ακολουθούνται σε όποια προσέγγιση κι αν επιλέξουμε. 5 μονάδες
Θέμα 2ο Α) Αναφέρετε τα κυρίαρχα μέτρα αποτίμησης της αποδοτικότητας των συστημάτων Επεξεργασίας Φυσικής Γλώσσας και πώς υπολογίζονται σε ένα παράδειγμα ανάκτησης πληροφορίας από ένα σύνολο εγγράφων. 5 μονάδες
Β) Ορίστε τους όρους stem(ρίζα), morpheme(μόρφημα), affix(πρόσφυμα), morphological parsing(μορφολογική ανάλυση). Δώστε από ένα παράδειγμα για κάθε κατηγορία. 5 μονάδες
Γ) Τι είναι μια μηχανή καταστάσεων του τύπου FST (Finite State Transducer), γιατί χρησιμοποιείται στη Γλωσσική Τεχνολογία και ποιά η διαφορά ενός FST από ένα FSA(Finite State Automaton); 5 μονάδες
Θέμα 3ο Α) Σχεδιάστε ένα FST που αναγνωρίζει την κατάληξη -ly των ομαλών αγγλικών επιρρημάτων και δείξτε πώς το FST σας χειρίζεται σωστά τις παρακάτω περιπτώσεις: bright -brightly, simple-simply, silly- sillily, terrific- terrifically. 10 μονάδες
Β) Να αναλύσετε δενδρικά, με τη στρατηγική αναζήτησης top-down την παρακάτω πρόταση, λαμβάνοντας υπόψη τη γραμματική χωρίς συμφραζόμενα(Context Free Grammar- CFG) που σας δίνεται: 'Ο Κώστας πήγε μέχρι την πλατεία'. Η πρόταση 'Το παιδί έπεσε και χτύπησε στο σχολείο' είναι αποδεκτή; Να αιτιολογήσετε την απάντησή σας.
2.jpg¶
| CFG | |
|---|---|
| S ->VP | PP ->Prep NP |
| S ->NP VP | Determinant ->ο, η, το |
| VP ->V | Noun ->παιδί, άνθρωπος, πλατεία, αυτοκίνητο, σχολείο |
| VP ->V NP | ProperNoun ->Κώστας, Μαρία, Βασίλης, Ελένη |
| VP ->V PP | Verb ->πηγαίνω, έρχομαι, κάνω, πέφτω, χτυπάω |
| NP ->Det N | Preposition ->μέχρι, από, επί, με, σε |
| NP ->DetPropN | Conjunction ->και, αλλά |
10 μονάδες
Θέμα 4ο Α) Ορίστε σύντομα τους όρους υπωνυμία, συνωνυμία, μερωνυμία, δίνοντας και παραδείγματα για κάθε σχέση. 5 μονάδες
Β) Υπάρχουν διάφοροι τύποι αμφισημίας (ambiguity) στην Επεξεργασία Φυσικής Γλώσσας. Για κάθε περίπτωση από τις παρακάτω περιγράψτε σύντομα πού εντοπίζεται χρησιμοποιώντας παραδείγματα: - μορφολογική αμφισημία - λεξιλογική αμφισημία 5 μονάδες
Γ) Στις προτάσεις που ακολουθούν να αναγνωρίσετε τα φαινόμενα αμφισημίας ή/και ασάφειας, να αναφέρετε σε ποιο επίπεδο ανάλυσης της γλώσσας εντοπίζονται και να δώσετε κάποια κατεύθυνση για το πώς μπορούν να επιλυθούν: - Η Μαρία αγόρασε μια τηλεόραση με την Ελένη. Ο Κώστας την πήγε σπίτι. - Σου είπα να είναι πράσινο! 5 μονάδες
Λύσεις (⚪ AI, μη επαληθευμένο)
Κατάσταση: ⚪ AI, μη επαληθευμένο Πηγή: λύσεις AI (deepseek-flash, gemini-3.7-flash), ανεξάρτητη επανάληψη και αντιπαραβολή· καμία δεν έχει ελεγχθεί από άνθρωπο
Προσοχή
Λύση από AI — ελέγξτε την· δεν έχει επαληθευτεί από άνθρωπο. Η ένδειξη «δύο λύσεις συμφωνούν» δεν σημαίνει ότι η απάντηση είναι σωστή.
AI λύσεις — 2021¶
Οι λύσεις γράφτηκαν από μοντέλα AI και δεν έχουν ελεγχθεί από άνθρωπο. Η αρίθμηση ακολουθεί το αρχείο θεμάτων.
Θέμα 1ο¶
Αξιοπιστία: δύο ανεξάρτητες λύσεις συμφωνούν · εμπιστοσύνη λύτη: υψηλή
Α) Η Επεξεργασία Φυσικής Γλώσσας (NLP) είναι το πεδίο της πληροφορικής/τεχνητής νοημοσύνης, σε συνεργασία με τη γλωσσολογία, που μελετά αλγορίθμους και μοντέλα για την αυτόματη ανάλυση, κατανόηση, παραγωγή και αξιοποίηση φυσικής γλώσσας (κείμενο/ομιλία). Είναι σημαντική διότι επιτρέπει διαχείριση τεράστιου όγκου γλωσσικών δεδομένων και εφαρμογές όπως μηχανική μετάφραση, αναζήτηση/ανάκτηση πληροφορίας, εξαγωγή πληροφορίας, περίληψη, ανάλυση συναισθήματος, ερωταπαντήσεις, διαλογικά συστήματα, διόρθωση/υποβοήθηση γραφής και προσβασιμότητα.
Β) Τα βασικά επίπεδα ανάλυσης είναι: - Φωνητική/Φωνολογία: ήχοι, φωνήματα, προσωδία· εργασίες: αναγνώριση/σύνθεση ομιλίας, φωνητική μεταγραφή, grapheme-to-phoneme. - Μορφολογία: δομή λέξεων, μορφήματα, κλιτικά/παραγωγικά επιθήματα· εργασίες: μορφολογική ανάλυση/γένεση, stemming, lemmatization, POS tagging με μορφολογικά χαρακτηριστικά. - Σύνταξη: δομή πρότασης· εργασίες: συντακτική ανάλυση (constituency/dependency parsing), γραμματικός έλεγχος. - Σημασιολογία: σημασία λέξεων/προτάσεων· εργασίες: αποσαφήνιση σημασίας λέξης, semantic role labeling, αναγνώριση ονοματικών οντοτήτων, textual entailment. - Λόγος (Discourse): σχέσεις μεταξύ προτάσεων/κειμένου· εργασίες: επίλυση αναφορών, discourse parsing, συνοχή, περίληψη. - Πραγματολογία: πρόθεση ομιλητή, συμφραζόμενα, γλωσσικές πράξεις· εργασίες: διαλογική διαχείριση, ανάλυση συνομιλίας, ερμηνεία έμμεσων νοημάτων.
Γ) Ένα σύστημα Εξαγωγής Πληροφορίας μπορεί να προσαρμοστεί με: - Χειροκίνητους κανόνες/πρότυπα και wrappers: υψηλή ακρίβεια σε συγκεκριμένο πεδίο, αλλά ακριβά και μη μεταφέρσιμα. - Επιβλεπόμενη μάθηση: ταξινομητές/sequence labeling με επισημειωμένα δεδομένα· καλή απόδοση αλλά ανάγκη για labels. - Ημι-επιβλεπόμενη/αδύναμη επίβλεψη: bootstrapping με seed patterns/ονόματα, co-training, distant supervision από βάση γνώσης· μειώνει την επισημείωση αλλά κινδυνεύει από semantic drift. - Μη επιβλεπόμενη/Open IE: εξαγωγή σχέσεων από συντακτικά πρότυπα χωρίς προκαθορισμένο schema· μεγάλη μεταφερσιμότητα, χαμηλότερη ακρίβεια/κανονικοποίηση. - Transfer learning/προεκπαιδευμένα γλωσσικά μοντέλα: fine-tuning ή few-shot με BERT κ.λπ.· αποδοτικό σε δεδομένα και γλώσσες, αλλά απαιτεί υπολογιστικούς πόρους και προσοχή στο domain shift. - Active learning/human-in-the-loop και προσαρμογή χαρακτηριστικών/οντολογίας: στοχευμένη επισημείωση, mapping σε schema, χρήση gazetteers. Αξιολόγηση: precision, recall, F1, κόστος επισημείωσης, μεταφερσιμότητα, ανθεκτικότητα σε νέα πεδία/γλώσσες, συντηρησιμότητα.
Δ) Βασικές κατηγορίες περιλήψεων: - Αποσπασματικές (extractive) vs αφαιρετικές (abstractive). - Μονό-εγγράφου vs πολυ-εγγράφου. - Γενικές vs εστιασμένες στο ερώτημα/χρήστη. - Ενδεικτικές (indicative) vs πληροφοριακές (informative). - Μπορεί επίσης να διακρίνονται σε ενημερωτικές/update περιλήψεις.
Στάδια αυτόματης παραγωγής: (1) προεπεξεργασία (tokenization, sentence splitting, καθαρισμός, POS/parse/NER), (2) αναπαράσταση περιεχομένου (bag-of-words, γράφος, embeddings, δομή λόγου), (3) βαθμολόγηση/επιλογή προτάσεων ή τμημάτων (TF-IDF, centrality, θέση, ομοιότητα, επιβλεπόμενα χαρακτηριστικά), (4) συμπίεση/σύνθεση περιεχομένου (extraction ή generation), (5) ταξινόμηση και επιφανειακή πραγμάτωση για συνοχή, (6) αξιολόγηση με ROUGE/BLEU και ανθρώπινη ή εξωτερική αξιολόγηση.
Θέμα 2ο¶
Αξιοπιστία: δύο ανεξάρτητες λύσεις συμφωνούν · εμπιστοσύνη λύτη: υψηλή
Α) Κυρίαρχα μέτρα: precision, recall, F-measure/F1, accuracy· στην ανάκτηση πληροφορίας και ranked retrieval χρησιμοποιούνται επίσης MAP, precision@k, recall@k. Αν \(TP\) = σχετικά ανακτημένα, \(FP\) = μη σχετικά ανακτημένα, \(FN\) = σχετικά μη ανακτημένα και \(TN\) = μη σχετικά μη ανακτημένα: [ P=\frac{TP}{TP+FP},\quad R=\frac{TP}{TP+FN},\quad F1=\frac{2PR}{P+R},\quad Acc=\frac{TP+TN}{TP+TN+FP+FN}. ] Παράδειγμα: σύνολο 10 εγγράφων, 5 σχετικά. Το σύστημα επιστρέφει 4 έγγραφα, από τα οποία 3 σχετικά. Τότε \(TP=3\), \(FP=1\), \(FN=2\), \(TN=4\). Άρα \(P=3/4=0.75\), \(R=3/5=0.60\), \(F1=2\cdot0.75\cdot0.60/(0.75+0.60)=0.6667\), \(Acc=(3+4)/10=0.70\). Αν η σειρά είναι σχετικό, μη σχετικό, σχετικό, σχετικό, τότε \(AP=(1/1+2/3+3/4)/5\approx0.483\).
Β) - Stem/ρίζα: η κοινή βάση λέξης μετά την αφαίρεση κλιτικών κυρίως καταλήξεων, χωρίς απαραίτητα να είναι πλήρες μόρφημα. Π.χ. στα αγαπώ, αγάπη, αγαπημένος προκύπτει στέλεχος αγαπ-. - Morpheme/μόρφημα: η ελάχιστη μονάδα με σημασία ή γραμματική λειτουργία. Π.χ. στο cats το cat είναι λεξικό μόρφημα και το -s πληθυντικού αριθμού. - Affix/πρόσφυμα: δεσμευμένο μόρφημα που προσαρτάται σε ρίζα/στέλεχος. Π.χ. το -ότητα στο δυνατότητα ή το α- στο άδικος (στερητικό). - Morphological parsing/μορφολογική ανάλυση: αυτόματη ανάλυση μιας λεκτικής μορφής σε μορφήματα και γραμματικά χαρακτηριστικά. Π.χ. παιδιών → παιδί + Noun + Genitive + Plural.
Γ) Ένα FST (Finite State Transducer) είναι πεπερασμένο αυτόματο του οποίου οι μεταβάσεις έχουν ζεύγη εισόδου:εξόδου, π.χ. \(a:b\), και επομένως ορίζει σχέση/μετασχηματισμό από συμβολοσειρές εισόδου σε συμβολοσειρές εξόδου. Χρησιμοποιείται στη Γλωσσική Τεχνολογία για μορφολογική ανάλυση/γένεση, two-level morphology, φωνολογικούς κανόνες, tokenization, μεταγραφή, διόρθωση ορθογραφίας κ.λπ. Διαφέρει από ένα FSA (Finite State Automaton): το FSA αναγνωρίζει ή απορρίπτει συμβολοσειρές (acceptor, μία ταινία), ενώ το FST μετατρέπει/παράγει έξοδο (transducer, δύο ταινίες εισόδου-εξόδου). Ένα FSA απαντά «ανήκει ή όχι στη γλώσσα;», ένα FST απαντά «σε ποια έξοδο αντιστοιχεί η είσοδος;».
Θέμα 3ο¶
Αξιοπιστία: δύο ανεξάρτητες λύσεις συμφωνούν · εμπιστοσύνη λύτη: μέτρια
Α) Έστω αλφάβητο \(\Sigma=\{a,\ldots,z\}\) και σύμβολο τέλους λέξης \(\#\). Κατασκευάζω FST που κρατά προσωρινά τους δύο τελευταίους χαρακτήρες και στην έξοδο εφαρμόζει τους κανόνες: [ w \to w\,ly \quad\text{(default)},\qquad \ldots le \to \ldots ly,\qquad \ldots y \to \ldots ily,\qquad \ldots ic \to \ldots ically. ] Οι καταστάσεις είναι \(q_\epsilon\), \(q_u\) (ένας χαρακτήρας στο buffer) και \(q_{uv}\) (δύο χαρακτήρες στο buffer). Στο εσωτερικό της λέξης, από \(q_{uv}\) με επόμενο \(a\) γράφουμε στην έξοδο το παλαιότερο \(u\) και μεταβαίνουμε σε \(q_{va}\). Στο τέλος \(\#\): - από \(q_{le}\): \(\#:ly\), - από \(q_{ic}\): \(\#:ically\), - από \(q_{cy}\), όπου \(c\) σύμφωνο και τελικό \(y\): \(\#:c\,ily\), - αλλιώς από \(q_{uv}\): \(\#:uv\,ly\) (και αντίστοιχα για \(q_u\): \(u\,ly\), για \(q_\epsilon\): \(ly\)).
Παραδείγματα εκτέλεσης: - bright: το default μονοπάτι αντιγράφει το bright και προσθέτει ly → brightly. - simple: το τελικό buffer είναι \(le\), άρα \(le\to ly\) πάνω στο πρόθεμα simp → simply. - silly: το τελικό buffer είναι \(ly\) με \(y\) μετά από σύμφωνο \(l\), άρα \(ly\to lily\) πάνω στο πρόθεμα sil → sillily. - terrific: το τελικό buffer είναι \(ic\), άρα \(ic\to ically\) πάνω στο πρόθεμα terrif → terrifically.
Β) Με ακριβή χρήση του πίνακα, η πρόταση δεν παράγεται, γιατί δεν περιλαμβάνονται οι κλιτοί τύποι πήγε και την. Δέχομαι τη συνήθη μορφολογική ομαλοποίηση/λημματοποίηση: πήγε → Verb πηγαίνω και την → Det (θηλυκό αιτιατική του η). Τότε η top-down παραγωγή είναι: [ S\Rightarrow NP\ VP\Rightarrow Det\ ProperNoun\ VP \Rightarrow Det\ ProperNoun\ V\ PP \Rightarrow Det\ ProperNoun\ V\ Prep\ NP \Rightarrow Det\ ProperNoun\ V\ Prep\ Det\ Noun. ] Δέντρο:
S
├── NP
│ ├── Det: Ο
│ └── ProperNoun: Κώστας
└── VP
├── Verb: πήγε (πηγαίνω)
└── PP
├── Prep: μέχρι
└── NP
├── Det: την (η)
└── Noun: πλατεία
S
├── NP: Το παιδί
└── VP
├── VP
│ └── V: έπεσε
├── Conj: και
└── VP
├── V: χτύπησε
└── PP
├── Prep: σε
└── NP: το σχολείο
Θέμα 4ο¶
Αξιοπιστία: δύο ανεξάρτητες λύσεις συμφωνούν · εμπιστοσύνη λύτη: υψηλή
Α) - Υπωνυμία: σχέση ειδικότερου–γενικότερου όρου. Π.χ. σκύλος είναι υπώνυμο του ζώο· τριαντάφυλλο είναι υπώνυμο του λουλούδι. - Συνωνυμία: λέξεις με ίδια ή πολύ κοντινή σημασία σε συγκεκριμένο πλαίσιο. Π.χ. γιατρός–ιατρός, σπίτι–οικία, αγοράζω–προμηθεύομαι. - Μερωνυμία: σχέση μέρους–όλου. Π.χ. τροχός είναι μερώνυμο του αυτοκίνητο· φύλλο είναι μερώνυμο του δέντρο· χέρι είναι μερώνυμο του σώμα.
Β) - Μορφολογική αμφισημία: η ίδια επιφανειακή λέξη αντιστοιχεί σε περισσότερες από μία μορφολογικές αναλύσεις. Π.χ. γυναίκα μπορεί να είναι ονομαστική ή αιτιατική ενικού· παιδί ομοίως ονομαστική ή αιτιατική ενικού. Εντοπίζεται στο μορφολογικό επίπεδο και επιλύεται με μορφολογικό αναλυτή/POS tagging και συμφραζόμενα. - Λεξιλογική αμφισημία: μία λέξη έχει περισσότερες σημασίες/λήμματα. Π.χ. τράπεζα = έπιπλο ή χρηματοπιστωτικό ίδρυμα· ποντίκι = ζώο ή περιφερειακό υπολογιστή· αγγλικά bank = όχθη ή τράπεζα. Εντοπίζεται στο λεξιλογικό/σημασιολογικό επίπεδο και επιλύεται με word sense disambiguation βάσει συμφραζομένων.
Γ) - «Η Μαρία αγόρασε μια τηλεόραση με την Ελένη. Ο Κώστας την πήγε σπίτι.» - Συντακτική/σημασιολογική αμφισημία προσάρτησης στο «με την Ελένη»: μπορεί να προσδιορίζει το αγόρασε («η Μαρία και η Ελένη αγόρασαν μαζί») ή, λιγότερο πιθανά, το τηλεόραση. Επίπεδο: σύνταξη/σημασιολογία. Επίλυση: selectional restrictions, πιθανοφάνεια, προσωδία, context. - Αναφορική αμφισημία στο «την»: μπορεί να αναφέρεται στη Μαρία ή στην τηλεόραση. Επίπεδο: σημασιολογία/λόγος (coreference). Επίλυση: συμφωνία γένους/αριθμού, εγγύτητα/προεξοχή, σημασιολογικοί περιορισμοί του πήγε σπίτι, γνώση κόσμου· αν παραμένει, διευκρίνιση. - Πραγματολογική ασάφεια στο «σπίτι»: ποιανού σπίτι και αν είναι προορισμός ή κατοικία. Επίλυση από το κείμενο/κατάσταση. - «Σου είπα να είναι πράσινο!» - Έλλειψη/αναφορική ασάφεια: λείπει το ουσιαστικό με το οποίο συμφωνεί το ουδέτερο πράσινο (π.χ. φανάρι, φόρεμα, χαρτί, φύλλο). Επίπεδο: σύνταξη/σημασιολογία/πραγματολογία. Επίλυση: το προηγούμενο συγκείμενο, εστίαση λόγου, κοινή γνώση. - Λεξιλογική/μεταφορική αμφισημία του πράσινο: κυριολεκτικό χρώμα ή μεταφορική σημασία (π.χ. «πράσινο φως» = έγκριση, «πράσινο» = φιλικό προς το περιβάλλον, άπειρο). Επίπεδο: λεξιλογικό/σημασιολογικό/πραγματολογικό. Επίλυση: collocations, context, επιτόνιση. - Πραγματολογική αμφισημία της δύναμης της εκφώνησης (εντολή, υπενθύμιση, παράπονο). Επίλυση: προσωδία, περίσταση, πρόθεση ομιλητή.