Μέθοδοι Μητρώων και Υπολογιστικά Εργαλεία στην Επιστήμη Δεδομένων¶

Επίσημο περίγραμμα μαθήματος του ΤΜΗΥΠ (Πανεπιστήμιο Πατρών), όπως δημοσιεύεται στη σελίδα του μαθήματος και στο συνημμένο αρχείο «Περίγραμμα Μαθήματος». Το κείμενο παρατίθεται αυτούσιο, χωρίς τα πρότυπα οδηγιών του εντύπου.

Στόχοι¶

Γενικός στόχος του μαθήματος είναι η παρουσίαση θεωρητικών μεθόδων και υπολογιστικών εργαλείων γραμμικής άλγεβρας με έμφαση στην επίλυση προβλημάτων από την Επιστήμη των Δεδομένων. Ο τομέας προχωρά ραγδαία και απαιτεί πολύ πιο προχωρημένες γνώσεις από αυτές που υπάρχει χρόνος να καλυφθούν στο εισαγωγικό μάθημα της Γραμμικής Άλγεβρας. Οι μαθηματικές μέθοδοι που διδάσκονται στοχεύουν στην αποτελεσματική διαχείριση πολύ μεγάλων στιγμιοτύπων των δύο θεμελιωδών αντικειμένων του πεδίου, δηλαδή μητρών και γραφημάτων. Με το πέρας του μαθήματος, οι φοιτητές θα έχουν μελετήσει και χρησιμοποιήσει θεωρητικά και πρακτικά εργαλεία που είναι απαραίτητα στην περιοχή, θα γνωρίζουν τις δυνατότητες και αδυναμίες αυτών των εργαλείων και θα είναι σε θέση να επιλέξουν μεθόδους με βάση τα χαρακτηριστικά του προβλήματος. Θα είναι επίσης σε θέση να εφαρμόζουν αυτές τις τεχνικές για να κατανοήσουν εκτιμούν τη σύγχρονη εξελισσόμενη ερευνητική βιβλιογραφία επί του θέματος.

Περιεχόμενο (ύλη)¶

Υπολογισμοί με μητρώα ως πυρήνες εφαρμογών. Γραφήματα, δίκτυα, πίνακες, μητρώα, υπερμητρώα και τανυστές. Το θεμελιώδες πρόβλημα του πολλαπλασιασμού μητρώων. Παραγοντοποιήσεις τάξης, QR, SVD, GSVD. Ελάχιστα τετράγωνα. Ολικά ελάχιστα τετράγωνα. Τεχνικές ομαλοποίησης. Επίλυση με επαναληπτικές μέθοδους: Μέθοδοι Krylov και μπλοκ Krylov. Μέθοδοι προβολής γραμμών. Μέθοδοι διαστατικής μείωσης, ομαδοποίηση και εφαρμογές: Προσεγγίσεις με μητρώα μειωμένης τάξης. Μη αρνητικά ελάχιστα τετράγωνα και το NMF. Τανυστές και οι διασπάσεις τους. Στοιχεία τυχαιοποιημένης αριθμητικής γραμμικής άλγεβρας: τυχαιοποιημένες προβολές, sketching, τυχαιοποιημένες παραγοντοποιήσεις CUR, SVD, GSVD. Συναρτήσεις μητρώων και εφαρμογές στον υπολογισμό δεικτών κεντρικότητας δικτύων. Υπολογισμός ίχνους και διαγωνίου. Βιβλιοθήκες αριθμητικού λογισμικού. Επίδραση των νέων αρχιτεκτονικών HPC: Κωδικοποιήσεις κινητής υποδιαστολής, αριθμητικοί αλγόριθμοι μικτής ακρίβειας, στοχαστική στρογγύλευση. Παραλληλία στους υπολογισμούς μητρώων. Ασύγχρονοι αλγόριθμοι και αλγόριθμοι αποφυγής επικοινωνίας.

Αξιολόγηση¶

Η αξιολόγηση βασίζεται στους ακόλουθους παράγοντες:

1) Συμμετοχή στην τάξη. 2) Εκπόνηση εργασίας και υποβολή σε μορφή τεχνικής αναφοράς. 3) Προφορική παρουσίαση της αναφοράς και εξέταση επί της ύλης του μαθήματος.

Βιβλιογραφία¶

G. Strang, Linear Algebra and Learning from Data, Wellesley-Cambridge Press, 2019.
M. Mahoney, J. Duchi and A.C. Gilbert, eds., The Mathematics of Data, IAS/Park City Mathematics Series, vol. 25, 2018.
G. Golub and C. Van Loan, “Matrix Computations”, 4th edition, Johns Hopkins U, Press, 2013 ή η ελληνική έκδοση “Θεωρία και Υπολογισμοί Μητρώων», Πεδίο, 2015.
L. Eldén, Matrix Methods in Data Mining and Pattern Recognition, 2nd ed., SIAM, 2019.
D. Calvettti & E. Somersalo, Mathematics of Data Science: A Computational Approach to Clustering and Classification, SIAM, 2021.
Phillips, Jeff M., Mathematical Foundations for Data Analysis, Springer Series in the Data Sciences, Springer International Publishing, 2021.
M.P. Deisenroth, A.A. Faisal and C.S. Ong, Mathematics for Machine Learning, Cambridge University Press: Cambridge, 2020.
Peter Grindrod , Mathematical Underpinnings of Analytics, Oxford University Press, 2014.
A. Kireeva and J.A. Tropp, Randomized matrix computations: themes and variations, California Institute of Technology, 2023.
E. Gallopoulos, B. Philippe and A. Sameh, Parallelism in Matrix Computations, Springer, 2016.
A. Laub, Ανάλυση Μητρώων για Επιστήμονες και Μηχανικούς, Κλειδάριθμος, 2010. -Συναφή επιστημονικά περιοδικά:
Βασικές πηγές: SIAM J. Matrix Analysis, SIAM J. Math. Data Sciences, SIAM J. Scientific Computing, IEEEE TKDE, Data Mining & Knowledge Discovery, κ.ά.