Τίτλος
Μηχανική-Βαθιά Μάθηση
Ταυτότητα μαθήματος
ΜΗ0115
Αναλυτική Περιγραφή Μαθήματος
Εξάμηνο
10
Περίοδος
Άνοιξη
Κατηγορία
Elective course (general)
Περιγραφή

 

Στο πλαίσιο του μαθήματος Βαθιά-Μηχανική μάθηση καλύπτονται οι παρακάτω θεματικές ενότητες:

  • Εισαγωγή στη Μηχανική Μάθηση: Είδη Μηχανικής Μάθησης, Μέθοδοι Εκπαίδευσης, Μέτρηση Ακρίβειας, Πρόβλεψη, Ταξινόμηση.
  • Μέθοδοι Παλινδρόμησης: Γραμμική Παλινδρόμηση, Λογαριθμική Παλινδρόμηση, Παλινδρόμηση Κορυφογραμμής, Στατική/Δυναμική Αυτοπαλινδρόμηση και Φασματική Ανάλυση.
  • Νευρωνικά Δίκτυα: Μοντέλα και αρχιτεκτονικές νευρωνικών δικτύων, Δίκτυα πρόσθιας τροφοδότησης και μάθηση μέσω διόρθωσης σφάλματος (πολυστρωματικό perceptron, αλγόριθμος backpropagation).
  • Μηχανές Διανυσμάτων Υποστήριξης: Γραμμική Ταξινόμηση, Συναρτήσεις Πυρήνες, Ταξινόμηση Πολλαπλών Κλάσεων.
  • Ομαδοποίηση: Ορισμοί, Είδη Ομαδοποίησης, Συναρτήσεις Απόστασης, Συναρτήσεις Ομοιότητας, Διαμεριστική Ομαδοποίηση, Ιεραρχική Ομαδοποίηση
  • Επιλογή Χαρακτηριστικών και Συγχώνευση Δεδομένων: Filtering, Προσέγγιση Wrapper, Εμπεδωμένες Μέθοδοι Επιλογής Χαρακτηριστικών.
  • Απομείωση Διαστασιμότητας Δεδομένων: Ανάλυση Κυρίων Συνιστωσών, Ανάλυση Γραμμικού Διαχωριστή, Εμπέδωση Χαμηλής Διαστασιμότητας.
  • Βαθιές Αρχιτεκτονικές Νευρωνικών Δικτύων: Ορισμός και Ιδιότητες Βαθιών Αρχιτεκτονικών.
  • Επαναλαμβανόμενες Αρχιτεκτονικές Νευρωνικών Δικτύων: Εκπαίδευση Συστημάτων με Βαθιές Αρχιτεκτονικές, backpropagation through time
  • Συνελικτικά και Βαθιά Συνελικτικά Δίκτυα - Εξαγωγή Χαρακτηριστικών με Βαθιές Αρχιτεκτονικές
  • Γλώσσα Python – Εφαρμογές στη Μηχανική Μάθηση και Εισαγωγή στις Πλατφόρμες Tensorflow, Keras.

Ώρες επικοινωνίας:

Τρίτη 12:00-17:00

Πέμπτη 9:00-11:00

κατόπιν συνεννόησης μέσω email passalis@aegean.gr

Πρόγραμμα τάξης
Δευτέρα 12:00-15:00
Ενότητες:
Εισαγωγή στη Μηχανική-Βαθιά Μάθηση
• Πεδία Τεχνητής Νοημοσύνης
• Μηχανική Μάθηση – Μάθηση Αναπαραστάσεων
• Είδη και Εργασίες Μηχανικής Μάθησης – Μεγάλα Δεδομένα
• Βαθιά Μάθηση – Αρχιτεκτονικές Νευρωνικών Δικτύων
• Αλγόριθμος Οπισθοδιάδοσης
• Μέτρηση Απόδοσης – Υπερπροσαρμογή
• Απλές και Σύνθετες Εφαρμογές Βαθιάς Μάθησης
• Τανυστές: Η Βασική Δομή Δεδομένων στη Μηχανική Μάθηση
• Τανυστές Δεδομένων σε Βιβλιοθήκες Python
• Πράξεις σε Τανυστές

Δομικά Στοιχεία Νευρωνικών Δικτύων
• Στρώσεις: Οι Δομικές Μονάδες Βαθιάς Μάθησης
• Εισαγωγική Εργασία στη Βιβλιοθήκη Keras|
Πολυταξική Ταξινόμηση Ασπρόμαυρων Εικόνων Χειρόγραφων Ψηφίων με τη Βάση Δεδομένων MNIST
• Τανυστές στη Βιβλιοθήκη Numpy
• Python: Εισαγωγή

Σταθμός Εργασίας Βαθιάς Μάθησης I
• Ανατομία Νευρωνικού Δικτύου - Βιολογικά Νευρωνικά Δίκτυα
• Πολυστρωματικό Αντίληπτρο - Συναρτήσεις Ενεργοποίησης
• Εγκατάσταση των Tensorflow/Keras στο Anaconda
• Ροή Εργασίας Keras
• Δυαδική Ταξινόμηση με τη Βάση Δεδομένων IMDb στην Keras
• Python: Αντικείμενα και Πράξεις Ι

Σταθμός Εργασίας Βαθιάς Μάθησης II
• Βελτιστοποίηση Κατάβασης Κλίσης
• Πολυταξική Ταξινόμηση με τη Βάση Δεδομένων Reuters στην Keras
• Παλινδρόμηση με τη Βάση Δεδομένων Boston Housing στην Keras
• Python: Αντικείμενα και Πράξεις II

Επίσημο Πλαίσιο Επίλυσης Προβλημάτων Βαθιάς Μάθησης
• Επίσημες Διαδικασίες Αποτίμησης για Μοντέλα Μηχανικής Μάθησης
• Προετοιμασία Δεδομένων για Βαθιά Μάθηση
• Μηχανική Χαρακτηριστικών
• Αντιμετώπιση Υπερπροσαρμογής
• Γενικευμένη Ροή Εργασίας για την Προσέγγιση Προβλημάτων Μηχανικής Μάθησης
• Python: Προτάσεις και Σύνταξη Ι

Βαθιά Μάθηση για Όραση Υπολογιστών I
• Συνελικτικά Νευρωνικά Δίκτυα (Convnets)
• Εργασία με τη Βάση Δεδομένων MNIST στην Keras
• Εργασία με τη Βάση Δεδομένων Dogs vs. Cats στην Keras
• Python: Προτάσεις και Σύνταξη ΙI

Βαθιά Μάθηση για Όραση Υπολογιστών II
• Χρήση Προεκπαιδευμένου Convnet
• Οπτικοποίηση Μάθησης με Convnets
• Επαύξηση Δεδομένων για την Αντιμετώπιση Υπερπροσαρμογής
• Python: Συναρτήσεις

Βαθιά Μάθηση για Κείμενο και Εικόνα I
• Προεπεξεργασία Δεδομένων Κειμένου
• Ενσωματώσεις Λέξεων
• Επαναλαμβανόμενα Νευρωνικά Δίκτυα
• Στρώσεις LSTM και GRU
• Εργασία με τη Βάση Δεδομένων IMDb στην Keras
• Python: Δομοστοιχεία

Βαθιά Μάθηση για Κείμενο και Εικόνα II
• Εργασία με τη Βάση Δεδομένων jena_climate στην Keras
• Δικατευθυνόμενα Νευρωνικά Δίκτυα
• Ανάλυση Σειριακών Δεδομένων με 1D-Covnets
• Python: Τάξεις

Προχωρημένες Πρακτικές Βαθιάς Μάθησης
• Από τη Σειριακή στη Λειτουργική Διεπαφή Προγραμματισμού Εφαρμογών Keras
• Μοντέλα Πολλαπλής Εισόδου
• Μοντέλα Πολλαπλής Εξόδου
• Συνελικτικό δίκτυο τύπου Inception
• Υπολειπόμενες Συνδέσεις
• Επιθεωρώντας Μοντέλα Βαθιάς Μάθησης με χρήση Ανακλήσεων Keras και TensorBoard

Παραγωγική Βαθιά Μάθηση I
• Παραγωγή Κειμένου με LSTM
• Η Σημασία της Στρατηγικής Δειγματοληψίας
• Εφαρμογές DeepDream στην Keras

Παραγωγική Βαθιά Μάθηση II
• Μεταφορά Νευρωνικού Στυλ στην Keras
• Μεταβαλλόμενος Αυτοκωδικοποιητής
• Παραγωγικά Ανταγωνιστικά Δίκτυα
Μέθοδοι αξιολόγησης

Πρόοδος: 30% της τελικής βαθμολογίας
Τελική Εξέταση: 70% της τελικής βαθμολογίας

Τοποθεσία
Νεοκλασικό Κτίριο: Μεγάλη Αίθουσα Β'
Προτεινόμενα αναγνώσματα

Chollet, F. Deep learning with Python Simon and Schuster (2021)
Atienza, R. Advanced Deep Learning with TensorFlow 2 and Keras Packt Publishing Ltd. (2020)
Raschka, S. Python machine learning Packt publishing ltd. (2015)
Goodfellow, I., Bengio, Y. & Courville, A. Deep Learning MIT Press (2016)
Alpaydin, E. Introduction to machine learning MIT press (2020)
Patterson, J. & Gibson, A. Deep learning: A practitioner's approach O'Reilly Media, Inc. (2017)
Nielsen, M.A. Neural networks and deep learning Determination Press (2015