L'obiettivo generale del corso è quello di acquisire familiarità con tecniche avanzate di deep learning basato su modelli di reti neurali differenziabili con differenti paradigmi di apprendimento; acquisire competenze di modellizzazione di problemi complessi, attraverso tecniche di deep learning, e saperle applicare in contesti diversi nei campi della fisica, della ricerca scientifica di base e applicata.
Gli argomenti trattati includono un sottoinsieme (a scelta del dottorando a seconda del numero di ore inserite nel piano di studi) tra: richiami generali su reti neurali artificiali differenziabili e uso delle libreria pytorch per il progetto, allenamento e test di ANN. Architetture di base: MLP, Convolutional neural network, neural network per analisi di sequenze (RNN, LSTM/GRU). Bayesian-NN. Attention, Self-Attention e Visual Transformers. Tecniche avanzate di apprendimento: transfer learning, domain adaptation, adversarial learning, self-supervised and contrastive learning, model distillation. Modelli per Object detection e segmentazione semantica e applicazioni. Graph Neural Network e Geometrical Deep Learning. Modelli Non supervisionati e anomaly detection. Deep Learning Generativo, VAE, GAN, autoregressive models, invertible networks: diffusion e normalizing flow, generative GNN. Quantum Machine Learning su near-term quantum device, progetto e addestramento di semplici quantum neural networks.
Il corso si svolge per circa il 50% con lezioni frontali integrate da proiezioni di slides in modalità telematica, atte a fornire conoscenze avanzate delle tecniche di Deep Learning. Il restante 50% è basato su esperienze pratiche computazionali hands-on che forniscono alcune delle capacità applicative necessarie per sviluppare ed implementare autonomamente modelli di Deep Learning avanzati per la risoluzione di diversi problemi nell'ambito della fisica e della ricerca scientifica in generale.
Prerequisiti:
- Utili: basi di machine learning.
- Importanti: calcolo, algebra Lineare, nozioni di base di meccanica statistica e quantistica.
- Indispensabili: fondamenti di programmazione linguaggio Python.
- Docente: STEFANO Giagu