Obiettivi Formativi

Il corso si prefigge di illustrate le tecniche di analisi avanzate dei dati

Learning Goals

The goal of the course is to introduce students to modern data analysis techniques

Metodi didattici

Lezioni frontali

Teaching Methods

Lectures

Prerequisiti

Conoscenza di un linguaggio di Programmazione. Conoscenze di base di Analisi Matematica, Probabilità e Statistica, Algebra Lineare

Prerequisites

Basic programming skills, Calculus, Linear Algebra, Probability, Statistics

Verifiche dell'apprendimento

Esame orale

Assessment

Oral exam

Programma del Corso

I. Introduzione al Data Analytics e al Machine Learning 1. Il concetto di apprendimento supervisionato e non-supervisionato. 2. Il primo esempio di classificatore: k-Nearest neighbor II. Classificazione mediante modelli generativi 1. La distribuzione gaussiana univariata e multivariata 2. Approcci generativi per la classificazione III. Modelli di predizione lineare I 1. Regressione Lineare 2. Regularized Linear Regression: Ridge Regression 3. Regularized Linear Regression: Lasso Regression 4. Logistic Regression IV Modelli di Predizione Lineare II 1. Perceptron Algorithm 2. Elementi di ottimizzazione vincolata e non vincolata 3. Ottimizzazione di funzioni convesse e la teoria della dualità 4. Support Vector Machines: hard-Margin SVM 5. Support Vector Machines: Soft-Margin SVM 6. Estensione alla multiclass classification. V. Altri metodi di classificazione 1. Kernel methods e Kernel Trick 2. Kernel Perceptron 3. Kernel SVM 4. Classification and Regression Trees 5. Combinazione di weak classifiers: il Boosting 6. Random forests V. Metodi di Apprendimento non supervisionato 1. Clustering 2. Metodi di riduzione della dimensionalità: PCA e SVD VI. Introduzione al Deep learning 1. Autoencoders 2. Rappresentazioni distribuite 3. Feedforward neural nets

Course Syllabus

I. Introducing Data Analytics and Machine Learning 1. Supervised and Unsupervised learning 2. k-Nearest neighbor II. Classification and generative models 1. Univariate and Multivariate Gaussian Distribution 2. Generative approaches to classification III. Linear Models 1. Linear Regression 2. Regularized Linear Regression: Ridge Regression 3. Regularized Linear Regression: Lasso Regression 4. Logistic Regression IV Linear Models II 1. Perceptron Algorithm 2. Constrained and Uncostrained optimization 3. Optimizing convex functions and duality 4. Support Vector Machines: hard-Margin SVM 5. Support Vector Machines: Soft-Margin SVM 6. Multiclass classification. V. Other classification models 1. Kernel methods and Kernel Trick 2. Kernel Perceptron 3. Kernel SVM 4. Classification and Regression Trees 5. Boosting 6. Random forests V. Unsupervised Learning 1. Clustering 2. Dimensionality reduction: PCA e SVD VI. Introduction to Deep learning 1. Autoencoders 2. Distributed representations 3. Feedforward neural nets