Obiettivi Formativi

Conoscenza di tecniche e metodologie matematiche per l’estrazione di informazione da dati massivi (analisi delle componenti principali, analisi fattoriale, procedure di fitting e interpolazione) e per il processo di apprendimento dai dati.

Learning Goals

Knowledge of mathematical techniques and methodologies for information extraction from large data sets (principal component analysis, factorial analysis, fitting and interpolation procedures) and learning from data process.

Metodi didattici

Lezioni frontali ed esercitazioni guidate

Teaching Methods

Frontal lessons and guided exercitations

Prerequisiti

Algebra lineare, calcolo differenziale di funzioni reali di variabile reale, numeri complessi.

Prerequisites

Linear algebra, differential calculus of real functions, complex numbers.

Verifiche dell'apprendimento

Prova scritta ed esame orale sugli argomenti del corso.

Assessment

Written test and oral exam on the course topics.

Programma del Corso

Elemeti di teoria della probabilità: spazi di probabilità, assiomi della probabilità, probabilità condizionata e indipendenza, densità di probabilità, valori attesi, varianza, teorema di Bayes, inferenza bayesiana, campionamento. Elementi di algebra lineare: vettori e matrici, operazioni, norme, indipendenza lineare, rango di una matrice, inversa di una matrice, determinante, ortogonalità. Distanze e primi vicini: metriche, distanza euclidea, distanza di Mahalanobis, distanza angolare, divergenza di Kullback-Liebler, distanze tra insiemi e stringhe, distanza di Jaccard, distanza di modifica tra stringhe, k-gramma, similarità. Fitting: metodo dei minimi quadrati, regressione lineare con più variabili esplicative. regressione polinomiale, fitting di dati con un modello, validazione, metodo gradiente. Analisi delle componenti principali: dati matriciali, proiezioni, decomposizione ai valori singolari di matrici, autovalori e autovettori, scaling multidimensionale, analisi disciminante lineare, Clustering: diagrammi di Voronoi, triangolazione di Delaunay, algoritmo di Gonzalez, algoritmo di Lloyds, soft clustering, clustering gerarchico, outliers. Grafi: definizione e proprietà, catene di Markov, catene di Markov ergodiche, algoritmo Metropolis, pagerank, clustering spettrale su grafi. Big data: inttroduzione, tecniche di campionamento e approssimazione, modello di streaming, elementi frequenti.

Course Syllabus

Elements of Probability theory: probability spaces, axioms of probability, conditional probability and independence, probability density, expected values, variance, Bayes' theorem, Bayesian inference, sampling. Elements of Linear algebra: vectors and matrices, operations, norms, linear independence, rank of a matrix, inverse of a matrix, determinant, orthogonality. Distances and nearest neighbors: metrics, Euclidean distance, Mahalanobis distance, angular distance, Kullback-Liebler divergence, distances between sets and strings, Jaccard distance, modification distance between strings, k-grams, similarity. Fitting: least square method, simple linear regression, linear regression with multiple explanatory variables. polynomial regression, fitting data with a model, validation, gradient method. Principal component analysis: matrix data, projections, decomposition to singular values ​​of matrices, eigenvalues ​​and eigenvectors, multidimensional scaling, linear discriminating analysis, Clustering: Voronoi diagrams, Delaunay triangulation, Gonzalez algorithm, Lloyds algorithm, soft clustering, hierarchical clustering, outliers. Graphs: definition and properties, Markov chains, ergodic Markov chains, Metropolis algorithm, pagerank, spectral clustering on graphs. Big data: introduction, sampling and sketching techniques, the streaming model, frequent items.