Obiettivi Formativi

Far conoscere le teorie e le metodologie algoritmiche per la soluzione di problemi decisionali in differenti ambiti con particolare riguardo alla modellazione mediante grafi di relazioni tra gli elementi di un sistema complesso. Far conoscere costi e benefici legati all'adozione di algoritmi e strutture dati. Far conoscere i principi base di un moderno linguaggio di programmazione utilizzato per l'efficace modellazione di sistemi complessi. Far conoscere i principi base dei moderni sistemi di esecuzione distribuita di algoritmi ottimizzati per la risoluzione di problemi complessi, e i principi base della teoria dell’informazione utile alla conoscenza, codifica e compressione dei dati. Far applicare le teorie e le metodologie algoritmiche a casi di studio da analizzare criticamente affiancando alle lezioni frontali relative agli aspetti teorici esercitazioni pratiche di programmazione e analisi. Far riconoscere: 1) gli aspetti significativi (entità e relazioni) in un problema da modellare, 2) le conseguenze, in termini di comportamento del modello, delle ipotesi di partenza. Sviluppare un adeguato grado di autonomia di giudizio nella analisi di problemi complessi. Far apprendere un linguaggio specifico della disciplina. Sviluppare la capacità di comunicare efficacemente e con linguaggio tecnico nell’ambito della definizione e descrizione di problemi in sistemi complessi delineandone le soluzioni algoritmiche. Fare acquisire un metodo di studio e di analisi adeguato all'analisi autonoma di problemi avanzati. Sviluppare la capacità di verifica e aggiornamento nel settore del software necessari all’implementazioni di nuove soluzioni adeguate.

Learning Goals

Make the students know algorithmic theories and methodologies to solve decision problems in various contexts, in particular concerning the creation of models using graphs of relations among the entities of a complex system. Make the students aware of costs and benefits related to the adoption of algorithms and data structures. Make the students know the basic principles of a modern programming language used for an effective modeling of complex systems Make the students know the basic principles of modern distributed execution systems used for the new family of optimized algorithms useful for solving complex problems. Make the students know the basic principles of information theory useful for the data knowledge, its coding and compressions. Make the students apply algorithmic theories and methodologies to study-cases that must be critically analyzed. To this purpose, frontal lectures are accompanied with practical exercises concerning coding and analysis. Make the students recognize: 1) the significant aspects (entities and relations) in a problem that will be modeled, 2) the consequences, in terms of model results, of the starting hypotheses. Students skills development an adequate level of independency in judgments and analysis of complex problems. Make the students know the course specific language. Achieving the ability to communicate effectively with technical language in the context of defining Make the students acquire a methodology of study and analysis adequate to the autonomous analysis of advanced problems. Make the students able to accomplish verification and updating in software sector necessary for implementing new possible solutions.

Metodi didattici

Al fine di raggiungere gli obiettivi formativi previsti, il corso si articola attraverso lezioni frontali, esercitazioni in aula, esercitazioni guidate dal docente. Tutte le attività sono svolte con supporto di slide delle lezioni. Le slide presentate sono condivise tramite la classe MS Teams dedicata.

Teaching Methods

In order to achieve the expected objectives, the course is organized in lectures, practical based lessons in the class and guided exercises with teacher support. All activities are carried out with the support of lecture slides. Slides presented during the lecture are shared through the MS Teams classroom.

Prerequisiti

Conoscenze di base di Algoritmi e Strutture Dati, conoscenza di un linguaggio di programmazione. Conoscenza di base di architetture di calcolo distribuito.

Prerequisites

Basic knowledge about Algorithms and Data Structures, and a programming language. A basic knowledge of distributed computational architectures

Verifiche dell'apprendimento

Test on-line disponibile tramite la piattaforma di e-learning dell’Università. Gli studenti effettuano il test il giorno stabilito dell’esame nei laboratori messi a disposizione dall’Ateneo e concordati con il docente. La valutazione del test è compresa tra 0 e 15. E’ necessario prendere almeno 10 al test per accedere alla verifica orale. Il risultato del test rimane valido per 12 mesi, entro cui lo studente dovrà completare l’esame. La verifica orale ha una valutazione compresa tra 0 e 10. L’esame prevede un progetto opzionale, a scelta dello studente. Il progetto viene discusso in sede di verifica orale ed ha una valutazione compresa tra 0 e 5. Il voto finale, in trentesimi, è dato dalla somma del voto del test, quello dell’esame orale ed, eventualmente, del progetto.

Assessment

Online test available through the University's e-learning platform. Students take the test on the exam day in the laboratories made available by the University and agreed with the Professor. The assessment of the test is between 0 and 15. It is necessary to reach a score of at least 10 on the test to access the oral exam. The test result remains valid for 12 months, within which the student must complete the exam. The oral exam has a score between 0 and 10. The exam includes an optional project, chosen by the student. The project is discussed during the oral exam and has a score between 0 and 5. The final evaluation, out of thirty, is given by the sum of the test, the oral exam and, possibly, the project scores.

Programma del Corso

------------------------------------------------------------ Modulo: 6094/1 - ADVANCED ALGORITHMS AND COMPUTATIONAL MODELS A ------------------------------------------------------------ MODULO A -INTRODUZIONE A PYTHON: Oggetti in Python, Espressioni, operatori e precedenza, Flusso di controllo, Funzioni, Gestione dell’I/O, Gestione delle eccezioni, Iteratori e generatori, Visibilità e spazio dei nomi, Moduli -PROGRAMMAZIONE ORIENTATA AGLI OGGETTI: Obiettivi, principi di progettazione e pattern della programmazione orientata agli oggetti, Definizione delle classi: overloading e metodi speciali, iteratori, Ereditarietà, Spazio dei nomi e orientazione agli oggetti, Copia superficiale e profonda -ANALISI DEGLI ALGORITMI: Operazioni primitive, Analisi asintotica: notazione Theta, O e Omega -ALGORITMI SUI GRAFI: Il tipo di dato astratto grafo, Strutture dati per i grafi: lista di archi, lista di adiacenza, mappa di adiacenza, matrice di adiacenza, Attraversamento dei grafi: ricerca in profondità, ricerca in ampiezza, Chiusura transitiva, Grafi diretti aciclici: ordinamento topologico, Percorsi minimi: grafi pesati, algoritmo di Dijkstra, Alberi di ricopertura minimi: algoritmo di Prim-Jarnik, algoritmo di Kruskal -INTRODUZIONE ALLA NETWORK SCIENCE: Grado, grado medio e distribuzione di grado, Reti pesate, reti bipartite, Percorsi e distanze –Connessione – Coefficiente di clustering, Leggi di potenza e reti scale-free, Hub, Invarianza di scala -RETI MODELLO: Il modello di rete random, Numero di link, Distribuzione di grado, Evoluzione di reti random, Le reti reali sono supercritiche, Small world, Coefficiente di clustering, Crescita e aggregazione preferenziale, Il modello di Barabasi-Abert, Dinamica del grado, distribuzione di grado, Assenza di crescita o aggregazione preferenziale, Il modello di Bianconi-Barabasi – Misura della fitness -CORRELAZIONE DI GRADO: Introduzione, Assortatività e disassortatività, Misura delle correlazioni di grado -COMUNITÀ: Introduzione – Fondamenti delle comunità, Clusterizzazione gerarchica (algoritmo di Ravasz, algoritmo di Girvan-Newman), Modularità, Individuazione di comunità: algoritmo goloso di Newman -FENOMENI DIFFUSIVI: Introduzione, Modellazione di epidemie: modelli SI, SIS, SIR, Epidemie su reti MODULO B -PROBLEMI RAPPRESENTATIVI: Cinque problemi rappresentativi, Pianificazione degli intervalli, Corrispondenza stabile e corrispondenza perfetta, Intervallo di Scheduling ponderato. PROGRAMMAZIONE DINAMICA: Schedulazione degli intervalli ponderati, Minimi quadrati segmentati: scelte a più vie, Struttura secondaria del RNA: programmazione dinamica su intervalli. FLUSSO DI RETE: Il problema del flusso massimo, L'algoritmo Ford-Fulkerson, Flussi massimi e tagli minimi in una rete, La scelta dei buoni percorsi di miglioramento, L'algoritmo Preflow-Push Maximum-Flow, Applicazioni ALGORITMI NEI SISTEMI DISTRIBUITI: L'approccio Map-reduce, Hadoop INCERTEZZA E INFORMAZIONE: Entropia: scelta e incertezza, Scelta con probabilità nota, Entropia condizionale, Determinazione assiomatica dell'entropia, Informazione e sua misura, Divergenza Kullback-Leibler, Probabilità come informazione CODIFICA EFFICIENTE DELLE INFORMAZIONI: Codifica di una singola variabile casuale, Codici privi di prefisso, Alberi n-ari per la codifica, Disuguaglianza Kraft, Codici efficienti, Lunghezza e incertezza del percorso degli alberi n-ari probabilizzati, Teorema di codifica senza rumore, Codici Huffman, Codifica da variabile a lunghezza fissa, codice Tunstall, Algoritmo di costruzione del codice Tunstall, Codifica dei numeri interi positivi, Codifica di sorgenti con codifica Memory Huffman di slice, Schema di codice sorgente Elias-Willems, Codici Lempel-Ziv, gzip e bzip2 CODIFICA PER TRASMISSIONE RUMOROSA: Canali di comunicazione, Lemma di Fano, Il teorema della codifica rumorosa, Codici di ripetizione ------------------------------------------------------------ Modulo: 6094/2 - ADVANCED ALGORITHMS AND COMPUTATIONAL MODELS B ------------------------------------------------------------ -PROBLEMI RAPPRESENTATIVI: Cinque problemi rappresentativi, Pianificazione degli intervalli, Corrispondenza stabile e corrispondenza perfetta, Intervallo di Scheduling ponderato. PROGRAMMAZIONE DINAMICA: Schedulazione degli intervalli ponderati, Minimi quadrati segmentati: scelte a più vie, Struttura secondaria del RNA: programmazione dinamica su intervalli. FLUSSO DI RETE: Il problema del flusso massimo, L'algoritmo Ford-Fulkerson, Flussi massimi e tagli minimi in una rete, La scelta dei buoni percorsi di miglioramento, L'algoritmo Preflow-Push Maximum-Flow, Applicazioni ALGORITMI NEI SISTEMI DISTRIBUITI: L'approccio Map-reduce, Hadoop INCERTEZZA E INFORMAZIONE: Entropia: scelta e incertezza, Scelta con probabilità nota, Entropia condizionale, Determinazione assiomatica dell'entropia, Informazione e sua misura, Divergenza Kullback-Leibler, Probabilità come informazione. CODIFICA EFFICIENTE DELLE INFORMAZIONI: Codifica di una singola variabile casuale, Codici privi di prefisso, Alberi n-ari per la codifica, Disuguaglianza Kraft, Codici efficienti, Lunghezza e incertezza del percorso degli alberi n-ari probabilizzati, Teorema di codifica senza rumore, Codici Huffman, Codifica da variabile a lunghezza fissa, codice Tunstall, Algoritmo di costruzione del codice Tunstall, Codifica dei numeri interi positivi, Codifica di sorgenti con codifica Memory Huffman di slice, Schema di codice sorgente Elias-Willems, Codici Lempel-Ziv, gzip e bzip2. CODIFICA PER TRASMISSIONE RUMOROSA: Canali di comunicazione, Lemma di Fano, Il teorema della codifica rumorosa, Codici di ripetizione

Course Syllabus

------------------------------------------------------------ Modulo: 6094/1 - ADVANCED ALGORITHMS AND COMPUTATIONAL MODELS A ------------------------------------------------------------ MODULE A -PYTHON PRIMER: Objects in Python, Expressions, Operators and Precedence, Control Flow, Functions: Information passing, built-in functions, I/O management, Exception Handling, Iterators and Generators, Scopes and Namespaces, Modules -OBJECT-ORIENTED PROGRAMMING: Object-Oriented design goals, design principles and design patterns, Class Definitions: overloading and special methods, iterators, Inheritance, Namespaces and Object-Orientation, Shallow and Deep Copying -ALGORITHM ANALYSIS: Primitive operations, Asymptotic Analysis: Theta, O and Omega notations -GRAPH ALGORITHMS: The Graph Abstract Data Type, Data structures for graphs: edge list, adjacency list, adjacency map, adjacency matrix, Graph Traversals: Depth-First Search, Breadth-First Search, Transitive closure, Directed Acyclic Graphs: topological ordering, Shortest Paths: Weighted graphs, Dijkstra's algorithm, Minimum spanning trees: Prim-Jarnik algorithm, Kruskal algorithm -INTRODUCTION TO NETWORK SCIENCE: Degree, average degree and degree distribution, Weighted networks, bipartite networks, Paths and Distances, Connectedness, Clustering Coefficient, Power laws and scale-free networks, Hubs, The meaning of scale-free -MODEL NETWORKS: The random network model, Number of links, Degree distribution, Evolution of a random network, Real networks are supercritical, Small worlds, Clustering coefficient, Growth and preferential attachment, The Barabasi-Albert model, Degree dynamics, degree distribution, The absence of growth or preferential attachment, The Bianconi-Barabasi model, Measuring fitness -DEGREE CORRELATION: Introduction, correlations, Assortativity and disassortativity, Measuring degree -COMMUNITIES: Introduction, Basics of Communities, Hierarchical Clustering (Ravasz algorithm, Girvan-Newman algorithm), Modularity, Community detection: the greedy Newman algorithm -SPREADING PHENOMENA: Introduction, Epidemic modeling: SI, SIS, SIR models, Network epidemics MODULE B REPRESENTATIVE PROBLEMS: Five representative problems, Interval scheduling, Stable matching problem and Perfect matching, Weighted interval scheduling. DYNAMIC PROGRAMMING: Weighted Interval Scheduling, Principles of Dynamic Programming, Segmented Least Squares: Multi-way Choices, RNA Secondary Structure: Dynamic Programming over Intervals. NETWORK FLOW: The Maximum-Flow Problem, The Ford-Fulkerson Algorithm, Maximum Flows and Minimum Cuts in a Network, Choosing Good Augmenting Paths, The Preflow-Push Maximum-Flow Algorithm, Applications ALGORITHMS IN DISTRIBUTED SYSTEMS: The Map-reduce approach, Hadoop UNCERTAINTY AND INFORMATION: Entropy: Choice and Uncertainty, Choice with Known Probability, Conditional Entropy, Axiomatic Determination of Entropy, Information and its measure, Kullback-Leibler Divergence, Probability as Information EFFICIENT CODING OF INFORMATION: Coding a Single Random Variable, Prefix-Free Codes, n-ary Trees for Coding, Kraft Inequality, Efficient Codes, Probabilized n-ary Trees Path Length and Uncertainty, Noiseless Coding Theorem, Huffman Codes, Variable-to-Fixed Length Coding, Tunstall’s Code, Tunstall Code Construction Algorithm, Coding the Positive Integers, Coding of Sources with Memory Huffman coding of slices, Elias-Willems Source Coding Scheme, Lempel-Ziv Codings, gzip and bzip2 CODING FOR NOISY TRANSMISSION: Communication Channels, Fano’s Lemma, The Noisy Coding Theorem, Repetition Codes ------------------------------------------------------------ Modulo: 6094/2 - ADVANCED ALGORITHMS AND COMPUTATIONAL MODELS B ------------------------------------------------------------ REPRESENTATIVE PROBLEMS: Five representative problems, Interval scheduling, Stable matching problem and Perfect matching, Weighted interval scheduling. DYNAMIC PROGRAMMING: Weighted Interval Scheduling, Principles of Dynamic Programming, Segmented Least Squares: Multi-way Choices, RNA Secondary Structure: Dynamic Programming over Intervals. NETWORK FLOW: The Maximum-Flow Problem, The Ford-Fulkerson Algorithm, Maximum Flows and Minimum Cuts in a Network, Choosing Good Augmenting Paths, The Preflow-Push Maximum-Flow Algorithm, Applications ALGORITHMS IN DISTRIBUTED SYSTEMS: The Map-reduce approach, Hadoop. UNCERTAINTY AND INFORMATION: Entropy: Choice and Uncertainty, Choice with Known Probability, Conditional Entropy, Axiomatic Determination of Entropy, Information and its measure, Kullback-Leibler Divergence, Probability as Information. EFFICIENT CODING OF INFORMATION: Coding a Single Random Variable, Prefix-Free Codes, n-ary Trees for Coding, Kraft Inequality, Efficient Codes, Probabilized n-ary Trees Path Length and Uncertainty, Noiseless Coding Theorem, Huffman Codes, Variable-to-Fixed Length Coding, Tunstall’s Code, Tunstall Code Construction Algorithm, Coding the Positive Integers, Coding of Sources with Memory Huffman coding of slices, Elias-Willems Source Coding Scheme, Lempel-Ziv Codings, gzip and bzip2. CODING FOR NOISY TRANSMISSION: Communication Channels, Fano’s Lemma, The Noisy Coding Theorem, Repetition Codes