- Docente: Giovanni Emanuele Corazza
- Crediti formativi: 6
- SSD: ING-INF/03
- Lingua di insegnamento: Italiano
- Modalità didattica: Convenzionale - Lezioni in presenza
- Campus: Bologna
- Corso: Laurea Specialistica in Ingegneria informatica (cod. 0234)
Conoscenze e abilità da conseguire
Comprensione delle basi fondamentali della Teoria dell'Informazione e della Teoria dei Codici. Applicazioni della teoria allo studio di codici a blocco e convoluzionali. Elementi di codifica di sorgente.
Contenuti
1) Introduzione alla teoria dell'informazione
Definizione di informazione ed entropia. Entropia congiunta e condizionata. Regola della concatenazione. Entropia relativa. Informazione mutua. Regole e teoremi su entropia e informazione mutua. Entropia di processo aleatorio tempo discreto. Esercizi.
2) Capacità del canale
Capacità del canale DMC. Proprietà della capacità. Esempi di calcolo in forma chiusa. Definizione di codice, ritmo di codifica. Teorema della codifica di canale. Entropia differenziale di variabile aleatoria continua. Entropia di variabile aleatoria gaussiana. Teorema della massima entropia di variabile aleatoria continua. Capacità del canale AWGN tempo discreto e tempo continuo. Relazioni tra efficienza spettrale, capacità e rapporto segnale-rumore. Limite di Shannon. Grafico modulazioni. Esercizi.
3) Codifica a blocchi
Cenni storici sulla teoria della codifica. Codici a blocco lineari. Codici sistematici. Matrice generatrice. Distanza di Hamming. Proprietà. Rivelazione e correzione degli errori. Matrice di controllo di parità. Sindrome. Codice estensione. Codice accorciato. Esempi di codici a blocco. Esercizi.
4) Codifica convoluzionale
Definizione e schema a blocchi. Esempio. Polinomi generatori. Diagramma di stato e a traliccio. Distanza di Hamming. Distanza minima e distanza libera. Algoritmo di calcolo della distanza libera. Funzione di trasferimento del codice. Regole per la risoluzione dei grafi. Decodifica di codici convoluzionali. Algoritmo di Viterbi. Prestazioni: limite dell'unione. Esercizi.
5) Codifica di sorgente
Schema a blocchi. Ridondanza statistica. Irrilevanza percettiva. Classificazione dei metodi di codifica di sorgente: lossy e lossless. Codifiche a lunghezza variabile. Vincolo del prefisso. Codici di Huffman. Esempi. Limiti della codifica di Huffman. Algoritmo di Lempel-Ziv. Esercizi.
6) Teoria dell'informazione di rete
Canali multi-utente. Capacità del canale broadcast. Capacità del canale ad accesso multiplo. Dualità. Esercizi.
Testi/Bibliografia
- Thomas M. Cover, Joy A. Thomas,
Elements of Information Theory,
Wiley Series in Telecommunication
- John G. Proakis,
Digital Communications,
McGRAW-HILL INTERNATIONAL EDITIONS
Metodi didattici
Lezioni frontali ed esercitazioni. Seminari di approfondimento.
Modalità di verifica e valutazione dell'apprendimento
Esame scritto e orale.
Strumenti a supporto della didattica
http://gecorazza.deis.unibo.it
Orario di ricevimento
Consulta il sito web di Giovanni Emanuele Corazza