Notions de théorie de l'information

Sans chercher à expliquer les notions qui conduisent au développement du premier théorème de Shannon sur la quantité d'information contenue dans un message, il peut être utile de donner les formules de base qui ont conduit à ces développements et de commenter certains résultats. Une référence qui permettra aux étudiants qui le souhaitent d'approfondir ces notion est l'ouvrage de A. Spataru, ``Fondements de la théorie de la transmission de l'information'', édité par les presses polytechniques romandes.