Je ne vous ai pas encore vraiment expliqué
comment calculer le niveau d'information de Shannon.
Je vous ai juste expliqué qu'il s'agissait
du taux de surprise d'un récepteur
à la réception d'un message d'une source.
Nous pouvons donc dire, intuitivement,
que la source du message,
le bébé d'un an qui ne sait dire que "Da",
ne donne aucune surprise,
tandis qu'un autre,
qui dit "Dada Mama Baba",
provoque une certaine surprise,
car on ne sait jamais lequel de ces trois mots il va nous dire.
Celui-ci a donc un plus grand taux d'information.
De la même manière, une source qui traite d'une pièce de monnaie
n'a que deux messages possibles, pile ou face.
Au contraire, un source qui traite de dés a six messages possibles:
elle est donc moins prévisible et son contenu est plus grand.