Încă nu v-am arătat cum să calculați
conținuyul de informație conform regulii lui Shannon,
v-am explicat că, în mod intuitiv, este reprezentat de nivelul de surprindere
pe care îl are receptorul când primește mesajul
de la sursă
În mod intuitiv, putem spune că
emițătorul, copilul de un an, care spune tot timpul
”Da” nu va produce nici o surpriză în timp ce,
al doilea copil de un an care spune "Dada Mama Baba"
vă poate produce ceva surprindere; nu știți clare care din cele trei cuvinte
le va spune copilil de un an. Deci, acesta oferă un conținut informativ mai mare.
În mod similar, sursa care raportează posibilitățile de cădere a unei monezi
are doar două mesaje - cap sau pajură - în timp ce sursa de mesaj
care raportează fețele unui zar, are șase mesaje posibile, deci este mai puțin previzibilă
și are un conținut informațional mai mare