Δεν σας έχω πει ακόμη πώς να υπολογίζετε με τύπο το
περιεχόμενο πληροφορίας του Shannon. Σας έχω μόνο πει -
διαισθητικά - ότι είναι το ποσό
έκπληξης που έχει ένας δέκτης όταν
λαμβάνει ένα μήνυμα από
μία πηγή μηνυμάτων. Οπότε, διαισθητικά, μπορούμε να πούμε ότι
η πηγή μηνυμάτων, το παιδί ενός έτους, το οποίο πάντοτε
λέει "Ντα", δεν σας προκαλεί καμία απολύτως έκπληξη, ενώ αντιθέτως το δεύτερο
παιδί ενός έτους που λέει: ¨"Νταντά, Μαμά, Μπαμπά", σας προκαλεί
κάποια έκπληξη: Δεν γνωρίζετε ποια από τις τρεις αυτές λέξεις (επιλογές)
θα πει αυτό το παιδί αμέσως μετά. Άρα, αυτό έχει μεγαλύτερο περιεχόμενο πληροφορίας.
Και, παρόμοια, η πηγή μηνυμάτων που σχετίζεται με ένα αμερόληπτο νόμισμα
έχει μόνο δύο μηνύματα, "κορώνα" και "γράμματα", ενώ η πηγή μηνυμάτων
που σχετίζεται με ένα αμερόληπτο ζάρι έχει έξι πιθανά μηνύματα, άρα είναι λιγότερο προβλέψιμη και
έχει περισσότερο περιεχόμενο πληροφορίας.