Λοιπόν, ο Jim Crutchfield είναι ο προσκεκλημένος μας συνομιλητής
για την ενότητα αυτή. Είναι Καθηγητής Φυσικής στο
Πανεπιστήμιο της Καλιφόρνια, στο Davis, καθώς και Διευθυντής του Κέντρου για την Επιστήμη
της Πολυπλοκότητας. Είναι επίσης εξωτερικός συνεργάτης καθηγήτης στο Ινστιτούτο της Santa Fe.
O Jim είναι ένας από τους πρωτοπόρους στο πεδίο της Θεωρίας του Χάους και έχει δουλέψει
για πολλά χρόνια πάνω σε μία ποικιλία θεμάτων στην έρευνα για την Πολυπλοκότητα,
ειδικά σε σχέση με την επεξεργασία της πληροφορίας στα Πολύπλοκα Συστήματα.
Mitchell: Καλώς ήρθες Jim! Crutchfield: Γεια σου Melanie, τι κάνεις; Mitchell: Καλά είμαι! Θα σε ρωτήσω απλά
ποιος νομίζεις ότι είναι ο ρόλος της έννοιας της πληροφορίας στην κατανόηση
των Πολύπλοκων Συστημάτων; Crutchfield: Λοιπόν, η σύντομη και απλή απάντηση είναι ότι πρόκειται για
μία έννοια-κλειδί. Ένας από
τους σημαντικούς ρόλους που παίζει είναι - κατά μία έννοια - ότι είναι ένα υποκατάστατο
των ποσοτήτων για τις οποίες ενδιαφερόμαστε.
Η αντίθεση ή ο παραλληλισμός που θα έκανα, θα ήταν με τη Φυσική.
Στη Φυσική, αυτό το κυρίαρχο πράγμα ή
έννοια ή οντότητα, για την οποία ενδιαφερόμαστε, είναι η ενέργεια.
Και φυσικά υπάρχουν πολλές επιτυχημένες εφαρμογές
στην παραδοσιακή ή μη Φυσική, ας πούμε στη Φυσική των
αλλαγών φάσης στα Πολύπλοκα συστήματα. Αλλά πολλά από αυτά τα Πολύπλοκα συστήματα
εάν θεωρήσουμε ως τέτοια π.χ. τα κοινωνικά δίκτυα ή ένα σύστημα φτιαγμένο από τον άνθρωπο,
το Ίντερνετ, δεν έχουν κατ' ανάγκην μέσα τους
μία αντίστοιχη έννοια με την ενέργεια, οπότε η πληροφορία,
με πολλούς τρόπους, την υποκαθιστά στο πώς περιγράφουμε τον τρόπο λειτουργίας ενός
Πολύπλοκου Συστήματος. Διάφορα είδη αποθήκευσης και επεξεργασίας της Πληροφορίας
μπορούν να σχετιστούν με το πώς είναι οργανωμένο ένα σύστημα.
Άρα πρόκειται για μία έννοια-κλειδί. Βέβαια, η αρχική έννοια της Πληροφορίας
κατά τον Shannon, ως βαθμός έκπληξης,
βαθμός αβεβαιότητας σε ένα σύστημα ή ως το πόσο τυχαίο είναι ένα σύστημα, χρειάζεται να επεκταθεί
και αυτό αποτελεί ένα σημείο στο οποίο εστιάζει πολλή από τη δουλειά μου.
Προσπαθώ να καταδείξω ότι υπάρχουν πολλά διαφορετικά είδη πληροφορίας, όχι μόνο η πληροφορία κατά Shannon,
η οποία, μέσα στο πλαίσιο της θεωρίας της επικοινωνίας,
είναι ο βαθμός της έκπληξης (του απρόβλεπτου).
Mitchell: Έτσι, ας μιλήσουμε για ένα συγκεκριμένο παράδειγμα. Αναφερθήκαμε, λόγου χάρη,
στις αποικίες των μυρμηγκιών. Οπότε, πώς πιστεύεις, ότι θα "κόλλαγε" εκεί η πληροφορία ως έννοια
και ποια είναι εκεί τα διάφορα είδη πληροφορίας;
Crutchfield: H βασική προσέγγιση που χρησιμοποιούμε είναι: να ξεκινάμε
με την οπτική γωνία του Shannon ότι κάθε διαδικασία ή
φυσικό σύστημα ή σύστημα σχεδιασμένο από τον άνθρωπο είναι ένα κανάλι επικοινωνίας. Τώρα, αυτή η έννοια μπορεί να
εφαρμοστεί με πολλούς, πολλούς διαφορετικούς τρόπους. Οπότε, στο πιο γενικό
επίπεδο, μπορούμε να σκεφτούμε κάθε χρονική διαδικασία ως ένα
κανάλι επικοινωνίας, το οποίο συνδέει το παρελθόν με το μέλλον.
Και μπορούμε να εφαρμόσουμε αυτήν την εικόνα της επικοινωνίας
σε μία αποικία μυρμηγκιών. Και υπάρχουν πολλά διαφορετικά επίπεδα στα οποία μπορεί να εφαρμοστεί, οπότε
υπάρχει μία έννοια οργάνωσης της φωλιάς
και του τι είδος κοινωνική ή ακόμη και αρχιτεκτονική πληροφορία
είναι ενσωματωμένη μέσα στην κοινωνική οργάνωση.
ή στην ίδια την δομή της φωλιάς. Όλα αυτά τα στοιχεία,
όλες αυτές οι μορφές οργάνωσης εκφράζουν μία συγκεκριμένη περίληψη της συμπεριφοράς των μυρμηγκιών,
στο παρελθόν: ότι είναι σημαντικό για αυτά να επιζήσουν και επομένως να ζήσουν
και στο μέλλον. Θα μπορούσαμε να ζουμάρουμε λίγο σε αυτό, και να
ρωτήσουμε: τι είναι αυτό που επικοινωνείται
και πώς αυτή η αποικία οργανώνεται γύρω από συγκεκριμένα καθήκοντα;
Οπότε, ποιο θα ήταν ένα πιο εξατομικευμένο επίπεδο;
Ίσως μία εστία τροφής να εμφανιστεί σε κάποια απόσταση από τη φωλιά. Πώς
αυτό επικοινωνείται μεταξύ τους; Πώς μετακινούνται οι διαφορετικοί πληθυσμοί των μυρμηγκιών-εργατών
και των μυρμηγκιών-ανιχνευτών τροφής, ανταποκρινόμενα στις διαθέσιμες πηγές τροφής;
Και μπορούμε να μιλήσουμε για αυτά επίσης με όρους πληροφορίας: κατά πόσο
η πληροφοριακή δομή της αποικίας αλλάζει, ανταποκρινόμενη σε αυτήν τη νέα εξωτερική πληροφορία
που έρχεται, πόση μνήμη υπάρχει, και ούτω καθεξής.
Melanie: Οπότε, είναι η πληροφορία ένα αληθινό πράγμα,
υπό την ίδια έννοια που η μάζα και η ενέργεια είναι αληθινά πράγματα;
Είναι ίδιου είδους φυσικό μέγεθος;
Crutchfield: Ακόμα δουλεύουμε πάνω σε αυτό.
Βασικά λέμε ότι: ναι. Δεν είναι κακό
να αναστοχαστούμε πίσω κατά τετρακόσια ή πεντακόσια χρόνια, τις πρώτες βασικές συζητήσεις για το τι ήταν η ενέργεια
στις απαρχές της επιστήμης της Φυσικής.
Κατά τον 16ο και 17ο αιώνα, υπήρχε πολλή συζήτηση σχετικά με το εάν η ενέργεια
- η κινητική ενέργεια - εξαρτιόταν από την ταχύτητα ενός αντικειμένου ή
από το τετράγωνο της ταχύτητας. Και αυτό μπορούμε να το δούμε, για εκείνη την εποχή,
ως μία σύγχυση ανάμεσα στην ορμή και την κινητική ενέργεια. Και,
νομίζω, είμαστε σε μία όμοια περίοδο τώρα,
όπου προσπαθούμε να κατανοήσουμε πρώτα απ' όλα, το ότι δεν υπάρχει μία και μοναδική έννοια πληροφορίας.
Υπάρχουν διαφορετικά είδη πληροφορίας, που έχουν διαφορετικά
σημασιολογικά πλαίσια, σε διαφορετικές συνθήκες.
Αυτό βέβαια φαίνεται και μέσα στην πράξη. Είναι αυτό κάτι το χρήσιμο;
Ναι, υπάρχουν πολλές εφαρμογές αυτού. Έχουμε καταφέρει να δείξουμε ότι
η αποθήκευση και η επεξεργασία της πληροφορίας έχει σχέση με το να περιγράψουμε το πώς εμφανίζονται οι αναδυόμενες ιδιότητες
και μπορούμε να κάνουμε ποσοτικές περιγραφές αυτού, σε συστήματα που φτιάχνουν μοτίβα ή σε μη γραμμικά δυναμικά
συστήματα. Οπότε υπάρχουν πολλά πεδία στη Μαθηματική Φυσική,
στα μη γραμμικά συστήματα, όπου η έννοια (της πληροφορίας) είναι εξαιρετικά χρήσιμη
και ευελπιστούμε ότι το εύρος των εφαρμογών της θα μεγαλώσει, και ότι όσο αυτό θα συμβαίνει,
η κατανόησή μας για την έννοια της πληροφορίας και τα είδη της πληροφορίας θα εμπλουτίζεται.
Mitchell: Έχουμε μιλήσει στη σειρά αυτή των μαθημάτων, για τον ορισμό
της Πολυπλοκότητας, και το πόσο δύσκολο είναι να την ορίσουμε
Και βέβαια, υπάρχουν διάφοροι ορισμοί, άρα πώς η έννοια της Πληροφορίας εντάσσεται μέσα
στον δικό σου ορισμό για την Πολυπλοκότητα;
Crutchfield: Μιλώντας λίγο απλοϊκά, οι δύο ένοιες είναι βασικά το ίδιο κατά την άποψή μου.
Mitchell: Ναι, αλλά όχι η Πληροφορία κατά Shannon. Crutchfield: Ε,... ναι
Σωστά. Υπάρχει ο μαθηματικός
ορισμός της Πληροφορίας κατά Shannon, που είναι,
για να το πω όσο γίνεται απλά,
ότι αυτή είναι η ποσότητα πληροφορίας που υπάρχει
στη ροή των πιθανοκρατικών γεγονότων. Μαθηματικά, πρόκειται απλά
για το πόσο λεία είναι η συνάρτηση κατανομής της πιθανότητας, πόσο σταθερή είναι
για όλα τα γεγονότα. Αυτή η ίδια μαθηματική δομή χρησιμοποιείται
ξανά και ξανά, αλλά οι κατανομές που εμείς περιγράφουμε
μεταβάλλονται ανάλογα με το πλαίσιο της εφαρμογής που εντάσσονται και,
για παράδειγμα, μπορεί κανείς να μιλήσει για την πληροφορία κατά Shannon
μέσα στην αιτιακή αρχιτεκτονική ενός συστήματος, και αυτή θα μετράει
την ποσότητα της αποθηκευμένης μνήμης, και όχι το πόσο δύσκολα είναι προβλέψιμο το σύστημα.
Mitchell: Με τον όρο "αιτιακή αρχιτεκτονική", εννοείς κάτι σαν "τι προκαλεί τι" μέσα στο σύστημα;
Crutchfield: Σωστά. Το πόσους ενεργούς βαθμούς ελευθερίας έχει. Εάν μελετήσω μία τυρβώδη ροή
ή αν η μηχανή του αυτκινήτου μου δουλεύει άσχημα στο ρελαντί, πόσοι ενεργοί βαθμοί ελευθερίας
υπάρχουν; Τι μέρος από την
στιγμιαία κατάσταση ενός συστήματος αφορά
την αποθήκευση προηγούμενης πληροφορίας; Ποιο είναι το μέρος που αποθηκεύεται η πληροφορία;
Και πάλι χρησιμοποιούμε την ίδια μαθηματική έκφραση,
τη συνάρτηση της πληροφορίας κατά Shannon,
αλλά εφαρμόζεται σε μία διαφορετική κατανομή και επομένως
το νόημα αυτού του είδους της πληροφορίας διαφέρει
από την αρχική της έννοια που ήταν: το πόση
πληροφορία παράγει μία πηγή πληροφορίας ανά μονάδα χρόνου.
Mitchell: Ωραία, να σε ρωτήσω τώρα: Ξέρω ότι
είχες παίξει ρόλο αρκετά, στο πεδίο
της Θεωρίας και της Δυναμικής του Χάους, παλαιότερα. Πώς αυτό σε οδήγησε στο
σημερινό σου ενδιαφέρον για την Πληροφορία και την επεξεργασία της Πληροφορίας; Crutchfield: Ναι, στην
ιστορία της Μη-Γραμμικής Φυσικής και της Μη-Γραμμικής Δυναμικής, ένα από πιο
σημαντικά πρώτα βήματα ήταν αυτό που έκαναν ο Ρώσος μαθηματικός
Andrey Kolmogorov και ο μαθητής του Yakov Sinai: Δανείστηκαν
την έννοια της Πληροφορίας από τον Shannon, την οποία ο Shannon εισήγαγε στα μέσα της δεκατίας του '40
και την εφάρμοσαν στα μη-γραμμικά δυναμικά συστήματα.
Αυτό που τους ενδιέφερε ήταν το εξής: Έστω ότι έχει κανείς δύο διαφορετικά δυναμικά συστήματα.
Ήξεραν διαισθητικά, κατά κάποιον τρόπο, ότι ήταν χαοτικά ή,
σε διαφορετικό βαθμό, αυτά ήταν λίγο ως πολύ μη προβλέψιμα, αλλά δεν ήταν
σε θέση να τα περιγράψουν ποσοτικά, μέχρι που δανείστηκαν την έννοια της Πληροφορίας από τον Shannon.
Συγκεκριμένα πήραν την έννοιά του του πηγαίου ρυθμού εντροπίας
και βρήκαν αυτό που τώρα ονομάζεται "Εντροπία Kolmogorov - Sinai". Οπότε έχω ένα μη γραμμικό χαοτικό σύστημα,
ένα σύνολο από ντετερμινιστικές διαφορικές εξισώσεις, και μπορώ τώρα να μετρήσω
το ρυθμό παραγωγής πληροφορίας αυτού, και να πώ ότι το ένα σύστημα είναι πιο χαοτικό
και πιο δύσκολο να προβλεφθεί από το άλλο. Οπότε, η ευθεία ιστορική απάντηση
είναι ότι αν μελετήσουμε τα μη γραμμικά δυναμικά συστήματα, και ειδικότερα αυτά που είναι χαοτικά,
η Πληροφορία έχει ένα μακρύ, διαρκείας μισού αιώνα τώρα,
ιστορικό ρόλο στη βάση του τρόπου που κατανοούμε
την παραγωγή της πληροφορίας στα φυσικά συστήματα. Mitchell: Ωραία.
Τι είναι αυτό πάνω στο οποίο εργάζεσαι τώρα; Ποιο είναι το πιο συναρπαστικό πράγμα που
τραβά την προσοχή σου; Crutchfield: Αντιπαρέβαλα προηγουμένως
την πληροφορία ως αίσθηση όπως την έχουμε, με την παλαιότερη περίοδο όπου προσπαθούσαμε
να κατανοήσουμε τη ήταν η Ενέργεια. Οπότε θα έλεγα ότι το πιο
σαγηνευτικό πράγμα τώρα είναι: το να διερωτηθούμε εάν υπάρχει κάποια θεμελιώδης (εσωτερική) σχέση
σε ένα φυσικό σύστημα, το οποίο περιέχει διάφορες μορφές
ενέργειας και εξελίσσεται χρονικά, και πώς αυτό σχετίζεται με την
παραγωγή και αποθήκευση ενέργειας από το σύστημα. Οπότε, το ερώτημα εδώ είναι:
υπάρχουν θεμελιώδεις περιορισμοί στην
ποσότητα πληροφορίας που μπορεί κανείς να εξαγάγει
από ένα φυσικό σύστημα ή από ένα τεχνητό σύστημα, όπως είναι ένας υπολογιστής; Και πόση
διασπορά ενέργειας απαιτείται τότε; Οπότε, αυτό αποτελεί ένα καινούργιο πεδίο που λέγεται
Θερμοδυναμική της Πληροφορίας. Σε αυτό, προσπαθούμε ουσιαστικά να κατανοήσουμε την ευθεία σχέση ανάμεσα στην
ενέργεια και την πληροφορία. Mitchell: Ενδιαφέρον! Λοιπόν, η Liz Bradley - μιλήσαμε μαζί της
στην προηγούμενη ενότητα - μίλησε για το να θεωρούμε τους
υπολογιστές ως δυναμικά συστήματα και να τους μετράμε με αυτούς τους όρους.
Σχετίζεται αυτό με το είδος των πραγμάτων που εσύ μελετάς; Crutchfield: Ναι, η Liz κι εγώ μιλάμε στην ουσία για το
να παίρνει κανείς κάποια από τα μέτρα μέτρησης της αποθήκευσης και επεξεργασίας της πληροφορίας
και να τα εφαρμόζει σε απλές μορφές λογικών κυκλωμάτων,
και στη φυσική εφαρμογή αυτών, ώστε να βλέπει αν υπάρχει κάποια σχέση ανάμεσα
στο βαθμό επεξεργασίας της πληροφορίας και στη διασπορά της ενέργειας. Οι βασικές ιδέες για αυτά
πηγαίνουν πίσω στο Rolf Landauer, του Τομέα Έρευνας της IBM. O Ralf απεβίωσε πρόσφατα
και είχε αυτή την ιδέα ενσωματωμένη μέσα
στην "Αρχή του Landauer", η οποία λέει ότι: για κάθε κομμάτι λογικού χειρισμού
που κάνει ένα σύστημα, πρέπει κανείς να δαπανήσει (διασπείρει) ένα ποσό
ενέργειας, το οποίο είναι ανάλογο με τον αριθμό των κομματιών (bits).
Δηλ. με τον αριθμό των επιλογών που πρέπει να κάνει το σύστημα, κατά τις
λογικές του λειτουργίες - και ο Landauer ισχυρίστηκε ότι αυτό είναι ένα βασικός περιορισμός. Άρα τώρα οι άνθρωποι
δοκιμάζουν αυτήν την ιδέα. Μία περιοχή έρευνας που
ξαναήρθε στο προσκήνιο είναι η έννοια του
"δαίμονα του Maxwell". Ο Maxwell εισήγαγε τον έξυπνο μικρό του δαίμονα, ώστε να ταξινομεί τα γρήγορα
και τα αργά μόρια, διαφορετικών μεγεθών, μέσα σε ένα κουτί, και μέσω αυτού να αυξάνει τη διαφορά
θερμοκρασίας και να επιτρέπει την παραγωγή έργου. Και έτσι,
υπάρχει μία ιδέα του πόσο έξυπνος είναι ο δαίμονας, ανάλογα με το πόσο έργο παράγει.
Οπότε, ξαναμελετάμε αυτό, και αυτό είναι ένα είδος πρωτότυπου συστήματος
το οποίο μας επιτρέπει να μιλήσουμε για τη νοημοσύνη ή την επεξεργασία της πληροφορίας από τη μια
και τη διασπορά ενέργειας και την παραγωγή έργου από την άλλη.
Mitchell: Οk. Πολύ ενδιαφέροντα. Μία τελευταία ερώτηση:
Πολλοί μαθητές μας έχουν ρωτήσει
για το πώς κανείς μπορεί να μπει στην έρευνα για τα Πολύπλοκα Συστήματα, μιας
και δεν υπάρχει και η ειδικότητα "Πολύπλοκα Συστήματα" στα περισσότερα Πανεπιστήμια,
οπότε τι θα σύστηνες εσύ σε φοιτητές που ενδιαφέρονται πραγματικά
να εισέλθουν στο πεδίο αυτό; Crutchfield: Λοιπόν, υποθέτω ότι θα έπρεπε να πάρουν το online μάθημά σου!
Και επίσης βάζω και το δικό μου μάθημα τώρα και - υποθέτω -
δεδομένων των συζητήσεων σχετικά
με το θέμα ακριβώς των online ανοικτών μαζικών μαθημάτων -
ότι ίσως θα γίνεται όλο και πιο εύκολο να
το κάνει κανείς αυτό. Τώρα είναι λίγο δύσκολο.
Υπάρχουν συγκεκριμένα βασικά επιστημονικά πεδία που, νομίζω, κάποιος πρέπει
να μελετήσει. Και εδώ έχω τη δική μου λίστα προτιμήσεων: τη Στατιστική
Φυσική, τη Θεωρία της Πληροφορίας, τη Θεωρία της Υπολογιστικής Μη-Γραμμικής Δυναμικής -
Υπάρχει ένα είδος ..... Mitchell: Έδωσα και εγώ στους μαθητές
μία τέτοια λίστα, μόνο που η δική μου περιελάμβανε τη μάθηση
και την εξέλιξη με τη μάθηση. Crutchfield: Σωστά. Εγώ τα βλέπω αυτά πιο πολύ ως εφαρμογές των βασικών πεδίων.
Αλλά έχεις δίκιο. Άλλα είδη συστημάτων, βεβαίως, σίγουρα και
άλλα ερωτήματα σχετικά με την αποθήκευση και την επεξεργασία της πληροφορίας, ακόμη και σχετικά με τη διασπορά της ενέργειας
βρίσκουν εφαρμογή σε οικολογικά και μαθησιακά συστήματα, σε προσαρμοστικά συστήματα
και σε εξελικτικά συστήματα επίσης.
Οπότε και αυτά θα αποτελούσαν ένα
είδος βασικών στοιχείων πλοήγησης μέσα στα Πολύπλοκα Συστήματα. Ελπίζω,
κάποια στιγμή στο μέλλον, αν και δεν νομίζω ότι ως τώρα έχει γίνει κάπου, όπως είπες,
να υπάρξει ένα Πανεπιστήμιο που θα βγει μπροστά και θα επιτρέψει κάτι σαν μεταπτυχιακό πρόγραμμα σπουδών
πάνω στα Πολύπλοκα Συστήματα. Κατά συνέπεια, πρέπει να σου αρέσει η περιπέτεια.
Eκεί έξω υπάρχει πληθώρα απο δημοφιλείς, και λιγότερο δημοφιλείς,
ερευνητικές μονογραφίες, οπότε και το δικό σου μάθημα ίσως θα δώσει μία τέτοια λίστα
από πηγές. Και πάλι όμως θα πρέπει
να συνθέσουμε όλα αυτά τα κείμενα μαζί. Mitchell: Σωστά.
Ωραία! Σε ευχαριστούμε πολύ! Ήταν πολύ ωραίο! Το εκτιμώ πολύ που μας μίλησες... Crutchfield: Σίγουρα. Χάρηκα που βοήθησα.
Mitchell: Ok.