Σε σύνδεση τώρα

Έχουμε 57 επισκέπτες συνδεδεμένους
PDF Εκτύπωση E-mail
Θεματικές Ενότητες - ΕΛΕΥΘΕΡΙΑ
Πέμπτη, 05 Σεπτέμβριος 2024 11:23
Ευρετήριο Άρθρου
Ελευθερία (Μάθημα 3ο)
Ελευθερία: Το δράμα της λήψης αποφάσεων
Ελευθερία: Ψηφιακές Δικτατορίες
Όλες οι Σελίδες

 

Ψηφιακές Δικτατορίες

Η Τ.Ν. συχνά φοβίζει τους ανθρώπους επειδή δεν είναι σίγουροι ότι θα παραμείνει υπάκουη. Έχουμε δει τόσες ταινίες επιστημονικής φαντασίας στις οποίες τα ρομπότ εξεγείρονται ενάντια στους αφέντες τους και ξεχύνονται έξαλλα στους δρόμους εξολοθρεύοντας τους πάντες. Ωστόσο, το πραγματικό πρόβλημα με τα ρομπότ είναι ακριβώς το αντίθετο. Πρέπει να τα φοβόμαστε επειδή μάλλον θα υπακούν πάντα τους αφέντες τους και δεν θα εξεγερθούν ποτέ.

 

Η τυφλή υπακοή δεν είναι κακή, βέβαια, αρκεί ο αφέντης που υπηρετούν τα ρομπότ να είναι καλός. Ακόμα και στον πόλεμο, η χρήση φονικών ρομπότ θα μπορούσε να διασφαλίσει ότι για πρώτη φορά στην ιστορία το δίκαιο του πολέμου θα τηρείται όντως στο πεδίο της μάχης. Οι στρατιώτες οδηγούνται ορισμένες φορές από τα συναισθήματα τους να δολοφονήσουν, να λεηλατήσουν και να βιάσουν, παραβιάζοντας τους νόμους του πολέμου. Συνήθως συσχετίζουμε τα συναισθήματα με τη συμπόνια, την αγάπη και την κατανόηση, αλλά σε καιρό πολέμου τα συναισθήματα που κυριαρχούν είναι πολύ συχνά εκείνα του φόβου, του μίσους και της σκληρότητας. Καθώς τα ρομπότ δεν έχουν συναισθήματα, θα μπορούμε να είμαστε σίγουροι ότι θα εφαρμόζουν πάντα κατά γράμμα τον στρατιωτικό κώδικα και δεν θα παρεκκλίνουν ποτέ εξαιτίας προσωπικών φόβων και μίσους.

 

Στις 16 Μαρτίου 1968, ένας λόχος αμερικανών στρατιωτών έπαθε αμόκ στο χωριό Μάι Λάι του Νότιου Βιετνάμ και κατέσφαξε 400 άμαχους. Αυτό το έγκλημα πολέμου διαπράχτηκε από πρωτοβουλία των αντρών που βρίσκονταν επιτόπου και που πολεμούσαν με αντάρτες στη ζούγκλα επί αρκετούς μήνες. Δεν εξυπηρετούσε κάποιον στρατηγικό στόχο και ερχόταν σε αντίθεση τόσο με τη νομοθεσία όσο και με τη στρατιωτική πολιτική των ΗΠΑ. Υπαίτια για αυτό ήταν τα ανθρώπινα συναισθήματα. Αν οι ΗΠΑ χρησιμοποιούσαν φονικά ρομπότ στο Βιετνάμ, η σφαγή του Μάι Λάι δεν θα είχε συμβεί.

 

Εντούτοις, προτού σπεύσουμε να σχεδιάσουμε και να αρχίσουμε να χρησιμοποιούμε ρομπότ-δολοφόνους, πρέπει να θυμηθούμε ότι τα ρομπότ πάντα αντανακλούν και ενισχύουν τα χαρακτηριστικά του κώδικά τους. Αν ο κώδικας χαρακτηρίζεται από συγκράτηση και καλοήθεια, τα ρομπότ θα αποτελέσουν μάλλον σημαντική βελτίωση σε σχέση με τον μέσο στρατιώτη. Αν όμως ο κώδικας είναι ανελέητος και σκληρός, τότε το αποτέλεσμα θα είναι καταστροφικό. Το πραγματικό πρόβλημα με τα ρομπότ δεν είναι η τεχνητή τους νοημοσύνη, αλλά μάλλον η φυσική βλακεία και σκληρότητα των ανθρώπων που τα ελέγχουν.

 

Τον Ιούλιο του 1995, σερβοβόσνιοι στρατιώτες δολοφόνησαν πάνω από 8.000 βόσνιους μουσουλμάνους στην πόλη Σρεμπρένιτσα. Αντίθετα από την απρογραμμάτιστη σφαγή του Μάι Λάι, οι δολοφονίες της Σρεμπρένιτσα ήταν μια παρατεταμένη και καλά οργανωμένη επιχείρηση που αντανακλούσε την σερβοβοσνιακή πολιτική εθνοκάθαρσης της Βοσνίας από τους μουσουλμάνους. Αν οι Σερβοβόσνιοι είχαν χρησιμοποιήσει ρομπότ-δολοφόνους το 1995, το έγκλημα θα ήταν μάλλον ακόμα μεγαλύτερο. Ούτε ένα ρομπότ δεν θα είχε δείξει τον παραμικρό δισταγμό να εκτελέσει τις διαταγές που είχε λάβει, όποιες κι αν ήταν αυτές, και δεν θα είχε χαρίσει τη ζωή ούτε σε ένα παιδάκι λόγω συναισθημάτων συμπόνιας, αηδίας ή απλής ψυχικής κούρασης.

 

Ένας ανελέητος δικτάτορας που θα είχε στη διάθεσή του τέτοια φονικά ρομπότ δεν θα φοβόταν ποτέ ότι οι στρατιώτες του μπορεί να στραφούν εναντίον του, όσο άσπλαχνες και τρελές κι αν ήταν οι εντολές του. Ένας στρατός από ρομπότ θα είχε μάλλον καταπνίξει τη Γαλλική Επανάσταση στα σπάργανά της το 1789, κι αν το 2011 ο Χόσνι Μουμπάρακ διέθετε ένα απόσπασμα φονικών ρομπότ, θα τα είχε εξαπολύσει εναντίον του πληθυσμού χωρίς να φοβάται τις λιποταξίες. Αντίστοιχα, μια ιμπεριαλιστική κυβέρνηση που θα βασιζόταν σε ένα στρατό από ρομπότ θα μπορούσε να διεξάγει αντιδημοφιλείς πολέμους χωρίς να ανησυχεί ότι τα ρομπότ της μπορεί να έχαναν τη διάθεσή τους ή ότι οι οικογένειές τους μπορεί να οργάνωναν διαμαρτυρίες. Αν οι ΗΠΑ είχαν ρομπότ-δολοφόνους στον Πόλεμο του Βιετνάμ, η σφαγή του Μάι Λάι μπορεί να είχε αποφευχθεί, αλλά ο ίδιος ο πόλεμος μπορεί να είχε τραβήξει για πολλά χρόνια ακόμα, γιατί η αμερικανική κυβέρνηση δεν θα χρειαζόταν να ανησυχεί τόσο για το ηθικό των στρατιωτών, τις μεγάλες αντιπολεμικές διαδηλώσεις ή κάποιο κίνημα «βετεράνων ρομπότ κατά του πολέμου» (κάποιοι αμερικανοί πολίτες μπορεί να αντιτάσσονταν πάλι στον πόλεμο, όμως χωρίς το φόβο ότι μπορεί να επιστρατεύονταν και οι ίδιοι, χωρίς τις αναμνήσεις από αγριότητες που είχαν διαπράξει οι ίδιοι ή χωρίς την οδυνηρή απώλεια κάποιου δικού τους προσώπου, οι διαδηλωτές θα ήταν μάλλον λιγότεροι και λιγότερο αποφασισμένοι).

 

Τα προβλήματα αυτά δεν αφορούν σχεδόν καθόλου τα αυτόνομα πολιτικά αυτοκίνητα, γιατί κανένας κατασκευαστής αυτοκινήτων δεν θα προγραμμάτιζε κακόβουλα τα οχήματά του ώστε να στοχεύουν και να σκοτώνουν ανθρώπους. Ωστόσο, τα αυτόνομα οπλικά συστήματα είναι μια καταστροφή που προετοιμάζεται, γιατί τάρα πολλές κυβερνήσεις είναι ηθικά διεφθαρμένες ή και κατάφωρα μοχθηρές.

 

Ο κίνδυνος δεν περιορίζεται στις φονικές μηχανές. Τα συστήματα επιτήρησης μπορούν να είναι εξίσου επικίνδυνα. Στα χέρια μιας αγαθής κυβέρνησης, οι ισχυροί αλγόριθμοι επιτήρησης θα μπορούσαν να είναι το καλύτερο πράγμα που συνέβη ποτέ στην ανθρωπότητα. Ωστόσο, οι ίδιοι αλγόριθμοι Μεγάλων Δεδομένων θα μπορούσαν επίσης να οπλίσουν έναν μελλοντικό Μεγάλο Αδερφό και να βρεθούμε τελικά με ένα οργουελικό καθεστώς επιτήρησης, όπου οι πάντες θα παρακολουθούνται συνεχώς.

 

Θα μπορούσαμε μάλιστα να καταλήξουμε σε κάτι που ακόμα κι ο Όργουελ δεν θα μπορούσε να το φανταστεί: ένα καθεστώς ολοκληρωτικής επιτήρησης, το ποιο δεν θα παρακολουθεί μόνο όλες τις εξωτερικές μας δραστηριότητες και συνομιλίες, αλλά θα μπορεί να μπει ακόμα και μέσα μας και να παρακολουθεί τις εσωτερικές μας εμπειρίες. Φανταστείτε, για παράδειγμα, τι μπορεί να κάνει με τη νέα τεχνολογία το καθεστώς Κιμ στη Βόρεια Κορέα. Στο μέλλον, κάθε βορειοκορεάτης πολίτης μπορεί να είναι υποχρεωμένος να φοράει ένα βιομετρικό βραχιόλι το οποίο θα καταγράφει ό,τι κάνει και ό,τι λέει - καθώς και την πίεσή του και την εγκεφαλική του δραστηριότητα. Χρησιμοποιώντας την ολοένα και μεγαλύτερη κατανόησή μας για τον ανθρώπινο εγκέφαλο και τις τεράστιες δυνατότητες της μηχανικής εκμάθησης, το καθεστώς της Βόρειας Κορέας μπορεί να είναι σε θέση για πρώτη φορά στην ιστορία να καταγράφει τι σκέφτεται κάθε πολίτης ανά πάσα στιγμή. Αν κοιτάζατε μια φωτογραφία του Κιμ Γιονγκ Ουν και ο βιομετρικός αισθητήρας κατέγραφε ενδείξεις θυμού (άνοδος της πίεσης, αυξημένη δραστηριότητα στην αμυγδαλή), το επόμενο πρωί θα βρισκόσασταν στο γκουλάγκ.

 

Είναι αλήθεια πως, λόγω της απομόνωσής του, το καθεστώς της Βόρειας Κορέας θα δυσκολευόταν ίσως να αναπτύξει μόνο του την απαραίτητη τεχνολογία. Ωστόσο, η τεχνολογία μπορεί να αναπτυχθεί σε άλλες, καλύτερα καταρτισμένες χώρες και να αντιγράφει ή να αγοραστεί από τη Βόρεια Κορέα ή άλλες οπισθοδρομικές δικτατορίες. Τόσο η Κίνα όσο και η Ρωσία βελτιώνουν διαρκώς τα εργαλεία επιτήρησης που διαθέτουν, όπως κάνουν και αρκετές δημοκρατικές χώρες, από τις ΗΠΑ μέχρι την πατρίδα μου, το Ισραήλ. Το Ισραήλ, με το παρατσούκλι «η χώρα σταρτ-απ», διαθέτει έναν εξαιρετικά δυναμικό τομέα υψηλής τεχνολογίας και την τελευταία λέξη της βιομηχανίας κυβερνοασφάλειας. Την ίδια στιγμή, βρίσκεται επίσης σε μια διαρκή θανάσιμη σύγκρουση με τους Παλαιστίνιους και τουλάχιστον ορισμένοι από τους ηγέτες, τους στρατηγούς και τους πολίτες του μπορεί να δημιουργούσαν με πολύ μεγάλη χαρά ένα καθεστώς ολικής επιτήρησης στη Δυτική Όχθη, μόλις θα είχαν την απαραίτητη τεχνολογία.

 

Ήδη σήμερα, όποτε οι Παλαιστίνιοι κάνουν ένα τηλεφώνημα, ανεβάζουν κάτι στο Facebook ή ταξιδεύουν από τη μία πόλη στην άλλη, είναι πολύ πιθανό να παρακολουθούνται από ισραηλινά μικρόφωνα, κάμερες, drone ή λογισμικό παρακολούθησης. Τα δεδομένα που συγκεντρώνονται αναλύονται με τη βοήθεια αλγόριθμων Μεγάλων Δεδομένων. Αυτό βοηθάει τις ισραηλινές δυνάμεις ασφαλείας να εντοπίζουν και να εξουδετερώνουν πιθανές απειλές, χωρίς να χρειάζεται να χρησιμοποιούν πολύ ανθρώπινο δυναμικό επιτόπου. Οι Παλαιστίνιοι μπορεί να διοικούν κάποιες πόλεις και χωριά στη Δυτική Όχθη, αλλά οι Ισραηλινοί ελέγχουν τον ουρανό, τα ραδιοκύματα και τον κυβερνοχώρο. Έτσι απαιτούνται ελάχιστοι ισραηλινοί στρατιώτες για να ελέγχουν αποτελεσματικά περίπου 2,5 εκατομμύρια Παλαιστίνιους στη Δυτική Όχθη.

 

Τον Οκτώβριο του 2017, συνέβη ένα κωμικοτραγικό περιστατικό. Ένας παλαιστίνιος εργάτης ανέβασε στον προσωπικό του λογαριασμό στο Facebookμια φωτογραφία του στο χώρο εργασίας του, δίπλα σε μια μπουλντόζα. Δίπλα στην εικόνα έγραψε «Καλημέρα!» Ο αυτόματος αλγόριθμος έκανε ένα μικρό λάθος στη μεταγραφή των αραβικών γραμμάτων και αντί για «Καλημέρα!» διάβασε «Χτυπήστε τους!» - φράσεις με παρεμφερή προφορά. Υποπτευόμενες ότι ο άντρας αυτός μπορεί να ήταν τρομοκράτης που σκόπευε να χρησιμοποιήσει τη μπουλντόζα για να χτυπήσει ανθρώπους, οι ισραηλινές δυνάμεις ασφαλείας τον συνέλαβαν αμέσως. Αφέθηκε ελεύθερος όταν συνειδητοποίησαν ότι ο αλγόριθμος είχε κάνει λάθος. Αλλά το επίμαχο ποστ στο Facebookκατέβηκε, παρ’ όλα αυτά. Πρέπει πάντα να προσέχεις. Αυτό που βιώνουν σήμερα οι Παλαιστίνιοι στη Δυτική Όχθη μπορεί να είναι απλώς μια πρωτόγονη εισαγωγή σε αυτό που θα καταλήξουν να βιώνουν δισεκατομμύρια άνθρωποι σε όλο τον πλανήτη.

 

Στα τέλη του 20ού αιώνα, οι δημοκρατίες συνήθως απέδιδαν καλύτερα από τις δικτατορίες επειδή ήταν καλύτερες στην επεξεργασία δεδομένων. Η δημοκρατία κατανέμει τη δυνατότητα επεξεργασίας πληροφοριών και της λήψης αποφάσεων από πολλούς ανθρώπους και θεσμούς, ενώ η δικτατορία συγκεντρώνει τις πληροφορίες και την εξουσία σε ένα σημείο. Με δεδομένη την τεχνολογία του 20ου αιώνα, η συγκέντρωση υπερβολικά πολλών πληροφοριών και εξουσίας σε ένα σημείο ήταν αναποτελεσματική. Κανείς δεν είχε την ικανότητα να επεξεργαστεί αρκετά γρήγορα αυτές τις πληροφορίες και να πάρει τις σωστές αποφάσεις. Αυτός είναι εν μέρει και ο λόγος που η Σοβιετική Ένωση πήρε πολύ χειρότερες αποφάσεις από τις ΗΠΑ και που η σοβιετική οικονομία έμεινε πολύ πίσω από την αμερικανική.

 

Σύντομα, ωστόσο, η Τ.Ν. μπορεί να κάνει τη ζυγαριά να γείρει προς την άλλη πλευρά. Η Τ.Ν. καθιστά εφικτή την επεξεργασία τεράστιων ποσοτήτων πληροφορίας κεντρικά. Μάλιστα, η Τ.Ν. μπορεί να κάνει τα συγκεντρωτικά συστήματα πολύ πιο αποτελεσματικά από τα διάχυτα, γιατί η μηχανική εκμάθηση λειτουργεί πολύ καλύτερα όσο περισσότερες πληροφορίες μπορεί να αναλύει. Αν συγκεντρώνετε τις πληροφορίες που αφορούν ένα δισεκατομμύριο ανθρώπους σε μία βάση δεδομένων, αγνοώντας κάθε ζήτημα προσωπικών δεδομένων, μπορείτε να εκπαιδεύσετε πολύ καλύτερα τους αλγόριθμους απ’ ό,τι αν σέβεστε τα προσωπικά δεδομένα και διατηρείτε στη βάση δεδομένων μόνο αποσπασματικές πληροφορίες για ένα εκατομμύριο άτομα. Για παράδειγμα, αν μια αυταρχική κυβέρνηση διέταζε του πολίτες της να δώσουν δείγμα DNA και να μοιράζονται όλα τα ιατρικά τους δεδομένα με μία κεντρική αρχή, θα αποκτούσε τεράστιο πλεονέκτημα στη γενετική και ιατρική έρευνα απέναντι σε κοινωνίες στις οποίες τα ιατρικά δεδομένα θα ήταν αυστηρά προσωπικά. Το βασικό μειονέκτημα των αυταρχικών καθεστώτων στον 20ό αιώνα -η προσπάθεια να συγκεντρώσουν όλη την πληροφορία σε ένα μέρος - μπορεί στον 21ο να γίνει το καθοριστικό τους πλεονέκτημα.

 

Καθώς οι αλγόριθμοι θα μας μαθαίνουν τόσο καλά, οι αυταρχικές κυβερνήσεις θα μπορούσαν να αποκτήσουν τον απόλυτο έλεγχο των πολιτών τους, πολύ περισσότερο απ’ όσο η ναζιστική Γερμανία, και η αντίσταση σε ένα τέτοιο καθεστώς θα είναι εντελώς αδύνατη. Το καθεστώς δεν θα γνωρίζει μόνο ακριβώς πώς αισθάνεστε - θα μπορεί να σας κάνει να αισθάνεστε όπως θέλει αυτό. Ο δικτάτορας ίσως να μην μπορεί να προσφέρει στους πολίτες του υγειονομική περίθαλψη ή ισότητα, αλλά θα μπορεί να τους κάνει να τον αγαπούν και να μισούν τους αντιπάλους του. Η δημοκρατία στην τωρινή της μορφή δεν μπορεί να επιβιώσει από τη συγχώνευση της βιοτεχνολογίας με την τεχνολογία της πληροφορίας. Είτε θα πρέπει να επινοηθεί εκ νέου με ριζικά νέα μορφή, είτε οι άνθρωποι θα καταλήξουν να ζουν σε «ψηφιακές δικτατορίες».

 

Δεν θα επιστρέφουμε στις μέρες του Χίτλερ και του Στάλιν. Οι ψηφιακές δικτατορίες θα είναι τόσο διαφορετικές από τη ναζιστική Γερμανία, όσο ήταν η ναζιστική Γερμανία από το ancientregimeτης Γαλλίας. Ο Λουδοβίκος ΙΔ' ήταν ένας συγκεντρωτικός αυτοκράτορας, αλλά δεν διέθετε την τεχνολογία για να οικοδομήσει ένα σύγχρονο ολοκληρωτικό κράτος. Δεν είχε να αντιμετωπίσει κάποια αντιπολίτευση, αλλά καθώς δεν υπήρχαν ραδιόφωνα, τηλέφωνα και τρένα, ασκούσε ελάχιστο έλεγχο στην καθημερινή ζωή των χωρικών στα μακρινά χωριά της Βρετάνης ή ακόμα και του αστικού πληθυσμού στην καρδιά του Παρισιού. Δεν είχε ούτε την επιθυμία ούτε τη δυνατότητα να ιδρύσει ένα μαζικό κόμμα, ένα κίνημα νεολαίας σε όλη τη χώρα ή ένα εθνικό εκπαιδευτικό σύστημα. Οι νέες τεχνολογίες του 20ού αιώνα ήταν εκείνες που έδωσαν στον Χίτλερ τόσο το κίνητρο όσο και τη δύναμη να κάνει αυτά τα πράγματα. Δεν μπορούμε να προβλέψουμε τα κίνητρα και τις δυνατότητες των ψηφιακών δικτατοριών το 2084, αλλά είναι πολύ απίθανο να αντιγράψουν τον Χίτλερ και τον Στάλιν. Εκείνοι που προετοιμάζονται για να ξαναδώσουν τις μάχες της δεκαετίας του 1930 μπορεί να αιφνιδιαστούν όταν θα δεχτούν επίθεση από εντελώς διαφορετική πλευρά.

 

Ακόμα κι αν η δημοκρατία καταφέρει να προσαρμοστεί και να επιβιώσει, οι άνθρωποι μπορεί να πέσουν θύματα νέων ειδών καταπίεσης και διακρίσεων. Ήδη σήμερα ολοένα και περισσότερες τράπεζες, εταιρείες και οργανισμοί χρησιμοποιούν αλγόριθμους για να αναλύουν δεδομένα και να παίρνουν αποφάσεις που μας αφορούν. Όταν υποβάλλετε αίτηση για δάνειο στην τράπεζά σας, είναι πιθανό την αίτησή σας να την εξετάζει αλγόριθμος και όχι άνθρωπος. Ο αλγόριθμος αναλύει πολλά δεδομένα σχετικά με εσάς και στατιστικές για εκατομμύρια άλλους ανθρώπους και αποφασίζει αν είστε αρκετά αξιόπιστοι για να σας δώσουν δάνειο. Συχνά ο αλγόριθμος κάνει τη δουλειά καλύτερα από τον τραπεζικό υπάλληλο. Αλλά το πρόβλημα είναι ότι, αν ο αλγόριθμος κάνει άδικες διακρίσεις σε βάρος κάποιων ανθρώπων, είναι δύσκολο να το μάθουμε. Αν η τράπεζα αρνηθεί να σας δώσει δάνειο και ρωτήσετε «Γιατί;», η τράπεζα θα απαντήσει «Ο αλγόριθμος είπε “όχι”». Εσείς θα ρωτήσετε «Γιατί είπε “όχι” ο αλγόριθμος; Ποιο είναι το πρόβλημα;» αλλά η τράπεζα θα απαντήσει «Δεν ξέρουμε. Κανένας άνθρωπος δεν μπορεί να καταλάβει αυτόν τον αλγόριθμο, γιατί λειτουργεί με προηγμένη μηχανική εκμάθηση. Αλλά τον εμπιστευόμαστε, οπότε δάνειο δεν θα σας δώσουμε».

 

Όταν οι διακρίσεις στρέφονται κατά ολόκληρων ομάδων, όπως οι γυναίκες ή οι μαύροι, οι ομάδες αυτές μπορούν να οργανωθούν και να διαμαρτυρηθούν για στις συλλογικές αυτές διακρίσεις. Αλλά τώρα ο αλγόριθμος μπορεί να κάνει διακρίσεις απέναντι σε εσάς προσωπικά και να μην έχετε ιδέα γιατί. Ίσως να βρήκε κάτι που δεν του άρεσε στο DNAσας, στο προσωπικό σας ιστορικό ή στον λογατιασμό σας στο Facebook. Ο αλγόριθμος δεν κάνει διακρίσεις σε βάρος σας, επειδή είστε γυναίκα ή Αφροαμερικανός, αλλά επειδή είστε εσείς. Ειδικά έχετε κάτι που δεν του αρέσει. Δεν ξέρετε τι είναι αυτό, κι ακόμα κι αν το ξέρατε δεν θα μπορούσατε να οργανωθείτε μαζί με άλλους για να διαμαρτυρηθείτε, γιατί δεν υπάρχουν άλλοι που να υφίστανται τις ίδιες ακριβώς διακρίσεις. Μόνο εσείς. Αντί να έχουμε μόνο συλλογικές διακρίσεις, στον 21 ο αιώνα, μπορεί να αντιμετωπίσουμε το πρόβλημα των ατομικών διακρίσεων.

 

Στα ανώτερα επίπεδα της εξουσίας θα διατηρήσουμε μάλλον ανθρώπους-ανδρείκελα, που θα μας δίνουν την ψευδαίσθηση ότι οι αλγόριθμοι είναι απλώς σύμβουλοι και ότι η ανώτατη εξουσία παραμένει σε ανθρώπινα χέρια. Δεν θα διορίσουμε Τ.Ν. στη θέση του καγκελάριου της Γερμανίας ή του διευθύνοντος συμβούλου της Google. Ωστόσο, οι αποφάσεις που θα παίρνει ο καγκελάριος και ο διευθύνων σύμβουλος θα διαμορφώνονται από τεχνητές νοημοσύνες. Ο καγκελάριος θα μπορεί να επιλέξει από διάφορες εναλλακτικές, αλλά οι εναλλακτικές αυτές θα είναι αποτέλεσμα ανάλυσης Μεγάλων Δεδομένων και θα αντανακλούν περισσότερο τον τρόπο με τον οποίο βλέπει η Τ.Ν. τον κόσμο παρά αυτόν με τον οποίον τον βλέπουν οι άνθρωποι.

Για να πάρουμε ένα ανάλογο παράδειγμα, σήμερα οι πολιτικοί σε όλο τον κόσμο μπορούν να επιλέγουν ανάμεσα σε πολλές διαφορετικές οικονομικές πολιτικές, αλλά σε όλες σχεδόν τις περιπτώσεις οι πολιτικές που προσφέρονται αντανακλούν μια καπιταλιστική αντίληψη για την οικονομία. Οι πολιτικοί έχουν την ψευδαίσθηση της επιλογής, αλλά οι πραγματικά σημαντικές αποφάσεις λαμβάνονται από οικονομολόγους, τραπεζίτες και επιχειρηματίες που διαμορφώνουν τον κατάλογο με τις διάφορες επιλογές. Μέσα σε λίγες δεκαετίες, οι πολιτικοί μπορεί να επιλέγουν από έναν κατάλογο γραμμένο από Τ.Ν.

 

 Τεχνητή νοημοσύνη και φυσική βλακεία

Ένα καλό νέο είναι πως τουλάχιστον στις επόμενες δεκαετίες δεν θα χρειαστεί να αντιμετωπίσουμε σε όλη του την έκταση τον εφιάλτη της επιστημονικής φαντασίας, στον οποίο η Τ.Ν. αποκτά συνείδηση και αποφασίζει να υποδουλώσει ή να εξαλείψει την ανθρωπότητα. Θα βασιζόμαστε όλο και περισσότερο σε αλγόριθμους για να παίρνουν αποφάσεις για λογαριασμό μας, αλλά είναι μάλλον απίθανο να αρχίσουν οι αλγόριθμοι να μας χειραγωγούν συνειδητά. Δεν θα διαθέτουν συνείδηση.

 

Η επιστημονική φαντασία συγχέει συνήθως τη νοημοσύνη με τη συνείδηση και υποθέτει ότι, για να φτάσουν ή να ξεπεράσουν οι υπολογιστές την ανθρώπινη νοημοσύνη, θα πρέπει να αναπτύξουν συνείδηση. Η βασική πλοκή όλων σχεδόν των ταινιών και των βιβλίων για την Τ.Ν. περιστρέφεται γύρω από τη μαγική στιγμή που ένας υπολογιστής ή ένα ρομπότ αποκτά συνείδηση. Μόλις συμβεί αυτό, είτε ο άνθρωπος-ήρωας ερωτεύεται το ρομπότ ή το ρομπότ προσπαθεί να σκοτώσει όλους τους ανθρώπους, ή και τα δύο μαζί.

 

Αλλά στην πραγματικότητα δεν υπάρχει κάποιος λόγος να υποθέτουμε ότι η τεχνητή νοημοσύνη θα αποκτήσει συνείδηση, γιατί η νοημοσύνη και η συνείδηση είναι πολύ διαφορετικά πράγματα. Η νοημοσύνη είναι η ικανότητα να λύνει κανείς προβλήματα. Η συνείδηση είναι η ικανότητα να αισθάνεται πράγματα όπως ο πόνος, η χαρά, η αγάπη και ο θυμός. Έχουμε την τάση να μπερδεύουμε αυτά τα δύο γιατί στους ανθρώπους και τα υπόλοιπα θηλαστικά η νοημοσύνη πηγαίνει χέρι χέρι με τη συνείδηση. Τα θηλαστικά λύνουν τα περισσότερα προβλήματα με το να αισθάνονται διάφορα πράγματα. Οι υπολογιστές, ωστόσο, λύνουν τα προβλήματα με εντελώς διαφορετικό τρόπο.

 

Υπάρχουν απλούστατα πολλοί διαφορετικοί δρόμοι που οδηγούν στην υψηλή νοημοσύνη, και μόνο κάποιοι από αυτούς περιλαμβάνουν την απόκτηση συνείδησης. Όπως τα αεροπλάνα πετάνε ταχύτερα από τα πουλιά χωρίς να χρειάζεται να αποκτήσουν πούπουλα, έτσι και οι υπολογιστές μπορεί να φτάσουν να επιλύουν προβλήματα πολύ καλύτερα απ’ ό,τι τα θηλαστικά χωρίς να αποκτήσουν συναισθήματα. Είναι αλήθεια πως η Τ.Ν. θα πρέπει να αναλύσει με ακρίβεια τα ανθρώπινα συναισθήματα για να μπορεί να θεραπεύει ασθένειες, να αναγνωρίζει τρομοκράτες, να προτείνει συντρόφους και να οδηγεί σε δρόμους γεμάτους με πεζούς. Αλλά μπορεί να το κάνει αυτό χωρίς να έχει δικά της συναισθήματα. Ένας αλγόριθμος δεν χρειάζεται να αισθάνεται χαρά, θυμό ή φόβο προκειμένου να αναγνωρίζει τα διαφορετικά βιοχημικά μοτίβα χαρούμενων, θυμωμένων ή τρομαγμένων πιθήκων.

 

Φυσικά, το ενδεχόμενο να αναπτύξει η Τ.Ν. δικά της συναισθήματα δεν είναι εντελώς αδύνατο. Δεν γνωρίζουμε ακόμα αρκετά για τη συνείδηση ώστε να είμαστε σίγουροι. Γενικά, υπάρχουν τρεις δυνατότητες που πρέπει να σκεφτούμε:

1. Η συνείδηση συνδέεται κάπως με την οργανική βιοχημεία, με τέτοιο τρόπο που δεν θα είναι ποτέ δυνατό να δημιουργηθεί συνείδηση σε ανόργανα συστήματα.

2. Η συνείδηση δεν συνδέεται με την οργανική βιοχημεία, αλλά συνδέεται με τη νοημοσύνη με τέτοιο τρόπο, που οι υπολογιστές θα μπορούσαν να αναπτύξουν συνείδηση και θα πρέπει να αναπτύξουν συνείδηση για να περάσουν ένα ορισμένο κατώφλι νοημοσύνης.

3. Δεν υπάρχουν ουσιαστικοί σύνδεσμοι ανάμεσα στη συνείδηση και την οργανική βιομηχεία ή την υψηλή νοημοσύνη. Επομένως, οι υπολογιστές μπορεί να αναπτύξουν συνείδηση - αλλά όχι απαραίτητα. Θα μπορούσαν να γίνουν υπερευφυείς χωρίς να έχουν καθόλου συνείδηση.

Με όσα γνωρίζουμε σήμερα δεν μπορούμε να αποκλείσουμε καμία από αυτές τις εναλλακτικές. Ωστόσο, επειδή ακριβώς γνωρίζουμε τόσο λίγα γι’ αυτήν, το ενδεχόμενο να μπορέσουμε σύντομα να προγραμματίσουμε υπολογιστές που να διαθέτουν συνείδηση φαίνεται μάλλον απίθανο. Γι’ αυτό, παρά την τεράστια ισχύ της τεχνητής νοημοσύνης, στο ορατό μέλλον η χρήση της θα συνεχίσει να εξαρτάται σε κάποιο βαθμό από την ανθρώπινη συνείδηση.

 

Ο κίνδυνος είναι ότι, αν επενδύσουμε υπερβολικά στην ανάπτυξη της Τ.Ν. και ελάχιστα στην ανάπτυξη της ανθρώπινης συνείδησης, η πολύ εκλεπτυσμένη τεχνητή νοημοσύνη των υπολογιστών μπορεί να ενισχύσει μόνο τη φυσική βλακεία των ανθρώπων. Δεν είναι πιθανό να αντιμετωπίσουμε μια εξέγερση των ρομπότ στις επόμενες δεκαετίες, αλλά μπορεί να χρειαστεί να αντιμετωπίσουμε ορδές ρομπότ που θα ξέρουν πώς να πατάνε τα συναισθηματικά μας κουμπιά καλύτερα κι απ’ τη μητέρα μας και θα χρησιμοποιούν την τρομαχτική αυτή ικανότητα για να προσπαθούν να μας πουλήσουν πράγματα - που μπορεί να είναι ένα αυτοκίνητο, κάποιος πολιτικός ή μια ολόκληρη ιδεολογία. Τα ρομπότ θα μπορούν να αναγνωρίσουν τους βαθύτερους φόβους μας, τα μίση και τις επιθυμίες μας και να χρησιμοποιήσουν αυτούς τους εσωτερικούς μοχλούς πίεσης εναντίον μας. Έχουμε ήδη πάρει μια γεύση σε πρόσφατες εκλογές και δημοψηφίσματα σε όλο τον κόσμο, όταν χάκερ έμαθαν πώς να χειραγωγούν τους ψηφοφόρους αναλύοντας τα δεδομένα τους και εκμεταλλευόμενοι τις προκαταλήψεις τους. Ενώ τα θρίλερ επιστημονικής φαντασίας προτιμούν τις δραματικές σκηνές Αποκάλυψης με φωτιές και καπνούς, στην πραγματικότητα μπορεί να αντιμετωπίσουμε μια κοινότοπη Αποκάλυψη με κλικαρίσματα.

 

Για να αποφύγουμε ένα τέτοιο αποτέλεσμα για κάθε δολάριο και κάθε λεπτό του επενδύουμε στη βελτίωση της τεχνητής νοημοσύνης, θα κάναμε καλά αν επενδύαμε άλλο ένα δολάριο κι ένα λεπτό στην προαγωγή της ανθρώπινης συνείδησης. Δυστυχώς, αυτή τη στιγμή δεν κάνουμε και πολλά για να ερευνήσουμε και να αναπτύξουμε την ανθρώπινη συνείδηση. Ερευνούμε και αναπτύσσουμε η ς ανθρώπινες ικανότητες κυρίως σύμφωνα με τις άμεσες ανάγκες του οικονομικού και του πολιτικού συστήματος, και όχι σύμφωνα με τις μακροπρόθεσμες ανάγκες μας ως όντων με συνείδηση. Το αφεντικό μου θέλει να απαντάω όσο πιο γρήγορα γίνεται σε e-mail, αλλά δεν ενδιαφέρεται ιδιαίτερα για την ικανότητά μου να γεύομαι και να εκτιμώ το φαγητό που τρώω. Κατά συνέπεια, κοιτάζω το ηλεκτρονικό μου ταχυδρομείο ακόμα και στη διάρκεια των γευμάτων μου, ενώ χάνω την ικανότητα να προσέχω τις ίδιες μου τις αισθήσεις. Το οικονομικό σύστημα με πιέζει να επεκτείνω και να ανανεώνω το επενδυτικό μου χαρτοφυλάκιο, αλλά δεν μου δίνει το παραμικρό κίνητρο να διευρύνω και να ανανεώνω τη συμπόνια μου. Παλεύω λοιπόν να κατανοήσω τα μυστήρια του χρηματιστηρίου, ενώ κάνω πολύ μικρότερη προσπάθεια να κατανοήσω τις βαθύτερες αιτίες της οδύνης.

 

Σε αυτό οι άνθρωποι μοιάζουν με τα άλλα εξημερωμένα ζώα. Εκτρέφουμε αγελάδες που παράγουν τεράστιες ποσότητες γάλακτος, αλλά κατά τα άλλα είναι κατά πολύ κατώτερες από τους άγριους προγόνους τους. Είναι λιγότερο ευκίνητες, λιγότερο περίεργες και λιγότερο επινοητικές. Δημιουργούμε τώρα εξημερωμένους ανθρώπους που παράγουν τεράστιες ποσότητες δεδομένων και λειτουργούν σαν πολύ αποτελεσματικά τσιπάκια σε έναν τεράστιο μηχανισμό επεξεργασίας δεδομένων, αλλά αυτές οι αγελάδες δεδομένων δεν μεγιστοποιούν τις ανθρώπινες δυνατότητες. Για την ακρίβεια δεν έχουμε την παραμικρή ιδέα ποιες είναι όλες οι ανθρώπινες δυνατότητες, επειδή γνωρίζουμε τόσο λίγα για τον ανθρώπινο νου. Και παρ’ όλα αυτά δεν επενδύουμε σχεδόν καθόλου στη διερεύνηση του νου μας, αλλά προσπαθούμε να αυξήσουμε την ταχύτητα της σύνδεσής μας στο διαδίκτυο και την αποτελεσματικότητα των αλγόριθμων Μεγάλων Δεδομένων. Αν δεν προσέξουμε, θα καταλήξουμε να έχουμε υποβαθμισμένους ανθρώπους που θα χρησιμοποιούν με κακό τρόπο αναβαθμισμένους υπολογιστές για να σπείρουν τον όλεθρο στον εαυτό τους και τον κόσμο.

 

Οι ψηφιακές δικτατορίες δεν είναι ο μοναδικός κίνδυνος που μας περιμένει. Εκτός από την ελευθερία, η φιλελεύθερη τάξη έχει δώσει επίσης μεγάλο βάρος στην αξία της ισότητας. Ο φιλελευθερισμός λάτρευε πάντα την πολιτική ισότητα και συνειδητοποίησε σταδιακά ότι και η οικονομική ισότητα είναι εξίσου σημαντική. Γιατί χωρίς ένα κοινωνικό δίχτυ ασφαλείας και ένα ελάχιστο επίπεδο οικονομικής ισότητας η ελευθερία είναι ανούσια. Όπως όμως οι αλγόριθμοι Μεγάλων Δεδομένων μπορεί να εξαλείψουν την ελευθερία, μπορεί συγχρόνως να δημιουργήσουν και τις πιο ανισότιμες κοινωνίες που υπήρξαν ποτέ. Όλος ο πλούτος και η εξουσία θα είναι συγκεντρωμένα στα χέρια μιας μικροσκοπικής ελίτ, ενώ οι περισσότεροι άνθρωποι θα υποφέρουν όχι από την εκμετάλλευση αλλά από κάτι χειρότερο – δεν θα έχουν κάποια σημασία.

 

Yuval Noah Harari, 21 μαθήματα για τον 21ο αιώνα, Μετάφραση Μιχάλης Λαλιώτης,

Εκδόσεις Αλεξάνδρεια, Αθήνα 2018

 

 

 



Τελευταία Ενημέρωση στις Πέμπτη, 05 Σεπτέμβριος 2024 12:08