Η βελούδινη τεχνολογική τυραννία του 21ου αιώνα

Οι Άλντους Χάξλεϊ (A. Huxley), Τζορτζ Όργουελ (G. Orwell) και Άντονι Μπέρτζες (A. Burgess) δεν ήταν απλώς συγγραφείς δυστοπικής μυθοπλασίας. Ήταν οι πρώτοι αρχιτέκτονες συστημάτων του παρόντος μας. Τα έργα τους χαρτογράφησαν πώς η ανθρώπινη συνείδηση μπορούσε να ρυθμιστεί, να επαναπρογραμματιστεί, να κατευναστεί και τελικά να κυβερνηθεί.

Σχεδόν έναν αιώνα αργότερα, οι συνδυασμένες προειδοποιήσεις τους εμφανίζονται πλέον όχι ως θεωρητική λογοτεχνία, αλλά ως εγχειρίδιο εργασίας για τη σύγχρονη κοινωνία – μια κοινωνία ενισχυμένη από την τεχνητή νοημοσύνη, την αλγοριθμική δύναμη, την τεχνο-φεουδαρχική οικονομία και τη σιωπηλή διάβρωση της ιδιωτικότητας, της αυτονομίας και της οικογενειακής ζωής.

Περιέγραψαν ο καθένας διαφορετικά μονοπάτια προς τον ίδιο προορισμό: μια κοινωνία όπου η εξουσία δεν επιβάλλεται μέσω ορατών αλυσίδων/δεσμών, αλλά μέσω αόρατων ψυχολογικών συστημάτων. Η εξουσία, κατά τον Χάξλεϊ, κυβερνούσε μέσω της ηδονής, κατά τον Όργουελ, μέσω του φόβου, κατά τον Μπέρτζες μέσω νευρολογικής τροποποίησης. Σήμερα, το παγκόσμιο σύστημα χρησιμοποιεί και τα τρία ταυτόχρονα – επιταχυνόμενα από την τεχνολογία, αυτοματοποιημένα από αλγόριθμους και μετατρεπόμενα σε κέρδος, από τα δεδομένα.

Τρία Σχέδια Εξουσίας

Huxley: Ηδονή, Εξηρτημένη Μάθηση/Αντανακλαστικά και το Τέλος της Ενόχλησης. Στο βιβλίο του “Θαυμαστός Καινούργιος Κόσμος”, ο έλεγχος επιτυγχάνεται μέσω της ευτυχίας. Οι πολίτες υποβάλλονται σε εξηρτημένη μάθηση (πχ σκύλος Παβλώφ) από τη γέννησή τους, αποσπώνται από μια συνεχή ψυχαγωγία, σταθεροποιούνται ψυχολογικά από το φάρμακο Soma και προστατεύονται από την υπαρξιακή δυσφορία. Δεν υπάρχει εξέγερση, επειδή η εξέγερση απαιτεί δυσαρέσκεια – και η δυσαρέσκεια έχει απομακρυνθεί χημικά, ψυχολογικά και κοινωνικά.

Η σύγχρονη νευροεπιστήμη επιβεβαιώνει την διορατικότητα του Huxley. Τα συστήματα ανταμοιβής που βασίζονται στην ντοπαμίνη κυριαρχούν πλέον στην καθημερινή ζωή: συνεχείς ειδοποιήσεις, καρδούλες, “Μου Αρέσει”, κλπ των μέσων κοινωνικής δικτύωσης (social media), άπειρο σκρολάρισμα, περιεχόμενο βίντεο σε συνεχή ροή, οικονομία των παιχνιδιών, κουλτούρα κατανάλωσης και φαρμακευτικά σταθεροποιητικά διάθεσης/αντικαταθλιπτικά (πχ λίθιο).

Σύμφωνα με τον ΟΟΣΑ, η χρήση αντικαταθλιπτικών έχει διπλασιαστεί στις περισσότερες δυτικές χώρες από το 2000. Η παγκόσμια βιομηχανία ψηφιακής ψυχαγωγίας υπερβαίνει πλέον τα 2,5 τρισεκατομμύρια δολάρια ετησίως. Η ευχαρίστηση δεν είναι πλέον υποπροϊόν, δευτερεύουσα δραστηριότητα της ζωής. Είναι το σύστημα διαχείρισης της ίδιας της ζωής. Η ευχαρίστηση ως αντικατάσταση της καταπίεσης και του αυταρχισμού.

Όργουελ: Επιτήρηση, Φόβος και Έλεγχος της Πραγματικότητας. Το βιβλίο “1984” του Όργουελ περιγράφει έναν κόσμο όπου η επιτήρηση είναι συνεχής, η γλώσσα τροποποιείται, η μνήμη ξαναγράφεται και η αλήθεια καθορίζεται από την εξουσία. Οι πολίτες συμμορφώνονται όχι μόνο επειδή φοβούνται την τιμωρία, αλλά επειδή τελικά χάνουν την ικανότητα να διακρίνουν την αλήθεια από την μετα-αλήθεια, την κατασκευασμένη αλήθεια, την παραπληροφόρηση και τα fake news.

Τα σύγχρονα ψηφιακά συστήματα το έχουν καταφέρει αυτό με εκπληκτική αποτελεσματικότητα. Πάνω από πέντε δισεκατομμύρια άνθρωποι κουβαλούν πλέον συσκευές συνεχούς παρακολούθησης στις τσέπες τους (πχ κινητά). Οι κυβερνήσεις και οι εταιρείες συλλέγουν δεδομένα συμπεριφοράς σχετικά με την κίνηση, την επικοινωνία, την κατανάλωση, το συναίσθημα και τις πολιτικές προτιμήσεις. Η αναγνώριση προσώπου, οι βιομετρικές βάσεις δεδομένων και η προγνωστική αστυνόμευση μετατρέπουν την μυστική επιτήρηση σε προληπτική διακυβέρνηση, δηλαδή δράση πριν συμβεί ένα γεγονός. Η ίδια η πραγματικότητα “προσαρμόζεται” σύμφωνα με τη θέληση της αυταρχικής ηγεσίας.

Burgess

Ελεύθερη Βούληση ως Τελικό Πεδίο Μάχης. Ο Burgess με το “Κουρδιστό Πορτοκάλι” (A Clockwork Orange, από όπου και η διάσημη ταινία του 1971), περισσότερο από τους άλλους, επιτέθηκε στο βασικό ηθικό ερώτημα: “Είναι ένας άνθρωπος ακόμα άνθρωπος χωρίς την ελευθερία να επιλέξει το κακό”; Η απάντησή του ήταν “όχι”. Μια κοινωνία που εξαλείφει την επιλογή γίνεται τεχνικά ειρηνική, αλλά θεμελιωδώς απάνθρωπη.

Σήμερα, το έδαφος της ελεύθερης βούλησης έχει μετατοπιστεί στον εγκέφαλο. Το νευρομάρκετινγκ, η συμπεριφορική οικονομία, η ψυχομετρική δημιουργία προφίλ και τα συστήματα πειθούς που καθοδηγούνται από την Τεχνητή Νοημοσύνη επηρεάζουν τις ανθρώπινες αποφάσεις κάτω από το επίπεδο επίγνωσης. Η Cambridge Analytica κατέδειξε πώς η ψυχολογική στόχευση θα μπορούσε να αλλάξει και αποτελέσματα στις εθνικές εκλογές. Αυτό που κάποτε ήταν σκάνδαλο είναι πλέον τυποποιημένη πρακτική του κλάδου.

Η Ψηφιακή Σύνθεση

Στον 21ο αιώνα, οι τρεις αυτοί κόσμοι συγχωνεύονται. Ο σύγχρονος κόσμος συνδυάζει πλέον την ηδονή του Huxley, την επιτήρηση του Orwell και τη νευρολογική εξαρτημένη μάθηση του Burgess σε ένα ενοποιημένο σύστημα ψυχολογικής διακυβέρνησης. Αυτό το σύστημα τροφοδοτείται, μεταξύ άλλων, από τέσσερις μηχανές:

1. Τεχνητή Νοημοσύνη,
2. Καπιταλισμός Δεδομένων,
3. Τεχνολογική Εξάρτηση,
4. Γνωστική Χειραγώγηση

Η σύγχρονη εξουσία δεν χρειάζεται πια στρατόπεδα αναμόρφωσης. Χρησιμοποιεί αλγορίθμους. Δεν απαγορεύει την πληροφορία. Την πνίγει στον θόρυβο. Δεν καταστέλλει την επιθυμία. Την σχεδιάζει. Τα social media λειτουργούν ως εργοστάσια συμπεριφοράς. Έρευνες δείχνουν ότι το ψευδές περιεχόμενο διαδίδεται έως και έξι φορές ταχύτερα από την αλήθεια. Οι πλατφόρμες γνωρίζουν τι μας φοβίζει, τι μας εξοργίζει, τι μας καθηλώνει. Και το χρησιμοποιούν. Στο μεταξύ, η τεχνητή νοημοσύνη επιταχύνει αυτή τη νέα αρχιτεκτονική ελέγχου.

Οι αλγόριθμοι διαμορφώνουν πολιτικές καμπάνιες, εργασιακές αξιολογήσεις, πιστοληπτικές αποφάσεις, ακόμη και δικαστικές προβλέψεις. Η εξουσία δεν είναι πλέον ορατή. Είναι ενσωματωμένη στο λογισμικό, στον αλγόριθμο. Την ίδια στιγμή, παρατηρείται παγκόσμια υποχώρηση της δημοκρατίας. Σύμφωνα με διεθνείς δείκτες, πάνω από το 38% του παγκόσμιου πληθυσμού ζει πλέον υπό αυταρχικά καθεστώτα. Η άνοδος αυταρχικών ηγεσιών συμβαδίζει με την εξάπλωση της ψηφιακής επιτήρησης και της μαζικής χειραγώγησης.

Το ψυχολογικό κόστος είναι ήδη μετρήσιμο. Μεταξύ 2010 και 2022, η κατάθλιψη και το άγχος στους εφήβους αυξήθηκαν δραματικά, ενώ η μοναξιά έχει χαρακτηριστεί πλέον παγκόσμια απειλή δημόσιας υγείας. Η κοινωνία γίνεται πιο συνδεδεμένη και ταυτόχρονα πιο απομονωμένη. Σε αυτό το πλαίσιο, το πρόσφατο βιβλίο του υπογράφοντος, “Σιωπηλός Καινούργιος Κόσμος”, αποκτά ιδιαίτερη σημασία, αφού περιγράφει τη μετάβαση σε ένα νέο σύστημα όπου η εξουσία δεν επιβάλλεται με βία, αλλά με κανονικότητα.

Με σταδιακή αποδοχή. Με εσωτερική παραίτηση. Με τεχνολογία. Η δυστοπία δεν έρχεται με τανκς. Έρχεται πλέον με εφαρμογές. Οι Χάξλεϋ, Όργουελ και Μπέρτζες και ομοϊδεάτες τους δεν ήταν ή είναι απαισιόδοξοι. Ήταν ρεαλιστές. Έβλεπαν καθαρά προς ποια κατεύθυνση κινείται ο πολιτισμός, όταν η τεχνολογία αποσπάται από την ηθική και η ισχύς από τη λογοδοσία. (πχ άρθρο 86 του Ελληνικού Συντάγματος).

Τεχνητή Νοημοσύνη: Το Νέο Κεντρικό Νευρικό Σύστημα Εξουσίας

Η έλευση της τεχνητής νοημοσύνης επιταχύνει τις εξελίξεις, γιατί η Τεχνητή Νοημοσύνη δεν είναι ένα ακόμη εργαλείο. Γίνεται το λειτουργικό σύστημα του πολιτισμού. Η Τεχνητή Νοημοσύνη επιμελείται τις ειδήσεις, ελέγχει τον λόγο, προβλέπει το έγκλημα, κατανέμει πιστώσεις, αξιολογεί τους υποψηφίους για εργασία, επηρεάζει τα ραντεβού, διαμορφώνει τα πολιτικά μηνύματα και βελτιστοποιεί την κατανάλωση.

Σύμφωνα με την PwC, η Τεχνητή Νοημοσύνη θα συνεισφέρει 15,7 τρισεκατομμύρια δολάρια στην παγκόσμια οικονομία έως το 2030. Οι εταιρείες που ελέγχουν αυτά τα συστήματα – Google, Meta, Amazon, Microsoft, Anthropic – ασκούν πλέον επιρροή που υπερβαίνει εκείνη των περισσότερων εθνών-κρατών. Αυτό σηματοδοτεί την εμφάνιση αυτού που οι μελετητές ονομάζουν τεχνοφεουδαρχία: ένα σύστημα όπου τα δεδομένα αντικαθιστούν τη γη και το χωράφι, οι πλατφόρμες αντικαθιστούν τους άρχοντες και οι χρήστες γίνονται ψηφιακοί δουλοπάροικοι που παράγουν πλούτο μέσω της εξαγωγής μοντέλων προβλεπτικής συμπεριφοράς του πολίτη.

Αυταρχική Ηγεσία στην Εποχή της Τεχνολογίας: Η τεχνολογία τώρα ενισχύει τον αυταρχισμό. Από το Πεκίνο μέχρι τη Μόσχα, από την Άγκυρα μέχρι την Τεχεράνη, η ψηφιακή επιτήρηση και η παρακολούθηση με τεχνητή νοημοσύνη επιτρέπουν πρωτοφανή έλεγχο. Τα συστήματα κοινωνικής πίστωσης (credit control system), η μαζική αναγνώριση προσώπου και οι σχετικές κάμερες που σταθερά κάνουν την παρουσία τους μετά τη Κίνα και στην Ελλάδα, καθώς και η προγνωστική ανάλυση δημιουργούν συμμόρφωση χωρίς ορατή καταστολή.

Εν τω μεταξύ, οι δυτικές δημοκρατίες αναθέτουν τη διακυβέρνηση σε αλγόριθμους και εταιρείες. Οι πολιτικές αποφάσεις διαμορφώνονται όλο και περισσότερο από την ανάλυση της αγοράς, τη μοντελοποίηση του δημόσιου αισθήματος και τα κίνητρα που προσφέρουν οι πλατφόρμες. Το αποτέλεσμα είναι αυτό που πολλοί μελετητές περιγράφουν ως μεταδημοκρατία – όπου οι δημοκρατικές τελετουργίες παραμένουν, αλλά η ουσιαστική εξουσία μεταφέρεται αλλού.

Την ίδια στιγμή βιώνουμε την κατάρρευση της ιδιωτικότητας. Η ιδιωτικότητα  –το ψυχολογικό θεμέλιο της αυτονομίας – έχει σε μεγάλο βαθμό εξαφανιστεί. Ο μέσος χρήστης του διαδικτύου παρακολουθείται από πάνω από 100 τρίτους “μεσίτες δεδομένων”. Η τοποθεσία, το συναίσθημα, η προτίμηση και η προσοχή συλλέγονται συνεχώς. Ακόμη και η ιδιωτική σκέψη είναι πλέον στατιστικά προβλέψιμη. Όμως χωρίς ιδιωτικότητα, δεν υπάρχει πραγματική ανεξαρτησία του νου.

Κοινωνικά Μέσα και η Κατασκευή της Συνείδησης

Οι κοινωνικές πλατφόρμες έχουν γίνει τα πιο ισχυρά εργαστήρια συμπεριφοράς στην ανθρώπινη ιστορία. Το πείραμα συναισθηματικής μετάδοσης του Facebook το 2014 χειραγώγησε τις συναισθηματικές καταστάσεις 600.000 χρηστών χωρίς συγκατάθεση, αποδεικνύοντας ότι οι διαθέσεις και οι απόψεις θα μπορούσαν να τροποποιηθούν αλγοριθμικά σε μεγάλη κλίμακα.

Ο σύγχρονος πολίτης δεν είναι ενημερωμένος. Η αλήθεια είναι πλέον κατασκευασμένη. Οι ψευδείς πληροφορίες εξαπλώνονται έξι φορές πιο γρήγορα από την αλήθεια (MIT, 2018). Η πολιτική πόλωση αυξάνεται άμεσα με την έκθεση στα μέσα κοινωνικής δικτύωσης. Το άγχος, η κατάθλιψη και η μοναξιά συσχετίζονται έντονα με τον χρόνο που αφιερώνεται στο διαδίκτυο. Το αποτέλεσμα είναι ένας πληθυσμός ταυτόχρονα υπερσυνδεδεμένος, αλλά και βαθιά απομονωμένος.

Εξάλλου, η διάλυση της οικογένειας και του κοινωνικού ιστού είναι γεγονός. Η οικογένεια, κάποτε η κύρια μονάδα κοινωνικοποίησης, αποδυναμώνεται υπό την οικονομική πίεση, τον πολιτισμικό κατακερματισμό και την τεχνολογική ανισότητα. Τα ποσοστά γάμου μειώνονται, τα ποσοστά γεννήσεων καταρρέουν και τα παιδιά σχηματίζουν όλο και περισσότερο ταυτότητες και προσωπικότητα μέσω οθονών αντί για κοινότητες και παρέες. Η διάβρωση της οικογένειας αφαιρεί ένα κρίσιμο φράγμα μεταξύ του ατόμου και του συστήματος. Το άτομο κυβερνάται άμεσα – από αγορές, πλατφόρμες και θεσμούς.

Το Μέλλον: Πού Οδηγεί Αυτός ο Δρόμος

Αυτό που προκύπτει δεν είναι ο ολοκληρωτισμός με την κλασική έννοια, αλλά κάτι πιο λεπτό: ο αλγοριθμικός πολιτισμός. Η εξουσία γίνεται κατανεμημένη, αόρατη, τεχνική και αυτοενισχυόμενη. Ο έλεγχος δεν επιβάλλεται πλέον. Είναι ενσωματωμένος. Ο κίνδυνος δεν είναι η καταπίεση. Ο κίνδυνος είναι η τέλεια συμμόρφωση. Οι Huxley, Orwell και Burgess δεν μας προειδοποιούσαν απλά για τις κυβερνήσεις και την εξουσία. Μας προειδοποιούσαν για τον ίδιο τον εαυτό μας.