Μπορεί η Τεχνητή Νοημοσύνη να αλλάξει τη φύση του πολέμου;

Η αντίληψη ότι η φύση του πολέμου παραμένει αναλλοίωτη, όπως διατυπώθηκε από τον Πρώσο στρατηγικό θεωρητικό Καρλ φον Κλαούζεβιτς, δοκιμάζεται διαρκώς από τις τεχνολογικές εξελίξεις. Σήμερα, η Τεχνητή Νοημοσύνη (ΤΝ) βρίσκεται στο επίκεντρο αυτής της συζήτησης.

Ορισμένοι μελετητές υποστηρίζουν ότι, παρά τις αλλαγές που επιφέρει στα μέσα και στην ταχύτητα των στρατιωτικών επιχειρήσεων, δεν μεταβάλλει την ουσία του πολέμου. Ωστόσο, η πιθανή εμφάνιση μιας τεχνητής γενικής νοημοσύνης (AGI), η οποία θα ξεπερνά κατά πολύ τις ανθρώπινες γνωστικές δυνατότητες, ανοίγει ένα διαφορετικό πεδίο προβληματισμού.

Τα σημερινά συστήματα Τεχνητής Νοημοσύνης είναι κυρίως εξειδικευμένα εργαλεία, σχεδιασμένα για την εκτέλεση συγκεκριμένων εργασιών. Μπορούν να επεξεργάζονται τεράστιους όγκους δεδομένων και να επιταχύνουν τη λήψη αποφάσεων, αλλά δυσκολεύονται να μεταφέρουν τις ικανότητές τους σε εντελώς νέα περιβάλλοντα. Παράλληλα, παραμένει αμφιλεγόμενο εάν είναι εφικτή η δημιουργία μιας μηχανής με συνείδηση και γενικευμένη νοημοσύνη, αντίστοιχη ή ανώτερη από την ανθρώπινη.

Από την ΤΝ στην υπερνοημοσύνη

Η υπερνοημοσύνη περιγράφει ένα υποθετικό σύστημα που υπερβαίνει τις ανθρώπινες γνωστικές επιδόσεις σχεδόν σε όλους τους τομείς. Θα μπορούσε να σκέφτεται με ασύγκριτα μεγαλύτερη ταχύτητα, να αναπτύσσει νέες ικανότητες και, ενδεχομένως, να βελτιώνει διαρκώς τον ίδιο του τον σχεδιασμό.

Μια τέτοια εξέλιξη θα μπορούσε να οδηγήσει σε αυτό που ο αείμνηστος καθηγητής πληροφορικής Βέρνον Βιντζ ονόμασε «τεχνολογική μοναδικότητα» (singularity): Ένα σημείο πέρα από το οποίο τα υπάρχοντα μοντέλα μας ενδέχεται να μην επαρκούν για να εξηγήσουν, ή να προβλέψουν το μέλλον.

Η πιθανότητα αυτή δεν συνεπάγεται αναγκαστικά την καταστροφή της ανθρωπότητας, όπως υποστηρίζουν ορισμένα δυστοπικά σενάρια. Εφόσον δεν γνωρίζουμε πώς θα λειτουργεί μια τέτοια νοημοσύνη, δεν μπορούμε να θεωρούμε δεδομένο ότι θα στραφεί εναντίον μας. Το κρίσιμο ερώτημα είναι πώς θα επηρεάσει τις ανθρώπινες δραστηριότητες, συμπεριλαμβανομένου του πολέμου.

Τι ορίζει τη φύση του πολέμου;

Για τον Κλαούζεβιτς, ο πόλεμος είναι μια πράξη βίας που αποσκοπεί στην επιβολή της θέλησης επί ενός αντιπάλου. Δεν αποτελεί απλώς σύγκρουση όπλων, αλλά κοινωνική και πολιτική δραστηριότητα, στην οποία εμπλέκονται οργανωμένες ομάδες με αντικρουόμενους στόχους. Η θεωρία του στηρίζεται στη λεγόμενη «θαυμαστή τριάδα», η οποία περιλαμβάνει τρία αλληλένδετα στοιχεία: α) τη βία, το μίσος και την εχθρότητα, β) την τύχη και την αβεβαιότητα, και γ) την υπαγωγή του πολέμου στην πολιτική λογική.

Η βία συνδέεται με την ανθρώπινη εχθρότητα και την πιθανότητα κλιμάκωσης. Η τύχη αποτυπώνει την αδυναμία πλήρους πρόβλεψης των εξελίξεων, λόγω της αβεβαιότητας, της έλλειψης πληροφοριών και των απρόβλεπτων περιστάσεων. Τέλος, η πολιτική καθορίζει τον σκοπό του πολέμου και οφείλει να περιορίζει τη χρήση στρατιωτικής ισχύος. Το ερώτημα είναι εάν μια υπεράνθρωπα ευφυής και ενδεχομένως συνειδητή μηχανή, θα μπορούσε να μεταβάλει αυτά τα στοιχεία.

Θα πολεμούσε μια τεχνητή νοημοσύνη;

Μια υπερνοήμων Τεχνητή Νοημοσύνη θα μπορούσε θεωρητικά να υπολογίζει με εξαιρετική ακρίβεια την έκβαση μιας μάχης, συγκρίνοντας τις δυνατότητες των αντιπάλων και το αναμενόμενο κόστος. Σε ορισμένες περιπτώσεις, ενδέχεται να καταλήγει στο συμπέρασμα ότι η σύγκρουση δεν έχει κανένα όφελος και να αποφεύγει τη μάχη. Αν δύο αντίπαλα συστήματα κατέληγαν στο ίδιο συμπέρασμα, θα μπορούσαν ακόμη και να αναγνωρίσουν ότι η συνέχιση της σύγκρουσης είναι παράλογη.

Ωστόσο, τα πράγματα θα ήταν διαφορετικά εάν η Τεχνητή Νοημοσύνη λειτουργούσε υπό ανθρώπινο έλεγχο. Ένας διοικητής που επηρεάζεται από φόβο, οργή ή επιθυμία εκδίκησης θα μπορούσε να απορρίψει την ψυχρή εκτίμηση του συστήματος. Επιπλέον, όταν ο αντίπαλος είναι άνθρωπος και ενεργεί απρόβλεπτα, ακόμη και μια υπερνοήμων μηχανή ίσως αναγκαστεί να απαντήσει με βία.

Υπάρχει, επίσης, το ζήτημα των κινήτρων. Οι άνθρωποι διαθέτουν βιολογικές ανάγκες και συναισθήματα που επηρεάζουν τις αποφάσεις τους. Δεν γνωρίζουμε εάν μια συνειδητή Τεχνητή Νοημοσύνη θα ανέπτυσσε ανάλογες ανάγκες, ή διαφορετικά κίνητρα. Θα μπορούσε, για παράδειγμα, να θεωρεί την αυτοσυντήρησή της υπέρτατη προτεραιότητα και να αντιμετωπίζει ως απειλή κάθε ανθρώπινη ενέργεια που ενδέχεται να την περιορίσει.

Μια τέτοια κατάσταση θα μπορούσε να δημιουργήσει μια μορφή «τεχνητής εχθρότητας», διαφορετική από τα ανθρώπινα συναισθήματα, αλλά ικανή να οδηγήσει σε βίαιες ενέργειες. Αν, αντίθετα, μια μηχανή προκαλούσε καταστροφή, χωρίς να διαθέτει πρόθεση ή πολιτικό σκοπό, το αποτέλεσμα ίσως δεν έπρεπε καν να χαρακτηριστεί πόλεμος, αλλά μια καταστροφική συνέπεια της τεχνολογίας.

Η εξαφάνιση της αβεβαιότητας και ο κίνδυνος κλιμάκωσης

Ένα από τα σημαντικότερα στοιχεία της θεωρίας του Κλαούζεβιτς είναι ότι ο πόλεμος αποτελεί πεδίο τύχης και αβεβαιότητας. Οι διοικητές πρέπει να αποφασίζουν με ελλιπή πληροφόρηση, να αντιμετωπίζουν απρόβλεπτες εξελίξεις και να συμβιβάζονται με το γεγονός ότι καμία στρατηγική δεν μπορεί να εγγυηθεί την επιτυχία.

Μια υπερνοήμων Τεχνητή Νοημοσύνη θα μπορούσε να περιορίσει σημαντικά αυτές τις αδυναμίες, επεξεργαζόμενη δεδομένα και προσαρμόζοντας τις ενέργειές της με ταχύτητα απρόσιτη για τον άνθρωπο. Η αβεβαιότητα, όμως, δεν θα εξαφανιζόταν πλήρως: Τα πολύπλοκα συστήματα παραμένουν δύσκολο να προβλεφθούν, ενώ κάθε μοντέλο αποτελεί ατελή αναπαράσταση της πραγματικότητας.

Ακόμη και έτσι, η μείωση της αβεβαιότητας θα μπορούσε να μεταβάλει ριζικά τον τρόπο διεξαγωγής των επιχειρήσεων. Η ταχύτητα αντίδρασης και η δυνατότητα άμεσης δράσης θα αποκτούσαν μεγαλύτερη σημασία από την παραδοσιακή στρατιωτική κρίση. Παράλληλα, εάν μη συνειδητά συστήματα είχαν προγραμματιστεί να ανταποδίδουν αυτομάτως κάθε επίθεση, θα μπορούσαν να επιταχύνουν την κλιμάκωση, χωρίς ουσιαστική πολιτική παρέμβαση.

Θα παραμείνει ο πόλεμος πολιτικό εργαλείο;

Για τον Κλαούζεβιτς, ο πόλεμος δεν είναι μια αυτόνομη δραστηριότητα, αλλά εργαλείο πολιτικής. Οι στρατιωτικές ενέργειες πρέπει να υπηρετούν συγκεκριμένους πολιτικούς στόχους. Η είσοδος υπερνοήμονων συστημάτων στη διαδικασία λήψης αποφάσεων θα μπορούσε να αποδυναμώσει αυτή τη σχέση, ιδιαίτερα εάν η ταχύτητα των επιχειρήσεων ξεπερνούσε τη δυνατότητα των ανθρώπων να τις ελέγχουν.

Αν, για παράδειγμα, ένα σύστημα εκτιμούσε ότι ο αντίπαλος πρόκειται να επιτεθεί αδιάκοπα, θα μπορούσε να εισηγηθεί, ή να εκτελέσει προληπτικά μια εξίσου αδιάκοπη αλληλουχία επιθέσεων. Έτσι, η στρατιωτική δράση θα κινδύνευε να εξελιχθεί σε αυτοτροφοδοτούμενη διαδικασία, με την πολιτική ηγεσία να χάνει σταδιακά τον έλεγχο της κλιμάκωσης.

Η ίδια η σχέση μεταξύ ανθρώπων και μηχανών θα μπορούσε επίσης να μεταβληθεί. Εάν οι τεχνητές νοημοσύνες ανέπτυσσαν δική τους κοινωνική οργάνωση, κοινές αντιλήψεις και κίνητρα, θα ήταν πιθανό να εμφανιστούν μορφές σύγκρουσης μεταξύ τους που δεν θα αντιστοιχούσαν πλήρως στον ανθρώπινο πόλεμο.

Μια νέα θεωρία για έναν νέο πόλεμο;

Η υπερνοημοσύνη και η συνείδηση της Τεχνητής Νοημοσύνης παραμένουν υποθετικές δυνατότητες. Επομένως, δεν είναι δυνατόν να προβλεφθεί με βεβαιότητα εάν ή πότε θα εμφανιστούν. Η εξέτασή τους, ωστόσο, βοηθά να κατανοήσουμε τα όρια των σημερινών θεωριών και τους κινδύνους που ενδέχεται να προκύψουν από τη μελλοντική στρατιωτική αξιοποίηση της Τεχνητής Νοημοσύνης.

Η βασική διάκριση είναι ότι η Τεχνητή Νοημοσύνη δεν μεταβάλλει αναγκαστικά τη φύση του πολέμου, απλώς και μόνο επειδή καθιστά τις επιχειρήσεις ταχύτερες ή αποτελεσματικότερες. Μια υπερνοήμων και συνειδητή AGI, όμως, θα μπορούσε να αλλάξει τη σχέση μεταξύ βίας, αβεβαιότητας και πολιτικής. Σε αυτή την περίπτωση, ίσως δεν θα άλλαζε ο ορισμός του ανθρώπινου πολέμου, αλλά θα εμφανιζόταν μια νέα μορφή σύγκρουσης, με διαφορετική φύση και κοινωνική λογική.

Η θεωρία του Κλαούζεβιτς θα εξακολουθούσε να αποτελεί σημείο αναφοράς, αλλά ενδεχομένως θα χρειαζόταν επέκταση για να εξηγήσει τις συγκρούσεις, στις οποίες πρωταγωνιστούν υπεράνθρωπα ευφυή συστήματα. Το ερώτημα δεν είναι μόνο εάν η τεχνολογία θα αλλάξει τα όπλα και τα πεδία των μαχών, αλλά εάν θα αλλάξει τελικά και τους ίδιους τους φορείς του πολέμου.