ΤΕΧΝΟΛΟΓΙΑ

Τεχνητή νοημοσύνη: Επιβάλλονται όρια ακόμη και να πούμε κάποια “όχι”

Τεχνητή νοημοσύνη: Επιβάλλονται όρια ακόμη και να πούμε κάποια "όχι", Κώστας Κατάρας
Φωτό: ΑΠΕ:ΜΠΕ

Το χάσμα ανάμεσα στην ταχύτητα της τεχνολογίας και στην ταχύτητα των θεσμών δεν κλείνει μόνο με ταχύτερους θεσμούς. Από τη Νορβηγία ως το San Francisco, όλο και περισσότερες αρχές βάζουν όρια εκεί όπου ένα λάθος της μηχανής δεν διορθώνεται. Τρεις απλές ερωτήσεις δείχνουν πού χρειάζεται ένα «ναι» και πού ένα «όχι», και τι θα μπορούσε να κάνει η Ελλάδα από αύριο.

Τον Σεπτέμβριο, με λίγες μέρες διαφορά, ζήτησαν φρένο στην τεχνητή νοημοσύνη δύο πρόσωπα από διαφορετικές πλευρές του ίδιου συστήματος: η πρόεδρος της Ευρωπαϊκής Επιτροπής Ursula von der Leyen και ο Dario Amodei, επικεφαλής της Anthropic, μιας από τις εταιρείες που αναπτύσσουν τα ισχυρότερα συστήματα τεχνητής νοημοσύνης. Η πρώτη, στην ομιλία της για την κατάσταση της Ένωσης, ζήτησε να επιβραδυνθεί και να τεθεί υπό έλεγχο η ανάπτυξη των πιο προηγμένων μοντέλων. Ο δεύτερος ζήτησε να πέσει ο ρυθμός με τον οποίο αυτά βελτιώνονται. Όταν ζητούν φρένο όσοι κρατούν το τιμόνι, κάτι έχει αλλάξει.

Τον Οκτώβριο ήρθαν οι πράξεις. Το San Francisco, έδρα της OpenAI και της Anthropic, πάγωσε για 45 ημέρες τα νέα κέντρα δεδομένων, για να μελετήσει τι σημαίνουν για την ενέργεια, το νερό και τις γειτονιές του. Μια σχολική επιτροπή στο Maryland απαγόρευσε την τεχνητή νοημοσύνη σε όλους τους μαθητές της, λίγες εβδομάδες αφού είχε αρχίσει να τη δοκιμάζει.

Η Νέα Υόρκη απαγόρευσε στα chatbots να παριστάνουν πραγματικούς ανθρώπους ή να ισχυρίζονται ότι έχουν προσωπική σχέση με παιδιά. Η Νορβηγία είχε προηγηθεί από τον Ιούνιο, ανακοινώνοντας ότι οι μαθητές του δημοτικού, από έξι έως δεκατριών ετών, κατά κανόνα δεν θα χρησιμοποιούν οι ίδιοι παραγωγική τεχνητή νοημοσύνη στις σχολικές εργασίες. «Οι μαθητές πρέπει να μάθουν να διαβάζουν, να γράφουν και να κάνουν αριθμητική πριν αρχίσουν να χρησιμοποιούν τεχνητή νοημοσύνη», είπε η υπουργός Παιδείας Kari Nessa Nordtun.

Είναι πράξεις επιλεκτικής άρνησης, και σπάνε έναν άγραφο κανόνα τριάντα χρόνων: ότι η πρόοδος μετριέται με μία λέξη, «περισσότερο», και ότι κερδίζει όποιος υιοθετεί πρώτος.

Η υιοθέτηση δεν φέρνει πια έλεγχο

Ο κανόνας στηριζόταν σε μια παραδοχή που δεν ισχύει πια, ότι όποιος αγοράζει μια τεχνολογία την ελέγχει κιόλας. Με την τεχνητή νοημοσύνη η σχέση αντιστρέφεται. Τα συστήματα αλλάζουν κάθε λίγους μήνες, τα φτιάχνουν και τα ενημερώνουν ελάχιστες εταιρείες, και οι περισσότεροι οργανισμοί που τα χρησιμοποιούν δεν μπορούν να δουν πώς βγάζουν τα αποτελέσματά τους. Ένα σχολείο, ένα νοσοκομείο, ένα υπουργείο καταλήγουν να εξαρτώνται από εργαλεία που δεν μπορούν να επιθεωρήσουν ούτε να αντικαταστήσουν εύκολα.

Για την Ευρώπη το ζήτημα είναι και κυριαρχίας, με την κυριολεκτική σημασία. Τα ισχυρότερα συστήματα είναι αμερικανικά, και ο αμερικανικός νόμος CLOUD Act επιτρέπει στην Ουάσιγκτον να ζητά από αυτές τις εταιρείες δεδομένα, όπου κι αν φυλάσσονται. Ένα ευρωπαϊκό υπουργείο που τους εμπιστεύεται ευαίσθητα θέματα ασφάλειας ανταλλάσσει ένα καλώδιο που θα μπορούσε να υποκλαπεί με μια νομική υποχρέωση που περνά τα σύνορα. Οι ευρωπαϊκές εταιρείες τεχνητής νοημοσύνης απαντούν, με κάποιο δίκιο, ότι μια γενική επιβράδυνση θα βόλευε το αμερικανικό προβάδισμα. Γι’ αυτό ένα γενικό «ναι» ή ένα γενικό «όχι» δεν βοηθά.

Η σειρά αυτή περιέγραψε ένα χάσμα ταχύτητας: η τεχνολογία αλλάζει σε εβδομάδες, οι νόμοι σε χρόνια. Ως τώρα η μόνη θεραπεία που συζητούσαμε ήταν να τρέξουν οι θεσμοί πιο γρήγορα. Υπάρχει και δεύτερη: να επιβραδύνουμε σκόπιμα την τεχνολογία, σε συγκεκριμένα σημεία, εκεί όπου δεν προλαβαίνουμε ακόμη να την ελέγξουμε. Μια κοινωνία που το κάνει συνειδητά ξαναπαίρνει μια απόφαση που αλλιώς θα την έπαιρνε γι’ αυτήν η ίδια η ταχύτητα.

Όσοι φυλάνε τα πιο κρίσιμα το ξέρουν από καιρό. Μετά τις αποκαλύψεις Snowden, το 2013 (βλ. και το βιβλίο μου «Σιωπηλός Καινούργιος Κόσμος»,), η ρωσική Ομοσπονδιακή Υπηρεσία Φύλαξης αγόρασε γραφομηχανές για τα πιο ευαίσθητα έγγραφά της. Τα αμερικανικά συστήματα διοίκησης πυρηνικών όπλων μένουν εδώ και δεκαετίες σε μεγάλο βαθμό αποκομμένα από τα δημόσια δίκτυα. Και ο ειδικός ασφάλειας Bruce Schneier επιμένει ότι στις εκλογές το χαρτί παραμένει το μόνο ίχνος που ελέγχεται ανεξάρτητα. Όταν το κόστος μιας ψηφιακής αστοχίας είναι πολύ υψηλό, η αποσύνδεση γίνεται μέρος του σχεδιασμού.

Πριν από λίγες μέρες είδαμε πώς μοιάζει αυτό στην πράξη. Την Πέμπτη 12 Νοεμβρίου, μια βλάβη στα συστήματα της Microsoft άφησε χωρίς email και τηλεδιασκέψεις επιχειρήσεις, σχολεία και κυβερνήσεις σε 74 χώρες, ως την επόμενη μέρα. Την Παρασκευή, οι Ηνωμένες Πολιτείες σταμάτησαν όλες τις πτήσεις τους για πάνω από τέσσερις ώρες, επειδή υπερφορτώθηκε το σύστημα επικοινωνιών της εναέριας κυκλοφορίας. Καμία από τις δύο βλάβες δεν οφειλόταν σε τεχνητή νοημοσύνη ή σε επίθεση. Θύμισαν όμως πόσο γρήγορα σταματά μια ολόκληρη λειτουργία όταν κρέμεται από ένα μόνο σύστημα.

Το τεστ των τριών ερωτήσεων

Για να μη μείνει η άρνηση σύνθημα, χρειάζεται κριτήριο. Για κάθε χρήση τεχνητής νοημοσύνης στη δημόσια ζωή αρκούν τρεις ερωτήσεις. Πόσο σοβαρές θα ήταν οι συνέπειες ενός λάθους; Μπορεί ένας άνθρωπος να ελέγξει ουσιαστικά το αποτέλεσμα πριν αυτό γίνει απόφαση; Και πόσο εύκολα θα συνεχίζαμε χωρίς το σύστημα, αν αστοχήσει, αλλάξει όρους ή αποσυρθεί;

Όπου οι συνέπειες ενός λάθους είναι περιορισμένες και το σύστημα αντικαθίσταται εύκολα, επιταχύνουμε: μετάφραση δημόσιων πληροφοριών, έγγραφα ρουτίνας, αναζήτηση σε αρχεία. Εκεί κάθε καθυστέρηση κοστίζει. Όπου οι συνέπειες μπορεί να είναι σοβαρές, αλλά ένας άνθρωπος μπορεί ακόμη να ελέγξει ουσιαστικά το αποτέλεσμα πριν από την απόφαση, ελέγχουμε. Στην ιατρική διάγνωση, στη δικαιοσύνη, στις προσλήψεις και στα επιδόματα, η μηχανή εισηγείται και ο άνθρωπος αποφασίζει και λογοδοτεί.

Η Ολλανδία έμαθε με τον σκληρότερο τρόπο τι γίνεται όταν λείπει αυτό το βήμα. Ένα σύστημα της ολλανδικής εφορίας αντιμετώπιζε πολλούς δικαιούχους επιδόματος παιδικής φροντίδας ως πιθανούς απατεώνες, πλήττοντας ιδιαίτερα ευάλωτες οικογένειες. Δεκάδες χιλιάδες γονείς κλήθηκαν άδικα να επιστρέψουν χρήματα και πολλοί βυθίστηκαν στα χρέη. Η κυβέρνηση παραιτήθηκε το 2021.

Όπου οι συνέπειες μπορεί να είναι σοβαρές και η εξάρτηση τόσο μεγάλη, ώστε η απώλεια του συστήματος να σταματά την ίδια τη λειτουργία, κρατάμε έξοδο. Στην ενέργεια, στο νερό, στις τηλεπικοινωνίες και στην άμυνα, κάθε σύστημα χρειάζεται εφεδρεία που δουλεύει ανεξάρτητα και δυνατότητα χειροκίνητης παρέμβασης. Στις εκλογές, η καταμέτρηση δεν πρέπει να εξαρτάται από κανένα αδιαφανές σύστημα.

Το ίδιο ισχύει για τη βασική εκπαίδευση. Η ανάγνωση, η γραφή και η κριτική σκέψη είναι ικανότητες που μια κοινωνία δεν ανακτά γρήγορα αν ατονήσουν. Η τεχνολογία μπορεί να στηρίξει τη μάθηση, δεν πρέπει όμως να υποκαταστήσει τις βασικές δεξιότητες που την κάνουν δυνατή. Η έρευνα και η καινοτομία μένουν ελεύθερες. Το όριο μπαίνει μόνο εκεί όπου μια απόφαση θα περνούσε αυτόματα από τον άνθρωπο στη μηχανή και το λάθος δεν θα διορθωνόταν.

Τι θα μπορούσε να κάνει η Ελλάδα από αύριο

Το gov.gr είναι, δικαίως, μία από τις μεγάλες επιτυχίες της τελευταίας δεκαετίας. Όσο όμως η ψηφιοποίηση του κράτους τρέχει, τρεις κινήσεις θα έδιναν στο τεστ πρακτικό περιεχόμενο.

Άνθρωπος και εναλλακτικός δρόμος για κάθε κρίσιμη απόφαση. Σε συντάξεις, επιδόματα, φορολογία και υγεία, κάθε απόφαση που βγαίνει από αλγόριθμο να έχει επώνυμο υπάλληλο που την υπογράφει και την εξηγεί, και έναν μη ψηφιακό δρόμο για όποιον τον χρειάζεται. Ο Γενικός Κανονισμός για την Προστασία Δεδομένων προβλέπει ήδη προστασία απέναντι σε ορισμένες αποφάσεις που λαμβάνονται αποκλειστικά με αυτοματοποιημένη επεξεργασία. Το ζητούμενο είναι να εφαρμοστούν ουσιαστικά οι εγγυήσεις του στη δημόσια διοίκηση.

Ρήτρα εξόδου σε κάθε δημόσια σύμβαση τεχνητής νοημοσύνης. Πριν από την υπογραφή, η υπηρεσία να απαντά γραπτά στις τρεις ερωτήσεις. Και η σύμβαση να εξασφαλίζει σαφείς όρους για το πού φυλάσσονται τα δεδομένα και ποιος έχει πρόσβαση σε αυτά, δυνατότητα αλλαγής προμηθευτή και συνέχιση της υπηρεσίας χωρίς το συγκεκριμένο σύστημα.

Όριο ηλικίας για την τεχνητή νοημοσύνη στο σχολείο. Η Ελλάδα έκανε ήδη ένα πρώτο βήμα το 2024, με την απαγόρευση των κινητών στα σχολεία. Το επόμενο είναι μια σύσταση σαν τη νορβηγική για το δημοτικό, και εκπαίδευση των εκπαιδευτικών πριν από οποιαδήποτε γενική εισαγωγή.

Ένα «όχι» πριν από το σοκ

Η Νορβηγία, το San Francisco, η Νέα Υόρκη και μια σχολική επιτροπή στο Maryland τράβηξαν τη γραμμή σε διαφορετικά σημεία και για διαφορετικούς λόγους. Καμία δεν περίμενε κάποια μεγάλη κρίση για να το κάνει. Η σειρά άφησε ανοιχτό το ερώτημα αν η Δύση χρειάζεται ένα νέο σοκ για να αλλάξει πορεία. Τουλάχιστον εδώ, η απάντηση είναι όχι.

Μια κοινωνία είναι πραγματικά κυρίαρχη όταν μπορεί να υιοθετήσει μια τεχνολογία, αλλά και να συνεχίσει να λειτουργεί αν αποφασίσει να μην τη χρησιμοποιήσει. Για δεκαετίες, το πλεονέκτημα φαινόταν να ανήκει σε όποιον έλεγε πρώτος «ναι». Το επόμενο ίσως ανήκει σε όποιον ξέρει πρώτος πότε να πει «όχι».

Οι απόψεις που αναφέρονται στο κείμενο είναι προσωπικές του αρθρογράφου και δεν εκφράζουν απαραίτητα τη θέση του SLpress.gr

Απαγορεύεται η αναδημοσίευση του άρθρου από άλλες ιστοσελίδες χωρίς άδεια του SLpress.gr. Επιτρέπεται η αναδημοσίευση των 2-3 πρώτων παραγράφων με την προσθήκη ενεργού link για την ανάγνωση της συνέχειας στο SLpress.gr. Οι παραβάτες θα αντιμετωπίσουν νομικά μέτρα.

Ακολουθήστε το SLpress.gr στο Google News και μείνετε ενημερωμένοι

Kαταθέστε το σχολιό σας. Eνημερώνουμε ότι τα υβριστικά σχόλια θα διαγράφονται.

0 ΣΧΟΛΙΑ
Παλιότερα
Νεότερα Με τις περισσότερες ψήφους
0
Kαταθέστε το σχολιό σαςx