Ο Πλάτων είχε δίκιο – Η εποχή των AI Deepfakes

Το σκηνικό περιλάμβανε αυθεντικές στολές, επίσημες πινακίδες, γραφεία, έπιπλα και εξοπλισμό, δημιουργώντας την εικόνα μιας απολύτως νόμιμης κρατικής υπηρεσίας κατά τη διάρκεια βιντεοκλήσεων με τα υποψήφια θύματα. Η αποκάλυψη της απάτης έγινε στο πλαίσιο της μεγάλης διεθνούς επιχείρησης Operation First Light 2026 της Interpol, κατά την οποία οι αρχές της Eswatini συνέλαβαν 82 άτομα και κατέσχεσαν 240 ηλεκτρονικές συσκευές, σημαντικά ποσά σε ξένο συνάλλαγμα, καθώς και το ίδιο το ψεύτικο αστυνομικό γραφείο.

Σύμφωνα με τις έρευνες, οι δράστες πραγματοποιούσαν βιντεοκλήσεις παρουσιάζοντας τους εαυτούς τους ως πραγματικούς Βραζιλιάνους αστυνομικούς και, εκμεταλλευόμενοι την αξιοπιστία που δημιουργούσε το σκηνικό, εξαπατούσαν τα θύματά τους αποσπώντας μεγάλα χρηματικά ποσά.

Δεν πρόκειται για μεμονωμένο περιστατικό. Η υπόθεση της Eswatini αποτελεί μέρος μιας νέας τάσης απάτης, η οποία παρατηρείται τα τελευταία χρόνια σε πολλές χώρες. Οι σύγχρονες εγκληματικές οργανώσεις πλέον, μή περιοριζόμενες σε ένα τηλεφώνημα ή σε ένα πλαστό email, επενδύουν χρόνο και χρήμα για να δημιουργήσουν ολόκληρα περιβάλλοντα, που αποπνέουν αξιοπιστία, γνωρίζοντας ότι όσο πιο πειστική είναι η εικόνα, τόσο μειώνονται οι πιθανότητες το θύμα να αμφισβητήσει τα όσα βλέπει.

Χαρακτηριστικό παράδειγμα αποτελούν οι λεγόμενες ”Digital Arrest” απάτες, που έχουν λάβει μεγάλες διαστάσεις στην Ινδία, με τους απατεώνες να πραγματοποιούν βιντεοκλήσεις, εμφανιζόμενοι ως αστυνομικοί μέσα σε πλήρως διαμορφωμένα αστυνομικά τμήματα, φορώντας επίσημες στολές, έχοντας κρατικά εμβλήματα στους τοίχους και συνεργάτες που κινούνται στο βάθος, όπως ακριβώς σε μία κανονική υπηρεσία.

Στην συνέχεια ενημερώνουν το θύμα ότι δήθεν ερευνάται για ξέπλυμα χρήματος ή άλλη σοβαρή εγκληματική υπόθεση και το πιέζουν να μεταφέρει άμεσα τα χρήματά του σε έναν “ασφαλή λογαριασμό” μέχρι να ολοκληρωθεί ο έλεγχος. Το σκηνικό είναι τόσο πειστικό, ώστε πολλοί άνθρωποι, ιδιαίτερα οι ηλικιωμένοι, πείθονται ότι συνομιλούν με πραγματικές αρχές και χάνουν τις οικονομίες μιας ζωής.

Παρόμοια μοτίβα από απάτες

Εξίσου εντυπωσιακή ήταν και η υπόθεση που αποκαλύφθηκε στην πολιτεία Chhattisgarh της Ινδίας, όπου εγκληματική ομάδα δημιούργησε ολόκληρο ψεύτικο υποκατάστημα τράπεζας. Οι χώροι είχαν διαμορφωθεί ώστε να θυμίζουν πραγματικό κατάστημα της State Bank of India, με επίσημα λογότυπα, γραφεία εξυπηρέτησης, καμπίνες και προσωπικό που υποδυόταν τους τραπεζικούς υπαλλήλους.

Οι δράστες προσέλκυαν ανέργους με υποσχέσεις για προσλήψεις και, κατά τη διάρκεια της δήθεν διαδικασίας επιλογής προσωπικού, τους έπειθαν να καταθέσουν χρήματα ή να παραδώσουν ευαίσθητα προσωπικά στοιχεία, πιστεύοντας ότι συναλλάσσονται με μία από τις μεγαλύτερες τράπεζες της χώρας.

Παρόμοιες μεθόδους χρησιμοποιούν εδώ και χρόνια και κινεζικές εγκληματικές οργανώσεις, που στοχεύουν κυρίως μέλη της κινεζικής διασποράς σε ολόκληρο τον κόσμο. Οι απατεώνες εμφανίζονται σε βιντεοκλήσεις ως αξιωματικοί της κινεζικής αστυνομίας, πραγματοποιούν ακόμη και εικονικές περιηγήσεις μέσα σε χώρους, που μοιάζουν με πραγματικά αστυνομικά τμήματα και πείθουν τα θύματα ότι αποτελούν αντικείμενο ποινικής έρευνας στην Κίνα. Υπό την πίεση του φόβου και της αίσθησης ότι βρίσκονται απέναντι σε πραγματικές κρατικές αρχές, αρκετοί άνθρωποι έχουν μεταφέρει τεράστια χρηματικά ποσά ή και έχουν χάσει ολόκληρες περιουσίες.

Η αξιοποίηση της τεχνητής νοημοσύνης ανεβάζει τον πήχη της απάτης ακόμη υψηλότερα, με χαρακτηριστική την υπόθεση που αποκαλύφθηκε το 2024 στο Χονγκ Κονγκ, όταν υπάλληλος του οικονομικού τμήματος της βρετανικής εταιρείας μηχανικών Arup συμμετείχε σε βιντεοδιάσκεψη, πιστεύοντας ότι συνομιλούσε με τον ίδιο τον οικονομικό διευθυντή της εταιρείας και άλλα ανώτερα στελέχη.

Στην πραγματικότητα, όλοι οι συμμετέχοντες, εκτός από τον ίδιο, είχαν δημιουργηθεί με τεχνολογία AI deepfake. Η συνάντηση ήταν τόσο πειστική, ώστε ο υπάλληλος πραγματοποίησε δεκαπέντε τραπεζικές μεταφορές συνολικού ύψους περίπου 25 εκατομμυρίων δολαρίων, πριν αποκαλυφθεί ότι τελικά είχε πέσει θύμα μιας από τις πιο εξελιγμένες απάτες που έχουν καταγραφεί μέχρι σήμερα.

Πώς αναγνωρίζουμε AI βιντεοκλήσεις

Το ανησυχητικό είναι ότι τα φυσικά σκηνικά, όπως το ψεύτικο αστυνομικό τμήμα στην Eswatini, αποτελούν πλέον μόνο ένα μέρος της εικόνας. Η ραγδαία πρόοδος της τεχνητής νοημοσύνης επιτρέπει σήμερα τη δημιουργία εξαιρετικά πειστικών βιντεοκλήσεων (AI deepfakes), στις οποίες οι απατεώνες μπορούν να εμφανίζονται ως αστυνομικοί, τραπεζικοί υπάλληλοι, δημόσιοι λειτουργοί ή ακόμη και ως γνωστά πρόσωπα του ίδιου του θύματος.

Παρότι οι τεχνολογίες αυτές εξελίσσονται συνεχώς, εξακολουθούν να αφήνουν μικρές ενδείξεις, όπως ασυμφωνία μεταξύ φωνής και κίνησης των χειλιών, αφύσικο βλεφάρισμα, υπερβολικά λείο δέρμα, θόλωση γύρω από το περίγραμμα του προσώπου ή ασυνέπειες στον φωτισμό. Εξίσου χρήσιμο είναι να ζητηθεί από τον συνομιλητή να εκτελέσει μια απρόβλεπτη κίνηση, όπως να γυρίσει το κεφάλι του, να αγγίξει το πρόσωπό του ή να δείξει ένα αντικείμενο, καθώς τα σημερινά συστήματα AI εξακολουθούν να δυσκολεύονται σε τέτοιου είδους αυθόρμητες αλληλεπιδράσεις.

Το σημαντικότερο προειδοποιητικό σημάδι, ωστόσο, δεν είναι τεχνικό, αλλά ψυχολογικό. Σχεδόν όλες οι οργανωμένες απάτες αυτού του τύπου βασίζονται στην δημιουργία έντονης αίσθησης πίεσης και επείγοντος, με στόχο το θύμα να μεταφέρει χρήματα, να αποκαλύψει τραπεζικούς κωδικούς ή προσωπικά στοιχεία, χωρίς να προλάβει να επαληθεύσει την ταυτότητα του συνομιλητή του. Για τον λόγο αυτό, καμία αστυνομική αρχή, καμία τράπεζα και καμία δημόσια υπηρεσία δεν πρόκειται να ζητήσει μέσω βιντεοκλήσης την άμεση μεταφορά χρημάτων ή την αποκάλυψη ευαίσθητων προσωπικών δεδομένων.

Παράλληλα, η βιομηχανία της κυβερνοασφάλειας προετοιμάζεται ήδη για την επόμενη φάση αυτής της τεχνολογικής αντιπαράθεσης. Οι ειδικοί εκτιμούν ότι στο άμεσο μέλλον η εικόνα, η φωνή ή ακόμη και μια βιντεοκλήση δεν θα αρκούν από μόνες τους για την επιβεβαίωση της ταυτότητας ενός ανθρώπου, και η πιστοποίηση θα βασίζεται ολοένα και περισσότερο στον συνδυασμό πολλαπλών παραγόντων, όπως η ίδια η συσκευή, τα βιομετρικά χαρακτηριστικά, η γεωγραφική θέση, κρυπτογραφικά διαπιστευτήρια ταυτότητας και συσκευές ασφαλείας (hardware security keys), μετατοπίζοντας σταδιακά το βάρος από τον εντοπισμό του ψεύτικου στην αξιόπιστη πιστοποίηση του αυθεντικού.

“Το είδα με τα μάτια μου”

Λίγες φράσεις αποτυπώνουν τόσο καλά αυτή την διαχρονική ανθρώπινη βεβαιότητα, κάτι που άλλωστε αποτυπώνεται σχεδόν σε όλες τις γλώσσες και τους πολιτισμούς. Ήδη όμως από την αρχαιότητα, ο Πλάτων προειδοποιούσε ότι οι αισθήσεις μπορούν να εξαπατήσουν. Είναι ίσως ειρωνικό ότι χρειάστηκαν περίπου δυόμισι χιλιάδες χρόνια και η εμφάνιση της τεχνητής νοημοσύνης για να αποκτήσει αυτή η πλατωνική επιφύλαξη μια τόσο πρακτική διάσταση στην καθημερινή ζωή, υπενθυμίζοντας ότι η παλιά φιλοσοφική αντιπαράθεση του Πλάτωνα με την αριστοτελική εμπιστοσύνη στην εμπειρική παρατήρηση αποκτά σήμερα μια εντελώς νέα επικαιρότητα.