Πώς η Τεχνητή Νοημοσύνη εξαπατά τους καταναλωτές

Η χρήση αυτών των τεχνολογιών, της τεχνητής νοημοσύνης και των αλγορίθμων, έχει εγείρει ανησυχίες για αθέμιτες πρακτικές, καθώς συχνά οι επιχειρήσεις εφαρμόζουν τακτικές που όχι μόνο μεγιστοποιούν τα έσοδά τους, αλλά και εξαπατούν τους καταναλωτές, εκμεταλλευόμενες τα προσωπικά δεδομένων που συλλέγουν και τη συνακόλουθη «ασυμμετρία πληροφόρησης» μεταξύ πωλητών και αγοραστών.

Σύμφωνα με τον Άνταμ Σμιθ και την κλασική οικονομική θεωρία του «αόρατου χεριού», οι αγορές τείνουν προς μια φυσική ισορροπία όπου η προσφορά και η ζήτηση βρίσκουν το δρόμο τους προς την αποτελεσματικότητα. Όμως οι καταναλωτές πάντα βρισκόταν σε μειονεκτική θέση λόγω της έλλειψης κρίσιμων πληροφοριών, κάτι που οδήγησε σε μια μορφή «ασυμμετρίας πληροφόρησης» μεταξύ πωλητών και αγοραστών. Παρά την εκρηκτική άνοδο του ίντερνετ και των δεδομένων, η εξισορρόπηση αυτή όχι μόνο δεν πραγματοποιήθηκε, αλλά οι ανισότητες έχουν επιδεινωθεί λόγω των εξελιγμένων στρατηγικών που χρησιμοποιούν οι επιχειρήσεις.

Η σύγχρονη αγορά βασίζεται στην ανάλυση προσωπικών δεδομένων και στην προσαρμογή των τιμών με βάση τον αλγοριθμικό έλεγχο. Με τη βοήθεια των αλγορίθμων, οι επιχειρήσεις μπορούν να προβλέπουν τις ανάγκες και τις προτιμήσεις των πελατών, προσαρμόζοντας τις τιμές και τις υπηρεσίες αναλόγως.

Η Τεχνητή Νοημοσύνη ως Εργαλείο Εκμετάλλευσης

Αυτή η εξατομίκευση μπορεί να έχει προφανή οφέλη, όπως την καλύτερη εξυπηρέτηση και την παροχή κατάλληλων προϊόντων στους καταναλωτές. Όμως, σε πολλές περιπτώσεις, η χρήση της εξατομίκευσης γίνεται σε βάρος των πελατών, καθώς οι εταιρείες εκμεταλλεύονται τα προσωπικά δεδομένα για να επιτύχουν υψηλότερες τιμές και να ενισχύσουν τη θέση τους στην αγορά.

Στο σχετικό βιβλίο μου (“Σιωπηλός Καινούργιος Κόσμος”) παρουσιάζονται εντυπωσιακά παραδείγματα αθέμιτων πρακτικών όπου οι αλγόριθμοι χρησιμοποιούνται για να προσαρμόζουν τις τιμές αναλόγως της προσωπικής κατάστασης του καταναλωτή, όπως στην περίπτωση της Uber ταξί που αύξανε τις τιμές (surge pricing) με βάση την μπαταρία του κινητού του πελάτη και τον γεωεντοπισμό, και όχι μόνο ( δηλ. χαμηλή μπαταρία και απομακρυσμένο σημείο, σήμαινε δυσκολία επικοινωνίας και με άλλες εταιρίες ταξί, άρα ο πελάτης εύκολα θα δεχόταν μια υψηλότερη τιμή, δες σχετικά Harvard Business Review).

Ομοίως, οι αεροπορικές εταιρείες μπορούν να «διαβάζουν» από τα προσωπικά δεδομένα των ταξιδιωτών τις επικείμενες μετακινήσεις (πχ ανάγκη για επίσκεψη σε γονείς / οικογένεια ) και να ανεβάζουν τις τιμές όταν ανιχνεύσουν ότι ένας καταναλωτής έχει υψηλή ανάγκη για ένα συγκεκριμένο εισιτήριο / προορισμό. Η πρακτική αυτή είναι γνωστή ως «προσωποποιημένη τιμολόγηση» και βασίζεται στη χρήση τεχνητής νοημοσύνης που αναλύει τα μοτίβα κατανάλωσης του κάθε ατόμου, αλλά και στην παράνομη πρόσβαση στα προσωπικά δεδομένα του, για να εκμεταλλευτεί τις ανάγκες / αδυναμίες του.

Ένα άλλο χαρακτηριστικό παράδειγμα αναφέρεται στο ηλεκτρονικό εμπόριο, όπου για παράδειγμα η Amazon έχει κατηγορηθεί για πρακτικές όπως η αυθαίρετη αύξηση των τιμών, η δημιουργία ψευδών εκπτώσεων και η προώθηση προϊόντων με βάση τις καταναλωτικές ανάγκες. Σε περιόδους κρίσης, όπως στην πανδημία COVID-19 ή σε φυσικές καταστροφές, καταγράφηκαν ακραία περιστατικά όπου οι τιμές προϊόντων πρώτης ανάγκης, όπως το νερό ή τα φάρμακα, εκτοξεύθηκαν. Ο αλγοριθμικός έλεγχος των τιμών λειτουργεί χωρίς ηθικούς φραγμούς, και στόχος είναι αποκλειστικά το οικονομικό όφελος. (“Amazon is under fire for reported Hurricane Irma price gouging, with ‘life-sustaining necessities’ selling for wildly inflated prices”, Business Insider, 7 Σεπτεμβρίου 2017).

Η τεχνητή νοημοσύνη δεν έχει ηθικούς φραγμούς

Η κινεζική πλατφόρμα αγορών Temu, που τώρα ερευνάται από την ΕΕ για παράνομα προϊόντα και «δυνητικά εθιστικό σχεδιασμό»), χρησιμοποιεί στο έπακρο της δυνατότητες της ΤΝ για να διαμορφώνει και να αλλάζει ακαριαία τις τιμές των προϊόντων με βάση την ανάλυση των δεδομένων του χρήστη και με βάση την αρχή “όσο καλύτερα σε ξέρω, τόσο ακριβότερα θα σε χρεώνω”. Για αυτό συστήνεται από τους ειδικούς, μεταξύ άλλων, οι χρήστες να μην χρησιμοποιούν της εφαρμογή της (app), αλλά να συνδέονται από το διαδίκτυο.
Η έρευνα θα εξετάσει επίσης τους κινδύνους από τη χρήση από τη πλατφόρμα του gamification («παιχνιδοποίησησης»), εκτός του «δυνητικά εθιστικού σχεδιασμού» της, τις τεχνικές χρονικής πίεσης, την ψευδαίσθηση της έλλειψης προϊόντων κλπ , που θα μπορούσαν να βλάψουν τη «σωματική και ψυχική ευεξία των χρηστών» στην ΕΕ.

Η Συγκέντρωση Δεδομένων και η Εμπορική Εκμετάλλευση.
Οι κάρτες πιστότητας που προσφέρονται από πολλές αλυσίδες καταστημάτων είναι άλλο ένα μέσο για την αξιοποίηση της αγοραστικής συμπεριφοράς. Κάποιες φορές αντί να λειτουργούν προς όφελος των καταναλωτών, χρησιμοποιούνται για να αντλούν πολύτιμα δεδομένα, όπως οι συνήθειες και οι προτιμήσεις τους. Η ανάλυση αυτών των δεδομένων επιτρέπει στις επιχειρήσεις να εκτιμούν πόσο πρόθυμος ή αναγκασμένος είναι ένας πελάτης να αγοράσει τώρα κάτι και σε ποιά τιμή και να προσαρμόζουν τις τιμές αναλόγως (πχ πόσο μακριά είναι ένα άλλο/ανταγωνιστικό κατάστημα από το σπίτι του πελάτη).

Οι πλατφόρμες ή τα σουπερμάρκετ, χρησιμοποιούν συχνά τα δεδομένα αυτά για να επιτύχουν καλύτερη, «δυναμική», τιμολόγηση. Για παράδειγμα, μια πλατφόρμα ταξιδιών στις ΗΠΑ είχε βρεθεί να προτείνει πιο ακριβές επιλογές ανάλογα με το λειτουργικό σύστημα που χρησιμοποιεί ο καταναλωτής (πχ με βάση την εύλογη υπόθεση ότι ένα χρήστης Mac ή iPhone, μάλλον μπορεί να πληρώσει περισσότερα από έναν χρήστη με PC ή Android !! ). Η στρατηγική αυτή αποκαλύπτει τις αθέμιτες πρακτικές που μπορεί να αναπτύξουν οι εταιρείες, οι οποίες, αντί να προσφέρουν τις ίδιες επιλογές σε όλους, κατευθύνουν τους πελάτες τους σε πιο ακριβά προϊόντα ή υπηρεσίες ανάλογα με τα δεδομένα που συλλέγουν, ή και πιο ακριβή τιμή για το ίδιο ακριβώς προϊόν.

Η Ηθική Διάσταση της Αλγοριθμικής Εκμετάλλευσης.

Σύμφωνα με τους κοινωνιολόγους και τους οικονομολόγους, η χρήση των αλγορίθμων με αυτόν τον τρόπο δημιουργεί ανισότητες και συμβάλλει σε μια κατάσταση «ανισορροπίας δύναμης», έτσι οι αλγόριθμοι έχουν μετατραπεί σε μέσο καταπίεσης. Ο χρήστης μπορεί να αισθάνεται ότι ελέγχει την αγορά μέσω του κινητού του, αλλά στην πραγματικότητα τα δεδομένα του ελέγχουν τις επιλογές του. Η ενίσχυση της «πληροφοριακής ασυμμετρίας» (information asymmetry) καθιστά τον καταναλωτή έρμαιο των αλγοριθμικών αποφάσεων, που συχνά επιβάλλουν τη δική τους ατζέντα, χωρίς να προσφέρουν πραγματική ελευθερία επιλογής.

Προς μια Δίκαιη και Διαφανή Ψηφιακή Αγορά;

Η αυξανόμενη συνειδητοποίηση της αθέμιτης χρήσης αλγορίθμων και ΤΝ έχει δημιουργήσει πιέσεις για την ανάπτυξη κανονισμών και νόμων που θα προστατεύουν τους καταναλωτές από την εκμετάλλευση. Ορισμένες χώρες και οργανισμοί, όπως η Ευρωπαϊκή Ένωση, έχουν ήδη ξεκινήσει την υιοθέτηση αυστηρών νόμων προστασίας δεδομένων και διαφάνειας στις τιμολογήσεις. Ωστόσο, αυτές οι ρυθμίσεις πρέπει να επεκταθούν και να εφαρμοστούν με αυστηρότερο τρόπο, ώστε να περιοριστεί η αθέμιτη τιμολόγηση και να διασφαλιστεί ότι οι καταναλωτές λαμβάνουν δίκαιες τιμές.
Η Ευρωπαϊκή Ένωση (ΕΕ) έχει ήδη θεσπίσει και υιοθετήσει σημαντικές νομοθεσίες που στοχεύουν στην προστασία των καταναλωτών και τη διαφάνεια στη χρήση δεδομένων και τιμολογήσεων, όπως:

1. Γενικός Κανονισμός για την Προστασία Δεδομένων (GDPR)
Ο Γενικός Κανονισμός για την Προστασία Δεδομένων (GDPR), που εφαρμόζεται από το 2018, είναι ένας από τους πιο αυστηρούς κανονισμούς παγκοσμίως σε θέματα προστασίας προσωπικών δεδομένων, όπου μεταξύ άλλων προβλέπει ότι οι επιχειρήσεις δεν μπορούν να συλλέγουν ή να επεξεργάζονται δεδομένα χωρίς τη ρητή συγκατάθεση των ατόμων.
Ο GDPR θα μπορούσε να συμβάλλει στη διαφάνεια των πρακτικών και στη διασφάλιση ότι τα δεδομένα των καταναλωτών δεν μπορούν να χρησιμοποιηθούν για «κρυφές» αλγοριθμικές τιμολογήσεις ή άλλες πρακτικές που θα μπορούσαν να τους βλάψουν.

2. Digital Services Act (DSA) και Digital Markets Act (DMA)
Η ΕΕ έχει επίσης θεσπίσει τον Νόμο για τις Ψηφιακές Υπηρεσίες (Digital Services Act – DSA) και τον Νόμο για τις Ψηφιακές Αγορές (Digital Markets Act – DMA), οι οποίοι θα αρχίσουν να ισχύουν πλήρως το 2024. Αυτές οι νομοθεσίες στοχεύουν στην αποκατάσταση της ισορροπίας δύναμης μεταξύ μεγάλων διαδικτυακών πλατφορμών και καταναλωτών.

3. Οδηγία για την Καταναλωτική Προστασία (Directive on Consumer Protection)
Επιπλέον, η ΕΕ εφαρμόζει πρόσφατα μια αναθεωρημένη Οδηγία για την Καταναλωτική Προστασία (2020), η οποία μεταξύ άλλων, υποχρεώνει τις εταιρείες να είναι διαφανείς στις τιμές, απαγορεύοντας τις παραπλανητικές εκπτώσεις και να προσποιούνται ότι η τιμή είναι μοναδική ή περιορισμένη.

4. Κανονισμός για την Τεχνητή Νοημοσύνη (AI Act)
Τέλος, ο Κανονισμός για την Τεχνητή Νοημοσύνη (AI Act), που βρίσκεται ακόμη υπό επεξεργασία, στοχεύει στη ρύθμιση των εφαρμογών τεχνητής νοημοσύνης που μπορούν να επηρεάσουν άμεσα τους καταναλωτές. Ο κανονισμός:
– Απαγορεύει την εκμετάλλευση ευάλωτων ατόμων μέσω ΤΝ: Ορίζει ότι οι αλγόριθμοι δεν πρέπει να εκμεταλλεύονται ευάλωτες ομάδες, π.χ., παιδιά ή οικονομικά ευάλωτους ανθρώπους.
– Απαιτεί διαφάνεια στη λήψη αποφάσεων μέσω ΤΝ: Οι επιχειρήσεις πρέπει να ενημερώνουν πότε οι τιμές ή οι επιλογές τους καθορίζονται από αλγοριθμικά συστήματα.
– Προβλέπει αυστηρές κυρώσεις για παραβάσεις που αφορούν πρακτικές εξαπάτησης μέσω αλγορίθμων ή ΤΝ.

Τεχνητή Νοημοσύνη: Εργαλείο ή Ανεξέλεχτη Δύναμη;

Η ΤΝ έχει τη δυνατότητα να αποτελέσει το πιο ισχυρό εργαλείο της ανθρώπινης ιστορίας. Ο φιλόσοφος Νικ Μπόστρομ, στο σχετικό βιβλίο του (Nick Bostrom- Superintelligence: Paths, Dangers, Strategies), υποστηρίζει ότι η ΤΝ μπορεί να ξεπεράσει την ανθρώπινη νοημοσύνη, δημιουργώντας συνθήκες πρωτοφανείς για την ανθρωπότητα. Με απλά λόγια, η ΤΝ μπορεί να γίνει ένας Υπερ-ευφυής οργανισμός που θα διαχειρίζεται τεράστιες ποσότητες δεδομένων με πρωτοφανή ταχύτητα και ακρίβεια. Αυτός ο οργανισμός θα μπορεί να παίρνει αποφάσεις χωρίς ανθρώπινη παρέμβαση, κάτι που εγείρει έντονα ηθικά και φιλοσοφικά ζητήματα.
Ο σκεπτόμενος άνθρωπος σήμερα λοιπόν δικαιολογημένα αναρωτιέται αν η ανθρωπότητα μπορεί να δαμάσει την ΤΝ ή αν η ΤΝ θα γίνει τελικά μία ανεξέλεγκτη δύναμη. Αυτό το ερώτημα επανέρχεται συχνά και στους σύγχρονους κύκλους της διανόησης, με στοχαστές όπως ο Στίβεν Χόκινγκ να εκφράζουν την ανησυχία τους ότι η ΤΝ, αν δεν τεθούν οι απαραίτητοι έλεγχοι, μπορεί να γίνει «η χειρότερη επινόηση της ανθρωπότητας».