Μπορούμε να εμπιστευθούμε την υγεία μας στην Τεχνητή Νοημοσύνη;

Το μεγαλύτερο νομικό στοίχημα για το μέλλον της τεχνητής νοημοσύνης στην υγεία είναι η σαφής και λειτουργική οριοθέτηση της ευθύνης σε περίπτωση σφάλματος, αναφέρει ο κ. Κατσίκης για να συμπληρώσει στη συνέχεια ότι «η πολυπλοκότητα των συστημάτων ΤΝ καθιστά δύσκολο τον εντοπισμό του υπαίτιου, όταν μια λανθασμένη πρόβλεψη ή διάγνωση προκαλέσει βλάβη στον ασθενή. Πρόκληση αποτελεί η απόδοση ευθύνης μεταξύ ιατρού, παρόχου ΤΝ, κατασκευαστή λογισμικού και παρόχου υπηρεσιών υγείας. Απαιτείται, συνεπώς, ένα σύγχρονο και εξειδικευμένο νομικό πλαίσιο, που να προβλέπει διαφορετικά επίπεδα ευθύνης και ελέγχου.

Ποιες είναι οι ανησυχίες για τον ασθενή, όταν η διάγνωση γίνεται με τη βοήθεια τεχνητής νοημοσύνης και τι μπορεί αλήθεια να κάνει σε περίπτωση λάθους διάγνωσης; Ο νομικός σύμβουλος του ΠΙΣ απαντά σε αυτό και σε άλλα κρίσιμα ερωτήματα που ταλανίζουν ασθενείς και επιστημονική κοινότητα. Ακολουθεί αναλυτικά η συνέντευξη που παραχώρησε στο Πρακτορείο FM o νομικός σύμβουλος του Πανελληνίου Ιατρικού Συλλόγου Ευάγγελος Κατσίκης:

Ερ:Υπάρχει τρόπος να ενισχυθεί η εμπιστοσύνη του κοινού στην τεχνητή νοημοσύνη στην υγεία;

Απ: Η ενίσχυση της εμπιστοσύνης του κοινού στην τεχνητή νοημοσύνη (ΤΝ) στον τομέα της υγείας προϋποθέτει θεσμικές εγγυήσεις διαφάνειας, λογοδοσίας και επιστημονικής εγκυρότητας. Καταρχάς, τα συστήματα ΤΝ πρέπει να είναι πλήρως κατανοητά από τους επαγγελματίες υγείας, με δυνατότητα επεξήγησης των αποφάσεών τους, ώστε να αποφεύγεται η αίσθηση ενός «μαύρου κουτιού». Παράλληλα, απαιτείται πιστοποίηση των αλγορίθμων βάσει διεθνών ιατρικών προτύπων, με δημόσια διαθέσιμες αξιολογήσεις κινδύνου. Σε αυτό το πλαίσιο, ο ρόλος θεσμών όπως οι επιστημονικές ενώσεις και οι Ιατρικοί Σύλλογοι είναι κρίσιμος, καθώς μπορούν να προσφέρουν επιστημονικά τεκμηριωμένη αξιολόγηση ιατρικών πράξεων με αυξημένη αποδεικτική ισχύ.

Η εμπιστοσύνη ενισχύεται ακόμη μέσω της ενεργούς συμμετοχής των γιατρών στον σχεδιασμό και τη χρήση των ΤΝ συστημάτων, διασφαλίζοντας ότι παραμένουν εργαλεία υποστήριξης και όχι υποκατάστατα της κλινικής κρίσης.

Ερ:Ποιο είναι το μεγαλύτερο νομικό στοίχημα για το μέλλον της τεχνητής νοημοσύνης στην υγεία;

Απ: Το μεγαλύτερο νομικό στοίχημα για το μέλλον της ΤΝ στην υγεία είναι η σαφής και λειτουργική οριοθέτηση της ευθύνης σε περίπτωση σφάλματος. Η πολυπλοκότητα των συστημάτων ΤΝ καθιστά δύσκολο τον εντοπισμό του υπαίτιου όταν μια λανθασμένη πρόβλεψη ή διάγνωση προκαλέσει βλάβη στον ασθενή. Πρόκληση αποτελεί η απόδοση ευθύνης μεταξύ ιατρού, παρόχου ΤΝ, κατασκευαστή λογισμικού και παρόχου υπηρεσιών υγείας. Απαιτείται, συνεπώς, ένα σύγχρονο και εξειδικευμένο νομικό πλαίσιο, που να προβλέπει διαφορετικά επίπεδα ευθύνης και ελέγχου.

Η εμπειρία χωρών με ανεξάρτητες επιτροπές αξιολόγησης και συστήματα όπως το ONIAM στη Γαλλία και το NHS Resolution στο Ηνωμένο Βασίλειο, (σσ τα οποία αποζημιώνουν τους ασθενείς ανεξαρτήτως υπαιτιότητας γιατρού ή συστήματος τεχνητής νοημοσύνης) προσφέρει λειτουργικά πρότυπα αποζημιώσεων, χωρίς επίπονες δικαστικές διαμάχες. Ένα τέτοιο προσαρμοσμένο πλαίσιο θα βοηθούσε σημαντικά και την χώρα μας.

Ερ:Ποιες είναι οι ανησυχίες για τον ασθενή όταν η διάγνωση γίνεται με τη βοήθεια τεχνητής νοημοσύνης;

Απ: Οι κύριες ανησυχίες για τον ασθενή όταν η διάγνωση βασίζεται στην ΤΝ σχετίζονται με την ασφάλεια, τη διαφάνεια και τη νομική προστασία. Πρώτον, υπάρχει ο φόβος ότι ένα λανθασμένο αποτέλεσμα από τον αλγόριθμο θα μπορούσε να οδηγήσει σε λάθος διάγνωση, ή ακατάλληλη θεραπεία. Η έλλειψη δυνατότητας επεξήγησης (explainability) των αποφάσεων της ΤΝ δυσχεραίνει την αμφισβήτηση του αποτελέσματος από τον ασθενή, ή τον θεράποντα ιατρό. Επιπλέον, ελλείψει σαφούς νομικού πλαισίου, ο ασθενής μπορεί να μην γνωρίζει ποιος φέρει την ευθύνη: ο γιατρός, το νοσοκομείο, ή ο πάροχος τεχνολογίας; Η αβεβαιότητα αυτή δημιουργεί ένα περιβάλλον καχυποψίας.

Ερ:Μπορεί ένας ασθενής να διεκδικήσει αποζημίωση αν η τεχνητή νοημοσύνη κάνει λάθος;

Απ: Ναι, ένας ασθενής μπορεί να διεκδικήσει αποζημίωση σε περίπτωση που υποστεί βλάβη εξαιτίας σφάλματος από ΤΝ, αλλά το νομικό σύστημα συχνά καθυστερεί ή δυσκολεύεται να αξιολογήσει τέτοια περιστατικά, λόγω έλλειψης τεχνογνωσίας. Το βασικό πρόβλημα είναι ο προσδιορισμός της ευθύνης: αν η ΤΝ λειτούργησε ως υποστηρικτικό εργαλείο, η ευθύνη πιθανόν θα βαρύνει τον ιατρό που εμπιστεύτηκε ή δεν επαλήθευσε την πρόβλεψη. Αν όμως η απόφαση ήταν αυτόματη, ή επιβλήθηκε θεσμικά, εγείρονται ερωτήματα για την ευθύνη του κατασκευαστή, ή του παρόχου υπηρεσιών υγείας.

Η εμπειρία από άλλα κράτη δείχνει ότι συστήματα εξωδικαστικής αποζημίωσης, όπως το ONIAM στη Γαλλία και το NHS Resolution στο Ηνωμένο Βασίλειο, διευκολύνουν τις αξιώσεις χωρίς να απαιτείται απόδειξη υπαιτιότητας. Στην Ελλάδα, ένα σώμα εξειδικευμένων υψηλού κύρους και κατάρτισης πραγματογνωμόνων στον Π.Ι.Σ. θα μπορούσε να λειτουργήσει επικουρικά στο δικαστικό σύστημα, προσφέροντας επιστημονική τεκμηρίωση που ενισχύει τη θέση του ασθενούς σε ενδεχόμενη διεκδίκηση και προστατεύει τον ιατρό από αβάσιμες κατηγορίες είτε πρόκειται για ζήτημα τεχνητής νοημοσύνης είτε όχι.

Πηγή: ΑΠΕ-ΜΠΕ