Η αγωγή για τον θάνατο μιας 31χρονης στις ΗΠΑ επαναφέρει το ζήτημα της ασφάλειας των ιατρικών συμβουλών από την τεχνητή νοημοσύνη. Τι δείχνει νέα επιστημονική μελέτη και πού εντοπίζουν τους κινδύνους τρεις ειδικοί
Τον περασμένο Φεβρουάριο, η Μπόουεν Γουάν, 31 ετών, βρέθηκε νεκρή στο σπίτι της στο Σιάτλ. Σύμφωνα με όσα υποστηρίζουν οι γονείς της, η νεαρή γυναίκα, κινεζικής καταγωγής, είχε ακολουθήσει οδηγίες του ChatGPT για να διακόψει σταδιακά τη φαρμακευτική αγωγή που λάμβανε για την επιληψία, χωρίς προηγουμένως να έχει συμβουλευτεί τον γιατρό της. Η οικογένειά της κατέθεσε αγωγή εναντίον της OpenAI και η υπόθεση, η οποία ήρθε πρόσφατα στη δημοσιότητα, ανοίγει ξανά τη συζήτηση γύρω από την ασφάλεια των ιατρικών συμβουλών που παρέχει η τεχνητή νοημοσύνη (ΤΝ). Πόσο μπορούμε, τελικά, να εμπιστευόμαστε τις απαντήσεις της;
«Η τεχνητή νοημοσύνη είναι πλέον προσβάσιμη σε όλους πολύ εύκολα και είναι ένα σύστημα που απαντά με άνεση, με ευγένεια, με μια φαινομενική αυθεντία», λέει στην «Κ» ο Στέργιος Γκατζώνης, ομότιμος καθηγητής Νευρολογίας της Ιατρικής Σχολής του Πανεπιστημίου Αθηνών και διευθυντής της Νευρολογικής Κλινικής στο Ιατρικό Κέντρο Αθηνών. «Το πρόβλημα είναι ότι όσον αφορά την ιατρική συμβουλή, ταυτίζουμε τη συμβουλή με την πληροφορία. Η τεχνητή νοημοσύνη δίνει μια πληροφορία. Ο γιατρός, όμως, δίνει μια συμβουλή που αφορά έναν συγκεκριμένο άνθρωπο, με συγκεκριμένο ιστορικό, συμπτώματα και κλινική εξέλιξη».
Η διαφορά, όπως εξηγεί, βρίσκεται στην εξατομικευμένη αξιολόγηση του ασθενούς, η οποία δεν μπορεί να περιοριστεί σε μια ανταλλαγή ερωτήσεων και απαντήσεων. «Η κλινική κρίση δεν είναι αλγόριθμος. Είναι μια διαδικασία που την αποκτά κανείς μέσα στον χρόνο. Επίσης, η ΤΝ δεν μπορεί να εξετάσει. Δεν μπορεί να αγγίξει, να δει, να εκτιμήσει αυτόν που έχει απέναντί της. Αν έχει νευρικότητα ή άγχος, αν δεν έχει κοιμηθεί, αν έχει ένα περίεργο χρώμα ή αν φοβάται».
Αυτά που δεν λέει ο ασθενής
Ο καθηγητής στέκεται και σε μία ακόμη ουσιαστική αδυναμία της τεχνητής νοημοσύνης. Την εξάρτησή της από τις πληροφορίες που επιλέγει να δώσει ο ίδιος ο ασθενής. «Η διάγνωση βρίσκεται σε αυτά που δεν λέει ο ασθενής. Σε αυτά που δεν μπορεί να περιγράψει. Η ΤΝ σταθμίζει δεδομένα μόνο αν της δοθούν. Ποιος θα τα δώσει αυτά; Ο ασθενής δεν ξέρει πάντα ποια πληροφορία είναι απαραίτητη. Ο γιατρός μπορεί να ρωτήσει πράγματα που φαίνονται άσχετα, αλλά είναι σημεία-κλειδιά για τη διάγνωση».
Τη σημασία αυτής της αδυναμίας ανέδειξε και μια φετινή μελέτη του Πανεπιστημίου της Οξφόρδης, που δημοσιεύθηκε στο επιστημονικό περιοδικό NatureMedicine. Οι ερευνητές εξέτασαν κατά πόσο εργαλεία της ΤΝ μπορούσαν να βοηθήσουν 1.298 ενηλίκους στη Βρετανία να αναγνωρίσουν πιθανές παθήσεις και να επιλέξουν την κατάλληλη ενέργεια με βάση δέκα διαφορετικά ιατρικά σενάρια. Οταν τα γλωσσικά μοντέλα αξιολογήθηκαν μόνα τους, αναγνώρισαν σωστά τις παθήσεις στο 94,9% των περιπτώσεων. Οταν όμως οι πολίτες κλήθηκαν να χρησιμοποιήσουν τα ίδια εργαλεία, αναγνώρισαν τις σχετικές παθήσεις σε λιγότερο από το 34,5% των περιπτώσεων, χωρίς να έχουν καλύτερες επιδόσεις από όσους βασίστηκαν σε άλλες πηγές πληροφόρησης. Οι ερευνητές διαπίστωσαν ότι οι χρήστες συχνά δεν γνώριζαν ποιες πληροφορίες έπρεπε να δώσουν, ενώ δυσκολεύονταν να διακρίνουν τις σωστές από τις λανθασμένες απαντήσεις.
Η παγίδα των πειστικών απαντήσεων
Η αναζήτηση πιθανών διαγνώσεων μέσω της τεχνητής νοημοσύνης έχει περάσει στην καθημερινότητα των ιατρείων. Ο κ. Γκατζώνης περιγράφει περιπτώσεις ασθενών που φτάνουν στον νευρολόγο έχοντας ήδη καταλήξει, μέσα από τις απαντήσεις μιας εφαρμογής, στο συμπέρασμα ότι πάσχουν από κάποια σοβαρή ασθένεια.
«Παραθέτουν τα συμπτώματά τους λίγο απομονωμένα, προσθέτουν αυτό που φοβούνται ότι έχουν και παίρνουν φοβερές διαγνώσεις. Έρχονται με τρομερή ανησυχία ότι έχουν σκλήρυνση κατά πλάκας, ότι έχουν όγκο, ότι έχουν κάποιο εκφυλιστικό νόσημα», σημειώνει ο καθηγητής προσθέτοντας ότι στις περισσότερες περιπτώσεις πρόκειται για νέους ανθρώπους με έντονο άγχος για την υγεία τους.
«Οι απαντήσεις των εφαρμογών μπορεί να ενισχύσουν τους φόβους ανθρώπων που ανησυχούν υπερβολικά για την υγεία τους, και από την άλλη να καθησυχάσουν αδικαιολόγητα όσους υποτιμούν τα συμπτώματά τους, καθυστερώντας την αναζήτηση ιατρικής βοήθειας».
Ο ίδιος έχει συναντήσει λανθασμένα συμπεράσματα που προέκυψαν από τέτοιες αναζητήσεις, αλλά -ευτυχώς- όχι με σοβαρό κόστος για την υγεία. Ο κίνδυνος όμως, επισημαίνει, είναι πάντα ορατός. «Οι απαντήσεις των εφαρμογών μπορεί να ενισχύσουν τους φόβους ανθρώπων που ανησυχούν υπερβολικά για την υγεία τους, και από την άλλη να καθησυχάσουν αδικαιολόγητα όσους υποτιμούν τα συμπτώματά τους, καθυστερώντας την αναζήτηση ιατρικής βοήθειας».
Το μοτίβο που μπορεί να οδηγήσει σε λάθη
Πώς μπορεί, όμως, ένα εργαλείο που διαθέτει πρόσβαση σε έναν τόσο μεγάλο όγκο δεδομένων να δίνει ιατρικές συμβουλές που πέφτουν έξω;
Η Κωνσταντίνα Νικήτα, καθηγήτρια στη Σχολή Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών του Εθνικού Μετσόβιου Πολυτεχνείου και διευθύντρια του Εργαστηρίου Βιοϊατρικών Προσομοιώσεων και Απεικονιστικής Τεχνολογίας (BIOSIM), εξηγεί ότι τα μεγάλα γλωσσικά μοντέλα έχουν εκπαιδευτεί σε τεράστιες ποσότητες δεδομένων από διαφορετικούς τομείς, αλλά δεν έχουν σχεδιαστεί εξαρχής ως κλινικά εργαλεία για συγκεκριμένες ιατρικές αποφάσεις.
«Οι απαντήσεις που παράγουν βασίζονται σε εκτίμηση πιθανοτήτων για τις επόμενες μονάδες κειμένου. Προβλέπουν πιθανά αποτελέσματα με βάση μοτίβα που έχουν παρατηρήσει στα δεδομένα εκπαίδευσής τους. Ετσι, μια παραγωγική ΤΝ δεν ξέρει τι είναι αλήθεια και τι είναι ψέμα. Ξέρει μόνο τι ταιριάζει στο μοτίβο», σημειώνει.
Αυτό σημαίνει ότι μια απάντηση μπορεί να εμφανίζεται ολοκληρωμένη, τεκμηριωμένη και απολύτως πειστική, χωρίς απαραίτητα να είναι σωστή. «Εδώ είναι ο μεγάλος κίνδυνος», τονίζει η καθηγήτρια, επισημαίνοντας ότι τέτοιες εφαρμογές μπορούν να δίνουν στους χρήστες απαντήσεις που θέλουν να ακούσουν, κάτι που αναδεικνύεται σε ιδιαίτερα σοβαρό πρόβλημα όταν πρόκειται για ανθρώπους που βρίσκονται σε ευάλωτη κατάσταση.
Στην ίδια κατεύθυνση λειτουργεί και το φαινόμενο που είναι γνωστό ως «automation bias», δηλαδή η τάση να εμπιστευόμαστε υπερβολικά τις πληροφορίες ή τις συστάσεις ενός αυτοματοποιημένου συστήματος. «Ολοι έχουμε μια μεγαλύτερη ευκολία στο να εμπιστευτούμε κάτι που προέρχεται από ένα προηγμένο τεχνολογικά εργαλείο. Οπότε, ακόμη και σε επιστήμονες μπορεί να παρατηρηθούν τέτοια φαινόμενα», εξηγεί η κ. Νικήτα. «Πολύ περισσότερο σε χρήστες που δεν έχουν την αντίστοιχη επιστημονική γνώση και δεν μπορούν να αξιολογήσουν τις απαντήσεις των συστημάτων».
Τέσσερα μοντέλα ΤΝ στο μικροσκόπιο
Την αξιοπιστία των γλωσσικών μοντέλων σε σύνθετα ιατρικά περιστατικά εξετάζει και μια νέα έρευνα η οποία εκπονείται από την ερευνητική ομάδα της καθηγήτριας του ΕΜΠ σε συνεργασία με ερευνητές του Χάρβαρντ και της Ιατρικής Σχολής του Πανεπιστημίου Αθηνών.
Όπως αποκαλύπτει στην «Κ», οι ερευνητές αξιολογούν τέσσερα διαφορετικά μοντέλα ΤΝ, χρησιμοποιώντας περισσότερα από εκατό δημοσιευμένα ιατρικά περιστατικά από το NewEnglandJournalofMedicine. Στα μοντέλα δίνεται η περιγραφή κάθε περιστατικού και τους ζητείται να προτείνουν πιθανές διαγνώσεις, να τις κατατάξουν ανάλογα με την πιθανότητά τους και να αιτιολογήσουν τις απαντήσεις τους. Στη συνέχεια, τρεις έμπειροι γιατροί αξιολογούν τα αποτελέσματα.
«Αυτό που είναι πολύ ενδιαφέρον είναι ότι δεν έχουν όλα τα μοντέλα την ίδια ακρίβεια. Κάποια είναι καλύτερα από άλλα, αλλά και αυτά που είναι καλά συνεχίζουν να κάνουν λάθη», αναφέρει η κ. Νικήτα. «Ακόμη πιο ενδιαφέρον είναι να δει κανείς πώς αξιολογούν οι γιατροί την απάντηση των μοντέλων και την αιτιολόγηση της διάγνωσης, καθώς φαίνεται ότι δεν συμφωνούν πάντα μεταξύ τους».
Η έρευνα δεν έχει ακόμη δημοσιευθεί και οι παρατηρήσεις αυτές είναι προκαταρκτικές. Οπως εξηγεί η ίδια, πρόκειται για δύσκολα στη διάγνωση περιστατικά, στα οποία ακόμη και έμπειροι επιστήμονες μπορεί να διαφωνούν.
«Το γεγονός αυτό δείχνει πόσο ακόμη πιο δύσκολο είναι για έναν άνθρωπο χωρίς ιατρικές γνώσεις να αξιολογήσει την ορθότητα μιας απάντησης που λαμβάνει από την ΤΝ», προσθέτει.
Πού βρίσκονται οι δικλίδες ασφαλείας;
Η υπόθεση της Γουάν θέτει κι ένα ακόμη κρίσιμο ερώτημα: Τι συμβαίνει όταν μια εφαρμογή γενικής χρήσης καλείται να δώσει οδηγίες για τη διακοπή μιας θεραπείας ή την αλλαγή της δοσολογίας ενός φαρμάκου;
Η κ. Νικήτα επισημαίνει ότι υπάρχουν τεχνικές δυνατότητες για τον εντοπισμό τέτοιων επικίνδυνων αιτημάτων. Σύμφωνα όμως με όσα υποστηρίζει η οικογένεια της Γουάν στην αγωγή της, οι αναγκαίες δικλίδες ασφαλείας δεν απέτρεψαν τις επίμαχες συμβουλές. Πρόκειται για μηχανισμούς που μπορούν να ελέγχουν τόσο τις ερωτήσεις των χρηστών όσο και τις απαντήσεις που παράγουν, ώστε να αναγνωρίζουν πότε μια συνομιλία ξεφεύγει από τα όρια της απλής ενημέρωσης.
«Θα πρέπει οπωσδήποτε να ανακατευθύνουν τον χρήστη σε κρίσιμα σημεία, ώστε να απευθύνεται στον γιατρό ή σε γραμμές βοήθειας, στους κατάλληλους δηλαδή φορείς που θα μπορέσουν να τον βοηθήσουν υπεύθυνα και ουσιαστικά», υπογραμμίζει.
Κατά την ίδια, το ζήτημα δεν περιορίζεται στην ατομική ευθύνη του χρήστη. Αφορά και τους κανόνες με τους οποίους αναπτύσσονται, ελέγχονται και διατίθενται τέτοια συστήματα.
«Πρέπει να υπάρξει ένα πλαίσιο διακυβέρνησης και ασφάλειας. Να ελέγχονται αυτά τα συστήματα ως προς τους κινδύνους που επιφυλάσσουν, ανάλογα με τη χρήση τους. Επίσης, θα πρέπει να υπάρχουν κάποιες δικλίδες ασφαλείας και να δοκιμάζονται προτού δοθούν σε ευρεία χρήση».
«Ο ένας θα ωφελείται από τον άλλο»
Παρά τους κινδύνους, η αυξανόμενη χρήση των εργαλείων της ΤΝ για ζητήματα υγείας δεν αντιμετωπίζεται από όλους τους ειδικούς με την ίδια επιφυλακτικότητα. Για τον Ορέστη Γιώτακο, ψυχίατρο, διδάκτορα του Πανεπιστημίου Αθηνών και πρόεδρο της εταιρείας Ομπρέλα – Νευροεπιστήμες και Ψυχική Υγεία, είναι θετικό το γεγονός ότι οι ασθενείς αναζητούν περισσότερες πληροφορίες για τις παθήσεις τους.
«Χαίρομαι να ακούω ότι έχουν ψάξει κάτι στο Διαδίκτυο και κατόπιν έρχονται και, αν έχουν απορίες, το συζητάμε μαζί», λέει στην «Κ». Οπως εξηγεί, η δυνατότητα συνομιλίας με ένα chatbot, η διαθεσιμότητά του όλο το 24ωρο και η εύκολη πρόσβαση αποτελούν σημαντικούς λόγους για τους οποίους όλο και περισσότεροι άνθρωποι στρέφονται σε αυτά τα εργαλεία.
Δεν φοβάμαι ότι η τεχνολογία αυτή θα αντικαταστήσει τους γιατρούς. Πιστεύω, όμως, ότι τα επόμενα χρόνια θα διαμορφωθεί μια νέα σχέση ανάμεσα στους γιατρούς και στα τεχνολογικά συστήματα. Θα υπάρξει μια συνύπαρξη -μια υβριδική κατάσταση-, που ο ένας θα ωφελείται από τον άλλον.
Ο ίδιος αναγνωρίζει ότι η συνεχής αναζήτηση απαντήσεων μπορεί να ενισχύσει την αυτοδιάγνωση και την υπερβολική ενασχόληση με την υγεία, ωστόσο πιστεύει ότι η ΤΝ μπορεί να συμβάλει στην καλύτερη ενημέρωση των ασθενών.
«Δεν φοβάμαι ότι η τεχνολογία αυτή θα αντικαταστήσει τους γιατρούς. Πιστεύω, όμως, ότι τα επόμενα χρόνια θα διαμορφωθεί μια νέα σχέση ανάμεσα στους γιατρούς και στα τεχνολογικά συστήματα. Θα υπάρξει μια συνύπαρξη -μια υβριδική κατάσταση-, που ο ένας θα ωφελείται από τον άλλον», σημειώνει.
Για τον κ. Γκατζώνη, η ΤΝ μπορεί πράγματι να βοηθήσει έναν ασθενή να κατανοήσει καλύτερα όσα τού εξηγεί ο γιατρός του. Δεν μπορεί, όμως, να υποκαταστήσει την ιατρική κρίση.
«Αν κάποιος αμφιβάλλει για μια διάγνωση ή μια θεραπεία, η ασφαλής επιλογή είναι να ζητήσει μια δεύτερη ιατρική γνώμη. Η σχέση γιατρού και ασθενούς δεν είναι μόνο “σε βλέπω και δίνω μια συμβουλή”. Είναι μια σχέση ανθρώπινη που χτίζεται. Είναι κι ένα πολύ σημαντικό κομμάτι της θεραπείας η σωστή σχέση γιατρού και ασθενούς», επισημαίνει και καταλήγει: «Ας μη συγχέουμε τη γνώση με την κρίση. Την πληροφορία με τη φροντίδα. Είναι δύο διαφορετικά πράγματα».
