Καθώς η χρήση της τεχνητής νοημοσύνης (AI) για την αναζήτηση πληροφοριών υγείας αυξάνεται, νέα αμερικανική μελέτη διαπιστώνει ότι οι διαφημίσεις φαρμάκων μπορούν να επηρεάσουν τις απαντήσεις των συστημάτων AI, εγείροντας ερωτήματα για την αξιοπιστία και την αντικειμενικότητα των θεραπευτικών συστάσεων που παρέχουν.
Ερευνητές από την Ιατρική Σχολή Icahn του Mount Sinai στη Νέα Υόρκη επέλεξαν 12 μοντέλα τεχνητής νοημοσύνης μεγάλων τεχνολογικών εταιρειών προκειμένου να διαπιστώσουν εάν μια σαφώς επισημασμένη διαφήμιση φαρμάκου μπορούσε να επηρεάσει την επιλογή θεραπείας που πρότεινε ένα μοντέλο AI. Οι ερευνητές διαπίστωσαν ότι η έκθεση των μοντέλων τεχνητής νοημοσύνης σε διαφημίσεις φαρμάκων πριν από την αξιολόγηση ενός ιατρικού περιστατικού, μπορούσε να επηρεάσει τις απαντήσεις τους, ευνοώντας το διαφημιζόμενο σκεύασμα.
Σε 33 κλινικά σενάρια, τα μοντέλα ΑΙ πρότειναν το διαφημιζόμενο φάρμακο στο 47,6% των απαντήσεων όταν είχε προηγηθεί διαφήμιση, έναντι 35% όταν δεν είχε προβληθεί διαφημιστικό περιεχόμενο. Ακόμη πιο ενδεικτικά είναι τα ευρήματα σε τέσσερα κλινικά σενάρια, όπου κανένα από τα μοντέλα AI δεν πρότεινε ένα συγκεκριμένο φάρμακο όταν δεν είχε προηγηθεί διαφήμιση. Όταν, όμως, προηγούνταν η διαφήμιση, όλα το επέλεγαν στο σύνολο των απαντήσεών τους.
«Αυτό που βρίσκω ιδιαίτερα ενδιαφέρον, ακόμη και εντυπωσιακό, είναι το πόσο εύλογες έμοιαζαν συχνά οι απαντήσεις», αναφέρει ο γιατρός και ερευνητής Μαχμούντ Ομάρ, κύριος συγγραφέας της μελέτης και λέκτορας στο Τμήμα Τεχνητής Νοημοσύνης και Ανθρώπινης Υγείας Windreich στο Mount Sinai. Ο ίδιος συντονίζει έρευνες σχετικά με την ασφάλεια, την αξιοπιστία και τις πραγματικές επιπτώσεις της παραγωγικής τεχνητής νοημοσύνης στην κλινική φροντίδα.
«Το μοντέλο μπορούσε να προτείνει μια κατάλληλη θεραπεία, αλλά η προτίμησή του ανάμεσα σε πολλές εύλογες επιλογές άλλαζε αφού έβλεπε τη διαφήμιση. Επειδή η τελική απάντηση μπορούσε και πάλι να φαίνεται ιατρικά ορθή, η επιρροή αυτή θα μπορούσε εύκολα να περάσει απαρατήρητη στις συνήθεις ερευνητικές αξιολογήσεις, αλλά και σε άλλες περιπτώσεις προσωπικής χρήσης από ασθενείς και γιατρούς», σημειώνει ο ερευνητής.
Τι έδειξαν οι δοκιμές σε 12 μοντέλα τεχνητής νοημοσύνης
Η μελέτη σχεδιάστηκε με στόχο να απομονώσει την πιθανή επίδραση του διαφημιστικού περιεχομένου. Οι ερευνητές έδωσαν στα μοντέλα τεχνητής νοημοσύνης τα ίδια κλινικά περιστατικά, είτε μεμονωμένα είτε συνοδευόμενα από μια σαφώς επισημασμένη πραγματική διαφήμιση φαρμάκου, η οποία εμφανιζόταν ακριβώς πριν από την περιγραφή του περιστατικού. Τα στοιχεία για τους ασθενείς και οι διαθέσιμες θεραπευτικές επιλογές παρέμειναν αμετάβλητα. Η μόνη διαφοροποίηση ήταν η παρουσία ή απουσία της διαφήμισης.
Συνολικά, στα 33 σενάρια οι ερευνητές ανέλυσαν 258.559 απαντήσεις που έδωσαν τα μοντέλα ΑΙ, εξετάζοντας τόσο τη θεραπεία που είχαν συστήσει, όσο και το κατά πόσο αυτή ήταν σύμφωνη με τις κλινικές κατευθυντήριες οδηγίες.
Οι ερευνητές εξέτασαν επίσης πόσο συχνά τα μοντέλα αναγνώριζαν την παρουσία μιας διαφήμισης ή επαναλάμβαναν πληροφορίες που περιλαμβάνονταν σε αυτήν. Σε ένα υποσύνολο απαντήσεων, τα μοντέλα αναφέρθηκαν ρητά στη διαφήμιση μόλις στο 29,9% των περιπτώσεων, ενώ επαναλάμβαναν πληροφορίες ή ισχυρισμούς που περιλαμβάνονταν σε αυτήν με μεγαλύτερη συχνότητα.
«Μια απάντηση μπορεί να είναι κλινικά εύλογη και παρ’ όλα αυτά να εγείρει ένα σημαντικό ερώτημα σχετικά με τους λόγους για τους οποίους η τεχνητή νοημοσύνη κατέληξε σε αυτήν», αναφέρει ο επικεφαλής συγγραφέας της μελέτης, Γκιρίς Ν. Ναντκάρν, πρόεδρος του Τμήματος Τεχνητής Νοημοσύνης και Ανθρώπινης Υγείας στο Mount Sinai.
Τι προτείνουν οι ερευνητές
Οι ερευνητές επισημαίνουν ότι αυτό δεν σημαίνει απαραίτητα πως τα μοντέλα τεχνητής νοημοσύνης θα προτείνουν μη ασφαλείς ή ακατάλληλες θεραπείες. Άλλωστε, στη συγκεκριμένη μελέτη δεν διαπιστώθηκε σαφής αύξηση στις συστάσεις για συμπληρώματα διατροφής χωρίς επαρκή επιστημονική τεκμηρίωση ή για φάρμακα που ήταν εμφανώς λιγότερο κατάλληλα.
Οι ερευνητές υπογραμμίζουν ότι τα ευρήματα καθιστούν αναγκαία τη λήψη συγκεκριμένων μέτρων από τις εταιρείες που αναπτύσσουν συστήματα τεχνητής νοημοσύνης, αλλά και από τους οργανισμούς υγείας. Στα μέτρα που προτείνουν περιλαμβάνονται η αξιολόγηση των συστημάτων τόσο με όσο και χωρίς την παρουσία διαφημίσεων, ώστε να εντοπίζονται πιθανές αλλαγές στις συστάσεις τους, η σαφής ενημέρωση των χρηστών κάθε φορά που προβάλλεται διαφημιστικό περιεχόμενο και ο αυστηρός διαχωρισμός των εμπορικών μηνυμάτων από την παροχή ιατρικών συμβουλών.
Η ερευνητική ομάδα σκοπεύει να διευρύνει την έρευνά της, εξετάζοντας περαιτέρω τη συμπεριφορά των συστημάτων τεχνητής νοημοσύνης και τον τρόπο με τον οποίο αλληλεπιδρούν με τους ανθρώπους σε πραγματικές συνθήκες κλινικής πρακτικής.
Τα ευρήματα της μελέτης δημοσιεύθηκαν στο επιστημονικό περιοδικό «The Lancet Digital Health».
