Τάλια Μίνσμπεργκ* / The New York Times
Εχετε πονοκέφαλο ή μήπως είναι ιγμορίτιδα; Μήπως πρέπει να ανησυχήσετε για τον πόνο στο στήθος σας; Σήμερα, αν «γκουκλάρετε» αυτά τα ερωτήματα, οι απαντήσεις ίσως έχουν συνταχθεί από τεχνητή νοημοσύνη. Η Google παρουσίασε μια νέα λειτουργία που ονομάζεται AI Overviews, η οποία χρησιμοποιεί παραγωγική ΑΙ, έναν τύπο τεχνολογίας μηχανομάθησης που εκπαιδεύεται με πληροφορίες από το Διαδίκτυο και παράγει απαντήσεις σε ερωτήσεις αναζήτησης μέσα σε λίγα δευτερόλεπτα.
Οι χρήστες της υπηρεσίας συνάντησαν μεγάλο αριθμό ανακριβειών και περίεργων απαντήσεων σε διάφορα θέματα. Οσον αφορά όμως τον τρόπο με τον οποίο απαντά σε ερωτήσεις που αφορούν την υγεία, οι ειδικοί είπαν ότι το διακύβευμα ήταν ιδιαίτερα σοβαρό. Η τεχνολογία θα μπορούσε να υποδείξει στον χρήστη την απαραίτητη ιατρική φροντίδα, αλλά υπάρχει το ενδεχόμενο να δώσει ανακριβείς πληροφορίες. Η ΑΙ μπορεί κάποιες φορές να κατασκευάσει δεδομένα. Και αν οι απαντήσεις της προκύψουν από ιστότοπους που δεν έχουν επιστημονική τεκμηρίωση, μπορεί να παρέχει συμβουλές που είναι αντίθετες με τις ιατρικές οδηγίες ή ενέχουν κίνδυνο για την υγεία του ατόμου.
Το σύστημα έχει ήδη δείξει ότι παράγει λανθασμένες απαντήσεις που φαινομενικά βασίζονται σε εσφαλμένες πηγές. Οταν ρωτήθηκαν, για παράδειγμα, για θέματα διατροφής, τα AI Overviews συμβούλεψαν κάποιους χρήστες να τρώνε τουλάχιστον μία πέτρα την ημέρα για τις απαραίτητες βιταμίνες και μέταλλα. (Η συμβουλή είχε ληφθεί από το The Onion, έναν σατιρικό ιστότοπο.)
«Δεν μπορείτε να εμπιστεύεστε ό,τι διαβάζετε», λέει ο δρ Καράντιπ Σινγκ, επικεφαλής της τεχνητής νοημοσύνης για την υγεία στο UC San Diego Health. Οσον αφορά την υγεία, λέει, η πηγή των πληροφοριών έχει καθοριστική σημασία.
Πρόσθετες δικλίδες
H Χέμα Μπουνταράτζου, γενική διευθύντρια διαχείρισης παραγωγής της Google, και υπεύθυνη για την καθοδήγηση των εργασιών για τα AI Overviews, είπε ότι οι αναζητήσεις για την υγεία έχουν «πρόσθετες προστατευτικές δικλίδες», αλλά απέφυγε να τις περιγράψει λεπτομερώς. Οι αναζητήσεις που θεωρούνται επικίνδυνες, έχουν γραφικές περιγραφές ή δείχνουν ότι κάποιος βρίσκεται σε ευάλωτη κατάσταση, όπως οι περιπτώσεις αυτοτραυματισμού, δεν ενεργοποιούν περιλήψεις ΑΙ, ανέφερε.
Η Google αρνήθηκε να παράσχει λεπτομερή κατάλογο των ιστότοπων που υποστηρίζουν τις πληροφορίες των AI Overviews, αλλά δήλωσε ότι το εργαλείο λειτουργεί σε συνδυασμό με το Google Knowledge Graph, ένα ήδη υπάρχον σύστημα πληροφοριών που αντλεί δισεκατομμύρια δεδομένα από εκατοντάδες πηγές.
Οι νέες απαντήσεις αναζήτησης προσδιορίζουν κάποιες πηγές: για ερωτήσεις σχετικά με την υγεία, πρόκειται συνήθως για ιστότοπους όπως η Mayo Clinic, το WebMD, ο Παγκόσμιος Οργανισμός Υγείας και η πλατφόρμα επιστημονικών ερευνών PubMed. Δεν είναι ωστόσο πλήρης αυτός ο κατάλογος: το εργαλείο μπορεί επίσης να αντλήσει από τη Wikipedia, από αναρτήσεις σε μπλογκ, στο Reddit και από ιστότοπους ηλεκτρονικού εμπορίου. Και δεν αναφέρει ποια δεδομένα προέρχονται από ποιες πηγές.
Ας πάρουμε την ερώτηση «Είναι υγιεινή η σοκολάτα;». Η απάντηση της Google ανασύρει πληροφορίες από έρευνες για την καρδιακή υγεία, την ψυχική υγεία κ.λπ.
Οσον αφορά την ακρίβεια της απάντησης για τη σοκολάτα, ο δρ Ντάριους Μοζαφαριάν, καρδιολόγος και καθηγητής ιατρικής στο Πανεπιστήμιο Ταφτς, λέει ότι εμπεριέχει κάποια σωστά στοιχεία και ότι συνοψίζει τις έρευνες για τα οφέλη της σοκολάτας. Αλλά, συνεχίζει, δεν κάνει διάκριση μεταξύ των ισχυρών στοιχείων που προέρχονται από δειγματοληπτικές μελέτες και των ασθενέστερων στοιχείων από μελέτες παρατήρησης, ούτε διατυπώνει καμία επιφύλαξη.
Είναι αλήθεια ότι η σοκολάτα περιέχει αντιοξειδωτικά, λέει ο Μοζαφαριάν. Αλλά ο ισχυρισμός ότι η κατανάλωση σοκολάτας θα μπορούσε να βοηθήσει στην πρόληψη της απώλειας μνήμης; Αυτό δεν έχει αποδειχθεί με σαφήνεια και «χρειάζεται η διατύπωση πολλών επιφυλάξεων», τονίζει. Η παράθεση τέτοιων ισχυρισμών δίπλα σε ακριβή στοιχεία δίνει την εντύπωση ότι όλα είναι τεκμηριωμένα, κάτι που δεν ισχύει στην πραγματικότητα.
Ειδικές επισημάνσεις
Εκπρόσωπος της Google ανέφερε σε δήλωσή του ότι η εταιρεία κατέβαλε προσπάθειες για να εμφανίζει επισημάνσεις ότι οι πληροφορίες δεν αποτελούν ιατρικές συμβουλές. Δεν είναι σαφές πώς, ακριβώς, τα AI Overviews αξιολογούν την αξιοπιστία των στοιχείων ή αν λαμβάνουν υπόψη αντικρουόμενα ερευνητικά ευρήματα, όπως αυτά σχετικά με το αν ο καφές ωφελεί ή όχι την υγεία. «Η επιστήμη δεν είναι μια απλή συλλογή αμετάβλητων γεγονότων», λέει η Γιάσμιν. Η ίδια και άλλοι εμπειρογνώμονες αναρωτιούνται επίσης κατά πόσον το εργαλείο βασίζεται και σε παλαιότερα επιστημονικά ευρήματα που έχουν έκτοτε διαψευστεί ή δεν αποτυπώνουν την πιο πρόσφατη κατανόηση ενός θέματος.
Αλλος εκπρόσωπος της Google δήλωσε ότι τα AI Overviews θα αντιστοιχούν ή θα συνοψίζουν τις πληροφορίες που εμφανίζονται στα κορυφαία αποτελέσματα των αναζητήσεων, αλλά δεν έχουν σχεδιαστεί για να αντικαταστήσουν αυτό το περιεχόμενο.
Η Mayo Clinic αρνήθηκε να κάνει κάποιο σχόλιο σχετικά με τις νέες απαντήσεις. Εκπρόσωπος της κλινικής του Κλίβελαντ δήλωσε ότι όσοι αναζητούν πληροφορίες για την υγεία θα πρέπει να «ψάχνουν απευθείας σε γνωστές και αξιόπιστες πηγές» και να απευθύνονται σε έναν γιατρό.
Εκπρόσωπος από το Scripps Health, ένα σύστημα υγειονομικής περίθαλψης με έδρα την Καλιφόρνια, το οποίο αναφέρεται σε ορισμένες περιλήψεις των AI Overviews, δήλωσε ότι «στις απαντήσεις που δημιουργούνται από την ΑΙ της Google θα μπορούσαν να είναι χρήσιμες κάποιες παραπομπές, καθώς καθιερώνουν το Scripps Health ως αξιόπιστη πηγή πληροφοριών για την υγεία». Ωστόσο, πρόσθεσε ο εκπρόσωπος, «μας ανησυχεί το γεγονός ότι δεν μπορούμε να εγγυηθούμε για την ακρίβεια του περιεχομένου που παράγεται με τεχνητή νοημοσύνη με τον ίδιο τρόπο που μπορούμε να εγγυηθούμε για το δικό μας περιεχόμενο, το οποίο ελέγχεται από τους επαγγελματίες υγείας μας».
Οσον αφορά τις ιατρικές ερωτήσεις, δεν είναι μόνο η ακρίβεια μιας απάντησης που έχει σημασία, αλλά και ο τρόπος με τον οποίο παρουσιάζεται στους χρήστες, λένε οι ειδικοί. Ας πάρουμε την ερώτηση «Μήπως παθαίνω καρδιακή προσβολή;», η απάντηση της ΑΙ δίνει μια χρήσιμη σύνοψη των συμπτωμάτων, λέει ο δρ Ρίτσαρντ Γκουμίνα, διευθυντής καρδιολογίας στο Ιατρικό Κέντρο Wexner του Κρατικού Πανεπιστημίου του Οχάιο. Αλλά, λέει ότι χρειάστηκε να διαβάσει έναν μακρύ κατάλογο συμπτωμάτων πριν το κείμενο τον συμβουλεύσει να καλέσει το 166. Οι ειδικοί συνιστούν σε όσους αναζητούν πληροφορίες για την υγεία να προσεγγίζουν τις νέες απαντήσεις με επιφύλαξη.
* Στο ρεπορτάζ συνέβαλε η Ντάνι Μπλουμ.
