Google je uklonio određene AI zdravstvene sažetke nakon istrage koja je otkrila netačne i potencijalno opasne informacije.
Funkcija AI Overviews davala je korisnicima generisane preglede zdravstvenih podataka direktno u rezultatima pretrage.
Google je uklonio deo svojih AI zdravstvenih sažetaka nakon istrage medija koja je pokazala da su korisnici bili izloženi riziku zbog netačnih i obmanjujućih informacija.
Sporni sadržaji pojavljivali su se u okviru funkcije AI Overviews, koja koristi generativnu veštačku inteligenciju kako bi korisnicima ponudila kratke preglede odgovora na zdravstvena pitanja – direktno na vrhu Google pretrage.
Iako iz kompanije tvrde da su AI sažeci "korisni i pouzdani", istraga je otkrila suprotno: pojedini odgovori sadržali su pogrešne podatke koji su mogli da dovedu do ozbiljnih zdravstvenih posledica.
Pogrešni podaci o testovima jetre
Jedan od najalarmantnijih primera odnosio se na rezultate krvnih testova za proveru funkcije jetre. Stručnjaci su upozorili da su informacije koje je AI nudio bile "opasne", jer su mogle da navedu osobe sa ozbiljnim oboljenjima jetre da poveruju kako su njihovi nalazi normalni.
Pretragom "koji je normalan opseg testova krvi za jetru", korisnicima su prikazivane brojne brojke bez ikakvog konteksta – bez obzira na pol, uzrast, nacionalnost ili druge važne faktore. Kako su istakli stručnjaci, "normalne vrednosti" mogu znatno da variraju, a pogrešno tumačenje može dovesti do odlaganja pregleda i terapije.
Nakon objavljivanja istrage koju je sproveo Gardijan, Google je uklonio AI Overviews za upite "normalan opseg testova krvi za jetru" i "normalan opseg testova funkcije jetre".
Iz kompanije su poručili da ne komentarišu pojedinačna uklanjanja, ali da rade na unapređenju sistema kada se uoče problemi sa kontekstom ili tačnošću informacija.
Zabrinutost i dalje postoji
Vanessa Hebdič iz organizacije British Liver Trust ocenila je uklanjanje sažetaka kao "odličnu vest", ali je upozorila da se problem time ne rešava u potpunosti. Kako kaže, male izmene u formulaciji pitanja i dalje mogu da aktiviraju AI odgovore koji su potencijalno netačni.
"Test funkcije jetre nije jedan test, već skup različitih analiza. Njihovo tumačenje je složeno i ne svodi se na puko poređenje brojeva", upozorila je ona, dodajući da AI sažeci ne upozoravaju da ozbiljna bolest može postojati i kada su rezultati naizgled normalni.
Širi problem zdravstvenih informacija
Predstavnici organizacija koje se bave zdravstvenim informisanjem pacijenata pozdravili su potez Google, ali ističu da je to tek prvi korak. I dalje postoje brojni primeri u kojima AI sažeci nude netačne informacije o temama poput raka i mentalnog zdravlja.
Google je naveo da su pojedini sporni sažeci ostavljeni jer se oslanjaju na "poznate i relevantne izvore", ali tehnološki stručnjaci upozoravaju da kompanija mora dodatno da unapredi kontrolu kvaliteta.
"Ova istraga pokazuje da Google ima još mnogo posla kako bi osigurao da njegova AI tehnologija ne širi opasne zdravstvene dezinformacije", zaključuju stručnjaci.
U svetu u kojem milioni ljudi već imaju problem da dođu do pouzdanih zdravstvenih informacija, poverenje u rezultate pretrage ostaje ključno pitanje.