Google, acuzată că ascunde avertismentele pentru sfaturile medicale generate de AI

Mai exact, discuția nu este doar despre acuratețea răspunsurilor, ci despre felul în care sunt prezentate avertismentele care ar trebui să îi determine pe utilizatori să ceară sfatul unui medic înainte de a lua decizii importante pentru sănătatea lor, transmite Știri.md cu referire la playtech.ro.

Sistemul AI Overviews, de la Google, care plasează un rezumat generat automat chiar deasupra rezultatelor clasice din motorul de căutare, oferă adesea răspunsuri rapide la întrebări sensibile.

Problema semnalată de analiști și experți este că mesajele de precauție nu sunt vizibile din prima clipă, ci apar abia după ce utilizatorul alege să extindă conținutul afișat inițial.

Avertismentele apar târziu și pot fi ușor trecute cu vederea

Concret, atunci când cineva caută informații despre simptome, tratamente sau posibile afecțiuni, rezumatul generat de AI-ul de la Google este afișat imediat, într-o formă care pare completă și suficientă.

Abia dacă utilizatorul apasă pe opțiunea de extindere a conținutului, la finalul secțiunii suplimentare apare o notă care precizează că informațiile sunt oferite doar în scop informativ și că răspunsurile generate automat pot conține erori.

Mai mult decât atât, acest mesaj este afișat într-un stil grafic mai puțin evident, dimensiune mai mică a fontului și culoare mai estompată, ceea ce îl face ușor de ignorat.

Din perspectiva criticilor, aceasta nu este doar o chestiune de design, ci una care ține de responsabilitate, mai ales într-un domeniu în care o interpretare greșită poate avea consecințe serioase.

Reprezentanții Google au susținut că sistemul încurajează, în multe situații, consultarea unui specialist direct în textul rezumatului, atunci când contextul o impune.

Compania respinge ideea că ar minimaliza intenționat importanța avertismentelor și afirmă că utilizatorii sunt ghidați către surse suplimentare și către sprijin medical profesionist.

Cu toate acestea, o analiză publicată de The Guardian arată că avertismentele nu sunt prezente în mod explicit în prima etapă a afișării informațiilor medicale. Această diferență dintre mesajul oficial și experiența concretă a utilizatorului a alimentat dezbaterea.

Experții avertizează asupra riscurilor generate de designul actual

Mai mulți specialiști în inteligență artificială și etică digitală consideră că problema ține în mare măsură de modul în care este concepută interfața.

Cercetători afiliați unor instituții precum Massachusetts Institute of Technology, Queen Mary University of London și Universitatea Stanford atrag atenția că afișarea unui răspuns sintetic, poziționat în partea superioară a paginii, poate crea impresia de autoritate și completitudine.

Pentru utilizatorii care caută rapid clarificări despre o problemă de sănătate, faptul că un singur rezumat apare imediat poate descuraja explorarea altor surse sau verificarea informațiilor.

În plus, atunci când conținutul conține atât elemente corecte, cât și inexactități subtile, diferențierea dintre ele devine dificilă pentru cineva fără pregătire medicală.

Organizații din zona pacienților, inclusiv Anthony Nolan, subliniază că dezinformarea în domeniul sănătății are un impact mult mai grav decât în alte arii.

În opinia lor, avertismentele ar trebui să fie vizibile încă din primul ecran, nu ascunse după un click suplimentar și nu afișate într-un mod care le diminuează importanța.

Dezbaterea scoate în evidență o tensiune mai largă: nevoia de viteză și simplitate în furnizarea informației versus obligația de a proteja utilizatorii atunci când subiectele sunt sensibile.

În 2026, pe măsură ce sistemele AI devin tot mai integrate în viața de zi cu zi, felul în care sunt prezentate limitele și riscurile acestor tehnologii ar putea conta la fel de mult precum performanța lor tehnică.

Pentru moment, discuția rămâne deschisă. Cert este că, în domeniul medical, orice nuanță de prezentare, fie ea un font mai mic sau un avertisment plasat prea jos, poate face diferența dintre informare responsabilă și o decizie luată pe baza unei încrederi excesive în tehnologie.