Google ka hequr disa nga përmbledhjet e saj të inteligjencës artificiale për shëndetin pasi një hetim i Guardian zbuloi se njerëzit po viheshin në rrezik nga informacione të rreme dhe të pasakta.

Kompania ka thënë se AI Overviews, të cilat përdorin gjenerimin e AI për të dhënë pamje të shpejta të informacionit thelbësor mbi një temë ose pyetje, janë “të dobishme” dhe “të besueshme”.

Por disa nga këto përmbledhje, që shfaqen në krye të rezultateve të kërkimit, ofruan informacione të pasakta për shëndetin, duke vënë përdoruesit në rrezik.

Në një rast që ekspertët e përshkruan si “të rrezikshëm” dhe “alarmues”, Google dha informacione të pavërteta mbi testet jetike të funksionit të mëlçisë, gjë që mund t’i linte njerëzit me sëmundje serioze të mëlçisë të mendonin gabimisht se ishin të shëndetshëm.

Kërkimi i termit “cila është norma normale për testet e gjakut të mëlçisë” nxori një sasi të madhe numrash, pak kontekst dhe pa marrë parasysh kombësinë, gjininë, etninë apo moshën e pacientëve, zbuloi Guardian. Ekspertët thanë se ajo që AI Overviews e paraqiste si normale mund të ndryshonte ndjeshëm nga ajo që realisht konsiderohej normale. Kjo mund të çonte pacientë seriozisht të sëmurë të mendonin gabimisht se kishin rezultat normal dhe të mos shkonin në vizitat e mëtejshme mjekësore.

Pas hetimit, kompania hoqi AI Overviews për termat e kërkimit “cila është norma normale për testet e gjakut të mëlçisë” dhe “cila është norma normale për testet e funksionit të mëlçisë”.

“Ne nuk komentojmë mbi heqjet individuale brenda Search. Në rastet kur AI Overviews humbasin kontekstin, ne punojmë për përmirësime të gjera dhe gjithashtu marrim masa sipas politikave tona kur është e përshtatshme”, tha një zëdhënës i Google.

Vanessa Hebditch, drejtoreshë e komunikimit dhe politikave në British Liver Trust, një organizatë bamirëse për shëndetin e mëlçisë, tha: “Ky është një lajm i shkëlqyer dhe jemi të kënaqur të shohim heqjen e Google AI Overviews në këto raste. Megjithatë, nëse pyetja bëhet në një formë tjetër, mund të jepet sërish një përmbledhje potencialisht e gabuar dhe ne mbetemi të shqetësuar se informacione të tjera të prodhuara nga AI për shëndetin mund të jenë të pasakta dhe konfuze.”

Sue Farrington, kryetare e Patient Information Forum, e cila promovon informacion shëndetësor të bazuar në prova për pacientët, publikun dhe profesionistët e kujdesit shëndetësor, mirëpriti heqjen e përmbledhjeve, por tha se ende kishte shqetësime.

“Ky është një rezultat i mirë, por është vetëm hapi i parë i nevojshëm për të ruajtur besimin në rezultatet e kërkimit të Google për shëndetin. Ka ende shumë shembuj ku Google AI Overviews u japin njerëzve informacione të pasakta për shëndetin”.

Miliona të rritur në mbarë botën tashmë e kanë të vështirë të aksesojnë informacion të besueshëm për shëndetin, tha Farrington.

“Prandaj është kaq e rëndësishme që Google t’i drejtojë njerëzit drejt informacionit të fortë, të hulumtuar dhe ofertave të kujdesit nga organizata të besueshme shëndetësore”.

AI Overviews ende shfaqen për shembuj të tjerë që Guardian i kishte theksuar fillimisht për Google. Këto përfshijnë përmbledhje informacioni për kancerin dhe shëndetin mendor që ekspertët i përshkruan si “plotësisht të gabuara” dhe “shumë të rrezikshme”.

E pyetur pse këto përmbledhje nuk ishin hequr gjithashtu, Google tha se ato lidhen me burime të njohura dhe të besueshme, dhe informojnë njerëzit kur është e rëndësishme të kërkojnë këshilla nga ekspertët.

“Ekipi ynë i brendshëm i klinicistëve shqyrtoi atë që na është përcjellë dhe gjeti se në shumë raste, informacioni nuk ishte i pasaktë dhe gjithashtu mbështetej nga faqe interneti me cilësi të lartë”, tha një zëdhënës.

Victor Tangermann, redaktor i lartë në faqen e teknologjisë Futurism, tha se rezultatet e hetimit të Guardian treguan se Google ka ende punë për të bërë “për të siguruar që mjeti i tij i AI të mos shpërndajë dezinformata të rrezikshme për shëndetin”.