Som en följd har Google börjat plocka bort vissa av dessa AI-baserade hälsosammanfattningar från sökresultaten för att minska risken för desinformation och skada användare.

Flera felaktiga medicinska svar uppmärksammas

AI Overviews är generativa AI-sammanfattningar som visas högst upp i Googles sökresultat, utformade för att ge snabba svar på komplexa frågor. Men en undersökning av The Guardian visar att dessa korta AI-genererade svar ibland lämnar bort viktig kontext eller direkt motsäger etablerad medicinsk kunskap.

Exempel på problem som rapporterats inkluderar:

• Felaktiga rekommendationer om kostråd vid bukspottkörtelcancer.

• Misstolkade referensvärden för leverfunktionstester, där sammanfattningarna saknade kliniskt viktig kontext som ålder, kön eller etnicitet.

• Felaktig information om cancer-screeningtester, som kunde leda till att användare missförstår vilka tester som är relevanta för specifika tillstånd.

Medicinska experter och hälsorättsorganisationer kritiserar dessa fel som potentiellt farliga – särskilt eftersom AI-sammanfattningarna kan uppfattas som autoritativa och visas före traditionella, evidensbaserade källor.

Google tar bort AI-sammanfattningar för vissa hälsosökningar

Efter kritiken har Google börjat ta bort AI Overviews för vissa medicinska sökningar, särskilt där det upptäckts missvisande eller potentiellt skadlig information. Ett konkret exempel är AI-sammanfattningar för frågor om “normala värden för leverfunktionstest”, som tagits bort efter utredningens resultat.

Google säger att företaget kontinuerligt arbetar med att förbättra kvaliteten på AI-genererade svar och att många AI Overviews fortfarande är korrekta och baseras på pålitliga källor. Samtidigt medger Google att förbättringar inom medicinsk precision och kontext är ett pågående arbete.

Varför hälso-AI kräver extra försiktighet

Generativ AI har potential att göra sökresultat mer användarvänliga genom att sammanfatta stora mängder information snabbt. Men hälsorelaterad information ställer särskilt höga krav på noggrannhet, tolkningskontext och evidens, eftersom felaktiga råd kan leda till allvarliga konsekvenser för personer som söker vård eller diagnos.

Forskare, patientorganisationer och kliniska experter har påpekat att AI-sammanfattningar ofta saknar kritiska parametrar – som individuella riskfaktorer, medicinska förhållanden och evidensnivå – vilket gör dem olämpliga som ersättning för professionell medicinsk rådgivning.

Google svarar på kritiken

Google hävdar att majoriteten av AI Overviews är användbara, att de länkar till etablerade källor och att systemet förbättras kontinuerligt. Företaget menar också att AI-sammanfattningar jämförs med andra sökfunktioner som featured snippets, som historiskt sett också haft kvalitetsutmaningar.

Trots dessa försäkringar fortsätter kritiker att kräva bättre transparens, tydligare källhänvisningar och strängare kvalitetskontroller – särskilt för health-related queries.

Vad det betyder för dig som användare

AI-sammanfattningar som visas högst upp i sökresultaten kan kännas snabba och smidiga, men när det gäller medicinsk information är det särskilt viktigt att:

• kontrollera källorna bakom svaren

• söka flera perspektiv, särskilt från medicinska myndigheter och professionella vårdkällor

• rådgöra med legitimerad vårdpersonal vid frågor som rör hälsa eller behandling

Detta minskar risken att lita på AI-genererade sammanfattningar som kan vara ofullständiga eller felaktiga – även om de ser trovärdiga ut.