A Google visszalép: mit üzen az orvosi AI-tanácsadó leállítása?

A Google 2024 eleje óta erőteljesen terjeszti az AI Overviews nevű funkcióját – azt a keresési eszközt, amely mesterséges intelligencia segítségével összefoglalja az interneten fellelhető információkat, mielőtt a felhasználó egyetlen találatra is rákattintana. A változás radikális volt: még a szótári definíciókat is kiszorította a generatív AI. Egy területen azonban most visszakozott: az egészségügyi tanácsadásnál.

Mi volt ez a funkció, és miért tűnt el?

2026 márciusában a Google csendben kivezette a „What People Suggest" nevű kísérleti eszközét. A funkció működése egyszerű volt: ha valaki tüneteket keresett, a rendszer fórumokról és közösségi médiából gyűjtötte össze a hasonló panaszokról szóló felhasználói bejegyzéseket, majd ezekből AI segítségével rövid, strukturált összefoglalót készített.

Az indulás logikája érthető volt. Különösen ritka kórképek esetén – ahol a beteg alig talál megbízható forrást – valódi értéke lehet annak, hogy megismerheti más páciensek tapasztalatait. Így a beteg azt is megtudhatja, mások milyen vizsgálati utat jártak be, illetve, hogy ő mire számíthat, ha orvoshoz fordul. A peer-to-peer betegközösségek egyébként sem új jelenségek, és a páciensek önszerveződése az orvos-beteg kapcsolat szempontjából sem közömbös. A probléma nem az ötlettel volt, hanem azzal, ahogy a Google ezt az információt kezelte és kivitelezte.

Miért volt ez mégis veszélyes?

A megfelelő orvosi ellátás nyújtásához és egy panasz értelmezéséhez szükségünk van a beteg teljes képére: életkorára, kísérőbetegségeire, aktuális gyógyszerelésére, korábbi kórtörténetére. Emiatt egy fórumon megosztott személyes tapasztalat kontextus nélkül félrevezető – vagy egyenesen veszélyes – lehet. Az AI Overviews rendszer azonban nem tett különbséget: összefoglalta, strukturálta és tekintélyes formában tálalta az interneten talált laikus véleményeket.

Korábbi vizsgálatok már rámutattak arra, hogy a rendszer egészségügyi kérdéseknél rendre hibázott: előfordult, hogy hiányos tanácsokat adott, vagy az evidenciaalapú ajánlásokkal ellentétes tartalmakat emelt ki. Tetézte a problémát, hogy a „kérdezze meg orvosát" típusú figyelmeztetések nem kaptak elég vizuális hangsúlyt, így az AI válaszok objektívebbnek hatottak a valósnál.

Hogyan magyarázta a Google az esetet?

A cég nem a pontossági problémákra hivatkozott: a hivatalos kommunikáció szerint a döntés mögött a keresési felület egyszerűsítésének szándéka áll. A valódi mozgatórugó azonban valószínűleg a növekvő médiafigyelem és szakmai kritika volt. A The Guardian és több más lap is foglalkozott a funkcióval, a visszajelzések pedig egyértelműen negatívak voltak.

A fórumposztok és személyes betegélmények természetesen továbbra is elérhetők a keresőben – a változás mindössze annyi, hogy Google AI többé nem szintetizálja és nem tálalja ezeket az információkat könnyen fogyasztható, félre nem érthető egészségügyi tanácsként.

Mit jelent ez az orvosok számára?

Ez az eset több szempontból is tanulságos. Egyrészt megerősíti azt, amit sokan már tapasztaltak a praxisban: a betegek egyre többet és egyre kifinomultabb módon keresnek az interneten. A szimptómakövetés, a diagnóziskeresés és az öngyógyítás nem fog eltűnni – legfeljebb a használt csatornák változnak. Fontos, hogy mi magunk is ismerjük ezeket a platformokat és eszközöket, hogy érdemben tudjunk kommunikálni a páciensekkel arról, mit találtak online.

Ennél mélyebb kérdés is felmerül. Az AI egészségügyi alkalmazásában az egyik alapvető feszültség éppen az általánosítás és az individualizáció között húzódik. A nagy nyelvi modellek populációs szintű mintákat tanulnak, miközben az orvoslás viszont az egyedi betegről szól. Ez nem azt jelenti, hogy az AI-nak nincs helye a klinikai döntéstámogatásban, hiszen számos területen már bizonyított. Mégsem ugyanaz egy zárt, validált rendszerben segíteni a diagnosztikát, mint nyílt internetes fórumokon gyűjtött szövegekből összerakott tanácsot közzétenni.

Az eset az egészségügyi AI szabályozása szempontjából is jelzésértékű. Az EU AI Act magas kockázatúnak minősíti az orvosi döntéshozatalban szerepet játszó rendszereket – de a szabályozás és a tényleges piaci megvalósítás között egyelőre komoly rés tátong. A tény, hogy a Google egy ilyen nyomás hatására visszalépett, azt mutatja, hogy a határok kijelölése nem csupán jogalkotói feladat.

Konklúzió

A „What People Suggest" leállítása nem az egészségügyi AI visszaszorulását jelzi. A Google párhuzamosan fejleszt klinikai képalkotó algoritmusokat, betegségkockázat-becslő modelleket és döntéstámogató eszközöket. Ez az eset inkább arról szól, hogy a laikus tartalom AI-val történő, orvosi tekintéllyel felruházott tálalása egy olyan alkalmazás volt, amelynek kockázatai meghaladták az előnyeit – és amelynek leállításához végül elég volt a nyilvános nyomás.

Orvosként ebből az a kérdés következik: ha egy globális technológiai óriás is képes ilyen tévutat bejárni, mennyire tudunk mi magunk kritikusan viszonyulni a hasonló eszközökhöz?

Foorrás: Androidpolice.com