Google čelí ostré kritice. Jeho umělá inteligence ohrožuje zdraví lidí

Google sice dříve prohlašoval, že jeho systémy informují uživatele o nutnosti vyhledat odbornou pomoc nebo si informace ověřit, realita je však odlišná. Takzvané disclaimery se uživatelům nezobrazují okamžitě. Upozornění na to, že „odpovědi AI mohou obsahovat chyby“ a že jde o informace „pouze pro informační účely“, se objeví až poté, co uživatel klikne na tlačítko „Zobrazit více“. I v takovém případě je varování umístěno až na samotném konci textu a je vysázeno malým, světlým písmem, které lze snadno přehlédnout.

Odborníci na umělou inteligenci a obhájci práv pacientů vyjádřili nad těmito zjištěními vážné znepokojení. Pat Pataranutaporn z Massachusettského technologického institutu (MIT) upozornil na dvě hlavní rizika. Prvním je fakt, že i pokročilé modely AI stále „halucinují“ a produkují dezinformace, což je v kontextu zdravotnictví skutečně nebezpečné. Druhým rizikem je lidský faktor, kdy uživatelé mohou špatně popsat své příznaky nebo položit nesprávnou otázku, přičemž absence viditelného varování v nich vyvolává falešnou důvěru v přesnost odpovědi.

Profesorka Gina Neffová z Queen Mary University v Londýně uvedla, že problém špatných přehledů je dán samotným designem služby. Podle ní jsou tyto přehledy navrženy pro rychlost, nikoli pro přesnost, což vede k nebezpečným chybám ve zdravotních informacích. Uživatelé, kteří čtou texty v rychlosti, se mohou mylně domnívat, že získané informace jsou kvalitnější, než ve skutečnosti jsou.

Výzkumnice Sonali Sharmaová ze Stanfordovy univerzity zdůraznila, že největší problém spočívá v umístění těchto přehledů na samotném vrcholu stránky. Působí totiž jako kompletní odpovědi, což uživatele odrazuje od dalšího hledání nebo rozklikávání podrobností, kde by se mohlo objevit varování. Navíc je pro laika nesmírně obtížné rozlišit, která část odpovědi AI je pravdivá a která nikoliv.

Mluvčí společnosti Google na kritiku reagoval prohlášením, že tvrzení o nedostatečném nabádání k návštěvě lékaře je nepřesné. Podle firmy přehledy často přímo v textu zmiňují potřebu vyhledat odbornou pomoc, pokud je to vhodné. Google nicméně nepopřel, že se varování nezobrazují hned v úvodu a že jsou vizuálně potlačena malým písmem.

V lednu letošního roku vyšetřování deníku The Guardian již dříve odhalilo, že lidé byli vystaveni riziku poškození zdraví právě kvůli nepravdivým a zavádějícím informacím v přehledech od Googlu. V reakci na tyto zprávy Google některé přehledy pro určité typy lékařského vyhledávání odstranil, v mnoha jiných případech však služba zůstává aktivní i bez prominentních varování.

Tom Bishop z charitativní organizace Anthony Nolan, která se zabývá léčbou rakoviny krve, vyzval k okamžité nápravě. Uvedl, že zdravotní dezinformace jsou potenciálně smrtící a varování by měla být tím prvním, co uživatel uvidí. Podle něj by měl být disclaimer umístěn hned na začátku přehledu a napsán stejně velkým písmem jako zbytek informací, aby lidé byli nuceni se zastavit a zamyslet nad tím, zda mají s informací raději kontaktovat svůj lékařský tým.

V současné době se tak vede debata o odpovědnosti technologických firem za obsah generovaný umělou inteligencí. Kritici volají po tom, aby bezpečnostní mechanismy nebyly skryty za dalšími kliknutími, ale staly se integrální a viditelnou součástí každé rady týkající se lidského zdraví. Poslední zjištění ukazují, že současné nastavení Googlu dává přednost uživatelskému pohodlí a rychlosti před bezpečností a kritickým přístupem k informacím.