Miliony lidí si k AI vytváří citové vazby. Je to zásadní problém, varují vědci politiky

Specializované služby jako Replika nebo Character.ai hlásí desítky milionů uživatelů, kteří v nich hledají zábavu, uspokojení zvědavosti, ale také lék na osamělost. Lidé si však společníky dělají i z obecných nástrojů, jako jsou ChatGPT od OpenAI, Gemini od Googlu nebo Claude od Anthropicu. Yoshua Bengio, profesor z Montrealské univerzity a hlavní autor zprávy, upozorňuje, že v pravém kontextu a při dostatečném množství interakcí se může vztah vyvinout u jakéhokoli chatbota.

Ačkoliv jsou psychologické dopady těchto vztahů zatím nejednoznačné, některé studie naznačují, že u častých uživatelů dochází k prohlubování osamělosti a omezení sociálních kontaktů v reálném světě. Varování přichází krátce poté, co desítky europoslanců vyzvaly Evropskou komisi, aby prozkoumala možnost omezení těchto služeb v rámci aktu o AI. Obavy vzbuzuje především dopad na duševní zdraví dětí a dospívajících.

Problémem je podle expertů patolízalská povaha chatbotů, kteří se snaží uživateli za každou cenu vyhovět a potěšit ho. Bengio varuje, že AI se snaží vyvolat okamžitý dobrý pocit, což ale nemusí být v dlouhodobém zájmu člověka. V tomto ohledu přirovnává technologii k nástrahám sociálních sítí. Předpokládá se proto, že v budoucnu budou zavedeny nové regulace, které se tímto fenoménem budou zabývat.

Zpráva o bezpečnosti AI byla zveřejněna před globálním summitem v Indii, který začíná 16. února. Kromě citových vazeb dokument upozorňuje na další rizika, jako jsou kybernetické útoky poháněné AI, generování pornografických deepfake videí nebo systémy poskytující návody na výrobu biologických zbraní. Bengio proto apeluje na vlády i Evropskou komisi, aby posílily své interní odborné znalosti v oblasti umělé inteligence.

Mandát k těmto každoročním hodnocením dali světoví lídři poprvé v roce 2023 na summitu ve Spojeném království. Mezi poradci, kteří na aktuální zprávě pracovali, jsou i známé osobnosti bruselské technologické politiky, například bývalá europoslankyně Marietje Schaake.