Umělá inteligence je skoro dokonalá. Nechápe však etiku a morálku

Představte si rok 2027, kdy auta už jezdí bez řidiče. Je osm ráno, vy nasednete do vozu, v pohodlí si přečtete zprávy, zatímco o dopravu do práce se postará umělá inteligence. Den jako každý jiný, přesto je dneska něco jinak. Před vámi jsou dvě děti, nemáte čas zabrzdit. Můžete se jim vyhnout, ale pak narazíte do motoristy vedle. Situace nemá bezpečné řešení. Jak se zachováte vy? A jak se zachová vaše auto?

Tesla nedávno při zkušební jízdě svého nového modelu auta bez řidiče narazila na problém. Umělá inteligence se řídí algoritmem, který se snaží předejít nehodám. Ale co když před ní stojí dvě volby, obě by znamenaly zranění nebo smrt někoho jiného? zkušební jízda Tesly dopadla neslavně, člověk při ní přišel o život. Firma tak dále vylepšuje svoji technologii, řešení však zatím nemá.

Takové chytré auto přitom zvládne už skoro vše. Zastavit na červenou, opatrně zpomalit a pustit chodce na přechodu. Problém však nastává ve chvílích, kdy má udělat etické rozhodnutí, které ne vždy nutně souvisí s logikou. A jsou to většinou situace, kdy sami lidi neví, co mají dělat.

Po světě už nějakou dobu koluje filozofické dilema, kdy vlak, nad nímž jsme ztratili kontrolu a který má rozbité brzdy se řítí po kolejích. V jeho směru leží pět svázaných osob, když nic neuděláte, pak stoprocentně zemřou. Jenže vy máte před sebou páčku, stačí jí otočit a koleje přesměrujete jinam. Problém je, že v jeho nové trase leží další člověk.

Většina lidí by v tomhle případě obětovala jeden lidský život pro záchranu dalších pěti. Jenže teď si představte podobnou situaci. Vlak bez kontroly se řítí k mostu, pod ním opět dalších pět svázaných lidí. Vy stojíte na mostě vedle muže s těžkým batohem, když ho shodíte dolů, zachráníte lidi na kolejích. Uděláte to? I v tomhle případě je to podobný scénář - obětovat pět nebo jeden život?

Podle psychologů je lidstvo v druhé situace rozděleno tak nějak nastejno, i když je to velmi podobná situace. Nicméně otočit páčkou nebo přímo násilně shodit člověka z mostu jsou dvě odlišné věci. A pokud člověk sám má takové dilema, kdy nemůže jednat podle předem dohodnutých pravidel (že pět životů je víc než jeden), jak to můžeme dále naučit roboty?

Samozřejmě ve zmiňovaných situacích existuje ještě třetí možnost, a to obětovat se, abyste zachránili ostatní. Ale skutečně byste vědomě koupili auto, které by upřednostnilo životy cizích lidí na ulici před tím vaším? A co když ve voze bude sedět i vaše dítě?

Podobný problém neřeší samozřejmě jen v automobilovém průmyslu, odpověď na otázku musí najít i armáda. Všude po světě probíhá technologický výzkum na výrobu automatizovaných zbraní, které povedou válku bez člověka. Ale jak naučit robota, aby rozeznal civilisty od nepřátel? Jak má určit, že je to terorista s nožem, nebo lékař, který se snaží zachránit operací lidský život?

Stejný problém si představte i mezi pečujícími roboty. Ty by měly být po autech a zbrojním průmyslu dalším odvětvím, u kterého se slibuje veliký rozkvět. Pečující se jim říká proto, aby se mohly starat o staré a nemocné lidi. Pokud přijde robot k seniorům a podá jim léky, může se stát, že starší člověk si je odmítne vzít. Lidi by to měli akceptovat jako právo pacienta, ale robot zároveň ví, že by pacient mohl umřít, a lidský život je něco, co musí respektovat především.

Robotický průmysl tak stojí před dilema, jak pokračovat dál. Lidé touží potom, až bude robot za ně opatřovat všechny potřeby, ale neví, jak je má naučit správným věcem. Mnoho vědců vidí budoucnost velmi pozitivně, kdy roboti budou pomocí algoritmů a získaných dat vědět ještě před námi, že něco potřebujeme.

Představte si situaci, kdy přemýšlíte o nových botách, ale nemůžete se rozhodnout mezi barvami. Váš telefon na základě analýzy, co jste za poslední dobu kupovali, vyhodnotí, co je pro vás nejlepší a udělá rozhodnutí za vás. druhý den vám donese služba nové boty až ke dveřím, a vy můžete být příjemně překvapení. Takováhle situace neublíží nikomu, naopak se chytré telefony ukázaly být skvělými asistenty. Budete však stejně nadšení, až na internetu budete hledat informace o adopci dítěte, a druhý den vám kurýr zazvoní u dveří s vaší novou "objednávkou"?