AI? Představuje hrozbu zániku lidstva, varuje Sam Altman před riziky umělé inteligence

Mezi předními signatáři nedávného otevřeného dopisu týkajícího se potenciálních rizik umělé inteligence se nachází i samotný Geoffrey Hinton, známý jako "kmotr AI". Jeho příklon k vyjádření obav ohledně této technologie představuje zajímavou změnu.

Minulý týden se objevil stručný otevřený dopis, který varoval před možným koncem současné lidské existence způsobeným pokrokem umělé inteligence. Jak informoval Observer, dopis podepsaný vlivnými technologickými vůdci, odborníky v oblasti AI a akademiky upozornil na vážné riziko, které s sebou přináší tato technologie.

„Zmírnění rizik vyhynutí v důsledku umělé inteligence by mělo být globální prioritou spolu s dalšími riziky společenského rozsahu, jako jsou pandemie a jaderná válka,“ stojí v krátkém prohlášení. Zveřejnilo jej Centrum pro bezpečnost umělé inteligence (CAIS), nezisková organizace zaměřená na ochranu nasazení této technologie.

Dopis neobsahoval podrobnosti, které by vysvětlily jeho vážný předpoklad, a navázal na dva nedávné otevřené dopisy, které upozorňovaly na potenciální nebezpečí spojené s výzkumem a použitím umělé inteligence.

V březnu se více než tisíc odborníků včetně spoluzakladatelů Applu Elona Muska a Steva Wozniaka spojilo a podepsalo dopis, ve kterém žádali o šestiměsíční moratorium ve vývoji umělé inteligence. Cílem bylo pečlivě prozkoumat možná rizika a vytvořit bezpečnostní protokoly. O měsíc později členové Asociace pro rozvoj umělé inteligence, včetně Erica Horvitze z Microsoftu zveřejnili další dopis, ve kterém varovali před dalšími negativními schopnostmi umělé inteligence.

Oproti předchozím zprávám nabírá na vážnosti stručné prohlášení CAIS, které se zavázalo rozšířit povědomí o rizicích pokročilé AI mezi odborníky a veřejnými činiteli.

K dopisu se překvapivě připojili také podcaster Sam Harris, šéf TED Chris Anderson a bývalá prezidentka Estonska Kersti Kaljulaid. Nejvýznamnějšími signatáři však nejsou ti, kteří působí nevhodně, ale právě ti, kteří se v oblasti technologie vypracovali a nyní varují před jejím potenciálním nebezpečím.

Šéf společnosti OpenAI Sam Altman podepsal dopis spolu se spoluzakladateli Ilyou Sutskeverem, Johnem Schulmanem a dalšími manažery OpenAI. Společnost byla založena v roce 2015 jako nezisková organizace s cílem vyvíjet umělou inteligenci bezpečným způsobem a v roce 2019 přešla na hybridní model s "limitovaným ziskem". V listopadu vydala chatbota AI ChatGPT, který se rychle stal populární a vyvolal obavy ohledně jeho schopnosti psát školní práce a nahrazovat pracovní sílu.

Tržní hodnota OpenAI se v dubnu pohybovala mezi 27 a 29 miliardami USD.

Navzdory své podpoře naléhavého varování v dopise Altman dříve chválil vzestup stále sofistikovanějších systémů umělé inteligence. V roce 2021 na svém blogu prohlásil: "Tato revoluce vytvoří fenomenální bohatství. Cena mnoha druhů práce (která ovlivňuje náklady na zboží a služby) klesne na nulu, jakmile se dostatečně výkonná umělá inteligence spojí s pracovní silou."

Podporu varovnému dopisu přislíbili i dva významní členové trojice počítačových vědců, která je známa jako "kmotři AI".

Signatáři Geoffrey Hinton a Yoshua Bengio mají za sebou mnoho let pracovního angažmá v oblasti umělé inteligence a svými přínosy při položení základů pro rozvoj této technologie si zasloužili uznání. V roce 2018 byli oceněni prestižní Turingovou cenou.

Hinton i Bengio v současnosti působí jako profesoři na Torontské univerzitě a univerzitě v Motrealu a také vyjádřili své obavy v souvislosti s pokrokem umělé inteligence.

Geoffrey Hinton poskytl rozhovor New York Times, ve kterém sdělil, že opustil svou pozici v společnosti Google, aby mohl hovořit o rizicích spojených s umělou inteligencí. Dále vyjádřil lítost nad svou celoživotní prací, kdy říká: "Je obtížné pochopit, jak lze zabránit tomu, aby špatní lidé využívali tuto technologii ke špatným účelům."

Yoshua Bengio ve svém rozhovoru pro BBC vyjádřil podobné pocity, když odhalil, že hrozba spojená s umělou inteligencí ho přiměla zpochybnit výzkum, který prováděl po mnoho let. "Dá se říct, že se cítím ztracený," řekl.

Prohlášení podepsali dokonce významní zaměstnanci společnosti Google, včetně několika pracovníků pracujících na umělé inteligenci ze startupu DeepMind. Mezi signatáři je Demis Hassabis, generální ředitel a spoluzakladatel DeepMind, který předtím pracoval jako programátor umělé inteligence pro videohry ve společnostech Lionhead a Elixir.

Společnost Google převzala DeepMind v roce 2014 za zhruba 500 milionů dolarů. Hassabis vyzýval ke zdrženlivému postupu a tvrdí, že v příští dekádě by se mohla objevit umělá všeobecná inteligence (AGI), což znamená počítače s kognitivními schopnostmi srovnatelnými s lidskými.

V lednu Hassabis prohlásil v rozhovoru pro Time, že by preferoval pomalý a opatrný vývoj v této oblasti a zastává názor, že zisky z AGI by měly být spravedlivě rozdělovány.

Divize vedená Hassabisem však získává stále větší význam. Vznik společnosti Google DeepMind byl oznámen v dubnu, kdy se spojily divize DeepMind a Brain společnosti Google zaměřené na umělou inteligenci. Tímto spojením se chtělo "urychlit pokrok směrem ke světu, kde umělá inteligence může pomoci řešit největší výzvy, kterým čelí lidstvo".

V nedávné době Google oznámil, že finanční informace DeepMind budou zahrnuty do podnikových nákladů Alphabet, protože společnost se bude stále více angažovat ve využívání technologií DeepMind. Tato změna byla ohlášena v rámci výsledků hospodaření Google za 4. čtvrtletí roku 2022.

Co je cílem otevřených dopisů?

Někteří se ptají, zda nedávná výzva k opatrnosti v oblasti umělé inteligence není pouze PR trikem nebo způsobem, jak získat konkurenční výhodu. Existují obavy, že velké společnosti s finančními vazbami na výzkum AI hledají regulace, které by je zvýhodňovaly, zatímco menší start-upy by byly znevýhodněny.

Technický ředitel Microsoftu Kevin Scott vyjádřil názor, že by měly existovat regulace, které podporují jak velké společnosti, tak menší konkurenční start-upy. Dalšími zastánci větší regulace jsou i někteří další významní aktéři v oblasti umělé inteligence, kteří vyjadřují obavy z možného zneužití technologie autoritářskými režimy nebo kybernetickými útoky.

Profesor práva z Washingtonské university Ryan Calo však navrhuje, že zaměření se pouze na nepravděpodobné důsledky AI odvádí pozornost od skutečných rizik, která tato technologie přináší. Podle něj je důležité se soustředit na okamžité dopady umělé inteligence na práci, soukromí a životní prostředí a chránit se před nimi prostřednictvím reálných opatření namísto pouhých obav ze zdánlivých hrozeb.

Související

Elon Musk

Muskovi se nelíbí vývoj OpenAI, kterou spoluzakládal. Podal novou žalobu

Kontroverzní podnikatel Elon Musk podal novou žalobu proti společnosti OpenAI, která provozuje chatovacího robota založeného na umělé inteligenci ChatGPT, a také proti jejímu šéfovi Samu Altmanovi. Informovala o tom CNN. Musk se rozhodl obnovit žalobu, protože firma podle něj upřednostňuje zisky a komerční zájmy před veřejným blahem. 

Více souvisejících

Sam Altman OpenAI

Aktuálně se děje

před 15 minutami

Benjamin Netanjahu, známý pod přezdívkou Bibi

Šéf Hamásu Muhammad Sinvár je po smrti, ohlásil Netanjahu

Izraelský premiér Benjamin Netanjahu oznámil, že izraelská armáda při nedávném leteckém útoku zabila Muhammada Sinvára, klíčového vojenského představitele Hamásu a mladšího bratra bývalého vůdce tohoto hnutí Jahji Sinvára. Ten byl zabit již v říjnu minulého roku při izraelské operaci na jihu Pásma Gazy.

před 47 minutami

Internet

USA vyšetřují známou čínskou firmu kvůli bezpečnostním hrozbám. Jejími routery se k internetu připojují i Češi

Americké úřady zahájily vyšetřování čínské technologické firmy TP-Link kvůli podezření z porušování antimonopolních pravidel a závažným obavám o kyberbezpečnost. Podle amerického ministerstva spravedlnosti je TP-Link podezřelý z agresivní cenové politiky, která má za cíl vytlačit konkurenci z trhu. Kromě toho čelí firma také obviněním, že její síťová zařízení, zejména routery, představují riziko pro americkou národní bezpečnost.

před 1 hodinou

Ukrajinská armáda

Vyrábí víc než nakupuje. Co může Ukrajina získat vývozem zbraní ze země?

Ukrajina zvažuje uvolnění válečných omezení na vývoz zbraní, což by mohlo zásadně změnit její vztahy s Evropou. Opatření přijaté na začátku ruské invaze mělo zamezit vývozu vojenského materiálu, který byl nezbytný pro obranu země. Dnes je však situace jiná: ukrajický obranný průmysl dokáže vyrábět mnohem víc, než stát aktuálně dokáže koupit.

před 2 hodinami

Elon Musk

Elon Musk se otevřeně postavil proti Trumpovi

Elon Musk otevřeně kritizoval nový výdajový a daňový zákon prezidenta Donalda Trumpa, který byl minulý týden těsně schválen Sněmovnou reprezentantů. Návrh, označovaný Trumpem za „velký a krásný“, obsahuje biliony dolarů na daňové úlevy, zvýšení rozpočtu na obranu a rozšíření vládních výdajů. Nyní míří do Senátu.

před 2 hodinami

před 3 hodinami

Ilustrační foto

Hranice 1,5 °C padla. Extrémní počasí oteplí planetu o mnohem víc, obávají se vědci

Navzdory častým zprávám o rekordních vlnách veder, extrémním počasí a neochotě některých států jednat se svět podle aktuálních vědeckých odhadů pravděpodobně vyhne nejhorším scénářům globálního oteplení. Vše ale nasvědčuje tomu, že do konce století se planeta ohřeje přibližně o 2,7 °C oproti době před průmyslovou revolucí. Tento výhled, přestože lepší než předpokládaný nárůst teploty o 4 až 5 stupňů z minulých dekád, zůstává alarmující a představuje vážné riziko pro stabilitu ekosystémů i samotné lidstvo.

před 4 hodinami

před 5 hodinami

před 5 hodinami

před 5 hodinami

před 5 hodinami

Vladimir Putin

Rusko: Putin je připraven uzavřít mít. Od NATO chce ale závazek, písemně

Prezident Vladimir Putin je údajně ochoten jednat o mírovém urovnání války na Ukrajině, avšak jen za předpokladu, že Západ přistoupí na několik klíčových podmínek – včetně písemného závazku, že Severoatlantická aliance se nebude dále rozšiřovat na východ. Uvedla to agentura Reuters s odkazem na tři ruské zdroje obeznámené s probíhajícími jednáními.

před 6 hodinami

před 7 hodinami

Teenageři

Pár týdnů i tři měsíce. Jak dlouho trvají letní prázdniny ve světě?

Letní prázdniny jsou pro školáky jedním z nejočekávanějších období školního roku, kdy si mohou odpočinout a načerpat nové síly před dalším školním rokem. Délka letních prázdnin se po celém světě výrazně liší, zatímco někde si studenti dopřávají několik málo týdnů, jinde mají až 3 měsíce volna.

před 7 hodinami

před 8 hodinami

Donald Trump

Trump zakázal ambasádám přijímat žádosti o studentská víza

Administrativa prezidenta Donalda Trumpa nařídila americkým ambasádám, aby až do odvolání přestaly přijímat žádosti o studentská víza. Opatření přichází v době, kdy se připravuje rozšíření bezpečnostních prověrek uchazečů, včetně sledování jejich aktivit na sociálních sítích.

před 9 hodinami

Vědci, ilustrační foto

Vědci se rozhodli postavit Trumpovi. Bojovat budou unikátním způsobem

Vědci se rozhodli pro netradiční formu protestu proti škrtům v oblasti klimatického a meteorologického výzkumu během druhého funkčního období prezidenta Donalda Trumpa. Místo demonstrací s transparenty se obrací na veřejnost prostřednictvím vědeckého maratonu – sto hodin nepřetržitého živého vysílání prezentací, kde každých 15 minut vystoupí jiný odborník, aby představil svou práci a vysvětlil její význam pro americkou společnost.

před 10 hodinami

před 11 hodinami

včera

včera

Rusko dostává body za nic. Spolu s Běloruskem by ho IIHF měla poslat do nižších divizí

Rusko se záhadným způsobem ocitlo na čele žebříčku Mezinárodní hokejové federace (IIHF), ačkoli se posledních tří mistrovství světa vůbec neúčastnilo. Za každý z těchto tří šampionátů mu však byly přiznány body odpovídající třetímu místu, a to bez jakéhokoli sportovního výkonu či účasti. Tato situace je zcela neudržitelná. Pokud se v budoucnu Rusko a Bělorusko vrátí do mezinárodního hokeje, měla by je IIHF zařadit do nižších divizí. Tam by si měly svou pozici vybojovat znovu, stejně jako to musí činit všechny ostatní reprezentace.

Zdroj: Jakub Jurek

Další zprávy