![Elon Musk](https://cd1.incdatagate.cz/images/1ed5656a-3977-6fb8-94bf-575dc9cded0d/720x405.jpg)
Stovky akademiků, expertů a podnikatelů zapojených do vývoje umělé inteligence (AI) včetně miliardáře Elona Muska v novém prohlášení volají po nejméně půlročním pozastavení vývoje nových modelů s ohledem na "hluboká rizika pro společnost a lidstvo". Navrhují, aby vývojáři tuto pauzu využili ke společné práci na bezpečnostních pravidlech a také k vystupňování spolupráce se zákonodárci na silné regulaci odvětví.
Výzva k okamžitému přerušení vývoje se vztahuje na "trénink systémů AI silnějších než GPT-4", což je nová generace textového modelu, kterou tento měsíc představila společnost OpenAI.
"Toto přerušení by mělo být veřejné a ověřitelné... Nelze-li jej učinit rychle, měly by zakročit vlády a ustanovit moratorium," uvádějí signatáři petice publikované neziskovou organizací Future of Life Institute. Kromě Muska, který patří mezi sponzory OpenAI, jsou mezi nimi spoluzakladatel firmy Apple Steve Wozniak, šéf společnosti Stability AI Emad Mostaque, filozof Yuval Noah Harari či profesoři ze severoamerických i jiných univerzit.
Apel přichází po měsících překotného vývoje v oboru takzvané generativní umělé inteligence, což je označení pro modely "vycvičené" na obrovském množství dat, které vytvářejí originální výstupy na základě identifikovaných vzorců. Mohou při tom generovat nejen texty, ale i obrázky či zvukové stopy připomínající hlasy skutečných lidí. Vývoj vyvolává obavy mimo jiné ze záplavy dezinformací a podvodů založených na autenticky vypadajících vizuálních a zvukových materiálech.
I ředitel OpenAI Sam Altman v nedávném rozhovoru přiznal, že se "trošku bojí". "Musíme tady být opatrní," řekl televizi ABC News u příležitosti uvedení GPT-4. Také ovšem vyjádřil názor, že umělá inteligence může být "nejlepší technologií, jakou dosud lidstvo vyvinulo". Altman podle informací agentury Reuters nebyl mezi více než 1000 signatářů nové výzvy.
Výzva hned v úvodu varuje před závažnými riziky spojenými s umělou inteligencí, "jak ukazuje výzkum a uznaly přední laboratoře AI". "Laboratoře a nezávislí experti by měli využít toto přerušení (vývoje), aby společně vyvinuli a implementovali sadu sdílených bezpečnostních protokolů pro design a rozvoj pokročilé AI... Souběžně musejí vývojáři AI pracovat se zákonodárci na dramatickém urychlení rozvoje robustních systémů regulace AI," píše se v prohlášení.
Poslední měsíce podle autorů přinášejí mezi vývojáři umělé inteligence závod, který se vymkl kontrole. Jak připomíná Reuters, průlom nastal v loňském roce, když společnost OpenAI zpřístupnila aplikaci ChatGPT. To přimělo konkurenční podniky k urychlení vývoje podobných modelů a další firmy ke snaze zapracovat generativní umělou inteligenci do svých produktů. Snahy o regulaci těchto technologií jsou mezitím v počátečních fázích.
"Silné systémy AI by měly být vyvinuty, až když budeme mít důvěru, že jejich dopady budou pozitivní a rizika zvladatelná," uvádí výzva podepsaná Muskem a dalšími. Současné systémy umělé inteligence označuje za srovnatelné s lidmi ve vykonávání jistých úkonů a nastoluje otázky ohledně možného "přechytračení" lidí a "ztráty kontroly nad naší civilizací".
Kritici tvrdí, že signatáři petice potenciál aktuálních technologií hrubě přehánějí, píše Reuters. "Takováto prohlášení mají za cíl vytvořit přehnaná očekávání. Má to v lidech vyvolat obavy," míní výzkumnice v oboru umělé inteligence Johanna Björklundová z univerzity ve švédském Umeaa. "Nemyslím si, že je potřeba tahat za ruční brzdu," dodala.
25. července 2024 9:30
Zjistíme někdy, co se děje v černé díře? Neunikne z ní ani světlo, ignoruje fyzikální zákony
Související
![Donald Trump](https://cd1.incdatagate.cz/images/1ed56568-b9d3-6e52-b977-575dc9cded0d/720x405.jpg)
Trump tvrdí, že o desítkách milionů dolarů od Muska nevěděl
![Elon Musk](https://cd1.incdatagate.cz/images/1ed8309f-f8e8-6a16-82f2-2beebcf2ea0b/720x405.jpg)
Musk stěhuje své firmy v rámci USA. Vadí mu nový zákon v Kalifornii
Elon Musk , umělá inteligence (AI)
Aktuálně se děje
včera
![Olympijské hry, ilustrační foto](https://cd1.incdatagate.cz/images/1ed565cb-2d5d-683e-a613-575dc9cded0d/720x405.jpg)
Olympijské hry v Paříži oficiálně začaly. Na lodi po Seině se plavili i Češi
včera
![Donald Trump](https://cd1.incdatagate.cz/images/1ed56573-79a1-600e-bd3e-575dc9cded0d/720x405.jpg)
Trump přijal Netanjahua a zkritizoval "neuctivou" Harrisovou
včera
![Belgická policie](https://cd1.incdatagate.cz/images/1ed56592-28d8-690a-b120-575dc9cded0d/720x405.jpg)
Belgie pokročila v případu plánovaného teroristického útoku. Padla obvinění
včera
![Petr Fiala mluví v Českém domě v Paříži.](https://cd1.incdatagate.cz/images/1ef4b7be-4b93-656a-b9f4-4fd3bc4f652d/720x405.jpg)
Fiala otevřel Český dům v Paříži. Sport učí hrát podle pravidel, zdůraznil
včera
![Barack Obama, bývalý americký prezident.](https://cd1.incdatagate.cz/images/1ed5661e-bdda-64b8-9dde-575dc9cded0d/720x405.jpg)
Obamovi podpořili Kamalu Harrisovou. Chtějí pomoci zajistit její triumf nad Trumpem
včera
![Artur Omarov](https://cd1.incdatagate.cz/images/1ef4b704-0fa0-6446-b782-159e1246f86f/720x405.jpg)
V předvečer zahájení her se odhlásil zápasník Omarov. Kvůli zranění achilovky
Aktualizováno včera
![Na D1 u Prahy se po dopravní nehodě tvoří kolony. (26.7.2024)](https://cd1.incdatagate.cz/images/1ef4b540-1427-6192-8e25-7bec95ecd71c/720x405.jpg)
Dopravní kolaps na D1: Kolony se táhly až do Prahy, potíže hlásí i od Brna
včera
![Ruská armáda, ilustrační foto](https://cd1.incdatagate.cz/images/1ed5656d-835f-6d3a-9699-575dc9cded0d/720x405.jpg)
FSB si došla pro dalšího Šojguova náměstka. Opět jde o podezření z korupce
včera
![Lukostřelba, ilustrační fotografie.](https://cd1.incdatagate.cz/images/1ef4b660-b924-6fac-bbef-69a73f3f85b8/720x405.jpg)
LOH 2024: Po Horáčkové se představil i lukostřelec Li. V kvalifikaci skončil až jednašedesátý
včera
![Tragická nehoda se u Obory stala ve čtvrtek pozdě večer. (25.7.2024)](https://cd1.incdatagate.cz/images/1ef4b63d-710d-6368-a105-eb91a4916179/720x405.jpg)
Tragická nehoda u Obory změnila osud celé rodiny. Policie žádá o pomoc
včera
![Válka v Izraeli](https://cd1.incdatagate.cz/images/1ee7a409-ea66-68de-945e-b1cbf2be0ced/720x405.jpg)
Gaza je mrtvá, nic nezůstalo, říkají místní. Lékaři jsou i kvůli nové ofenzivě na pokraji sil
včera
![Hamas staví své politické zájmy nad zájmy civilního obyvatelstva v pásmu Gazy, za které je odpovědný. Akce Hamasu zbavují Gazany jejich práv a základních potřeb. (zdroj: IDF)](https://cd1.incdatagate.cz/images/1ee7a3d9-9e03-6f4e-9022-a54d13a7daaf/720x405.jpg)
V izraelském zajetí zemřel jeden z lídrů Hamásu
včera
![Bašár Asad se sešel s Vladimirem Putinem](https://cd1.incdatagate.cz/images/1ed566e7-d6ec-6ef0-b671-575dc9cded0d/720x405.jpg)
Asadovo setkání s Putinem: Rozvoj vztahů přispívá k posílení míru a stability, zní z Kremlu
včera
![Francie, Paříž, ilustrační foto](https://cd1.incdatagate.cz/images/1ed5657f-953d-6a5e-96ea-575dc9cded0d/720x405.jpg)
Noční útoky ve Francii byly připraveny a koordinovány. Podle vlády měly jasný cíl
včera
![Ilustrační foto](https://cd1.incdatagate.cz/images/1ed5659b-30ed-66aa-ba11-575dc9cded0d/720x405.jpg)
Olympiáda se za šest let vrátí do Francie. Známí jsou pořadatelé letních i zimních her až do roku 2034
včera
![António Guterres](https://cd1.incdatagate.cz/images/1ee5877c-3da1-637a-b9f7-e7ed753c6774/720x405.jpg)
Počasí je stále extrémnější, varuje Guterres. Vyzval státy, aby začaly jednat
včera
![Dmitrij Peskov](https://cd1.incdatagate.cz/images/1ee43247-d717-6aee-b17b-b1a024c738b3/720x405.jpg)
Kreml "pečlivě zváží", jak zareaguje na rozhodnutí EU převést výnosy ze zmrazených ruských aktiv na Ukrajinu
včera
![Ukrajinská armáda ve válce s Ruskem](https://cd1.incdatagate.cz/images/1ee4951a-62b5-68f0-80f0-d5cedc94d62c/720x405.jpg)
Ukrajinská armáda zaútočila na ruskou leteckou základnu na Krymu
včera
![tajfun Gaemi](https://cd1.incdatagate.cz/images/1ef4b464-88cc-6ec0-accd-870f310b931f/720x405.jpg)
Tajfun na Filipínách a Tchaj-wanu zabil už 21 lidí, teď řádí v Číně. 150 tisíc lidí opustilo domovy
včera
Ve Francii kvůli nahlášené bombě evakuovali v den zahájení olympiády letiště
Mezinárodní letiště Basilej-Mylhúzy-Freiburg, ležící ve Francii poblíž hranic se Švýcarskem a Německem, dnes kolem poledne na přibližně hodinu přerušilo provoz. Vedení letiště uvedlo, že z bezpečnostních důvodů evakuovalo všechny cestující.
Zdroj: Libor Novák