Stovky akademiků, expertů a podnikatelů zapojených do vývoje umělé inteligence (AI) včetně miliardáře Elona Muska v novém prohlášení volají po nejméně půlročním pozastavení vývoje nových modelů s ohledem na "hluboká rizika pro společnost a lidstvo". Navrhují, aby vývojáři tuto pauzu využili ke společné práci na bezpečnostních pravidlech a také k vystupňování spolupráce se zákonodárci na silné regulaci odvětví.
Výzva k okamžitému přerušení vývoje se vztahuje na "trénink systémů AI silnějších než GPT-4", což je nová generace textového modelu, kterou tento měsíc představila společnost OpenAI.
"Toto přerušení by mělo být veřejné a ověřitelné... Nelze-li jej učinit rychle, měly by zakročit vlády a ustanovit moratorium," uvádějí signatáři petice publikované neziskovou organizací Future of Life Institute. Kromě Muska, který patří mezi sponzory OpenAI, jsou mezi nimi spoluzakladatel firmy Apple Steve Wozniak, šéf společnosti Stability AI Emad Mostaque, filozof Yuval Noah Harari či profesoři ze severoamerických i jiných univerzit.
Apel přichází po měsících překotného vývoje v oboru takzvané generativní umělé inteligence, což je označení pro modely "vycvičené" na obrovském množství dat, které vytvářejí originální výstupy na základě identifikovaných vzorců. Mohou při tom generovat nejen texty, ale i obrázky či zvukové stopy připomínající hlasy skutečných lidí. Vývoj vyvolává obavy mimo jiné ze záplavy dezinformací a podvodů založených na autenticky vypadajících vizuálních a zvukových materiálech.
I ředitel OpenAI Sam Altman v nedávném rozhovoru přiznal, že se "trošku bojí". "Musíme tady být opatrní," řekl televizi ABC News u příležitosti uvedení GPT-4. Také ovšem vyjádřil názor, že umělá inteligence může být "nejlepší technologií, jakou dosud lidstvo vyvinulo". Altman podle informací agentury Reuters nebyl mezi více než 1000 signatářů nové výzvy.
Výzva hned v úvodu varuje před závažnými riziky spojenými s umělou inteligencí, "jak ukazuje výzkum a uznaly přední laboratoře AI". "Laboratoře a nezávislí experti by měli využít toto přerušení (vývoje), aby společně vyvinuli a implementovali sadu sdílených bezpečnostních protokolů pro design a rozvoj pokročilé AI... Souběžně musejí vývojáři AI pracovat se zákonodárci na dramatickém urychlení rozvoje robustních systémů regulace AI," píše se v prohlášení.
Poslední měsíce podle autorů přinášejí mezi vývojáři umělé inteligence závod, který se vymkl kontrole. Jak připomíná Reuters, průlom nastal v loňském roce, když společnost OpenAI zpřístupnila aplikaci ChatGPT. To přimělo konkurenční podniky k urychlení vývoje podobných modelů a další firmy ke snaze zapracovat generativní umělou inteligenci do svých produktů. Snahy o regulaci těchto technologií jsou mezitím v počátečních fázích.
"Silné systémy AI by měly být vyvinuty, až když budeme mít důvěru, že jejich dopady budou pozitivní a rizika zvladatelná," uvádí výzva podepsaná Muskem a dalšími. Současné systémy umělé inteligence označuje za srovnatelné s lidmi ve vykonávání jistých úkonů a nastoluje otázky ohledně možného "přechytračení" lidí a "ztráty kontroly nad naší civilizací".
Kritici tvrdí, že signatáři petice potenciál aktuálních technologií hrubě přehánějí, píše Reuters. "Takováto prohlášení mají za cíl vytvořit přehnaná očekávání. Má to v lidech vyvolat obavy," míní výzkumnice v oboru umělé inteligence Johanna Björklundová z univerzity ve švédském Umeaa. "Nemyslím si, že je potřeba tahat za ruční brzdu," dodala.
Související
Tesla náhle propustí více jak 10 % svých zaměstnanců. Co se děje?
Rusko proti Ukrajině používá Starlink, tvrdí Kyjev. Kreml i Musk to popírají
Elon Musk , umělá inteligence (AI)
Aktuálně se děje
před 18 minutami
Vláda schválila novelu zákona o zbraních, která reaguje na střelbu na FF UK
před 24 minutami
Joe Biden učinil rozhodnutí v rámci americké pomoci Ukrajině
před 50 minutami
V ruském zajetí: Psi žijí lépe. Ztratil jsem jakoukoli naději a vůli žít
před 1 hodinou
Útok nožem na škole ve Walesu: Mezi zraněnými je údajně i učitelka
před 1 hodinou
Peskov hrozí: Pokud Ukrajinci dostanou rakety ATACMS delšího doletu, zatlačíme je hlouběji
před 2 hodinami
Pekarová Adamová se poprvé vyjádřila k potvrzení trestu pro Feriho
před 2 hodinami
Vzpoura zaměstnanců RTVS: Chceme svobodnou veřejnoprávní instituci
před 2 hodinami
Svrčinová na vlastní žádost končí jako hlavní hygienička
Aktualizováno před 3 hodinami
VIDEO: Londýnem se prohánělo několik splašených zakrvácených koní. Na místě jsou zranění lidé
před 3 hodinami
Valorizace důchodů v lednu 2025: První odhady už naznačují, jak penze porostou
před 3 hodinami
Putinův věrný sluha suspendoval kněze, který vedl mši za Navalného
před 3 hodinami
Izrael dá brzy zelenou ofenzivě do Rafáhu. Satelitní snímky odhalily přípravy
před 4 hodinami
Rozhodnuto: Řecko předá systém Patriot Ukrajině. USA jim zaručily bezpečnost a kompenzaci
před 4 hodinami
Sestra vůdce KLDR hrozí: Vybudujeme ohromnou vojenskou sílu
před 4 hodinami
Černochová jmenuje nového šéfa vojenské rozvědky. Berouna střídá Bartovský
před 5 hodinami
Fico definitivně zatočil s RTVS. Stanice se přejmenuje a bude povinně vysílat hymnu
před 6 hodinami
Meningokok v Česku zabil malého chlapce. Experti zdůrazňují význam očkování
před 6 hodinami
Počasí: Česko čekají ještě dvě mrazivé noci, upozornili meteorologové
před 7 hodinami
Rusko řeší korupční kauzu na Šojguově ministerstvu. Putin o případu ví
před 8 hodinami
Policie se vyjádřila k zásahu ve škole na Tachovsku. Mladík skončil v cele
Policie v úterý zasahovala na jedné ze škol na Tachovsku kvůli výhrůžkám, jejichž původcem byl jeden ze studentů. Mladík podle dosavadních zjištění vyhrožoval spolužačce tím, že zabije její blízké.
Zdroj: Jan Hrabě