
Stovky akademiků, expertů a podnikatelů zapojených do vývoje umělé inteligence (AI) včetně miliardáře Elona Muska v novém prohlášení volají po nejméně půlročním pozastavení vývoje nových modelů s ohledem na "hluboká rizika pro společnost a lidstvo". Navrhují, aby vývojáři tuto pauzu využili ke společné práci na bezpečnostních pravidlech a také k vystupňování spolupráce se zákonodárci na silné regulaci odvětví.
Výzva k okamžitému přerušení vývoje se vztahuje na "trénink systémů AI silnějších než GPT-4", což je nová generace textového modelu, kterou tento měsíc představila společnost OpenAI.
"Toto přerušení by mělo být veřejné a ověřitelné... Nelze-li jej učinit rychle, měly by zakročit vlády a ustanovit moratorium," uvádějí signatáři petice publikované neziskovou organizací Future of Life Institute. Kromě Muska, který patří mezi sponzory OpenAI, jsou mezi nimi spoluzakladatel firmy Apple Steve Wozniak, šéf společnosti Stability AI Emad Mostaque, filozof Yuval Noah Harari či profesoři ze severoamerických i jiných univerzit.
Apel přichází po měsících překotného vývoje v oboru takzvané generativní umělé inteligence, což je označení pro modely "vycvičené" na obrovském množství dat, které vytvářejí originální výstupy na základě identifikovaných vzorců. Mohou při tom generovat nejen texty, ale i obrázky či zvukové stopy připomínající hlasy skutečných lidí. Vývoj vyvolává obavy mimo jiné ze záplavy dezinformací a podvodů založených na autenticky vypadajících vizuálních a zvukových materiálech.
I ředitel OpenAI Sam Altman v nedávném rozhovoru přiznal, že se "trošku bojí". "Musíme tady být opatrní," řekl televizi ABC News u příležitosti uvedení GPT-4. Také ovšem vyjádřil názor, že umělá inteligence může být "nejlepší technologií, jakou dosud lidstvo vyvinulo". Altman podle informací agentury Reuters nebyl mezi více než 1000 signatářů nové výzvy.
Výzva hned v úvodu varuje před závažnými riziky spojenými s umělou inteligencí, "jak ukazuje výzkum a uznaly přední laboratoře AI". "Laboratoře a nezávislí experti by měli využít toto přerušení (vývoje), aby společně vyvinuli a implementovali sadu sdílených bezpečnostních protokolů pro design a rozvoj pokročilé AI... Souběžně musejí vývojáři AI pracovat se zákonodárci na dramatickém urychlení rozvoje robustních systémů regulace AI," píše se v prohlášení.
Poslední měsíce podle autorů přinášejí mezi vývojáři umělé inteligence závod, který se vymkl kontrole. Jak připomíná Reuters, průlom nastal v loňském roce, když společnost OpenAI zpřístupnila aplikaci ChatGPT. To přimělo konkurenční podniky k urychlení vývoje podobných modelů a další firmy ke snaze zapracovat generativní umělou inteligenci do svých produktů. Snahy o regulaci těchto technologií jsou mezitím v počátečních fázích.
"Silné systémy AI by měly být vyvinuty, až když budeme mít důvěru, že jejich dopady budou pozitivní a rizika zvladatelná," uvádí výzva podepsaná Muskem a dalšími. Současné systémy umělé inteligence označuje za srovnatelné s lidmi ve vykonávání jistých úkonů a nastoluje otázky ohledně možného "přechytračení" lidí a "ztráty kontroly nad naší civilizací".
Kritici tvrdí, že signatáři petice potenciál aktuálních technologií hrubě přehánějí, píše Reuters. "Takováto prohlášení mají za cíl vytvořit přehnaná očekávání. Má to v lidech vyvolat obavy," míní výzkumnice v oboru umělé inteligence Johanna Björklundová z univerzity ve švédském Umeaa. "Nemyslím si, že je potřeba tahat za ruční brzdu," dodala.
Související

Největší destrukce značky v dějinách? Expert popsal, jak Musk zničil Teslu

Elon Musk nekončí. Prozradil, jak dlouho zůstane v čele Tesly
Elon Musk , umělá inteligence (AI)
Aktuálně se děje
včera

"Trochu respektu..." EU zareagovala na Trumpovu hrozbu 50% cel
včera

Švýcarsko rozdrtilo Dánsko 7:0 a postupuje do finále hokejového mistrovství světa
včera

Největší destrukce značky v dějinách? Expert popsal, jak Musk zničil Teslu
včera

Odpojení Ruska od SWIFTu, zákaz plynovodů Nord Stream. EU plánuje velmi tvrdé sankce
včera

Trump zablokoval sankce proti Rusku. Evropa ztrácí trpělivost a propadá se do zoufalství
včera

Američané na hokejovém MS rozdrtili Švédy 6:2. O zlato si zahrají poprvé po 65 letech
včera

Herní systém hokejového mistrovství světa by se změnit měl. A nejen ten
včera

Dánsko historicky postoupilo přes Kanadu. Švýcaři si poradili s Rakouskem, USA po obratu vyřadila Finy
včera

Svět má za sebou dva hektické týdny plné chaosu a jednání. A ukrajinský mír je stále v nedohlednu
včera

Izraelští vojáci přiznali, že používají palestinské civilisty jako lidské štíty
včera

Kyjev v noci čelil jednomu z největších útoků od začátku války
včera

Operace Endgame: Mezinárodní razie rozbila ruskou síť kyberzločinu
včera

Netanjahu čelí obvinění z pomluvy poté, co napadl Macrona, Carneyho a Starmera
včera

Zůstane Trumpův Golden Dome jen na papíře? Může se sesypat jako Reaganovy "Hvězdné války"
včera

Trump hrozí cly na Apple. Odmítá dohodu s EU, Evropa zvažuje odvetu
včera

Zahraniční studenti mohou zůstat, zatím. Soud zastavil nařízení Trumpovy administrativy
včera

První bude Andrea. Meteorologové vyhlížejí letošní hurikánovou sezónu
23. května 2025 21:57

Krétou otřáslo zemětřesení. Odborníci vysvětlili, proč nezpůsobilo škody
23. května 2025 20:42

Útok nožem na nádraží v Hamburku. Nejméně tři lidé bojují o život
Aktualizováno 23. května 2025 20:07
Dálnici D10 uzavřela tragická nehoda. Havarovalo devět vozidel
Hromadná nehoda s tragickými následky se stala v pátek před polednem na dálnici D10. Podle policie havarovalo celkem devět vozidel. Nejméně jeden člověk zemřel, další z účastníků havárie utrpěl zranění.
Zdroj: Jan Hrabě