
Stovky akademiků, expertů a podnikatelů zapojených do vývoje umělé inteligence (AI) včetně miliardáře Elona Muska v novém prohlášení volají po nejméně půlročním pozastavení vývoje nových modelů s ohledem na "hluboká rizika pro společnost a lidstvo". Navrhují, aby vývojáři tuto pauzu využili ke společné práci na bezpečnostních pravidlech a také k vystupňování spolupráce se zákonodárci na silné regulaci odvětví.
Výzva k okamžitému přerušení vývoje se vztahuje na "trénink systémů AI silnějších než GPT-4", což je nová generace textového modelu, kterou tento měsíc představila společnost OpenAI.
"Toto přerušení by mělo být veřejné a ověřitelné... Nelze-li jej učinit rychle, měly by zakročit vlády a ustanovit moratorium," uvádějí signatáři petice publikované neziskovou organizací Future of Life Institute. Kromě Muska, který patří mezi sponzory OpenAI, jsou mezi nimi spoluzakladatel firmy Apple Steve Wozniak, šéf společnosti Stability AI Emad Mostaque, filozof Yuval Noah Harari či profesoři ze severoamerických i jiných univerzit.
Apel přichází po měsících překotného vývoje v oboru takzvané generativní umělé inteligence, což je označení pro modely "vycvičené" na obrovském množství dat, které vytvářejí originální výstupy na základě identifikovaných vzorců. Mohou při tom generovat nejen texty, ale i obrázky či zvukové stopy připomínající hlasy skutečných lidí. Vývoj vyvolává obavy mimo jiné ze záplavy dezinformací a podvodů založených na autenticky vypadajících vizuálních a zvukových materiálech.
I ředitel OpenAI Sam Altman v nedávném rozhovoru přiznal, že se "trošku bojí". "Musíme tady být opatrní," řekl televizi ABC News u příležitosti uvedení GPT-4. Také ovšem vyjádřil názor, že umělá inteligence může být "nejlepší technologií, jakou dosud lidstvo vyvinulo". Altman podle informací agentury Reuters nebyl mezi více než 1000 signatářů nové výzvy.
Výzva hned v úvodu varuje před závažnými riziky spojenými s umělou inteligencí, "jak ukazuje výzkum a uznaly přední laboratoře AI". "Laboratoře a nezávislí experti by měli využít toto přerušení (vývoje), aby společně vyvinuli a implementovali sadu sdílených bezpečnostních protokolů pro design a rozvoj pokročilé AI... Souběžně musejí vývojáři AI pracovat se zákonodárci na dramatickém urychlení rozvoje robustních systémů regulace AI," píše se v prohlášení.
Poslední měsíce podle autorů přinášejí mezi vývojáři umělé inteligence závod, který se vymkl kontrole. Jak připomíná Reuters, průlom nastal v loňském roce, když společnost OpenAI zpřístupnila aplikaci ChatGPT. To přimělo konkurenční podniky k urychlení vývoje podobných modelů a další firmy ke snaze zapracovat generativní umělou inteligenci do svých produktů. Snahy o regulaci těchto technologií jsou mezitím v počátečních fázích.
"Silné systémy AI by měly být vyvinuty, až když budeme mít důvěru, že jejich dopady budou pozitivní a rizika zvladatelná," uvádí výzva podepsaná Muskem a dalšími. Současné systémy umělé inteligence označuje za srovnatelné s lidmi ve vykonávání jistých úkonů a nastoluje otázky ohledně možného "přechytračení" lidí a "ztráty kontroly nad naší civilizací".
Kritici tvrdí, že signatáři petice potenciál aktuálních technologií hrubě přehánějí, píše Reuters. "Takováto prohlášení mají za cíl vytvořit přehnaná očekávání. Má to v lidech vyvolat obavy," míní výzkumnice v oboru umělé inteligence Johanna Björklundová z univerzity ve švédském Umeaa. "Nemyslím si, že je potřeba tahat za ruční brzdu," dodala.
Související

Umělá inteligence sítě X chválila Hitlera. Musk přiznal problémy

Z Muska je troska. Trump nešetří kritikou kvůli vzniku nové politické strany
Elon Musk , umělá inteligence (AI)
Aktuálně se děje
před 1 hodinou

Na Ukrajině zuří brutální boje po celé frontě. Obrana zatím drží, vlny útočníků jsou ale nekonečné
před 1 hodinou

Německo svolalo evropské politiky na summit o migraci
před 2 hodinami

Fico je připraven jednat s Merzem. Pak by mohl zvednout ruku pro další protiruské sankce
před 3 hodinami

Trump zřejmě pochopil, co je Putin zač. Transakční diplomacie s ideologem nebude fungovat
před 4 hodinami

Poruchy se násobily. Česko už začíná tušit, proč došlo k blackoutu
před 5 hodinami

Izraelci přiznali, že íránské zásoby obohaceného uranu nejsou zcela zničené
před 5 hodinami

V Rusku pohřbili odvolaného ministra Starovojta. Putin na obřad nepřišel
před 6 hodinami

Zelenskyj: Potřebujeme finance a sestřelíme všechno. Snaží se zachránit protivzdušnou obranu
před 7 hodinami

Nikdo je už nikdy neuvidí. Systematická likvidace z rukou Asadova režimu zabila desítky tisíc lidí
před 8 hodinami

Z Ruska je zklamaný. V pondělí budu mít zásadní prohlášení, oznámil Trump
před 8 hodinami

Nová ruská taktika systematicky ničí ukrajinská města. Umírají civilisté, přibývá útoků drony
před 9 hodinami

Fico se k soudu nechystá. Střelci odpustil, zaútočil na opozici a média
před 9 hodinami

Trumpovy výroky živí debatu o evropském jaderném deštníku. Významný německý politik je pro
před 10 hodinami

Tajná služba trestá selhání při atentátu na Trumpa. Suspendovala šest lidí
před 10 hodinami

Další průzkum, jiná čísla. ANO je první, vládní strany si pohoršily
před 10 hodinami

Zemřelo 121 lidí, další se pohřešují. Experti už tuší, proč byly povodně v Texasu tak smrtící
před 11 hodinami

Hrozba teroristického útoku v Česku prověřena. Policie uklidňuje veřejnost
před 12 hodinami

Počasí o víkendu čeká zlom, vrátí se léto
včera

Umělá inteligence sítě X chválila Hitlera. Musk přiznal problémy
včera
Slovinsko balancuje na ostří nože: Premiér Golob návrhem referenda o členství v NATO vyrazil dech
Slovinský premiér Robert Golob rozvířil politickou scénu návrhem, který způsobil poprask nejen mezi jeho odpůrci, ale i mezi vlastními spojenci. Poté, co parlament v Lublani schválil návrh levicové strany Levica na uspořádání poradního referenda o navýšení obranných výdajů na 3 % HDP do roku 2030, reagoval Golob nečekaným protiúderem – chce nechat občany hlasovat o samotném členství země v Severoatlantické alianci.
Zdroj: Libor Novák