Musk vnímá vážná rizika, volá po pauze ve vývoji umělé inteligence

Stovky akademiků, expertů a podnikatelů zapojených do vývoje umělé inteligence (AI) včetně miliardáře Elona Muska v novém prohlášení volají po nejméně půlročním pozastavení vývoje nových modelů s ohledem na "hluboká rizika pro společnost a lidstvo". Navrhují, aby vývojáři tuto pauzu využili ke společné práci na bezpečnostních pravidlech a také k vystupňování spolupráce se zákonodárci na silné regulaci odvětví.

Výzva k okamžitému přerušení vývoje se vztahuje na "trénink systémů AI silnějších než GPT-4", což je nová generace textového modelu, kterou tento měsíc představila společnost OpenAI.

"Toto přerušení by mělo být veřejné a ověřitelné... Nelze-li jej učinit rychle, měly by zakročit vlády a ustanovit moratorium," uvádějí signatáři petice publikované neziskovou organizací Future of Life Institute. Kromě Muska, který patří mezi sponzory OpenAI, jsou mezi nimi spoluzakladatel firmy Apple Steve Wozniak, šéf společnosti Stability AI Emad Mostaque, filozof Yuval Noah Harari či profesoři ze severoamerických i jiných univerzit.

Apel přichází po měsících překotného vývoje v oboru takzvané generativní umělé inteligence, což je označení pro modely "vycvičené" na obrovském množství dat, které vytvářejí originální výstupy na základě identifikovaných vzorců. Mohou při tom generovat nejen texty, ale i obrázky či zvukové stopy připomínající hlasy skutečných lidí. Vývoj vyvolává obavy mimo jiné ze záplavy dezinformací a podvodů založených na autenticky vypadajících vizuálních a zvukových materiálech.

I ředitel OpenAI Sam Altman v nedávném rozhovoru přiznal, že se "trošku bojí". "Musíme tady být opatrní," řekl televizi ABC News u příležitosti uvedení GPT-4. Také ovšem vyjádřil názor, že umělá inteligence může být "nejlepší technologií, jakou dosud lidstvo vyvinulo". Altman podle informací agentury Reuters nebyl mezi více než 1000 signatářů nové výzvy.

Výzva hned v úvodu varuje před závažnými riziky spojenými s umělou inteligencí, "jak ukazuje výzkum a uznaly přední laboratoře AI". "Laboratoře a nezávislí experti by měli využít toto přerušení (vývoje), aby společně vyvinuli a implementovali sadu sdílených bezpečnostních protokolů pro design a rozvoj pokročilé AI... Souběžně musejí vývojáři AI pracovat se zákonodárci na dramatickém urychlení rozvoje robustních systémů regulace AI," píše se v prohlášení.

Poslední měsíce podle autorů přinášejí mezi vývojáři umělé inteligence závod, který se vymkl kontrole. Jak připomíná Reuters, průlom nastal v loňském roce, když společnost OpenAI zpřístupnila aplikaci ChatGPT. To přimělo konkurenční podniky k urychlení vývoje podobných modelů a další firmy ke snaze zapracovat generativní umělou inteligenci do svých produktů. Snahy o regulaci těchto technologií jsou mezitím v počátečních fázích.

"Silné systémy AI by měly být vyvinuty, až když budeme mít důvěru, že jejich dopady budou pozitivní a rizika zvladatelná," uvádí výzva podepsaná Muskem a dalšími. Současné systémy umělé inteligence označuje za srovnatelné s lidmi ve vykonávání jistých úkonů a nastoluje otázky ohledně možného "přechytračení" lidí a "ztráty kontroly nad naší civilizací".

Kritici tvrdí, že signatáři petice potenciál aktuálních technologií hrubě přehánějí, píše Reuters. "Takováto prohlášení mají za cíl vytvořit přehnaná očekávání. Má to v lidech vyvolat obavy," míní výzkumnice v oboru umělé inteligence Johanna Björklundová z univerzity ve švédském Umeaa. "Nemyslím si, že je potřeba tahat za ruční brzdu," dodala.

Související

Více souvisejících

Elon Musk umělá inteligence (AI)

Aktuálně se děje

Aktualizováno před 32 minutami

Ebráhím Raísí

Írán se obává o prezidenta Raísího. Prezidentský vrtulník havaroval

Nejasný je osud iránského prezidenta Ebráhíma Raísího po havárii jednoho ze tří vrtulníků v konvoji, který politika převážel. Íránská média zprvu podle světových agentur informovala o "tvrdém přistání". Úřady se strojem ztratily kontakt, probíhá rozsáhlé pátrání. Raisí má být v ohrožení života. 

před 51 minutami

Natálie Grossová ve filmu Společně sami.

RECENZE: Nesoudný produkt Společně sami se neměl dostat do kin

Stává se už jen velmi málo, aby se do českých kin dostal film, jehož kvality jsou k samotnému promítání zkrátka nedostačující. Řemeslnou neschopností počínaje, zcela otupujícím dějem a neexistující pointou konče. Většina těchto projektů je navázaná na jména Evy Toulové a Tomáše Magnuska. Novinka Společně sami do této kategorie bohužel spadá.

před 1 hodinou

Zbyněk Stanjura

Stanjura by uvítal odchod Pavla Novotného z ODS

Ministr financí a místopředseda ODS Zbyněk Stanjura by uvítal, kdyby se Pavel Novotný rozhodl sám ze strany odejít. Stanjura to řekl v nedělním vydání diskuzního pořadu Otázky Václava Moravce.

před 2 hodinami

před 3 hodinami

David Pastrňák

Pastrňák se Zachou prošli zdravotní prohlídkou a jsou blízko účasti na domácím MS

Největší česká hokejová hvězda David Pastrňák je blízko tomu, aby mohla být v pondělí přivítána v Praze, kde by se připojila k národnímu týmu na mistrovství světa. Poté, co útočník se svým Bostonem vypadl z play-off kanadsko-americké NHL, měl nyní projít bez problémů nezbytnou zdravotní prohlídkou a na základě toho ho tak jeho zaměstnavatel může uvolnit. Zdravotní prohlídkou pak prošel i další bostonský medvěd Pavel Zacha.

Aktualizováno před 3 hodinami

před 4 hodinami

Policie SR, ilustrační fotografie.

Atentát na Fica: Vyšetřuje se i teorie, že pachatel nebyl osamělým vlkem

Vyšetřovatelé se v případu středečního atentátu na slovenského premiéra Roberta Fica (Smer-SD) zabývají i možností, že pachatel Juraj C. nebyl osamělým vlkem, řekl ministr vnitra Matúš Šutaj Eštok (Hlas-SD) v neděli. Upozornil, že spolupachateli nebyli dva lidé z Handlové, jak se šířilo na sociálních sítích. 

před 4 hodinami

před 4 hodinami

Peter Pellegrini

Pellegrini: Někteří politici nejsou schopni sebereflexe. Na kulatý stůl nedozrál čas

Na kulatý stůl slovenských politických stran zatím ani po atentátu na Roberta Fica (Smer-SD) nedozrál čas, řekl zvolený prezident Peter Pellegrini v neděli. Pellegrini se v týdnu sešel s prezidentkou Zuzanou Čaputovou a navrhl jednání politických subjektů. Občany dnes vyzval, aby se nenechali unést negativními emocemi, které může přinést další politický souboj. 

před 6 hodinami

před 7 hodinami

před 8 hodinami

Bouřka, ilustrační fotografie.

Počasí: V Česku dnes udeří bouřky. Meteorologové upřesnili výstrahu

V Česku od dnešní 14. hodiny hrozí silné bouřky. Český hydrometeorologický ústav (ČHMÚ) aktualizoval výstrahu, která se nově týká severních, severovýchodních a východních Čech a části Moravy až do půlnoci. Nejmenší pravděpodobnost výskytu bouřek je na jižní Moravě a v částech Vysočiny a Zlínského kraje.

před 9 hodinami

Robert Fico

Fico je mimo ohrožení života, oznámili lékaři

Slovenský premiér Robert Fico (Smer-SD), který se ve středu stal obětí atentátu, je aktuálně mimo ohrožení života, uvedl v neděli vicepremiér a ministr obrany Robert Kaliňák (Smer-SD). Ficův stav je ale nadále vážný. 

před 10 hodinami

Policie SR, ilustrační fotografie

Slovenská policie obvinila lidi, kteří schvalovali atentát na Fica

Slovenská policie obvinila tři lidi, kteří na sociálních sítích schvalovali středeční atentát na premiéra Roberta Fica (Smer-SD), uvedla policejní mluvčí Denisa Bárdyová. Obvinění jsou v cele předběžného zadržení, informovala agentura TASR. Fico je hospitalizován v nemocnici v Banské Bystrici ve vážném, nicméně stabilizovaném stavu. 

před 10 hodinami

před 11 hodinami

před 11 hodinami

před 12 hodinami

před 12 hodinami

před 13 hodinami

Tornádo na Ústecku se potvrdilo. Pohybovalo se i přes tok Labe

Podezření na sobotní výskyt tornáda na Ústecku se potvrdilo, informoval Český hydrometeorologický ústav (ČHMÚ) na sociální síti X. Tornádo se pohybovalo i přes říční tok. Experti se chystají na terénní průzkum místa. 

Zdroj: Jan Hrabě

Další zprávy