Musk vnímá vážná rizika, volá po pauze ve vývoji umělé inteligence

Stovky akademiků, expertů a podnikatelů zapojených do vývoje umělé inteligence (AI) včetně miliardáře Elona Muska v novém prohlášení volají po nejméně půlročním pozastavení vývoje nových modelů s ohledem na "hluboká rizika pro společnost a lidstvo". Navrhují, aby vývojáři tuto pauzu využili ke společné práci na bezpečnostních pravidlech a také k vystupňování spolupráce se zákonodárci na silné regulaci odvětví.

Výzva k okamžitému přerušení vývoje se vztahuje na "trénink systémů AI silnějších než GPT-4", což je nová generace textového modelu, kterou tento měsíc představila společnost OpenAI.

"Toto přerušení by mělo být veřejné a ověřitelné... Nelze-li jej učinit rychle, měly by zakročit vlády a ustanovit moratorium," uvádějí signatáři petice publikované neziskovou organizací Future of Life Institute. Kromě Muska, který patří mezi sponzory OpenAI, jsou mezi nimi spoluzakladatel firmy Apple Steve Wozniak, šéf společnosti Stability AI Emad Mostaque, filozof Yuval Noah Harari či profesoři ze severoamerických i jiných univerzit.

Apel přichází po měsících překotného vývoje v oboru takzvané generativní umělé inteligence, což je označení pro modely "vycvičené" na obrovském množství dat, které vytvářejí originální výstupy na základě identifikovaných vzorců. Mohou při tom generovat nejen texty, ale i obrázky či zvukové stopy připomínající hlasy skutečných lidí. Vývoj vyvolává obavy mimo jiné ze záplavy dezinformací a podvodů založených na autenticky vypadajících vizuálních a zvukových materiálech.

I ředitel OpenAI Sam Altman v nedávném rozhovoru přiznal, že se "trošku bojí". "Musíme tady být opatrní," řekl televizi ABC News u příležitosti uvedení GPT-4. Také ovšem vyjádřil názor, že umělá inteligence může být "nejlepší technologií, jakou dosud lidstvo vyvinulo". Altman podle informací agentury Reuters nebyl mezi více než 1000 signatářů nové výzvy.

Výzva hned v úvodu varuje před závažnými riziky spojenými s umělou inteligencí, "jak ukazuje výzkum a uznaly přední laboratoře AI". "Laboratoře a nezávislí experti by měli využít toto přerušení (vývoje), aby společně vyvinuli a implementovali sadu sdílených bezpečnostních protokolů pro design a rozvoj pokročilé AI... Souběžně musejí vývojáři AI pracovat se zákonodárci na dramatickém urychlení rozvoje robustních systémů regulace AI," píše se v prohlášení.

Poslední měsíce podle autorů přinášejí mezi vývojáři umělé inteligence závod, který se vymkl kontrole. Jak připomíná Reuters, průlom nastal v loňském roce, když společnost OpenAI zpřístupnila aplikaci ChatGPT. To přimělo konkurenční podniky k urychlení vývoje podobných modelů a další firmy ke snaze zapracovat generativní umělou inteligenci do svých produktů. Snahy o regulaci těchto technologií jsou mezitím v počátečních fázích.

"Silné systémy AI by měly být vyvinuty, až když budeme mít důvěru, že jejich dopady budou pozitivní a rizika zvladatelná," uvádí výzva podepsaná Muskem a dalšími. Současné systémy umělé inteligence označuje za srovnatelné s lidmi ve vykonávání jistých úkonů a nastoluje otázky ohledně možného "přechytračení" lidí a "ztráty kontroly nad naší civilizací".

Kritici tvrdí, že signatáři petice potenciál aktuálních technologií hrubě přehánějí, píše Reuters. "Takováto prohlášení mají za cíl vytvořit přehnaná očekávání. Má to v lidech vyvolat obavy," míní výzkumnice v oboru umělé inteligence Johanna Björklundová z univerzity ve švédském Umeaa. "Nemyslím si, že je potřeba tahat za ruční brzdu," dodala.

Související

Elon Musk

Největší destrukce značky v dějinách? Expert popsal, jak Musk zničil Teslu

Americký marketingový expert Scott Galloway označil zapojení Elona Muska do vládních škrtů ve službách administrativy Donalda Trumpa za „jeden z největších případů zničení značky v dějinách“. Na páteční epizodě populárního podcastu Pivot, který Galloway spolumoderuje, uvedl, že Musk odcizil jádro své zákaznické základny tím, že se politicky přiblížil lidem, kteří o elektromobily nemají zájem.
Elon Musk

Elon Musk nekončí. Prozradil, jak dlouho zůstane v čele Tesly

Elon Musk prohlásil, že hodlá zůstat generálním ředitelem společnosti Tesla ještě alespoň dalších pět let. Veřejné ujištění pronesl během vystoupení na katarském ekonomickém fóru pořádaném agenturou Bloomberg v Dauhá. Když se ho moderátor zeptal, zda je připraven vést Teslu v příštích pěti letech, Musk bez váhání odpověděl: „Ano.“ A v reakci na následný dotaz, zda má o tomto plánu nějaké pochybnosti, s typickou dávkou černého humoru dodal: „No, ledaže bych zemřel.“

Více souvisejících

Elon Musk umělá inteligence (AI)

Aktuálně se děje

včera

Dovoz a vývoz zboží

"Trochu respektu..." EU zareagovala na Trumpovu hrozbu 50% cel

Evropská unie vyzvala Spojené státy k vzájemnému respektu v obchodních vztazích poté, co americký prezident Donald Trump pohrozil zavedením 50% cla na veškeré zboží dovážené z EU. Brusel zároveň varoval, že je připraven hájit své zájmy, pokud dojde k eskalaci obchodního napětí.

včera

včera

Elon Musk

Největší destrukce značky v dějinách? Expert popsal, jak Musk zničil Teslu

Americký marketingový expert Scott Galloway označil zapojení Elona Muska do vládních škrtů ve službách administrativy Donalda Trumpa za „jeden z největších případů zničení značky v dějinách“. Na páteční epizodě populárního podcastu Pivot, který Galloway spolumoderuje, uvedl, že Musk odcizil jádro své zákaznické základny tím, že se politicky přiblížil lidem, kteří o elektromobily nemají zájem.

včera

plynovod Nord Stream 2

Odpojení Ruska od SWIFTu, zákaz plynovodů Nord Stream. EU plánuje velmi tvrdé sankce

Evropská unie připravuje další kolo sankcí namířených proti Rusku, jehož cílem je vyvinout větší tlak na Moskvu kvůli pokračující válce proti Ukrajině. Podle informací agentury Bloomberg zvažuje Brusel mimo jiné odpojení více než 20 ruských bank od mezinárodního platebního systému SWIFT, snížení cenového stropu na ruskou ropu a zákaz plynovodů Nord Stream.

včera

Donald Trump

Trump zablokoval sankce proti Rusku. Evropa ztrácí trpělivost a propadá se do zoufalství

Zatímco napětí mezi Ruskem a Ukrajinou přetrvává a evropské státy zoufale hledají způsoby, jak přimět Moskvu k příměří, Spojené státy vedené Donaldem Trumpem odmítají zavést slíbené tvrdé sankce proti Kremlu. Tato situace vyvolává mezi evropskými lídry narůstající frustraci, kterou neutišil ani dvouhodinový telefonát Trumpa s Vladimirem Putinem, jenž k žádnému posunu směrem k míru nevedl.

včera

včera

Mistři světa slavili s fanoušky na Staroměstském náměstí. (27.5.2024)

Herní systém hokejového mistrovství světa by se změnit měl. A nejen ten

Tahle glosa může někomu připadat jako hořekování nad tím, že Češi vypadli z turnaje ve čtvrtfinále kvůli hernímu systému, jakým se turnaj hraje už od roku 2012, ale jde jen o shodu náhod. Češi ve čtvrtek z turnaje mistrovství světa vypadli zaslouženě, neboť jejich soupeř Švédové prokazovali od začátku turnaje nezpochybnitelnou a neoddiskutovatelnou kvalitu, který v týmu plné hvězd z NHL měli a rozdílná kvalita na obou stranách tak musela být znát. O změně herního systému mistrovství světa jsem však považoval za vhodné napsat, jelikož jsem čím dál víc toho názoru, že je nesmyslný, kromě toho, že už je přežitý. A pak především jsem se o tom rozhodl napsat poté, co tuto myšlenku spočívající ve změně herního systému MS, pozvedl po zápase Česka s Maďarskem český trenér Radim Rulík.

včera

MS v hokeji

Dánsko historicky postoupilo přes Kanadu. Švýcaři si poradili s Rakouskem, USA po obratu vyřadila Finy

Čtvrtfinálový čtvrtek vygeneroval semifinalisty letošního hokejového mistrovství světa v Dánsku a ve Švédsku. Do bojů o medaile se zapojí o víkendu Švýcaři, kteří si v alpském derby poradili s Rakouskem 6:0, stejně tak Američané, kteří v duelu dvou obratů vyřadili Finy. Rozhodně o největší překvapení se postarali domácí Dánové, kteří zaskočili favorizovanou Kanadu plnou hvězd NHL v nedbalkách a po nečekaně vyrovnaném průběhu až dvěma góly v závěru otočili senzačně z 0:1 na 2:1 a poprvé v historii si tak zahrají o medaile. Doplnili tak v bojích o ně další pořadatelský tým Švédsko, které přešlo, jak známo, přes Čechy.

včera

Rusko, Kreml

Svět má za sebou dva hektické týdny plné chaosu a jednání. A ukrajinský mír je stále v nedohlednu

Uplynulé dva týdny přinesly dramatické dění na frontách diplomacie i bojišť. Přestože se svět dočkal největší výměny válečných zajatců od začátku ruské invaze a Moskva s Kyjevem se poprvé po třech letech posadily ke společnému jednacímu stolu, žádný skutečný průlom směrem k míru se nekoná. A ruské vedení dává najevo, že si situaci vykládá jako vítězství – jak v oblasti diplomacie, tak vojenské převahy.

včera

Izraelská armáda

Izraelští vojáci přiznali, že používají palestinské civilisty jako lidské štíty

Podle investigativního šetření agentury Associated Press (AP) je izraelská armáda systematicky obviňována z toho, že nutí palestinské civilisty sloužit jako lidské štíty během své ofenzivy v Pásmu Gazy. Sedm Palestinců a dva izraelští vojáci popsali, že civilisté byli nuceni vstupovat do budov a tunelů kvůli kontrole přítomnosti výbušnin nebo ozbrojenců. Vše probíhá v rozporu s mezinárodním humanitárním právem, které takové praktiky výslovně zakazuje.

včera

Zásah záchranářů po ruských útocích na Ukrajině

Kyjev v noci čelil jednomu z největších útoků od začátku války

V noci na dnešek zažila ukrajinská metropole Kyjev jeden z největších leteckých útoků od počátku ruské invaze v únoru 2022. Podle ukrajinského letectva Rusko vypustilo celkem 250 dronů a 14 balistických raket, přičemž šest raket a 245 dronů se podařilo sestřelit. Útok způsobil rozsáhlé škody na obytných budovách, podnicích i civilních vozidlech a zanechal nejméně 14 zraněných.

včera

Hackeři, ilustrační foto

Operace Endgame: Mezinárodní razie rozbila ruskou síť kyberzločinu

Nadnárodní operace s krycím názvem Endgame přinesla zásadní úder proti rozsáhlé síti kyberzločinců vedené z Ruska. Podle vyšetřovatelů z Evropy a Severní Ameriky byla zlikvidována centrální část sofistikované malwarové infrastruktury, která měla na svědomí stovky útoků na veřejné instituce, soukromé firmy i běžné uživatele po celém světě. Klíčovou roli v akci sehráli policisté z Velké Británie, Kanady, Dánska, Nizozemska, Francie, Německa a Spojených států amerických.

včera

Benjamin Netanjahu, známý pod přezdívkou Bibi

Netanjahu čelí obvinění z pomluvy poté, co napadl Macrona, Carneyho a Starmera

Izraelský premiér Benjamin Netanjahu se dostal do mimořádného diplomatického konfliktu se západními spojenci, když obvinil lídry Francie, Kanady a Spojeného království z podněcování antisemitismu a podpory hnutí Hamás. Tvrdá slova, která vyvolala vlnu pobouření, zazněla v reakci na společné prohlášení prezidenta Emmanuela Macrona, premiéra Marka Carneyho a premiéra Keira Starmera, kteří vyzvali Izrael k ukončení ofenzivy a blokády humanitární pomoci do Pásma Gazy.

včera

Golden Dome

Zůstane Trumpův Golden Dome jen na papíře? Může se sesypat jako Reaganovy "Hvězdné války"

Americký prezident Donald Trump představil ambiciózní plán na vývoj nové generace protiraketového obranného systému s názvem „Golden Dome“, který má být schopen zachytit rakety vypálené odkudkoli na světě – včetně těch z vesmíru. Podle jeho slov se systém částečně inspiruje izraelským „Iron Dome“, který chrání Izrael před raketovými útoky. Trump tvrdí, že nový štít bude funkční do konce jeho aktuálního čtyřletého mandátu.

včera

Dovoz a vývoz zboží

Trump hrozí cly na Apple. Odmítá dohodu s EU, Evropa zvažuje odvetu

Americký prezident Donald Trump v pátek oznámil, že plánuje zavést 50% clo na dovoz z Evropské unie. Tento krok odůvodnil stagnací ve vzájemných obchodních jednáních a podle jeho slov jednostrannými a neférovými překážkami ze strany EU. Jak uvedl na síti Truth Social, unie podle něj uplatňuje „obrovské obchodní bariéry, DPH, absurdní pokuty pro firmy, neférové žaloby a měnové manipulace“, které způsobují USA každoroční obchodní deficit přesahující 250 miliard dolarů.

včera

Harvardova univerzita

Zahraniční studenti mohou zůstat, zatím. Soud zastavil nařízení Trumpovy administrativy

Federální soudkyně Allison Burroughsová v pátek vydala předběžné opatření, které dočasně pozastavuje rozhodnutí Trumpovy administrativy odebrat Harvardově univerzitě oprávnění přijímat zahraniční studenty. Rozhodnutí přišlo jen několik hodin poté, co Harvard podal žalobu, v níž tvrdí, že jde o jasnou odvetu za to, že univerzita odmítla splnit ideologické požadavky federální vlády.

včera

23. května 2025 21:57

23. května 2025 20:42

Aktualizováno 23. května 2025 20:07

Dálnici D10 uzavřela tragická nehoda. Havarovalo devět vozidel

Hromadná nehoda s tragickými následky se stala v pátek před polednem na dálnici D10. Podle policie havarovalo celkem devět vozidel. Nejméně jeden člověk zemřel, další z účastníků havárie utrpěl zranění.

Zdroj: Jan Hrabě

Další zprávy