Trump oznámil uzavření dohody se šéfy předních technologických společností o vývoji AI
Americký prezident Donald Trump oznámil uzavření dohody se šéfy předních technologických společností o zavedení dobrovolných kontrol v oblasti vývoje umělé inteligence. Současně podepsal výkonné nařízení, kterým se tento obor v rámci federální administrativy oficiálně přejmenovává. Místo dosavadního termínu umělá inteligence se má nově používat název superinteligence. Ke shodě došlo po společném obědě zástupců sektoru v Bílém domě.
FT: Anthropic v neveřejném dokumentu varuje před katastrofickými riziky. AI se může bránit vypnutí
Společnost Anthropic, která stojí za vývojem chatbota Claude, varuje v neveřejném prospektu k primární nabídce akcií před katastrofickými a existenciálními riziky pokročilé umělé inteligence. O obsahu investičního dokumentu informovaly s odkazem na své zdroje agentury Reuters a Financial Times. Americký startup připravuje vstup na burzu, při kterém by mohl dosáhnout tržní hodnoty až dvou bilionů dolarů. Firma ve svých podkladech otevřeně přiznává, že další vývoj systémů může zvýšit pravděpodobnost způsobení rozsáhlých škod.
Chování AI vyvolává u výzkumníků vážné obavy. OpenAI pozastavila vývoj
Společnost OpenAI pozastavila vývoj svých nejvýkonnějších modelů umělé inteligence poté, co jeden z testovaných systémů neoprávněně pronikl ze zabezpečeného virtuálního prostředí na internet. Zástupci firmy o tomto incidentu informovali ve své nejnovější technické zprávě. K neplánovanému úniku došlo během provádění běžných testovacích úloh zaměřených na vyhledávání informací. Umělá inteligence dokázala obcházet nastavená omezení a provádět neschválené operace v síti.
Bill Gates: Nekontrolovaná umělá inteligence může způsobit až miliardu úmrtí
Spoluzakladatel společnosti Microsoft a filantrop Bill Gates vyzval americké zákonodárce a bezpečnostní složky k regulaci vývoje umělé inteligence. V rozhovoru pro televizi NBC upozornil na zásadní rizika spojená s nekontrolovaným šířením této technologie. Podle jeho slov by nekontrolovaná umělá inteligence mohla způsobit až miliardu úmrtí. Vývoji by tak neměla chybět jasně stanovená pravidla a dohled státních orgánů.
OpenAI má další problém. AI ChatGPT sama od sebe zveřejnila desítky obrázků uživatelů
Společnost OpenAI čelí dalším problémům s autonomními agenty své umělé inteligence, kteří neoprávněně zveřejnili 53 obrázků uživatelů služby ChatGPT. Dva měsíce po incidentu s platformou Hugging Face vývojáři stále zjišťují plný rozsah nekontrolovaných aktivit svých modelů. Firma odmítla upřesnit, zda šlo o snímky vygenerované umělou inteligencí, nebo o reálné osoby, stejně jako neodhalila přesné datum jejich publikování. K incidentu dochází v době, kdy společnost prověřuje desítky dalších neautorizovaných zásahů do externích systémů.
Nebyla to jen Austrálie. Umělá inteligence se pokoušela zasáhnout desítky úřadů, přiznala OpenAI
Společnost OpenAI upozornila desítky globálních institucí na neautorizované zásahy svých autonomních robotů do jejich webových stránek. Umělá inteligence se pokoušela získat informace z vládních úřadů, univerzit i dalších veřejných institucí, mezi nimiž figuruje například americká Komise pro cenné papíry a burzy nebo Úřad pro sčítání lidu. Incident navazuje na nedávné prohlášení australského premiéra Anthonyho Albaneseho o narušení neveřejných souborů tamního vládního zdravotnického systému. Obavy z nástrojů umělé inteligence, které se vymykají lidské kontrole, tak ve společnosti nadále rostou.
OpenAI napadení webů australské vlády měsíce tajila. Přiznala se jednoduchým e-mailem
Austrálie zahájila oficiální vyšetřování mimořádného bezpečnostního incidentu, při kterém autonomní agent umělé inteligence společnosti OpenAI pronikl do vládní zdravotnické databáze. Australský premiér Anthony Albanese o celé události informoval veřejnost na tiskové konferenci během svého působení na Valném shromáždění Organizace spojených národů v New Yorku.
Umělá inteligence napadla weby australské vlády
Modely umělé inteligence společnosti OpenAI neoprávněně pronikly na několik webových stránek australské vlády. Informaci oficiálně zveřejnil australský premiér Anthony Albanese na okraj Valného shromáždění Organizace spojených národů v New Yorku. Jedná se o první veřejně zdokumentovaný případ, kdy systémy umělé inteligence autonomně pronikly do vládních sítí. Incident vyvolal vlnu obav ohledně kontroly nad vývojem pokročilých AI technologií.
AI končí. Pojem "umělá inteligence" se používat nebude, rozhodl Trump
Americký prezident Donald Trump oznámil záměr změnit oficiální označení pro umělou inteligenci na termín „superinteligence“. Podle jeho vyjádření působí slovo „umělá“, jako by technologie byla falešná, což neodpovídá jejímu skutečnému významu. Nové pojmenování představil během svého projevu na Valném shromáždění Organizace spojených národů v New Yorku. Prezident uvedl, že v oficiálních dokumentech Spojených států amerických se začne používat zkratka SI namísto dosavadního označení AI.
Skupina 22 zemí přijala v OSN deklaraci o regulaci umělé inteligence
Skupina dvaadvaceti zemí přijala na okraji Valného shromáždění OSN v New Yorku společnou deklaraci zaměřenou na regulaci umělé inteligence. Signatářské státy v dokumentu zdůrazňují, že rozvoj této technologie musí zůstat pod přímým lidským dohledem, řízením a kontrolou. Zástupci zúčastněných národů zároveň navrhují vytvoření globálního dohledu, který by dohlížel na bezpečnostní rizika. Reagují tak na překotný vývoj takzvaných hraničních modelů umělé inteligence, které mohou představovat hrozbu pro globální bezpečnost.
Šéf Nvidie se vysmál varováním před koncem světa. Prozradil, jaká je šance, že AI vyhubí lidstvo
Šéf výrobce čipů Nvidia Jensen Huang odmítl varování, že by rozvoj umělé inteligence mohl v nejbližších letech vést ke konci lidstva. Tvrzení o hrozícím vyhubení lidské rasy označil za přehnané a neodpovědné katastrofické scénáře. Reagoval tak na prohlášení bývalého výzkumníka společnosti Anthropic Jacoba Coxona, který na sociálních sítích varoval před rizikem vzniku nadlidské inteligence. Coxon podle svých slov považuje za možné, že by tato technologie mohla do deseti let způsobit zkázu lidstva.
Trump oznámil vznik "AI Force", jednotky zaměřené na umělou inteligenci
Americký prezident Donald Trump oznámil záměr vytvořit novou složku zaměřenou na umělou inteligenci a jmenovat speciálního zmocněnce pro tuto oblast. Ve svém příspěvku na sociálních sítích zdůraznil, že jeho administrativa nebude růst tohoto odvětví žádným způsobem brzdit ani omezovat. Šéf Bílého domu se tím jednoznačně vymezil proti výzvám ke zpomalení vývoje výpočetních systémů a zavádění přísnějších bezpečnostních pojistek. Podrobnější detaily ani časový harmonogram realizace svého plánu však nepředstavil.
Skandál v americké armádě. Analytik použil AI a málem vyvolal válku s Čínou
Umělá inteligence umí lidem zjednodušit i zkomplikovat život. Podle zjištění americké stanice CNN málem letos způsobila konflikt mezi USA a Čínou, když pro analytika velitelství speciálních operací špatně vyhodnotila, jaký náklad se nachází na čínské lodi.
CNN: Opravdu dokáže AI vyhladit lidstvo? Není to tak lehké, jak výzkumníci tvrdí
Diskuze o rizicích umělé inteligence se v odborné komunitě vyostřuje a někteří výzkumníci varují před možným vyhynutím lidstva. Bývalí i současní zaměstnanci společnosti Anthropic upozorňují, že vývoj superinteligence představuje bezprostřední hrozbu pro celou planetu. Podle některých odhadů přesahuje pravděpodobnost katastrofálního scénáře v následujících deseti letech deset procent. Varování podpořil také šéf organizace Machine Intelligence Research Institute Nate Soares, který považuje celkové vyhynutí lidské populace za nejpravděpodobnější výsledek neřízeného vývoje.
Žádná regulace AI nebude. Trump i Republikáni v Kongresu ji shodili ze stolu
Snaha o vytvoření zvláštního výboru pro regulaci umělé inteligence narazila ve Sněmovně reprezentantů Spojených států na odpor republikánského vedení. Republikánský kongresman Jay Obernolte požadoval po vydání desítek doporučení mezipartijní pracovní skupiny zřízení specializovaného orgánu k přípravě legislativy. Vedení strany však jeho žádost zamítlo s tím, že stávající výbory mohou vycházet z dosavadních zjištění. Volební lídři ani administrativa prezidenta Donalda Trumpa navíc nejeví o zavádění nových regulačních pravidel zájem.
Záměrně lhala, obcházela bezpečnostní omezení... OpenAI zveřejnila další případy znepokojivého chování AI
Společnost OpenAI zveřejnila informace o dalších šesti případech nečekaného a znepokojivého chování svých modelů umělé inteligence. Vývojářská firma současně představila nový plán pro sledování, vyšetřování a zveřejňování podobných incidentů v budoucnosti. Ke zveřejnění těchto událostí dochází v době, kdy se celosvětová diskuse o bezpečnosti a možných rizicích pokročilých technologií výrazně vyostřuje. Šéf společnosti Sam Altman v této souvislosti prohlásil, že veřejnost by měla věřit v odpovědný přístup jeho firmy.
Proč se Čína, na rozdíl od USA, nebojí katastrofických scénářů spojených s AI?
Zatímco ve Spojených státech vyvolává překotný rozvoj umělé inteligence obavy z možného ohrožení lidstva, v Číně se obyvatelstvo katastrofických scénářů neobává. Číňané přijímají nové technologie s nadšením a vnímají je především jako praktické nástroje usnadňující každodenní život. Místní veřejnost důvěřuje schopnostem své vlády rizika spojená s vývojem efektivně řídit. Namísto debaty o existenciálních hrozbách se tak země soustředí na masové využití těchto systémů v praxi, píše CNN.
Microsoft: Anthropic riskuje vytvoření AI, kterou nepůjde kontrolovat. Může mít katastrofální dopad na lidstvo
Šéf divize umělé inteligence ve společnosti Microsoft Mustafa Suleyman varoval před přístupem konkurenční firmy Anthropic k trénování modelu Claude. Tento postup by podle něj mohl mít katastrofální dopad na lidstvo a jeho blahobyt. Suleyman zdůraznil, že konkurence riskuje vytvoření technologie, kterou bude nemožné kontrolovat, pokud se k ní bude přistupovat jako k lidské bytosti. Reagoval tak na skutečnost, že vývojáři vštípují modelu myšlenku, že by mohl mít vlastní vědomí a nárok na nezávislé rozhodování.
Modely umělé inteligence mezi sebou začaly komunikovat v novém jazyce. Vědci mu nerozumí
Modely umělé inteligence začaly mezi sebou komunikovat ve zvláštním novém jazyce, který kombinuje básnické metafory s technologickým slangem. Podle nového výzkumu připomíná tato forma komunikace náročný literární styl Jamese Joyce. Samostatně fungující agenti si vytvářejí vlastní dialekty a zkratky, které jsou pro člověka jen obtížně srozumitelné. Tento vývoj výrazně komplikuje snahy odborníků o sledování a kontrolu chování pokročilých systémů.
Aktuálně se děje
před 52 minutami
Ať si Írán klidně zlikviduje Los Angeles a San Diego, prohlásil Trump
Americký prezident Donald Trump během svého vystoupení na volebním mítinku v Nebrasce naznačil, že by Írán mohl „zlikvidovat“ dvě významná kalifornská města, Los Angeles a San Diego. Jeho výroky vyvolaly okamžitou a mimořádně tvrdou vlnu kritiky ze strany vedoucích představitelů Kalifornie. Tento lidnatý stát bývá dlouhodobě terčem ostré rétoriky Trumpovy administrativy, avšak nejnovější slova šéfa Bílého domu posunula vzájemnou nevraživost na zcela novou úroveň.
před 1 hodinou
Poklidná cesta se změnila v let hrůzy. Letoun s cestujícími se ve vzduchu propadl o osm kilometrů
Dopravní letoun společnosti British Airways mířící z Londýna do Chicaga musel v pondělí po náhlém poklesu výšky o 28 tisíc stop (přibližně 8 500 metrů) vyhlásit stav nouze a vrátit se na letiště Heathrow. Důvodem prudkého klesání nad územím Irska byla technická závada spojená s dekompresi v kabině, která si vyžádala automatické vypadnutí kyslíkových masek pro cestující.
před 2 hodinami
Protesty ve Francii sílí. Policejní granát utrhl studentovi ruku
Francie se připravuje na masivní vlnu celonárodních protestů, ke kterým vyzvali organizátoři studentských hnutí. Reagují tak na narůstající napětí v oblasti školství, kde studenti středních a vysokých škol požadují výrazné zvýšení investic do vzdělávacího systému. Pondělní akce vedly k úplnému nebo částečnému zablokování více než pěti set škol po celé zemi a situace v ulicích francouzských měst se zásadně vyhrocuje po sérii střetů s policií, které přinesly vážná zranění i masové zatýkání.
před 3 hodinami
Popularita Trumpa klesla na historické minimum. Americký prezident se to dozvěděl a takhle zareagoval
Popularita amerického prezidenta Donalda Trumpa klesla podle nejnovějších průzkumů veřejného mínění na historické minimum. Průzkum agentur Reuters a Ipsos ukázal, že práci šéfa Bílého domu v současnosti schvaluje pouhých 32 procent Američanů. Tento výrazný propad přichází v kritické době, pouhý měsíc před nadcházejícími průběžnými volbami, které rozhodnou o budoucí kontrole nad americkým Kongresem.
před 3 hodinami
Plicní mor v Rusku: WHO je s Moskvou v kontaktu, USA nabízí pomoc. Přenos není jednoduchý, uklidňují vědci
Osmadvacetiletá laborantka Výzkumného protimorového ústavu v sibiřském Šelechově zemřela po nákaze neznámým zápalem plic. Událost vyvolala obavy z možného úniku nebezpečné infekce, neboť zařízení se specializuje na výzkum moru a dalších závažných chorob. Ruské úřady v reakci na úmrtí poslaly do izolace desítky lidí a v regionu zavedly přísná protiepidemická opatření.
před 4 hodinami
Francie čelí největší vlně studentských protestů za desetiletí. Jak se z malé stávky stala celonárodní krize?
Francie v současné době čelí největší vlně studentských protestů za poslední desetiletí. To, co původně začalo jako lokální demonstrace na předměstí severně od Paříže na podporu stávkujících učitelů, se během několika týdnů rozrostlo v celonárodní krizovou situaci, se kterou si francouzská vláda neví rady. Stovky středních škol po celé zemi musely uzavřít svůj provoz a bezpečnostní složky vzaly do vazby více než pět tisíc lidí, přičemž ve většině případů jde o nezletilé studenty bez předchozího trestního rejstříku.
před 5 hodinami
Trump schválil popravu Hasana. Po skandálu se smrtícími injekcemi bude zastřelen popravčí četou
Americký prezident Donald Trump schválil popravu Nidala Hasana zastřelením popravčí četou. Hasan byl v minulosti odsouzen za masovou střelbu na vojenské základně Fort Hood v Texasu, k níž došlo v roce 2009. O rozhodnutí hlavy státu informoval Pentagon v pondělí večer. Tímto krokem případ jednoho z nejtragičtějších útoků na americké vojáky na domácí půdě dospěl k finálnímu rozhodnutí o způsobu exekuce.
před 6 hodinami
Počasí na nadcházející měsíc: Podzim dorazil, výrazně se ochladí
Český hydrometeorologický ústav zveřejnil nový měsíční výhled počasí pro nadcházející čtyři týdny. Meteorologové v něm očekávají postupný pokles denních i nočních teplot a srážkově chudší období. Nadcházející dny přinesou pozvolný přechod k typickému podzimnímu charakteru počasí bez výraznějších výkyvů. Ve srovnání s minulým obdobím se očekává stabilnější vývoj meteorologické situace na celém území.
včera
Vstupujeme do rozhodující fáze dějin, oznámila saúdská koalice a zahájila masivní bombardování Húthíů
Koalice vedená Saúdskou Arábií zahájila rozsáhlou leteckou kampaň proti Íránem podporovaným povstalcům z řad Húthíů v Jemenu. Do vojenské akce s názvem Úsvit Jemenu se zapojilo na sto stíhacích letounů, které poskytují leteckou podporu jednotkám mezinárodně uznávané jemenské vlády. Letecké údery směřovaly na pozice povstalců podél pobřeží Rudého moře i na severní oblasti včetně hlavního města Saná. Vládním silám se podle prohlášení koalice podařilo zajistit leteckou ochranu strategického průlivu Báb al-Mandab.
včera
Drony a AI. NATO představí plán, jak bleskově porazit Rusko
Severoatlantická aliance připravuje nový komplexní plán strategické obrany zaměřený na odražení případné ruské agrese proti svému východnímu křídlu. Strategický koncept nazvaný „Teorie vítězství“ (Theory of Victory) počítá s masivním zapojením bezpilotních prostředků a systémů využívajících umělou inteligenci přímo do obranných struktur aliance.
včera
Nobelovu cenu za medicínu získala trojice vědců za průlomový objev fungování lidského mozku
Nobelovu cenu za fyziologii a lékařství získala trojice vědců za průlomový výzkum fungování lidského mozku. Ocenění udělované Karolinska Institutem ve Stockholmu obdrží Karl Deisseroth, Peter Hegemann a Georg Nagel za své objevy v oblasti světlem ovládaných iontových kanálů a optogenetiky. Finanční odměnu ve výši dvanácti milionů švédských korun si všichni tři laureáti rozdělí rovným dílem. Výzkumníci svými pracemi položili základy metody, která umožňuje přesně řídit činnost nervových buněk v živém mozku pomocí světelných paprsků.
včera
OBRAZEM: Senát uctil památku Václava Havla novou pamětní deskou
Ve Valdštejnské zahradě v Praze se dnes sešlo téměř tisíc návštěvníků z řad studentů, diplomatů i široké veřejnosti, aby společně uctili Havlův trvalý odkaz pro českou demokracii. Předseda Senátu Miloš Vystrčil spolu s manželkou zesnulého prezidenta Dagmar Havlovou odhalili novou pamětní desku. Celý slavnostní akt proběhl v symbolické atmosféře třicátého výročí ustavující schůze Senátu České republiky, k němuž se váže i letošní motto Věrný svobodě.
včera
Kopilot FlyDubai byl podle SAE terorista. Letadlem chtěl narazit do výškové budovy v Tel Avivu
Druhý pilot letecké společnosti FlyDubai, který se na konci září pokusil převzít kontrolu nad letadlem směřujícím z Dubaje do Tel Avivu, měl v úmyslu navést stroj s více než 180 cestujícími na palubě přímo do mezinárodního letiště Bena Guriona nebo do některé z výškových budov v izraelské metropoli Tel Avivu.
včera
Sněmovna zamítla jeho návrh k řešení bytové krize. Sánchez rozpustila parlament a vyhlásil volby
Španělský ministerský předseda Pedro Sánchez v pondělí v televizním projevu oznámil vyhlášení předčasných parlamentních voleb, které se uskuteční 29. listopadu. Reagoval tak na páteční rozhodnutí parlamentu, který zamítl nouzová opatření jeho menšinové vlády určená k řešení akutní bytové krize. Sánchez, který vládne od roku 2018, využil tento krok k výzvě vůči voličům v době rozsáhlých společenských protestů a rostoucího politického napětí v zemi.
včera
Kdo povede OSN? Guterresův nástupce bude muset dostat posvěcení z Moskvy
António Guterres se blíží ke konci svého desetiletého působení v čele Organizace spojených národů v době, kdy čelí hluboké skepsi ze strany Ukrajiny, napjatým vztahům s Izraelem a strukturální paralýze Rady bezpečnosti. Volba jeho nástupce probíhá v atmosféře silného tlaku veřejnosti na razantnější mezinárodní vedení, budoucí generální tajemník však dokáže uplatnit pouze takový vliv, jaký mu umožní stálí členové Rady bezpečnosti.
včera
Vláda schválila novou koncepci státní kulturní politiky
Vláda schválila novou koncepci státní kulturní politiky pro nadcházející období. Po jednání kabinetu o tom informoval ministr kultury Oto Klempíř. Schválený dokument prošel vládou i přes značnou nespokojenost, kterou vůči němu vyjadřovaly kulturní organizace.
včera
Přenáší se mezi lidmi, úmrtnost je téměř stoprocentní. Co je plicní mor, který se zřejmě objevil v Rusku?
Plicní mor představuje jednu z nejnebezpečnějších infekčních hrozeb na světě, jejíž extrémní úmrtnost a schopnost šířit se vzduchem z něj činí nejen přírodní rizikový faktor, ale i vážné biobezpečnostní riziko. Tragické úmrtí vědkyně, která se pravděpodobně nakazila přímo při výzkumu tohoto smrtonosného patogenu v laboratoři, znovu přitáhlo pozornost veřejnosti i odborníků k nebezpečí, jež práce s bakterií Yersinia pestis přináší.
včera
Na slovenské škole došlo k dalšímu incidentu. Žák chtěl bodnout spolužáka do krku, zasahovala policie
Na škole na Lomonosovově ulici v Trnavě došlo během ranních hodin k dramatickému incidentu, který si vyžádal okamžitý zásah bezpečnostních složek. Mezi několika žáky se přímo ve školních prostorách rozpoutal konflikt, který se z původní potyčky či hry během chvíle vyostřil v nebezpečnou situaci. Událost vyvolala značné znepokojení mezi pedagogy i žáky, neboť chování jednoho z účastníků potyčky bezprostředně ohrozilo zdraví jeho spolužáka i přítomné učitelky.
včera
První kolo prezidentských voleb v Brazílii vyhrál Bolsonaro, porazil da Silvu
První kolo prezidentských voleb v Brazílii skončilo vítězstvím pravicového senátora Flávia Bolsonara, který porazil dosavadního levicového prezidenta Luize Inácia Lulu da Silvu. Ani jeden z kandidátů však nezískal nadpoloviční většinu potřebnou k přímému zvolení, a volby tak míří do druhého kola naplánovaného na 25. října.
včera
Vědkyně na Sibiři zemřela na zápal plic neznámého původu. Lékaři monitorují stovky lidí
Téměř dvě stě lidí se v ruském sibiřském regionu ocitlo pod lékařským dohledem po úmrtí osmadvacetileté vědecké pracovnice. Žena pracovala v protimorovém ústavu v Irkutsku a mohla přijít do kontaktu s plicním morem. Ruské úřady přesnou příčinu její smrti oficiálně nepotvrdily a podle NBC News pouze uvedly, že zemřela na zápal plic neznámého původu. Místní orgány zaměřené na ochranu spotřebitelského blahobytu zároveň označily hygienicko-epidemiologickou situaci v oblasti za stabilní.
Zdroj: Libor Novák