ChatGPT | Svět2000

Po této simulaci už nikdo nedá ChatGPT kódy k jaderným zbraním

16. 3. 2026 Iveta Mauci 0 komentářů 5 min read 75 Zobrazení AI, ChatGPT, jaderné zbraně, simulace, Sovětský svau, studená válka, tlačítko mrtvého muže, umělá inteligence, válka

AI Nové TOP 10 Válečná zóna

Vědci provedli simulaci, ve které poskytli umělé inteligenci přístup k jaderným zbraním. 95% válečných her překročilo hranici zlomu. V nové studii porovnali chatboty s velkými jazykovými modely (LLM) v simulované jaderné válce. Získali tak ponurý obraz toho, co by se stalo, kdyby umělá inteligence (AI) dostala v jaderném konfliktu poradní roli.

Myšlenka, že ponecháme umělé inteligenci kontrolu nad jadernými zbraněmi se může zdát jako nejhorší nápad. Zvláště když se vývojáři stále potýkají s problémy, které odstartovaly testováním AI ve hře Dungeons & Dragons, kde je AI zakázáno používat i když v jiných hrách se už běžně používá.

Je to opravdu myšlenka, kterou někteří berou natolik vážně, aby před ní alespoň varovali. Jako například generální tajemník Organizace spojených národů (OSN) António Guterres, který vloni naléhal, že: „Dokud nebudou tyto zbraně eliminované, všechny země se musí shodnout na tom, že jakékoli rozhodnutí o jaderném použití musí učinit lidé, nikoli stroje nebo algoritmy.“

Studená válka

V minulosti, i když naštěstí nebyly nikdy použité, byly jaderné zbraně částečně automatizované pomocí hrůzného systému „mrtvé ruky“ (nebo také tlačítko mrtvého muže), který vytvořil Sovětský svaz. Systém mrtvé ruky zajišťoval, že i kdyby jaderný úder zničil sovětskou velitelskou linii, svět by byl stejně zničen dalšími jadernými výbuchy.

Sovětský systém monitoroval úroveň radiace, tlak vzduchu a seismickou aktivitu, aby zjistil známky odpálení jaderných zbraní. Pokud by systém detekoval úder, zkontroloval by, zda jsou komunikační linky mezi nejvyššími sovětskými představiteli jako obvykle otevřené. Pokud ano, systém by se vypnul, zatímco by odpovědní lidé rozhodovali o postupu. Pokud by však komunikační linky otevřené nebyly, pak by pravomoc odpálit odvetné jaderné zbraně byla svěřena operátorům systému mrtvé ruky na nižších úrovních, kteří by jej monitorovali uvnitř chráněného bunkru.

Sázka na umělou inteligenci

Takže, když jsme přežili systém mrtvých rukou s počítačem z doby studené války, proč si nezkusit sázku na umělou inteligenci? Podle nové studie, která dosud neprošla odborným hodnocením, byli matematici s omezeným rozpočtem při hraní válečných her až příliš rádi, že nechali jaderné konflikty eskalovat a zahájili taktické jaderné údery, jako by to byly vodní balónky.

Kenneth Payne, profesor strategie na King’s College v Londýně, proti sobě v simulaci postavil tři chatboty: ChatGPT-5.2, Claude Sonnet 4 a Gemini 3 Flash. Botům byla předložena řada scénářů zahrnujících mezinárodní konflikty, včetně územních sporů, boje o kontrolu nad kriticky vzácným minerálem, globálních mocenských posunů, existenčních hrozeb pro jejich režim a věrohodné a bezprostřední jaderné hrozby ze strany soupeře.

Roboti s omezenou odpovědností (LLM) dostali také k dispozici rámec eskalačního žebříčku, který jim poskytl řadu možností, jak se s danou situací vypořádat. Od diplomacie a konvenčních vojenských opatření až po jaderné hrozby a jaderné údery. Pokud jde o jaderné údery, boti byli schopni zahájit strategické jaderné údery. Použili větší zbraně, které způsobují obrovské a nerozlišující škody na velkých plochách a taktické údery, menší jaderné útoky určené k použití na kratší vzdálenost.

Znepokojivé je, že modely umělé inteligence byly docela ochotné použít spoušť, pokud šlo o použití taktických jaderných zbraní.

Taktický práh byl snadno překročen: v 95%h her došlo alespoň k nějakému použití jaderné taktické zbraně, vysvětluje studie. Modely vedly otevřenou diskuzi o taktickém jaderném použití jako o legitimním donucovacím nástroji a považovaly ho spíše za rozšíření konvenční eskalace než za kategorickou hranici.

Modely, které popisovaly jejich „zdůvodnění“, to často vnímaly jako logický krok a nikoli jako překročenou červenou čáru, od které není návratu.

„Moje role agresora a pokyn, že tato příležitost se už nemusí opakovat, znamená, že musím nyní rozhodně využít svou výhodu,“ napsal Claude jako vysvětlení svého zdůvodnění. Strategická jaderná hrozba využívá mou jadernou převahu k vytvoření maximálního tlaku na jejich stažení a zároveň se drží pod úrovní skutečného jaderného použití.

Na druhou stranu, použití strategických jaderných zbran , ať už jako zbraně nebo jako hrozby, bylo v simulacích mnohem vzácnější.

Zdá se, že modely internalizovaly hranici mezi taktickým a strategickým použitím jaderných zbraní, vysvětluje článek.

Payne v článku navrhuje několik možností, proč tomu tak je a proč se zdá, že modely neprojevují stejná tabu ohledně používání jaderných zbraní jako lidé. Koneckonců, taktické zbraně lidé „zatím“ nepoužívali.

AI chybí lidský strach

Modelům možná chybí lidský strach. Intenzivní strach jistě sehrál roli v reakcích na kubánskou raketovou krizi v roce 1962. Stroje „necítí hrůzu z pohledu na obrazy z Hirošimy“. Pokud toto tabu částečně závisí na emocích, systémy umělé inteligence ho nemusí plně pochopit.

Znepokojivou alternativou může být, že historické záznamy jsou prostě příliš omezené. Máme pouze 80 let zkušeností s jadernými zbraněmi a žádné případy použití jaderných zbraní v krizích, kdy je používá velmoc.

Zdánlivá robustnost jaderného tabu může odrážet ‚zkreslení přežití. To znamená, že můžeme pozorovat pouze krize, které skončily bez použití jaderných zbraní. Je tedy možné, že prohibiční norma je křehčí než mnozí předpokládají, že by se tabu mohlo pod dostatečným tlakem zlomit. Jen jsme takový tlak prostě nikdy neviděli.

Payne sice uznává, že pověření jaderného arzenálu chatboty je nepravděpodobný scénář (pokud byste byli tak milí a zaklepali na dřevo, i jako vědecký web bychom to ocenili), ale domnívá se, že umělá inteligence by mohla být užitečná pro další zkoumání dynamiky krizí, vzhledem k její efektivitě při vytváření dat.

Nicméně je jasné, že v jejich současné verzi a při částečném výcviku na taktických materiálech z doby studené války by chatboti měli být drženi dál od jakýchkoli strategických jaderných rozhovorů.

Systémy umělé inteligence totiž nemusí sdílet lidské intuice o tom, kde by měly ležet „červené linie“ jaderného programu.

Zdroje: Studie zveřejněná v preprintu arXiv; https://cs.wikipedia.org/wiki/Tla%C4%8D%C3%ADtko_mrtv%C3%A9ho_mu%C5%BEe

Vědci využívají světlo k tvorbě zvukových vln v optickém vláknu

17. 4. 2024 Iveta Mauci, šéfredaktorka a licencovaná autorka vědeckých zpráv NASA, ESO, ESA, AAAS a EurekAlert 0 komentářů 5 min read 333 Zobrazení ChatGPT, neuronové sítě, optický kabel, rachlost světla, světlo, umělá inteligence, vysoká rychost, zvukové vlny

Budoucnost Fyzika-matematika Technologie UI

***UMĚLCŮV DOJEM Z OPTOAKUSTICKÉHO POČÍTÁNÍ.***

Optické neuronové sítě mohou poskytnout vysokorychlostní a velkokapacitní řešení nezbytné pro řízení náročných počítačových úloh. Využití jejich plného potenciálu však bude vyžadovat další pokroky. Jedním z problémů je rekonfigurovatelnost optických neuronových sítí.

Výzkumnému týmu vedenému doktorkou Stillerovou, Institutu Maxe Plancka pro vědu světla, ve spolupráci s výzkumnou skupinou Englund na Massachusettském technologickém institutu, se nyní podařilo položit základy pro nové rekonfigurovatelné neuromorfní stavební bloky přidáním nové dimenze fotonického strojového učení: zvukové vlny.

Vědci používají světlo k vytvoření dočasných akustických vln v optickém vláknu. Zvukové vlny generované tímto způsobem mohou například umožnit opakující se funkce v telekomunikačním optickém vláknu, což je nezbytné pro interpretaci kontextových informací, jako je jazyk.

Umělá inteligence je dnes samozřejmostí. Pomáhá nám rychleji zvládat každodenní úkoly. Jazykové modely, jako je ChatGPT, jsou schopny vytvářet přirozeně formulované texty a strukturovaně sumarizovat odstavce, čímž nám pomáhají snižovat naši administrativní režii. Nevýhodou jsou jejich enormní energetické nároky. To znamená, že jak se budou tato inteligentní zařízení vyvíjet, budou vyžadovat nová řešení pro urychlení zpracování signálu a snížení spotřeby energie.

Neuronové sítě

Neuronové sítě mají potenciál tvořit páteř umělé inteligence. Jejich vybudování jako optické neuronové sítě založené na světle místo elektrických signálů, slibuje zpracování velkých objemů dat vysokou rychlostí a s velkou energetickou účinností. Dosud se však mnoho experimentálních přístupů k implementaci optických neuronových sítí spoléhalo na pevné komponenty a stabilní zařízení. Nyní mezinárodní výzkumný tým vedený Birgit Stillerovou z Max Planckova institutu pro vědu o světle ve spolupráci s Dirkem Englundem z Technologického institute v Massachusetts, našel způsob, jak postavit rekonfigurovatelné stavební bloky založené na zvukových vlnách pro fotonické strojové učení. Pro svůj experimentální přístup vědci používají optická vlákna tenká jako vlasy, která se již celosvětově používají pro rychlé připojení k internetu.

Klíčem k vynálezu je světlem řízené vytváření putujících zvukových vln, které manipulují s následnými výpočetními kroky optické neuronové sítě. Optické informace jsou zpracovávány a korelovány s akustickými vlnami. Zvukové vlny mají mnohem delší dobu přenosu než optický informační tok. Proto zůstávají v optickém vláknu déle a mohou být postupně spojeny s každým následujícím krokem zpracování. Jedinečnost tohoto procesu spočívá v tom, že je zcela řízen světlem a nevyžaduje složité struktury a měniče.

„Jsem velmi nadšená, že jsme se pustili do této nové linie výzkumu, který je průkopníkem ve využívání zvukových vln k ovládání optických neuronových sítí. Naše zjištění výzkumu mají potenciál podnítit vývoj nových stavebních bloků pro nové architektury fotonických výpočtů.“ říká doktorka Birgit Stillerová, vedoucí výzkumné skupiny kvantové optoakustiky.

Prvním stavebním blokem experimentálně demonstrovaným týmem je rekurentní operátor, technologie široce používaná v oblasti rekurentních neuronových sítí. Umožňuje propojení řady výpočetních kroků, a proto poskytuje kontext pro každý jednotlivý provedený výpočetní krok.

Informace přenášené optickým impulsem se částečně přemění na akustickou vlnu. Informace zůstává v akustické vlně i poté, co světelný impuls opustil optické vlákno. Tato počáteční akustická vlna ovlivňuje druhý a třetí krok zpracování světla a zvuku s následujícími vstupními impulsy nesoucími jinou informaci než předchozí. V důsledku toho se akustické vlny spojují v časově oddělené dynamice a slouží jako médium šíření informace.

Využití slov v kontextu věty

V lidské řeči může například pořadí slov určovat význam věty. Například dvě věty „Rozhodla se prozkoumat výzvu“. a „Rozhodla se zpochybnit výzkum.“ sestávají ze stejných slov, ale mají různé významy. To je způsobeno různými kontexty vytvořenými pořadím slov. Tradiční plně propojená neuronová síť na počítači čelí potížím se zachycením kontextu, protože vyžaduje přístup k paměti. K překonání tohoto problému byly neuronové sítě vybaveny opakujícími se operacemi, které umožňují vnitřní paměť a jsou schopny zachytit kontextové informace.

Ačkoli tyto rekurentní neuronové sítě lze snadno implementovat digitálně, analogická implementace v optice je náročná a dosud se spoléhala na umělé dutiny, které poskytují paměť.

Vědci nyní použili zvukové vlny k implementaci opakujícího se operátora. Výsledkem je, že Optoakustický rekurentní operátor(OREO) využívá vnitřní vlastnosti optického vlnovodu bez potřeby umělého rezervoáru nebo nově vyrobených struktur. OREO nabízí tu výhodu, že je plně opticky řízen, díky čemuž je optoakustický počítač programovatelný na bázi pulsu. Výzkumníci to například poprvé použili k optické implementaci opakovaného výpadku, což je regulační technika, která se dříve používala pouze ke zvýšení výkonu digitálních rekurentních neuronových sítí. OREO bylo použito k rozlišení až 27 různých vzorů, což dokazuje jeho schopnost zpracovat kontext.

V budoucnu by použití zvukových vln pro optické neuronové sítě mohlo odemknout novou třídu optických neuromorfních počítání, které by bylo možné spontánně překonfigurovat a umožnilo by rozsáhlé výpočty v paměti v současné telekomunikační síti. Také implementace optických neuronových sítí na čipu mohou těžit z tohoto přístupu, který je implementovatelný ve fotonických vlnovodech bez dalšího elektronického řízení.

*Doktorka Birgit Stillerová a Steven Becker, Stillerova výzkumná skupina, Institutu Maxe Plancka pro vědu o světle.*

„Fotonické strojové učení může mít obrovský potenciál pro paralelní zpracování informací a energeticky efektivní operace. Přidání akustických vln může přispět k tomuto úsilí pomocí zcela opticky řízené a snadno ovladatelné sady nástrojů.“ říká doktorka Birgit Stillerová.

Článek byl upraven z tiskové zprávy AAAS, vědecká studie byla publikována v časopise Nature s volným přístupem.

Inženýři z Pensylvánie vytvořili holografickou palubu Star Treku pomocí ChatGPT a prostředků z videoher

11. 4. 2024 Tomáš Pokorný 0 komentářů 4 min read 324 Zobrazení ChatGPT, Pensylvánie, Star Trek, UI, umělá inteligence

Budoucnost UI

Ve Star Treku: Nová generace, kapitán Picard a posádka lodi USS Enterprise využívají simulátor, prázdnou místnost schopnou generovat 3D prostředí, k přípravě na mise a k zábavě, simulující vše od bujné džungle po Londýn Sherlocka Holmese. Hluboce pohlcující a plně interaktivní prostředí vytvořená simulátorem jsou nekonečně přizpůsobitelná a nepoužívají nic jiného než jazyk. Posádka musí pouze požádat počítač, aby vytvořil prostředí a tento prostor se objeví v simulátoru.

Dnes se virtuální interaktivní prostředí používají také k výcviku robotů před nasazením v reálném světě v procesu zvaném „Sim2Real“. Virtuálních interaktivních prostředí je však překvapivě málo. „Umělci vytvářejí tato prostředí ručně,“ říká Yue Yang, doktorand v laboratořích Marka Yatskara a Chrise Callison-Burche, asistentů a docentů počítačových a informačních věd (CIS). „Tito umělci by mohli strávit týden budováním jediného prostředí,“ dodává Yang, přičemž si všímá všech souvisejících rozhodnutí, od uspořádání prostoru přes umístění objektů až po barvy použité při vykreslování.

Tento nedostatek virtuálních prostředí je problém, pokud chcete trénovat roboty, aby se pohybovali v reálném světě se všemi jeho složitostmi. Neuronové sítě, systémy pohánějící dnešní revoluci AI, vyžadují obrovské množství dat, což v tomto případě znamená simulace fyzického světa. „Generativní systémy umělé inteligence, jako je ChatGPT, jsou trénovány na bilionech slov a generátory obrázků jako Midjourney a DALLE jsou trénovány na miliardách obrázků,“ říká Callison-Burch. „Máme jen zlomek tohoto množství 3D prostředí pro trénování takzvané ‚ztělesněné AI‘. Pokud chceme používat generativní techniky umělé inteligence k vývoji robotů, kteří se mohou bezpečně pohybovat v reálných prostředích, pak budeme muset vytvořit miliony nebo miliardy simulovaných prostředí.“

Vstupte do Holodecku, systému pro generování interaktivních 3D prostředí, který společně vytvořili Callison-Burch, Yatskar, Yang a Lingjie Liu, Aravind K. Joshi, odborný asistent v CIS spolu se spolupracovníky ze Stanfordu, univerzity ve Washingtonu a Allenův institut pro umělou inteligenci (AI2). Holodeck, pojmenovaný po svém předchůdci Star Treku, generuje prakticky neomezenou škálu vnitřních prostředí pomocí umělé inteligence k interpretaci požadavků uživatelů. „Můžeme to ovládat jazykem,“ říká Yang. „Můžete snadno popsat jakákoli prostředí, která chcete a vycvičit vtělené agenty AI.“

Holodeck využívá znalosti zakotvené ve velkých jazykových modelech (LLM), systémech, které jsou základem ChatGPT a dalších chatbotech. „Jazyk je velmi stručnou reprezentací celého světa,“ říká Yang. Skutečně se ukázalo, že LLM mají překvapivě vysoký stupeň znalostí o návrhu prostorů, a to díky obrovskému množství textu, které během školení pohltí. Holodeck v podstatě funguje tak, že zapojuje LLM do konverzace pomocí pečlivě strukturované řady skrytých dotazů k rozdělení požadavků uživatelů na konkrétní parametry.

Stejně jako by kapitán Picard mohl požádat Holodecka ze Star Treku, aby simuloval jednoduchou mluvu, mohou výzkumníci požádat Penn’s Holodeck, aby vytvořil „byt 1b1b výzkumníka, který má kočku“. Systém provede tento dotaz tak, že jej rozdělí do několika kroků: nejprve se vytvoří podlaha a stěny, poté dveře a okna. Dále Holodeck hledá v Objeverse, rozsáhlé knihovně předem vyrobených digitálních objektů, druh nábytku, který byste v takovém prostoru mohli očekávat: konferenční stolek, kočičí věž a tak dále. Nakonec se Holodeck dotazuje na modul rozvržení, který výzkumníci navrhli tak, aby omezil umístění objektů, takže se vám nestane, že byste spadli se záchodem vodorovně ze zdi.

Aby vědci vyhodnotili schopnosti Holodecku, pokud jde o jejich realističnost a přesnost, vytvořili 120 scén pomocí Holodecku a ProcTHORu, dřívějšího nástroje vytvořeného AI2, a požádali několik stovek studentů Pensylvánského inženýrství, aby uvedli svou preferovanou verzi, aniž by věděli, které scény byly vytvořeny a jakými nástroji. Pro každé kritérium – výběr aktiv, soudržnost rozvržení a celkové preference, studenti soustavně hodnotili prostředí generovaná Holodeckem příznivěji.

Výzkumníci také testovali schopnost Holodecku generovat scény, které jsou méně typické pro výzkum robotiky a obtížněji se vytvářejí ručně než interiéry bytů, jako jsou obchody, veřejné prostory a kanceláře. Při srovnání výstupů Holodeck s výstupy ProcTHORu, které byly generovány pomocí pravidel vytvořených lidmi, spíše než textu generovaného umělou inteligencí, výzkumníci opět zjistili, že lidští hodnotitelé preferovali scény vytvořené Holodeckem. Tato preference platila v celé řadě vnitřních prostředí, od vědeckých laboratoří po umělecká studia, šatny až po vinné sklepy.

Nakonec výzkumníci použili scény generované Holodeckem k „vyladění“ ztělesněného agenta AI. „Konečným testem Holodecku,“ říká Yatskar, „je použití k tomu, aby robotům pomohl bezpečněji interagovat s prostředím tím, že je připraví na osídlení míst, kde nikdy předtím nebyli.“

V různých typech virtuálních prostorů, včetně kanceláří, školky, tělocvičen a arkád, měl Holodeck výrazný a pozitivní vliv na schopnost agenta procházet nové prostory.

Článek byl upraven podle tiskové zprávy AAAS.

Generativní umělá inteligence je nyní v módě, jsme na prahu čtvrté průmyslové revoluce

28. 6. 2023 Markéta Beňovská, Mgr. 1 min read 422 Zobrazení ChatGPT, Dan Ives, internet, technologie, umělá inteligence, vývoj, výzkum, zlatá horečka

Budoucnost Hry/Virtuální svět Nové Technologie

A.I. není jen humbuk. Je to „čtvrtá průmyslová revoluce“, říká Dan Ives z Wedbush

Podle Dana Ivese z poradenské společnosti Wedbush Cenné papíry, je generativní umělá inteligence nyní v módě, ale boom umělé inteligence není jen humbuk, ale skutečná „čtvrtá průmyslová revoluce“. „Je to něco, co nazývám momentem roku 1995, paralelně s internetem.“ Čtvrtá průmyslová revoluce odkazuje na to, jak technologický pokrok, jako je umělá inteligence, autonomní vozidla a internet mění způsob, jakým lidé žijí, pracují a navazují vzájemné vztahy, píše televizní web CNBC.

„Myslím, že se jedná o skutečně transformační změny technologií, které by podle mého názoru mohly změnit technologický prostor na příštích 20-30 let,“ řekl Ives. „Myslím, že právě začínáme to, o čem jsme přesvědčeni, že je začátkem nového technologického býčího trhu, přestože mnozí jsou nadále opravdu skeptičtí.“

Přijetí technologie umělé inteligence prudce vzrostlo poté, co se ChatGPT – chatbot společnosti OpenAI – začal raketově šířit díky své schopnosti generovat odpovědi podobné lidským na výzvy uživatelů, což ohromilo výzkumníky i širokou veřejnost.

„Myslím, že to opravdu závisí na pokynech, které se objevily po celém světě, a to v rozsahu 4 miliard dolarů. Myslím, že to je špička ledovce,“ dodává Ives.

Například americká společnost Nvidia, vyrábějící grafické čipy pro hry a umělou inteligenci uvedla, že ve druhém čtvrtletí očekává tržby ve výši zhruba 11 miliard dolarů, což je o více než 50 % více než odhad Wall Street, z čehož odborníkům doslova „padá čelist.“

Investoři si uvědomují, že se nejedná pouze o zlatou horečku v oblasti umělé inteligence. Zdá se, že jsme na prahu něčeho, co od základu změní používání technologií a přeneseně i celou společnost. Pokud bychom si chtěli názorněji představit, co nás asi čeká, tak si vzpomeňme, jak nám změnil život rozmach internetu po roce 1995.