AI

Lodě bez posádky. Samostatně řízené roje dronů. Jak operační skupina amerického námořnictva využívá hotovou robotiku a umělou inteligenci k přípravě na příští věk konflikt

Flotila robotických lodí se mírně pohupuje v teplých vodách Perského zálivu, někde mezi Bahrajnem a Katarem, možná 100 mil od íránského pobřeží, píše WIRED. Jsem na nedaleké palubě rychlého člunu americké pobřežní stráže a mžourám na to, co chápu, že je na levoboku. Toho rána na začátku prosince 2022 je obzor posetý ropnými tankery, nákladními loděmi a malými rybářskými čluny, které se třpytí v horku. Zatímco motorový člun proplouvá kolem flotily robotů, toužím po slunečníku, nebo dokonce po mraku.

Roboti nesdílejí mou ubohou lidskou potřebu stínu, ani nevyžadují žádné jiné biologické vymoženosti. Je to patrné z jejich konstrukce. Několik z nich se podobá typickým hlídkovým člunům, jako je ten, na kterém jsem já, ale většina z nich je menší, štíhlejší, níže k vodě. Jeden vypadá jako kajak na solární pohon. Další vypadá jako surfovací prkno s kovovou plachtou. Další mi připomíná auto Google Street View na pontonech.

Tyto stroje se zde shromáždily na cvičení, které pořádá Task Force 59, skupina v rámci Páté flotily amerického námořnictva. Zaměřuje se na robotiku a umělou inteligenci, dvě rychle se vyvíjející technologie, které utvářejí budoucnost války. Úkolem Task Force 59 je rychle je začlenit do námořních operací, což se děje tak, že získává nejnovější hotové technologie od soukromých dodavatelů a spojuje je do jednotného celku. Cvičení v Perském zálivu spojilo více než tucet platforem bez posádky – povrchová plavidla, ponorky, vzdušné drony. Mají být distribuovanými očima a ušima operační skupiny 59: Budou sledovat hladinu oceánu pomocí kamer a radarů, naslouchat pod hladinou pomocí hydrofónů a shromážděná data budou procházet algoritmy pro porovnávání vzorů, které budou třídit ropné tankery od pašeráků.

Kolega na motorovém člunu mě upozorní na jedno z plavidel ve stylu surfovacího prkna. To prudce sklopí plachtu jako přehazovačku a vklouzne pod vlnobití. Říká se mu Triton a dá se naprogramovat, aby to udělalo, když jeho systémy vycítí nebezpečí. Zdá se mi, že by se toto mizení mohlo hodit i v reálném světě: Pár měsíců před tímto cvičením se íránská válečná loď zmocnila dvou autonomních plavidel zvaných Saildrones, která se neumí ponořit. Námořnictvo muselo zasáhnout, aby je získalo zpět.

Triton by mohl zůstat ponořený až pět dní a vynořit se, až bude pobřeží čisté, aby si nabil baterie a zavolal domů. Naštěstí se můj motorový člun tak dlouho nezdrží. Nahodí motor a houká zpátky do přístavní zátoky 150 stop dlouhého kutru pobřežní stráže. Mířím rovnou na horní palubu, kde vím, že pod markýzou je hromada balené vody. Když projíždím kolem, prohlížím si těžké kulomety a minomety namířené na moře.

Paluba se ve větru ochlazuje, když se kutr vrací na základnu v Manamě v Bahrajnu. Během cesty se dávám do řeči s posádkou. Dychtivě si s nimi povídám o válce na Ukrajině a o intenzivním používání tamních bezpilotních letounů, od amatérských kvadrokoptér vybavených ručními granáty až po plně vojenské systémy. Chci se jich zeptat na nedávný útok na Ruskem okupovanou námořní základnu v Sevastopolu, na němž se podílelo několik ukrajinských dronů nesoucích výbušniny – a na veřejnou crowdfundingovou kampaň na stavbu dalších. Ale tyto rozhovory nebudou možné, říká můj doprovod, záložník ze společnosti Snap, která se zabývá sociálními médii. Protože pátá flotila operuje v jiném regionu, nemají ti z Task Force 59 mnoho informací o tom, co se děje na Ukrajině, říká. Místo toho mluvíme o generátorech obrazů s umělou inteligencí a o tom, zda připraví umělce o práci, o tom, jak se zdá, že civilní společnost dosahuje s umělou inteligencí svého vlastního inflexního bodu. Popravdě řečeno, zatím nevíme ani polovinu. Je to teprve den, co společnost OpenAI spustila ChatGPT, konverzační rozhraní, které by rozbilo internet.

Po návratu na základnu se vydávám do operačního střediska robotů, kde skupina lidí dohlíží na rozmístěné senzory na vodě. ROC je místnost bez oken s několika řadami stolů a počítačových monitorů – docela bez charakteru, až na stěny, které jsou vyzdobeny inspirativními citáty osobností jako Winston Churchill nebo Steve Jobs. Zde se setkávám s kapitánem Michaelem Brasseurem, velitelem operační skupiny 59, opáleným mužem s oholenou hlavou, pohotovým úsměvem a námořnickým přimhouřením oka. (Brasseur mezitím odešel z námořnictva do výslužby.) Prochází mezi stoly a vesele vysvětluje, jak ROC funguje. „Tady se slučují všechna data, která přicházejí z bezpilotních systémů, a využíváme zde umělou inteligenci a strojové učení, abychom získali opravdu zajímavé poznatky,“ říká Brasseur, tře si ruce o sebe a při vyprávění se usmívá.

Na monitorech bliká aktivita. Umělá inteligence operační skupiny 59 upozorňuje na podezřelá plavidla v oblasti. Dnes už označila několik lodí, které neodpovídaly jejich identifikačnímu signálu, což přimělo flotilu, aby se na ně podívala blíže. Brasseur mi ukazuje nové rozhraní ve vývoji, které jeho týmu umožní provádět mnoho těchto úkolů na jedné obrazovce, od prohlížení kamerového záznamu bezpilotní lodi až po její nasměrování blíže k akci.

"Může se zapojit autonomně, ale nedoporučujeme to. Nechceme rozpoutat třetí světovou válku."

Brasseur a další pracovníci základny zdůrazňují, že autonomní systémy, které testují, slouží pouze k detekci a snímání, nikoli k ozbrojenému zásahu. „V současné době se Task Force 59 zaměřuje na zvýšení viditelnosti,“ říká Brasseur. „Vše, co zde děláme, podporuje posádky plavidel.“ Některé z robotických lodí zapojených do cvičení však ukazují, jak krátká může být vzdálenost mezi neozbrojeným a ozbrojeným plavidlem – jde o výměnu užitečného zatížení a úpravu softwaru. Jeden z autonomních rychlých člunů, Seagull, je navržen tak, aby lovil miny a ponorky tím, že za sebou táhne soustavu sonarů. Amir Alon, vrchní ředitel izraelské obranné firmy Elbit Systems, která Seagull vytvořila, mi řekl, že může být také vybaven dálkově ovládaným kulometem a torpédy, která se odpalují z paluby. „Může se zapojit autonomně, ale nedoporučujeme to,“ říká s úsměvem. „Nechceme rozpoutat třetí světovou válku.“

Ne, nechceme. Ale Alonův vtip se dotýká důležité pravdy: autonomní systémy se schopností zabíjet už existují po celém světě. V jakémkoli větším konfliktu, dokonce i v takovém, který bude mít daleko ke třetí světové válce, bude každá strana brzy čelit pokušení nejen tyto systémy vyzbrojit, ale v některých situacích i odstranit lidský dohled a uvolnit stroje k boji rychlostí stroje. V této válce umělé inteligence proti umělé inteligenci budou umírat pouze lidé. Je tedy rozumné se ptát: Jak tyto stroje a lidé, kteří je vytvářejí, přemýšlejí?

ZÁBLESKY AUTONOMNÍCH technologií existují v americké armádě již desítky let, od softwaru autopilota v letadlech a bezpilotních letounech až po automatická palubní děla, která chrání válečné lodě před přilétajícími raketami. Jedná se však o omezené systémy, které jsou určeny k plnění specifických funkcí v konkrétních prostředích a situacích. Možná autonomní, ale ne inteligentní. Teprve v roce 2014 začaly špičky Pentagonu uvažovat o schopnějších autonomních technologiích jako o řešení mnohem závažnějšího problému.

Bob Work, tehdejší náměstek ministra obrany, se obával, že geopolitičtí soupeři země se „blíží k paritě“ s americkou armádou. Chtěl vědět, jak „znovu získat převahu“ – jak zajistit, že i když USA nemohou nasadit tolik vojáků, letadel a lodí jako například Čína, mohou z případného konfliktu vyjít vítězně. Work se proto zeptal skupiny vědců a technologů, na co by mělo ministerstvo obrany zaměřit své úsilí. „Vrátili se a řekli, že autonomie s využitím umělé inteligence,“ vzpomíná. Začal pracovat na národní obranné strategii, která by kultivovala inovace vycházející z technologického sektoru, včetně nově vznikajících schopností, které nabízí strojové učení.

To se snáze řeklo, než udělalo. Ministerstvo obrany získalo některé projekty – včetně experimentální válečné lodi Sea Hunter za 20 milionů dolarů a flotily konvenčních plavidel Ghost Fleet Overlord, která byla modernizována tak, aby mohla fungovat autonomně -, ale v roce 2019 se pokusy ministerstva o využití velkých technologií zadrhly. Snaha o vytvoření jednotné cloudové infrastruktury pro podporu AI ve vojenských operacích se stala politicky horkým bramborem a byla zrušena. Projekt společnosti Google, který zahrnoval využití AI k analýze leteckých snímků, se setkal s bouří kritiky veřejnosti a protestů zaměstnanců. Když námořnictvo zveřejnilo svůj plán stavby lodí do roku 2020, tedy nástin vývoje amerických flotil v příštích třech desetiletích, zdůraznilo význam systémů bez posádky, zejména velkých hladinových lodí a ponorek – na jejich vývoj však vyčlenilo relativně málo peněz.

V malé kanceláři hluboko v Pentagonu si bývalý námořní pilot Michael Stewart tento problém dobře uvědomoval. Stewart, pověřený dohledem nad vývojem nových bojových systémů pro americkou flotilu, začal mít pocit, že námořnictvo je jako Blockbuster, který náměsíčně vstupuje do éry Netflixu. O několik let dříve navštěvoval na Harvard Business School přednášky Claye Christensena, akademika, který studoval, proč jsou velké, úspěšné podniky narušovány menšími účastníky trhu – často proto, že kvůli soustředění na současný byznys přehlížejí nové technologické trendy. Otázkou pro námořnictvo podle Stewarta bylo, jak urychlit zavádění robotiky a umělé inteligence, aniž by zabředlo do institucionální byrokracie.

Ostatní v té době uvažovali podobně. V prosinci toho roku například výzkumníci z RAND, vládou financovaného obranného think tanku, zveřejnili zprávu, která navrhovala alternativní cestu: Proč místo financování hrstky drahých autonomních systémů nekoupit levnější systémy po celých rojích? Na základě několika válečných her s čínskou invazí na Tchaj-wan zpráva RAND uvádí, že nasazení obrovského množství levných bezpilotních letounů by mohlo výrazně zvýšit šance USA na vítězství. Hypotetické drony – které RAND nazval „koťata“ – by díky tomu, že by poskytovaly obraz o každém plavidle v Tchajwanské úžině, mohly USA rychle zničit nepřátelskou flotilu. (Tuto předpověď tehdy zaznamenal čínský vojenský časopis, který se zabýval potenciálem xiao mao, což je čínský výraz pro „koťata“, v Tchajwanském průlivu).

Počátkem roku 2021 Stewart se skupinou kolegů vypracoval čtyřicetistránkový dokument nazvaný Unmanned Campaign Framework. V něm byl nastíněn kusý, nekonvenční plán využití autonomních systémů námořnictvem, který upouštěl od konvenčních zakázek ve prospěch experimentování s levnými robotickými platformami. Na tomto úsilí by se podílel malý, různorodý tým – specialisté na umělou inteligenci a robotiku, odborníci na námořní strategii – který by mohl spolupracovat na rychlé realizaci nápadů. „Nejde jen o bezpilotní systémy,“ říká Stewart. „Je to stejně – ne-li více – organizační příběh.“

Stewartův plán přitáhl pozornost viceadmirála Brada Coopera z Páté flotily, jejíž teritorium se rozkládá na 2,5 milionu čtverečních mil vody, od Suezského průplavu kolem Arabského poloostrova až po Perský záliv. Tato oblast je plná lodních tras, které jsou životně důležité pro světový obchod a zároveň jsou plné nelegálního rybolovu a pašování. Od konce války v Perském zálivu, kdy se část pozornosti a zdrojů Pentagonu přesunula do Asie, hledal Cooper způsoby, jak udělat více s menšími náklady, říká Stewart. Írán zintenzivnil své útoky na obchodní plavidla, přepadal je v ozbrojených rychlých člunech a dokonce útočil pomocí bezpilotních letounů a dálkově řízených člunů.

Cooper požádal Stewarta, aby se k němu a Brasseurovi připojil v Bahrajnu, a všichni tři společně začali vytvářet operační skupinu 59. Podívali se na autonomní systémy, které se již používají na jiných místech světa – například pro sběr klimatických dat nebo monitorování ropných plošin na moři – a došli k závěru, že pronájem a úprava tohoto vybavení by stály zlomek toho, co námořnictvo obvykle vydává na nové lodě. Task Force 59 by pak použila software řízený umělou inteligencí, aby dala dohromady jednotlivé části. „Pokud budou nové bezpilotní systémy schopny pracovat v těchto složitých vodách,“ řekl mi Cooper, „věříme, že je bude možné rozšířit i na ostatní flotily amerického námořnictva.“

Při vytváření nové operační skupiny byly tyto vody stále složitější. V časných ranních hodinách 29. července 2021 mířil ropný tanker Mercer Street na sever podél pobřeží Ománu, na cestě z Tanzanie do Spojených arabských emirátů, když se na obzoru objevily dva černé bezpilotní letouny ve tvaru písmene V, které se prohnaly jasnou oblohou a pak explodovaly v moři. O den později, poté, co posádka posbírala z vody trosky a nahlásila incident, třetí dron střemhlav bombardoval střechu řídicí místnosti lodi, tentokrát odpálil výbušninu, která konstrukci roztrhala a zabila dva členy posádky. Vyšetřovatelé dospěli k závěru, že na vině jsou tři „sebevražedné drony“ vyrobené v Íránu.

Hlavní hrozbou, na kterou Stewart myslel, byla Čína. „Mým cílem je přijít s levnými nebo levnějšími věcmi velmi rychle – během pěti let – a vyslat odstrašující signál,“ říká. Čína však přirozeně investuje značné prostředky i do vojenské autonomie. Zpráva Georgetownské univerzity z roku 2021 uvádí, že Lidová osvobozenecká armáda vydává na tuto technologii více než 1,6 miliardy dolarů ročně – zhruba stejně jako USA. Zpráva rovněž uvádí, že autonomní plavidla podobná těm, která používá Task Force 59, jsou hlavním předmětem zájmu čínského námořnictva. To již vyvinulo klon lodi Sea Hunter spolu s údajně velkou mateřskou lodí bezpilotního letounu.

Stewart však o svou práci nezaznamenal velký zájem, dokud Rusko nenapadlo Ukrajinu. „Lidé mi volají a říkají: ‚Víš, jak jsi mluvil o těch autonomních věcech? Dobře, řekni mi víc,'“ říká. Stejně jako námořníci a úředníci, s nimiž jsem se setkal v Bahrajnu, se nechtěl k situaci konkrétně vyjadřovat – ani k útoku dronů na Sevastopol, ani k balíčku pomoci ve výši 800 milionů dolarů, který USA poslaly Ukrajině loni na jaře a který zahrnoval blíže nespecifikovaný počet „bezpilotních plavidel pobřežní obrany“, ani k práci Ukrajiny na vývoji plně autonomních zabijáckých dronů. Stewart by řekl jen toto: „Časová osa se rozhodně posouvá.“

Hivemind je navržen k řízení stíhačky F-16 a dokáže porazit většinu lidských pilotů, kteří se s ním utkají na simulátoru.

JSEM V kalifornském San Diegu, hlavním přístavu americké tichomořské flotily, kde startupy v obranném průmyslu rostou jako houby po dešti. Přímo přede mnou, ve vysoké prosklené budově obklopené palmami, sídlí společnost Shield AI. Stewart mě vybídl, abych navštívil společnost, která vyrábí V-BAT, vzdušný dron, s nímž experimentuje Task Force 59 v Perském zálivu. Ačkoli vypadá podivně – má tvar obráceného T s křídly a jedinou vrtulí ve spodní části -, je to působivý kus hardwaru, dostatečně malý a lehký, aby ho dvoučlenný tým mohl vypustit prakticky odkudkoli. Ale je to software uvnitř V-BATu, pilot s umělou inteligencí zvaný Hivemind, který jsem si přišel prohlédnout.

Procházím zářivě bílými kancelářemi společnosti, kolem inženýrů, kteří si pohrávají s kousky dronů a řádky kódu, do malé konferenční místnosti. Tam na velké obrazovce sleduji, jak se tři V-BATS vydávají na simulovanou misi v kalifornské poušti. Někde poblíž zuří lesní požár a jejich úkolem je ho najít. Letadla startují vertikálně ze země, pak se naklánějí dopředu a odlétají různými směry. Po několika minutách jeden z dronů zaměří místo požáru a předá informaci svým kolegům. Ty upraví let a přiblíží se k požáru, aby zmapovaly jeho celý rozsah.

Simulované V-BATy se neřídí přímými lidskými povely. Neřídí se ani příkazy zakódovanými lidmi v běžném softwaru – rigidním Když tohle, tak tamto. Místo toho drony autonomně snímají a navigují své prostředí, plánují, jak splnit svou misi, a spolupracují v roji. Inženýři společnosti -Shield AI vycvičili Hivemind částečně pomocí posilovacího učení, kdy jej nasadili na tisíce simulovaných misí a postupně jej přiměli k tomu, aby si vybral nejefektivnější způsob, jak splnit svůj úkol. „Jsou to systémy, které umí myslet a rozhodovat se,“ říká Brandon Tseng, bývalý příslušník námořnictva SEAL, který společnost spoluzaložil.

Tato verze systému Hivemind obsahuje poměrně jednoduchý dílčí algoritmus, který dokáže identifikovat simulované lesní požáry. Samozřejmě, že jiná sada dílčích algoritmů by mohla pomoci hejnu dronů identifikovat libovolný počet jiných cílů – vozidla, plavidla, lidské bojovníky. Systém se neomezuje ani na V-BAT. Hivemind je navržen i pro řízení stíhačky F-16 a dokáže porazit většinu lidských pilotů, kteří se s ním utkají v simulátoru. (Společnost předpokládá, že se tato umělá inteligence stane „kopilotem“ v novějších generacích bojových letounů). Hivemind také ovládá kvadrokoptéru Nova 2, která je dostatečně malá, aby se vešla do batohu, a dokáže zkoumat a mapovat interiéry budov a podzemních komplexů.

Pro Task Force 59 – nebo pro jakoukoli vojenskou organizaci, která se chce relativně levně přeorientovat na umělou inteligenci a robotiku – je přitažlivost těchto technologií jasná. Nabízejí nejen „lepší viditelnost“ na bojišti, jak říká Brasseur, ale také možnost projektovat sílu (a potenciálně použít sílu) s menším počtem skutečných lidí na pracovišti. Místo abyste na pátrací a záchrannou akci nebo průzkumnou misi nasadili desítky lidských operátorů dronů, mohli byste tam poslat tým V-BAT nebo Nova 2. Místo toho, abyste při vzdušném útoku riskovali životy svých velmi draze vycvičených pilotů, mohli byste vyslat roj levných dronů, z nichž každý by byl pilotován stejným umělou inteligencí esa, každý by byl prodloužením stejné rojové mysli.

Přesto, jakkoli mohou být algoritmy strojového učení úžasné, mohou být ze své podstaty nevyzpytatelné a nepředvídatelné. Během své návštěvy ve společnosti Shield AI jsem se krátce setkal s jedním z dronů Nova 2 této společnosti. Vznese se z podlahy kanceláře a vznáší se asi metr od mého obličeje. „Prohlíží si vás,“ říká jeden z inženýrů. O chvíli později dron zabzučí nahoru a proletí maketou okna na jedné straně místnosti. Zážitek je znepokojivý. V jediném okamžiku si o mně tato malá vzdušná inteligence udělala úsudek. Ale jak? Ačkoli odpověď může být přístupná inženýrům společnosti Shield AI, kteří mohou přehrávat a analyzovat prvky rozhodování robota, společnost stále pracuje na tom, aby tyto informace zpřístupnila „neodborným uživatelům“.

Stačí se podívat do civilního světa, abychom viděli, jak se tato technologie může zvrtnout – systémy rozpoznávání obličejů, které vykazují rasové a genderové předsudky, samořiditelná auta, která narážejí do objektů, na něž nebyla vyškolena. I při pečlivém inženýrství by se vojenský systém využívající umělou inteligenci mohl dopustit podobných chyb. Algoritmus vycvičený k rozpoznávání nepřátelských nákladních vozidel může být zmaten civilním vozidlem. Systém protiraketové obrany navržený tak, aby reagoval na přicházející hrozby, nemusí být schopen plně „vysvětlit“, proč chybně vystřelil.

Tato rizika vyvolávají nové etické otázky, podobné těm, které přinášejí nehody samořízených automobilů. Pokud autonomní vojenský systém udělá smrtelnou chybu, kdo za ni ponese odpovědnost? Je to velitel odpovědný za operaci, důstojník dohlížející na systém, počítačový inženýr, který sestavil algoritmy a propojil úl, zprostředkovatel, který dodal tréninková data?

Jedno je jisté: technologie se rychle vyvíjí. Když jsem se s Tsengem setkal, řekl, že cílem Shield AI je mít „operační tým tří V-BAT v roce 2023, šest V-BAT v roce 2024 a 12 V-BAT v roce 2025“. Osm měsíců poté, co jsme se setkali, Shield AI vypustila tým tří V-BATů z letecké základny, aby provedl simulovanou misi při lesním požáru. Společnost se nyní také chlubí tím, že Hivemind lze vycvičit k plnění celé řady misí – lovu raketových základen, střetům s nepřátelskými letouny – a brzy bude schopen operovat i v případě omezené nebo přerušené komunikace.

• Trysky černé díry mají nesmírnou sílu, výkon odpovídá energii 10 000 Sluncí
• První klonované hříbě úspěšného sportovního koně
• Světlo uvnitř těla? Tohle je nová technologie nejen ultrazvuku, má to ale háček

Před odjezdem ze San Diega si prohlédnu letadlovou loď USS Midway, která byla původně uvedena do služby na konci druhé světové války a nyní je trvale zakotvena v zátoce. Desítky let na ní byly umístěny jedny z nejmodernějších vojenských technologií na světě a sloužila jako plovoucí přistávací dráha pro stovky letadel, která létala na průzkumné a bombardovací mise v konfliktech od Vietnamu po Irák. Uprostřed letadlové lodi, jako jeskynní kovový žaludek, je hangárová paluba. Dveře na jedné straně vedou do králičí říše chodeb a místností, včetně stísněných ubikací námořníků, pohodlných důstojnických ložnic, kuchyní, ošetřoven, dokonce i holičství a prádelny – připomínka toho, že tuto loď nazývalo domovem najednou 4 000 námořníků a důstojníků.

Když tu stojím, cítím, jak hluboký bude přechod k autonomii. Možná bude trvat ještě dlouho, než počet lodí bez posádky převýší počet lodí s lidmi na palubě, a ještě déle, než budou na mořích vládnout mateřské lodě s drony. Ale robotická armáda Task Force 59, jakkoli je v plenkách, znamená krok do jiného světa. Možná to bude bezpečnější svět, ve kterém budou sítě autonomních dronů rozmístěné po celém světě pomáhat lidem držet konflikty pod kontrolou. Nebo se možná obloha zatemní útočnými roji. Ať už je budoucnost na obzoru jakákoli, roboti plují tímto směrem.

Tento článek vyšel v zářijovém čísle 2023.