Bob Harward není obyčejný voják. Nejdříve sloužil u námořnictva a později u speciálních jednotek SEAL. Roky byl nasazen v Iráku i Afghánistánu a v americké armádě to dotáhl až na zástupce velitele CENTCOM, které má na starosti celý Blízký východ, střední a jižní Asii.

Tu oblast velmi dobře zná nejen z pohledu vojáka, protože v sedmdesátých letech vyrůstal v Íránu a díky tomu mluví farsí. Po odchodu do výslužby pracoval pro Lockheed Martin ve Spojených arabských emirátech a loni nastoupil do firmy Shield AI, která vyvíjí primárně drony a umělou inteligenci pro letadla.

Do Prahy přijel na konferenci Kybernetická obrana a umělá inteligence, kterou ve spolupráci s ČVUT uspořádala česká nezisková organizace Def­Sec. V rozhovoru jsme mluvili nejen o výhodách a nebezpečí vojenské AI, ale například také o tom, proč v roce 2017 odmítl nabídku, která se neodmítá: prestižní post amerického poradce pro národní bezpečnost. A jestli by tu práci příště vzal.

Těch důvodů bylo víc. Zaprvé jsem sledoval, jak při pozemních operacích úplně zbytečně umírají naši vojáci. Když jsem zjistil, že můžeme mít platformu, která pošle dron do budovy a zjistí situaci, místo abych při tom riskoval život někoho ze svých lidí, říkal jsem si, to je síla, to může hodně změnit. Zadruhé jsem vývoj dronů sledoval posledních čtyřicet let, a když jsem viděl, co umí třeba V-BAT (dron vyvinutý Shield AI, pozn. red.), uvědomil jsem si, jaký to může mít dopad. Nejen vojensky, ale i v komerční sféře, třeba při monitorování lesních požárů, sledování hranic a podobně.

Máte pravdu. Naše ozbrojené síly experimentovaly s drony už v padesátých letech minulého století. Můj otec jako námořní velitel používal drony na konci padesátých a na začátku šedesátých let. Tenkrát se měly umět vypořádat s hrozbou sovětských ponorek. Sovětský svaz měl v té době přes tři stovky ponorek. Smyslem tehdejších dronů bylo dopravit torpédo do blízkosti ponorky a odpálit ho na ni dřív, než mohla ponorka stačit poslat torpédo na loď. Ve velkém jsme je pak začali používat, když jsme šli do války v Afghánistánu a v Iráku. Jedním ze základních používaných typů byl Predator, který začal létat v devadesátých letech minulého století. To znamená, že ho například k získávání zpravodajských informací využíváme už skoro třicet let.

Na Ukrajině se poprvé z dronů stávají regulérní zbraně, čímž do značné míry mění podobu bojiště. A s tím, jak se zlepšují drony, roste riziko pro pilotovaná letadla. Mimo jiné právě proto, že jsou pilotovaná. Když máte pilotované letadlo, musíte v něm mít kokpit, musíte v něm mít vystřelovací sedadlo, musíte mít nejrůznější displeje a další přístroje, kvůli nimž pak letadlo musí být větší. Když není pilotované, může být menší a levnější. Proto mohou být bezpilotní drony tak cenné. A když k tomu přidáte umělou inteligenci, posouváte schopnosti letounu ještě o řád výš. Získáte tím značné výhody jak po vojenské, tak po komerční stránce.

Drony ovládané AI můžete používat k monitorování lesních požárů, čínských rybářských flotil. Mají zkrátka velký potenciál. Člověk by musel být slepý, aby neviděl, kam se to časem vyvine.

Nejsem v postavení, abych komukoli cokoli doporučoval. Ale můžu říct, že mnoho států se dnes dívá na novou generaci stíhaček a některé uvažují o tom, jestli je třeba mít je pilotované, nebo nepilotované. Domnívám se, že naše ukázky schopností AI při létání jsou důležitou součástí toho rozhodovacího procesu.

Neznám strategické imperativy jednotlivých států, jejich politickou situaci, která ovlivňuje dané rozhodnutí… Ale řekl bych, že se pokrok v AI na všech leteckých platformách ohromně zrychluje. A myslím, že ty možnosti tu budou dříve, než si většina lidí uvědomuje.

foto DefSec

Ano, řekl bych, že to je přesně tak.

Začínáme AI implementovat do dronů a s těmi drony už létáme. V minulosti jsme byli svědky toho, že vojenské uplatnění nové techniky stvrdilo její využitelnost v komerčním sektoru. Armáda zaplatila výzkum a vývoj, čímž dodala technice nejvyšší možnou hodnověrnost.

AI možná půjde stejnou cestou. Komerční využití je nasnadě – je málo pilotů a jejich výcvik stojí obrovské peníze. AI vám dává možnost zlepšit schopnosti a výkonnost současných pilotů. A také si vystačíte s menším počtem pilotů. Místo dvou vám ve stíhačce může v kombinaci s AI stačit jeden.

Samozřejmě nevím, kdy FAA (americký úřad pro civilní letectví, pozn. red.) povolí létání plně autonomních letadel, ale blížíme se k tomu. My jsme už vyzkoušeli a prodali malý dron, který létá zcela samostatně. Teď pracujeme na tom, abychom dokázali tuto autonomii převést na další, větší letadla. Dochází k tomu rychleji, než jsem považoval za možné, myslím, že ten vývoj bude ještě zrychlovat, ale konkrétnější harmonogram vám dát nedokážu.

Příklad automobilů je velmi příhodný. Po technické stránce dokážeme autonomii aut vyřešit už dnes, ale je tu politický problém. Víte, v jaké profesi je na světě zaměstnáno nejvíc lidí? Nejvíc na světě je řidičů. Kamioňáků, autobusáků, řidičů všeho možného… Co se z politického hlediska stane, když jejich role převezme AI? Podle mě je to tedy především politický problém.

Už dnes víme o případech, kdy se některé AI vymkly kontrole. My máme štěstí v tom, že nevyvíjíme obecnou umělou inteligenci, ale velmi konkrétního AI pilota.

AI ve vojenském letadle není politický, ale technický problém. Ale samozřejmě existují morální a právní hranice. Jsme srozuměni s tím, že bude plně autonomní letoun zabíjet lidi? Tyhle morální, politické a právní otázky musíme teprve zodpovědět.

Zatím se uvažuje o tom, že bude v systému vždy muset být nějaký lidský prvek. Když budete poslouchat piloty, řeknou vám, že tam vždy bude pilot… No, já nevím, piloti jsou drazí. Takže prostě člověk v systému, který bude vše sledovat a starat se o to, že AI kontrolovaný systém dělá to, co mu bylo zadáno. Ale co stane, když ztratíme možnost jej sledovat, nemáme s ním spojení? Dnes, když ztratíme spojení, letadlo se vrátí. Ale co když ten luxus nemám, co když potřebuji, aby AI splnila úkol i bez dozoru? A s tím se teprve budeme muset popasovat.

Když budeme bombardováni a budeme čelit existenční hrozbě, počítám, že bychom se s tím smířili, ale jinak ta etická a právní otázka stále zůstává.

Když jsem v Afghánistánu posílal jednotku proti nějakému cíli, musel jsem mít veškeré důkazy, že dotyčný je tím, za koho jej máme, musel jsem dokázat, že tam nebudou žádné civilní oběti, a teprve pak jsem dostal svolení k jeho zajetí. Nikdy jsem nedostal svolení někoho zabít. Když jsme ho nemohli zajmout, potýkali jsme se s dilematem. Je to moc riskantní, když tam půjdeme, spousta jich tam zemře a spousta našich tam zemře. Ospravedlňuje vystřelení rakety, že toho chlapa zabije, i když si nebudu moct ověřit případné související civilní oběti? Stejná morální a právní dilemata budeme mít i v případě AI.

Vidíme to na Ukrajině – přeměnu dronů ve zbraně. Na obou stranách. S tím, jak vyvíjíme nové bojové prostředky, nasazujeme je v terénu, jsou čím dál víc smrtící a přesnější, vyvstávají morální a právnické otázky, které je třeba zodpovědět.

Z mého pohledu je důležité mít tu možnost k dispozici, abychom ji v případě potřeby mohli použít. Naším cílem není vyvolat válku, ale vyvinout takové prostředky, které válce zabrání. Když tyto prostředky budeme mít a protivník bude vědět, že jej dokážeme převálcovat, nepotřebujeme komunikaci, nedokáže nám rušit signál, pak ho to, myslím, odradí od úmyslu jít do konfliktu. A zachrání to lidské životy.

Já myslím, že to všichni dělají už teď. Ale trefil jste hřebík na hlavičku. Musíme ten závod v AI vyhrát tím, že rozjedeme další Projekt Manhattan, abychom získali tyto prostředky a jimi dokázali druhé odradit. Vzájemně zaručené zničení bylo velmi úspěšnou politikou po více než sedmdesát let. Proto máme jaderná raketová sila, proto máme jaderné bombardéry, proto máme triádu. Když nepřítel zničí jedno zařízení, dostaneme ho odjinud. Díky tomu byl zatím svět bezpečný.

Teď se rozběhl závod v umělé inteligenci a ten závod nyní ještě zrychlují zbraňové drony, takže se musíte snažit získat takové prostředky, které ostatní odradí od útoku na vás. Částečně to už vidíme na Ukrajině. Drony jsou levné, dokážou je rychle nasadit do boje bez obrovských nákladů spojených s velkými zbraňovými systémy, jako jsou F-35, HIMARS nebo rakety za desítky či stovky milionů dolarů. Dron vyrobíte za pár měsíců, osadíte ho zbraněmi a dosáhnete v podstatě stejných účinků.

Proto je nezbytné ty prostředky mít a stejně jako v případě jaderných zbraní je nemuset nikdy použít. Protože už jen tím, že je máte, odradíte od jejich použití druhé.

To doufám. Alespoň z toho, co jsem dosud viděl. Dám vám příklad. Zveřejnili jsme video s našimi malými drony, Číňané zveřejnili vlastní video. Naše quady (malé drony se čtyřmi vrtulemi, pozn. red.) létaly v budově, jejich v bambusovém lese. Svým způsobem mě uklidnilo, když pak říkali: Hele, my to dokážeme lépe než Shield. Ne USA, ale Shield. To bylo pro mě potvrzení, jak si stojíme v tom závodě. Totéž se opakovalo, když jsme zveřejnili open source AI pro F-16. Pokaždé, když něco zveřejnili, říkali: Umíme to lépe než Shield. To mi dodává sebedůvěru.

Ale rozumím tomu, co říkáte. Pravděpodobně nemáme všechnu potřebnou kapacitu, ale od toho jsou tu partnerství – s NATO, s aliancí Pět očí. Když budeme všichni spolupracovat, určitě si dokážeme udržet konkurenční výhodu a pomůžeme odstrašit ostatní od využití těchto zbraní v reálném konfliktu.

Výzkum a vývoj funkční, a zejména operativní AI jsou mimořádně nákladné. Kdokoli si může koupit dron a létat s ním. Půlka dětí s nimi létá. Džina dronů jsme už vypustili z lahve. Vyvíjejí je Turci, Íránci, kdokoli. AI v dronech však bude podle mě pro nestátní aktéry cenově prohibitivní a technicky náročná. Nejen kvůli samotné umělé inteligenci, ale také kvůli senzorům a dalším přístrojům, které k tomu potřebujete. Myslím, že tato Pandořina skříňka je stále ještě bezpečně zavřená.

Archiv

Bezpochyby. Z mnoha důvodů. Ale nejdůležitější je otázka peněz. Kolik jsme tam utratili… Panebože. Když jdeme do války, dáme našim ozbrojeným složkám všechno, co chtějí, což není nutně to, co potřebují. Mezi tím zeje obrovská propast. ISR platformy pro průzkum a sledování byly velmi drahé, ale stejně jich nikdy nebylo dost, aby se daly používat při běžných taktických operacích.

Drony jako V-BAT může mít každá četa. Při misi normálně někam odletíme o půlnoci, v jednu hodinu ráno, přistaneme deset mil od cíle, aby nebyly slyšet vrtulníky. Takových misí jsme měli třeba deset za noc. Každému týmu bych mohl dát dron s sebou. Za zlomek toho, co jsme za sledování cíle tenkrát platili. Nejen abych ochránil je, ale abychom měli jistotu, že se jedná o správný cíl a že nedojde k žádným „vedlejším škodám“.

Takové prostředky zásadním způsobem mění pozemní válku a to, jak se konflikty povedou v budoucnosti. Kdybych měl držet ve vzduchu Predator dvacet čtyři hodin denně sedm dní v týdnu po dobu jednoho měsíce, abych získal třeba váš profil, bude to stát strašné peníze. S dronem V-BAT dokážu totéž za zlomek ceny. A mám to zařízení plně pod kontrolou. Takže ano, jsem přesvědčen, že by to změnilo mnohé.

Tak tomu říkám bleskový přechod z velmi taktické do velmi politické roviny. Heleďte… Poprvé jsem byl v Afghánistánu v roce 1972, jako kluk jsem ho projel stopem. Vyrůstal jsem s tátou v Íránu, takže jsem to neměl daleko. Afghánistán byl vždy zoufale pustá a chudá země a pravděpodobně vždy bude. Většina lidí se tam jen snaží přežít.

Pokoušet se spravovat národ, který je strašně chudý, je nesmírně náročné pro každého, ať už to dělá Tálibán, nebo my, když jsme podporovali zvolenou vládu. Ale intenzivně jsme se snažili pomáhat vybudovat tamní státní správu. Dva roky jsem tam žil a měl jsem na starosti justici a vězeňství. Byl jsem ve všech věznicích v Afghánistánu, vytvářeli jsme systémy case managementu, školili soudce, psali zákony. A já měl vážně pocit, že děláme pokroky. Když jsme se odtamtud stáhli, všechno se to vypařilo. Opustili jsme nejen lidi, kteří nás podporovali a které jsme podporovali my, opustili jsme i ty, ve kterých jsme vzbudili naději, že Afghánistán může být normální země, která má třeba nějaké standardy vzdělání. Byla tragédie, že tohle všechno se vypařilo. Hrozně mě zklamalo, jak to dopadlo. Považoval jsem to za velice špatné rozhodnutí.

Chtějí-li být Spojené státy velkým národem – ne supervelmocí, ten výraz vážně nemám rád, ale velkým národem –, musejí mít předsunutou přítomnost. Po druhé světové válce jsme se nevrátili domů, zůstali jsme tady v Evropě s 250 tisíci vojáky. Zůstali jsme v Asii – 350 tisíc vojáků. Pořád tam jsou. Na Blízkém východě jsme to nikdy neudělali. V době útoků z 11. září 2001 jsme měli v regionu jen asi deset dvanáct tisíc vojáků. Jsem proto přesvědčen, že malá přítomnost v Afghánistánu, Iráku, Ománu a dalších částech regionu klidně po dobu padesáti let je malou cenou za to, abychom si udrželi vliv a pomohli těm státům vyspět, stabilizovat se a začlenit do mezinárodního společenství.

No, skončil jsem v armádě a nevěděl jsem, co budu dělat dál. Lockheed Martin mi nabídl práci a já znal Blízký východ, takže to pro mě byl plynulý přechod.

A potom se mi naskytla příležitost pustit se do tohohle – s kluky, které jsem znal, s bývalými členy jednotky SEAL (prezident a spoluzakladatel Shield AI Brandon Tseng sloužil sedm let v SEAL, pozn. red.), s mariňáky. Viděl jsem, kam to směřuje, a říkal jsem si, že s tím můžu pomoct. Přišlo mi to jako další logický krok. Navíc jsem si díky tomu udržel výdělečné zaměstnání, což by můj otec nikdy nečekal.

Ano, to je pravda. Víte, jak to funguje v americké armádě, ne? Vždycky máte kontrakt na rok a pak jednoho dne řeknou: Už pro tebe nemáme další práci, měl bys jít do důchodu. To se stalo i mně poté, co odešel James Mattis z CENTCOM. Přišli za mnou, že mám jít do důchodu, tak jsem šel. Do toho manželka šla a koupila dům. Takže jsem vlastně v okamžiku odchodu do výslužby byl nejvíc zadlužený, co jsem kdy v životě byl. Povídám ženě, ty ses zbláznila, a ona na to, to je tvůj problém, sežeň si práci.

Vtipné bylo, že krátce poté, co jsme koupili ten dům a já měl nové plány, přišli z armády, že vlastně nechtějí, abych šel do výslužby. Ale nakonec jsem se rozhodl už v civilu zůstat.

Řeknu vám totéž, co jsem tehdy řekl prezidentovi: Načasování nebylo vhodné. Napsal jsem prezidentovi dopis, ve kterém jsem vysvětloval, že je mi nesmírnou ctí, ale teď na to není vhodná doba. Zároveň jsem ale připraven nastoupit jako náhradník, ne hned, ale v budoucnu, když to bude potřeba. Vždy jsem ochoten přispět. Teď jsem v mnohem lepší pozici a jsem připraven podpořit vládu.

Já jsem apolitický. Věřím víc v lidi než v politický proces. Politika je hrozně tvrdá. 

Robert S. Harward (67)

• Vyrůstal v Íránu, kde jeho otec v sedmdesátých letech sloužil jako námořní důstojník.

• Nastoupil k námořnictvu a v roce 1979 dokončil námořní akademii, později nastoupil k elitní jednotce SEAL, s níž prošel bojovými operacemi po celém světě.

• Dosáhl hodnosti viceadmirála a kromě jiných velitelských pozic byl i zástupcem velitele Amerického centrálního velitelství (USCENTCOM).

• Na Naval War College a poté i na MIT studoval mezinárodní vztahy. Působil v think-tanku RAND Corporation.

• V administrativě George W. Bushe působil v Národní bezpečnostní radě, nabídku Donalda Trumpa na post poradce pro národní bezpečnost odmítl.

• Po odchodu z armády pracoval pro Lockheed Martin na Blízkém východě.

• Od roku 2022 je výkonným viceprezidentem Shield AI pro mezinárodní obchod a strategii.

• Je profesionálním parašutistou a miluje veškeré fyzické a intelektuální soutěže, squashem a triatlonem počínaje a šachy konče.