Vysvětlujeme, že nejde o nějaké šílené roboty, kteří porušili zákaz lidí a zasypali planetu stovkami raket s jadernými bojovými hlavicemi, ale o chyby umělé inteligence, které jsou možné v situacích, pokud jí byly poskytnuty pravomoci k útoku a ona vyhodnotila bezpečné faktory jako ohrožující.

Zní to hrozivě. Pokusíme se zjistit, v kterých sférách moderní armády používají UI. Je jich pět:

• programy subsystémů vojenské techniky


• informační systémy ovládání vzorků techniky


• informační systémy komplexů zbraní


• Informační systémy řízení a výměny informací mezi vojenskými jednotkami a útvary


• informační systémy podpory přijetí rozhodnutí vojenského velení

Poraď, jak zaútočit

K prvnímu typu patří programy, které řídí práci, například samonaváděcí hlavice rakety, digitální inerční navigační systém nebo systémy ovládání motorů moderního letounu či tanku. Historie vývoje podobných počítačových systémů čítá již několik desetiletí a jejich rozvoj má spíš evoluční povahu. Nové technologie práce s daty se tu nepoužívají tak aktivně.

K druhému typu patří bojové řídící informační systémy moderních vzorků složité vojenské techniky, jako je letadlo nebo loď. Tady se dají použít algoritmy s použitím moderních technologií, například k okamžitému rozboru informací ze všech subsystémů vzorku techniky a také k vydání doporučení posádce.

Umělý rozum a Iskander-M

Třetí typ software umožňuje práci s různými vzorky techniky tvořícími komplex zbrojních systémů. Například, moderní raketový systém Iskander-M má dvě odpalovací zařízení, dopravní nabíjecí stroj, zařízení na informování o cílech a velitelské štábní vozidlo. Všechny části systému řídí příslušné software spolupracující se software každého vzorku. Nové technologie se tu používají, ale stejně jako ve vývoji software pro technické vzorky se zavádějí postupně.

Čtvrtý typ tvoří velká a velmi závažná třída systémů, která zajišťuje řízení na úrovni různých vojenských jednotek. Použití nových technologií práce s daty tu způsobilo skutečnou revoluci, protože umožnilo řídit každou jednotku, každý technický vzorek, na jakékoliv vzdálenosti v reálném čase. Podobné systémy fungují dvěma směry: shromáždění, rozbor a prezentace informací a závěrů odborníkům ze štábu a dalším odběratelům informací, a také předávání štábních rozkazů nižším strukturám.

Jak to funguje? Hledáme okřídlené rakety

Uvedeme jednoduchý příklad shromažďování a rozboru informací s použitím moderních technologií. Rozbor jízdy tisíce kontejnerových vozů po silnicích určitého státu umožňuje systémům, jež se učí samy, vyčlenit podle jistých příznaků stroje, které možná vezou zamaskované odpalovací rampy pro rakety s plochou dráhou letu. Není obtížné získat údaje o dopravním proudu s pomocí moderních satelitů, vše ostatní je výsledek činnosti skupiny analytiků a speciálního softwaru.

Ještě výraznější příklad: z útržkovitých výzvědných údajů se na základě intelektuálního rozboru činí závěr o eventuální dislokaci v tom nebo jiném terénu vojenské jednotky nebo štábu, jež nebyly zatím objeveny s pomocí vizuální nebo radiotechnické rozvědky.

Podobné systémy dokáží samozřejmě získat informace ze všech nižších systémů a také ze sousedních analogických nebo vyšších systémů. A tak se dá vytvořit jednotný informační prostor bojové operace a podle úrovně přístupu mohou tento informační obraz získat také nižší systémy: tanky, lodě a letadla. Vznikají tedy nové informační kapacity moderního boje, když letec vidí nepřátelské letouny objevené lodí, a sleduje cíl podle obrazu vysílaného z tabletu rozvědčíka. Podobné systémy již byly částečně uplatněny, avšak jejich použití je zatím omezené.

Kde je tedy jaderná válka?

Přejdeme nyní k tomu, o čem se píše v článku Breaking Defense, ke kontrole jaderných zbraní, ruskému systému Perimetr a dalším podobným věcem.

Jde o pátou sféru použití umělé inteligence. O systémy, které by bylo správnější označit za systémy podpory přijetí rozhodnutí. Skutečně dokáží vytvořit nové informace: předpoklad o tajných zdrojích nepřítele, prognózu jeho aktivity, vývoj scénáře odvetných aktivit podle stanovených podmínek a vojenských kapacit země. V těchto systémech musí být použity nejdokonalejší a maximálně spolehlivé softwary, protože chyba by přišla příliš draho.

Nicméně jedním z prvních systémů, jež dokáží přijmout rozhodnutí bez lidské účasti, byl Perimetr vyvinutý na konci sovětské doby, který má údajně zaručit zasazení odvetného úderu mezikontinentálními balistickými raketami v případě likvidace vojenského velení státu. Slůvko „údajně“ jsme použili proto, že veškeré informace o Perimetru jsou přísně tajné. A žádné oficiální údaje ohledně „automatických“ rozhodnutí Perimetru prostě nemáme. Přitom se předpokládá (opět), že právě v Perimetru byly realizovány algoritmy, jež umožňují s pomocí různých subsystémů, včetně počítačových, zaručit ochranu před nepovoleným odpálením.

Může zemětřesení odpálit ruské rakety?

Bývalý náměstek ministra obrany USA Robert Work se obává (ve zmíněném článku Breaking Defense), že Perimetr může považovat seizmickou aktivitu za jaderný výbuch, a proto vyšle žádost do štábu, a (pokud) nedostane „lidskou“ odpověď, odpálí rakety.

Je to ale velmi nepravděpodobné. Jde o to, že seizmický obraz jaderného výbuchu je velmi těžké si splést s něčím přirozeným. Navíc je těžké si představit, že Perimetr přijme rozhodnutí podle dat seizmických senzorů, bez jakýchkoliv informací o agresi ze systému varování před raketovým útokem a také systémů PVO. Tyto systémy nemohou být zase zlikvidovány nepozorovaně, takže Perimetr v žádném případě nezůstane bez „smyslových ústrojí“.

Když tedy nikdo rakety neodpálil a nevyslal bojové letouny, ale přitom existuje jistý lokální seizmický jev, pak to pro Perimetr s téměř stoprocentní jistotou není válka. Dokonce i když připustíme čistě hypotetickou pravděpodobnost toho, že například generální štáb neodpovídá na dotazy Perimetru. Kromě toho, zůstane-li nedotčené buď jedno velitelské stanoviště nebo Kreml, nebude to pro Perimetr válka a nebude důvod k odpálení raket.

Sovětský člověk je spolehlivější než stroj 

Teorie automatického nasazení Perimetru se však rozchází s tradičním konzervatismem technických rozhodnutí strategické úrovně v SSSR. Na místech, kde se dal použít člověk, vždy pracoval právě člověk a přijetí důležitých rozhodnutí v SSSR nebylo nikdy svěřeno žádným digitálním systémům. Dnes je tento uvědomělý konzervatismus doprovázen navíc jistou nepřipraveností výpočetní techniky k nejmodernějším programovým rozhodnutím, avšak ruská škola programování má velký potenciál, takže realizace všech nejmodernějších řešení na základě technologie umělé inteligence je pouze otázkou politické vůle a koncepčního vnímání metod uplatnění těchto řešení.

Jinými slovy, až bude přijato rozhodnutí, co a jak má být použito a do jaké míry se dá osud nejdůležitějších obranných systémů svěřit počítačům, pak to bude provedeno dost rychle. Myslím, že během 3-5 let.

Názor autora se nemusí shodovat s názorem redakce