V červenci 2015 byl na mezinárodní konferenci o umělé inteligenci v Buenos Aires prezentován otevřený dopis o hrozbě autonomních zbraní řízených umělou inteligencí. Podepsali jej takové autority jako jsou například Stephen Hawking, Elon Musk, Steve Wozniak, Daniel C. Dennet, Noam Chomsky a mnozí další. Jsou autonomní zbraně opravdu takovou hrozbou?
Signatáři dopisu varují před takovými autonomními zbraněmi, které jsou na základě předdefinovaných kritérií schopny zacílit a zlikvidovat svůj cíl bez jakéhokoliv lidské intervence. Mezi takové zbraně patří například chytrá vozidla vyzbrojená vojenskou technologií, droni pilotováni umělou inteligencí schopni samostatně vyhodnotit, na který cíl se zaměřit a vzápětí jej eliminovat, ale i samostatně fungující terminátoři nosící pistole. Tyto představy podle autorů dopisu již dávno nepatří jen do sci-fi žánru. Upozorňují, že nové technologie ve spojení s umělou inteligencí dosáhli úrovně, ve které jsme schopni vyvinout takový typ autonomních zbraní nikoliv v řádu dekád, nýbrž již během několika let. Ve špatných rukou mohou vést k masovým vraždám, destabilizaci státu, podmanění si populace nebo selektivnímu vyvraždění konkrétní etnické skupiny. To, co podle nich činí tento typ zbraní snadno dostupným, je jejich nízká cena a snadné získávání materiálů potřebných k jejich výrobě oproti například nukleárním zbraním. Je podle nich jen otázkou času, než se objeví na černém trhu a dostanou se do nesprávných rukou, které je rozhodně nebudou využívat ve prospěch lidstva, což jsou hlavní důvody, proč se autoři dovolávají zákazu útočných autonomních zbraní bez smysluplné lidské kontroly.
“Autonomní zbraně vybírají a útočí na cíl bez lidské intervence.”
Jak ale vlastně autonomní zbraně dneška vypadají doopravdy? Americká armáda například vlastní robotické vozidlo MADSS (Mobile Armed Dismount Support System), které je určeno zejména k přenosu těžké vojenské techniky. V případě útoku jej však vojáci mohou využít k vrácení palby, zatímco sami budou ukryti kdesi v bezpečí. Ovládán je dálkově a podle CNN patří mezi sedm nejdražších robotických hraček současnosti. Do stejné kategorie řadí také Protector. Multifunkční robotický systém na detekci min, který lze přidáním či odebráním nějaké jeho komponenty přetvořit na humanoida, konstrukčního robota nebo bazuku, jež čistí cestu minovým polem.
“Autonomní zbraně jsou považovány za třetí revoluci ve válečnictví, po střelném prachu a nukleárních zbraních.”
Daleko komlexnějším zbraňovým systémem je v tomto smyslu izraelský Iron Dome, jenž byl vyvinut proti častým palestinským raketovým útokům v Pásmu Gazy na ochranu izraelského obyvatelstva. Palestinci jsou schopni na Izrael vyslat několik raket naráz, z čehož každá svůj cíl zasáhne během 10-15 sekund, v případě Tel Avivu dopad raketě trvá cca 1 minutu. Proti takovým útokům je těžké se bránit, byť jsou jejich cíle spíš namátkové a ne každá dopadne na strategicky významný cíl, nebo bezprostředně ohrožuje životy lidí. Každou útočnou raketu je totiž obvykle nutné sestřelit zvlášť. Iron Dome je schopen zachytit nepřátelstké rakety téměr okamžitě. Tuto informaci dále předá řídícímu centru, jež propočítá jejich trajektorie, vyhodnotí hrozbu a určí, které z nich je potřeba zneškodnit. Následně vyšle signál odpalovací jednotce, která raketu sestřelí podle instrukcí. Mimoto je Iron Dome schopen vyslat upozornění do ohrožených oblastí, takže civilisté mají čas se ukrýt. Systém má 90% úspěšnost v zachycování raket, což má také za následek nulový počet obětí při odstřelování Izreale Hamásem.
“Bude jen otázkou času, kdy se objeví na černém trhu v rukou teroristů, diktátorů, kteří chtějí lépe ovládat své obyvatelsto, válečníků, jenž chtějí páchat etnické čistky atd.”
Cena jedné z protiraketových střel se odhaduje cca na 40 000 dolarů, zatímco cena jedné z útočných raket je přibližně desetinásobně nižší. Právě vysoká cena byla důvodem kritiky mnohých. Ovšem díky své vysoké úspěšnosti se systém ve výsledku ukázal jako účinější a levnější variantou pozemního nasazování jednotek. Přesto je investice do vývoje takových typů systému stále vysoká. Jen co do časovosti vývoje Iron Dome trvala celá procedura téměř sedm let, než mohl být úspěšně nasazen do akce, přičemž jeho přínos se definitivně potvrdil až loni, tedy další 3 roky po jeho spuštění. Jedná se tak o plus mínus jednu dekádu trvající proceduru, přičemž plná autonomie jednotky je v nedohlednu (v řídím středisku Iron Dome mají stále rozhodující slovo lidé), a to před sebou máme jen protiraketový systém obrany. Jak dlouho by tedy trval vývoj a výroba funkčního a plně autonomního terminátora? Teoreticky je to opravdu otázka pár let, prakticky je taková zbraň stále v nedohlednu.