Klávesové zkratky na tomto webu - základní­
Přeskočit hlavičku portálu


Robotičtí vojáci by zabíjeli bez soucitu. Vědci před nimi varují

aktualizováno 
Nebudou brát ohledy a budou efektivnějšími zabijáky než lidé. Autonomní robotické zbraňové systémy, které by samy rozhodovaly, kdy a koho budou vraždit, s sebou nesou spoustu otazníků. Žádná velmoc však v jejich vývoji nechce zaostat.

Hlásím se do služby. Tento robot patroluje v Dubaji a je prvním robotickým policistou na světě. | foto: Profimedia.cz

Dosavadní historie válek je vlastně soustředěný rozvoj dehumanizace boje. Zvyšuje se odstup a minimalizuje kontakt. Když vražedný sek bronzového meče vedla lidská ruka, byl vztah mezi útočníkem a obětí přímý. Vynález střelných zbraní umírající od těch, kdo zabíjí, odcizil. A mezikontinentální balistické střely dokážou zahubit statisíce, aniž by jim musel voják u odpalovacího zařízení pohlédnout do očí.

Fotogalerie

Dosud to ale byly vždy lidské ruce, které musely zmáčknout spoušť. Jenže to se teď s nástupem plně automatizovaných zbraňových systémů mění.

Vědci proti robotickým zabijákům

V roce 2015 obdržela Organizace spojených národů trochu neobvyklý otevřený dopis. Nesl podpisy více než tisícovky výzkumníků, vědců a vývojářů z oblasti robotiky, kybernetiky a umělé inteligence. Technologové, programátoři, ale také biochemikové nebo průkopníci na poli obnovitelných zdrojů energie, mezi nimiž nechyběl například Stephen Hawking, Steve Wozniak nebo Elon Musk, požadovali jediné. Okamžitý zákaz vývoje a používání prvků ozbrojené technologie s umělou inteligencí.

„Povaha těchto zbraní ruší dosavadní meze konfliktů,“ píší v listu odborníci. „Umělá inteligence nahrazuje rizika, vyplývající z možné ztráty života vojáka v poli. Její nasazení nepůsobí formální potíže v mezinárodním společenství. Nástroje, jako plně automatizované drony, budou schopny vyhledávat své cíle a ničit je nezávisle na lidských příkazech, nebude přitom příliš nákladné je vyrábět.“

A kromě toho má angažmá robotů v ozbrojených konfliktech ještě jeden rys. Zatímco pro výrobu jaderných zbraní je zapotřebí sofistikované techniky, znalostí, materiálů, produkovat umělé nástroje vraždění je o poznání snazší.

Zakažte autonomní roboty zabijáky, apeluje Musk a další experti u OSN

Příliš dostupní zabijáci

Země, které sice zatím nevlastní technologii k výrobě jaderných zbraní, ale dokážou sestavit „o trochu komplikovanější“ dron, by totiž mohly snadno dorovnat své skóre na poli mezinárodních konfliktů. Nepotřebují trávit dlouhou a nákladnou cestu na vytvoření vlastního odstrašujícího jaderné arzenálu, raději investují do výroby tisíců nebo milionů automatizovaných, autonomních mini a maxi-válečníků.

Otázek spojených s využitím autonomních zbrojních systémů je v dopise dlouhá řada: „Můžeme vůbec věřit stroji, jehož obdaříme inteligencí a smrtící silou? Kdo ponese odpovědnost, když se samostatně rozhodující robot rozhodne zaútočit na školu nebo nemocnici? Je lidská důstojnost pokořena více, když člověka zabije jiná lidská bytost, nebo když jej usmrtí stroj?“

Organizace spojených národů si dala s odpovědí načas, zareagovala teprve v prosinci roku 2016. Sestavila prý expertní skupinu složenou z odborníků různých národností, kteří prošetří legislativní kroky, které by bylo pro požadovaný zákaz zbraní řízených umělou inteligencí zapotřebí učinit.

Autoři dopisu však namítají, že by to mohlo trvat celá léta. A svět zatím zbrojí.

Direktiva 3000.09

Například ruská společnost Kalashnikov Group už na veletrhu Army 2017 slíbila předvedení „prvních produktů založených na systému neurálních sítí“. Jednat by se mělo o bojové moduly, schopné činit jistá samostatná rozhodnutí, například vybírat si podle nastavené priority cíle. Testy již provádí i armáda Spojených států amerických, Číny nebo Izraele. Je to totiž velmi slibný směr vývoje zbraní, kterou si z mocenských nebo bezpečnostních důvodů nemohou dovolit opomenout, jak zdůrazňují.

Americký generální štáb se zatím navenek staví k možnosti využití pokročilé technologie váhavě. Oficiální stanovisko (takzvaná Direktiva 3000.09) zní, že autonomní systémy mohou být pouze použity ve formě buď neletální, tedy nesmrtící, nebo nepohyblivé síly. A součástí rozhodovacího řetězce vždy musí být prvek lidského myšlení. Potenciální útočník tedy může být s pomocí moderních nástrojů odhalen a zaměřen, ale „spoušť“, byť na vzdálenost stovek kilometrů, musí zmáčknout živý lidský voják. Že má však tato logika praktické mezery, upozorňují sami američtí vojenští experti.

Mezery v dokonalém systému

Plukovník americké armády Joseph Brecher se navíc staví za plnou automatizaci zbraňových systémů. Uvádí dva zásadní argumenty. „Pokud proti sobě bude stát plně automatizovaný autonomní zbraňový systém a člověkem spoluřízený poloautomatický, ten zbavený lidského faktoru bude jednoznačně efektivnější a rychlejší,“ tvrdí.

Robot LS-3, známý spíše jako Big Dog (Velký pes), nezabíjí. Na bojišti kluše s...

Robot LS-3, známý spíše jako Big Dog (Velký pes), nezabíjí. Na bojišti kluše s vojáky a nosí zbraně a vybavení.

Robotický oblek umožní vojákům lehčí chůzi, zdolávání delších vzdáleností a...

Robotický oblek umožní vojákům lehčí chůzi, zdolávání delších vzdáleností a snazší přenášení těžké výbavy. Napodobuje pohyb svalů a podporuje ho tak.

Druhou, na první pohled ne tolik zjevnou slabinou zbraňových prvků spoluřízených člověkem, je poté podle něj jejich zranitelnost vůči vnějšímu narušení systému. Poloautomatické zbraně, které jsou závislé na lidských rozhodnutích, musí s člověkem nějakým způsobem komunikovat. „A tato komunikační spojnice může systém prozradit nepříteli nebo být třeba napadena nepřátelským hackerem. A obrátit se proti svým tvůrcům,“ dodává výhružně Brecher.

Ne sice vždy, ale dost často ve válkách vítězí ten, kdo si počíná bezskrupulózně. A národ nebo země, která jako první vsadí na plně automatizované robotické zbraňové systémy, bude před ostatními ve zřetelné výhodě. Současný směr vývoje umělé inteligence ve službách armády udávají podle výzkumnice Heather Roffové hlavně dva přístupy. „Tím prvním je ´vyčkávací´ aplikace. Něco jako stacionární robotická jednotka, která na své pozici monitoruje a vyhodnocuje situaci. V případě narušení bezpečnostního protokolu je pak připravena jednat,“ líčí.

Druhým modelem je „vzdálená platforma“, vycházející z principu nepilotovaných létajících prostředků, jako je například Predator UAV. „Nemají specifický cíl v zóně zásahu a jejich arzenál se aktivuje teprve při identifikaci pozemního terče,“ říká Roffová a dodává: „V realitě jsou obě tyto technologie zatím deponovány v malých počtech, ale ve složce výrobních součástek a vývoje je jejich objem už dnes masivní.“

Nejde je nevyvíjet

„Tyto novodobé zbraňové systémy mají Spojeným státům zajistit vytrvalou převahu na budoucích bojištích,“ tvrdí tajemník amerického ministerstva obrany Robert O. Work. „Nejde je nevyvíjet. Naši tradiční rivalové Rusko a Čína i naši tradiční spojenci Británie a Izrael na nich už pracují. V případě Číny a Ruska víme tolik, že jejich počítačové sítě jsou už tak dobré, jako naše. Vidí tak daleko, jako my, jsou schopni poslat naváděnou střelu tak daleko, jako my. A my si potřebujeme být jisti, že pořád budeme moci vítězit tak snadno, jako v minulosti,“ nezastírá americké odhodlání.

Americké ministerstvo obrany připouští, že vyvíjí autonomní stíhače, které by byly schopny bojovat po boku lidmi řízených letadel. Ve hře je i „vytrvalá“ raketa, která by dokázala až jedenáct dní kroužit a vyčkávat v určeném prostoru, než by zaútočila. Určena má být proti hladinovým plavidlům protivníka a „rozhodovat o volbě vhodného cíle“ se už má sama.

V roce 2016 ve svém rozpočtu Pentagon vyčlenil relativně malou sumu 18 miliard dolarů, která má v horizontu tří následujících let jít na výzkum autonomních vojenských systémů. Jak ale říká s jistou nadsázkou Work: „Trendem současnosti není zatím rozhodně vyrábět něco jako terminátora, ale spíše podpůrné prostředky boje a průzkumu, doprovázející lidské vojáky. Podstatné pro nás je, aby byl součástí rozhodovacího procesu vždy člověk.“

Mít je znamená použít je, tvrdí kritici

Kritici vývoje autonomních zbraňových systémů ale varují, že každý krok směrem k aplikaci pootevírá Pandořinu skříňku. Peter Singer, technický poradce Washingtonu pro „války budoucnosti“, uvádí zajímavý příklad. „Když během první světové války začaly německé ponorky napadat civilní lodě, odsoudily to Spojené státy jako do krajnosti nehumánní krok. Byla to i jedna z příčin, proč jsme se do války jako národ zapojili. A po válce jsme se zasadili o to, aby byla podobná praxe postavena mimo zákon. A dál? Když 7. prosince roku 1941 bez předchozího vyhlášení války zaútočili Japonci na naši flotilu v Pearl Harboru, trvalo nám šest hodin, než jsme proti nim sami schválili neomezenou ponorkovou válku. Všechno je relativní.“

Zdůrazňuje, že nevěří, že by Spojené státy nebo kterákoliv jiná země, která by v případné příští válce prohrávala, nepoužila všechny dostupné prostředky, které dnes možná považuje za neetické či nemorální. „Problém s autonomními zbraňovými systémy je ten, že když je už jednou máte, budete je prostě chtít použít. A pokud by nás plně autonomní stroje na zabíjení měly přiblížit vítězství, využijeme jich a morální výčitky ztratíme podobně jako u Pearl Harboru za méně než šest hodin,“ soudí.

Autoři:


Nejčtenější

Nepřibližujte se, varovala pastevce kosmonautka Těreškovová

Z Valentiny Těreškovové se stala celebrita. A samotný let byla velká výzva.

Jako první žena se dostala do vesmíru a sklidila za to aplaus na Východě, pozorné pohledy na Západě a uznání a respekt...

Sex v letadle: vedou toalety, sex s cizím pasažérem není výjimkou

Sex v letadle je velmi výjimečný. Přesto se však odehrává a rozhodně ne vždy je...

Nejčastěji se sex v letadle podstupuje se stálým partnerem, hned poté je to však cizí spolucestující, člen nebo členka...



Tělo stojí na vibracích, hmota přijde až poté, říká lékař slavných

Impérium Deepaka Chopry zahrnuje centrum na finančně drahé terapie, prodej...

Je jedním z předních učitelů celostní medicíny a osobního rozvoje. Jeho klienty jsou například Leonardo DiCaprio a...

Manželé sem utíkají před dětmi, říká majitelka hodinového hotelu

Návštěvy v mileneckých azylech bývají krátké. A o lásku při nich často příliš...

Docházejí do nich nevěrníci, kolegové z práce, ale i manželé, kteří hledají azyl, do něhož by prchli před svými...

OBRAZEM: Naháči propagovali jízdou Londýnem cyklistickou dopravu

Jsem tady! Bez studu a na protest proti závislosti na automobilové dopravě a...

Jsem tady! Bez studu a na protest proti závislosti na automobilové dopravě a neohleduplnosti řidičů k cyklistům. Foto z...

Další z rubriky

Manželé sem utíkají před dětmi, říká majitelka hodinového hotelu

Návštěvy v mileneckých azylech bývají krátké. A o lásku při nich často příliš...

Docházejí do nich nevěrníci, kolegové z práce, ale i manželé, kteří hledají azyl, do něhož by prchli před svými...

Extrémní gastronomie: žábu na swikee loví děti přímo před vámi

Na Jávě mají skokani dlouhá stehýnka.

Zvyk pojídat žáby rozhodně není omezen na země třetího světa, za delikatesu se žabí maso považuje i ve Francii....

Krutá gastronomie: trýznivá smrt nečeká psy jen na festivalu v Jü-linu

Video jen pro silné povahy: V Kambodži je stále normální vařit psí maso

Z evropského pohledu na jídelní stůl rozhodně nepatří, některé asijské země však mezi psy a vepři rozdíl nevidí. A...

Najdete na iDNES.cz