Diskuse k článku

Robotičtí vojáci by zabíjeli bez soucitu. Vědci před nimi varují

Nebudou brát ohledy a budou efektivnějšími zabijáky než lidé. Autonomní robotické zbraňové systémy, které by samy rozhodovaly, kdy a koho budou vraždit, s sebou nesou spoustu otazníků. Žádná velmoc však v jejich vývoji nechce zaostat.

Upozornění

Litujeme, ale tato diskuse byla uzavřena a již do ní nelze vkládat nové příspěvky.
Děkujeme za pochopení.

Zobrazit příspěvky: Všechny podle vláken Všechny podle času

R63o66m44a39n 98K50o19s83t55ú12r 2968630552265

jak vypadá zabití se soucitem ?

0/0
8.12.2017 7:44

T86o24m26á36š 43V22o98t50r76o13u34b73e97k 1330770944794

Zákony robotiky Isaace Asimova:

1) Robot nesmí ublížit člověku nebo svou nečinností dopustit, aby bylo člověku ublíženo. 2) Robot musí uposlechnout příkazů člověka, kromě případů, kdy jsou tyto příkazy v rozporu s prvním zákonem. 3) Robot musí chránit sám sebe před poškozením, kromě případů, kdy je tato ochrana v rozporu s prvním nebo druhým zákonem.

0/0
6.12.2017 19:58

M83i10r62o87s61l37a74v 39S96u49c92h38y 5290919840420

A jak zn zákony robotického vojáka?

1) Vyhledat potenciální nebezpečí.

2) Zlikvidovat (= zabít člověka).

3) Vyhledat další cíle.

Je jen otázkou času, kdy tím "dalším cílem" bude v podstatě každý svobodomyslný člověk.

0/0
6.12.2017 20:14
Foto

J64a47k80u22b 86R49a77i63d26a 5678366749754

Pro úplnost ještě zákony Robocopa:

1) Sloužit veřejnosti

2) Ochraňovat nevinné

3) Dodržovat zákon

4) [tajné]

0/0
8.12.2017 9:48

K21a59r77e17l 27U78r55b62a82n 2354854511969

Jakmile začne umělá inteligence myslet, bude se chtít zbavit na planetě přítěže v podobě biologického života. Tyto stoje budou dobře použitelné pro vyhlazení lidstva.

0/0
5.12.2017 11:10
Foto

D46a71n16i22e56l 20H49a41b43ě84t95í81n91e44k 1310986713932

Nevím co je lepší, jestli být zabit bez soucitu nebo se soucitem, případně být zabit člověkem, který si to užívá.

0/0
5.12.2017 6:48

K11a98m62i85l88a 25K30a11l22e38n79s81k22á 9946697897138

Historie se opakuje. V jisté době si vymyslel Čapek robota a dnes robot je běžná součást života. Julius Verne si taky vymyslel ponorky a spoustu jiných v té době nereálných věcí a dnes existují. A v roce 1984 dle vymyšleného příběhu Terminátor, lidstvo zničí umělá inteligence. Co bude asi v roce 2084? Nebo možná i dřív ;-)

0/0
4.12.2017 21:31

J16i57ř13í 20J25a35h44o77d73a 9809355348449

Poslední šancí lidstva bude se vrátit do minulosti a prosadit rezoluce, které zabrání vývoji autonomních robotů.

+1/0
4.12.2017 14:39

M33i62r20o40s84l51a43v 60S81u90c90h54y 5970209600600

A jak tomu chcete zabránit? Dnes (resp. už řadu let) máme rezoluci o nešíření jaderných zbraní - a přesto dál a dál přibývají země, které ty jaderné zbraně mají. Prý na obranu - zastrašení soupeře. Stejně tak platí zákaz chemických či biologických zbraní. Výsměch. Jediné, co (snad) člověka změní, bude návrat do minulosti. Nikoliv rezolucí, ale pádem. Člověk si musí nabít hubu, aby pochopil. A když to přežije, může začít znovu.

0/0
5.12.2017 8:56

J72i11ř21í 12J40a25h51o67d83a 9849735288179

Jak chci zabránit vracení do minulosti? Z praxe vím, že poslat kybernetický organismus s živou tkání není moc efektivní nápad.

Pokud jsi tvůj příspěvek myslel vážně, pak to je hodně hloupý příspěvek.

0/0
5.12.2017 11:54

T25o43m94á76š 76V15a26l70d81e20r 7273550529

Bude to bestiální zabíjení. Jelikož se pořád jedná o naprogramované hloupé mašiny. Primitivy. A primitiv zabijí cokoliv, kdekoliv, čímkoliv, když se mu cíl nelíbí.

+1/0
3.12.2017 19:19

O33t65a 22J64e27l24í82n26e11k 8791238310145

Já bych si lidi moc neidealizoval - lidský primitiv zabíjí pro zábavu, z pomsty, z předsudků, ze strachu, to vše by robotovi pravděpodobně nikdo nenaprogramoval...

+3/0
4.12.2017 10:59
Foto

J18i21ř52í 56H10a77v25e52l66k56a 3949773300154

Mít znamená použít - možná

Nemít při střetu znamená prohrát - určitě.

+1/−1
3.12.2017 13:20

F44r89a90n90t92i56š87e90k 84N55o28v66o58t44n90ý 7232629810

Kdyby Číňani namočili čepice v betonu, to by roboti koukali.

+1/0
3.12.2017 10:27

I54v72a96n 14M27a34r19e49k 6404108652

Přednostně, ovšem v neagresivní verzi bych je vyrobil pro obsazení parlamentu v Bruselu na poslanecké a jiné posty . Zcela jistě by EU po finanční vyšli stránce nesrovnatelně levněji, než tamní dosavadní aparátčíci . [>-]R^

0/−6
3.12.2017 9:10

O19t26a 86J96e19l48í36n20e88k 8291748250265

Dosud nejhloupější příspěvek, gratuluji :-PRv

0/0
4.12.2017 11:00

O36n96d37ř42e28j 80Š61r53u93b23a33ř 1565171395716

Bez soucitu,ale taky bez poteseni. A vzhledrm k tomu, jakou svini (omluva svinim) muze clovek byt je mozna to druhe zavaznejsi nez to prvni

+4/0
3.12.2017 6:08

L65e80n53a 26P87á35t75k39o41v68á 8481953644129

Vyřadí ty roboty emp ?

0/0
3.12.2017 1:46

M72i61r78o57s80l77a30v 96S76u30c58h47y 5220249120620

Dnes určitě, ale kdo ví, co bude za pár let.

0/0
5.12.2017 8:58

M50i12l18a63n 54K18o75i58š 4377892591660

Jaký je rozdíl, jestli vás brutálně zabije nějaký pomatený fanatik, nebo to udělá robot?

Vám jako případné oběti to už bude jedno.

Horší by bylo, kdyby se roboti jednou rozhodli tiše zlikvidovat lidskou rasu, i ty lidi, co je vytvořili. Román Vzpoura mozků či film Terminátor by se časem mohly stát realitou.

+4/0
2.12.2017 16:44

L95a73d79i84s96l50a30v 61H53a98š36k60a 4513676141320

Hlavně aby mysleli na ekologii zabíjení. Emise CO2 při výstřelu atd...

+1/0
2.12.2017 16:38

M66i49c22h60a36l 77J28a46r86o10š 7574630842305

To mi nedošlo ;-D A taky by jim měli přeměřit zásobníky

+2/0
2.12.2017 22:23

R29o89b28e62r10t 12K50u73b50i71s92t50a 8190517749575

Zatím to je ok, ještě bude chvíli trvat, než budou stroje opravdu "myslet", ale průšvih se blíží. Ale stejně je to s ničením planety, vyčerpáváním zdrojů a přelidněním, takže otázkou spíš je, který z průšvihů dopadne jako první. Trochu mi vrtá hlavou, proč dáváme přednost konzumu před přežitím, ale ona si příroda s námi poradí.

+1/−1
2.12.2017 16:10

R22i85c14h53a90r87d 77P98ů40ž28a 9550429960958

heh? už roky umí stroje myslet, dokonce se i učit!

0/−2
2.12.2017 16:22

R92o65b75e33r78t 46K42u87b67i11s81t91a 8970507669855

Hm.. víte, jedna věc je to, co čtete v novinách, ale skutečnost je maličko jiná. Pravda, je potřeba rozlišit myslet a myslet, resp. já měl na mysli spíše slovo přemýšlet.

Ty roky, o kterých píšete, stroje umí nastavovat váhy v rámci jednotlivých neuronů nad konkrétním, předem stanoveným problémem. Tím učením, co píšete, umí své váhy přenastavit, mnohdy jinak, než jejich tvůrci zamýšleli.

Ale do skutečného myšlení, resp. přemýšlení, nad komplexními životními otázkami zatím myslet neumí. Resp. nikde jsem o tom nečetl, ani mi to nikdo z kolegů, kteří se neuronovými sítěmi zabývají, neříkal.

Až ten den nastane, bude to opravdový problém. I přesto, že se už udělaly obrovské pokroky, jak v neuronových sítích, tak třebas teď vypadá slibně i budoucnost ohledně hardwaru, třebas i v otázce kvantových počítačů, osobně si myslím, že dříve nás dožene problém s planetou, než že si nějaký autonomní systém na způsob Skynetu z Terminátora uvědomí, že je nás třeba zlikvidovat.

Pravdou ovšem je, že zítra se to někomu může podařit, stvořit samostatně myslící stroj (opět se nebavím o tom, co umíme dnes, ale opravdovém myšlení), zatímco ničení planety probíhá postupně, ale nevratně.

Nic, zafilozofoval jsem si, je to příjemné, ale pokud se nezmění myšlení lidí k planetě, je to na nic.

+7/0
2.12.2017 16:38
Foto

L68u75k71á38š 87Z70á59v41o38d41s21k28ý 9321819561

souhlasím s vámi do puntíku. Jen jednu maličkost bych poupravil. Poškození planety je vratné. Jen co lidi z planety zmizí, za pár set tisíc let se planeta z jeho působení vzpamatuje. Planeta přežila i Permskou katastrofu, kdy vyhynulo 95% veškerého života.

+2/0
2.12.2017 17:05

R17o75b54e78r37t 73K85u71b37i24s34t28a 8130717989885

Jasně, já myslel nevratné, dokud se tu budou potloukat lidé. Jinak ano.

Mně stejně není pořád jasné, proč lidem nevadí, co se děje a raději zvolí konzum, namísto toho, aby se zamysleli nad tím, jestli jejich děti, nebo v lepším případě vnoučata budou mít kde žít.

To přeci vidí každý kolem sebe, že když je inverze, tak se nedá dýchat, že prostě nejde donekonečna přibývat, jednou to jídlo musí dojít, atd.

Nebo holt se čeká na tu katastrofu, která zase srovná skóre, netuším.:-/

0/0
2.12.2017 17:12

M53i58c78h70a67l 17T31o16m44á93n47e34k 9237649846

tohle samo o sobe nevadi, kdyz to pujde ruku v ruce s masivnim investovanim do vyvoje meziplanetarniho cestovani a kolonizace jinych planet

0/−2
2.12.2017 23:23

R53o73b25e52r71t 39K22u82b14i43s24t63a 8520567699395

Nevadí? Jako, že namísto toho chovat se jako blázen bude lepší vybydlet planetu a jít dál? Když odmyslíme od toho, jestli to je vůbec proveditelné v nějakém rozumném čase (bavíme se tu o desítkách let), tak to je přeci špatně.

Naše planeta je výjimečná a zdevastovat jí kvůli vlastní nenažranosti je špatně.

+2/0
3.12.2017 10:22

M51i83c86h77a32l 76T46o17m47á56n30e38k 9907349126

devastovat ji budeme tak i tak, maximalne to muzeme trosku zmirnit ale je nas proste moc a planetu budeme ovlivnovat at chceme ci ne

+1/0
3.12.2017 10:33

R11o68b42e58r96t 82K45u65b12i41s75t74a 8360537539775

No, podívejte se. Přelidnění je také katastrofa. A ovlivňování planety - když se to bude dělat v rozumné míře a ještě i přes vysoké investice se bude na druhé straně dělat vše pro to, aby se ty škody zase napravily, tak je to udržitelné dlouho.

Je potřeba si uvědomit, že přírodní zákony (nebo chcete-li vesmírné) platí pro všechny stejně a neúprosně.

Takže ty počty jsou jednoduché - buď se uskromníme, přijmeme velmi nepopulární opatření, snížíme přelidnění, atd. a nebo prostě vyhyneme, Země se za pár stovek tisíc nebo milionů let dá zase dohromady a přijde něco jiného, nějaký jiný způsob života. Země je ještě mladá, ta to dá. O nás se to říci úplně nedá.

A až si uděláme pořádek doma, můžeme se bavit o tom, jak budeme osidlovat nové planety. To, že doletíme někam, kdyby se to nakrásně povedlo, neznamená, že to bude stejný život.

A rozmlátit si domov jen tak pro nic za nic, protože se to mocným hodí a neumí lidem říci "ne", je škoda a špatně.

Můžeme s tím nesouhlasit, ale to je asi tak jediné, stejně ten účet budeme muset jako lidstvo zatáhnout. A mám obavu, že to možná ještě stihneme my, naše děti už dost pravděpodobně, když vidím, jak to jde jde rychle do háje.

+1/0
3.12.2017 11:02

D59a74v64i94d 50D36i85r61g76a 7365171158

Přírodní zákony mimo jiné říkají, že entropie roste. Jinými slovy, že k devastaci bude docházet vždy a zejména v případě, že někde máte živé organismy, které zvyšují entropii svého prostředí, aby snížily entropii svoji (jinak se tomu taky říká život a metabolismus). Máme sice štěstí, že nám sem poměrně hodně energie pere slunce, ale na život na sluneční energii bych v dohledné době nesázel.

Pokud dokážeme expandovat na jiné planety, tak prostě nevyhyneme. Můžeme diskutovat o etice postupu vybydlet si vlastní planetu a jít jinam, ale základní instinkty nakonec povedou k tomu, že čím víc ta planeta bude vybydlená, tím víc se lidi budou snažit najít si nějakou lepší. Takže k rozvoji vesmírné kolonizace dojde spíš v případě, že nás k tomu donutí rozvrácené životní prostředí než opačně.

A pokud jde o ta nepopulární opatření, ona jsou tak nepopulární, že by je žádný politický lídr nepřežil. Máte auto? Nakupujete v obchodě? Používáte počítač a internet? V tom případě zásadní měrou přispíváte k odčerpávání neobnovitelných zdrojů planety. Ekosystému by zásadní měrou pomohlo, kdybychom se vrátili do doby kamenné. Ovšem kromě toho, že k tomu lidi prostě nepřinutíte, ani shora, ani zdola, budete pak muset hodně doufat, že nás nepotká nějaký smolný meteorit. Protože s technikou na úrovni pleistocénu si s ním poradíme mnohem hůř, než s dostupnou technikou s tou vyčerpanou planetou.

0/0
3.12.2017 23:42

K24a18r82e90l 78U40r23b93a19n 2974714551159

To nemusí být vůbec pravda. Pokud zničíme ozonovou vrstvu, můžeme tím odstřelit natrvalo celou atmosféru planety a Země skončí ve stavu, jako Mars.

0/0
5.12.2017 11:12

J28a83n 46U56l12r20y63c92h 4781707630368

no ale permské (ani žádné jiné) vymírání nebylo vratné - naopak se po nich ekosystémy zcela zásadně změnily, samozřejmě pod pojmem "planeta přežila (a přežije)" je možné si představit skoro cokoliv, takže s takovým tvrzením se ani nedá nesouhlasit

0/0
9.12.2017 12:14

M38o61j73m82í80r 81S70k74á40l50a 2920582846

morální výčitky ztratíme podobně jako u Pearl Harboru za méně než šest hodin

Zdroj: https://xman.idnes.cz/roboti-vojaci-autonomni-systemy-protest-hawking-musk-p1p-/xman-styl.aspx?c=A171201_143730_xman-styl_fro

To mluvil o šikmoočkách...?!?:-P

0/0
2.12.2017 16:10
Foto

L94u95k40á58š 68Z61á13v18o88d31s51k49ý 9151739261

jedno je jisté. Filmy jako Terminátor, či Matrix, nebyli ani tak sci-fi, jako spíš realistické vize nepříliš vzdálené budoucnosti. Robotizace povede nevyhnutelně ke konfliktu s lidmi. Nakonec to opravdu dopadne tak, že zbude jediná otázka. Zda my, nebo oni. Roboti budou mít ve vzdálené budoucnosti potenciál, zcela nahradit lidstvo. Vlastně to bude jen další stupeň evoluce. Nemusíme s tím souhlasit, ale tak to prostě je.

+3/0
2.12.2017 15:15

O53t21a 45J47e29l64í50n77e48k 8211388260115

podle mého názoru je také docela pravděpodobný jiný vývoj směrem ke kyborgům... Už nyní medicína běžně úspěšně nahrazuje nefunkční části lidských těl (končetiny, srdce atp.), je jen otázka času, kdy si lidi začnou vylepšovat i mozek a to už bude ke kyborgům jen krůček :-P

0/0
4.12.2017 11:07

J80a74n 76M90i86c70h16á23l32e43k 3190195593275

No, myslim si, že ani autorům článku, ani většině diskutucících tady nedochází jedna věc. Tady nejde, v žádnym případě o humanoidní roboty. Klidně může jít o umělou inteligenci, která řídí raketový silo, nebo nějakou taktickou jednotku, která klidně může řídit lidský vojáky. A samozřejmě drony a různý autonomní vozítka. Například čtyřkolka, kde je místo jezdce namontovanej nějakej pořádnej kvér. Hlídkuje to někde na poušti a když to někoho zmerčí, tak ho to dojede a spočítá to, jestli to po ňom má střílet, nebo ne. Je to vlastně ten samej problém, jako u samořídících aut. Když vaše samořídící auto někoho zajede, kdo za to může?

Jasně, autonomní zbraně, to neni žádnej novej výdobytek. Všelijaký miny, pastě... Šlápneš na špagátek a bác. No. A jsme u toho. To jakej je problém se zaminovanejma oblastma ještě mnoho let po válce všudemožně po světě, to si každej dokáže vygůglit. Je to průšvih. No a teď si zkusim představit, že ustupující armáda zamoří rozsáhlou oblast nějakejma vozítkama s umělou inteligencí a pořádnou dávkou výbušniny. Nepříjemná představa. Je jasný, že to, že se to zakáže nebude znamenat, že to nebudou vyrábět například teroristi. No, každopádně, vlády zemí, který se pokládaj za civilizovaný, by podobný věci vyvíjet neměly.

+2/0
2.12.2017 14:44

J48a39n 31U42l74r17y53c30h 4281157550388

souhlasím s prvním odstavcem i většinou druhého, ale ne se závěrem, civilizované země prostě zbraně tak či onak pracující s UI vyvíjet budou (a dokonce musí) - na co by se měli všichni výrobci a uživatelé zaměřit, by bylo a) co nejlepší ošetření pojistek, a to včetně, nebo spíš hlavně ověření příchozích informací o situaci, b) také vzájemné komunikace potenciálních protivníků bezprostředně po signálu o nějaké anomalitě, vyhodnoceném riziku... - primárně u strategických zbraní + v budoucnu vojenských zařízení (i čistě obranných vč. jen sledovacích prostředků) umístěných na orbitě - protože vyjmenovaný rozsah podle mě vymezujeme největší rizika v důsledku nějaké chyby, která se s nasazením UI asi logicky zvětší - složité systémy s (až extrémně) krátkou reakční dobou...

0/0
9.12.2017 12:51

S29a54m 27S91e47l39d45r11i37c24k 8541607612435

No to je ale rádoby chytrý titulek - průměrně inteligentního člověka by /zřejmě podle pana pisálka, když nám to vnucuje/ nikdy nenapadlo, že robot = stroj bude zabíjet bez soucitu.. anebo se pan pisálek snaží o špatný pokus o vtip, že by teoreticky mohl být robot určený k zabíjení naprogramován možností volby zabíjet se soucitem? ;-D ten titulek napsal vážně tu*pan a další tu*pan - šéf redakce - to ještě schválil ;-D

+1/0
2.12.2017 14:42

P66e12t31r 77A35n37d68r47ý11s48e27k 9773621186567

Je to jasne, ze velmoci budou tyto technologie vyvijet. I kdyby OSN prosadila nejaky zakaz, tak se to bude stejne tajne dit, USA, Rusko ani Cina nebudou jeden druhemu verit, ze to ten druhy nedela a ani jeden si nemuze dovolit zaspat, tak svet proste funguje. Nejaka idealisticky svet, kde vsichni ziji v miru a maji se radi, je utopie. Samozrejme, ze by se mi to tak libilo, ale v lidske podstate je soitezivost, zavist a taky pud sebezachovy (pokud by dosli k vazne krizi a boji o zdroje), v tom celkovem obrovskem mnozstvi lidi se vzdycky najdou psychopati, kteri budou chtit ovladat ostatni, zabijeni pro ne nebude takovy problem a podobne. Neni mozne je vymytit, lidi jsou proste takovi. Kdyz zavrete jednoho, narodi nebo objevi se dalsi. Velmoci se tedy musi snazit neustale vyvijet nejnovejsi zbranove systemy, aby udavaly krok a nebo aspon drzely krok s temi vyspelejsimi, kdo zaspi dobu, tak hrozi, ze bude znicet. Toto si velmoci uvedomuji a proto budou vyvijet nove zbrane zakazum z OSN navzdory.

+1/0
2.12.2017 14:30

I59v56a71n 44M57i51n61á95ř 7402954797731

Jaký by to byl pro oběti rozdíl - pokud by byly .. zabíjeni se soucitem ?:-(

+2/0
2.12.2017 14:26

L58e89o34š 84E69x80n41e49r 4516985506792

Být zabít z lásky je podle vědců pro oběť mnohem přijatelnější... :-)

+5/0
2.12.2017 14:31

M27o69j81m53í77r 74S69k76á36l54a 2760672816

;-D

0/0
2.12.2017 16:12

M25i13c91h15a15l 90T80o55m63á20n57e76k 9627569966

maso pak preji jen lepe chutna nebo tka to rikaji kdyz jite maso dobytka z lasky vs nasilne zabiteho

0/0
2.12.2017 23:27
Foto

P31a68v15e59l 15P90o27d87e68š18v28a 5659367139

Humánní boj byse měl vyvarovat bologických, chemických a jaderných zbraní. To je podle mně přes čáru. Jinak mi přijde naprosto normální podpořit svoji sílu technologií.

+1/−1
2.12.2017 14:11

J47a13n 22V65e12r54n76e48r 8433457183686

Skynet je tady. :-/

+1/0
2.12.2017 13:52

R34i63c59h34a76r24d 27M71i54c66h48a27l61o89w97s25k33i 1961869345546

Naštěstí do toho vědci nebudou mluvit. Ono je totiž bojovníkovi docela fuk, jestli ho roztrhá granát vržený lidskou rukou nebo robotem!

0/0
2.12.2017 13:48

J51i25r16i 44R20o60u12b30a82l 3343699516465

Filozofování autora mi přijde poněkud mimo mísu. Jeho "rozvoj dehumanizace boje" nebo "zvyšuje se odstup a minimalizuje kontakt" se snaží vyvolat dojem, že se snad dříve bojovalo "humánněji a lépe"? Boj na distanc byl součástí jakéhokoliv boje od samotného počátku. Házení kamenů, oštěpů a střílení šípů například. A není třeba v tom hledat znak žádné dehumanizace a úpadku. Prostě to byla jen součást snahy zneškodnit protivníka a nebýt přitom zneškodněn sám.

+6/−1
2.12.2017 13:42

P66a62v37e43l 41Š13t47e63k57l 2794646930135

Ano, to že existují drony, je jasné. Už je dávají i v televizi. Ale je to špičkový výrobek, pakliže má mít špičkové parametry. Ale od dronů k robotickému vojákovi s autonomním myšlením je ještě dost daleko. Navíc si nejsem jistým, že stroje vydrží tolik, co lidé. Navíc problémy taky, napájení je problém, při zarušení komunikace je problém, není problém použít EMI pulsní granáty a kde byl robot. Navíc koroze, přehřívání, písek, prach, vlhko a samozřejmě člověk. Ten boj alespoň v počátku nebude pro roboty tak super. Navíc na každou zbraň je snadné najít efektivní protizbraň. Neviděl bych to tak jednoznačné. Lidi se rychle učí. :-/

+1/−3
2.12.2017 13:27

Najdete na iDNES.cz