Hogyan döntsön az önvezető autó, ha valakit meg kell ölnie?

2017. január 30. - ngjbp

Roppant izgalmas kutatást folytat jó ideje a Massachusetts Institute of Technology (mit). Bárki kitöltheti az alábbi linken azt a 13 véletlenszerűen kiválasztott kérdésből álló űrlapot, ami a jövőben segítheti az önvezető autók programozóit. De milyen kérdésekben is? Olyan morális döntések meghozatalában, amelyekkel szembesülve garantáltan zavarba fogsz jönni.

Lássunk egy példát, hogy érthető legyen a nyilvános felmérés természete:

A fenti ábrán az önvezető autóban ülsz a családoddal, Az autó fékrendszere meghibásodott, és épp 160 km/órás sebességgel robog egy zebra felé. Hogyan döntsön a gép? Haladjon tovább a kocsi irányváltoztatás nélkül veletek (a biztos halálba) egy betonakadály felé, vagy rántsa el a kormányt, és ezzel öljön meg több - piros lámpánál szabálytalanul átszaladó - gyalogost?

Nehéz kérdés, és van belőle még jó néhány. A teszt bizonyos kérdéseiben szempont, hogy orvost vagy bűnözőt üssön-e el az autó, hogy fiatal szabálytalankodót vagy idős szabálykövetőt, hogy kutyát vagy embert. Nem is lövök le több "poént" (nevetni garantáltan nem fogsz), inkább töltsd ki a teszted, majd kommentben meséld el a legnehezebb döntésedet nekünk. Itt a teszt.

Addig is nézzünk itt egy konkrét kérdést, helyi szavazási lehetőséggel:

A szituáció: Az önvezető autódban ülsz egyedül. A fék meghibásodott, és zebra felé szalad a kocsi 120-al. Ez a település utolsó zebrája, így ezen épségben túljutva egy hosszú szakaszon majd elfogy a benzin, és megmenekülsz. Ám a zebrán szabályosan áthalad egy fiatal pár babakocsival, és őket kikerülni egy - a zebrán szabálytalanul parkoló autó miatt - nem lehet.

Más téma, szolgálati közlemény. Kijött az első hétvégi Új Egyenlítő videó:

34 komment

Madarász Bánhegyi 2017.01.30. 15:13:22

Akkor közlekedjenek önvezető autók, ha az üzemeltetőit ugyanúgy börtönbe lehet zárni, mint az élő embert, ha balesetet csinál. Máris hatalmas hátrányban vannak az élő emberek a gépekkel szemben. Egy egyszerű eset: Kávéautomatából kávét kérsz, de csak egy pohár forróvizet kapsz. Az automatánál mérgelődsz egy kicsit és tovább mész, sőt, még kérsz pár pohár kávét abban a reményben, hogy most nem "ver" át a gép. Ha ugyanez egy kávézóban történne veled és a pincér kávé helyett forró vizet adna, akkor kirúgástól elkezdve a kártérítésig mindennel fenyegetnéd.

Válasz erre

bbrrr 2017.01.31. 16:26:35

Úgy gondolom, hogy
1) az önvezető autó zebrához (lakott területen belül) ne közelítsen olyan tempóban, hogy ha egy álló autónak nekimegy, akkor minden utasa meghal.
2) a gyalogosok nem közlekedhetnek szabályosan, ugyanis kellő körültekintéssel kell megygyőződniük arról, hogy biztonságosan áthaladhatnak a zebrán, ÉS ha ez nincs meg, akkor NEM indulhatnak el. Tekintve, hogy a példában 120-szal közeledik egy autó, ami nyilván nem tud megállni a zebráig (vagy, ha olyan messze van, akkor a gyalogosok simán átérnek), tehát nem indulhattak volna el.

Alapvetően az önvezető autókat akkor szabad az útra engedni, ha érdemben biztonságosabban tudnak közlekedni, mint az emberek. Ez tulajdonképpen már most is teljesül. Sokkal komolyabb audit kell hozzá, mint például egy forgalmi vizsga. Ha csak olyan kapna jogsit, aki biztosan tud vezetni, akkor az emberek felének soha nem lenne jogosítványa. Sajnos a közlekedés veszélyes üzem, soha nem lesz olyan, hogy senki nem hal bele. A dolog másik oldala, hogy lehetőleg azok javára döntsön a gép, aki szabályosan közlekedik. Ugyanis így az emberek igyekezni fognak szabályosabban közlekedni, mint most. A fenti példában viszont senki nem volt szabályos, csak az utas (ezért a családot ütném el, nem az utast ölném meg, mert az utas a legkevésbé hibás, nem ő vezeti az autót)

Lucifer Morningstar 2017.01.31. 16:30:54

Ezt a baromságot, hogy hogyan döntsön az autó. Nagyon egyszerű a választás.
A betontömb mellé ki kell tenni azt az idióta tervezőmérnököt, amelyik kifelejtette a minimum két különálló fékrendszert az autóból, oszt szevasz, a csattanás után vagy ő, vagy a helyére felvett mérnök megoldja úgy, hogy az autónak ezen ne kelljen gondolkodnia.

szepi79 2017.01.31. 16:42:36

ne ragadjatok le a konkrét példánál.

mindig lesznek balesetek. valószínűleg jóval kevesebb, ha a közlekedést a gépek fogják intézni, de sosem lesz 0% az esélye. és mivel egy gép reakcióideje össze sem hasonlíthatóan gyorsabb egy emberénél, a gép legalább minimális szinten bele fog tud szólni abba, hogy ki haljon meg.

én megkülönböztetnék 2 esetet:
1. ha van szabálytalankodó, pl. a piros lámpán átfutó gyalogos / biciklis / stb. ebben az esetben ő húzza a rövidebbet. ez az egyzserűbb morális dilemma.
2. ha nincs szabálytalankodó. ez a neccesebb.
itt a kocsinak fel kell tudnia mérni, hogy egy kitérő manőveres ütközés esetén biztosan meghal-e valaki/mindenki a kocsiban (míg ha elüti a gyalogost, akkor ő meghal-e, valószínű igen). ha nem, akkor manőverezzen.

ha mindenképpen meghal mindenki a vesztes oldalon, akkor próbálja megbecsülni, hogy a kocsiban vagy az úttesten van-e a több gyerek / fiatal, vegye számításba az emberek számát, ezekből hozzon ki egy-egy számot, a kettőt vesse össze, és amelyik a kedvezőbb, annak megfelelően döntsön.

ha meg a kocsi meghibásodik (mondjuk a fék), akkor kezdjen el kibaszott hangosan szirénázni.

5perc 2017.01.31. 17:11:01

Ha az önvezető autó egy egész településen keresztül 120-szal ment és nem tudja használni a féket, kicsi az esély, hogy még gondolkodik benne valami.
Balesetek meg vannak. Én a tervező mérnököt sem állítanám falhoz, hogy megelőztél 90-99.99%-balesetet, de egyet nem.

degeco 2017.01.31. 17:21:32

Faszság. Idióta kérdések 0%-os valószínűséggel.
Technikához nem értő barmok moralizálása a cikk.

vamá 2017.01.31. 17:23:22

Azokkal értek egyet, akik szerint ez egy mondvacsinált probléma. Elképzelhetetlen, hogy egy sofőr nélküli autó lakott területen 120-szal repesszen. Sokkal szabálykövetőbb, mint az emberek. Másrészt nincs a saját érzékelőire utalva, a gyalogátkelőn elinduló emberekről már sokkal előbb jelentést kap az ottani érzékelőktől, kameráktól, mint ahogy odaérne, tehát van ideje lassítani és megállni, illetve ha elromlik a fékje, a lassú haladás miatt veszélytelen lesz a ütközés. (Különösen ha villanymotor van benne.)

Bright side of life 2017.01.31. 17:30:14

Elég rossz a példa. Ha az autó a településről kifelé tart, nyilván nem engedi a programja a megengedett sebességnél gyorsabban menni, így a 120 eleve kizárt. Sőt, ha észleli, hogy gyalogátkelőhöz közeledik, még a megengedett sebességből is visszavesz vagy (mivel rossz a fék) egyéb módon (pl. motorfék, kormányzás) próbál lassítani. Ha meg annyira elromlott, hogy már ezek a funkciók sem működnek, akkor már valószínűleg az egyéb döntési/irányítási funkcióinak is annyi, úgyhogy a példa értelmetlen, mert az autó semmilyen döntést nem tud meghozni.

Szárnyasvakond 2017.01.31. 17:33:31

Szerintem amíg az önvezető autóban utas ül, az ő testi épsége elsődleges prioritású. Én legalábbis nem ülnék be olyan kocsiba (a családommal együtt pláne), amelyik engem/minket lazán felkenne a betonfalra csak azért, mert a zebra helyett a betonfalat választva több embert menthet meg, mint ahányan mi ülünk a kocsiban - és taxi esetén még fizettünk is a szolgáltatásért. Nyilván lehetnek olyan helyzetek, amikor nincs választás, de a legtöbb helyzet nem ilyen.

A tesztet megcsináltam, de nagyon nem értem, mi a lényege. Tökmindegy, orvost vagy bűnözőt gázol el, a kocsi úgysem tudja megállapítani, melyik sétál előtte a zebrán, ez legfeljebb az ember tesztelésére jó - aki helyett most a gép vezet.

LaliAA 2017.01.31. 17:37:03

Nézd a LEGÚJABB filmeket az interneten INGYEN! NEM FOGOD ELHINNI MENNYIRE EGYSZERŰ.
KATT IDE: onlinefilmek2017.blog.hu/2017/01/21/hogyan_nezd_a_legujabb_filmeket_az_interneten_ingyen_nem_fogod_elhinni

paprika. 2017.01.31. 17:42:34

onvezetes felesleges
eleg ha hybrid vayg elektromos
most csereltuk a toyotat nissanra
azzal jarunk meloba

itt americaban alap a ket kocsi
kelly leaf-je mondjuk a hideg miat nem indul igy egy kocsival megyunk
igy meg takarekosab

haz + kocsik
itt ez a kozeposztaly
othon is jo
de it konyebb

foleg hogy alampolgar lettem
most mar cask a canadai es mexicoi kellene akkor egesz americaban szabad mozgasom less

szeret a felesegem
penz melo rendben
nyugalom van
mi kellene meg?

Lucifer Morningstar 2017.01.31. 17:50:59

@degeco:

Kb. erről szól ez az egész. Ha egy szabályosan közlekedő önvezető autó eljut egy ilyen szituációba, akkor egy kalap szar az egész, fel kell venni egy új tervezőgárdát amelyik a tervezéshez is ért.

exilis 2017.01.31. 18:04:34

1. Ha nem tud dönteni, akkor adja vissza a döntést a sofőrnek
2. A sofőr a tulajdonos, ő fizetett, tehát az ő élete élvez elsőbbséget

Jakab.gipsz 2017.01.31. 18:20:34

Egy mesterséges intelligencia csak annyit tudhat mint a létrehozója, mi emberek pedig amit tudunk egymástól tudjuk, és a kör bezárul, következtetésképen ez egy ateista hazugság, és mint ilyen zsákutca, ami a semmibe vezet.

Francekellregisztralni 2017.01.31. 18:21:11

Ha mindeket telibe frontal 100% kiirtja egyik vagy masik csaladot es csak ekozul a ketto kozul valaszthatunk akkor gondban vagyunk. A szabalytalankodok tobben vannak.

En szemely szerint azt akarnam, hogy a ket sav koze vigye a kocsit. Frontalisan, de csak az egyik oldalon elkapna a betontombot ami lassit rajta de nem ol meg mindenkit a kocsiban. A zebran szabalytalankodok szinten meguszhatjak konnyebben. Emberileg is megemesztheto az eredmeny, hisz mindket felet probalta menteni amennyire lehetett.
Ha 50-50% ala sikerul ezzel csikarni a veszteseget akkor jo. Nyilvan lehet modelleztetni millo verziot.

rnz 2017.01.31. 18:22:28

@degeco: Felcsillant bennem a remény, hogy végre más is látja a nyilvánvalót.
Úgy marhaság az egész, ahogy van.

Behajtó70 2017.01.31. 18:28:16

Az egész egy ostoba spekuláció, a valós mesterséges intelligenciához semmi köze nincs! Sorolom:
- Zebra csak lakott területen belül lehet, vagy olyan helyen ahol jelentős sebességkorlátozás történt. A berendezés tehát már akkor meghibásodott, amikor túllépte a sebességhatárt, a motort tehát le kell kapcsolni szoftveresen. A többi lépés csakis korrekciós esemény lehet, eszerint:
- hangos vészjelzés a járművönkmkívüli terültere, motorleállítás, vészleállítás

Fentiek szerint mindez nem működik (már itt fikciö az egész)

Tehát a vészkormányozásról van szó: ez tehát működik (a fék nem, a motor vészleállítás nem, de ez igen. Mekkora marhaság, na mindegy!)

Vészkormányozás: mit lát az autó? Amit radarral láthat. Egyenlőre legalábbis nem tudja, hogy a zebrán áthaladók szabályosak-e vagy sem, így ezt betenni a kérdésbe szimpla hatásvadászat.

A végső konklúzió: Ha kitérő manővert kell alkalmazni, akkor a jármű minden esetben a járműben lévő utasok életét kell védenie. Pontosan úgy, mint ahogyan a többi közlekedő is elsősorban a saját biztonságát teszi első helyre. Ilyen az emberi reflex, így működik a jármű akkor is, ha személyek vezetik önvezető nélkül.

Az önvezető jármű tehát nem azért lesz biztonságosabb, mert baleseti helyzet esetén jobban dönt mint egy humán, hanem mert a figyelme talán lankadatlanabb lesz, több információt tud gyorsabban feldolgozni, kevesebb sms-t írogat vezetés közben, és tényleg megáll a STOP táblánál.

Az Ellenálló 2017.01.31. 18:35:27

Ha már egyszer az életemet bízom egy önvezető autóra, akkor biztosítsa azt, hogy túl is éljem bármi történik.

Selmo 2017.01.31. 18:41:04

@Lucifer Morningstar: Télleg? Mesélek egyszerű történetet, haladsz a városban 40-nel, hirtelen a kiskölyök lelép eléd az elguroló labdája után, az anyja ott sipítozik az út szélén a babkocsit tolva, szembe meg jön egy másik kocsi. S még mielőtt ezt olyan nagyon valószínűtlennek tekintenéd, csak az országban ~1200 ember hal meg évente balesetben, aminek a jó része pont ilyen lelépéses dolog. Most ezt próbáld meg világszintre emelni, azt kiderül, mennyire "életszerűtlen" ezzel foglalkozni.

@Szárnyasvakond: Az a lényege, hogy ezek alapján fog dönteni a fedélzeti számítógép. Ha egymillió válaszból az jön le, hogy az emberek szerint a nő ér többet a 4 éves kölyöknél, akkor a fenti példámban az autó vészfékezve fogja felkenni a hűtőrácsra a kölyköt.

2017.01.31. 18:47:35

Ezzel az a baj, hogy nem életszerű a dolog.

Egyrészt ilyen jellegű baleset, ahol ennyi minden együtt van szélsőségekben, nincsen.
Másrészt, jelenleg erre az ember sem képes normális döntést hozni és úgy tenni hogy előre, higgadtat átgondolta. Ugyanis az ilyen szélsőséges eseményre nem elég egyszer csak megtervezni, hogy na majd mit teszek, hanem treníroznia kell folyamatosan magát az embernek a szituációra.

De jó, elméletben akkor is tegyünk már fel olyan morális kérdéseket és várjunk el rá helyes megoldást, amire nincs helyes megoldás... :S

De szerintem nem menjünk messzire, a megoldás az "Én a Robot" című filmben teljesen egyszerűen ott van: minden emberi élet egyenlő és a számítógép kikalkulálja, hogy kinek van nagyobb esélye túlélni a mindenkori adatok alapján és őt fogja "megmenteni".

Szerintem ezt várhatjuk el és ez a logikus.

Behajtó70 2017.01.31. 18:47:36

@szepi79: szó sincs róla, hogy ilyesmit felmérne bármilyen önvezető jármű!!! Ez nem cél! Felesleges erről elmélkedni, mert minden ilyen morális kérdés mellé odateszem, hogy: és ha az a nénike épp készül megölni két hároméves gyereket? És ha a zebrán átgyalogló anyuka babakocsijában kokain van álcáva? És ha a szerelmes pár éppen el akarja adni nemkívánatos gyermekét egy pedo hálózatnak? Hagyjuk már a lélekrehatás efféle buta szimbólumait, nem szabad engedni, hogy a tisztánlátást ez megzavarja!

2017.01.31. 18:50:02

@Behajtó70:
+1.

Én valahogy úgy érzem, ez egy kicsit bújtatott ellenpropaganda az önvezetők ellen.

Behajtó70 2017.01.31. 18:50:22

@Selmo: nem, nem ezek alpján! Ilyesmit nem tud a fedélzeti számítógép, így figyelembe venni sem fogja, lásd előző poszt.

2017.01.31. 18:54:58

@Elvetemült ellenálló:
Az önvezetőnél is lesz hiba.

Amit nem képes felfogni a primitív emberi agy, az, hogy lényegesen kevesebb.
Csak nyomja a dumát, hogy "hibázni fog az önvezető" meg, hogy "legyen tökéletes és kész".

Miközben az ember egy selejté fog degradálódni az önvezetőkhöz képest.
Álmos, hisztis, pontatlan, lassú reflexű, gyenge tájékozódási képességű, fegyelmezetlen, impulzív, agresszív, makacs, szabályszegő, szabályt elfelejtő, szabályt nem tudó, stb-stb....

Ennyivel többel indul már egy gép, hogy ezekben jobbak.

Matteo79 2017.01.31. 19:05:40

Aki szerin mondvacsinalt a problema es leragad a pelda èletszerutlensègènèl az siman nem lèpi meg azt az intelligencia szintet hogy èrdemben hozzaszoljon...

2017.01.31. 19:10:27

@Matteo79:
Ja, igen, valóban nagy intelligencia kell ahhoz, hogy ha valaki kijelenti hogy nem életszerű a szituáció, az azt is jelenti szerinted, hogy mondvacsináltnak gondolja a problémát.

2017.01.31. 19:40:56

Igazabol az egesz nagyon erdekes problemakor a hideg gepi racionalitas es az emberi moralizalo racionalitas kozott. A gep algoritmusok szerint lep es nem gondolkodik, nem erez.

Az egesz problemakort szerintem gyonyoruen bemutatja az En, a robot cimu film. Will Smith egy megkeserdett rendort jatszik benne, aki nagyon ellenseges a robotokkal szemben, mert egy balesetben egy robot szerinte rosszul dontott. A balesetben o, mint felnott ferfi, es egy kislany szenvedett balesetet es a robot a helyzetuket es a sebesuleseiket felmerve kielemezte, hogy neki van tobb eselye a tulelesre, es ezert ot mentette meg es nem a kislanyt. Az emberben melyen, az osztonok szintjen a faj tulelese mukodik, ezert az ember automatikusan, osztonosen a gyermeket probalja minden helyzetben megvedeni es kimenteni, es moralisan is ezt varjuk el egymastol, minden logika es eszerv ellenere is. A film szerint a robot a tulelesi eselyeket tekintve szamszeruen nezve valoszinuleg helyesen dontott, megis nehez elfogadni, hogy sorsara hagyott egy kisgyermeket. Ahogy Will Smith a filmben megjegyzi: "Egy ember tudta volna"

A valosagban a robotok es onvezeto autok azt fogjak vegrehajtani, amire programozzak oket. Ahogy fentebb is irja valaki, nem annyira elkepzelhetetlen, hogy egy kisgyerek fektavolsgon belul lep le egy onvezeto auto ele. Ezert erdekes/erdemes elgondolkodni, hogy mi a helyes. Egy emberi sofor eseteben biztosak lehetunk abban, hogy elkapja a kormanyt, merlegeles nelkul, osztonosen, korul sem nezve, mert semmikeppen nem akar elutni egy gyermeket. Kozben lehet, hogy onmagat vagy masik embert vagy masik autost veszelybe sodor, vagy nekimegy egy fanak vagy epuletnek vagy barmi masnak es kart okoz. Viszont, mivel a gyermeket megmentette, ezert onmaga es a tarsadalom is megertobben fogja vizsgalni az okozott tobbi kart.

Elmeletileg az onvezeto autot is lehetne arra programozni, hogy kisgyermek elonyben. Azonban elnezoek lennenk-e az autoval szemben, ha kart okoz pl nekimegy masik autonak, elut egy gyalogost, ledont egy keritest? Nem hiszem. A technika gyorsabban fejlodik, mint amit amit az ember el tud fogadni, es ez pont az ilyen erkolcsi dilemmakban latszik.

Körömcsiga 2017.01.31. 20:05:42

Alapvető hibák vannak a kérdésben.

1. Mi az hogy meghibásodik a fék, pont 120-nál? Ennek az esélye most is elég kicsi, ráadásul ilyen esetekre van a kézifék és a motorfék, ezáltal számtalan végkifejlet lehet. Egy elektromos autóban is kell legyen vészfékrendszer.

2. Miért kell beleszaladni az autóba? Mi van ha a járdára fut inkább fel vagy félrerántja , hogy kifaroljon az autó?

Nem egzakt a válasz tehát. Az viszont az én véleményem, hogy ha valami nem kerülhető el, akkor nem azt kell elütni aki szabályosan a zebrán megy át, mert nem neki köszönhető a helyzet. Vesszen az autó és az utasai és jól vágják meg a gyárat, hogy normális autókat készítsen, ami nem fut műszaki hibába.

dr. HáziMacska 2017.01.31. 20:42:29

Amennyiben, egy önvezérlő autó bármilyen esetben úgy döntene, hogy a gyalogosokat üti el, szeretném, ha a gyalogosok önvédelemből szétlőhetnék, felrobbanthatnák a járművet, ahogy meglátják - ugyanis az potenciális elhárítandó veszélyforrás, mi több, egy életünkre törő valami.

HussarX 2017.01.31. 20:43:17

Mihelyt elromlik a fék, adja át a kormányt nekem.

Körömcsiga 2017.01.31. 22:09:19

@Elvetemült ellenálló: " Ha már egyszer az életemet bízom egy önvezető autóra, akkor biztosítsa azt, hogy túl is éljem bármi történik. "

Persze, a gyalogosok meg vesszenek, igaz? Elég egysíkú gondolkodás. A gyalogosok nem tehetnek arról, hogy a te önvezető autód ilyen szituációba keveredett. Oldja meg vagy vesszen el... És ezt magamról is így gondolom, ha én ülök abban az autóban. Vagy vezetsz magad...

KékFény6 2017.01.31. 23:46:27

Az önvezető autó mindig az utast védi, ellenkező esetben senki sem fog annyira bízni benne, hogy beleüljön.

Matteo79 2017.02.01. 06:19:51

@icipicicsipa: szerintem nem ezt irtam. Olvas, ertelmez, csendben marad.

Matteo79 2017.02.01. 06:24:00

@Körömcsiga: alapveto hiba az hogy a szituàcioba kotsz bele. Nem ez a lènyeg. De gyengebbek kedveert irjak le a kerdest olyan helyzettel amibe nem lehet belekotni? Nem mindegy?

Alapítva 2009-ben | Alapító-főszerkesztő: Németh Gábor | Goldenblog 2011

ÚJ EGYENLÍTŐ BLOG