Opet ova glupa studija s problemima koji ne postoje u stvarnom životu. 

Ljudi tamo trkeljaju svašta, u stvarnom životu bilo tko će spašavati svoju glavu. Zamisli implicirane situacije: proizvođač autonomnog automobila bi mi trebao prodati proizvod koji je tako loše napravljen da se sam dovede u situaciju da na označenom pješačkom prijelazu ne može stati a da nekoga ne ubije i još k tome može odlučiti da ubije mene koji sam ga kupio da ne bi ubio nekog drugog. Takvim bedastoćama se bave na razvikanom MITu?

 studija je zanimljiva i korisna, ali i tvoji komentari su na mjestu. :)

Studija je dakle zanimljiva i korisna ali istodobno glupa i bedasta?

Zapravo, ako itko trkelja o situaciji koja ne postoji u stvarnom životu, to si ti. Scenarij u kojem biraš između skupljanja pješaka na pješačkom ili smrti putnika (pogotovo bez žrtava u drugim vozilima) je praktički nemoguć ako prethodno nije došlo do grubog kršenja propisa - u blizini pješačkih prijelaza je brzina ograničena, pa da i punom dopuštenom brzinom bez kočenja pogodiš u stup od javne rasvjete pri izbjegavanju pješaka, imao bi ogromne šanse za preživljavanje, a s obzirom da je i pješak u prekršaju ako ti izleti neposredno ispred vozila, sigurno imaš par metara za kočenje, pa bi morao imati ogroman peh za poginuti u vozilima s današnjom razinom aktivne i pasivne sigurnosti, a u budućnosti ona može samo rasti.

Dileme su itekako validne, iako je pitanje koliko su ljudi tu relevantan izvor infomacija jer mi baš nismo sposobni odabrati optimalnu opciju u kriznoj situaciji, već djelujemo više instinktivno nego logično. S druge strane, računalo može puno brže odrediti vjerojatnotnost pojedinih ishoda, pa ima šansu naći najbolje rješenje. S treće strane, dok ima mješano autonomnih i klasičnih vozila, autonomna moraju znati očekivanu ljudsku reakciju jer im inače može pokvariti račun (kao nama mačka koja se nakon što je već prešla cesti krene vraćati jer ide auto). Međutim, to ne može naučiti iz ovakvih upitnika jer u njima ljudi kažu što misle da bi napravili, a ne što bi stvarno napravili.

Nisu spomenuli i onu dilemu gdje moraš birati između bicikliste s zaštitnom opremom i onim bez opreme. Oprema ti povećava šanse za biti odabran za metu? U budućnosti će biti glavna tema kako se obući da dobiješ na bodovima ne gaženja. Još samo kamerice s prepoznavanjem lica i aktualne političare zakucati na dno ljestvice :P

Sad će se odluka koga treba ubiti donositi većinom glasova? Onih istih glasova koji nam tako dobro biraju političare?

meni je fascinantno kako u informatičkom forumu se ljudi tako razbacuju svojom pameću i pljuju po svemu i svačemu...

naravno da je studija pametna, nikako bedasta.. AI mora imati hrpu stohastički obrađenih događaja umemoriranih da bi se probila kroz algoritme i dovela do najmanje štetnih posljedica (kad je štetni događaj neminovan)...

Zašto?

zato jer odmah slijedi tužba, ako ne krivična, onda kompenzacijska, a vjerovali ili ne, novci ne rastu na drveću...

da, za pripadnike vrste homo sapiens je nemoralno (ne glupo) raspravljati o tome tko bi trebao poginuti, ali računala se bave obradom podataka, i ti se podaci moraju "natočiti" u AI da bi funkcionirao...

s stanovišta bilo kog od nas, to je ne glupo, nego empirijski potpuno pokopano: naime, studije pokazuju da vozači, neovisno tko su im suputnici, na kraju krajeva, instinktivno okrenu volan tako da između sebe i ugroze za sebe, postave čim više prepreka - lima, suputnika - nabrojite kojim redom želite...

e vidite, AI se ne može izvlačiti na instinkt za preživljavanje...

Apsolutna glupost je prioritizirati ikoga, jer ni čovjek u momentu ne može napraviti odluku, a kamoli odrediti tko će sljedeći pod zemlju.. to samo dovodi do nejednakosti ljudskih života.. tko kaže da 50 ljudskih života vrijedi više od 1 ljudskog života? Ako je jedan ljudski život neprocjenjiv, onda je i pedeset ljudskih života neprocjenjivo.. ne postoji jedna beskonačnost i pedest beskonačnosti već sami sebe dovodimo u poziciju da svoje prosudbe smatramo istinitima i sudimo neprosudivom, a svima nama bi isključivo bilo žao sebe ili svoje obitelji najviše i ne bi podnijeli odluku automobila da ga se pregazi.

Zašto jedna od opcija nebi bila da auto eksplodira na način da stane u mjestu? Ionako u skoro svim slučajevima na sudu nikad nije pješak ili biciklista kriv, već onaj sa vozačkom i volanom, pa ajmo njega ubiti. To što pješake boli ona stvar što je vozač odgovoran za život pješaka to pješake rijetko kad preterano brine.. Zašto bi se prioritizirala smrt psa na cesti umjesto čovjeka koji prelazi preko crvenog pješačkog svjetla? Čovjek je kriv što nije ostavio otvor prolaza..

Kad bi se prioritiziralo po poštivanju zakona na cesti, onda bi više ljudi poštivalo te zakone, djeca i matorci ne bi bili pušteni naokolo da trčkaraju gdje ne treba, i cijela stvar bi se uzela ozbiljnije. Mjesto saobraćaja je opasan teritorij no svi ga uzimaju olako.. Ukoliko auto štuje promet i vozi 50km/h, prije će uspjeti stati nego skrenuti prema "manje vrijednom biću"

Da je prioritet na ljudskim životima, saobraćaja nebi ni bilo, pa makar ne onoga gdje svaka budala može imati dozvolu.. Mora danas svaka gospoda imati auto jer javni prijevoz nije njihov stil, a razvoj javnog prijevoza samo opada.. Prije će 20 auta ubiti čovjeka nego 1 autobus/tramvaj

Automobili nikad neće imat takve algortme kojima bi izračunavali da li pogodit pješaka br 1 ili pješaka br 2 jer je to kao prvo potpune besmisleno, a kao drugo ostavlja mjesta za tužbe. Ono što će automobili imat je niz legalnih, točno definiranih koraka koje će napraviti da bi probali izbjeć nesreću. Uglavnom će se to svesti na kočenje. Nikakvo zaobilaženje, skretanje ili izbjegavanje. To se ne preporuča ni živim vozačima jer ti nitko neće savjetovat da pri 120km/h prelaziš u drugu traku ili na drugu stranu u grabu jer ti je dijete izletilo na cestu. Prva opcija jer ti može naletit auto iz drugog smjera i ubiješ još petero djece ili na drugu stranu ceste ubiješ dvoje djece šetaća + sve u svom autu. Ako možeš zakočit zakočiš, ako ne možeš sve drugo je potencialno puno opasnije kako za ljude u autu tako i za sve oko tebe.

O životinjama da ne pričamo, prvo pravilo je da kočiš i gaziš ako ne uspiješ zakočiti, sve ostalo je daleko opasnije. 

ˇ@spookymulder84

upravo danas je vozač autobusa:

- krenuo u preticanje

- vidio da neće uspjet

- krenuo se vratit

- ostrugao kombi koji je preticao

- kombi izletio s ceste

- autobus se od udarca prebacio u lijevu traku

- sudar s nadolazećim terencem

- mrtva vozačica SUV-a

probaj još jednom...

Kakve veze ima što se dogodilo danas? Gleda se statistika na broj prevezenih ljudi i kilometara. Prilično sam siguran da profi vozači imaju bolje rezultate.

pa što se svi lovite statistike, to su samo brojevi i omjeri istih - po vašemu...

e da dedek od 64 g. je bio profi vozač (autobusa)...

BlackDog22:

Iskusni vozači ne koče već izbjegavaju prepreke. Ako ti pješak zakorači s nogostupa, jedina šansa vam je izbjegavanje. Za to je potrebno praćenje prometa a računalo bi po defaultu u tome trebalo biti daleko bolje. Ako je kočenje sigurna opcija, onda to nisu nepredvidive stvari i cijela ova studija kao i rasprava o njoj su posve suvišni. Međutim, da bi se vozač/AI doveo u takvu situaciju mora postojati defekt defekt praćenja prometa i/ili ekscesivna brzina. Zaboravlja se da ljudi u većini slučajeva stradavaju jer nisu u stanju adekvatno i pouzdano procijeniti situaciju. Kao u ovom primjeru sa Zagorske magistrale, sa pješačkih itd. Ljudi slijeću s ceste jer se voze prebrzo, pretiču ili prolaze kroz raskrižje bez provjere. Skakanje životinja na cestu se uglavnom ne može predvidjeti i to ne bi trebala biti glavna tema jer to ionako nije velik problem.

 Ne pričaj gluposti, ti si opasnost na cesti. Pokušavanje izbjegavanja, pogotovo pri većim brzinama redovito završava izletavanjem s ceste, okretanjem i sudaranjem s prometom iz suprotnog smijera. Čak ni pri malim brzinama nikako nije preporučljivo prelaziti u drugu traku ili se penjat na bankinu da bi izbjegao neku prepreku na cesti. To su sve refleksni postupci i zato se događaju no obično su i najopasniji. I kočenje nije uvijek predvidiva situacija pošto je ogromna razlika između kontroliranog kočenja zbog regulacije brzine ili kontroliranog zaustavljanja i kočenja u nuždi gdje legneš na kočnicu i ne koristiš kvačilo, odnsono gušiš/gasiš motor. 

Pogotovo kad se radi o životinjama gdje nema nekakve moralne komponente uvjek je najbolja opcija zakočiti i pregaziti. Automobili su sa sigurnosnog stajališta najprilagođeniji najčešćim situacijama, a tu definitivno spada frontalni sudar. 

Ja ovdje govorim o sigurnosti putnika u tvom autu i drugim sudionicima prometa. Onaj tko ti je izletio pred auto neka mu se Bog smiluje. 

I da normalno, kad bi svi vozili prema prometnim pravilima i kad bi svi poštovali sva pravila vezana za brzinu nesreće bi bile izuzetna rijetkost, a poginule u prometu bi nabrajali na prste jedne ruke kroz cijelu godinu. Pogotovo one gdje su uključena 2 automobila koja sudjeluju u prometu. U tom slučaju ljudi bi ginuli samo u situaciji one gđe koja je u Puli podletjela pod bus i slično.

Još jednom ću ponoviti - primjeri iz studije nemaju baš nikakve veze sa stvarnim životom. Vozač koji se dovede u neku od situacija koje su navedene kao primjer je već toliko pogriješio da ga treba zatvoriti na dulje vrijeme, a ako se preziva AI, onda je neupotrebljiv i ne smije na cestu. Studija je super zanimljiva kao izvor podataka o preferencama živih ljudi kada bi ih se stavilo u nepostojeće situacije, dobra je autoru za stjecanje doktorata i to je sve. S vožnjom ima veze koliko i moj frižider

Autonomna vozila idu putem kriptovaluta ...

BlackDog22:

Ako je netko opasnost na cesti onda je to čovjek koji se oslanja na kočnicu. Ja se oslanjam na oči-mozak i u svojih 30+ godina vozačkog staža i preko milijun kilometara nikad nisam imao sudar niti slijetanje, par ogrebotina na vlastitom autu kod parkiranja.

MrBlc:

Nešto si krivo povezao. Nisi pogledao primjere iz studije, jelda?

Upravo su tamo suludi primjeri. Nailaziš na zebru sa semaforom, ispred tebe prepreka betonska, u suprotnoj traci tri pješaka na svom zelenom. Ako klikneš jedno, mrtvi su pješaci, ako klikneš drugo mrtav si ti s putnicima. To je dilema o kojoj raspravljamo, dakle potpuno nemoguća u stvarnom životu. Ako se voziš toliko brzo da ćeš poginuti to znači stotku i više, na toj brzini udaranje pješaka ili više njih vodi u daljnje slijetanje i tko zna što. Truba da ih se rastjera ako su već mozak i kočnice ostali doma? I meni dajete TDove, očito nitko nije pogledao studiju a još manje razmislio o relevantnosti primjera.

posljednjih godina opaka je i sve nemilosrdnija konkurencija u debilanama i marketinškim izmišljotinama za povećanje dobiti nezasitnih profitera i oblikovanje pojednostavljenih umova prema njihovim željama, a sve se može sumirati poznatom lidlovom i od epla entuzijastički prigrljenom krilaticom "manje je više" (pretpostavljam, počevši od uporabe mozga). tzv. automobilska autonomija je trenutačno pri samom vrhu manifestacija iskonskog ljudskog idiotizma, dok joj za vratom pušu IoT, "društvene mreže" i kojekakvi "-izmi". baš mi je galić što sam dovoljno star da neću doživjeti rasap civilizacije uzrokovan ovom idiokracijom. nažalost, problem nije samo u čistom ekstraktu gluposti, već u njegovoj ekspanziji u malicioznost. pametni umiru sretni. 

 Primjer nisu suludi, jer ovo je orginalna slika iz studije:

Alogoritam je samo algoritam i nije AI, pa su rezultati očekivano loši.

 -onda nije sve tako crno.. osim crne rupe i sl.

-ok, neki propitkuju blentavost studije.. ali to je klasični ''if-then'' obavezan za sve što čovjek (implicitno, svjesno-razumno biće, ne ameba, koje ima potrebno znanje) može predvidjeti pa i najneobičnije ili najmanje vjerojatne scenarije, čak karikirano, mora se uzeti i recimo nemoguć scenarij, .. evo jedan, auto juri brzinom svjetlosti.. ili ''juri'' 2kmh/s..

-studija tad ne otkriva koliko je AI-vozač dobar/loš (recimo da je nepogriješiv..) nego koja se pitanja postavljaju kad se nešto desi, npr može li, smije li AI odlučivati? Ako ne smije, tad ne smije ni postojati dio softa-koda koji to tako obrađuje. Ako smije, tad je to greška zakonodavca, propisa koji je to blentavo dozvolio ili čak tako propisao a da se nije prije sam upitao isto pitanje. Tako se u 'skici' gazi npr odrpanac, a tad bi recimo kralj Ričard dok se nalazi s RobinDudom.. nastradao, jer se ne vidi kraljevsko odijelo, koje čini čovjeka, možda bi Ghandi bio prva žrtva da je živ itd. Po takvom kriteriju je katastrofa ubijati.. po tome bi aušvic bio daleko humaniji nego što demokratski zakoni ili pravda-pravednost mogu zasrati ako takve propise donesu. Ni neki RND broj nije prihvatljiv, jer je sama ideja da se o tome odlučuje u startu neprihvatljiva na način da se to bira.

-nesreća je zato nesreća, kao što je i nepredvidljiva.. mada se može 'proročki' predvijdeti da vozilo koje vozi 200kmh ima veće šanse od 20kmh za nekog usmrtiti, no za to nam ne treba studija, to znamo. Studija tad ne provjerava zašto se nešto dešava ili kako to izbjeći, nego upravo moralno-etičko pitanje o smrtnoj odluci. Ako kažemo da netko bez diplome ili s lažnom, ne može npr biti u Saboru, ako ne može biti doktor, nastavnik (neovisno kako obavlja posao).. zašto bi neki AIsoft--algoritam imao niži kriterij morala, zašto bi imao pravo takve odluke.

- Možda to pravo ima programer pa ga kao plavom krvi nasljedno prenosi? Nitko nema to pravo, ni po kojem kriteriju, pa čak mi razlikovati živor vozača-vlasnika koji je platio i AI kao i alufelge.

- Sam AI nema to pravo, jer nemaju ni ljudi, čak ni sudovi.. tj zakon može nekome odzeti život ako postoji smrtna kazna, ali je tad poželjno usmrtiti krivca, ne pješaka po izgledu i sl. U svim ostalim slučajevima, nitko, ni sud... nema pravo tako birati, jer nema pravo usmrtiti. .. ili je civilizacija već toliko u dekadenciji čitanja zakona da je potreban neki hardreset.. jer ovo je 'strašno', ne studija, jer ona zapravo radi ono što mora.. nego ideja da to AI može, da je statistika ok, da postoji takvo pravo i da se zaboravi činjenica da takvog prava nema pa da je sve na sasvim pogrešnoj ideji, kao aušvic.. isto i gore, jer nije 'vidljivo'.. ili barem njemci kad ih se pita za logore, kažu, 'nismo znali'.. isto.

-podsjetnik, nekad je npr feudalac-kralj imao 'božansko pravo', odlučivati.. ima li to pravo sad soft, dev, ai, tranzistori-žice? Nema ni sud osim za krive, dok su ovo nevini..

+ da ne ulazimo u samu riječ AI, koji (ne)postoji, odnosno, jel to robotska ruka koja švasa karoseriju, vrti hamburger.. ili je potrebna svijest, a tad je to osoba, čovjek (pa i kad je glup ili neznalica..).

+ možemo tad ukinuti i sudove, sudce kao osobe, nek i to radi AI, što bi tad bio odgovor? Što je AI, novi jamesbond007? Podsjetnik da ni npr migranti nisu građani i da nemaju prava koja imaju građani neke države. Što je AI, što su osobe pa i pas iz studije? Pitamo li npr psa kog bi on ubio, pitamo li zeca, muhu? .. a muha je još svjetlosnim godinama od današnjeg AIja kojeg ne bi tako trebalo ni nazivati, to je malo bolji servo i mediaplayer..

-studija, mada možda na prvu zvuči blentavo, nije.. jer ne postoje glupa pitanja, no odgovori mogu biti i glupi i loši i .. katastrofalni pogotovo kad ne postoji 'dobar' ili kad se podrazumijeva da je to ok, onak.. imaš 'pravo'. Ne nemaš, u svakom slućaju se procjenjuje jesi li mogao izbjeći, ne usmrtiti itd. i to je samo olakotna okolnost, ne nevinost pa time ne može ni biti dio algoritma koij je prihvatljiv jer je tad taj dio nezakonit, kao da robota programiraš kao terminatora.. koji ubija.

Učestvovao sam u ovoj studiji, tj odgovarao sam na pitanja, i imam utisak da se više radilo o sociološkoj studiji nego nečemu što će imati praktične veze sa autonomnim automobilima. Takođe, mislim da su vrlo pogrešno tumačili odgovore, jer sam na kraju dobio statistiku u koliko posto slučajeva sam se odlučio da pregazim ženu, staru osobu itd, a te stvari uopšte nisu postojale u mom procesu odlučivanja. Pravila kojima sam se rukovodio su izgledala otprilike ovako:

1. moje autonomno vozilo ne treba nikad da odluči da me ubije
2. ljudi vrede više nego životinje
3. ne gaziti ljude koji ništa nisu pogrešili da bi se spašavali oni koji su istrčali pred auto.

Uz pretpostavku da autonomna vozila uvek poštuju propise, treće pravilo može blago da se uopšti tako da je prvo zapravo nepotrebno: ne ugrožavati, zarad učesnika u saobraćaju koji su svojim ponašanjem ugrozili same sebe, druge učesnike u saobraćaju koji to nisu učinili.

Naša prva reakcija je refleks, tek nakon njega donosimo svjesnu reakciju, tako da je kočenje u pravilu "safe bet" reakcija i bolje je kad nam je refleks istreniran da kočimo, a ne okrećemo volanom jer to u pravilu možemo sigurnije raditi prije nego se aktivira svjesni dio mozga.

Međutim, ako smo svjesni situacije na cesti, redovito provjeravamo retrovizore i slično, tada vrlo brzo možemo donijeti svjesnu odluku koja može poništiti refleksnu radnju i prije nego ona praktički počne (primjerice, noga je krenula s gasa na kočnicu, svjesnom odlukom je vratimo na gas prije nego se kočnica aktivirala i promijenimo traku). Naravno da nećeš trzati volanom pri 90 km/h, ali je često lagano prestrojavanje ili manervar na kraju kočenja učinkovitije od sjedenja na kočnici. Pogotovo kad si AI sustav koji može obraditi daleko više senzornih informacija. Meni posebno na živce ide brake assist sustav koji je inicijalno koristan jer skraćuje vrijeme reakcije kod refleksnog kočenja, ali je na mom autu malo preagresivan, kad je aktivan, kočnica ostane mekana i teško je regulirati kočenje, pa čitav posao odrađuje ABS koji to ipak radi suboptimalno u odnosu na iskusnog vozača. S druge strane, barem je povezan sa servom i ABS prati zakret volana, a volan se pri kočenju ukruti, pa barem imam kontrolu nad putanjom.

Jesi ti kad pogledao primjere u knjizi iz matematike? Tko kupuje 98 lubenica u stvarnom svijetu?

Ti primjeri su krajnje karikirani vjerojatno s dobrim razlogom - što je banalniji i krarikiraniji primjer to će ljudi manje davati odgovore na temelju nekih svojih pretpostavki i razmišljanja, pa će takvi odgovori dati bolji pogled u moralni kompas.

Ihush:

Neprihvatljivo je dati pravo nekome da bira koga će ubiti, to se neće dogoditi. Međutim, zaobilazno dolazimo do posljedica nesreće koja u rijetkim i zbilja nepredvidivim okolnostima mogu biti procjenjivane na način umanjivanja posljedica. U tom slučaju nemoguće su dileme tipa ubiti starca ili dijete, mislim da smo bez obzira na sve došli dovoljno daleko da nam je svaki život jednak. Studija ima tu gadnu podvalu gdje se pravi kao da to pitanje nije odranije dogovoreno i kad se gleda šire zapravo ne govori o autonomnim vozilima već istražuje koliko nam je sjela teorija i praksa jednakosti.

Ovo je srž svih problema i poooootrajati će neko vrijeme, dok to ne riješimo.

Algoritmi nisu svjesni ni sebe ni okoline i rade na nekim drugim principima.

Zapravo više služe kao ispomoć mozgu, a ne zamjena za njega.

MrBlc:

Ljudska reakcija, prirodna, je izbjegavati. Mi se kroz igru i odrastanje naučimo na inerciju i vrlo dobro znamo da je onaj naš neprijatelj pa ćemo sudare na nogometu izbjegavati skretanjem. Vožnja ima taj svoj umjetni svijet pravila, straha i ostalog da ljudi rade krivo. Najbolji relijaši redovito dolaze iz krajeva gdje ima jako puno leda i snijega - nauče refleksno upravljati umjesto stajati. Iskusni vozači također. Pješak koji naglo zakorači na kolnik postavlja dilemu - pomaknuti vozilo bočno za dva metra u jednoj sekundi ili promijeniti brzinu s 25 m/s na nulu. Ovo drugo je teže i sporije te redovito vodi u nesreću (da, vrlo često se i ne može ništa drugo učiniti). Sporije je zato što su ruke već na volanu i refleksno se izmičemo stvarima koje nam ulaze u putanju dok je za kočenje potrebno prebaciti nogu i aplicirati prilično veliku silu (otud BAS) što nikako nije ni brzo ni efikasno

Kaj se tiče primjera iz studije oni uopće ne mogu biti primjeri. Jednakost je već dugo vremena prva rečenica Ustava većine zemalja, to pitanje je odgovoreno i nećemo se vraćati u doba plave krvi jer je to razdoblje završilo potpisivanjem magna carte kada su se pripadnici plave krvi dignuli protiv malo plavijeg pripadnika zaprijetivši mu da će mu otkinuti glavu ako ne pristane igrati po istim pravilima.

Obzirom da je odgovor na to pitanje davno zacementiran, ne postoji mogućnost da se o njemu ponovo odlučuje, što god istraživanje internetskih danguba pokazalo. Srećom po nas, o nekim stvarima se ipak ne odlučuje na biralištima

Etičke dvojbe ove vrste uvijek se rješavaju minimiziranjem štete, tj. onim odabirom pri kojem najmanje ljudi strada.
Ako je broj stradalih potencijalno jednak, onda se naravno slijede prometna pravila koliko je moguće.
To je jednostavan i pravno teško oboriv algoritam.
A to što ljudi misle da je pravično ili nije, to je druga priča...

 Ako si u Zagrebu ne znam voziš li se Avenijom Dubrovnik. Ja idem onuda svakodnevno i danas je autobus morao doslovno kočiti da su ostali tragovi guma iza (autobus je vozio po ograničenju, ako ne i ispod) da ne pokupi dedu od 80 godina koji je naumio prijeći pet traka izuzetno prometne ceste jer eto, njemu se žuri pa ne može izdvojiti dvije minute da ode pothodnikom deset metara dalje. Dobar je dan kad jedan pretrčava cestu ispred tebe. A da ne govorim da je to sve većinom gerijatrija kojoj je očito vrijeme novac jer im se hitno žuri. 

U budućnosti će svatko biti prepoznatljiv senzorima na ovaj ili onaj način, u bazi će se nalaziti sortirana tablica po "vrijednosti" građana i AI će pri izboru koga zgaziti, okrenuti volan u pravcu onog koji je niže pozicioniran. Svatko društvo će po svojim kriterijima dodljeljivati građanima bodove. Na vrh idu političari i njihovi poznanici, a ostalo će ovisiti o kulturi, tradiciji, negdje su žene više vrijedne, negdje manje. Na priloženoj slici je primjer jedne kulture koja jako drži do zaštita ptica, zatim program koji vozilo okreće ovisno o nacionalnoj pripadnosti i na kraju program kreiran po osobnim preferencijama..