Кога ће убити самовозећи аутомобил? Машино, спаси што више људи, али пре свега, спаси мене!

Ако дође до ситуације у којој аутономни систем аутомобила мора брзо да изабере кога да жртвује у случају непосредне несреће, како треба да реагује? Жртвовање путника да би се спасили пешаци? Ако је потребно, убити пешака да бисте поштедели, на пример, четворочлану породицу која путује аутомобилом? Или би можда увек прво требало да заштити себе?

Док је више од шездесет компанија већ добило личне дозволе за тестирање само у Калифорнији, тешко је рећи да је индустрија спремна да се суочи са етичким дилемама. Тренутно се бори са основним проблемима – радом и навигационом ефикасношћу система и једноставно избегавањем судара и непредвиђених догађаја. У ситуацијама попут недавног убиства пешака у Аризони, или накнадних судара (1), до сада се радило једноставно о системским кваровима, а не о некој врсти „етичког избора“ аутомобила.

Спасите богате и младе

Питања доношења оваквих одлука нису апстрактни проблеми. Сваки искусни возач то може потврдити. Прошле године, истраживачи из МИТ Медиа Лаб-а анализирали су преко четрдесет милиона одговора испитаника из целог света, које су прикупили током истраживања покренутог 2014. Систем анкета који називају „Етичка машина“ показао је да је на разним местима широм света У свету се на слична питања постављају различити одговори.

Најопштији закључци су предвидљиви. У екстремним ситуацијама људи више воле спашавање људи него бригу о животињама, са циљем да спасу што више живота, и обично су млађи од старијих (2). Постоје и неке, али мање очигледне, преференције када је у питању спасавање жена у односу на мушкарце, људи са вишим статусом над сиромашнијим људима и пешака у односу на путнике у аутомобилу..

2. Кога ауто треба да спасе?

Пошто је скоро пола милиона испитаника попунило демографске упитнике, било је могуће повезати њихове преференције са годинама, полом и верским уверењима. Истраживачи су закључили да ове разлике нису „значајно утицале” на одлуке људи, али су приметили неке културне утицаје. Французи су, на пример, тежили да одлуке вагају на основу процењеног броја умрлих, док је у Јапану нагласак био најмањи. Међутим, у Земљи излазећег сунца живот старијих се цени много више него на Западу.

„Пре него што дозволимо нашим аутомобилима да доносе сопствене етичке одлуке, морамо да водимо глобалну дебату о томе. Када компаније које раде на аутономним системима сазнају за наше преференције, тада ће развити етичке алгоритме у машинама заснованим на њима, а политичари могу почети да уводе адекватне законске одредбе “, написали су научници у октобру 2018. у Натуре.

Један од истраживача укључених у експеримент Моралне машине, Жан-Франсоа Бонефонт, сматра да је склоност спасавању људи вишег статуса (као што су руководиоци у односу на бескућнике) алармантна. По његовом мишљењу, ово је веома повезано са ниво економске неједнакости у датој земљи. Тамо где су неједнакости биле веће, предност је дата жртвовању сиромашних и бескућника.

Једна од претходних студија показала је, посебно, да, према мишљењу испитаника, аутономни аутомобил треба да заштити што више људи, чак и ако то значи губитак путника. У исто време, међутим, испитаници су изјавили да не би куповали овако програмиран аутомобил. Истраживачи су то објаснили док људи сматрају да је етичније спасити више људи, они су и себични, што би могло бити сигнал произвођачима да ће купци нерадо куповати аутомобиле опремљене алтруистичким системима.. Пре извесног времена представници компаније Мерцедес-Бенз рекли су да ће, ако њихов систем спасе само једну особу, изабрати возача, а не пешака. Талас јавног негодовања приморао је компанију да повуче своју изјаву. Али истраживања јасно показују да је у овом светом огорчењу било много лицемерја.

То се већ дешава у неким земљама. први покушаји правног регулисања у пољу. Немачка је усвојила закон који захтева да аутомобили без возача избегавају повреде или смрт по сваку цену. Закон такође наводи да алгоритми никада не могу доносити одлуке на основу карактеристика као што су старост, пол, здравље или пешаци.

Ауди преузима контролу

Дизајнер није у стању да предвиди све последице рада аутомобила. Реалност увек може да обезбеди комбинацију варијабли које никада раније нису биле тестиране. Ово подрива наше веровање у могућност „етичког програмирања“ машине уопште. Чини нам се да у ситуацијама када дође до грешке и трагедије „због грешке аутомобила“, одговорност треба да сносе произвођач и програмер система.

Можда је ово резоновање тачно, али можда не зато што је погрешно. Пре, зато што је дозвољен покрет који није био 2019% ослобођен могућности да га направи. Чини се да је то разлог, а компанија не избегава заједничку одговорност, која је недавно објавила да ће преузети одговорност за несреће у којима је учествовао 8-годишњи А3 док у њему користи аутоматски систем Траффиц Јам Пилот (КСНУМКС).

3. Ауди Траффиц Јам Пилот интерфејс

С друге стране, постоје милиони људи који возе аутомобиле и такође праве грешке. Па зашто би машине, које статистички праве далеко мање грешака од људи, о чему сведоче бројне грешке, биле дискриминисане у том погледу?

Ако неко мисли да су дилеме етике и одговорности у свету аутономних возила једноставне, нека размишља...