Кабинет ужаса

Успон машина и освајање власти од стране вештачке интелигенције. Свет потпуног надзора и друштвене контроле. Нуклеарни рат и дегенерација цивилизације. Многе мрачне визије будућности, нацртане пре много година, требало је да се десе данас. А у међувремену гледамо уназад и чини се да их није било. Јеси ли сигуран?

Постоји прилично стереотипни репертоар популарних дистопијска пророчанства (о црној визији будућности). Поред оних најчешћих који се повезују са уништавањем природне средине и ресурса, распрострањено је мишљење да најновије технологије наносе штету међуљудској комуникацији, односима и друштву.

Виртуелни простор ће варљиво заменити стварно учешће у свету. Други дистопијски погледи виде технолошки развој као начин повећања друштвене неједнакости, концентришући моћ и богатство у рукама малих група. Високи захтеви савремене технологије концентришу знања и вештине у уским круговима привилегованих појединаца, повећавају надзор над људима и уништавају приватност.

Према многим футуристима, већа продуктивност и већи видљиви избор могу да нашкоде квалитету људског живота изазивајући стрес, угрожавајући послове и чинећи нас све материјалистичнијим према свету.

Један од познатих технолошких „дистопија“, Јамес Глеицк, даје наизглед тривијалан пример даљинског управљача за ТВ као класичног изума који не решава ниједан значајан проблем, дајући за собом много нових. Глеицк, цитирајући техничког историчара Едвард Тенер, пише да могућност и једноставност пребацивања канала помоћу даљинског управљача првенствено служи да све више одвлачи пажњу гледаоца.

Уместо задовољства, људи су све незадовољнији каналима које гледају. Уместо задовољења потреба, постоји осећај бескрајног разочарења.

Хоће ли нас аутомобили задржати на резервацијама?

Хоћемо ли моћи да контролишемо ову ствар која је неизбежна и која ће вероватно ускоро доћи? Преко вештачке интелигенције? Ако је то случај, као што многе дистопијске визије најављују, онда не. (КСНУМКС).

Тешко је контролисати нешто што је вишеструко јаче од нас. са повећањем броја задатака. Пре двадесет година нико не би веровао да може много тачније да чита емоције у гласу и лицу човека него што то можемо сами. У међувремену, тренутно обучени алгоритми су већ способни да то ураде, анализирајући изразе лица, тембар и начин на који говоримо.

Компјутери цртају слике, компонују музику, а један од њих је чак победио на такмичењу поезије у Јапану. Дуго су побеђивали људе у шаху, учећи игру од нуле. Исто важи и за много сложенију игру Го.

поштује законе све бржег убрзања. Оно што је вештачка интелигенција постигла – уз помоћ људи – током протеклих деценија удвостручиће се у наредних неколико година, можда само месеци, а онда ће бити потребно само недеље, дани, секунде…

Како се недавно показало, алгоритми који се користе у паметним телефонима или на аеродромима за анализу фотографија са свеприсутних камера могу не само да препознају некога у различитим кадровима, већ и да одреде искључиво интимне психолошке особине. Рећи да је ово огроман ризик за приватност је као да не кажете ништа. Овде се не ради о једноставном надзору, праћењу сваког корака, већ о информацијама које настају као резултат самог изгледа човека, о његовим скривеним жељама и личним склоностима. 

Алгоритми могу да науче ово релативно брзо анализирајући стотине хиљада случајева, што је далеко више него што чак и најпаметнија особа може да види у животу. Наоружани тако богатим искуством, они су у стању да скенирају особу прецизније од чак и најискуснијег психолога, аналитичара говора тела и гестова.

Дакле, права застрашујућа дистопија није то што компјутери играју шах или иду против нас, већ то што могу да виде нашу душу дубље од било кога осим нас самих, пуну забрана и блокада у препознавању тих или других склоности.

Елон Муск верује да како системи вештачке интелигенције почну да уче и размишљају у све већем обиму, „интелигенција“ се може негде развити дубоко у веб слојевима, нама неприметно.

Према америчкој студији објављеној 2016. године, у наредних 45 година, вештачка интелигенција има 50 одсто шансе да надмаши људе у свим задацима. Прогностичари кажу да да, АИ ће решити проблем рака, унапредити и убрзати привреду, обезбедити забаву, побољшати квалитет и трајање живота, образовати нас да не можемо да живимо без ње, али је могуће да једног дана, без мржња, само на основу логичке рачунице, само нас уклања. Можда физички неће радити, јер у сваком систему вреди чувати, архивирати и чувати ресурсе који би „могли једног дана добро доћи“. Да, ово је ресурс који можемо бити за АИ. Заштићена радна снага?

Оптимисти се теше чињеницом да увек постоји могућност да се утикач извуче из утичнице. Међутим, није све тако једноставно. Људски живот је већ постао толико зависан од компјутера да би радикалан корак против њих био катастрофа за нас.

На крају крајева, ми све више стварамо системе за доношење одлука засноване на вештачкој интелигенцији, дајући им право да управљају авионима, одређују каматне стопе, управљају електранама – знамо да ће алгоритми то учинити много боље од нас. Истовремено, не разумемо у потпуности како се доносе ове дигиталне одлуке.

Постоје страхови да би их суперинтелигентни командни системи као што је „Смањење загушења“ могли навести да закључе да је једини ефикасан начин да се посао заврши да се... смањи становништво за трећину или чак половину.

Да, вреди дати машини најважнију инструкцију попут „Пре свега, спаси људски живот!“. Међутим, ко зна да ли ће онда дигитална логика довести до затварања човечанства или под шталу, где смо можда безбедни, али свакако не слободни.

Сајбер криминал као услуга

У прошлости су дистопије и слике постапокалиптичког света у књижевности и биоскопу обично биле смештене у постнуклеарну еру. Данас се нуклеарно уништење не чини неопходним за катастрофу и уништење света какав познајемо, иако не на начин на који то замишљамо. , мало је вероватно да ће уништити свет као у "Терминатору", где је комбиновано са нуклеарним уништењем. Да јесте, не би била суперинтелигенција, већ примитивна сила. Уосталом, чак ни човечанство још није схватило глобални сценарио разорног нуклеарног сукоба.

Права машинска апокалипса може бити много мање импресивна.

Сајбер ратовање, вирусни напади, хаковање система и рансомваре, рансомваре (2) паралишу и уништавају наш свет ништа мање ефикасно од бомби. Ако се њихове размере прошире, можемо да уђемо у фазу свеопштег тоталног рата у коме ћемо постати жртве и таоци машина, иако се од њих не захтева да делују аутономно, а могуће је да ће људи и даље стајати иза свега.

Прошлог лета, америчка Агенција за сајбер безбедност и безбедност инфраструктуре (ЦИСА) назвала је нападе рансомвера „највидљивијом претњом сајбер безбедности“.

ЦИСА тврди да се многе активности у којима сајбер криминалац пресреће и шифрира податке особе или организације, а затим изнуђује откупнину, никада не пријављују зато што жртва плаћа сајбер криминалцима и не жели да објави проблеме са њиховим несигурним системима. На микро нивоу, сајбер криминалци често циљају старије људе који имају проблема да разликују поштен и непоштен садржај на Интернету. Они то раде помоћу малвера уграђеног у прилог е-поште или искачућег прозора на зараженој веб локацији. Истовремено, напади на велике корпорације, болнице, владине агенције и владе су у порасту.

Ови други су били посебно на мети због осетљивих података које су поседовали и могућности плаћања великих откупа.

Неке информације, као што су здравствене информације, много су вредније за власника од других и могу криминалцима да зараде више новца. Лопови могу пресрести или ставити у карантин велике блокове клиничких података важних за негу пацијената, као што су резултати тестова или информације о лековима. Када је живот у питању, у болници нема места за преговоре. Једна од америчких болница је трајно затворена у новембру прошле године након терористичког напада у августу.

Временом ће се вероватно само погоршати. У 2017, Министарство за унутрашњу безбедност САД објавило је да би сајбер напади могли да циљају критичну инфраструктуру као што су водоводна предузећа. А алати потребни за извођење таквих акција све су доступнији мањим оператерима, којима продају пакете рансомваре-а као што су софтвер Цербер и Петиа и наплаћују накнаду за откуп након успешних напада. На основу сајбер криминала као услуге.

Опасан поремећај у геному

Једна од популарних тема дистопије је генетика, ДНК манипулација и узгој људи – уз то, „програмираних“ на прави начин (власти, корпорације, војска).

Савремено оличење ових стрепњи је метод популаризације ЦРИСПР уређивање гена (3). Механизми које садржи су првенствено забрињавајући. форсирање жељених функција у наредним генерацијама и њихов потенцијал се проширио на целокупно становништво. Један од проналазача ове технике, Јеннифер Доудна, чак је недавно позвао на мораторијум на такве технике уређивања „заметне линије” због потенцијално катастрофалних последица.

Подсетимо се да је пре неколико месеци један кинески научник Он Јианкуи је нашироко критикован због уређивања гена људских ембриона како би их имунизовао против вируса сиде. Разлог је био тај што су се промене које је направио могле преносити са генерације на генерацију са непредвидивим последицама.

Посебно забрињавају такозвани д (гене ревритинг, ген дриве), тј. генетски модификован механизам који кодира систем за уређивање у ДНК дате особе ЦРИСПР/ЦАС9 геном са подешавањем да уређује ову варијанту нежељеног гена. Због тога потомци аутоматски (без учешћа генетичара) преписују нежељену варијанту гена жељеном.

Међутим, непожељна варијанта гена може бити примљена од потомства „на поклон“ од неизмењеног другог родитеља. Па да разбијемо генски погон Менделовски закони наследствакоји говоре да половина доминантних гена иде на потомство од једног родитеља. Укратко, ово ће на крају довести до ширења дотичне варијанте гена на целу популацију.

Биолог на Универзитету Станфорд Цхристина Смолке, на панелу о генетском инжењерингу 2016. године, упозорио је да би овај механизам могао имати штетне и, у екстремним случајевима, ужасавајуће последице. Генски нагон је у стању да мутира како пролази кроз генерације и изазива генетске поремећаје као што су хемофилија или хемофилија.

Као што смо прочитали у чланку објављеном у часопису Натуре Ревиевс од стране истраживача са Универзитета Калифорније, Риверсиде, чак и ако нагон функционише како је предвиђено у једној популацији организма, иста наследна особина може бити штетна ако се некако унесе у другу популацију. . исти поглед.

Такође постоји опасност да научници креирају генске погоне иза затворених врата и без рецензије колега. Ако неко намерно или ненамерно унесе штетни генски погон у људски геном, као што је онај који уништава нашу отпорност на грип, то би чак могло значити и крај врсте хомо сапиенса...

Надзорни капитализам

Верзија дистопије коју су бивши писци научне фантастике тешко могли да замисле је стварност интернета, а посебно друштвених медија, са свим његовим широко описаним разгранатима које уништавају приватност, односе и психолошки интегритет људи.

Овај свет је осликан само у новијим уметничким представама, попут онога што смо могли да видимо у серији Црно огледало у епизоди „Роњење“ из 2016. (4). Схосхана Зубофф, економиста са Харварда, ову стварност назива потпуно зависном од друштвеног самопотврђивања и потпуно „деприватизованом“. надзорни капитализам (), а уједно и крунски рад Гугла и Фејсбука.

4. Сцена из "Црног огледала" - епизода "Роњење"

Према Зубоффу, Гугл је први проналазач. Поред тога, стално проширује своје активности надзора, на пример кроз наизглед невине пројекте паметних градова. Пример је светски најиновативнији пројекат суседства Сидевалк Лабс-а, подружнице Гоогле-а. јетти у Торонту.

Гугл планира да прикупи све најситније податке о животу становника риве, њиховом кретању, па чак и дисању уз помоћ свеприсутних сензора за праћење.

Такође је тешко изабрати интернетску дистопију која не долази у обзир на Фејсбуку. Капитализам надзора је можда измислио Гугл, али га је Фацебоок подигао на потпуно нови ниво. То је урађено кроз друштвене и емоционалне виралне механизме и немилосрдни прогон чак и оних који нису корисници Закербергове платформе.

Чувана вештачка интелигенција, уроњена у виртуелну стварност, живи са УБИ

Према многим футуристима, будућност света и технологије означавају пет скраћеница - АИ, АР, ВР, БЦ и УБИ.

Читаоци „МТ-а” вероватно добро знају шта су и од чега се састоје прва три. Познато испада и четврто, „БЦ“, када схватимо о чему се ради. А пети? УБД је скраћеница од концепта, што значи "универзални основни доходак » (5). Ово је јавна корист, која се постулира с времена на време, која ће бити дата свакој особи која је отпуштена са посла како се развијају друге технологије, посебно вештачка интелигенција.

5. Универзални основни доходак – УБИ

Швајцарска је чак прошле године изнела ту идеју на референдум, али су је њени грађани одбили, страхујући да би увођење гарантованог прихода довело до поплаве имиграната. УБИ такође носи са собом низ других опасности, укључујући ризик од настављања постојећих друштвених неједнакости.

Свака од технолошких револуција иза акронима (погледајте такође:) – ако се шири и развија у очекиваном правцу – има огромне последице по човечанство и наш свет, укључујући, наравно, огромну дозу дистопије. На пример, верује се да би то могло да замени четворогодишње изборне циклусе и да доведе до референдума о безброј питања.

Виртуелна стварност је, пак, у стању да „искључи“ део човечанства из стварног света. Као што се десило, на пример, са Корејком Јанг Ји-сун, која је, након смрти своје ћерке 2016. од неизлечиве болести, од тада упознала свој аватар у ВР. Виртуелни простор такође ствара нове врсте проблема, или заправо преноси све старе познате проблеме у „нови“ свет, или чак у многе друге светове. То донекле већ видимо на друштвеним мрежама, где се дешава да премало лајкова на објавама води у депресију и самоубиство.

Пророчке приче мање-више

Уосталом, и историја стварања дистопијских визија учи опрезу у формулисању предвиђања.

6. Насловница "Острва у мрежи"

Прошле године снимљено је чувено ремек дело Ридлија Скота научне фантастикеандроид хунтер» Од 1982. Могуће је расправљати о испуњењу или неиспуњавању многих специфичних елемената, али је неоспорно да најважније пророчанство о постојању у наше време интелигентних, хуманоидних андроида, по много чему супериорних у односу на људе, још није постало стварност.

Били бисмо спремни да толеришемо још много пророчких хитова“.Неуроманси»односно романи Виллиам Гибсон од 1984. који је популаризовао концепт „сајбер простора“.

Међутим, у тој деценији се појавила нешто мање позната књига (код нас скоро у потпуности, јер није преведена на пољски), која је много тачније предвидела данашње време. Говорим о романтициОстрва на Вебу"(6) Бруце Стерлинг од 1988, постављен 2023. Представља свет уроњен у нешто слично Интернету, познато као "веб". Контролишу га велике међународне корпорације. „Острва на вебу“ су позната по томе што омогућавају контролу, надзор и монополизацију наводно бесплатног интернета.

Такође је занимљиво предвидети војне операције које се изводе коришћењем беспилотних летелица (дронова) против онлајн пирата/терориста. Оператери удаљени хиљадама миља са сигурним десктоп рачунарима – како то знамо? Књига није о бескрајном сукобу са исламским тероризмом, већ о борби против сила које се супротстављају глобализацији. Свет острва у мрежи такође је испуњен потрошачким уређајима који у великој мери личе на паметне сатове и паметне спортске ципеле.

Постоји још једна књига из 80-их која, иако неки од догађаја изгледају фантастичније, добро илуструје наше модерне дистопијске страхове. овај "Георадарски софтвер“, Историја Руди Роокерпостављено 2020. Свет, стање у друштву и његови сукоби изгледају невероватно слични ономе са чиме се данас суочавамо. Постоје и роботи познати као бопери који су стекли самосвест и побегли у градове на Месецу. Овај елемент се још није материјализовао, али побуна машина постаје стални рефрен црних предвиђања.

Визије нашег времена у књигама су такође запањујуће тачне на много начина. Октавија Батлер, посебно уПараболе о сејачу» (1993). Радња почиње 2024. године у Лос Анђелесу и одвија се у Калифорнији, разореној поплавама, олујама и сушама изазваним климатским променама. Породице средње и радничке класе састају се у затвореним заједницама док покушавају да побегну од спољашњег света уз помоћ дрога које изазивају зависност и комплета за виртуелну стварност. Појављују се нове религије и теорије завере. Избеглички караван креће на север како би избегао еколошки и друштвени колапс. На власт долази председник који користи слоган кампање "Учинимо Америку поново великом" (ово је слоган Доналда Трампа) ...

Батлерова друга књига, "Парабола о талентимаговори како припадници новог религиозног култа напуштају Земљу у свемирском броду да би колонизовали Алфа Кентаури.

***

Која је поука овог опсежног прегледа предвиђања и визија направљених пре неколико деценија о нашем свакодневном животу?

Вероватно је чињеница да се дистопије дешавају често, али најчешће само делимично.