Реците свом мачићу како размишљате изнутра - ефекат црне кутије

Чињеница да су напредни алгоритми вештачке интелигенције попут црне кутије (1) која избацује резултат не откривајући како је до њега стигао, смета некима, а узнемирава друге.

У 2015. години, истраживачки тим у болници Моунт Синаи у Њујорку је замољен да користи ову методу за анализу велике базе података локалних пацијената (2). Ова огромна збирка садржи океан информација о пацијентима, од резултата тестова, лекарских налога итд.

Научници су назвали аналитички програм развијен током рада. Обучен је на основу података од око 700 хиљада људи. људи, а када је тестиран у новим регистрима показао се изузетно ефикасним у предвиђању болести. Без помоћи стручњака за људе, открио је обрасце у болничким картонима који су указивали који пацијент је на путу ка болести као што је рак јетре. Према мишљењу стручњака, прогностичка и дијагностичка ефикасност система била је много већа од било које друге познате методе.

2. Медицински систем вештачке интелигенције заснован на базама података пацијената

Истовремено, истраживачи су приметили да делује на мистериозне начине. Испоставило се, на пример, да је идеалан за препознавање менталних поремећајакао што је шизофренија која је изузетно тешка за лекаре. Ово је било изненађујуће, поготово зато што нико није имао појма како је систем вештачке интелигенције тако добар да види менталне болести само на основу медицинске документације пацијента. Да, стручњаци су били веома задовољни помоћу тако ефикасног машинског дијагностичара, али би били много задовољнији када би схватили како је АИ дошла до својих закључака.

Слојеви вештачких неурона

Од самог почетка, односно од тренутка када је концепт вештачке интелигенције постао познат, постојала су два становишта о АИ. Први је сугерисао да би најразумније било да се направе машине које разумију према познатим принципима и људској логици, чинећи њихов унутрашњи рад транспарентним за све. Други су веровали да би се интелигенција лакше појавила ако би машине училе кроз посматрање и поновљено експериментисање.

Ово последње значи преокретање типичног компјутерског програмирања. Уместо да програмер пише команде за решавање проблема, програм генерише сопствени алгоритам на основу података узорка и жељеног резултата. Технике машинског учења, које су касније еволуирале у најмоћније АИ системе познате данас, управо су кренуле путем суштински машина сама програмира.

Овај приступ је остао на маргинама истраживања вештачке интелигенције 60-их и 70-их година. Тек почетком претходне деценије, након неких иновативних промена и побољшања, „дубоке“ неуронске мреже почео да показује радикална побољшања у способностима аутоматизоване перцепције. 

Дубоко машинско учење дало је рачунарима изванредне способности, као што је способност да препознају изговорене речи готово једнако тачно као човек. Ово је превише сложена вештина да би се програмирала унапред. Машина мора бити у стању да креира сопствени "програм" од обука на огромним скуповима података.

Дубоко учење је такође револуционисало компјутерско препознавање слика и значајно побољшало квалитет машинског превођења. Данас се користи за доношење свих врста кључних одлука у медицини, финансијама, производњи и још много тога.

Међутим, уз све ово не можете само да погледате унутар дубоке неуронске мреже да видите како она функционише „испод хаубе“. Процеси мрежног резоновања уграђени су у понашање хиљада симулираних неурона, организованих у десетине или чак стотине сложено повезаних слојева..

Сваки од неурона у првом слоју прима улазни сигнал, као што је интензитет пиксела на слици, а затим врши прорачуне пре него што изда излазни сигнал. Они се у сложеној мрежи преносе до неурона следећег слоја - и тако даље, до коначног излазног сигнала. Поред тога, постоји процес познат као прилагођавање прорачуна које изводе појединачни неурони тако да мрежа за обуку производи жељени резултат.

У често цитираном примеру који укључује препознавање слике пса, нижи слојеви АИ анализирају једноставне карактеристике као што су обрис или боја. Они виши се баве сложенијим питањима као што су крзно или очи. Само горњи слој обједињује све то, идентификујући комплетан скуп информација као пса.

Исти приступ се може применити на друге врсте улаза који покрећу машину да сама учи: звукове који чине речи у говору, слова и речи које чине реченице у писаном тексту, или волан, на пример. кретања неопходна за контролу возила.

Машини ништа не недостаје

Покушано је да се објасни шта се тачно дешава у таквим системима. 2015. Гуглови истраживачи су модификовали алгоритам за препознавање слика заснован на дубоком учењу тако да уместо да види објекте на фотографијама, он их генерише или модификује. Покретањем алгоритма уназад, желели су да открију карактеристике које програм користи да би препознао, рецимо, птицу или зграду.

Јавно познати по свом називу, ови експерименти су произвели запањујуће слике (3) гротескних, бизарних животиња, пејзажа и ликова. Док су открили неке од тајни машинске перцепције, као што је чињеница да се одређени обрасци враћају у петљу и понављају изнова и изнова, они су такође показали колико се дубоко машинско учење разликује од људске перцепције – на пример, у смислу да се шири и дуплира артефакте које игноришемо у нашој перцепцији без размишљања. .

3. Слика креирана у пројекту

Узгред, с друге стране, ови експерименти су открили тајну наших сопствених когнитивних механизама. Можда је у нашој перцепцији да постоје разне неразумљиве компоненте које нас терају да одмах нешто разумемо и игноришемо, док машина стрпљиво понавља своје итерације на „неважним“ објектима.

Други тестови и студије су спроведени у покушају да се "разуме" машина. Јасон Иосински створио је алат који делује као сонда заглављена у мозгу, циљајући било који вештачки неурон и тражећи слику која га најјаче активира. У последњем експерименту, апстрактне слике су се појавиле као резултат „шпијунирања“ мреже, што је процесе који се дешавају у систему учинили још мистериознијим.

Међутим, за многе научнике оваква истраживања представљају неспоразум, јер, по њиховом мишљењу, да би разумели систем, препознали обрасце и механизме вишег реда за доношење сложених одлука, све рачунске интеракције унутар дубоке неуронске мреже. То је џиновски лавиринт математичких функција и варијабли. Тренутно нам је то несхватљиво.

Рачунар неће почети да ради? Зашто?

Зашто је важно разумети механизме доношења одлука напредних система вештачке интелигенције? Математички модели се већ користе да би се утврдило који затвореници могу бити пуштени на условну слободу, који могу добити кредит, а који могу добити посао. Заинтересовани желе да знају зашто је донета ова одлука, а не нека друга, који су њени разлози и механизам.

– признао је у априлу 2017. у МИТ Тецхнологи Ревиев. Томми Јааккола, професор на МИТ-у који ради на апликацијама за машинско учење. -.

Постоји чак и правни и политички став да је способност да се проучи и разуме механика доношења одлука у системима вештачке интелигенције основно људско право.

Од 2018. ЕУ ради на томе да од компанија захтева да својим клијентима дају објашњења о одлукама које доносе аутоматизовани системи. Испоставило се да то понекад није могуће чак ни са системима који изгледају релативно једноставни, попут апликација и веб локација које користе дубоку науку за приказивање огласа или препоруку песама.

Рачунари који покрећу ове услуге сами програмирају, и то на начине које ми не можемо разумети... Чак ни инжењери који креирају ове апликације не могу у потпуности да објасне како то функционише.