Вештачка интелигенција не следи логику научног напретка
У МТ смо много пута писали о истраживачима и професионалцима који проглашавају системе машинског учења „црним кутијама“ (1) чак и за оне који их граде. Ово отежава процену резултата и поновно коришћење алгоритама у настајању.
Неуронске мреже - техника која нам даје интелигентне ботове за претварање и генијалне генераторе текста који чак могу да стварају поезију - остају несхватљива мистерија за спољне посматраче.
Они постају све већи и сложенији, рукују огромним скуповима података и користе масивне рачунарске низове. То чини репликацију и анализу добијених модела скупим и понекад немогућим за друге истраживаче, осим за велике центре са огромним буџетима.
Многи научници су добро свесни овог проблема. Међу њима је и Џоел Пино (2), председник НеурИПС-а, главне конференције о репродуктивности. Стручњаци под њеним руководством желе да направе „листу за проверу репродуктивности“.
Идеја је, рекао је Пино, да подстакне истраживаче да другима понуде мапу пута како би могли да поново креирају и користе већ обављени посао. Можете се дивити елоквенцији новог генератора текста или надљудској спретности робота за видео игре, али чак ни најбољи стручњаци немају појма како ова чуда функционишу. Због тога је репродукција АИ модела важна не само за идентификацију нових циљева и праваца истраживања, већ и као чисто практичан водич за коришћење.
Други покушавају да реше овај проблем. Гуглови истраживачи су понудили „картице модела“ да би детаљно описали како су системи тестирани, укључујући резултате који указују на потенцијалне грешке. Истраживачи са Аллен института за вештачку интелигенцију (АИ2) објавили су рад који има за циљ да прошири контролну листу за поновљивост Пинота на друге кораке у експерименталном процесу. „Покажите свој рад“, позивају.
Понекад недостају основне информације јер је истраживачки пројекат у власништву, посебно лабораторија које раде за компанију. Чешће је, међутим, знак неспособности да се опише променљиве и све сложеније методе истраживања. Неуронске мреже су веома сложена област. Да би се постигли најбољи резултати, често је потребно фино подешавање хиљада „дугмица и дугмади“, што неки називају „црна магија“. Избор оптималног модела је често повезан са великим бројем експеримената. Магија постаје веома скупа.
На пример, када је Фацебоок покушао да реплицира рад АлпхаГо, система који је развио ДеепМинд Алпхабет, задатак се показао изузетно тешким. Огромни рачунарски захтеви, милиони експеримената на хиљадама уређаја током много дана, у комбинацији са недостатком кода, учинили су систем „веома тешким, ако не и немогућим, поново креирати, тестирати, побољшати и проширити“, кажу запослени у Фејсбуку.
Чини се да је проблем специјализован. Међутим, ако размислимо даље, феномен проблема са поновљивошћу резултата и функција између једног истраживачког тима и другог поткопава сву логику функционисања науке и истраживачких процеса која нам је позната. По правилу, резултати досадашњих истраживања могу се користити као основа за даља истраживања која подстичу развој знања, технологије и општи напредак.
