Окружени смо „облаком“ вештачке интелигенције који не примећујемо
- Највероватније ће настати велике промене на тржишту рада. Радна места која су у суштини алгоритам вероватно ће бити замењивана ВИ. На пример: новинари који пишу јефтине вести у „жутој“ штампи… Затим дизајнери, илустратори, контакт центри, службе подршке, средњи менаџмент, секретари, преводиоци итд…
Интервју са Игором Ашмановим, водећим руским стручњаком за вештачку интелигенцију (ВИ) урадио је Слободан Стојичевић, а објављен је у недељнику Печат.
Један од највећих руских стручњака за вештачку интелигенцију (ВИ) и дигиталне технологије, извршни директор претраживача Рамблер, аутор правописа уграђеног у програмски пакет Мајкрософт офис, аутор антивирус и антиспам програма, коаутор књиге „Дигитална хигијена“ Игор Ашманов, на позив председника Републике Српске Милорада Додика од 5. до 9. септембра 2023. гостовао је у Републици Српској. Пошто је књигу представио у Бањалуци, потом је исто учинио и у Београду, у Руском дому. Том приликом дао је интервју за „Печат“.
Последњих месеци свакодневно читамо о вештачкој интелигенцији, али се мора признати да већина људи и „експерата“ који данас пишу и говоре о овоме у нашим медијима нису директно везани за ВИ. Ви сте један од ретких људи који се заиста, већ деценијама, практично бави ВИ. Можете ли нам рећи неколико речи о том феномену и колика је опасност од истог?
После Математичког факултета, још 1987. године, почео сам да радим у Рачунском центру Академије наука СССР, и од тада се професионално бавим ВИ, претраживачима, примењеном лингвистиком итд. Најпре треба рећи да данас постоји мишљење у масама о ВИ које је створио Холивуд, о разумним машинама, емоционалним роботима, о освајању света од стране ВИ и сл. што апсолутно нема везе с реалношћу. С тачке гледишта креатора ВИ (а ја сам један од њих), то је једноставно скуп или комплет математичких метода оптимизације и машинског учења који омогућава имитирање неких когнитивних (умних, менталних) функција човека. Управо: имитирање. Навешћу пример: раније су могли да рачунају само људи. Затим су се појавили шибери, па калкулатори, затим компјутери, то јест рачунање је постало аутоматско. А то је у суштини имитација когнитивних функција човека. Или други пример: пре 50 година лектуру и проверу правописа су могли да раде само врло образовани и квалификовани људи. Данас ово ради сваки гаџет. Другим речима, део когнитивних функција човека је већ реализован. Ми смо већ окружени „облаком“ свакодневне, практичне вештачке интелигенције који не примећујемо па чак и не мислимо да је то ВИ зато што смо на то навикли. На пример, претраживач Јандекс је веома моћан програм ВИ, који претражује и налази одређене појмове, речи, сајтове, а чак се и самообучава. А пре неколико деценија само су људи, научници, архивари могли да неки термин траже и нађу у књигама или документима. Антивирус и антиспам програми су такође ВИ. Све што је везано за препознавање било чега (лица, вируса, текстова) и све што је везано за машинско учење је вештачка интелигенција. Тако да нас већ окружује облак ВИ, али је изгубио загонетност и романтику зато што је реализован у свакодневном животу.
О „хајпу“ ВИ који је данас узбуркао страсти најпре треба рећи да у томе највероватније има уплива и инвестиција војноиндустријског комплекса САД. О утицају и упливу ЦИА и Пентагона (DARPA) у ИТ сектор у Силицијумској долини постоји врло добро новинарско истраживање „Како је ЦИА стварала Гугл“. Тако да се ове новине највероватније или спонзоришу или њима управљају обавештајни, односно војни органи САД. То треба имати на уму. Посебно када је у питању војна употреба ВИ и „паметно оружје“.
У Савету за вештачку интелигенцију Министарства одбране РФ, чији сам члан, одавно смо правили преглед пројеката DARPA и њених старт-апова. Добар део њих се развија по „дијаграму хајпа Гартнера“. Око нове технологије се ствара „фама“ – „хајп“ који се претвара у мехур. Таквих мехура смо видели много: дот.комови – 1997, друштвене мреже 2010. године, старт-апови – 2012, блокчејн – 2018, вештачка интелигенција – 1960, 1990, 2019, GPT, генератори – 2023. године. Дијаграм полази од стартовања хајпа нове технологије, затим нагло креће хистерија и суманут раст инвестиција, затим наступа разочарање и нагли пад а на крају се полако враћа на „плато ефикасности“, где нова технологија налази своје место на тржишту и у реалном свету. Зато треба бити опрезан и не падати у хистерију.
Међутим, неке закључке можемо већ сада извући. Највероватније да ће настати велике промене на тржишту рада. Радна места која су у суштини алгоритам вероватно ће бити замењивана ВИ. На пример: новинари који пишу јефтине вести у „жутој“ штампи, исту информацију наведу у наслову, затим у поднаслову и онда још неколико пута у тексту. То данас може да ради и ВИ. Затим дизајнери, илустратори, програмери ниског кода, контакт центри, службе подршке, средњи менаџмент, секретари, преводиоци, и тако даље. Такође онлајн-психотерапеути. Људи воле да разговарају и нису против да за то плате, тако да има хиљаде људи који заврше неки курс од неколико месеци за „психотерапеута“ и онда раде преко интернета. Овај посао без проблема ће моћи да „ради“ ВИ. Али физички рад и креативан рад ће мање бити угрожени. Другим речима, у овој фази ће најугроженији бити „бели оковратници“ средњег нивоа. У компанији „Амазон“ је употребљена ВИ код слања пошиљки – али није код паковања. Паковање још обављају људи – махом јефтина радна снага, јер је паметни робот много скупљи него илегални имигрант. ВИ се користи да контролише те људе који раде у пеленама. И овде долазимо до другог проблема који ће се појавити у будућности: законско регулисање ВИ. И у односу према људима и у војној индустрији. У Русији увелико радимо на томе.
Сведоци смо да се и на Истоку и на Западу увелико говори о „дигиталном логору“, о сакупљању података и угрожавању људских права и слобода. Како се према томе односе у Русији?
Члан сам Савета за људска права при администрацији председника РФ и по налогу председника Путина организовао сам радну групу која је написала „Концепцију права грађана у дигиталној сфери“, и сад је у процедури усаглашавања. Тај документ од око 120 страна је основа за будући Дигитални кодекс, то јест „свод закона“ који ће регулисати све ове и неке будуће проблеме дигитализације. Јер ако су законски регулисани земља, ваздух и вода, логично је да се исто учини и с дигиталном сфером. И то регулисање би требало да узме у обзир не само „развој“ и сумануту, непромишљену дигитализацију у свим областима већ и људска права, па између осталог и права људи да се не дигитализују или да се умерено, разумно дигитализују. На пример, Министарство за економски развој је против наше концепције јер, као су рекли, успорава развој, па су чак написали да „не треба узимати у обзир мишљење грађана који нису прогресивни“. Али човек мора имати право да не буде „кул“ и прогресиван и да остварује неко своје право без смартфона.
Ми који се бавимо безбедношћу података врло добро знамо да не постоји апсолутно сигурна база података. Свака база података (па и оних биометријских који се више не могу мењати) може се пре или касније компромитовати (хаковати). С друге стране, сва дигитализација се темељи на струји, ако нема струје, нема ни података. Не смемо дозволити да папирни документи буду укинути. И то је људско право које се мора законски регулисати и заштитити. Постоји и велика склоност људи да препуштају одлуке ВИ и машинама. Данас се, на пример, већ увелико ВИ користи код „банкарског рејтинга“: човек на сајту банке два сата попуњава апликацију за кредит и када је пошаље, добије одговор после 45 секунди. Очигледно је да његову молбу није погледао ниједан човек већ да је машина донела одлуку о томе да се одбија кредит. И ова машинина одлука аутоматски одлази у „кредитни биро“, тако да и све остале банке рангирају човека на основу одлуке машине. Има доста примера када су људи хапшени јер их је програм „препознавања лица“ означио као лице с потернице а с вероватноћом 70 или 80 процената. Иако су при себи имали лична документа с фотографијом. Нисам апсолутно против дигитализације, али морају се поставити оквири, границе које ће дигитализацију усмерити и учинити је разумном а не стихијском.
Када сте већ то споменули, који су реални, државни проблеми дигитализације у односу на грађане?
Проблем о коме се данас не говори и на који покушавам да скренем пажњу је „ИТ власт“ из сенке. То је практична власт коју поседују ИТ стручњаци, ИТ администратори, програмери, оператори база података, шефови ИТ служби. Једном речју, ствара се нова „дигитална класа“. Ти људи су добили неку власт а нико их није бирао на изборима, практично скоро да нису ни одговорни никоме (јер се мало ко и разуме у њихов посао). Ако би се то рекло по Марксу: ствара се нова дигитална класа која поседује средства за производњу. Њихова „средства за производњу“ – програмски пакети стварају податке које они поседују. И ти подаци су у великој мери „додата вредност“. Другим речима, ИТ класа сакупља много више података него што је потребно и тим подацима се може манипулисати, трговати итд. Недавно је изашла књига Шошане Зубоф „Надзорни капитализам“ и свима саветујем да је прочитају јер ту је описано откриће равно теорији додате вредности. Данас је додата вредност оно што би се могло назвати „понашањски вишкови“ (или бихејвиорални вишкови – прим. прев.). Једноставним речима: када нам се пружа нека услуга, траже се подаци и тих података се сакупља много више него што је неопходно. То и јесте „додата вредност“. А касније се тим подацима тргује, они се користе да нам се нуди и „уваљује“ роба која нам не треба и сл. На државном нивоу ово се претвара у кампању дигитализације и рејтинге дигитализације локалних власти. Та кампања почиње да се реализује хаотично и хистерично, тако да се у журби преузима оно што је готово и спремно за употребу а то је обично западни (непријатељски) софтвер. У суштини пред нашим очима се догађа преношење доброг дела власти на нову дигиталну класу без било каквих избора, без овлашћења, без наредбе председника. Просто се појављују одлуке о сакупљању података и то великим делом непотребних а личних података грађана који су додата вредност. И ови подаци постају предмет трговине и манипулације. Ово се мора промишљено и законски регулисати. У Русији убрзано радимо на томе, без обзира како се друге државе према том проблему односе. Морамо заштитити своје грађане и њихова права а ако је потребно да будемо први који ће то законски регулисати, онда ћемо бити први.
Ако се дигитализација и развој ВИ буду законски ограничавали, да ли ће то бити на штету безбедности државе? Шта је са војном употребом?
Ово је веома важно питање. Непромишљена дигитализација и ВИ су и безбедносна опасност и угрожавање. У два аспекта. Први аспект је информациони рат (а ту можемо убројити и психолошки рат, когнитивни рат, ментални рат, тероризам). Недавно смо имали примере компромитовања (продаје) база података доставе брзе хране. Током истраге је установљено да је база купљена од украјинских служби да би се дошло до имена и презимена, адреса, бројева телефона, информација о навикама хиљада службеника полиције, гарде, војске, државних службеника итд. Имали смо пример високог војног официра, команданта подморнице с које су лансиране ракете, а који је убијен током јутарњег џогинга. Носио је „паметан сат“ који је у „облак“ слао све податке о њему па и путању редовне рекреације када је био код куће на одмору. Украјинским терористима је преостало само да пошаљу атентатора на одређено место у одређено време. Када сам држао предавања на Војној академији и у Генералном штабу, говорио само о праћењу и сакупљању података, али данас упозоравам и да смартфон и гаџети могу бити и „локатори“ – на које ће бити таргетирани дронови.
Други елемент информационог рата тиче се мемова, мимова, лажних информација – фејкова, хајпова, таргетирања поводљивих корисника, манипулације осећањима, климом у друштву, обојених револуција. Специјална војна операција (СВО) се зато понекад и назива хибридни рат јер с нама данас не ратује само Украјина. Информациони рат у ствари контролише 77. бригада за специјалне операције енглеске војске. Она има централу недалеко од Лондона и одатле иде командовање. За њу ради 50-60 великих и реномираних ПР и агенција за маркетинг по свету. И њој су потчињени ЦИПсО (Центар за информационо-психолошке специјалне операције) у Украјини. Њих има неколико и то су стотине па и хиљаде професионалаца. Ови ЦИПсО између осталог координишу и „кибер-армију“ која броји неколико стотина хиљада волонтера по целом свету. То нису само фамозни „хакери“ већ и хиљаде обичних корисника који понекад само спамују или дискутују на друштвеним мрежама, а понекад су и обучени за сложеније задатке. Цела ова организована и уређена сајбер структура има буџет од неколико стотина милиона долара месечно. То је озбиљан противник. И велике, глобалне западне ИТ платформе и друштвене мреже, које су само наизглед цивилне укључиле су се у овај рат по налогу своје државе, тако да смо били принуђени да им забранимо рад и приступ из РФ. У будућности ћемо вероватно морати да проширимо списак забрањених сервиса. Морамо да заштитимо свој народ и своју државу од непријатељског деловања. Вероватно ће се у будућности и у већини држава слободног незападног света стварати одређена полупропусна мембрана (као на ћелијама) која ће штитити националне интернете. То је једини начин да се становништво у исто време и сачува од утицаја страних непријатељских држава а и да се не изолује од глобално заједничких садржаја.
Други још важнији аспект је оружје са ВИ. Ово је пресудно важно. Данас дронови који се све више користе не препознају циљеве. Дрон је оружје које на себи има камеру и слику шаље оператеру. Тако да ово доводи до умарања оператера и трошења људских ресурса. Али још важније је да се циљеви препознају „на бази“ и да се одабир саопштава дрону који потом иде у напад. Ово значи да дрон сво време мора имати везу с базом. А та веза се може пресретати. То је најрањивији део дрона. Све државе данас убрзано раде на преношењу те функције унутар дрона. У том случају ће дрон сам препознавати циљеве, одабирати циљ и доносити одлуку о нападу. То ће бити аутономни дронови који када се једном лансирају, сами раде све остало. (Функција се зове „лансирај и заборави“.) Ово ће бити заиста огроман и најопаснији корак у развоју ратне технике. На ово Русија мора имати одговор и убрзао се рад и на томе.
Због ова два аспекта (информационог рата и аутономног оружја) заступамо став о разумној дигитализацији. Не против дигитализације уопште и не против исхитрене и стихијске дигитализације већ управо за промишљену, разумну дигитализацију и развој.
https://www.pecat.co.rs/2023/09/okruzeni-smo-oblakom-vestacke-inteligencije-koji-ne-primecujemo/
