Вештачката интелигенција полека станува дел од работењето на македонските компании. Голем потенцијал за нејзина примена постои и во јавниот сектор, каде што би можела да придонесе за поквалитетни услуги, но и намалување на корупцијата и правната несигурност. Но, колку сме навистина подготвени да ја користиме? Дали ни е потребен нов закон или пред сè подобро разбирање на технологијата и нејзините ризици?
За овие прашања разговараме со Владимир Бошњаковски и Ангела Анѓеловска, основачи на Ethical AI Macedonia, иницијатива што неодамна ја објави првата верзија на Принципите за одговорна употреба на вештачката интелигенција во Македонија. На 17 ноември во Скопје ќе биде претставена иницијативата во рамките на меѓународен настан посветен на одговорната ВИ, организиран од Swedish Macedonian Alumni Network, со поддршка на Амбасадата на Шведска и Шведско-македонската стопанска комора, во соработка со Универзитетот Лунд.
Зошто одлучивте да ја основате Ethical AI Macedonia и што сакате да постигнете?
Владимир Бошњаковски: Бранот на вештачката интелигенција не ја одмина Македонија. Во работата со клиентите сè почесто гледаме примери за нејзина употреба, од подготовка на документи и анализа на податоци до поддршка при деловното одлучување.
Особено импресивна е примената на ВИ во македонската ИТ-индустрија, каде што гледаме практики што не заостануваат зад светските трендови. Но, најголемите придобивки ќе дојдат кога технологијата ќе биде широко прифатена и надвор од ИТ-секторот, во целата економија, а во иднина и во јавните институции.
Тука гледаме сериозен предизвик. Кај компаниите надвор од ИТ-секторот забележуваме две спротивни реакции. Едни се претерано претпазливи и избегнуваат да користат ВИ бидејќи не ги разбираат доволно ризиците. Други ја применуваат технологијата со преголема самодоверба, без соодветни внатрешни правила. Првите пропуштаат можности за развој и поголема продуктивност, додека вторите ризикуваат да предизвикаат штета за своите клиенти, вработени и деловниот углед.
Токму затоа ја основавме Ethical AI Macedonia. Нашата цел не е да го ограничуваме користењето на ВИ, туку да придонесеме за нејзино пошироко прифаќање преку подобро разбирање на можностите и ризиците.
Во светот се води голема дебата за регулирањето на ВИ. Дали Македонија треба да донесе посебен закон?
Владимир Бошњаковски: Сметам дека на Македонија во моментов дефинитивно не ѝ е потребна специјална регулатива за вештачката интелигенција. Дури и најразвиените држави сè уште бараат одговор на прашањето што точно треба да се регулира и како да се постигне рамнотежа меѓу заштитата од ризици и поттикнувањето на иновациите. Ако ни земјите лидери во оваа сфера сè уште немаат јасен одговор, тешко е да очекуваме дека Македонија ќе ја најде вистинската формула.
Всушност, отсуството на строга регулатива може да претставува значајна конкурентска предност за Македонија. Нашите компании имаат поголема слобода да експериментираат и да иновираат без постојан страв од регулаторни последици. Ова го потврдуваат и нашите разговори со технолошки компании што работат на европскиот пазар и непосредно ги чувствуваат предизвиците од новата регулатива.
Не треба да заборавиме и дека многу од прашањата што ги отвора ВИ веќе се регулирани со постојните закони, вклучително и прописите за работните односи, заштитата на потрошувачите, заштитата на личните податоци и одговорноста за штета од производи.
Ако не е потребен нов закон, што им е потребно на компаниите за одговорно да ја користат ВИ?
Ангела Анѓеловска: Во глобалната дебата често се претставуваат два спротивставени пристапи: Европската Унија, која се определува за строга регулатива, и САД, кои даваат предност на иновациите. Но, застапниците на американскиот пристап понекогаш го занемаруваат фактот дека американските компании не функционираат во целосен вакуум, без никакви насоки за одговорна употреба на технологијата.
Напротив, во САД постои развиен корпус на стандарди, препораки и практични насоки од организации како NIST, IEEE и различни секторски здруженија. Тие се особено корисни за компаниите што не се на самиот врв на технолошкиот развој, бидејќи им овозможуваат да применуваат проверени практики, подобро да управуваат со ризиците и со поголема самодоверба да експериментираат со ВИ.
Сметаме дека токму тоа ѝ недостига на Македонија. Не мора да почнуваме од нула. Можеме да ги користиме постојните меѓународни стандарди и добри практики, приспособувајќи ги на нашите локални услови и потреби.
Нашата цел преку Ethical AI Macedonia е да создадеме заедница што ќе работи на овие прашања. Ние само го иницираме процесот и го правиме првиот чекор. Очекуваме во него да се вклучат компании, професионалци, истражувачи, институции и граѓански организации, со свои искуства, предлози, но и критики. Сакаме преку заедничка работа да развиваме практични насоки што навистина ќе им помогнат на македонските компании и институции.
Колку македонските компании и институции се подготвени за поширока примена на ВИ?
Владимир Бошњаковски: Мислам дека вистинското прашање е колку македонското општество во целина е подготвено за вештачката интелигенција. Ова не зависи од еден поединец, една компанија или една институција. Не ни треба еден гениј што разбира сè за ВИ, туку широка група луѓе што ја разбираат технологијата, соодветна инфраструктура и организациска култура што ќе овозможи нејзина примена.
Еден од најголемите предизвици е нецелосната дигитализација, како во јавниот, така и во приватниот сектор. Сите знаеме дека во јавните институции голем дел од работата сè уште се одвива на хартија. Но, проблемот оди и подалеку. Многу правила и процедури не се соодветно објавени или достапни на интернет. Понекогаш правилата се залепени на ѕид, на парче хартија во самата институција. А понекогаш воопшто не се запишани никаде, туку постојат само во главите на вработените.
Но, покрај дигитализацијата и управувањето со податоците, постои уште еден проблем што сметам дека е особено важен: многу компании и институции функционираат на недокументиран начин. Што значи тоа? Процесот преку кој се испорачува некоја услуга, се произведува производ или се носи одлука често не е документиран никаде. Тоа знаење постои само во главите на искусните вработени и раководители.
Податоците и документираното знаење за процесите се нафтата на ерата на вештачката интелигенција. Компаниите што навреме ќе го разберат тоа и ќе почнат систематски да ги дигитализираат податоците и документираат своите процеси ќе стекнат огромна конкурентска предност.
Дополнителен предизвик е и нашата општествена инерција, односно бавното прифаќање нови системи, стандарди и начини на работа. Познаваме компании во кои вработените веќе слободно користат ВИ, без никакви внатрешни политики или правила. Тоа отвора ризици од губење на контролата врз важни деловни процеси.
Кои конкретни ризици ги носи употребата на ВИ во секојдневното работење и како компаниите можат да се заштитат?
Владимир Бошњаковски: Постојат многу ризици поврзани со употребата на ВИ, но би издвоил два што мене лично ми се особено интересни, веројатно затоа што се тесно поврзани со моето секојдневно работење со оваа технологија.
Првиот е некритичкото потпирање на технологијата, односно таканаречениот automation bias. Тоа е тенденцијата да им веруваме на резултатите од автоматизираните системи, дури и кога постојат причини да ги преиспитаме. Ова не е проблем само на неискусните корисници. Дури и кога имаме добро развиен и софистициран ВИ-систем, неговите крајни корисници најчесто нема да бидат инженери или научници што се занимаваат со ВИ, туку професионалци – лекари, правници, сметководители и други.
Тука постои еден интересен парадокс: колку е подобар и посигурен системот, толку посилна може да стане тенденцијата некритички да му веруваме. Токму затоа, во дизајнирањето на ВИ-системите постои цела област посветена на тоа како резултатите да им се претстават на корисниците на начин што ќе поттикне критичко размислување, проверка и преиспитување, наместо слепо прифаќање.
Вториот ризик што особено ме загрижува е постепеното губење на професионалните вештини. Ќе ви дадам пример од мојата адвокатска канцеларија. Развив систем со кој можам да подготвувам корпоративни документи речиси целосно автоматизирано. Му давам инструкции, за триесетина минути документите се подготвени, а мене целата работа ми одзема можеби пет минути. Само немојте ова да им го кажувате на моите клиенти, бидејќи веднаш ќе побараат да им ги намалам хонорарите!
Но, шегата настрана, ова создава еден сериозен проблем. Мене сега ми е многу полесно сам да ја завршам работата со помош на ВИ отколку да ја делегирам на помлад колега. Делегирањето бара објаснување, координација, потсетување, проверка и коригирање грешки. А токму преку тие задачи младите правници учат како се подготвуваат документи, како функционираат правните постапки и како се развива професионално расудување.
Ако сè почесто ги прескокнуваме овие чекори, како ќе ги обучуваме следните генерации правници, лекари, инженери и други професионалци? И кој ќе ги проверува резултатите од ВИ во иднина, ако постепено ги изгубиме вештините потребни за тоа?
Неодамна ги објавивте Принципите за одговорна употреба на ВИ. Што претставуваат тие и кому му се наменети?
Ангела Анѓеловска: Пред сè, сакам да нагласам дека ова е прва верзија на принципите и токму така треба да се разбере. Ние го направивме првиот чекор, обидувајќи се да ги синтетизираме најважните идеи од меѓународно признати стандарди и добри практики, додавајќи и одредени прашања што сметаме дека се особено важни за Македонија.
Принципите се организирани во осум тематски групи, кои ги опфаќаат човечкото достоинство и основните права, правичноста и еднаквоста, транспарентноста, управувањето со податоците, безбедноста, човечкиот надзор, одговорноста и локалниот контекст.
Тие се наменети за сите организации што развиваат или користат ВИ, но особено сакаме да им бидат корисни на малите и средните претпријатија и компаниите надвор од ИТ-секторот. За разлика од големите технолошки компании, тие најчесто немаат сопствени тимови што можат да ги анализираат сите технички, правни и етички ризици. Сакаме принципите да им понудат почетна ориентација и да им помогнат со поголема сигурност да ја користат технологијата.
Секако, ова не е конечен документ. Го објавивме токму за да поттикнеме дискусија и да добиеме предлози и критики од пошироката заедница. Очекуваме принципите да се менуваат и подобруваат врз основа на практичните искуства на оние што ја користат технологијата.
Кои од принципите сметате дека отвораат особено важни прашања за иднината?
Владимир Бошњаковски: Би издвоил неколку примери што покажуваат колку различни прашања опфаќа одговорната употреба на ВИ.
Во втората тематска група, посветена на правичноста, еднаквоста и инклузијата, имаме принцип за заштита на ранливите групи и лицата со ограничени можности. Дури и да развиеме одличен ВИ-систем за обезбедување јавни или други основни услуги, не можеме целосно да се потпреме на него ако со тоа ги исклучуваме луѓето што немаат доволна дигитална писменост или пристап до технологијата.
Во третата група, за транспарентноста, објаснивоста и следливоста, нагласуваме дека организациите мора јасно да дефинираат за што се користи одреден ВИ-систем, кои се неговите можности и ограничувања и кој смее да го користи. Имаме и принцип за следливост на одлуките, според кој треба да може да се реконструира како е донесена одредена одлука, вклучувајќи ги користениот модел, податоците, инструкциите, резултатите и човечката интервенција.
Како правник, особено ме интересира седмата група, посветена на одговорноста, управувањето и правната заштита. Тука нагласуваме дека лицето засегнато од одлука донесена со помош на ВИ мора да има можност да добие соодветно објаснување, да укаже на грешки и да ја оспори одлуката. Исто така, организациите и поединците не можат едноставно да ја префрлат одговорноста врз производителот или развивачот на системот.
Конечно, мислам дека она што им дава посебна вредност на нашите принципи е осмата група, посветена на учеството, локалниот контекст и општествената легитимност. Тука ја нагласуваме потребата од вклучување на засегнатите заедници, јазична и културна инклузија и приспособување на ВИ кон локалните закони, институции и општествени услови.
Дури и најдобриот ВИ-систем може да даде лоши резултати ако не ги земе предвид македонскиот јазик, нерамномерната дигитализација, фрагментираните податоци и недокументираните работни практики. Не можеме едноставно да преземеме решение што одлично функционира во некоја развиена држава и да претпоставиме дека автоматски ќе функционира подеднакво добро и кај нас.
На 17 ноември во Скопје ќе се одржи меѓународен настан посветен на одговорната ВИ. Што можат да очекуваат учесниците?
Ангела Анѓеловска: На 17 ноември, со почеток во 17:00 часот, во InnoX Innovation Center во Скопје ќе се одржи настанот „Responsible AI in Practice – Bringing the Swedish Perspective to North Macedonia“.
Настанот го организира Swedish Macedonian Alumni Network, со поддршка на Амбасадата на Шведска и Шведско-македонската стопанска комора, во соработка со Универзитетот Лунд.
Нашата идеја е да ги поврземе шведските искуства со македонската реалност и да разговараме за практичните предизвици со кои се соочуваат компаниите при воведувањето и користењето на ВИ. Не сакаме дискусијата да остане на општи и теоретски прашања, туку да слушнеме конкретни искуства, различни перспективи и предлози.
На настанот ќе учествуваат претставници од деловниот сектор, академската заедница и институциите од Македонија и Шведска. Ќе имаме поздравни обраќања, по што ќе следува панел-дискусија за одговорната употреба на ВИ во деловното работење.
Во рамките на настанот ќе ја претставиме и Ethical AI Macedonia, заедно со нашите Принципи за одговорна употреба на ВИ.
Како планирате да ги вклучите компаниите, институциите и јавноста во понатамошниот развој на принципите?
Ангела Анѓеловска: Принципите ги објавивме како почетна верзија токму затоа што сакаме пошироката заедница да учествува во нивното подобрување.
Очекуваме компаниите да ни кажат со какви проблеми се соочуваат во практиката, истражувачите да ги преиспитаат нашите претпоставки, правниците да укажат на правните предизвици, а граѓанските организации и граѓаните да ги претстават перспективите на луѓето што можат да бидат засегнати од употребата на ВИ.
Не очекуваме сите да се согласат со нас. Напротив, сметаме дека критиките се неопходни ако сакаме да создадеме нешто што навистина ќе биде корисно.
Планираме да формираме и советодавен одбор во кој би биле вклучени луѓе со различни професионални искуства. Во текот на следната година сакаме, преку јавни консултации, истражувања и размена на практични искуства, значително да ги подобриме принципите.
Каква улога сакате Ethical AI Macedonia да има на подолг рок?
Ангела Анѓеловска: Нашата долгорочна цел е Ethical AI Macedonia да стане центар за знаење и размена на искуства за одговорна и етичка употреба на вештачката интелигенција во Македонија. Сакаме да создадеме место каде што компаниите, институциите, професионалците и истражувачите ќе можат да најдат корисни информации, да поставуваат прашања и да споделуваат искуства.
Принципите што ги објавивме се само почеток. Во следната фаза сакаме да развиваме поконкретни насоки за различни индустрии, професии и ситуации со кои организациите се соочуваат при користењето на ВИ. Планираме да објавуваме практични примери на употреба, студии на случаи и сценарија што ќе покажат како одредени ризици можат да се препознаат и како со нив може да се управува.
На пример, како една мала компанија да воведе ВИ без да ги изложи доверливите податоци на ризик? Како здравствена установа да користи ВИ, а да го зачува човечкиот надзор? Или како една организација да утврди кога може да се потпре на автоматизиран систем, а кога е неопходна човечка проверка? Сакаме постепено да развиваме материјали што ќе помогнат во одговарањето на ваквите практични прашања.
Секако, ова не можеме и не сакаме да го направиме сами. Нашата улога ја гледаме пред сè како иницијатори и организатори на една поширока заедница. Сакаме да ги поврземе луѓето што имаат знаење и искуство, да поттикнеме истражување и дискусија и заеднички да ги приспособуваме добрите меѓународни практики на нашите услови.
Ако успееме Ethical AI Macedonia да ја изградиме како место каде што се собира, создава и споделува знаење што им помага на македонските компании и институции посигурно и поодговорно да ја користат ВИ, тогаш ќе ја постигнеме нашата цел.
Принципите за одговорна употреба на ВИ се достапни на https://aimacedonia.org. Регистрацијата за настанот на 17 ноември е достапна преку https://luma.com/8femjan4.
разговараше: Митко Јовановски








