Нина Пејдановска 

Вовед

Вештачката интелигенција (AI) станува сѐ позначајна, особено во информатичко-комуникациските технологии (ИКТ). Таа е присутна во апликациите кои ги користиме секојдневно, автоматизацијата на работните процеси, анализата на податоци, па дури и во донесувањето на некои одлуки во различни области. Сепак, како и секоја технологија, AI не е неутрална – таа е производ на општеството и често ги рефлектира постоечките  нееднаквости, вклучително и родовите. Ова е особено важно во земји како Македонија, каде што жените се уште се соочуваат со бариери за влез и напредување во ИКТ секторот. 

Развојот на AI носи големи придобивки, но и нови предизвици поврзани со етичките, правните и социјалните аспекти на нејзината примена. Сѐ почесто се поставува прашањето: Дали новите технологии ги намалуваат или ги продлабочуваат постојните општествени разлики? Иако AI ветува објективност и непристрасност, реалноста покажува дека алгоритмите често ги одразуваат пристрасностите од податоците врз кои се обучуваат. Ова е особено изразено кога станува збор за родовата еднаквост, бидејќи историските податоци и општествените норми се длабоко вкоренети во системите што ги користиме денес. 

Во глобален контекст, многу истражувања укажуваат дека жените се помалку застапени во дизајнот, развојот и управувањето со AI системите. Оваа нерамнотежа се пренесува и во финалните производи и услуги, што може да резултира со дискриминација или маргинализација на одредени групи, најчесто жените и другите малцински заедници. Во Македонија, каде што процесот на дигитализација е во подем, но соочен со бројни структурни и културолошки предизвици, прашањето за родова еднаквост во ИКТ добива дополнителна тежина.

Оваа семинарска работа го истражува прашањето на родовата пристрасност во алгоритмите на AI и нејзиното влијание врз жените во ИКТ секторот во Македонија, со цел да понуди препораки за подобрување на состојбата. 

Родовата еднаквост и AI: Теоретска рамка

Родовата еднаквост претставува основно човеково право и предуслов за одржлив развој. Во контекст на технологијата, еднаквоста значи дека жените и мажите имаат исти можности да учествуваат, да придонесуваат и да имаат корист од технолошкиот напредок. Но, во реалноста, жените се често недоволно застапени во STEM областите (наука, технологија, инженерство и математика), што директно влијае и на развојот на AI. Истражувањата покажуваат дека само околу 22% од професионалците во AI глобално се жени, што доведува до  недоволна застапеност на женска перспектива при дизајнирање и имплементацирање на алгоритмите. Вештачката интелигенција учи од големи количини на податоци, кои пак се производ на општеството. Ако тие податоци се пристрасни или нецелосни, алгоритмите ќе ги репродуцираат истите стереотипи и нееднаквости. Ова не е само технички, туку и длабоко општествен проблем кој бара мултидисциплинарен пристап за негово решавање. 

Состојбата со жените во ИКТ секторот во Македонија

Во Македонија, како и во многу други земји, жените се соочуваат со бројни предизвици во ИКТ секторот. Иако последните години има напредок во бројот на девојчиња кои се запишуваат на технички и информатички факултети, сепак процентот на жени кои дипломираат и потоа се вработуваат во ИКТ е значително помал од оној на мажи. Причините за ова се повеќеслојни: од општествени стереотипи кои ги одвраќаат девојчињата од технички кариери, до недостиг на женски улоги и ментори, како и ограничена поддршка од образовниот систем и работодавачите. Понатаму, жените кои работат во ИКТ често се соочуваат со “стаклен таван” – невидливи бариери кои го ограничуваат нивното напредување во кариерата. Истражувањата во Македонија покажуваат дека жените поретко се на раководни позиции во ИКТ компаниите, а нивните плати се во просек пониски од оние на мажите со иста квалификација и искуство. Ова ја намалува мотивацијата кај младите девојчиња да изберат кариера во оваа област, што дополнително го продлабочува родовиот јаз. 

Механизми на родова пристрасност во алгоритмите на AI

Алгоритмите на AI се дизајнирани да учат од податоци, но ако тие податоци се пристрасни, тогаш и алгоритмите ќе бидат пристрасни. Ова може да се случи на неколку начини. На пример, ако системот за автоматизиран избор на кандидати за работа е обучен на податоци каде што повеќето успешни кандидати се мажи, алгоритмот ќе почне да ги фаворизира машките апликации, дури и ако жените имаат исти или подобри квалификации. Слично, ако податоците за напредување во компанија покажуваат дека главно мажи добиваат унапредувања, AI системите за препораки ќе продолжат да ги фаворизираат мажите. Дополнително, пристрасност може да се јави и во едукативните апликации, каде што AI генерира содржини кои ги репродуцираат традиционалните родови улоги – на пример, претставување на мажи како инженери, а жени како асистенти. Ваквите суптилни, но постојани пораки, влијаат врз самодовербата и амбициите на девојчињата и жените во ИКТ. Понекогаш пристрасноста е резултат на недостиг на женски податоци во сетовите за обука. На пример, во медицинските апликации базирани на AI, ако податоците се главно од машки пациенти, дијагностичките алатки може да бидат помалку точни за жените, што има директни последици врз здравјето и благосостојбата. 

Влијанието на пристрасните алгоритми врз жените во ИКТ

Родовата пристрасност во AI има доста последици за жените во ИКТ секторот. Прво, автоматизираните системи за регрутација и селекција често ги елиминираат женските кандидати уште во почетните фази, што ја намалува нивната застапеност во индустријата. Ова не само што ги ограничува индивидуалните можности, туку и ја намалува разновидноста на работната сила, што е клучно за иновациите. Второ, пристрасните алгоритми влијаат врз напредувањето на жените. Ако системите за проценка на перформанси или препораки за унапредување се базираат на податоци кои ги фаворизираат мажите, жените ќе имаат помалку шанси да напредуваат во нивните кариери. Ова го одржува тој “стаклен таван” и ја намалува мотивацијата за тие да останат во секторот. Трето, пристрасноста во AI може да доведе до чувство на исклученост и неправедност кај жените. Кога жените гледаат дека алгоритмите систематски ги дискриминираат, тоа води до нивна демотивација, намалена продуктивност и  во крајна линија, до напуштање на ИКТ секторот. Ова има негативни последици не само за поединците, туку и за целокупната економија и иновативноста на општеството. Покрај тоа, пристрасноста во AI може да влијае и на пошироката популација на жени, преку ограничен пристап до услуги, информации и дигитални ресурси. На пример, ако AI системите за препорака на образовни патеки ги фаворизираат машките професии, девојчињата ќе имаат помалку можности да се информираат и да се мотивираат за кариери во ИКТ. 

Законодавство, политики и добри практики

Македонското законодавство ја признава важноста на родовата еднаквост преку Законот за еднакви можности на жените и мажите и други релевантни акти. Сепак, имплементацијата на овие закони во ИКТ секторот е сѐ уште ограничена. Потребни се поактивни политики кои ќе обезбедат еднакви можности за жените во сите фази на развој и примена на AI. Некои од препорачаните мерки вклучуваат: 

• Вклучување на жени во тимовите кои работат на дизајн, развој и тестирање на AI системи, со цел да се обезбеди различност на перспективи и искуства. 
• Организирање на обуки, работилници и менторски програми за девојчиња и жени во STEM, со цел да се зголеми нивната самодоверба и компетентност. 
• Воведување на родово сензитивни процедури за тестирање на алгоритмите, со редовна евалуација на нивната пристрасност и транспарентност во функционирањето.
• Поттикнување на јавно-приватни партнерства за финансирање на истражувања и иницијативи кои ја промовираат родовата еднаквост во технологијата.

 Постојат и позитивни примери во Македонија, како што се иницијативите на невладини организации за промоција на девојчињата во технологијата, како и неколку компании кои развиваат инклузивни политики за вработување и напредување на жените. Овие добри практики треба да се поддржат и прошируваат на национално ниво. 

Препораки за надминување на пристрасноста

За да се намали и елиминира родовата пристрасност во алгоритмите на AI и да се поттикне учеството на жените во ИКТ секторот, потребно е да се преземат конкретни чекори на повеќе нивоа. Прво, образовните институции треба да развијат програми и активности кои ќе ги мотивираат девојчињата да изберат STEM кариери, како и да обезбедат поддршка и менторство низ целиот образовен процес. Ова може да вклучува стипендии, работилници, натпревари и учество во меѓународни проекти. Второ, ИКТ компаниите треба да воведат политики за еднакви можности, транспарентни процедури за вработување и напредување, како и редовна евалуација на пристрасноста во нивните AI системи. Вклучувањето на жени во сите нивоа на одлучување е клучно за создавање инклузивна работна средина. Трето, државата и регулаторните тела треба да обезбедат имплементација и надзор на законите за родова еднаквост, како и да поттикнуваат истражувања и развој на родово сензитивни технологија. Финансирањето на проекти кои промовираат женско лидерство во ИКТ и AI е исто така важно. Четврто, потребна е јавна кампања за подигнување на свеста за важноста на родовата еднаквост во технологијата, со цел да се разбијат стереотипите и да се охрабрат младите девојчиња да се вклучат во оваа динамична и перспективна област. 

Заклучок

Родовата пристрасност во алгоритмите на AI претставува сериозен предизвик за развојот на праведно и инклузивно општество. Во Македонија, каде што жените се сѐ уште недоволно застапени во ИКТ секторот, оваа пристрасност дополнително ги ограничува нивните можности и придонесува за одржување на постојните нееднаквости. Решавањето на овој проблем бара заеднички напори од сите засегнати страни – државата, образовниот систем, приватниот сектор и граѓанското општество. Само преку инклузивен пристап, транспарентност и активно промовирање на родовата еднаквост, може да се обезбеди фер, иновативна и успешна иднина за сите граѓани.

Користена литература

Badarevski, B. (2023). Gender Equality and Artificial Intelligence. Годишен зборник на Филозофски факултет, 76(1), 805-815. 

Стојановска, Е. (2019). Mapping of Gender in ICT Sphere in Macedonia. Metamorphosis Foundation.

 Закон за еднакви можности на жените и мажите, Службен весник на РСМ. 

United Nations Educational (2022). The Effects of Artificial Intelligence on the Working Lives of Women. 

Schwartz et al. (2022). Gender Stereotypes and Algorithmic Transparency. 

Lucy & Bamman (2018). Gender Bias in Artificial Intelligence Training Data.

UNWomen–Headquarters (2023). AI Chatbots Supporting Survivors of Sexual Violence.