Александар Гулабоски
Вовед
Во современото општество, борбата за родова еднаквост сè уште претставува значаен предизвик. И покрај напредокот во законодавството, образованието и јавната свест, стереотипите поврзани со родот и понатаму се присутни во секојдневниот живот. Овие стереотипи често создаваат ограничувања, неправедни очекувања и дискриминација, особено кон жените, но и кон сите кои не се вклопуваат во традиционалните родови норми. Затоа, потребни се нови пристапи и алатки кои ќе помогнат во надминување на овие длабоко и вкоренети општествени проблеми.
Во исто време, светот се соочува со експоненцијален развој на технологијата, особено во полето на вештачката интелигенција (AI). AI веќе ја менува нашата реалност, од автоматизација на работни процеси, преку препорачани содржини на интернет, па се до интелигентни дигитални асистенти.
Темата на оваа семинарска работа е токму во пресекот на овие две актуелни области: родовата еднаквост и вештачката интелигенција. Главната теза што ќе се разработи е дека вештачката интелигенција може да биде силна алатка за надминување на родовите стереотипи.Тоа ќе го направиме преку анализа на пристрасни содржини, креирање едукативни алатки и промоција на еднаквост, но само доколку е развивана и користена одговорно и транспарентно.
Оваа работа ќе се осврне на тоа како AI може да придонесе кон поголема родова правичност, но исто така ќе укаже и на ризиците од несоодветна примена на технологијата. Наместо да ја засили дискриминацијата, AI треба да биде насочена кон создавање поправедно општество за сите родови.
3
Родови стереотипи
Што се родови стереотипи?
Родовите стереотипи се општествени очекувања и претпоставки за тоа како треба да се однесуваат, размислуваат и живеат мажите и жените. Тие се формираат уште од најрана возраст и често се прифаќаат како некои „нормални“ или „природни“, иако се резултат на културни, историски и социјални влијанија. Еве и некои примери за ова.
Примери на типични родови стереотипи:
∙ „Мажите не плачат“
∙ „Жените се родени за грижа и домаќинство.“
∙ „Техничките и лидерските професии се за мажи.“
∙ „Жените се подобри во образование, мажите во спорт.“
Зошто се проблем родовите стереотипи?
Тие не се само лични верувања, туку тие влијаат на целото општество преку: 1. Образование:
∙ Девојчиња се демотивирани да изберат некои области (наука, технологија..) ∙ Учебниците често прикажуваат машки ликови како научници, а женските како мајки или учителки.
2. Вработување:
∙ Жени се вработуваат во послабо платени и „женски“ професии (нега, образование и сл.).
∙ Често се прашуваат за мајчинство при интервјуа и што е форма на дискриминација.
∙ Постои т.н. „стаклен таван“ – невидлива бариера за жените да напредуваат на лидерски позиции.
3. Семејство:
∙ Жените се очекува да ја преземат главната одговорност за децата и домаќинството, дури и кога работат полно работно време.
∙ Мажите поретко добиваат татковско отсуство или поддршка за улога на грижлив татко.
4
4. Политика и јавен живот:
∙ Недоволна застапеност на жени во владини и одлучувачки позиции. ∙ Жените често се напаѓани на лична основа (изглед, семејство), наместо според идеите и политиките што ги предлагаат.
Примери од Македонија и од целиот свет:
∙ Во Македонија, и покрај формалната родова еднаквост, сè уште: o Жените се помалку застапени во технички и раководни позиции. o Медиумите често ги прикажуваат жените преку изглед или приватен живот.
∙ Во светски рамки:
o Алгоритми на Google Translate и ChatGPT некогаш автоматски доделуваат машки род на „инженер“ и женски род на „медицинска сестра“.
o Студија на LinkedIn покажа дека мажите почесто се прикажуваат во резултати за лидерски позиции.
Вештачка интелегенција
Што е Вештачка интелигенција (AI)?
Вештачка интелигенција (AI) претставува гранка на компјутерската наука која се занимава со создавање на системи и машини кои учат и носат одлуки слично како луѓето. Наместо да работат според строго зададени команди, AI системите користат големи количини на податоци за да препознаваат шеми, предвидуваат резултати и автоматски се подобруваат со време. Наједноставно кажано, AI претставува имитирање на човечката интелигенција преку компјутери.
Каде се користи AI денес?
Вештачката интелигенција станува сè пораширена во секојдневниот живот и опфаќа најразлични области:
1. Чат-ботови и дигитални асистенти
∙ Примери се ChatGPT, Google Assistant, Siri…
5
∙ Користат природен јазик за разговор, помош при задачи, пребарувања, учење и друго.
2. Алгоритми за препораки
∙ Примери се Netflix, YouTube, Spotify
∙ AI анализира што гледаме или слушаме и предлага нова содржина според нашите интереси.
3. Социјални мрежи
∙ Сортирање на содржина, препораки за пријатели, откривање на говор на омраза.
4. Образование и е-учење
∙ Адаптивни платформи што се приспособуваат на стилот на учење на секој еден ученик.
∙ Чат-ботови кои помагаат со прашања или објаснување на материјалот.
AI и родовата еднаквост – можности и ризици
Вештачката интелигенција може да биде моќна алатка за унапредување на родовата еднаквост, но истовремено носи и ризици доколку не се користи одговорно. Во продолжение се прикажани и позитивните и негативните аспекти на примената на AI во овој контекст.
– Позитивни аспекти
1. AI за детекција на родови пристрасности
o Алгоритмите може да анализираат текстови, огласи и медиумски содржини за да препознаат родово неутрални или пристрасни изрази. o Примери:
▪ Скенирање на работни огласи за да се утврди дали користат јазик што ги исклучува жените или други маргинализирани групи.
▪ Препознавање на дисбаланс во застапеноста на жените во
медиумите или учебниците.
6
2. Образовни платформи кои промовираат еднаквост
o AI може да креира персонализирани образовни содржини што ја поттикнуваат инклузивноста.
o Примери:
▪ Едукативни апликации кои свесно избегнуваат стереотипни
примери и ги претставуваат и жените и мажите во различни улоги. ▪ Платформи што нудат тематски курсеви за родова еднаквост.
3. AI во кампањи за подигање свест
o AI може да помогне во анализа на трендови и изработка на ефективни пораки за јавни кампањи.
o Примери:
▪ Алгоритми кои го анализираат однесувањето на публиката и го насочуваат соодветниот тип на порака за родова еднаквост.
▪ Генерирање на визуелна и текстуална содржина за промовирање на инклузивни вредности.
– Негативни аспекти
1. Алгоритми што ја продолжуваат дискриминацијата
o Ако AI системите се обучуваат на податоци кои содржат историски родови пристрасности, тие може да ги репродуцираат или дури засилат тие модели.
o Примери:
▪ Системи за вработување што ги преферираат машките кандидати затоа што податоците од минатото биле пристрасни.
▪ Автоматски преводи што полови улоги доделуваат според
стереотипи (на пр. “инженер” = машко, “медицинска сестра” =
женско).
7
2. Засилување на стереотипи преку препораки
o Алгоритмите често ја „играат на сигурно“ и нудат содржина слична на претходната што корисникот ја гледал, со што може несвесно да се зацврстат постоечките стереотипи.
o Примери:
▪ YouTube или TikTok препорачуваат содржини што ја повторуваат истата родова улога, наместо да нудат алтернативни перспективи. ▪ Филтри за вработување што фаворизираат „типични“ кандидати според историјата на компанијата, наместо да ја поттикнат
разновидноста.
Примери од пракса – Како AI веќе се користи за надминување на родовите стереотипи
Во последниве години, сè повеќе проекти, иницијативи и алатки користат вештачка интелигенција со цел да се препознаат и намалат родовите стереотипи. Овие примери покажуваат дека со правилна употреба, AI може да биде силна алатка за промена и подигање свест.
– Меѓународни примери
1. Gender Shades (MIT Media Lab)
o Истражувачки проект што анализира пристрасности во алгоритми за препознавање на лица.
o Откриено е дека многу AI системи значително подобро препознаваат машки и светли лица, додека имаат повисоки стапки на грешка кај жени со потемна кожа.
8
2. UNESCO AI иницијативи
o УНЕСКО работи на програми за етичка употреба на AI во
образованието.
o Развиваат AI системи што поддржуваат родова еднаквост, особено во земји во развој.
3. AI чат-ботови за родова едукација
o Во неколку земји (на пр. Кенија, Индија, Бразил) се користат AI чат ботови кои нудат бесплатна и анонимна едукација за теми поврзани со род и еднаквост.
o Пример: Чат-бот кој информира млади за родова еднаквост, насилство врз жените, или нивните права.
– Пример од Македонија: Платформата aigender.net
1. Интерактивен пристап кон родовата еднаквост преку AI
o Оваа македонска платформа претставува еден од првите чекори во регионов кои ги поврзуваат родовите прашања со вештачката
интелигенција.
2. Ботот РЕСИ
o РЕСИ е AI чат-бот кој одговара на прашања поврзани со родовата еднаквост, дискриминација, човекови права и општествени норми. o Посетителите можат интерактивно да комуницираат со ботот, да учат и да добијат поддршка или насоки.
o Ботот нуди прецизни, јасни и неутрални одговори, избегнувајќи пристрасен или стереотипен јазик.
3. Придонес кон дигитална писменост
o Платформата ја поттикнува јавноста да размислува критички за улогата на технологијата во општеството и како AI може да се користи за позитивни општествени промени.
9
Предлози за одговорно користење на AI
За да се искористи целосниот потенцијал на вештачката интелигенција во промовирањето на родова еднаквост, неопходно е AI системите да се развиваат одговорно, транспарентно и инклузивно. Во продолжение се претставени неколку конкретни предлози за тоа како може да се постигне ова:
– Како да се дизајнираат AI системи без пристрасност
1. Разновидни и претставителни податоци
o Обучувањето на AI мора да се базира на податоци кои ги вклучуваат сите групи – родови, етнички, социјални.
o Избегнување на податоци што содржат историски предрасуди и дискриминација.
2. Редовно тестирање и евалуација
o AI моделите треба постојано да се тестираат за родова пристрасност, особено кај системи кои влијаат врз животни избори (вработување, образование, социјални услуги).
– Вклучување на родова перспектива во развојот на технологии 1. Родовата еднаквост како дизајнерски принцип
o Тимовите што развиваат AI системи треба да имаат родово балансирана структура и да бидат обучени за родова чувствителност.
2. Ко-креирање со заедницата
o Вклучување на жени, маргинализирани групи и експерти за родови прашања во процесот на дизајнирање и тестирање на системите. 3. Образование и дигитална писменост
o Едукација на пошироката јавност за тоа како функционира AI, какви опасности може да има, и како да се препознае пристрасност.
10
Заклучок
Во оваа семинарска работа се разгледаа предизвиците што произлегуваат од родовите стереотипи и потенцијалот што го носи вештачката интелигенција (AI) во нивно надминување.
Родовите стереотипи претставуваат сериозна пречка за создавање праведно и инклузивно општество. Тие се присутни во образованието, на работното место, во семејството и политиката, често оставајќи длабоки последици по животите и изборите на поединците.
Од друга страна, AI сè повеќе станува дел од нашето секојдневие – од алгоритми за препораки и автоматизирани системи, до интелигентни асистенти и образовни платформи. Ако се користи внимателно и со јасна свест за родовата еднаквост, AI може да биде моќна алатка за:
∙ Детекција и корекција на пристрасности во содржини и процеси, ∙ Едукација и подигање на свеста за еднаквост,
∙ Поддршка на политики и проекти за инклузија.
Сепак, ако се занемари прашањето на родовата перспектива, постои ризик AI само да ги засили постојните нееднаквости преку пристрасни податоци и алгоритми.
11
Библиографија
1. UNESCO. (2020). I’d Blush If I Could: Closing Gender Divides in Digital Skills Through Education.
Достапно на: https://unesdoc.unesco.org/ark:/48223/pf0000367416 2. Buolamwini, J., & Gebru, T. (2018). Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. Proceedings of Machine Learning Research.
Достапно на: https://proceedings.mlr.press/v81/buolamwini18a.html 3. European Commission. (2020). White Paper on Artificial Intelligence: A European approach to excellence and trust.
Достапно на: https://commission.europa.eu
4. Criado Perez, C. (2019). Invisible Women: Exposing Data Bias in a World Designed for Men. London: Chatto & Windus.
5. Копривица, М. (2021). Родовата еднаквост и дигиталната трансформација во Македонија. Институт за општествени истражувања, Скопје. 6. EIGE – European Institute for Gender Equality. (2022). Artificial Intelligence and Gender Equality.
Достапно на: https://eige.europa.eu/publications/artificial-intelligence-and-gender equality
7. AI Now Institute. (2019). Discriminating Systems: Gender, Race and Power in AI. Достапно на: https://ainowinstitute.org/discriminatingsystems.pdf
8. Higgins, A. (2022). Artificial Intelligence and Gender Bias in the Workplace. Journal of Ethics and Technology, 34(2), 110-125.
9. aigender.net – Платформа за родова еднаквост и вештачка интелигенција во Македонија
Достапно на: https://platforma.aigender.net/
10.OpenAI. (2023). Using AI responsibly.
Достапно на: https://openai.com/research/responsible-ai
12