Александар Митревски
Вовед
Во светот на технологијата што сѐ повеќе напредува, вештачката интелигенција (AI) станува дел од нашето секојдневие — од препораки на видеа и филмови, до медицинска дијагностика и автономни возила. Сепак, зад оваа наизглед неутрална технологија, се крие важна општествена тема: родовата еднаквост. Иако AI се перципира како објективна, таа е производ на луѓето што ја создаваат – а тие носат свои несвесни предрасуди, вклучувајќи и родови.
Родовата еднаквост во вештачката интелигенција не се однесува само на бројот на жени вработени во технолошкиот сектор, туку и на тоа како алгоритмите се тренираат, какви податоци се користат и дали системите се фер за сите. Затоа, истражувањето на оваа тема е клучно ако сакаме технологија што навистина работи во корист на сите луѓе — без разлика на полот.
Во овој состав ќе ги разгледаме причините за родовиот дисбаланс во технолошката индустрија, последиците од пристрасни алгоритми, позитивни примери од жените во AI, како и потенцијалот што го има AI за да ја промени оваа слика. Целта е да се покаже дека иднината на технологијата треба да биде не само паметна, туку и праведна.
Родов дисбаланс во технолошката индустрија
Технолошката индустрија, особено полето на вештачката интелигенција, со децении претставува машки доминиран простор. И покрај глобалните напори за постигнување еднаквост, статистиките сè уште покажуваат загрижувачка нерамнотежа. Според податоци од неколку истражувања, жените сочинуваат помалку од 25% од работната сила во секторот за AI на глобално ниво, а на одредени позиции, како на пр. развој на алгоритми или машинско учење, овој процент е уште помал.
Во Македонија и во регионот ситуацијата не е многу поразлична. Иако постојат жени што студираат информатика, електротехника и слични насоки, мал дел од нив продолжуваат кариера во области поврзани со вештачка интелигенција. Причините за ова се повеќеслојни. Од една страна, сѐ уште постојат културни стереотипи дека техничките науки „припаѓаат“ на мажи. Од друга страна, жените често се соочуваат со невидливи пречки – недостаток на ментори, ограничени можности за напредување, или чувство дека треба двојно повеќе да се докажуваат за да бидат прифатени како еднакви.
Дополнително, во многу компании се забележува недостаток на инклузивна работна култура. Жените што се дел од тимови за развој на AI честопати се маргинализирани, не се вклучени во процесите на одлучување, или нивниот глас не се слуша со иста тежина како оној на нивните машки колеги. Овие фактори влијаат не само на нивната мотивација, туку и на крајниот производ – бидејќи AI системите што ги создаваат не се одраз на разновидноста на општеството.
1
Една дополнителна димензија на проблемот е тоа што недостатокот на женско присуство во AI значи и помалку женски гледишта при дизајнот на технологија што ќе има глобално влијание. Кога системи се развиваат без родова чувствителност, постои голем ризик тие да ги занемарат потребите на половина од населението.
Потребна е свест и акција – како од образовните институции, така и од технолошките компании – за да се охрабрат девојчиња и млади жени да влезат во овие области. Само преку активна вклученост на жените, можеме да очекуваме AI што ќе биде фер, етички и корисен за сите.
Пристрасност во алгоритмите
Многумина веруваат дека вештачката интелигенција е објективна – дека алгоритмите не можат да бидат пристрасни бидејќи се засноваат на математика и логика. Но, вистината е дека алгоритмите се толку добри колку што се добри податоците со кои се тренираат. А податоците доаѓаат од реалниот свет – свет полн со нееднаквости, стереотипи и историски предрасуди. Ако тие не се препознаат и коригираат навреме, AI системите само ќе ги повторуваат, па дури и ќе ги засилат тие проблеми.
Постојат многу примери од реалниот свет каде што алгоритмите покажале родова пристрасност. Еден од најпознатите случаи е алгоритмот за регрутација што го користела компанијата Amazon, кој несвесно ги дискриминирал женските кандидати. Системот бил трениран со податоци од претходни вработувања – каде што доминирале мажи – па научил дека машките профили се „пожелни“ и автоматски ги отфрлал биографиите каде што имало женски индикатори (како на пример зборот „women’s“ во „women’s chess club“).
Друг пример се системите за препознавање на лица (facial recognition). Истражувања покажале дека овие системи имаат многу повисока точност кога препознаваат машки, бел тен, за разлика од жени со потемен тен, кај кои грешките достигнуваат и до 35%. Причината? Алгоритмите биле тренирани главно со слики на белци и мажи, па со тек на време ја изградиле таа пристрасност.
Родовата пристрасност не е секогаш очигледна. Понекогаш се манифестира и преку недоволна репрезентација – на пример, системи за гласовно препознавање што полесно разбираат машки гласови отколку женски, или апликации што нудат здравствени совети без да ги земат предвид потребите на жените.
Сето ова укажува на потребата од етички пристап во развојот на AI – пристап каде што разновидноста, родовата чувствителност и фер третманот се вградени од самиот почеток. За да го постигнеме тоа, не е доволно само да ги „исчистиме“ податоците – потребно е да имаме разновидни тимови што ќе ги препознаат потенцијалните пристрасности уште во рана фаза.
Во спротивно, ризикуваме да создадеме технологии што ја продлабочуваат нееднаквоста наместо да ја решаваат.
2
Улогата на жените во развојот на вештачката интелигенција
Иако бројот на жени во полето на вештачка интелигенција е релативно мал, нивниот придонес е значаен и инспиративен. Во историјата на компјутерската наука постојат бројни примери на жени кои одиграле клучна улога во технолошкиот развој, а некои од нив се основоположници на концептите што денес ја градат основата на AI.
Историски придонеси
Ада Лавлејс, уште во 19 век, се смета за првата програмерка во светот – нејзината визија за машините што можат да извршуваат алгоритми е основа за сè што денес го подразбираме под програмирање. Грејс Хопер, пак, е заслужна за развојот на првиот компајлер и е една од причините за појавата на современите програмски јазици. Иако тие не работеле директно со AI, нивната работа овозможила да се создадат технологии што денес се користат за градење интелигентни системи.
Современи примери
Во денешно време, жени како Феј-Феј Ли, истражувачка на Станфорд и ко-креаторка на ImageNet (огромна база на слики што е основа за машинско препознавање), покажуваат дека жените не само што придонесуваат, туку и ја водат индустријата. Нејзината работа е фундаментална за развојот на компјутерскиот вид, гранка на AI која денес се користи во сè – од автономни возила до медицински дијагнози.
Тимнит Гебру, поранешна истражувачка во Google, стана позната по нејзината критика за етичките проблеми во AI, особено околу пристрасноста и недоволната транспарентност. Иако беше отпуштена поради изнесување критички ставови, нејзиниот труд ги отвори очите на светската јавност за опасностите од „слепа“ примена на вештачката интелигенција.
Жените во AI во Македонија и регионот
Иако поретко спомнувани во медиумите, и во Македонија постојат жени што активно работат во полето на вештачка интелигенција – како дел од академската заедница, приватни компании или истражувачки проекти. Некои од нив учествуваат во проекти за обработка на природен јазик, здравствена анализа со AI, и развој на образовни алатки базирани на машинско учење. Ова покажува дека потенцијалот постои, и потребно е само повеќе поддршка и промоција за тој потенцијал да се развие.
Присуството на жени во развојот на AI не е само прашање на еднаквост – тоа е неопходност за квалитетна технологија. Разновидноста во тимовите води до поширок спектар на идеи, поголема креативност и посензитивен пристап кон различни кориснички групи.
Како вештачката интелигенција може да помогне во постигнување родова еднаквост
Иако честопати се зборува за опасностите од AI кога станува збор за родова пристрасност, важно е да се нагласи и позитивниот потенцијал што вештачката интелигенција го носи. Ако се дизајнира правилно, AI може да биде моќна алатка за промовирање и унапредување на родовата еднаквост.
3
a) Препознавање и елиминирање на пристрасност
AI може да помогне во идентификување на дискриминаторни практики во огласи за работа, плати, или дури и при интерна комуникација во компании. Преку анализа на текстови, AI може автоматски да открие стереотипни формулации или пристрасен јазик и да понуди неутрални алтернативи. Ова е особено важно за HR одделите, каде што објективноста е клучна.
б) Мониторинг и транспарентност во институции
AI системи може да се користат за автоматизирано следење на платна еднаквост, распределба на ресурси, или учество на жените во одредени сектори. На пример, алгоритми што анализираат статистички податоци од образованието, здравството или политиката може да идентификуваат родови разлики и да понудат препораки за унапредување на еднаквоста.
в) Пристап до образование и информации
Преку AI-базирани платформи, жените – особено оние од рурални или маргинализирани заедници – можат да имаат пристап до едукативни содржини, курсеви, туторијали и менторски програми. Овие технологии овозможуваат флексибилност и индивидуален пристап, што е од голема важност за жените кои имаат семејни или социјални обврски.
г) Поддршка во здравството
AI може да помогне и во подобрување на здравствените услуги за жените преку персонализирани препораки, анализа на симптоми, или детекција на болести кои посебно ги засегаат жените (како рак на дојка, репродуктивно здравје, итн.). Таквите системи се особено важни во заедници каде што пристапот до доктори е ограничен.
д) Зголемување на видливоста
AI технологии што препознаваат лица, говор или содржини може да се искористат за зголемување на женската застапеност во медиумите, образовните материјали и јавниот дискурс. Алгоритми за препорака можат намерно да промовираат женски научници, уметници и лидери, и на тој начин да влијаат врз перцепцијата на општеството.
Предизвици и потреби за иднината
Иако вештачката интелигенција има потенцијал да го унапреди општеството и да придонесе кон родова еднаквост, тоа нема да се случи автоматски. Без свесен и одговорен пристап, AI може лесно да ги зајакне постојните нееднаквости. Затоа е потребна комбинација од технички, етички и општествени мерки за создавање праведна и инклузивна технологија.
a) Разновидни тимови
За да се создаде AI што не е пристрасен, неопходно е да постојат разновидни тимови во неговиот развој. Тоа значи поголемо учество на жени, но и на луѓе од различни етнички, социјални и културни позадини. Кога различни перспективи се вклучени од самиот почеток, поголеми се шансите за откривање и спречување на пристрасност во дизајнот.
4
б) Транспарентни алгоритми
AI системите честопати функционираат како „црни кутии“, каде што не е јасно како и зошто се донела одредена одлука. Потребна е транспарентност и објаснивост, особено кога алгоритмите влијаат врз животите на луѓето – како при селекција за работа, кредитна способност или правосудни одлуки. Развојот на „објаснива AI“ е клучен чекор кон фер системи.
в) Етички стандарди и регулативи
Потребни се јасни регулативи и етички кодекси што ќе осигурат дека AI не ги крши човековите права и не дискриминира. Веќе постојат иницијативи на ниво на ЕУ и ООН што се обидуваат да постават вакви рамки, но нивната имплементација сè уште е во почетна фаза. Истовремено, етичкото образование кај инженери, дизајнери и менаџери треба да биде задолжително.
г) Локален пристап и инклузивна технологија
Важно е AI да не биде само одраз на западниот свет. За да биде вистински инклузивна, технологијата мора да го земе предвид и локалниот контекст, различните јазици, културни норми и потреби. Во Македонија и пошироко на Балканот, ова значи развој на AI што ќе ги разбира локалните јазици, ќе ги зема предвид регионалните специфики и ќе вклучува жени од нашите заедници во процесот на дизајн и одлучување.
д) Едукација и дигитална писменост
За да можат жените да бидат активни учесници во ерата на AI, потребно е систематско вложување во образование и обука. Девојчињата треба да се охрабрат уште од основно училиште да се интересираат за наука, технологија, инженерство и математика (STEM). Истовремено, постоечките кадри треба да се преквалификуваат и да бидат опремени со знаења за новите технологии.
Етички и правни аспекти на родовата еднаквост во вештачката интелигенција
Со растот на влијанието на вештачката интелигенција во различни сфери од животот, прашањата за етичката и правната регулација на нејзината употреба стануваат сѐ поактуелни. Една од најкритичните димензии е родовата еднаквост – дали и колку вештачката интелигенција ги почитува или нарушува принципите на правичност и еднакво третирање. AI системите денес се користат во образованието, здравството, финансиските услуги, човечки ресурси, па дури и во судски одлуки. Ако овие системи носат пристрасни одлуки, тоа не е само технички проблем – тоа е и етичко и правно прашање.
Од етичка гледна точка, основен принцип е правичноста (fairness). Тоа значи дека технологијата треба да функционира еднакво за сите – без дискриминација врз основа на пол, возраст, раса или етничка припадност. Проблемот настанува кога машините учат од податоци што ја рефлектираат долгогодишната родова нееднаквост – како што се поголема застапеност на мажи во одредени професии, стереотипи во јазикот, или родова распределба на одговорности. Наместо да ги коригира, AI често ги засилува овие нееднаквости.
5
На пример, некои платформи за рекламирање автоматски покажуваат различни типови огласи на мажи и жени. Истражување од Универзитетот Карнеги Мелон откри дека високоплатени работни позиции биле почесто рекламирани на машки профили, додека жените добивале огласи поврзани со услужни или административни работи. Во суштина, алгоритмот ја одржува и зајакнува статус кво состојбата на родова сегрегација.
Од правна гледна точка, ваквите појави се спротивни на меѓународните конвенции и националните закони. На пример:
• Член 7 од Универзалната декларација за човекови права вели дека „сите се еднакви пред законот и имаат право на еднаква правна заштита без дискриминација.“
• Европската унија во својата „AI Act“ иницијатива го поставува принципот на „немање дискриминација“ како клучен столб на регулацијата на високоризични AI системи.
• Половата стратегија на УНЕСКО повикува на етички развој на технологија којшто не само што не дискриминира, туку активно придонесува за еднаквост.
Во пракса, постојат сериозни предизвици во примената на овие стандарди. Регулаторите честопати немаат доволно техничко знаење за да ги проценат алгоритмите. Транспарентноста на комерцијалните AI системи е ограничена, а концепти како „алгоритамска одговорност“ сѐ уште не се јасно дефинирани во правниот систем. Додека законите бараат еднаквост, технологијата често се развива побрзо од регулативата.
Некои држави, како Канада и Финска, воведуваат национални AI стратегии што вклучуваат родова перспектива, а организации како OECD и Council of Europe активно работат на поставување на етички стандарди. Сепак, голем дел од светот сѐ уште нема конкретни механизми за следење и санкционирање на алгоритамска дискриминација.
„Не можеме да очекуваме праведна вештачка интелигенција додека не ја направиме и самата технологија одговорна.“ — Cathy O’Neil, авторка на „Weapons of Math Destruction“
На крајот, прашањето не е само какви закони постојат, туку и како тие се применуваат. Препознавањето на AI не како технички туку и како социјален феномен е клучно. Само преку здружен напор на технолози, правници, етичари и активисти може да се создаде AI што ја почитува родовата еднаквост – не само на хартија, туку и во секојдневното функционирање.
Програми и инцијативи за зголемување на родова еднаквост во вештачката интелигенција
Во последните неколку години, сè повеќе меѓународни организации, академски институции и приватни компании го препознаваат проблемот на родова нееднаквост во технолошкиот сектор – особено во областа на вештачката интелигенција. Оваа нееднаквост не е само прашање на недоволна застапеност на жени во технолошки улоги, туку и на системски проблеми поврзани со податоците, алгоритмите и одлуките што AI ги носи. За да се надмине
6
овој проблем, ширум светот се појавуваат иницијативи кои активно работат на вклучување на родовата перспектива во развојот и примената на вештачка интелигенција.
Академски и едукативни програми
Некои од највлијателните иницијативи доаѓаат од академскиот сектор. На пример, програмата “AI4ALL” во САД има за цел да ги инспирира учениците – особено девојчињата и младите од помалку застапени заедници – да се вклучат во развој на AI. Оваа програма нуди обуки, летни кампови и менторство, со цел да се охрабрат младите жени да изберат кариера во оваа област. Слично, во Европа, иницијативата “Women in AI” организира конференции, обуки и работилници за едукација, вмрежување и промоција на жени кои работат со вештачка интелигенција.
Во Македонија, иако иницијативите се поретки, постојат обиди за промоција на жени во технологијата преку хакатони, конференции и студентски програми. Неколку универзитети, како ФИНКИ, во последните години имаат зголемено вклучување на студентки во ИКТ програмите, иако бројките сè уште не се рамномерни.
Корпоративни и невладини иницијативи
Многу технолошки компании ја препознаа вредноста на разновидноста и започнаа свои програми. На пример:
• Google преку „Women Techmakers“ обезбедува ресурси, стипендии и глобални настани за охрабрување на жените во технолошкиот сектор.
• Microsoft инвестира во програми што ги обучуваат жените за машинско учење, data science и вештачка интелигенција.
• IBM има иницијативи за „responsible AI“ кои вклучуваат родова рамноправност како дел од етичката проценка на своите алгоритми.
Во невладиниот сектор, исто така има значајни иницијативи. На пример, организацијата “Data & Society” работи на истражувања кои го анализираат влијанието на алгоритми врз маргинализираните групи, вклучувајќи и жени. Тие објавуваат извештаи, организираат јавни дебати и подготвуваат препораки за креаторите на политики.
Меѓународни институции
Организации како УНЕСКО, ОЕЦД, и Обединетите нации активно вклучуваат родова перспектива во своите AI стратегии. УНЕСКО ја објави својата “Recommendation on the Ethics of Artificial Intelligence” каде што родовата еднаквост е директно наведена како суштински елемент во дизајнот и имплементацијата на AI системи. Тие повикуваат на:
• Родово сензитивна анализа при креирање на алгоритми.
• Вклучување на жени во сите нивоа на одлучување и развој.
• Пристапност до технологии за сите, без дискриминација.
7
„Нема праведна технологија без праведен дизајн, а нема праведен дизајн без родова еднаквост.“ — УНЕСКО, 2022
Резултати и предизвици
Иако овие иницијативи имаат позитивно влијание, реалноста покажува дека промените се бавни. Родовиот јаз во технолошкиот сектор сè уште е голем. Повеќето тимови кои работат на развој на AI се доминирани од мажи, особено на раководни позиции. Дополнително, постои отпор во дел од индустријата којшто ја гледа „разновидноста“ како непотребно ограничување, а не како вредност.
Сепак, растечкиот број на иницијативи и глобалниот притисок за одговорност на технолошките гиганти е позитивен знак. Колку повеќе жените добиваат можност да учествуваат во дизајнот и имплементацијата на AI, толку поголема е шансата за развој на праведна, етичка и инклузивна технологија.
Жени лидери и пионери во областа на вештачката интелигенција
Секојдневно, повеќе жени го освојуваат светот на вештачката интелигенција, создавајќи нови патишта и иновации во областа која традиционално беше доминирана од мажи. Овие жени не само што работат како научници и инжинери, туку исто така играат клучни улоги во обликувањето на етичките стандарди, пристапите и стратегиите кои ќе го водат развојот на AI во иднината.
Примери на влијателни жени во AI
• Joy Buolamwini – позната по својот труд на откривање на родова и расна пристрасност во вештачката интелигенција. Таа е основач на Algorithmic Justice League, организација која се бори за транспарентност и ферност во AI алгоритмите. Набљудувањето на недостатоците во постоечките системи ја направи позната во светот на технологијата, а нејзиното истражување ја осветли опасноста од пристрасни алгоритми кои ја поткопуваат довербата во технологијата.
• Timnit Gebru – исто така, една од водечките фигури во истражувањето на пристрасностите во AI. Тиминот беше дел од Google Research и заедно со Joy Buolamwini го откри раширеното присуство на родови и расни пристрасности во технологијата за препознавање лица. Таа активно работи на создавање на соодветни етички рамки за развој на AI, фокусирајќи се на безбедност и праведност.
• Fei-Fei Li – професор на Универзитетот Стенфорд и основач на Stanford Vision and Learning Lab (SVL). Неговиот труд во областите на компјутерската визија и машинското учење го постави темелот за многу иновации во областа на AI. Таа е позната по својата работа на ImageNet, проект кој е од суштинско значење за напредокот на визуелните алгоритми во AI.
8
Родова инклузивност во водечките позиции
Жените не само што ја водат истражувачката работа, туку тие се и на раководни позиции во најголемите технолошки компании. Пример за тоа е Ginni Rometty, која беше извршен директор на IBM од 2012 до 2020 година. За време на нејзиното „владеење“, IBM ја насочи својата стратегија кон уметничка интелигенција, создавајќи платформи како Watson кои ги промовираат можностите за автоматизација и анализи.
Прекрасен пример за лидерка која не само што промовира родова инклузивност во својот тим, туку и активно работи на тоа да се минимизира пристрасноста во развојот на AI.
Движења и мрежи за жени во AI
Исто така, создадени се глобални мрежи за жени во вештачката интелигенција кои имаат за цел да ги поддржат младите таленти и да ја подобрат присутноста на жените во индустријата. Организацијата Women in AI е еден од најголемите примери на глобална мрежа која има цел да ја охрабри родовата еднаквост во развојот и примената на AI.
Global Tech Women
Global Tech Women е друга организација која обезбедува платформи за зајакнување на жените во технологијата, вклучувајќи вештачка интелигенција. Комуникацијата и менторството овозможуваат жените да се поврзат со индустријата, да учат од најдобрите примери и да се стекнат со потребните вештини за да напредуваат во ова поле.
Улога на жени во етика и безбедност на AI
Нема појасна претстава за влијанието на жените во AI отколку преку етичкото управување на технологијата. Програмите и концептите кои ги разработуваат и промовираат жени, како „ethics by design“ и „responsible AI“, даваат важни насоки за безбедно и фер користење на вештачката интелигенција. Тие се обидуваат да осигураат дека AI не се користи само за автоматизација и максимизација на профитот, туку и како алатка која помага за развој на добри и праведни практики во општеството.
„Големата иновација во AI доаѓа со одговорност. Жени на водечките позиции ја имаат обврската да бидат предводници во создавањето на системи кои се фер и транспарентни.“ — Fei-Fei Li
9
Заклучок
Вештачката интелигенција е една од највлијателните технологии на денешницата, а нејзиното влијание врз општеството само ќе расте во иднина. Затоа, прашањето за родова еднаквост во AI не е споредно, туку суштинско. Ако AI системите се базираат на дискриминаторни податоци и се развиваат од хомогени тимови, тие ризикуваат да ги зајакнат постојните нееднаквости. Но, со свесен пристап, правилни политики и инклузивен развој, вештачката интелигенција може да биде алатка за праведност, овозможувајќи фер третман, поголема застапеност и еднакви можности за сите, без разлика на полот.
За да го постигнеме тоа, потребно е општеството – вклучувајќи институции, компании, едукатори и граѓани – да соработува и да работи на изградба на фер, етичка и хумана технологија.
Библиографија
UNESCO. (2020). Artificial Intelligence and Gender Equality: Key findings of UNESCO’s Global Dialogue. https://unesdoc.unesco.org/ark:/48223/pf0000374174
European Commission. (2021). Ethics guidelines for trustworthy AI. https://digital strategy.ec.europa.eu
West, S. M., Whittaker, M., & Crawford, K. (2019). Discriminating Systems: Gender, Race and Power in AI. AI Now Institute.
Buolamwini, J., & Gebru, T. (2018). Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. Proceedings of Machine Learning Research.
Forbes. (2023). The Importance Of Gender Diversity In AI Development. https://www.forbes.com Microsoft. (2022). AI and Inclusion: Building Responsible AI Systems. https://www.microsoft.com
UNESCO. (2022). Recommendation on the Ethics of Artificial Intelligence. https://unesdoc.unesco.org/ark:/48223/pf0000381137
Buolamwini, J., & Gebru, T. (2018). Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. Proceedings of Machine Learning Research.
The Guardian. (2019). AI systems show bias against women, study finds.
Crawford, K. (2021). Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. Yale University Press.
AI4ALL. (n.d.). Inspiring the next generation of AI practitioners. https://ai-4-all.org Women in AI. (n.d.). Empowering women in AI globally. https://womeninai.co Google. (n.d.). Women Techmakers. https://www.womentechmakers.com
10
Buolamwini, J., & Gebru, T. (2018). Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. Proceedings of Machine Learning Research.
Li, F. F. (2018). Fei-Fei Li: How we teach computers to understand pictures. TED Talks. 11