Димитар Балоски
:
Во денешно време, вештачката интелигенција станува се поактуелна во секојдневниот живот, од здравство и образование па се до работни места и социјални мрежи. Едноставно кажано, вештачката интелигенција вклучува користење на компјутери за класификација, анализа и цртање предвидувања од збирки податоци, користејќи збир на правила наречени алгоритми. Алгоритмите за вештачка интелигенција се обучуваат со користење на големи збирки на податоци за да можат да идентификуваат шеми, да прават предвидувања, да препорачуваат дејства и да сфатат што да прават во непознати ситуации, да учат од нови податоци и на тој начин да се подобруваат со текот на времето. Но, додека некои ја гледаат како алатка за напредок, други прават важно прашање: Дали вештачката интелигенција ќе ги засили или ќе ги намали родовите нееднаквости?
Родовата еднаквост е едно од основните човекови права и е клучна за одржлив развој и праведни општества. И покрај значителниот напредок изминатите децении, жените и девојките сè уште се соочуваат со пречки и нееднакви можности, особено во технолошките и дигиталните сфери. Според извештајот на UN Women (2019), новите технологии како што е вештачката интелигенција можат да бидат двосечен меч – тие можат да ја зајакнат родовата еднаквост, но и да ги продлабочат постоечките нееднаквости ако не се користат внимателно.
Токму затоа, се јавува потребата за критичко разгледување на улогата на вештачката интелигенција како алатка за постигнување на родова еднаквост. Преку добри алгоритми, непристрасни податоци и родово сензитивни апликации, вештачката интелигенција може да придонесе за создавање на фер и инклузивни системи во образованието, вработувањето, здравството и јавните политики.
Вештачката интелигенција нуди значаен потенцијал за унапредување на родовата еднаквост преку различни механизми и примени. Со користење на алатки како што се анализа на големи податоци, машинско учење и автоматизирани системи за донесување одлуки, вештачката интелигенција може да се искористи за подобро идентификување, следење и намалување на родовите разлики во клучни општествени сектори, од вработување и образование, до здравство и креирање јавни политики.
Во областа на вработувањето, на пример, постои реална можност ВИ да се искористи за елиминирање на несвесна пристрасност во процесите на селекција и регрутација. Алгоритмите можат да се обучат така што ќе ги игнорираат факторите како пол, име или возраст, кои често се причина за дискриминација. Според извештајот на UNESCO (2019), доколку системите се дизајнираат со етички пристап, тие можат да обезбедат еднаков третман за сите кандидати, па дури и да придонесат кон зголемување на бројот на жени во раководни и технолошки позиции односно области кои традиционално се доминирани од мажи. Во образованието, вештачката интелигенција овозможува персонализиран пристап на учење, што е особено важно за девојчињата и жените од маргинализирани заедници. Благодарение на дигиталните платформи кои користат вештачка интелигенција, може да се креираат наставни содржини прилагодени на индивидуалните потреби, културен контекст и стилови на учење. Овој пристап не само што го олеснува пристапот до знаење, туку и овозможува поголема вклученост на оние на кои традиционалниот образовен систем често им е недостапен.
Во доменот на јавните политики, вештачката интелигенција може да игра важна улога преку анализа на статистички податоци и предвидување на влијанието што одредени политики ќе го имаат врз жените и мажите. Според извештајот на OECD (2020), ваквиот тип на анализа може да води кон родово сензитивно планирање и носење на поефективни мерки, со што се зајакнува демократскиот карактер на општеството.
Друг многу важен аспект е застапеноста на жените во самата технолошка индустрија и процесите на дизајнирање на вештачко интелигентните системи. UN Women (2019) укажува на тоа дека вклучувањето на жени во развојот на вештачка интелигенција е клучно за спречување на несвесните пристрасности кои честопати се вградени во алгоритмите. Различните перспективи, особено женските, можат да придонесат кон создавање на пофер, поприфатливи и општествено одговорни технолошки решенија. Дополнително, вештачката интелигенција може да се искористи за анализа на медиумската застапеност на жените, откривање на говор на омраза или сексизам на социјалните мрежи, како и за креирање алатки кои ќе ја поддржат родовата рамноправност во секојдневниот живот. На пример, платформите со вештачка интелигенција можат да помогнат во пријавување на дискриминација или вознемирување, и со тоа да придонесат за побезбедни дигитални простори.
Иако вештачката интелигенција има голем потенцијал за унапредување на родовата еднаквост, нејзината примена исто така носи сериозни ризици, особено доколку системите се развиваат без внимание на родовата перспектива. Пристрасноста што постои во општеството може лесно да се преслика и дури да се засили преку алгоритмите, ако не се применат соодветни мерки на претпазливост.
Еден од главните ризици е вградената пристрасност во податоците што се користат за тренирање на вештачко интелигентните системи. Ако податоците од кои алгоритмите учат содржат историски родови стереотипи и дискриминација, тогаш и самите алгоритми ќе ги репродуцираат тие неправди. Според UNESCO (2019), постојат случаи кога вештачко интелигентните системи за регрутација, автоматски ги рангираат мажите повисоко од жените за технолошки и лидерски позиции, само затоа што таквите обрасци биле доминантни во историските податоци.
Дополнително, недостатокот на разновидност во тимовите што ги развиваат вештачко интелигентните системи придонесува за тоа алгоритмите да не ги земаат во предвид искуствата и потребите на жените. UN Women (2019) укажува дека жените се сè уште значително помалку застапени во секторот за вештачка интелигенција, што резултира со технологии кои често не се сензитивни на родовите разлики и можат несвесно да ја продлабочат нееднаквоста.
Исто така, постои и ризик од намалување на приватноста и сигурноста на жените, особено преку злоупотреба на вештачката интелигенција во следење, биометриски системи и онлајн платформи. OECD (2020) предупредува дека лошо регулирани вештачко интелигентни системи можат да ја зголемат изложеноста на жени на дигитално насилство и прекршување на нивните човекови права, особено кога се користат за автоматско препознавање на лица или следење активности.
Освен тоа, автоматизацијата предизвикана од вештачка интелигенција може да има несоодветен ефект врз жените, особено во сектори каде што тие се повеќе застапени, како што се администрацијата, услужните дејности или текстилната индустрија. Без соодветна поддршка и преквалификација, жените може да бидат потешко погодени од загуба на работни места и економска несигурност.
Затоа, за да се избегнат овие ризици, неопходно е развојот и имплементацијата на вештачката интелигенција да биде транспарентна, инклузивна и етички одговорна. Вклучувањето на родовата перспектива уште од самиот почеток на дизајнот и тестирањето на вештачко интелигентните системите е клучно за да се обезбеди дека новите технологии не ги продлабочуваат постојните нееднаквости, туку придонесуваат за нивно намалување.
Во изминатите неколку години, различни институции, организации и компании започнаа активно да ја користат вештачката интелигенција како средство за промовирање на родова еднаквост. Овие примери претставуваат конкретни докази дека вештачката интелигенција не е само технолошки напредок, туку и социјален инструмент кој може да има длабоки импликации врз општествените структури.
Организацијата UN Women во своите извештаи и активности постојано нагласува дека вештачката интелигенција мора да биде дел од глобалната стратегија за постигнување на родова еднаквост. Според извештајот од 2019 година, „The Gender Dimensions of the Guiding Principles on Business and Human Rights“, UN Women укажува дека развојот на алгоритми и автоматизирани системи мора да се одвива со активно учество на жени, за да се избегнат пристрасности кои се длабоко вкоренети во општествените норми и историските нееднаквости. Тие истакнуваат дека исклучувањето на жените од технолошките процеси резултира со системи кои несвесно ги репродуцираат постојните родови хиерархии.
Преку различни програми, како „Innovation for Gender Equality“ и „Women in AI“, UN Women се обезбедува финансиска и образовна поддршка за жените во технологијата, со цел да се зголеми нивното учество во развојот и примената на вештачка интелигенција. Ваквите иницијативи имаат за цел не само да ги поттикнат жените да се вклучат во технолошките професии, туку и да осигураат дека нивните искуства и перспективи ќе бидат вградени во дизајнот на идните вештачко интелигентни системи. Во извештајот „I’d Blush If I Could“ (2019), UNESCO се осврнува на начинот на кој вештачката интелигенција, особено преку дигиталните асистенти (како Siri, Alexa и Cortana), несвесно ги зајакнува родовите стереотипи. Овие асистенти, често со женски гласови, пренесуваат порака дека жените се сервисно ориентирани и потчинети. Според
извештајот, ова е последица на недостатокот на родова чувствителност во процесот на дизајн и развој на овие системи.
UNESCO апелира за поголема инклузивност при креирањето на вештачка интелигенција, особено во образовните програми и институциите што обучуваат идни инженери, дизајнери и програмери. Преку иницијативи како „Women4AI“, се охрабруваат младите девојки ширум светот да се вклучат во технолошкото образование, особено во областа на вештачката интелигенција и етичките технологии.
Голем број компании почнуваат да ја сфаќаат важноста на етичкиот и инклузивен пристап кон вештачката интелигенција. На пример, Google AI започна интерни ревизии на своите алгоритми за да провери дали постои несвесна пристрасност при селекција на кандидати или при приказ на реклами поврзани со пол и етничка припадност. Компанијата исто така
инвестира во проекти како „AI for Social Good“, со кои се поддржуваат истражувања и апликации за позитивно влијание врз општеството, вклучително и за родова еднаквост. IBM преку својата иницијатива „AI Fairness 360“ создаде отворен изворен код кој им помага на развивачите да идентификуваат и отстранат пристрасности во нивните алгоритми. Оваа алатка се користи и од стартапи и од владини агенции, со цел да се создадат потранспарентни и фер вештачко интелигентни системи.
Equilo, стартап кој разви софтвер за родова анализа, користи вештачка интелигенција за автоматизирана проценка на политиките и проектите во однос на нивната родова инклузивност. Овој систем е веќе користен од различни меѓународни агенции за развој, вклучувајќи ја и USAID, и претставува пример за тоа како вештачката интелигенција може да помогне при анализа на ефектите на јавните мерки врз различните демографски групи. Друг интересен пример е Wysa, стартап кој нуди ментално здравје преку вештачка интелигенција, базиран виртуелен терапевт. Овој систем е дизајниран да биде достапен, чувствителен на родови аспекти и да обезбеди безбедна средина за жени кои имаат ограничен пристап до стручна психолошка поддршка, особено во земјите во развој.
Родовата застапеност во технолошкиот сектор и понатаму претставува голем предизвик, особено кога станува збор за учеството на жени во клучни улоги поврзани со вештачка интелигенција, машинско учење, податоци и развој на алгоритми. И покрај глобалните
напори за промоција на еднаквост, постојат длабоко вкоренети структурални бариери кои го ограничуваат пристапот на жените до овој сектор.
Според податоците на UNESCO во извештајот “I’d Blush If I Could” (2019), само околу 22% од професионалците кои работат во областа на вештачката интелигенција се жени. Овој процент дополнително паѓа кога се разгледуваат водечките позиции и истражувачките институции, каде жените се речиси незастапени во процесите на носење одлуки и формулирање на политики.
Во рамки на глобалниот технолошки екосистем, ваквата состојба е резултат на неколку фактори: родови стереотипи поврзани со STEM дисциплини, ограничен пристап до ресурси, недостаток од женски ментори и недоволно охрабрување на девојчињата да се вклучат во технички науки. Според Ref 1, од рана возраст, девојчињата се соочуваат со пораки дека технологијата е „машка област“, што ги демотивира од натамошно образование во овие полиња.
Според Ref 3 и Ref 5, жените често се соочуваат со невидливи бариери во кариерата, како на пример платен јаз, недостапност на лидерски позиции, и т.н. „стаклен таван“. Во многу технолошки компании, културата и работната средина не се дизајнирани за родова разновидност, што резултира со висока стапка на отпад од страна на жени во средината на нивната кариера.
Дополнително, Ref 2 истакнува дека алгоритмите често се обучени на податоци кои ја репродуцираат оваа структурна нееднаквост. На пример, вештачко интелигентните системите за регрутација може несвесно да фаворизираат машки кандидати ако се базираат на историски податоци од доминантно машки тимови. На овој начин, недостатокот од застапеност не само што е последица на дискриминација, но тој станува и причина за неа, преку автоматизирање и репродукција на постојните пристрасности. И покрај оваа состојба, постојат бројни иницијативи насочени кон зголемување на женското учество во вештачката интелигенција. UN Women и UNESCO поддржуваат програми како „Girls in ICT Day“, „Women in AI“ и „STEM and Gender Advancement (SAGA)“, кои имаат за цел да ги поттикнат младите девојки да се вклучат во технолошките дисциплини и да создадат глобална мрежа на жени во наука и технологија. Во приватниот сектор, компании како Google, Microsoft и IBM спроведуваат внатрешни програми за разновидност, како и поддршка за жени-програмери преку конференции,
стипендии и програми за менторство. На пример, Google Techmakers Initiative организира глобални настани каде жените во технологијата добиваат простор да го покажат својот труд, да се поврзат со други професионалци, и да добијат пристап до алатки за кариерен развој.
Иако застапеноста е мала, постои растечка заедница на жени-основачи на стартапи кои работат со вештачка интелигенција. Овие стартапи често имаат силна етичка и социјална компонента, особено во однос на инклузивен дизајн, транспарентност и одговорно користење на податоци. Пример за тоа е стартапот Taru Leading Edge, воден од жени во Индија, кој користи вештачка интелигенција за анализа на родово-базирано насилство и поддршка на јавни политики во насока на родова правда.
Слично, стартапот Zindi Africa нуди платформа за решавање на општествени проблеми преку податоци и вештачка интелигенција, со силен фокус на вклучување на жените аналитичари и научници за податоци.
Родовата нееднаквост во технолошкиот сектор е сериозен предизвик, но не и непроменлив. Со вистинските политики, едукација и институционална поддршка, можеме да изградиме технолошка иднина во која жените не само што ќе бидат присутни, туку и рамноправно ќе учествуваат во креирањето на системи кои го обликуваат светот. Потребно е мултисекторско делување, од владите, академијата, граѓанските организации и приватниот сектор, за да се отстранат бариерите и да се создаде одржлива рамнотежа во технолошкиот екосистем.
Етичките прашања што произлегуваат од употребата на вештачката интелигенција стануваат сè поистакнати, особено кога се разгледуваат во контекст на родовата еднаквост. Вештачката интелигенција, иако технолошки напредна, не е имуна на општествените вредности и пристрасности кои се вградени во податоците и алгоритмите што ги користи. Ако не се следат јасни етички принципи, постои опасност да се репродуцираат и дури да се засилат постојните нееднаквости.
Еден од главните предизвици е пристрасноста во податоците. Како што истакнува UNESCO (2019) во извештајот “I’d Blush If I Could”, пристрасноста во тренирањето на
алгоритми може да резултира со дискриминација врз основа на пол и род. На пример, виртуелните асистенти како Alexa и Siri традиционално користат женски гласови и се дизајнирани да бидат покорни, што го засилува стереотипот за жената како услужна и подредена фигура.
Дополнително, недоволната застапеност на жени и маргинализирани групи во развојот на алгоритми и технолошки производи доведува до создавање системи што не ги рефлектираат нивните реалности и потреби. Според UN Women (2019), само 22% од професионалците во областа на вештачка интелигенција се жени, што претставува сериозен етички проблем од аспект на разновидност и еднаква застапеност во технолошкото креирање.
За да се ублажат овие ризици, потребно е да се воспостават етички насоки и практики што ќе го гарантираат фер третман и недискриминација. OECD (2020) предлага неколку принципи за етичка употреба на вештачката интелигенција, меѓу кои се: транспарентност, одговорност, човекова контрола, инклузивност и почитување на човековите права. Овие принципи треба да бидат водич не само за владите, туку и за приватниот сектор и академијата.
Препораките што произлегуваат од овие етички принципи укажуваат на потребата од развој на родово чувствителни алгоритми, кои ќе ги земат предвид различните искуства на жените, особено оние кои припаѓаат на маргинализирани заедници. Исто така неопходно е да се обезбеди транспарентност во начинот на кој функционираат алгоритмите, така што корисниците ќе имаат можност да разберат како се донесуваат одлуките и кои податоци ги водат тие процеси. Ова особено важи кога алгоритмите се користат во сектори што имаат директно влијание врз животите на луѓето, како што се вработување, здравство или образование.
Постојаната ревизија и проценка на влијанието на системите базирани на вештачка интелигенција е уште еден клучен чекор. Ваквите анализи треба да вклучуваат родова перспектива и да идентификуваат потенцијални негативни ефекти по различни општествени групи. Од суштинско значење е активно да се промовира учеството на жени во процесот на дизајнирање, развој и имплементација на технологии со вештачка интелигенција. Ова може да се постигне преку политиките на институциите и компаниите
кои ќе ги поттикнуваат родовата еднаквост, инклузијата и напредувањето во кариерата за жените во технолошкиот сектор.
Кога овие препораки ќе се применат во пракса, се создава поголема веројатност вештачката интелигенција да функционира како фер и одговорна технологија, која наместо да ги репродуцира, ќе ги намалува родовите нееднаквости. Етички водената вештачка интелигенција не е само технички предизвик, туку и општествена обврска за градење поправеден дигитален свет.
Вештачката интелигенција е како алатка со две страни кога зборуваме за родовата еднаквост. Од една страна, може да помогне во намалување на длабоките нееднаквости со правични алгоритми, отворени системи и прилагодени решенија. Но, од друга страна, ако не се развива и користи со внимание кон родовите прашања, може уште повеќе да ги засили постоечките предрасуди.
Технологијата не е неутрална – таа ги носи вредностите и ставовите на луѓето што ја создаваат. Затоа, за да изградиме поправедно општество, мора активно да ги вклучиме жените и маргинализираните групи во создавањето, тестирањето и регулирањето на вештачка интелигенција. Со заедничка работа меѓу владите, универзитетите, компаниите и меѓународните организации, можеме да ги искористиме можностите на вештачката интелигенција за да постигнеме вистинска родова еднаквост.
Библиографија
1. UNESCO. (2019). I’d Blush If I Could: Closing Gender Divides in Digital Skills Through Education. https://unesdoc.unesco.org/ark:/48223/pf0000367416
2. OECD. (2020). Using Artificial Intelligence to Help Achieve Gender Equality. https://www.oecd.org/gov/using-artificial-intelligence-to-help-achieve-gender-equality 4e0f76c6-en.htm
3. UN Women. (2019). Gender Equality and Big Data: Making Gender Data Visible. https://www.unwomen.org/en/digital-library/publications/2018/5/gender-equality-and big-data
4. UNESCO. (2020). Recommendation on the Ethics of Artificial Intelligence – First Draft. https://unesdoc.unesco.org/ark:/48223/pf0000373434
5. UNESCO. (2021). Women in Science. http://uis.unesco.org/en/topic/women-science 6. UN Women. (2020). The Gender Gap in Tech: A Global Snapshot.
https://www.unwomen.org/en/news/stories/2020/7/feature-gender-equality-in-tech 7. UNESCO. (2022). Global Gender Gap Report.