Авторка Елена Ѓуревска
Апстракт
Во овој труд се истражува важноста на родовата еднаквост во контекст на развојот на вештачката интелигенција (ВИ), со цел да се укаже на потенцијалните ризици од родова пристрасност и да се истакнат можностите за создавање поправедна технолошка иднина. Иако ВИ претставува моќна алатка за иновации и општествен напредок, нејзиниот развој не е имун на постојните општествени нееднаквости. Ниската застапеност на жени во технолошките професии, недоволната родова чувствителност при дизајнот на алгоритми и присуството на пристрасни податоци можат да доведат до дискриминација и исклучување.
Трудот ги анализира факторите што влијаат на овој дисбаланс, последиците од алгоритамската пристрасност, како и добри практики за промовирање на родова еднаквост во ВИ. Преку конкретни примери и препораки, се нагласува потребата од инклузивен пристап кој обезбедува еднакви можности за сите, и кој води кон побезбедна, поетична и поправедна технологија.
2.Вовед
Во последните години, вештачката интелигенција (ВИ) станува сѐ повлијателен дел од нашето секојдневие – од препораки на социјалните мрежи до одлуки во здравството и вработувањето. Таа претставува способност на машините да учат и размислуваат слично на човекот.
Родовата еднаквост подразбира еднаков третман и можности за сите, без оглед на полот. Во контекст на ВИ, тоа значи вклучување на жени и мажи подеднакво во нејзиниот развој.
Недостатокот на разновидност во ВИ тимовите може да доведе до пристрасни алгоритми кои несвесно ја засилуваат постоечката родова нееднаквост. Затоа, важно е да се зборува за оваа тема и да се промовира еднаквоста во технолошкиот напредок.
3. Родовата еднаквост во технолошката индустрија Учеството на жените во технолошката индустрија и во STEM (наука, технологија, инженерство и математика) области е значително помало во однос на мажите, иако во последните години се прават напори за промена на овој негативен тренд. Според најновите статистики од меѓународни организации како UNESCO и World Economic Forum, жените сочинуваат помалку од 30% од студентите во STEM области на глобално ниво, а во одредени региони и земји, овој процент е дури под 20%. За разлика од тоа, мажите сочинуваат околу 70% од студентите и мнозинството во технолошката индустрија, каде што доминираат во повеќето технички, истражувачки и лидерски позиции. Овој доминантен удел на
мажите ја обликува културата, политиките и насоките на развој во индустријата, вклучително и во развојот на вештачката интелигенција.
Ова значително подзастапување на жените продолжува и во самата индустрија – во водечките технолошки компании жените сочинуваат помалку од 25% од вработените, а нивната застапеност во техничките позиции како што се програмирање, развој на софтвер, инженеринг и наука за податоци е уште пониска. Мажите, од друга страна, имаат подобар пристап до ресурси, менторство и можности за напредок, што овозможува поголемо влијание врз формите и функциите на развиените технологии. Во областите поврзани со истражување и развој на вештачка интелигенција, процентот на жени е особено низок, што има директни последици врз начинот на кој се развиваат и применуваат ВИ системите, често одразувајќи ја доминантната машка перспектива.
Причините за оваа родова нееднаквост се комплексни и се коренат во социјални, културни и структурни бариери. Од најрана возраст, девојчињата често се изложени на стереотипи кои ги одвраќаат од интерес за техничките науки, што се рефлектира и во нивниот избор на образование и кариера. Мажите, од друга страна, обично се охрабруваат и поддржуваат да се вклучат и напредуваат во овие области, што создава дополнителен предност. Во работната средина, жените често се соочуваат со директна или индиректна дискриминација, што создава непријателски работни услови, а во некои случаи и сексуално вознемирување. Ова, во комбинација со недостаток на менторство и поддршка, доведува до високи стапки на напуштање на индустријата од страна на жените. Платниот јаз помеѓу мажите и жените во технолошкиот сектор е значителен, што дополнително ја продлабочува економската нееднаквост. Покрај тоа, жените имаат помал пристап до важни ресурси како што се клучни проекти, мрежи за професионална поддршка и лидерски позиции, што ја ограничува нивната можност за професионален развој и влијание.
Овој системски недостаток на родова рамноправност има и пошироки импликации. Недостатокот на женски перспективи во тимовите кои развиваат вештачка интелигенција води кон создавање на технологии кои не ги одразуваат и не ги решаваат проблемите на целата популација. Резултатот се модели и апликации што можат да имаат пристрасности, дискриминирачки ефекти и неинклузивност, што дополнително го зголемува јазот во општеството. Мажите како мнозинство во индустријата имаат клучна улога во креирањето на овие системи, што ја носи одговорноста да работат на зголемување на родовата еднаквост и инклузија. Затоа е критично да се промовираат и спроведуваат политики кои ќе обезбедат еднаков пристап до образование, еднакви можности за кариера, и активно елиминирање на дискриминацијата и стереотипите во технолошкиот сектор. Организации и иницијативи низ светот се посветени на оваа цел, работат на охрабрување и поддршка на жените во технолошката индустрија преку стипендии, менторски програми, работилници и кампањи за подигање на свеста. Исто така, се зголемуваат и напорите да се вклучат и мажите како сојузници во борбата за
родова еднаквост, охрабрувајќи ги да го користат својот влијание за создавање фер и инклузивна работна средина.
Само преку зголемена родова еднаквост во развојот на вештачката интелигенција може да се создадат инклузивни, праведни и етички системи кои ќе ги служат потребите на целото општество.
Родовата нееднаквост има значително влијание врз развојот и примената на вештачката интелигенција (ВИ), пред сè преку влијанието врз податоците и тимовите кои ги создаваат овие системи. Кога податоците што се користат за обучување на ВИ модели се пристрасни или нецелосни, тоа создава основа за самата технологија да носи и репродуцира предрасуди кои понатаму можат да предизвикаат сериозни социјални и етички проблеми. На пример, многу системи за препознавање на лица (facial recognition) покажуваат значително поголеми грешки при идентификација на жени и лица со потемна кожа. Истражување од 2018 година, познато како проектот Gender Shades, предводено од Joy Buolamwini од MIT Media Lab, покажа дека комерцијалните системи имаат стапка на грешка до 34% кај жените со темна кожа, додека за белите мажи таа стапка е помала од 1%. Овој пример јасно го илустрира недоволниот обем и разновидност на податоците што се користат за обука, што директно влијае на точноста и праведноста на технологијата. Последиците од ваквата пристрасност се сериозни — тие не само што ја намалуваат довербата во системите, туку и го зголемуваат ризикот од дискриминација и неправедно третирање на одредени групи.
Покрај ова, родовата нееднаквост се манифестира и во самите тимови кои ја развиваат вештачката интелигенција. Недостатокот на родова и општа различност во тимовите кои го дизајнираат и имплементираат ВИ често доведува до
создавање на производи и алгоритми кои не ги одразуваат потребите, искуствата и перспективите на целото општество. Според извештајот на UNESCO од 2021 година, жените сочинуваат околу 30% од научниците и инженерите ширум светот, но само околу 22% од професионалците во компјутерските науки и информациските технологии, што јасно покажува колку недостасуваат различни гласови во клучните технолошки области. Во ситуации каде што доминираат мажи во развојните тимови, честопати се пропуштаат или се занемаруваат критични аспекти поврзани со родовата чувствителност и инклузивност. На пример, истражувањето од здравствениот сектор објавено во 2019 година покажа дека ВИ системите кои се користат за дијагноза и третман понекогаш ги игнорираат специфичните потреби на жените, бидејќи податоците за обука се базираат главно на мажи, што резултира со помалку точни препораки и дијагнози за жените. Ова е јасен показател за тоа како родовата нееднаквост во развојот може да доведе до несоодветни и дискриминаторски технологии.
Покрај наведените проблеми, родовата нееднаквост во развојот на вештачката интелигенција влијае и на економските можности и професионалниот развој на жените. Платниот јаз во технолошките компании, недостигот од пристап до важни ресурси како што се клучни проекти, професионални мрежи и лидерски позиции, ја ограничуваат кариерата на жените и ја продлабочуваат родовата нееднаквост во индустријата. Ова, пак, создава циклус каде жените не само што се подзастапени во тимовите за развој на ВИ, туку и имаат помал придонес во процесите на донесување одлуки, што влијае на самата природа и насока на иновациите. Истовремено, недостатокот на родова еднаквост негативно се одразува и на психолошката клима во работните средини, каде што жените се соочуваат со предизвици како стрес, дискриминација и чувство на изолација, што дополнително ги демотивира да останат и да се развиваат во технолошките области.
Покрај индустријата, важна улога игра и образовниот систем. Родовиот стереотип дека технологијата и науката се „машки“ области создава бариери од најрана возраст, кога девојчињата се поттикнуваат повеќе кон хуманистички или други „не технички“ дисциплини. Ова ограничување на изборот на образование создава долгорочни последици и влијае на родовата структура во технологијата. Поради тоа, едукативните програми кои се фокусираат на охрабрување на девојчиња и жени да се вклучат во STEM области, како што се Girls Who Code, Women in AI и AnitaB.org, имаат критична улога во отворањето на патот кон поголема родова еднаквост. Овие иницијативи нудат поддршка преку стипендии, менторство и практични обуки кои ги надминуваат традиционалните бариери и го зголемуваат присуството на жените во високотехнолошките сфери.
Истовремено, растечкиот фокус на етичкиот дизајн во вештачката интелигенција значително придонесува за борбата против родовата пристрасност. Воведувањето на принципи како транспарентност, одговорност, фер пристап и инклузивност во развојот на ВИ системите се клучни чекори кон создавање технологии кои ги почитуваат и штитат правата на сите корисници. Преку овие етички стандарди, компаниите и истражувачите се охрабруваат да
идентификуваат и елиминираат пристрасности во своите алгоритми, а исто така и да создаваат механизми за проверка и корекција на системите.
Вклучувањето на повеќе жени и различни групи во тимовите за развој на ВИ не е само морален императив, туку и директно ја подобрува иновативноста и ефективноста на технологијата. Разновидните тимови имаат поголема способност да создадат решенија кои се адаптираат кон поширок спектар на кориснички потреби и ја зголемуваат довербата на јавноста во новите технологии. Така, родовата еднаквост станува клучен фактор за градење на ВИ која е инклузивна, етичка и одржлива.
Истражувања од Harvard Business Review дополнително укажуваат дека компании со поголема родова и културна разновидност во тимовите имаат повисока иновативност и подобри перформанси. Кога во тимовите за развој на ВИ учествуваат повеќе жени и лица од различни групи, создадените технологии се поинклузивни и помалку пристрасни. Ова покажува дека родовата еднаквост не е само прашање на правда и етика, туку и клучен фактор за подобрување на квалитетот и ефективноста на технологијата.
Важноста на родовата еднаквост и вклученоста на различни гласови и искуства во тимовите за развој на ВИ не може да се прецени доволно. Креирањето инклузивни и разновидни тимови е клучно за развој на праведни, транспарентни и етички ВИ системи, кои ќе ги земат предвид специфичните потреби на сите членови на општеството — без разлика на род, етничка припадност или други социјални карактеристики. Ова не само што ја подобрува квалитетата на технологијата, туку и го зголемува нејзиниот општествен и економски потенцијал, овозможувајќи ВИ да служи како алатка за подобрување на животот на сите луѓе, а не само на избраните групи.
За да се надминат овие предизвици, неопходно е да се спроведуваат активни политики и програми кои ќе го зголемат учеството на жените и другите подзастапени групи во развојот на ВИ. Ова вклучува обезбедување еднаков пристап до образование и обука, создавање менторски програми, поттикнување на еднаков пристап до лидерски позиции и решително справување со дискриминацијата и стереотипите во технолошките компании и академската заедница. Само преку вакви интегрални и системски промени можеме да изградиме ВИ која е навистина инклузивна, етичка и способна да придонесе за создавање на поздраво и подеднакво општество.
5. Напори и решенија за родова еднаквост во технолошката индустрија
Во последните години, расте свеста за значењето на родовата еднаквост во технолошката индустрија, особено во развојот и примената на вештачката интелигенција (ВИ). Поради историските нееднаквости и постојните бариери, се
појавија бројни иницијативи и организации кои активно работат на зголемување на учеството на жените и подзастапените групи во оваа област, како и на создавање еднакви можности за развој и напредок. Овие напори се од суштинско значење за градење инклузивна и етичка технолошка иднина.
Една од најзначајните категории се организациите што директно се посветени на поддршка на жените во технолошката сфера. Women in AI (WAI) е глобална иницијатива присутна во повеќе од 140 земји, која се фокусира на зголемување на учеството на жените во вештачка интелигенција преку менторски програми, работилници, обуки и истражувања. Таа нуди и програмата WAI Awards, која го препознава придонесот на жените во ВИ и ги промовира како инспиративни модели.
Слично на тоа, Girls Who Code е американска организација која се шири глобално и има за цел да го намали родовиот јаз во програмирањето преку бесплатни летни кампови, курсеви и училишни клубови за девојчиња на возраст од 13 до 18 години. Од нејзиното основање, над 500.000 девојчиња учествувале во нејзините програми, од кои значителен дел продолжуваат да студираат информатика или сродни дисциплини.
AnitaB.org е уште една водечка организација што работи на создавање на технолошка заедница каде жените можат да напредуваат. Таа е позната по организирањето на Grace Hopper Celebration, најголемата светска конференција за жени во технологија, која секоја година собира илјадници жени од целиот свет и им овозможува вмрежување, менторство, вработување и професионален развој.
Покрај организациите, значајна улога играат едукативните програми и стипендиите насочени кон зголемување на пристапот до образование во STEM за жените. Примери за тоа се програмата Google Women Techmakers, која обезбедува стипендии, лидерски обуки и поддршка за жените кои студираат информатика, како и Microsoft DigiGirlz, иницијатива која им овозможува на девојчињата да учествуваат во работилници, обуки и сесии со професионалци од ИТ секторот. Овие програми не само што помагаат при стекнување технички вештини, туку и ја градат самодовербата и ги рушат социјалните бариери што ги одвраќаат девојчињата од кариера во технологија.
Паралелно, се зголемува интересот за вградување на етички принципи во процесот на дизајн и имплементација на ВИ системи. Принципите како транспарентност (јавно објаснување на алгоритмите и одлуките), одговорност (јасно утврдување на одговорноста за последиците од одлуките донесени од ВИ) и еднаквост (избегнување на дискриминаторски исходи) стануваат дел од водечките практики во технолошките компании. Пример за тоа е AI Ethics Guidelines на Европската Унија, кои ја потенцираат важноста на човечки надзор, инклузивност и фер пристап во секој чекор од развојот на ВИ.
Дополнително, сè повеќе компании работат на унапредување на разновидноста во тимовите што развиваат ВИ. На пример, IBM има интерни програми за регрутирање и задржување на жени инженери, со посебен фокус на лидерски позиции. Accenture и Salesforce поставија цели за родова еднаквост и транспарентно ги објавуваат процентите на вработени жени во технички и менаџерски улоги, при што истовремено нудат интерни обуки за елиминирање на несвесната пристрасност.
Истражувањата покажуваат дека тимови составени од луѓе со различни позадини, искуства и перспективи создаваат поиновативни и поинклузивни решенија. Затоа, подобрувањето на родовата застапеност не е само прашање на правичност, туку и на квалитет и ефективност на технолошкиот развој.
6. Бенефити од родова еднаквост во развојот на вештачка интелигенција
Родовата еднаквост не претставува само морална обврска или општествена потреба – таа е клучен двигател за технолошкиот напредок и социјално одржлив развој. Во контекст на вештачката интелигенција (ВИ), вклучувањето на жени и други подзастапени групи во сите фази од нејзиниот развој – од истражување, дизајн и развој, до имплементација и евалуација – носи значајни предности кои влијаат врз квалитетот, етичноста и општествената применливост на технологијата.
1. Подобри, попрецизни и побезбедни системи
Кога развојот на ВИ се темели на податоци кои се родово, етнички и културно разновидни, системите што произлегуваат од нив се многу попрецизни, побезбедни и поодржливи. Историски гледано, недоволната застапеност на жени
и маргинализирани групи во создавањето на технолошки решенија довела до системи кои игнорираат или погрешно ги третираат тие заедници.
Пример за тоа е развојот на алгоритми за препознавање на лице, кои покажале многу поголеми стапки на грешки кај жени, особено кај жени со потемна кожа. Овие грешки не се случајни – тие се резултат на непредставителни податоци и на отсуство на женски гласови во развојните тимови. Кога се вклучуваат жени со различни потекла, се обезбедува покритичко оценување на податоците и моделирањето, што директно влијае на зголемена прецизност и намалување на пристрасностите.
Дополнително, родово балансираните тимови имаат поголема склоност да детектираат ризици поврзани со етичка штета, дискриминација и нееднаквост, и навремено да предложат корекции.
2. Поголема креативност, иновација и решавање на комплексни проблеми
Повеќе студии покажуваат дека разновидни тимови – особено оние кои се родово урамнотежени – имаат подобра способност да создаваат иновативни решенија, бидејќи комбинираат различни гледишта, искуства и когнитивни пристапи. Жените често носат нови идеи кои произлегуваат од нивното уникатно животно искуство, особено во домени како здравство, образование, грижа за семејството, безбедност и социјална правда – теми кои сè почесто стануваат предмет на анализа од страна на ВИ.
Кога жените учествуваат во развојот на производи и услуги базирани на ВИ, се отвораат прашања и перспективи кои инаку може да останат незабележани. На пример, алгоритмите што се користат за селекција на кадар, финансиски кредити или медицинска дијагностика, можат да содржат суптилни пристрасности ако не се земат предвид различните реалности на жените. Женското учество тука може да биде клучно во унапредување на правичноста и точноста на алгоритмите.
Исто така, родовата разновидност ја зајакнува способноста на тимовите да соработуваат, да се слушаат меѓусебно и да се справуваат со несогласувања на конструктивен начин – што се покажало како клучен фактор за технолошки и бизнис успех.
3. Инклузивни и фер решенија за поширока популација
Најважниот краен резултат од родовата еднаквост во ВИ е развојот на инклузивни технологии, кои ги земаат предвид реалните потреби, вредности и ограничувања на различните групи од општеството. ВИ системите што се развиваат од разновидни тимови имаат тенденција да бидат поемпатични, социјално чувствителни и ориентирани кон општо добро – а не само кон ефикасност и профит.
На пример, со вклучување на жени во развојот на здравствени ВИ апликации, се подобрува начинот на кој технологијата ги третира разликите во симптомите меѓу половите, што може да спаси животи. Во образованието, присуството на жени може да доведе до пофер системи за препознавање на ученици со посебни потреби или таленти. Во безбедноста, може да се развијат поосетливи алгоритми за справување со онлајн насилство и злоупотреба.
И не само тоа – родовата еднаквост во ВИ го зголемува и пазарниот опсег на технологијата, бидејќи жените претставуваат половина од светската популација и имаат уникатни кориснички потреби и навики. Разбирањето на тие аспекти овозможува развој на производи што се поприфатени и поуспешни на глобалниот пазар.
7. Ефектот на родовата еднаквост врз довербата во технологијата
Родовата еднаквост во развојот на вештачката интелигенција има клучна улога во градењето и одржувањето на довербата на корисниците во технологијата. Во време кога ВИ сè повеќе ја трансформира секојдневницата – од автоматизирани одлуки во здравството, финансии и образование до системи за безбедност и управување – довербата кон овие технологии станува предуслов за нивната успешна примена и општествена прифатеност. Корисниците се помалку склони да ги прифатат и користат технологиите ако сметаат дека тие системи се пристрасни, дискриминаторски или ако немаат чувство дека биле создадени со грижа за нивните специфични потреби и различности.
Истражувањата јасно покажуваат дека разновидните тимови кои вклучуваат жени и други подзастапени групи во развојот на ВИ системите придонесуваат за создавање на продукти со повисок квалитет, поетички, и со поголема социјална одговорност. Според студија на McKinsey & Company од 2020 година, компании со поголема родова и етничка разновидност во тимовите имаат за 25% поголема веројатност да постигнат повисоки профити во споредба со оние кои се помалку разновидни. Ова не е само економски параметар, туку индикатор дека инклузивните тимови подобро ги адресираат потребите на широка и разнолика публика.
Присуството на женски гласови во дизајн и тестирање на алгоритми носи поголема свест за проблемите со пристрасност, што резултира во намалување на непредвидливите грешки кои можат да имаат негативно влијание врз корисниците. На пример, истражување од MIT Media Lab покажа дека системите за препознавање лица имаат до три пати поголема стапка на грешка кај жените со темна кожа отколку кај белите мажи, што јасно укажува на потребата од повеќестран пристап и поголема инклузивност во дизајнот на ВИ. Компанијата IBM, како одговор на овие наоди, воведе нови етички стандарди и формални проверки за пристрасност во развојните процеси.
Овој феномен не е само технички проблем, туку и општествен и етички. Технологијата што нема широка поддршка и доверба од заедницата може да доведе до сериозни социјални последици – од пораст на недоверба во институциите и технолошките компании до отпор кон иновации кои би можеле да го подобрат животот на луѓето. На пример, системите за кредитна способност и вработување кои дискриминираат жени или етнички малцинства го зголемуваат социјалниот јаз и го намалуваат економскиот развој на овие групи. Истражување на ProPublica во 2016 година откри дека алгоритмите за проценка на ризик во судската пракса покажуваат пристрасност кон етничките малцинства, што доведува до неправедни пресуди.
Покрај тоа, инклузивниот дизајн базиран на родова еднаквост го поттикнува и зголемува корисничкото искуство и лојалност. Корисниците се повеќе сакаат и
имаат доверба во технологии кои ги земаат предвид нивните уникатни потреби и искуства. Компаниите кои инвестираат во создавање на разновидни и инклузивни тимови не само што ја подобруваат перформансата на производите, туку и го зголемуваат својот углед и конкурентност на пазарот. На пример, Google и Microsoft отворено работат на диверзитет и вклученост како дел од своите корпоративни стратегии, што резултира со значителен раст на иновациите и задоволството на корисниците.
Истовремено, ова придонесува и за зголемување на општата свест за значењето на родовата еднаквост како дел од етичкиот развој на технологијата, што отвора пат за понатамошни политики и стандарди во индустријата. На меѓународно ниво, организации како OECD и UNESCO промовираат насоки и стандарди за етика и инклузија во ВИ, нагласувајќи дека родовата еднаквост е предуслов за создавање доверливи и етички одговорни технологии.
На крај, довербата во технологијата не е статичен концепт, туку динамичен процес што бара постојано внимание и ангажман. Родова еднаквост во развојот на ВИ значи постојано вклучување на жените не само како извршители, туку и како креатори и лидери, што овозможува различни гледишта и иновативни решенија кои ќе одговорат на комплексните предизвици на современото општество. Само преку овие интегративни напори може да се изгради доверба која ќе овозможи вештачката интелигенција да биде вистински корисна и фер алатка за сите.
8.Заклучок
Родовата еднаквост во развојот на вештачката интелигенција не е само прашање на правичност и социјална правда, туку и клучен предуслов за создавање квалитетни, етички и инклузивни технологии. Недостатокот на женско учество и родовата пристрасност во податоците и тимовите го ограничуваат потенцијалот на ВИ, создавајќи системи кои можат да бидат дискриминаторски и непотполно одразуваат потребите на целото општество. Инклузивниот пристап и поддршката за родова еднаквост, преку конкретни иницијативи, едукација и етички стандарди, водат кон развој на технологии кои се попрецизни, пофер и со поголема доверба од страна на корисниците. За да се постигне вистинска трансформација и одржлив напредок, потребно е сите засегнати страни – од образовни институции и компании до влади и невладини организации – да вложат заеднички напори во елиминирање на бариерите и создавање еднакви можности. Само така вештачката интелигенција ќе може да ја оствари својата потенцијална улога како алатка за општествен развој, правда и иновации кои ги служат сите луѓе подеднакво.
9.Користена литература
1. Buolamwini, J., & Gebru, T. (2018). Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. Proceedings of Machine Learning Research. 2. UNESCO (2021). Women in Science.
3. West, S. M., Whittaker, M., & Crawford, K. (2019). Discriminating Systems: Gender, Race and Power in AI. AI Now Institute.
4. European Commission (2020). Ethics Guidelines for Trustworthy AI.
5. AnitaB.org
6. Girls Who Code
7. Women in AI