Користење на вештачката интелигенција (AI) за унапредување на родовата еднаквост во академските истражувањаAI четботови и родови стереотипи: како дигиталните асистенти го рефлектираат (или предизвикуваат) полот Автор Давид Мицевски 1. Вовед Вештачката интелигенција (AI) претставува еден од најбрзорастечките технолошки напредоци во 21 век, која го трансформира начинот на живеење, работа и комуникација. Една од најпопуларните и најдиректно достапни апликации на AI се дигиталните асистенти и четботи, софтверски програми кои овозможуваат интеракција преку природен јазик, овозможувајќи им на корисниците да комуницираат со машини на начин што наликува на човечка комуникација. Овие технологии, како Siri на Apple, Alexa на Amazon и ChatGPT на OpenAI, нудат функционалности како пребарување информации, планирање задачи и автоматизација, но исто така влијаат и врз начинот на кој луѓето ги перципираат машините и нивната улога во општеството. Особено релевантен е родовиот аспект на дигиталните асистенти, каде што голем број од овие системи се дизајнирани со женски имиња и гласови. Родот како категорија има длабоки социјални и културни значења кои се рефлектираат во создавањето и користењето на технологиите. Женските дигитални асистенти, со нивниот љубезен тон и добар карактер, често се критизираат дека ја реафирмираат традиционалната улога на жените како помошнички, што може да ја засили родовата нееднаквост. Овој феномен отвора бројни прашања поврзани со етиката, социјалната одговорност и влијанието на технологијата врз родовите стереотипи. Целта на оваа работа е да ги истражи и анализира начините на кои AI четботите го репродуцираат или предизвикуваат полот, како и нивните социјални и етички импликации. Со фокус на јазикот, дизајнот и пристрасноста на моделите, ова истражување ќе понуди увид во можните решенија и политики за развој на родово сензитивна AI технологија. 2. Општи карактеристики на AI четботи Дигиталните асистенти, познати и како AI четботи, се софтверски системи кои овозможуваат интеракција со корисниците преку природен јазик, без потреба за посебни технички знаења. Тие се базираат на обработка на природен јазик (Natural Language Processing - NLP) и машинско учење, кои им овозможуваат да разбираат прашања, да генерираат одговори и да учат од нови податоци. Современите големи јазични модели (Large Language Models - LLM), како GPT-3 и GPT-4, овозможуваат значително подобрена комуникација, бидејќи тие не само што ја разбираат граматиката, туку и контекстот, па дури можат да создаваат сложени и смислени текстови. Овие технологии ги користат познатите платформи како ChatGPT, Microsoft Copilot и Google Bard. Во рамките на дигиталните асистенти, најпознати се Siri на Apple, Alexa на Amazon и Google Assistant. Интересен е фактот дека овие асистенти стандардно имаат женски гласови и имиња, што не е случаен избор. Истражувањата покажуваат дека корисниците се почувствуваат поудобно и покорисно кога асистентот има женски глас, што влијае на нивната перцепција и користење на технологијата (Hoy, 2018). Меѓутоа, изборот на женски глас и имиња не е само маркетинг-стратегија, туку и рефлексија на длабоко вкоренетите родови стереотипи во општеството. Жената како помошник, услужител и асистент е перцепирана како подобра за овие улоги, што го засилува родовиот јаз во технолошките апликации (Wajcman, 2010). 3. Родови стереотипи и јазик Јазикот е носител на културата и на социјалните вредности, па така и јазикот што го користат AI четботите може да има родова боја и да пренесува или засилува стереотипи. Родовиот јазик, посебно кога е вграден во дигиталните асистенти, влијае на перцепцијата на корисниците и им ја формира сликата за тоа што значи род. Дигиталните асистенти со женски глас и персоналитет честопати се програмирани да користат јазик што е смирен, љубезен и услужлив. Истражувањата покажуваат дека овие карактеристики се поврзани со традиционалните женски улоги во општеството како помошници и негуватели (Lakoff, 1975). Ова може да има ефект на засилување на родовите стереотипи, особено ако се земе предвид дека повеќето корисници, вклучувајќи и машките, често ги третираат овие асистенти како „жени“ кои треба да бидат покорни и помошни. Истото се случува и кога гласовите на овие четботи се претпочитани од корисниците, но не затоа што тие се повеќе ефективни, туку затоа што тие исто така ги реафирмираат длабоко вкоренетите социјални и родови улоги во општеството. Пример за ова е и културната критика која ја добија Siri и Alexa, каде истражувачите и активистите укажуваат дека овие системи не само што ја реафирмираат родовата улога на жената, туку понекогаш и ја нормализираат злоупотребата и сексуалното вознемирување преку начинот на кој корисниците ги третираат овие гласови (West, 2019). Ова претставува сериозен етички проблем, бидејќи ги прави овие системи не само соодветни на постоечките родови стереотипи, туку и ги рефлектира и поттикнува во дигиталниот свет. Иако е научно потврдено дека женските гласови се повеќе прифатени од корисниците, се поставува прашањето дали технологијата треба да ги репродуцира овие стереотипи или, пак, да се бори против нив. Некои теоретичари и практичари сметаат дека AI треба да се развива во насока на родова неутралност, додека други предупредуваат дека тоа може да има негативни ефекти врз корисничкото искуство и прифатеноста на технологијата. Без оглед на пристапот, едно е сигурно: иднината на AI мора да вклучува сериозно разгледување на овие прашања и критички пристап кон нивното решавање. 4. Пристрасност во податоците и моделите AI системите се тренираат врз големи количини податоци, кои често содржат човечки записи и текстови, што ги носи културните и родовите предрасуди. Поради тоа, овие модели научуваат и ја репродуцираат истата пристрасност. Студијата „Gender Shades“ од Buolamwini и Gebru (2018) покажа дека многу комерцијални AI системи за препознавање лица имаат значителна пристрасност по пол и раса, при што системите прават погрешни препознавања, особено кај жените со темна кожа. Оваа студија исто така истакнува дека слични пристрасности постојат и во јазичните модели, каде што AI системите можат да користат родови стереотипи во генерирањето на одговори. Како што напоменува Leavy (2018), пристрасностите се длабоко вградени во податоците што се користат за тренирање на AI, што резултира со системска дискриминација во генерираните одговори и предлози. Овие пристрасности влијаат на корисничкото искуство, особено кога тие стереотипи се рефлектираат во начините на кои AI асистентите одговараат на прашања или комуницираат. Ова може да придонесе за зајакнување на социјалните нееднаквости, особено кога AI системите се користат во критични области како образованието, здравството и вработувањето. Намалувањето на пристрасностите во AI е клучно за создавање на праведни и инклузивни системи. Оваа потреба доведе до развој на алатки како AI Fairness 360 од IBM, кои се користат за откривање и корекција на пристрасности во алгоритмите и осигурување дека AI моделите ќе бидат фер за сите корисници. 5. Етички и социјални предизвици Присуството на родови пристрасности во AI системите отвора сериозни етички дилеми. Постојат дебати дали четботите треба да имаат пол или треба да бидат родово неутрални. Некои експерти сметаат дека родово неутралните AI системи ќе ја намалат дискриминацијата, додека други укажуваат дека корисничките очекувања и културните навики го прават тоа тешко остварливо (Floridi et al., 2018). Проблемот не е само во гласот и името, туку и во однесувањето на асистентите. Некои истражувања укажуваат дека женските асистенти почесто се третираат со непристојност и злоупотреба, а тие ретко даваат отпор, што потенцијално ја нормализира оваа појава (West, 2019). Секако, важен е и интерсекционален пристап (Crenshaw, 1989), кој укажува дека пристрасностите не се само по род, туку и по раса, класа и други фактори кои треба да се земат предвид при развојот на AI. 6. Иницијативи и решенија Со растечката свесност за родовите пристрасности во AI, сè повеќе технолошки компании и организации преземаат иницијативи за создавање инклузивни и праведни AI алатки. Google има значителни инвестиции во Google AI, платформа која ги анализира пристрасностите во податоците и вклучува алатки за создавање пофер модели. Google разви и насоки за поинклузивен развој на технологии кои не ги засилуваат постоечките родови и расни нееднаквости. Како што укажуваат Buolamwini и Gebru (2018) во нивната студија „Gender Shades“, пристрасностите во податоците можат да имаат сериозни последици во препознавањето на лица, што ја истакнува важноста на вклучувањето на различни групи во развојот на AI. IBM разви алатка наречена AI Fairness 360, која е отворен ресурс за истражувачи и компании кои сакаат да ги откријат и коригираат пристрасностите во своите алгоритми. Според Leavy (2018), овие алатки се неопходни за да се обезбеди етички развој на AI, кој ќе биде фер и инклузивен за сите корисници. Образованието игра исто така клучна улога во зголемување на свеста и образованието на новите генерации програмери и истражувачи за етичките предизвици на AI. Универзитети како MIT и Стенфорд нудат специјализирани курсеви кои ги едуцираат студентите за важноста на родова инклузивност и етика во развојот на AI. Со сите овие напори, индустријата и образовните институции се стремат да создадат пофер, поинклузивни AI системи кои ќе ја минимизираат пристрасноста и ќе обезбедат еднакви можности за сите корисници. 7. Заклучок AI четботите претставуваат еден од најпопуларните и најкористените облик на вештачка интелигенција во денешното општество, и нивната употреба само продолжува да расте. Како што беа анализирани во оваа работа, дигиталните асистенти носат не само технолошки предности, туку и социјални импликации кои не смеат да бидат занемарени. Особено, се истакнуваат родовите стереотипи и пристрасности што овие технологии ги рефлектираат и понекогаш ги засилуваат. Постоечките AI системи, со изборот на женски гласови и имиња за асистенти, ја потврдуваат родовата нееднаквост и може да продолжат да ги репродуцираат постоечките културни и општествени патерни, кои ги сместуваат жените во подредени и послужителски улоги. Развојот на AI технологии мора да биде свесен и внимателен на овие социјални и етички предизвици. Како што истакна Crawford(2021), „Технологијата не е неутрална; таа ги одразува вредностите и предрасудите на општеството“. Со ова на ум, потребно е систематски да се разработат нови методологии кои ќе ја вклучуваат родовата еднаквост и инклузивност во процесот на создавање на овие системи. Важен аспект во оваа насока е прифаќањето на етичка одговорност и обезбедување на фер третман на сите корисници, без разлика на нивниот род, раса, сексуална ориентација или друга идентичност. Со интеграција на родово неутрални или инклузивни модели, и преку регулирање на начините на кои овие системи се развиваат и користат, можеме да создадеме технологии кои не само што ќе бидат корисни и функционални, туку ќе придонесат за праведност и еднакви можности за сите. Исто така, постојаното образование и свесност за овој проблем е клучно за идните генерации развивачи и истражувачи на вештачка интелигенција. За да се осигураме дека технологијата ќе продолжи да служи како позитивен инструмент за општественото добро, потребно е интензивирање на соработката меѓу технолошките компании, владините институции, академската заедница и невладините организации. Ова ќе овозможи креирање на политики кои ќе го заштитат правото на приватност, слобода и еднаквост на сите корисници, спречувајќи ширење на потенцијалните штетни ефекти кои може да ги предизвикаат пристрасностите во алгоритмите. Како што AI технологијата продолжува да напредува, пред нас стои голема одговорност, не само да ги подобриме алатките, туку и да осигураме дека тие ќе придонесат за унапредување на човечките права и подобро, поеднаково општество. Единствено преку критички пристап и социо-етички размислувања ќе се создадат технологиите кои ќе работат за сите, а не само за некои. 8. Библиографија ● Buolamwini, J., & Gebru, T. (2018). Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. Proceedings of Machine Learning Research. ● Crawford, K. (2021). Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. Yale University Press. ● Floridi, L., Cowls, J., Beltrametti, M., Chatila, R., Chazerand, P., Dignum, V., ... & Vayena, E. (2018). AI4People-An Ethical Framework for a Good AI Society: Opportunities, Risks, Principles, and Recommendations. Minds and Machines, 28(4), 689-707. ● Hoy, M. B. (2018). Alexa, Siri, Cortana, and More: An Introduction to Voice Assistants. Medical Reference Services Quarterly, 37(1), 81-88. ● Lakoff, R. (1975). Language and Woman's Place. Harper & Row. ● Leavy, S. (2018). Gender bias in artificial intelligence: The need for diversity and gender theory in machine learning. ● Wajcman, J. (2010). Feminist theories of technology. Cambridge Journal of Economics, 34(1), 143-152. ● West, S. M. (2019). Discriminating Systems: Gender, Race, and Power in AI. AI Now Institute. ● Crenshaw, K. (1989). Demarginalizing the Intersection of Race and Sex: A Black Feminist Critique of Antidiscrimination Doctrine. University of Chicago Legal Forum. AI четботови и родови стереотипи: како дигиталните асистенти го рефлектираат (или предизвикуваат) полотАвтор Давид Мицевски 1. Вовед Вештачката интелигенција (AI) претставува еден од најбрзорастечките технолошки напредоци во 21 век, која го трансформи

Блог

AI четботови и родови стереотипи: како дигиталните асистенти го рефлектираат (или предизвикуваат) полот

Автор Давид Мицевски 1. Вовед Вештачката интелигенција (AI) претставува еден од најбрзорастечките технолошки напредоци во 21 век, која го трансформира начинот на живеење, работа и комуникација. Една од најпопуларните и најдиректно достапни апликации на AI се дигиталните асистенти и четботи, софтверски програми кои овозможуваат интеракција преку природен јазик, овозможувајќи им…
Блог

Примената на вештачка интелигенција за промовирање родова еднаквост во образованието

Авторка Ангела Јованоска Вовед Во последните години, вештачката интелигенција (AI) стана неизбежен дел од модерното општество и сѐ повеќе се применува во различни сфери, вклучително и образованието. Истовремено, родовата еднаквост останува глобален предизвик, особено во СТЕМ областа (наука, технологија, инженерство и математика), каде жените и девојчињата често се недоволно застапени.…
Блог

Вештачката интелигенција и детекција на лажни вести преку машинско учење

Автор Александар Јованчов 1.Вовед Живееме во една дигиталната ера на комуникација. Информациите се шират со огромна брзина и се достапни насекаде во секаков формат со само еден клик. Социјалните мрежи, порталите и мобилните апликации овозможуваат секој поединец да биде запознаен со најразлични вести но исто така и да биде и…
Блог

Образовниот систем како клучен фактор за вклучување на девојчињата во СТЕМ: предизвици и можности

Авторка Верица Чочоровска 1.Вовед Во последните децении, светот се соочува со забрзан технолошки развој и растечка потреба за кадар во областите на науката, технологијата, инженерството и математиката – познати како СТЕМ (анг. STEM – Science, Technology, Engineering, Mathematics). СТЕМ областите се водичи на иновациите,и решавањето на клучни глобални проблеми како…
Блог

Феминистички перспективи на вештачката интелигенција, Родова пристрасност, етика и технолошка трансформација

Автор Глигор Костов Вовед: Кога технологијата не е неутрална Во светот во кој вештачката интелигенција (ВИ) сѐ повеќе го обликува секојдневието – од алгоритми за вработување до гласовни асистенти – се наметнува прашањето: Може ли машината да биде родово свесна? Ова прашање не е само техничко, туку длабоко политичко…
Блог

Родова пристрасност во вештачката Интелигенција: како алгоритмите ја учат нееднаквоста

Автор Јана Трпковска 1. Апстракт Вештачката интелигенција (ВИ) во денешно време е интегрирана во секој аспект од нашите животи, од работа, здравство до безбедност и интернет комуникација. Покрај тоа што е претставена како објективна и непристрасна, ВИ зависи од податоците и социјалната средина во која таа е создадена. Овој труд …
Блог

Како технологијата влијае на перцепцијата на женската убавина

Исидора Алексиќ 1. Вовед Со секој изминат ден, технологијата се повеќе напредува, а ние, луѓето, се подлабоко навлегуваме во дигиталниот свет. Дигиталниот свет не се состои само од електронски уреди, туку и од сето она што тие го носат со себе. Несомнено е дека технологијата значително го олесни нашиот…
Блог

Најуспешните геј мажи во ИТ индустријата

Васил Тасев Вовед Креативноста игра многу важна улога во ИТ индустријата, иако често се смета дека ова поле е исклучиво техничко. Додека програмирањето, развојот на системи и управувањето со податоци се потпираат на логика и структура, токму креативното размислување е тоа што го движи ИТ светот напред. Во оваа индустрија…
Блог

Родова пристрасност во генеративни алатки базирани на вештачка интелигенција: ChatGPT, DALL·E и Stable Diffusion

Искра Марковска Генеративната вештачка интелигенција (ВИ) претставува група од системи способни да создаваат нови содржини, како текст, слики, музика или видеа, врз основа на шеми и шаблони научени од големи бази на податоци. Модели како ChatGPT, DALL·E и Stable Diffusion се сè почесто користени од различни индустрии, од маркетинг и…
Блог

Дизајн на AI асистенти: Дали родово-неутрален дизајн би бил попрактичен?

Раде Перовановиќ 1. Вовед Секојдневните технологии кои се базирани на вештачка интелигенција (AI) стануваат се повеќе присутни во нашите животи. Од паметните телефони до домашните асистенти, како што се Siri, Google Assistant и Amazon Alexa, овие системи ги користиме за да ја олесниме комуникацијата со технологијата и да ги извршуваме…
Блог

Подигнување на свеста за родова еднаквост преку дигитални медиуми и социјални мрежи

Анастасија Ангелова 1. Вовед Родовата еднаквост е фундаментално човеково право и камен-темелник на праведно и инклузивно општество. Таа нагласува еднакви можности, права и одговорности за поединците, без оглед на полот. Постигнувањето на родова еднаквост е од суштинско значење за социјалниот, економскиот и културниот напредок на секоја нација, бидејќи им …
Блог

Вештачката интелигенција и нејзината моќ во детекција и решавање на родовата нееднаквост при процесот на вработување

Теодора Богдановска 1. ВОВЕД Светот во кој живееме денес е брз и неизвесен, свет во кој преовладува технологијата и во кој развојот и напредокот се движат со брзина на светлината. Светот е судир на спротивности и различности, но полека станува и судир на она што го правиме ние самите и…
Блог

Дизајнирање на инклузивни ВИ системи: Од податоци до корисничко искуство

Мила Стаматовска Инклузивните вештачки интелектуални (ВИ) системи претставуваат технологија дизајнирана да ги надмине структурните нееднаквости и да обезбеди фер исход за сите корисници. Во ерата на дигитална трансформација, ВИ влијае на секој аспект на современото општество – од здравствената нега до образованието, регрутирањето на персонал и кривичното право. Сепак, неговиот…
Блог

Примената на ИКТ во едукацијата на младите генерации

Росица Темелкпска Вовед Живееме вп 21–пт век, време кпга вп целипт свет секпјдневнп се случуваат брзи прпмени прппратени сп прпнајдпци и трансфпрмации пд аспект на брз техничкп технплпшки развпј. Вп секпј сегмент пд чпвечкипт живпт и вп функципнираоетп на сите системи и пптсистеми вп ппштественптп делуваое се наметнува пптребата пд …
Блог

Откривање и ублажување на родова пристрасност во системи за вработување водени од вештачка интелигенција

Матеја Николиќ 1. Вовед Во последните години, вештачката интелигенција (AI) станува се поважен дел од секојдневниот живот и бизнис процесите. Со нејзиното зголемено користење, особено во областа на човечки ресурси и автоматизирано вработување, се јавуваат сериозни прашања за правичност, транспарентност и еднаквост. Еден од клучните предизвици е родовата не еднаквост.…
Блог

Вештачка интелигенција во медицината

Христина Стојкоска Вовед Вештачка интелигенција (ВИ) е интелигенција претставена од машини и софтвер и е гранка од компјутерската наука која развива машини и софтвер со интелигенција. Најголемите истражувања како и објавените трудови за ВИ истата ја дефинираат како проучување и дизајн на интелигентен агент, каде под интелигентен агент се подразбира систем способен…
Блог

Вештачката интелигенција против родовата цитатна нееднаквост

Нина Манасиевска Вовед Цитатната нееднаквост меѓу половите претставува длабоко вкоренет системски проблем во современиот академски свет. Иако бројот на жени во научните истражувања постојано расте, нивните трудови продолжуваат да бидат недоволно цитирани. Оваа дисропорција е особено изразена во STEM областите (наука, технологија, инженерство и математика), каде што истражувачките трудови на…
Блог

Жените во стем и издавачкиот јаз: борба за еднаква застапеност

Антоанета Јорданова 1. ВОВЕД Жените опфаќаат скоро половина од светскиот СТЕМ кадар и значително придонесуваат за развојот на науката, технологијата, инженерството и математиката (Global STEM Workforce, 2023). Но, и покрај значителниот придонес на жените во СТЕМ, тие и понатаму се недоволно застапени на високи позиции. Иако стапките на дипломирање меѓу…
Блог

Улогата на вештачката интелигенција во контекст на родовата еднаквост

Стефан Балоски Во последните неколку години, вештачката интелигенција станува се поголем и поголем дел од нашето секојдневие. Ја користиме за одговори на секакви прашања, различни препораки за исхрана, музика, филмови итн. Може да се каже дека таа е веќе дел од нашиот живот како една помошна алатка која е тука…
Блог

Развој на AI модели за автоматско идентификување на говор на омраза на социјалните мрежи

Кристина Каранфилова Вовед Во денешно време, социјалните мрежи станаа неизоставен дел од секојдневната комуникација, поврзувајќи милијарди луѓе ширум светот. И покрај многубројните предности, овие платформи честопати претставуваат плодна почва за негативни феномени, меѓу кои посебно се истакнува говорот на омраза. Говорот на омраза, во своите различни форми и манифестации, претставува…