Користење на вештачката интелигенција (AI) за унапредување на родовата еднаквостЕмоционална интелигенција кај вештачка интелигенција и родови стереотипи: Како да се избегне „емпатична“ пристрасност? Кире Тасев 1. Вовед Вештачката интелигенција одамна не е само дел од научна фантастика. Денес, таа е дел од нашето секојдневие – во телефоните, апликациите, образованието и дури и во процесите на донесување одлуки. Особено ме фасцинираше моментот кога дознав дека постојат AI модели кои можат да препознаат емоции. Ме натера да се запрашам – дали навистина можат да нè разберат? И дали некои од нас се погрешно разбрани, само затоа што се жени, мажи или не се вклопуваат во класичните категории? Оваа работа е мој обид да го разгледам тоа прашање: што се случува кога технологијата што треба да биде „неутрална“ всушност ја носи со себе нашата сопствена пристрасност? Особено кога станува збор за родовите стереотипи – нешто што е длабоко вкоренето во нашето општество. Еден аспект што е особено важен, но често игнориран, е како AI реагира на нашите емоции и дали го прави тоа праведно и еднакво кај сите луѓе. Во продолжение, ќе се обидам да го истражам концептот на емоционална интелигенција кај вештачката интелигенција, како таа функционира, кои предности ги нуди, но и какви ризици носи. Посебно внимание ќе посветам на тоа како се јавува таканаречената „емпатична пристрасност“ – и што можеме да направиме за да ја избегнеме. 3 2. Емоционална интелигенција кај AI: Основи и можности AI што разбира емоции звучи како научна фантастика, но веќе постои. Системи што можат да препознаат дали некој е тажен, лут или радосен – преку изрази на лицето, тон на глас или дури и текст што го пишуваме. На пример, некои апликации што се користат во образованието или за психолошка поддршка можат да анализираат како се чувствуваш и да предложат содржини врз основа на тоа. Постојат AI асистенти кои реагираат поразлично ако детектираат дека си лут или фрустриран, а има и системи што се користат во интервјуа за работа кои анализираат микропромени во изразите на лицето. Оваа технологија има потенцијал за многу добра примена – особено во области каде емпатијата игра важна улога. На пример, AI може да помогне при навремено откривање на ментални нарушувања, да понуди поддршка при онлајн учење или дури и да помогне лекарите во проценка на психолошката состојба на пациентите. Но, сите овие системи зависат од тоа колку податоците врз кои се обучени се точни, балансирани и репрезентативни за сите групи луѓе – независно од пол, етничка припадност, возраст или културен контекст. 4 3. Родови стереотипи во AI модели Моделите учат од податоците, а податоците ги даваат луѓето. Ние луѓето, колку и да сакаме да сме објективни, не сме. Во многу случаи, жените низ историјата биле прикажувани како послаби, понежни, емотивни. Мажите како силни, рационални, стабилни. Ако AI моделот учи од вакви текстови и примери, што мислиме дека ќе заклучи? Овие пристрасности не се ограничени само на текст. Тие се појавуваат и кај алгоритмите за препознавање на лице, синтетички гласови и дури во препораките на видеа и содржини на социјални мрежи. Еден проблем е што жените често се претставени како помалку способни во техничките професии, па ако моделот се користи за предвидување на успех на студенти во СТЕМ области, може несвесно да им дава предност на мажи. Дополнително, многу бази на податоци сè уште ги игнорираат трансродовите и небинарните лица. Тоа значи дека тие се или погрешно категоризирани или целосно отстранети, што води до понатамошна маргинализација. AI системите треба да препознаваат разновидноста на родовите идентитети – но за тоа да се случи, мора да бидат свесно дизајнирани така. 5 4. „Емпатична“ пристрасност и последици Замислете сценарио: апликација за ментално здравје зборува со корисничка и вели: „Звучи како да си анксиозна.“ Но истото однесување кај маж – моделот го толкува како „замор“. Тоа е „емпатична пристрасност“ – кога емпатијата е нерамномерно распределена. Овој феномен не е само теоретски. Има реални последици. Ако некој систем што се користи за интервјуа при вработување повеќе го толерира стресот кај мажи, а кај жени го интерпретира како емоционална нестабилност, тоа директно влијае на шансите за добивање работа. Истото важи и во образованието – каде учител или AI систем за оценување ќе третира девојчиња како премногу чувствителни, додека момчињата со иста емоционална експресија ќе ги смета за храбри. Дури и во здравството, постојат случаи каде што жалбите на жените за болка биле интерпретирани како психолошки проблем, додека кај мажите веднаш се проверувале за физичко заболување. Кога овие модели се користат во дигитални здравствени системи, тие несвесно продолжуваат со ваквиот шаблон. 5. Примери од истражувања Иако темата можеби звучи теоретски, има реални докази. Студијата „Gender Shades“ покажала дека системите за препознавање на лица биле многу попрецизни 6 за бели мажи отколку за жени со потемна кожа. Тоа не е само технички проблем – тоа значи дека некој може да биде погрешно идентификуван или дури игнориран. Во едно истражување од Stanford AI Ethics Lab, се покажало дека модели за препознавање емоции почесто толкувале женски лица како „тажни“ дури и кога биле неутрални. Машките лица со исти изрази биле класифицирани како „решителни“. Ова не е мала разлика – тоа е доказ дека родовите стереотипи се вградени и се манифестираат дури и кога не сме свесни за нив. Во реалниот свет, компанијата Amazon развила алгоритам за регрутација кој несвесно почнал да фаворизира машки кандидати, бидејќи податоците за успешни кандидати во минатото биле главно машки. Веднаш штом е забележан проблемот, алгоритмот бил повлечен. Но тоа покажува колку е лесно пристрасноста да се „вметне“ во машината. 6. Решенија и препораки Ова не е проблем што нема решение. Само бара повеќе труд и свест. Прво – моделите мора да се тренираат со поразновидни податоци. Не може само еднотипни примери. Второ – треба да има луѓе од различни профили во тимовите што ги создаваат овие модели. Не само инженери, туку и социолози, експерти за родови студии, психолози. Понатаму, мора да се воведе обврска за тестирање на пристрасност. Пред некој модел да се пушти во употреба, да се провери како реагира на различни групи луѓе. 7 Ако има разлики – да се прилагоди. Исто така, потребна е поголема транспарентност – корисниците имаат право да знаат како се донесуваат одлуки, кои податоци се користат и какви механизми има за приговор. Образовниот систем треба да ја вклучи оваа тема во наставата – особено во предметите поврзани со ИКТ, социологија, граѓанско образование. Ако младите разберат како функционираат овие системи, ќе бидат поосвестени и ќе можат да бараат праведни решенија. 7. Заклучок AI не е магија. Тоа е само алатка што учи од нас. Ако сакаме да биде праведна, мора да ѝ дадеме праведни податоци и критички умови што ќе ја водат. „Емпатичната пристрасност“ не е некаква софтверска грешка – тоа е огледало на нашите стереотипи. Но, токму затоа, може и да се поправи. Темата е многу поширока отколку што изгледа на прв поглед. Од здравството, образованието, па сѐ до секојдневна комуникација – ако не сме внимателни, AI може да го реплицира и зајакне токму она што сакаме да го надминеме: дискриминацијата и нееднаквоста. Верувам дека со свест, едукација и инклузивност – можеме да ја користиме оваа технологија како средство за подобрување, а не за исклучување. Затоа е важно да не 8 ја прифаќаме како готова и неутрална, туку да ја градиме свесно, внимателно и со мисла на сите што ќе ја користат. 8. Користена литература • Buolamwini, J., & Gebru, T. (2018). Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. • UNESCO (2023). AI and Education: Guidance for policy-makers. • West, M., Kraut, R., & Ei Chew, H. (2022). Emotion Recognition Bias in AI. • O'Neil, C. (2016). Weapons of Math Destruction. • Crawford, K. (2021). Atlas of AI. • Stanford AI Ethics Lab (2021). Gendered Interpretations in Facial Emotion Recognition. • World Economic Forum (2022). The Future of Jobs Report. • European Commission (2022). Gender and AI in Digital Education.9 10 Емоционална интелигенција кај вештачка интелигенција и родови стереотипи: Како да се избегне „емпатична“ пристрасност? Кире Тасев 1. Вовед Вештачката интелигенција одамна не е само дел од научна фантастика. Денес, таа е дел од нашето секојдневие

Блог

Емоционална интелигенција кај вештачка интелигенција и родови стереотипи: Како да се избегне „емпатична“ пристрасност?

Кире Тасев 1. Вовед Вештачката интелигенција одамна не е само дел од научна фантастика. Денес, таа е дел од нашето секојдневие – во телефоните, апликациите, образованието и дури и во процесите на донесување одлуки. Особено ме фасцинираше моментот кога дознав дека постојат AI модели кои можат да препознаат емоции. Ме…
Блог

Жените во светот на вештачка интелегенција: Предизвици, можности и иднина

Миа Стевковска Вовед Во последните години, вештачката интелегенција (ВИ) станува се поважна во различни области на нашето општество. Од здравство до финансии, од автомобилска индустрија до забава, ВИ го менува начинот на кој живееме и работиме. Сепак, учеството на жените во оваа област е се уште ограничено. Оваа семинарска работа…
Блог

“Родова застапеност во развојот на софтвер”

Марија Милева Вовед Родовата застапеност во развојот на софтвер е тема која сè повеќе привлекува внимание во технолошката индустрија, бидејќи дигитализацијата и технолошкиот напредок играат клучна улога во модерното општество. И покрај значителниот напредок во последните децении и зголемените иницијативи за поттикнување на жените да се вклучат во STEM (наука,…
Блог

Инклузивност во ICT индустријата: Поддршка на жените и помалку застапените групи

Ирена Станчева Вовед Верувањето во еднакви права и пристап до можности и ресурси за сите е суштинска основа за зајакнување на жените и која придонесува за значителен напредок во постигнувањето на родовата еднаквост. Родовата еднаквост признава дека секој поединец, без разлика на полот, заслужува фер и правичен третман и дека…
Блог

Улогата на вештачката интелигенција во борбата против онлајн вознемирување и дискриминација базирана на род

Ајла Зенуни 1.Вовед Дигиталниот простор, иако создаден како демократска платформа за слободна комуникација, со тек на време се трансформираше во арена каде што родовите нееднаквости и предрасуди честопати се репродуцираат и засилуваат. Онлајн вознемирувањето и дискриминацијата базирана на род станаа алармантни појави што ги засегаат милиони корисници, особено жените и…
Блог

„Од Марс и Венера до мобилна апликација: Модерен пристап за учење за другиот пол“

Андреа Настевска Вовед Во денешното динамично општество, кое постојано се трансформира под влијание на нови технологии, човечките односи сè уште остануваат најкомплексниот дел од секојдневното живеење. Иако живееме во ера на напредна комуникација – каде што размената на информации е моментална, глобална и непречена – неразбирањето меѓу мажите и жените, …
Блог

Вештачка интелигенција: Благослов или клетва?

Ева Тончевска 1. Апстракт Во овој труд е разгледана вештачката интелигенција како потенцијален благослов, но и можна клетва, зависно од тоа како се управува и користи истата. Од самиот почеток на трендот на вештачката интелигенција па до денес сведоци сме на еден силен и брз раст, развој на оваа…
Блог

„Пристрасност во алгоритмите: Како AI може да ја одржи или влоши родовата нееднаквост“

Кирил Цветаноски Апстракт Во последните децении, вештачката интелигенција се појави како револуционерна технологија со потенцијал да го трансформира секој аспект од човечкото живеење. Сепак, и покрај технолошките придобивки, се појавуваат сериозни прашања околу пристрасноста вградена во AI-системите, особено во однос на родовата еднаквост. Оваа семинарска работа истражува како алгоритмите на…
Блог

Родови разлики во „онлајн хејтот“ и говорот на омраза во дигиталниот свет

Ведран Цингарски 1. Вовед Со зголемената дигитализација на комуникацијата, интернетот стана простор каде што говорот на омраза се шири со невидена брзина. Социјалните мрежи, форуми и платформи за размена на мислења овозможуваат анонимност и брзо ширење на дезинформации и навредливи содржини. Иако сите корисници можат да бидат жртви на онлајн…
Блог

Optimus Alpha

A powerful foundation model — optimized for general tasks and exceptional for coding. According to OpenRouter, Optimus Alpha AI is a prerelease of a long-context foundation model from a partner lab, featuring a massive 1 million token context window—optimized for coding but also effective for general tasks.
Блог

Влијанието на генеративната вештачка интелигенција врз самодовербата кај девојчиња кои креираат дигитална уметност

Љупче Нелкоски Вовед Во последната деценија, генеративната вештачка интелигенција (gen-AI) станува сѐ позначаен фактор во областа на дигиталната уметност. Алатки како DALL·E, Midjourney, Artbreeder и RunwayML овозможуваат создавање на визуелна уметност без потреба од традиционални уметнички вештини. Иако ова може да отвори нови хоризонти за младите креатори, поставува и низа…
Блог

Застапеноста на родовата еднаквост во ИКТ секторот на Блискиот Исток

Љубомир Николов Вовед Денес живееме во време кога технологијата се развива побрзо од кога било.Во регионот на Блискиот Исток, оваа дигитална трансформација го менува општеството, економијата и секојдневието.Но, додека новите технологии носат многу нови можности, не сите имаат еднаков пристап до нив.За жал, жените во овој регион често се оставени…
Блог

Родова пристрасност во вештачката интелигенција: Мит или реалност

Петар Атанасовски Вовед Вештачката интелигенција (AI) и машинското учење претставуваат едни од најзначајните напредоци во технологијата во последните години. Овие технологии се користат во различни области, како што се здравство, финансиите, образованието, па дури и во автоматизираните системи за препознавање лица. Меѓутоа, со развојот на AI, се појавуваат нови прашања,…
Блог

Значењето на СТЕМ кај децата

Ива Гоческа ВОВЕД Зборот СТЕМ во буквална смисла значи наука, технологија, инженерство и математика. Може да ги инкорпорира сите овие дејности во едно, но може и да се проучуваат посебно како своја целина. СТЕМ работи на проекти и проучувања кои се залагаат за проучување и решавање на глобални проблеми како…
Блог

Родовата еднаквост во вештачката интелигенција: Кој ги креира интелигентните машини?

Ѓеоргина Лештова Вовед Во последните децении, вештачката интелигенција (ВИ) се развива од научна фантастика во реалност која сѐ повеќе го обликува секојдневниот живот. Од паметни телефони и виртуелни асистенти, до системи за препознавање лице и автоматизирани процеси во индустријата – вештачката интелигенција има моќ да го трансформира начинот на…
Блог

Улогата на вештачката интелигенција во промовирањето на родовата еднаквост

Ивана Котевска ВоведВо ера кога вештачката интелигенција сè повеќе ги обликува општествените одлуки и резултати, нејзината улога во промовирањето или попречувањето на родовата еднаквост станува клучна тема за истражување. Овој труд тврди дека, иако ВИ има потенцијал да ја унапреди родовата еднаквост преку непристрасно донесување одлуки и создавање нови можности,…
Блог

Llama 4 AI

Серијата Llama 4 воведува четири нови модели: Scout, Maverick, Behemoth и претстојниот модел посветен на логичко расудување, што се очекува да биде претставен наскоро. Овој стратешки потег ја потенцира посветеноста на Мета за зајакнување на својата позиција во арената со отворен модел, особено како одговор на импресивните перформанси на кинеските…
Блог

Улогата на жените во обликувањето на иднината на вештачката интелигенција

Томче Темелкоски Вовед Во последните неколку децении, вештачката интелигенција (ВИ) брзо се развива и станува неизоставен дел од нашето секојдневие. Сепак, учеството на жените во оваа област останува значително пониско во споредба со мажите. Овој труд ги истражува улогата и придонесот на жените во развојот на ВИ, предизвиците со кои…
Блог

ЛГБТK+ идентитети и користење Вештачка Интелигенција за нивно разбирање

Јакимовски Дончо Вовед ЛГБТК+ е кратенка која се почесто се користи современото општество во кое живееме. Иако многу од луѓето мислат дека се работи за нов термин, концептот наа различни сексуални ориентации и идентитети има корени кои датираат уште од пред 20ти век низ повеќе цивилизации. Секоја буква во оваа…
Блог

Како вештачката интелигенција влијае врз вработувањето и иднината на работата?

Данче Дончева Таа напредува со невидена брзина и е една од најголемите изуми на човечкиот век која има огромно влијание врз сите аспекти од животот, а таа се нарекува вештачка интелигенција. Денес она што е сигурно е тоа дека нејзиното влијание значително се зголемува и на многумина работните позиции им…