Користење на вештачката интелигенција (AI) за унапредување на родовата еднаквост во академските истражувањаРазвој на AI модели за автоматско идентификување на говор на омраза на социјалните мрежи Кристина Каранфилова Вовед Во денешно време, социјалните мрежи станаа неизоставен дел од секојдневната комуникација, поврзувајќи милијарди луѓе ширум светот. И покрај многубројните предности, овие платформи честопати претставуваат плодна почва за негативни феномени, меѓу кои посебно се истакнува говорот на омраза. Говорот на омраза, во своите различни форми и манифестации, претставува сериозна закана за поединечната благосостојба и кохезијата на општеството во целина. Тој може да биде насочен кон индивидуи или групи врз основа на нивната раса, етничка припадност, религија, пол, сексуална ориентација, попреченост или други лични карактеристики, создавајќи атмосфера на страв, непријателство и дискриминација. Негативните последици од говорот на омраза се многубројни, вклучувајќи психолошки трауми за жртвите, ескалација на насилство во реалниот свет и поткопување на демократските вредности на толеранција и почитување на различностите. Со експлозивниот раст на корисници и содржини на социјалните мрежи, рачната модерација на говорот на омраза станува речиси невозможна задача. Огромниот обем на податоци генерирани секојдневно ги надминува капацитетите на човечките ресурси за ефикасно откривање и отстранување на штетната содржина. Во овој контекст, развојот на автоматизирани системи за идентификација на говор на омраза се наметнува како неопходно решение. Вештачката интелигенција (AI), со своите способности за анализа на големи количини на текст и препознавање на сложени обрасци, нуди потенцијал за значително подобрување на ефикасноста и брзината на откривањето и справувањето со говорот на омраза на социјалните мрежи. Што е говор на омраза? Говорот на омраза се дефинира како „јавно изразување кое се заканува, навредува, понижува, дискриминира или поттикнува насилство или нетрпеливост кон поединци или 3 групи врз основа на нивната раса, боја на кожа, етничка припадност, национално потекло, религија, пол, сексуална ориентација, родов идентитет, попреченост или која било друга лична карактеристика“. Оваа дефиниција ги нагласува клучните елементи на говорот на омраза, вклучувајќи го јавниот карактер на изразувањето и основата на која се врши дискриминацијата или поттикнувањето на нетрпеливост. Елементите кои го конституираат говорот на омраза честопати вклучуваат: • Намера: Иако не секогаш лесно докажлива, намерата на авторот да промовира омраза или дискриминација е важен аспект. Сепак, дури и без директна намера, изразите можат да имаат штетни последици и да се квалификуваат како говор на омраза поради нивното влијание. • Целна група: Говорот на омраза е насочен кон специфични поединци или групи идентификувани според нивните заштитени карактеристики. • Потенцијал за штета: Изразите кои претставуваат говор на омраза имаат потенцијал да предизвикаат психолошка штета, да го поттикнат насилството и дискриминацијата и да ја нарушат социјалната кохезија. На интернет, говорот на омраза може да се манифестира во различни форми, вклучувајќи: • Директни навреди: Употреба на погрдни зборови, етикети и навреди насочени кон одредени групи. • Закани: Изразување на намери за причинување штета или насилство врз основа на припадност на одредена група. • Стереотипизирање: Претставување на цели групи на луѓе со негативни и генерализирани карактеристики, честопати водејќи кон предрасуди и дискриминација. • Дехуманизација: Третирање на членовите на одредена група како помалку вредни или нечовечки, што може да го оправда насилството и угнетувањето. • Поттикнување на насилство: Јавно повикување или оправдување на насилство врз основа на припадност на одредена група. 4 • Ширење на лажни информации и теории на заговор: Конструирање и дистрибуирање на невистинити тврдења кои ги демонизираат или оцрнуваат одредени групи. Улогата на AI и ML во детекција на говор на омраза Со енормниот пораст на генерираниот текстуален контент на социјалните мрежи, традиционалните методи за модерација на содржина, кои се потпираат на човечки оператори, се соочуваат со сериозни ограничувања. Огромниот обем на податоци го прави речиси невозможно ефикасно и навремено да се идентификува и отстрани говорот на омраза. Вештачката интелигенција (AI) се појавува како клучна технологија која нуди решение за овој предизвик преку нејзината способност за автоматизирана анализа на големи количини на текстуални податоци во реално време. Основната предност на AI во контекст на детекција на говор на омраза лежи во нејзината скалабилност и брзина. AI системите можат да процесираат илјадници, па дури и милиони објави и коментари многу побрзо и поефикасно од човечките модератори. Ова овозможува побрзо идентификување и потенцијално отстранување на штетната содржина, минимизирајќи го нејзиното влијание врз корисниците и општеството. Развојот на AI модели кои се користат за детекција на говор на омраза е тесно поврзан со полето на машинското учење (ML). ML алгоритмите претставуваат основата на овие модели, овозможувајќи им да учат од претходно видени податоци и да донесуваат интелигентни одлуки за нови, непознати податоци. Во случајот со говорот на омраза, ML моделите се тренираат на големи збирки на текстови кои се рачно означени од експерти како „говор на омраза“ или „не е говор на омраза“. За време на овој процес на тренирање, моделот ги анализира лингвистичките карактеристики на текстовите, идентификувајќи обрасци, клучни зборови, фрази и синтаксички структури кои се поврзани со говорот на омраза. 5 Откако моделот ќе заврши со тренирањето и ќе постигне задоволителна точност, тој може да се користи за автоматска анализа на нови, невидени текстови од социјалните мрежи. Врз основа на научените обрасци, моделот може да предвиди дали дадениот текст содржи говор на омраза и да го класифицира соодветно. Оваа автоматизација значително ја намалува потребата од континуиран човечки надзор и овозможува поконзистентно спроведување на правилата за содржина на платформите. Понатаму, напредокот во областа на обработката на природен јазик (NLP) и длабокото учење (Deep Learning) овозможи развој на уште пософистицирани AI модели за детекција на говор на омраза. Овие понапредни модели се способни да ги разберат посложените аспекти на човечкиот јазик, вклучувајќи го контекстот, семантиката, па дури и имплицитното значење. Говорот на омраза честопати не е директен и може да користи суптилни форми на изразување, како што се сарказам, иронија, алузии или стереотипи кои бараат пошироко разбирање на контекстот за да бидат точно идентификувани. Моделите за длабоко учење, особено трансформаторските архитектури како BERT, покажуваат значително подобри перформанси во справувањето со овие лингвистички нијанси, што резултира со попрецизна и поефикасна детекција на говор на омраза на социјалните мрежи. Предизвици во развојот на AI модели за детекција на говор на омраза Развојот на AI модели за автоматско идентификување на говор на омраза на социјалните мрежи се соочува со неколку клучни предизвици: • Лингвистичка сложеност: Нијансите на јазикот, вклучувајќи сленг, иронија и контекст, го отежнуваат прецизното толкување од страна на AI. Спецификите на македонскиот јазик претставуваат дополнителна компликација. • Ограничени и небалансирани податоци: Собирањето на големи и репрезентативни корпуси на означени податоци за тренирање е тешко, а нивниот недостаток на баланс може да ги наруши перформансите на моделите. 6 • Субјективност на дефиницијата: Концептот на говор на омраза е субјективен и варира, што влијае на конзистентноста при означувањето и евалуацијата на моделите. • Динамична природа на говорот: Говорот на омраза е еволутивен, барајќи континуирано ажурирање и прилагодување на AI моделите. • Потреба за контекстуално разбирање: AI моделите честопати имаат потешкотии во интерпретацијата на значењето зависно од контекстот на комуникацијата. Познати AI модели за детекција на говор на омраза Во борбата против говорот на омраза на социјалните мрежи, вклучително и оној насочен кон родовите и ЛГБТКИ+ прашања, се користат различни AI модели. Еден од позначајните е BERT (Bidirectional Encoder Representations from Transformers) . Клучната предност на BERT е неговата способност да го разбере контекстот на зборовите во реченицата. Ова му овозможува да препознае навредливи или дискринирачки изрази кон одредени родови групи, дури и кога тие не се експлицитно такви, туку се базираат на суптилни стереотипи или дехуманизација. На пример, BERT може да научи да идентификува кога одредени зборови се користат за омаловажување на жени во одреден контекст. Сличен, но често и понапреден модел е RoBERTa (A Robustly Optimized BERT Pretraining Approach) . RoBERTa е подобрена верзија на BERT која е тренирана на поголеми количини на податоци, што му помага уште подобро да ги разбере нијансите на јазикот кои се користат во говорот на омраза насочен кон родовите и сексуалните малцинства. Други AI пристапи вклучуваат модели базирани на LSTM и GRU (Long Short-Term Memory и Gated Recurrent Units) . Овие модели се добри во анализа на низа зборови и можат да го следат развојот на мислата во подолг текст, што е корисно за идентификување на говор на омраза кој се протега низ повеќе коментари или објави. Тие можат да научат да препознаваат повторувачки навредливи обрасци или теми поврзани со родова нетолеранција. 7 Исто така, се користат и поедноставни модели за машинско учење како Naive Bayes или SVM (Support Vector Machines) . Иако можеби немаат толку софистицирано разбирање на контекстот како BERT и RoBERTa, тие можат да бидат ефикасни во идентификување на клучни зборови и фрази кои често се поврзуваат со говор на омраза кон одредени родови или сексуални групи. На пример, тие можат брзо да детектираат присуство на хомофобични или сексистички термини. Важно е да се нагласи дека успешноста на сите овие AI модели во детекција на говор на омраза поврзан со родовите прашања зависи од квалитетот и разновидноста на податоците на кои се тренирани. Моделите треба да бидат изложени на широк спектар на примери на говор на омраза специфични за родовите и ЛГБТКИ+ темите за да научат ефикасно да ги препознаваат. Континуираното истражување и подобрување на овие AI системи се клучни за создавање на побезбедни онлајн простори за сите. Етички и општествени дилеми при употреба на AI за детекција на говор на омраза Употребата на вештачка интелигенција (AI) за автоматско идентификување на говор на омраза на социјалните мрежи носи со себе значајни етички и општествени импликации кои бараат внимателно разгледување. Еден од клучните аспекти е балансот помеѓу борбата против говорот на омраза и заштитата на приватноста и слободата на говор . Додека целта на AI моделите е да го намалат присуството на штетна содржина и да создадат побезбеден онлајн простор, постои ризик од прекумерно филтрирање или погрешно идентификување на легитимни изрази како говор на омраза. Ова може да доведе до ограничување на слободата на говор на корисниците и потенцијално да ја задуши критиката или несогласувањето, особено во чувствителни области како што се родовите прашања и ЛГБТКИ+ правата, каде што дискурсот честопати е емотивен и може да биде погрешно протолкуван. Дополнително, собирањето и анализата 8 на големи количини на кориснички податоци за тренирање и имплементација на овие модели може да навлезе во приватноста на корисниците. Друга значајна грижа е пристрасноста на моделите (Bias) . AI моделите учат од податоците на кои се тренирани, и доколку овие податоци содржат историски или општествени пристрасности кон одредени групи (на пример, жени, ЛГБТКИ+ лица, етнички малцинства), моделот може да ги интернализира овие пристрасности. Ова може да резултира со неправедни резултати, каде што коментари од или за одредени групи се почесто означуваат како говор на омраза, дури и кога не се. Ова може да доведе до цензура на маргинализирани гласови и да ја засили постоечката нееднаквост во онлајн просторот. Транспарентноста и објаснивоста на моделите (Explainability) се исто така клучни етички прашања, особено кај комплексните модели за длабоко учење како BERT и RoBERTa. Честопати е тешко да се разбере зошто овие модели донеле одредена одлука - кои специфични зборови или фрази довеле до класификација на текстот како говор на омраза. Недостатокот на транспарентност го отежнува идентификувањето и коригирањето на потенцијалните пристрасности или грешки во моделот. Разбирањето на процесот на донесување одлуки е важно за градење доверба во AI системите и за обезбедување на нивната одговорност. Постои потенцијал за злоупотреба на AI алатките . Технологиите развиени за детекција на говор на омраза потенцијално можат да бидат искористени за цензура на легитимни политички или социјални дискусии, за манипулација на јавното мислење или за таргетирање на одредени групи со пропаганда или дезинформации. Затоа, од клучно значење е да се воспостават јасни етички насоки и регулаторни рамки за развој и имплементација на овие технологии, со цел да се минимизираат ризиците и да се обезбеди нивна одговорна употреба во служба на општествената правда и родовата еднаквост. Заклучок Говорот на омраза претставува сериозен општествен проблем со негативни последици врз поединци и групи, а автоматизираното откривање преку AI нуди потенцијал за справување со неговиот голем обем на онлајн платформите. 9 Анализата на постоечките AI модели, како што се BERT, RoBERTa, LSTM, GRU и традиционалните методи за машинско учење, покажа дека напредокот во областа на обработката на природен јазик (NLP) овозможува сѐ пософистицирано разбирање на контекстот и нијансите на човечкиот јазик, што е клучно за прецизна детекција на говор на омраза, вклучително и оние форми кои се насочени кон родовите и ЛГБТКИ+ прашањата. Исто така ги нагласи значајните предизвици кои го придружуваат развојот и имплементацијата на овие технологии. Лингвистичката сложеност, недостатокот на квалитетни и балансирани податоци за тренирање, субјективноста на дефиницијата за говор на омраза, неговата еволутивна природа и потребата за контекстуално разбирање остануваат значајни пречки за постигнување на совршена автоматизирана детекција. Понатаму, беше дискутирано за клучните етички и општествени дилеми поврзани со употребата на AI во оваа област. Балансот помеѓу борбата против говорот на омраза и заштитата на слободата на говор и приватноста на корисниците, потенцијалната пристрасност на моделите, потребата за транспарентност и објаснивост, како и ризикот од злоупотреба на овие технологии, бараат внимателно разгледување и воспоставување на етички насоки и регулаторни рамки. Во контекст на родовите студии, ефективната детекција на говор на омраза насочен кон жени, мажи и ЛГБТКИ+ лица е од особена важност за создавање на поинклузивен и побезбеден онлајн простор. Континуираниот развој на AI модели кои се чувствителни на специфичните форми и контексти на родово базиран говор на омраза е неопходен чекор кон постигнување на родова еднаквост и социјална правда во дигиталната сфера. 10 Референци : https://iks.edu.mk/attach/Govor-na-omraza-vo-mediumite-vo-Makedonija.pdf https://www.researchgate.net/publication/349296725_Challenges_of_Hate_Speech_Detection_in _Social_Media https://www.researchgate.net/publication/376368760_Review_of_Recent_Trends_in_the_Detect ion_of_Hate_Speech_and_Offensive_Language_on_Social_Media https://www.sciencedirect.com/science/article/pii/S0925231223003557 https://www.researchgate.net/publication/352081061_A_systematic_review_of_Hate_Speech_au tomatic_detection_using_Natural_Language_Processing https://blog.mdpi.com/2024/08/14/hate-speech-detection 11 Развој на AI модели за автоматско идентификување на говор на омраза на социјалните мрежи Кристина Каранфилова Вовед Во денешно време, социјалните мрежи станаа неизоставен дел од секојдневната комуникација, поврзувајќи милијарди лу

Блог

Развој на AI модели за автоматско идентификување на говор на омраза на социјалните мрежи

Кристина Каранфилова Вовед Во денешно време, социјалните мрежи станаа неизоставен дел од секојдневната комуникација, поврзувајќи милијарди луѓе ширум светот. И покрај многубројните предности, овие платформи честопати претставуваат плодна почва за негативни феномени, меѓу кои посебно се истакнува говорот на омраза. Говорот на омраза, во своите различни форми и манифестации, претставува…
Блог

Родова пристрасност во професионални контексти во вештачката интелигенција: Истражување на малите LLaMA јазични модели

Дејан Ристовски Abstract— Генеративната вештачка интелигенција и големите јазични модели имаат видено значителен напредок во последните неколку години. Додека повеќето модели со 70B+ параметри се во главниот фокус на истражувања, моделите со помалку параметри се значително изоставени. Како што големите јазични модели се интегрираат во интелигентни апликации и процеси наменети…
Блог

Родовата еднаквост во ИТ секторот во Македонија

Тео Вронделиев Вовед Родовата еднаквост претставува еден од темелните принципи на праведно и инклузивно општество. Во современиот свет, каде што технологијата е главен двигател на економскиот и социјалниот развој, вклученоста на жените во информатичко-технолошкиот (ИТ) сектор станува од клучно значење. ИТ индустријата, како една од најбрзо растечките глобални економии, нуди…
Блог

Надминување на стереотипите за родова еднаквост со користење на Вештачка интелигенција

Александар Гулабоски Вовед Во современото општество, борбата за родова еднаквост сè уште претставува значаен предизвик. И покрај напредокот во законодавството, образованието и јавната свест, стереотипите поврзани со родот и понатаму се присутни во секојдневниот живот. Овие стереотипи често создаваат ограничувања, неправедни очекувања и дискриминација, особено кон жените, но и кон…
Блог

Вклучување на родова еднаквост во образованието за ИКТ и програмирање

Филип Бојаровски Вовед Во современото општество, информациските и комуникациските технологии (ИКТ) и програмирањето стануваат сѐ поважен дел од секојдневниот живот, образованието и економијата. Сепак, и покрај растечкиот интерес за дигитална писменост и технолошки вештини, постои значителен јаз меѓу половите во пристапот, учеството и мотивацијата на учениците, особено кај девојчињата. …
Блог

Вештачката интелигенција во регрутација: родова еднаквост и борба против пристрасноста

Јана Стојковска Вовед Вештачката интелигенција (ВИ) претставува област на технологијата која се занимава со создавање на програми способни да извршуваат задачи кои традиционално го захтеваат човечкото размислување. Ова вклучува функции како учење, планирање, резонирање и решавање на проблеми. Во основа, ВИ е симулација на човечката интелигенција од страна на машини,…
Блог

Вештачката интелигенција во образованието: Помош за учење или пат до мрзеливост?

Симеон Чаушевски 1. Вовед Во последниве години, вештачката интелигенција(ВИ) брзо влегува во образовниот процес. Според УНЕСКО, до 2022 година само 15 земји вклучиле учење на вештачката интелигенција во своите национални наставни програми. Оваа статистика покажува колку е ново присуството на AI во образованието, но станува се покористено од страна на учениците,…
Блог

Пристап до AI алатки: Родови разлики во користење на технологија

Истражување дали девојчињата и момчињата имаат еднаков пристап и искуство со образовни AI алатки Даниел Пазаркоски 1. Вовед Современиот образовен систем сè повеќе се потпира на технологијата како алатка за унапредување на наставата и учењето. Во тој контекст, вештачката интелигенција (AI) се издвојува како еден од најиновативните и најпотенцијалните…
Блог

Улогата на политиките за различност во технолошките компании

Александра Здравевска Овој проект ја истражува значајноста, имплементацијата и влијанието на политиките за различност во технолошкиот сектор. Се анализира како ваквите политики влијаат врз културата на работното место, иновациите и успешноста на компаниите. Преку преглед на литература, студии на случај и анализа на податоци, трудот ги прикажува најдобрите практики и…
Блог

AI хардвер стартапи: Дали женските претприемачи добиваат поддршка?

Никола Ѓешовски Вовед Во последните децении, вештачката интелигенција (ВИ) стана централна технологија која го трансформира општеството, економијата и секојдневниот живот. Една од клучните компоненти на оваа технолошка револуција е развојот на хардверски решенија, особено чипови дизајнирани за оптимално извршување на AI алгоритми. Oтпочнување на сопствен бизнис е еден од клучните…
Блог

Вештачката интелигенција против насилството: унапредување на родовата еднаквост со користење на интелигентни системи

Стефани Ефтимовска I. Вовед Во дигиталната ера, каде што технологијата игра сѐ поцентрална улога во секојдневниот живот, најзиното влијание врз општествените проблеми станува сѐ поочигледно. Еден од најзагрижувачките општествени предизвици претставува родовото базирано насилство, особено насилството врз жените. И покрај долгата децениска борба за родова еднаквост и имплементација на законски…
Блог

Заслуги наспроти овластувања: Влијанието на иницијативите за различности врз вработувањето во IT индустријата и иновациите

Дејан Илоски Дејан Илоски Информациско-технолошката (IT) индустрија, како еден од најбрзо растечките сектори во глобалната економија, долго време како една од карактеристиките ја истакнува родовата нерамнотежа, при што мажите доминираат во техничките улоги, додека жените остануваат значително помалку застапени. Оваа диспропорција можеби не е само одраз на историските општествени норми,…
Блог

Родовата еднаквост како клуч за иновации

Валентин Мечески Вовед Во ерата на забрзан технолошки развој, глобализација и дигитална трансформација, иновациите претставуваат основен двигател на напредокот во секоја индустрија. Сепак, вистинските иновации не можат да се постигнат без разновидност – особено без родова еднаквост. Погрешно е да се смета дека иновацијата е само технички процес; таа е…
Блог

Како вештачката интелигенција може да ги открие и намали разликите во платите и вработувањето

Ана Манасиева 1. Вовед Во последните неколку децении, светот станува сѐ повеќе зависен од технологијата и иновациите. Професиите поврзани со наука, технологија, инженерство и математика – познати како STEM професии се во центарот на технолошкиот и економскиот развој. Меѓутоа и покрај нивната важност и растечкиот број на работни позиции,…
Блог

Сајбер-безбедноста и родот: Дали жените се побезбедни или поранливи на интернет?

Антонио Пуцески Вовед Во дигиталната ера, интернетот претставува основен простор за комуникација, информирање, работа и социјална интеракција. Но, паралелно со неговиот развој, се јавуваат и нови форми на закани, особено во контекст на сајбер-безбедноста. Сè поголем предизвик за современото општество претставува фактот дека различните групи во општеството, особено жените, се…
Блог

Вештачката интелигенција во препознавање и спречување на родово базирано насилство

Магдалена Тодоровска Вовед Родовото базирано насилство претставува еден од најраспространетите и најтешките облици на прекршување на човековите права во светот. Тоа ги засега сите општествени слоеви, без разлика на возраст, образование или култура, а најчесто жртви се жени и девојчиња. Со напредокот на технологијата, особено со развојот на вештачката интелигенција,…
Блог

Еволуцијата на феминизмот во литературата

Марија Блажеска 1. Вовед Години наназад, човечката популација ги одвојуваше поимите за двата пола, и тоа беше правено многу темелно. Возвишувањето на едниот пол стана нова норма, а критикувањето на неповолностите кај другиот стана изговор за присутната нееднаквост. Најчесто, мажите се претставувани како супериорни суштества, а жените како инфериорни во…
Блог

Родовите улоги во ерата на вештачката интелигенција: репликација или трансформација?

Зорана Стерјоска Вовед Дигитални асистенти и системи за препорака, до автоматизирани процеси за вработување и креирање содржини, неспорно е дека вештачката интелигенција достигна да има голема улога и влијание во секојдневието на една индивидуа. Со таков тек на движење на напредокот и настаните, неизбежно е да се постави прашањето дали…
Блог

Родовите стереотипи во СТЕМ образованието

Ивона Ефремова 1. Вовед Во денешниот брзорастечки свет, каде што науката, технологијата, инженерството и математиката (СТЕМ) играат клучна улога во обликувањето на иднината, потребата од инклузивност и еднаквост во образованието е поголема од кога било. СТЕМ дисциплините претставуваат основа за иновации, технолошки развој и решавање на комплексни општествени проблеми. Сепак,…
Блог

Вештачка интелигенција како алатка за промоција на родова еднаквост

Горјан Серафимовски Вовед Вештачката интелигенција (ВИ) се наметнува како една од највлијателните технологии на 21 век, со потенцијал да трансформира економски, социјални и културни аспекти на општеството. Во контекст на родовата еднаквост, ВИ нуди уникатни можности за промоција на инклузивност, намалување на нееднаквостите и зајакнување на маргинализираните групи, особено жените…