Јана Трпковска
Вовед
Онлајн просторот станува сѐ позначајно место за комуникација, но и за ширење
на говор на омраза. [2] Како еден од најпроблематичните аспекти ќе го
споменеме навредувањето кое е засновано врз основа на родовата припадност.
Онлајн насилството врз оваа група на луѓе, претставува сериозен проблем.
Последиците од ваквото насилство често водат до психолошки стрес, економска
несигурност, а исто така водат и до ограничено учество на онлајн платформите.
[1] Во обид за да се намалат овие предизвици, Вештачката интелигенција (ВИ)
се користи како алатка за препознавање и намалување на овие форми на
злоупотреба. Тоа го прави преку методи како што се анализата на сентимент,
откривање на говор на омраза, препознавање на слики и анализа на
однесување. [1]
Дополнително, ВИ технологијата придонесува кон зајакнување на безбедноста
на жртвите, овозможувајќи им механизми за брза реакција и заштита. [1]
Но, и покрај овие напредоци, постојат значајни предизвици како што се
пристрасност кај алгоритмите, прашањата за приватност и постојаната
еволуција на тактиките за онлајн злоупотребата. [1]
Вештачката интелигенција (ВИ) во откривање на говор на омраза
Вештачката интелигенција(ВИ) игра клучна улога во автоматизираното
препознавање и категоризација на говорот на омраза. [2] Преку примена на
напредни јазични модели како што се: BERT, RoBERTa и DistilBERT,
алгоритмите можат да анализираат контекст, да детектираат штетни пораки и да
ги класифицираат според нивната тежина. [2] Но, сепак овие системи не се
совршени. Истражувањата покажуваат дека постојат значителни родови
пристрасности во одлуките кои што ги носат ВИ моделите. Со користење на ВИ
техники како што е LIME (Local Interpretable Model-agnostic Explanations), може
да истражиме на кои зборови и фрази најмногу се потпира јазичниот модел во
процесот на носење на одлуки.