Авторка Бојана Стоилковска 

Вовед

Во современото дигитално општество, вештачката интелигенција (ВИ) станува сè поважен инструмент кој длабоко влијае на различни аспекти од нашето секојдневие, вклучително и борбата против родово базираното насилство (РБН). Родово базираното насилство опфаќа широк спектар на насилни и дискриминаторски дејствија насочени кон лица врз основа на нивниот род, кои од традиционалните физички и социјални простори се префрлија во дигиталниот свет. Онлајн вознемирувањето, говорот на омраза, дистрибуцијата на приватни и интимни содржини без согласност, како и новите форми на насилство преку технологии како deepfake, претставуваат сериозни закани за безбедноста, достоинството и психолошката благосостојба на жртвите, особено на жените и маргинализираните групи.

Вештачката интелигенција нуди нови можности за превенција, рана детекција и поддршка на жртвите на родово базирано насилство во дигиталниот простор. Преку автоматска анализа на големи количини податоци, препознавање на говор на омраза и вознемирување, како и преку интерактивни ВИ-ботови кои обезбедуваат поддршка и информации, овие технологии значително ја подобруваат ефикасноста на институциите и организациите кои се борат против насилството. Сепак, имплементацијата на ВИ во оваа чувствителна област носи и сериозни етички и практични предизвици, како што се заштитата на приватноста, ризикот од пристрасност во алгоритмите и можноста за погрешна класификација, што може дополнително да ги загрози жртвите и да ја намали довербата во овие технологии. 

Овој труд има за цел да ги истражи можностите и ограничувањата на вештачката интелигенција како алатка за борба против родово базираното насилство во дигиталниот простор. Преку анализа на современите технологии, примери од практика, како и етичките и правните аспекти, ќе се понуди сеопфатен преглед на потенцијалот на ВИ да придонесе кон создавање побезбедна и поинклузивна дигитална средина. Исто така, трудот ќе укаже на неопходноста од одговорен, транспарентен и родово сензитивен развој на ВИ системите, со цел да се обезбеди заштита на правата и достоинството на сите корисници, особено на оние кои се најранливи.

2. Родово базирано насилство во дигиталниот простор: појаснување и предизвици 

2.1 Дефиниција и форми на родово базирано насилство во онлајн средина 

Родово базираното насилство (РБН) во дигиталниот простор претставува насилство или вознемирување насочено кон лица, најчесто жени и девојчиња, врз основа на нивниот род. Ова насилство се извршува, олеснува или се влошува преку употреба на информатичко-комуникациски технологии и дигитални платформи, како интернет, мобилни телефони, социјални мрежи и други дигитални медиуми. 

Форми на родово базирано насилство во онлајн средина вклучуваат:

 • Онлајн вознемирување и сајбер-малтретирање: повторувачко и свесно нанесување штета преку текст, слики или видео, со цел заплашување, навредување или нарушување на угледот на жртвата. 

• Говор на омраза: родово базирани навреди, сексистички коментари и закани кои се шират преку дигиталните платформи.

 • Дистрибуција на приватни и интимни содржини без согласност: познато како „одмаздничка порнографија“, каде интимни фотографии или видеа се објавуваат без дозвола на жртвата, предизвикувајќи сериозна психолошка штета. 

• Сексуална изнуда (сексторција): уцени и закани со објавување на интимни материјали доколку жртвата не ги исполнува барањата на насилникот.

 • Deepfake технологии: создавање на лажни, но реалистични видеа и слики кои можат да се користат за клевета, манипулација и сексуално малтретирање.

 • Доксинг: јавно објавување на приватни лични информации со цел заплашување или навреда.

 • Сајбер-прогонување: следење и систематско вознемирување преку дигитални канали.

 • Лажно претставување и злоупотреба на идентитет: користење туѓи идентитети за нанесување штета или вознемирување. 

2.2 Влијание врз жртвите и општеството 

Родово базираното насилство во дигиталниот простор има сериозни последици врз жртвите. Тоа предизвикува психолошка и емоционална траума, чувство на страв, срам и социјална изолација. Жртвите често се соочуваат со нарушување на приватноста, нарушување на угледот и ограничување на слободата на изразување, што може да влијае на нивното учество во јавниот и професионалниот живот. Особено ранливи се жените, девојчињата, како и родово небинарните и маргинализираните групи, кои се почесто изложени на овие форми на насилство.

Од општествен аспект, дигиталното родово базирано насилство ја продлабочува родовата нееднаквост и ја поттикнува културата на неказнивост. Тоа ја ограничува дигиталната инклузија и ја намалува довербата во дигиталните платформи, што може да резултира со намалено учество на жените во дигиталната економија и јавниот живот. 

2.3 Предизвици во препознавањето и справувањето со РБН во дигиталниот простор

Справувањето со родово базираното насилство во дигиталниот простор се соочува со бројни предизвици: 

• Тешкотија во препознавањето: Насилството често се манифестира преку сложени и суптилни форми, како што се родово базираните навреди и говор на омраза, кои може да бидат тешки за автоматска детекција и интерпретација.

 • Анонимност и широка достапност: Насилниците често ја користат анонимноста на интернетот за да избегнат одговорност, а дигиталниот простор овозможува широка дистрибуција на штетни содржини. 

• Недостаток на законска рамка и ефикасна имплементација: Во многу земји, законите за заштита од дигитално родово насилство се недоволни или неефикасно спроведени. 

• Технички ограничувања: Алгоритмите и системите за модерирање на содржини се соочуваат со предизвик да препознаат контекст, сарказам, и културни разлики, што може да доведе до лажни позитиви или негативи.

 • Недоволна поддршка за жртвите: Многу платформи и институции немаат доволно ресурси или механизми за навремена и ефективна поддршка на жртвите. 

• Ризик од дополнително вознемирување: Пријавувањето на насилство може да доведе до одмазда или дополнително вознемирување, што ги обесхрабрува жртвите да бараат помош. 

3. Вештачката интелигенција: основи и потенцијал во борбата против родово базираното насилство

Вештачката интелигенција (ВИ) симулира човечка интелигенција во машини и софтвер, овозможувајќи обработка на текст, слики и видео преку техники како машинско учење, обработка на природен јазик (NLP) и компјутерско визионирање. Овие технологии овозможуваат автоматска идентификација на штетни содржини, вклучувајќи говор на омраза, вознемирувачки пораки и deepfake материјали, со што се подобрува модерацијата и безбедноста во дигиталниот простор. 

Дополнително, ВИ поддржува жртви преку чат-ботови и автоматизирани системи за пријавување на насилство, кои обезбедуваат информации и насоки достапни 24/7. Со развојот на ВИ до 2025 година, се очекува уште поголема интеграција, овозможувајќи подобро разбирање на контекст и мултимодална анализа за поефикасна заштита на жртвите.

4. Технологии и алатки базирани на ВИ за превенција и рана детекција на родово базирано насилство

Вештачката интелигенција (ВИ) игра клучна улога во развојот на технологии и алатки за превенција и рана детекција на родово базираното насилство (РБН) во дигиталниот простор. Овие технологии овозможуваат автоматско препознавање и модерирање на вознемирувачки содржини, поддршка на жртвите и спречување на ширење на штетни материјали. 

4.1 Алгоритми за препознавање говор на омраза и вознемирување на социјалните мрежи 

Една од најчестите форми на родово базирано насилство во дигиталниот простор е говорот на омраза и вознемирувањето преку социјалните мрежи. ВИ алгоритмите користат обработка на природен јазик (NLP) за да ги анализираат текстуалните пораки и коментари со цел да препознаат навредливи, дискриминаторски или заканувачки изрази. Овие системи се обучуваат на големи бази на податоци и континуирано се усовршуваат за да ги разликуваат контекстите и нијансите на јазикот, што е особено важно за препознавање на сарказам или скриени навреди. 

Платформи како Facebook и Twitter користат вакви алгоритми за автоматско филтрирање и модерирање на содржини, со цел да се намали ширењето на говор на омраза и да се заштитат корисниците од вознемирување. Иако овие технологии не се совршени и понекогаш предизвикуваат лажни позитиви или негативи, тие претставуваат значаен чекор кон создавање побезбедни дигитални простори.

4.2 ВИ-ботови и дигитални асистенти за поддршка на жртви

ВИ-ботовите се интерактивни дигитални асистенти кои обезбедуваат поддршка, информации и насоки на жртвите на родово базирано насилство. Тие се достапни 24/7 и можат да одговорат на прашања, да помогнат при пријавување на инциденти и да понудат ресурси за помош и заштита.

Пример за ваква иницијатива е проектот на UN Women, кој развива ВИ-ботови за поддршка на жртви во различни земји. Овие ботови им овозможуваат на жртвите да комуницираат анонимно и без страв од осуда, што е особено важно во заедници каде што социјалниот притисок може да ги спречи да побараат помош.

4.3 Системи за анализа на слики и видео (препознавање deepfake, нелегални содржини) 

Со појавата на напредни технологии како deepfake, каде што се создаваат лажни, но реалистични видеа и слики, ВИ станува неопходна за идентификување и спречување на злоупотреба. Системите за компјутерско визионирање користат алгоритми за анализа на визуелни содржини, препознавање на манипулации и откривање на нелегални или штетни материјали. Овие технологии се користат за откривање на видео и слики кои се користат за клевета, вознемирување или ширење на родово базирано насилство. Facebook, на пример, има развиено алатки за препознавање и блокирање на deepfake видеа и други манипулирани содржини, додека Twitter воведува слични системи за модерирање.

4.4 Примери од платформи како Facebook, Twitter, UN Women AI иницијативи 

• Facebook користи комбинација од ВИ алгоритми и човечки модератори за да идентификува и отстрани говор на омраза, вознемирувачки содржини и родово базирано насилство. Платформата постојано ги надградува своите ВИ системи за да ги препознава новите форми на дигитално насилство и да обезбеди побезбедна средина за корисниците.

 • Twitter воведува автоматски системи кои користат ВИ за препознавање на вознемирувачки и дискриминаторски пораки, со цел да ги предупредат корисниците и да ги отстранат штетните содржини.

 • UN Women развива ВИ-ботови и други дигитални алатки за поддршка на жртвите на родово базирано насилство, како и за едукација и превенција преку дигитални кампањи. Овие иницијативи се дел од пошироката стратегија за користење на технологијата за унапредување на родовата еднаквост и заштита на жените.

5. Етички и правни предизвици при користење на вештачката интелигенција во борбата против родово базираното насилство Користењето на вештачката интелигенција (ВИ) во борбата против родово базираното насилство (РБН) носи значителен потенцијал, но истовремено отвора и сериозни етички и правни прашања кои мора да се адресираат за да се обезбеди заштита на жртвите и фер третман на сите корисници. 

5.1 Заштита на приватноста и личните податоци на жртвите 

Еден од најважните предизвици е заштитата на приватноста на жртвите. ВИ системите често обработуваат чувствителни лични податоци, вклучувајќи информации за идентитетот, локацијата, здравствената состојба и деталите за насилството. Неовластен пристап, злоупотреба или протекување на овие податоци може да предизвика дополнителна штета и траума кај жртвите. 

Затоа е неопходно применување на строги мерки за заштита на податоците, како што се шифрирање, анонимизација и ограничен пристап само на овластени лица. Исто така, жртвите треба да бидат информирани за тоа како се користат нивните податоци и да имаат можност да дадат или повлечат согласност.

– Процес на заштита на лични податоци во ВИ системи

5.2 Ризик од погрешна класификација и лажни позитиви/негативи

ВИ алгоритмите не се совршени и може да направат грешки при класификација на содржини. Погрешна идентификација на безбедна содржина како насилна (лажен позитив) може да доведе до цензура и ограничување на слободата на изразување. Од друга страна, пропуштање на вистински насилни содржини (лажен негатив) може да остави жртвите без заштита. Овие грешки имаат сериозни последици, особено кога станува збор за родово базирано насилство, каде што довербата во системот е клучна. Затоа е потребна постојана оптимизација на алгоритмите, комбинирање на ВИ со човечка модерација и транспарентност во процесот на одлучување.

5.3 Пристрасност во алгоритмите и влијание врз различни групи

Алгоритмите на ВИ се обучуваат на историски и реални податоци кои често содржат пристрасности и дискриминација. Ова може да резултира со непроценлива пристрасност во препознавањето и третманот на родово базираното насилство, на пример, пренебрегнување на насилство врз одредени етнички, социјални или сексуални групи. За да се намали оваа пристрасност, потребно е да се користат репрезентативни и разновидни податоци за обука, да се развиваат алгоритми со вградени механизми за проверка на правичноста и постојано да се следи и коригираат евентуалните пристрасности. 

5.4  Правни рамки и регулативи 

Правната регулатива игра клучна улога во регулирањето на користењето на ВИ во оваа област. Општата регулатива за заштита на податоци (GDPR) на Европската Унија, како и националните закони за заштита на лични податоци и дигитални права, поставуваат строги правила за обработка, складирање и пренос на лични податоци. Овие закони бараат транспарентност, одговорност и заштита на правата на корисниците, вклучително и правото на пристап до информации, корекција и бришење на податоци. Дополнително, постојат и специфични законски мерки за спречување на родово базирано насилство и заштита на жртвите, кои треба да се интегрираат со технолошките решенија. Недоволната хармонизација на законите, брзиот развој на технологиите и недостатокот на јасни регулативи за ВИ создаваат правна несигурност и предизвици за институциите, компаниите и корисниците.

6. Практични предизвици и ограничувања при користење на вештачката интелигенција во борбата против родово базирано насилство 

6.1 Технички ограничувања на ВИ во препознавање на сложени контексти и јазик Иако вештачката интелигенција постојано напредува, нејзината способност да разбере сложени јазични и социјални контексти сè уште е ограничена. Препознавањето на говор на омраза, сарказам, иронија или културни нијанси претставува голем предизвик за алгоритмите. На пример, истиот збор или фраза може да има различно значење во различни контексти, што може да доведе до погрешна класификација на содржините. Ова го ограничува ефективното препознавање и модерирање на родово базираното насилство во дигиталниот простор. 

6.2 Недостаток на пристап до квалитетни и репрезентативни податоци 

ВИ системите се обучуваат на основа на големи сетови на податоци, но квалитетот и разновидноста на овие податоци се клучни за нивната точност и правичност. Недостатокот на квалитетни, репрезентативни и ажурирани податоци може да доведе до пристрасност и неточни резултати. Особено е важно да се вклучат податоци кои ги претставуваат различните родови, етнички и социјални групи за да се избегне дискриминација и исклучување. 

6.3 Ограничен пристап до технологијата во маргинализираните групи Маргинализираните групи, вклучувајќи ги жените во рурални средини, лица со ниски приходи или оние со ограничен пристап до интернет и дигитални алатки, често се исклучени од придобивките на ВИ технологиите. Ова дополнително ја продлабочува дигиталната нееднаквост и го намалува ефектот од напорите за борба против родово базираното насилство. Потребни се политики и иницијативи за зголемување на пристапот и дигиталната писменост во овие заедници.

6.4 Потреба од интердисциплинарен пристап и човечка интервенција 

ВИ не може целосно да ја замени човечката проценка, особено кога станува збор за сложени социјални и етички прашања како родово базираното насилство. Потребен е интердисциплинарен пристап кој ги интегрира техничките решенија со знаењата од родовите студии, психологијата, правото и социјалната работа. Човечката интервенција е неопходна за проверка на автоматските одлуки, обезбедување поддршка на жртвите и донесување етички одлуки.

7. Студии на случај и примери од светската и регионалната пракса

7.1 UN Women чат-бот за поддршка на жртви на родово насилство

UN Women разви ВИ-чет-бот кој им помага на жртвите на родово базирано насилство, особено на преживеаните од сексуално насилство и напади. Овој чет-бот обезбедува безбеден и доверлив простор каде жртвите можат да пристапат до информации, ресурси и поддршка без страв од стигма или осудување. Технологијата овозможува автоматско препознавање на инциденти на насилство и нуди насоки за понатамошни чекори, што значително ја зголемува капацитетот на службите за социјална работа и правосудството да реагираат навремено и ефективно. 

7.2 Иницијативи на големи технолошки компании за борба против говор на омраза и дигитално насилство 

Големите технолошки компании како Google и Facebook вложуваат значајни ресурси за развој на алатки базирани на ВИ за препознавање и спречување на говор на омраза и дигитално насилство. Facebook користи напредни алгоритми за автоматско филтрирање и модерирање на навредливи содржини, додека Google развива системи за препознавање на штетни видеа и содржини на своите платформи. Овие компании исто така спроведуваат едукативни кампањи и соработуваат со невладини организации за поддршка на жртвите и промоција на безбедна дигитална средина.

7.3 Примери од Балканот и Северна Македонија

 Во Северна Македонија, Македонски Телеком започна иницијатива за поддршка на жените – жртви на семејно насилство, преку донаторски акции и подигање јавна свест. Во партнерство со организации како Кризен центар „Надеж“, овие акции обезбедуваат финансиска и психо-социјална поддршка на жртвите, како и сигурно засолниште и правна помош. Дополнително, невладини организации и мрежи како Stella Network работат на едукација и поддршка на жртвите на дигитално родово базирано насилство, обезбедувајќи ресурси и кризни услуги за оние кои се изложени на закани, говор на омраза и вознемирување преку интернет.

8. Препораки и идни насоки за користење на ВИ во борбата против родово базираното насилство 

8.1 Развој на етички и транспарентни ВИ системи 

За ефективна и одговорна примена на вештачката интелигенција (ВИ) во борбата против родово базираното насилство (РБН), неопходно е развивање на етички и транспарентни системи. Ова значи дека алгоритмите треба да бидат дизајнирани со јасни принципи за заштита на приватноста, фер третман и отчетност. Транспарентноста во функционирањето на ВИ системите ќе овозможи доверба кај корисниците и жртвите, како и можност за надзор и корекција на евентуални грешки или пристрасности. 

8.2 Вклучување на родова перспектива во дизајнот и имплементацијата

Клучно е родовата перспектива да биде интегрирана во сите фази на развој и примена на ВИ алатките. Ова подразбира вклучување на експерти од областа на родовите студии, како и жртви и активисти во процесот на дизајн, тестирање и имплементација. Родово сензитивните системи ќе бидат поефикасни во препознавањето и третманот на родово базираното насилство, избегнувајќи пристрасности и дискриминација. 

8.3 Обука и поддршка за жртвите преку дигитални алатки

Дигиталните алатки треба да обезбедат лесен и безбеден пристап до информации и поддршка за жртвите. Обука на жртвите за користење на овие алатки, како и на институциите кои ги применуваат, е неопходна за максимизирање на нивниот ефект. ВИ-ботовите, онлајн платформи за пријавување и едукативни ресурси можат да им помогнат на жртвите да се ослободат од страв и стигма и да добијат навремена и соодветна помош.

8.4 Потреба од мулти-секторска соработка 

Борбата против родово базираното насилство преку ВИ бара координирана соработка помеѓу различни сектори – владини институции, граѓански организации, технолошки компании и академската заедница. Само преку споделување на ресурси, знаење и најдобри практики може да се создадат интегрирани и одржливи решенија. Технолошките компании треба да се вклучат активно во развојот на безбедни платформи и алатки, додека владите и невладините организации треба да обезбедат регулативен и поддржувачки рамки.

ЗАКЛУЧОК

Вештачката интелигенција (ВИ) претставува моќна алатка која може значително да придонесе во борбата против родово базираното насилство (РБН) во дигиталниот простор. Преку автоматска детекција на говор на омраза, вознемирување и други форми на насилство, како и преку поддршка на жртвите преку дигитални асистенти и ВИ-ботови, овие технологии овозможуваат побрза и поефикасна реакција. Клучниот наод од оваа анализа е дека ВИ има потенцијал да ја зголеми безбедноста и инклузивноста на дигиталната средина, овозможувајќи им на жртвите подобра заштита и поддршка. 

Сепак, потенцијалните придобивки од ВИ се тесно поврзани со неопходноста од одговорен и етички пристап во нејзината примена. Заштитата на приватноста, намалувањето на пристрасностите во алгоритмите, како и транспарентноста и отчетноста во функционирањето на ВИ системите се клучни за да се избегнат негативни последици и да се одржи довербата на корисниците. Исто така, ВИ не може да ја замени човечката проценка и интервенција, туку треба да биде дел од интегриран, мултидисциплинарен пристап.

Понатамошните истражувања и развој се неопходни за подобрување на точноста и етичноста на ВИ технологиите, како и за развој на нови алатки кои ќе бидат поинклузивни и поефикасни во справувањето со родово базираното насилство. Особено е важно да се вклучат различни гласови и перспективи во процесот на развој, со цел да се обезбеди фер и праведен третман на сите корисници, особено на најранливите групи. 

Во крајна линија, ВИ претставува значаен чекор напред во создавањето побезбедни дигитални простори, но успехот зависи од одговорноста, соработката и континуираната посветеност на сите чинители во општеството.

БИБЛИОГРАФИЈА