Стефани Ефтимовска
I. Вовед
Во дигиталната ера, каде што технологијата игра сѐ поцентрална улога во секојдневниот живот, најзиното влијание врз општествените проблеми станува сѐ поочигледно. Еден од најзагрижувачките општествени предизвици претставува родовото базирано насилство, особено насилството врз жените. И покрај долгата децениска борба за родова еднаквост и имплементација на законски мерки за заштита на жените, и физичкото и психолошкото насилство останува голем проблем на глобално ниво. Со развојот на новите технологии, особено вештачката интелигенција, се отвораат многубројни нови можности, но и нови ризици во борбата против родово базираното насилство.
Вештачката интелигенција, како една од најреволуцфионерните технологии на 21- от век, има потенцијал да го промени начинот на кој се идентификуваат, спречуваат и казнуваат актите на насилство врз жените. Со помош на анализа на големи податоци, препознавање на начини на однесување, автоматизирано следење на говор на омраза, а дури и директна поддршка на жртви преку интелигентни системи, вештачката интелигенција може да понуди нови форми на интервенција кои се брзи, ефикасни и прецизни.
Сепак, овие технологии не се неутрални. Начинот на кој се дизајнираат, тестираат и имплементираат може да доведе до нови форми на дискриминација и маргинализација. Алгоритмите често ја рефлектираат пристрасноста на општеството од кое црпат податоци, што може да резултира со игнорирање на специфичните потреби на жените, особено оние од маргинализирани групи. Дополнително, прашањата за приватност, етичност и транспарентност се суштински кога се применува вештачката интелигенција во чувствителни области како што е родово базираното насилство.
Целта на оваа семинарска е да се истражи потенцијалот на вештачката интелигенција во спречувањето и идентификацијата на насилството врз жените,
3
преку анализа на постоечките решенија, примери од пракса, но и критичка евалуација на ризиците и предизвиците кои произлегуваат од ваквата примена. Преку интердисциплинарен пристап, ќе докажеме зошто е потребен родово чувствителен и етички одговорен развој на технологијата доколку сакаме да изградиме општество кое не само што е технолошки напредно, туку е и праведно.
II. Родовото насилство во дваесет и првиот век
Родово базираното насилство се однесува на сите акти на насилство насочени кон лице, поради неговиот пол или род. Најчесто тоа се жени или девојчиња кои се мета на различни облици на насилство како резултат на историската и структурна нееднаквост помеѓу половите. Според Обединетите нацции, родовото базирано насилство претставува најраспространета форма на кршење на човековите права денес.
„Секој акт што резултира или може да резултира со физичка, сексуална, психолошка или економска повреда или страдање на жените, вклучувајќи закани за такви акти, присилување или произволно лишување од слобода, без разлика дали се случува во јавниот или приватниот живот.“
(UN Declaration on the Elimination of Violence against Women, 1993) [1] i. Форми на родово базираното насилство
• Домашно насилство: најчеста форма која вклучува физичко, психолошко и економско малтретирање од страна на партнер.
• Сексуално насилство: силување, напад или сексуално вознемирување
4
• Сајбер насилство: дигитални напади, онлајн следење, онлајн закани и користење на deepfake технологии.
• Економско насилство: забрана за работа, контролирање на финансии, ускратување на средства.
ii. Глобална распространетост и статистики
• Според Светската здравствена организација (WHO), речиси 1 од 3 жени во светот доживеале физичко и/или сексуално насилство ос партнер или непознат во текот на својот живот. [1]
• Во Европската унија, истражувањето на Европскиот институт за родова еднаквост покажува дека повеќе од 50 проценти од младите жени доживеале некаква форма на дигитално насилство. [2]
• За време на пандемијата, бил забележан значителен раст на пријави за домашно насилство, т.н. ,,shadow pandemic”[3]
5
iii. Современи предизвици во справувањето со родово базираното насилство
• Недоволна институционална реакција- и покрај постоењето на законски рамки, многу случаи остануваат непријавени, а жртвите не добиваат соодветна поддршка.
• Стигматизација на жртвите- жртвите често се обвинувани или обесхрабени да зборуваат јавно, особено кога станува збор за онлајн или сексуално насилство.
• Недоволна дигитална писменост и правна заштита- жените не секоаш знаат како да се заштитат од сајбер закани, а правните механизми се бавни и многу често не се ефикасни.
• Недостаток на родова перспектива во креирањето на политики и технологии технологиите и правните системи често не ги земаат во предвид специфичните искуства на жените, особено во дигиталниот простор.
Разбирање на различните облици и контексти на родово базираното насилство е суштинско за секој обид на ефективна интервенција. Општествата, соочени со новите форми на дигитално насилство и трансформација на комуникацијата на меѓучовечките односи, мора да развијат интегриран пристап кој ги вклучува не само институциите и граѓанскиот сектор, туку и технолошките иноватори и етичарите.
III. Вештачка интелигенција и родово базирано насилство
Вештачката интелигенција претставува гранка на компјутерските науки, која има за цел да создаде системи способни да извршуваат задачи кои вообичаено имаат потреба од човечка интелигенција. Овие способности вклучуваат машинско учење, разбирање и процесирање природен јазик, препознавање на модели, визуелна перцепција, донесување на одлуки како и способност за адаптација и предвидување.
6
Во последната деценија, вештачката интелигенција се применува во различни општествени и индустриски домени: здравство, финансии, образование, транспорт, безбедност итн. Но, сè почесто се истражуваат и општествено значајни апликации на вештачката интелигенција, вклучувајќи ја борбата против родово базираното насилство, дискриминацијата и промовирање на човековите права.
i. Важни современи трендови
• Превентивна анализа
Најголем потенцијал на вештачката интелиганција во оваа сфера лежи во предвидување и спречување на самото насилство пред да се случи. Со комбинација на различни извори на податоци, како историја на пријави, демографски податоци, модели на комуникација и онлајн однесување, вештачката интелигенција може да пресмета ризик за одредени ситуации или профил на одредени поединци.
Овие системи:
– Предвидуваат веројатнсопт за рецидив кај сторителите
– Алармираат за потенцијално насилство врз основа на емоционално или вербално влошување на комуникацијата
– Се користат во социјални служби за приоритизација на случаи со највисок ризик
• Анализа на податоци од социјални мрежи
7
Еден од најчестите облици на технолошки поттикнато насилство е онлајн вознемирувањето. Социјалните мрежи се платформи каде жените, особено активистите, новинарите, политичарите и јавните личности честопати се мета на сексистички напади, закани, ширење лажни информации и говор на омраза. Вештачката интелигенција користи обработка на природен јазик и машинско учење за автоматско препознавање на токсичен говор. Овие алгоритми можат да идентификуваат навредливи зборови, контексти и обрасци на злоупотреба.
Пример:
– X(ex. Twitter) користи вештачка интелигенција за проактивно отстранување на навредлива содржина и закани со фокус на автоматско детектирање на говор на омраза како и спречување на негово ширење.
– Meta (Facebook, Instagram) имплементира NLP за филтрирање на токсичен јазик, говор на омраза и вознемирувачки коментари.
– Youtube: Користи вештачка интелигенција за анализа на коментари и видеа со цел рано откривање на насилна или вознемирувачка содржина.
• Автоматизирано следење на насилни обрасци
Разни институции и организации користат вештачка интелигенција за да следат повторливи обрасци на однесување, на пример кај осомничени или осудени насилници, со цел навремено алармирање на социјалните служби или полицијата.
• Гласовни и текстуални асистенти за поддршка на жртвите
Chatbot- технологијата, поттикната од вештачката интелигенција, овозможува анонимна и секојдневна достапна поддршка за жртвите на насилство. Тие функционираат како интерактивни дигитални советници кои може да обезбедат: емоционална поддршка, информации за правна помош, поврзување со локални организации и препознавање на правни прекршувања.
8
ii. Примери на вештачка интелигенција во борбата против насилство
• Hatebase: Платформа која собира и анализира податоци за говор на омраза ширум светот, користејќи NLP технологи.[4]
• Spotlight Initiative (поддржан од ОН и ЕУ): користи вештачка интелигенција за собирање и анализирање на податоци за
насилство врз жените на глобално ниво, со цел подобра евалуација на политики.
• Police Predictive Systems: Низа земји, како Велика Британија, Канада и Холандија веќе тестираат предиктивни интелигентни системи за рано идентификување на ризични ситуации за семејно насилство.
IV. Примери од пракса
Реалната примена на интелигентните системи во борбата против насилството врз жените не е веќе теоретска, туку е практикувана. Некои од иновативните иницијативи и алатки кои покажуваат како технологијата се користи на терен се следниве:
i. Spot[5]
Spot е платформа базирана на вештачка интелигенција која овозможува анонимно пријавување на сексуално вознемирување и дискриминацвија на работно место. Корисниците можат преку разговор со chatbot да го опишат искуството, по што
9
платформата генерира формализиран извештај кој може да се поднесе до HR служба. Во самите политики за приватност е загарантирана анонимноста, приватноста и елиминиран е притисокот од директно соочување со самата ситуација.
ii. UN Women + IBM[6]
Во 2022 година, UN Women во соработка со IBM, развија алатки за мониторинг на дигитално насилство, особено во контекст на избори и јавна комуникација. Системот користи NLP и анализа на социјални мрежи со цел да се следи фемициден говор на омраза, проценка на влијание на онлајн нападите врз жените и поддршка на национални влади во развивање на политики.
iii. Hera Chatbot[7]
Chatbot кој е дизајниран да работи преку WhatsApp, сотапен дури и преку мобилни уреди како и персонални компјутери, со цел да се овозможи бесплатен пристап до информации за права на жените, да се зголемат контактите со локални подрживачки информации и да се добијат совети во случај на семејно насилство. Проектот е насочен кон жени во рурални и маргинализирани заедници, каде институционалната поддршка е ограничена.
10
V. Етички предизвици
Иако вештачката интелигенција нуди значителен потенцијал за унапредување на механизмите за спречување и идентификација на родово базираното насилство, нејзината примена мора да се разгледа и низ призмата на етиката, човековите права и општествената одговорност. Присуството на неетички практики може да доведе до продлабочување на нееднаквостите, репресија, па дури и нови облици на дискриминација.
i. Пристрасност на алгоритмите (algorithmic bias)
Алгоритмите на интелигентните системи се базираат на податоци, но ако тие податоци се пристрасни и резултатите ќе бидат пристрасни. На пример, ако алгоритам за предикција на насилство е обучен на податоци каде повеќчето пријави доаѓаат од урбани средини или од жени од одредена етичка група, тој може погрешно за ги игнорира другите групи. Проблемот со пристрасност е особено значаен и сериозен кога се работи со чувствителни податоци, како случаи на семејно насилство, сексуално насилство или онлајн вознемирување.
ii. Повреда на приватност или злоупотреба на лични податоци
Системите за следење и анализа, особено оние што користат податоци од социјални мрежи, мобилни апликации или интернет пребарувања може да го нарушат правото на приватност на жртвите. Пример, автоматско следење на пораки или лоакција без согласност, дури и со добра намера, може да биде формана надзор што создава нова
ранливост за жените.
11
Се поставуваат прашањата:
– Дали жртвата знае дека е следена?
– Кој има пристап до приватните податоци на жртвата?
– Како се заштитени тие податоци од хакерески или институционални злоупотреби?
iii. Недостаток на транспарентност
Многу интелигентни системи функционираат како т.н. “црна кутија”, односно не е јасно како стигнуваат до одредени одлуки. Ова е проблематично кога алгоритмот, на пример, сигнализира личност како потенцијален сторител, без можност за човечка интервенција или објаснување. Овој недостаток на транспарентност го нарушува правото на фер постапка, особено ако резултатите се користат за судски одлуки.
iv. Недостаток на родова перспектива при дизајн и имплементација
Голем дел од интелигентните системи се развиени без активна вклучаност на експерти од областа на родовата еднаквост, што резултира со алатки кои не ја разбираат комплексноста на родовото насилство. Потребно е знаење и разбирање на психолошките, правните и културните аспекти на насилството врз жените при креирање на еден ваков систем.
12
v. Потенцијал за репресивна употреба
Во недемократски режими, интелигентните системи првично наменети за заштита, може да се злоупотребат и да се користат како надзор и контрола на личности, активисти, новинари, граѓански организации и слично.
VI. Унапредување на примената на вештачката интелигенција во поддршка на родовата еднаквост
Со цел да се максимизира позитивниот ефект на вештачката интелигенција во борбата против насилството врз жените, потребни се координирани напори од технолошката заедница, државните институции, самите жени и граѓанските организации.
i. Воведување на родова анализа во дизајнот на интелигентните системи
Тимовите кои развиваат алатки за анализа и предикција, би требало активно да вклучуваат експерти за родова еднаквост, активистки како и жени кои се жртви на насилство. Ваквиот пристап дава сигурност дека алатките ќе ја рефлектираат реалната комплексност на проблемот, и нема да генерираат нови форми на нееднаквост.
13
ii. Развивање на етички рамки и закони за вештачката интелигенција
Неопходна е национална меѓународна регулатива која чќе ги адресира прашањата на транспарентност, одговорност, безбедност и заштита на податоци, како што се: обврска за јасна евиденција како функционира алгоритмот, независни ревизии на интелигентните системи и механизми за жалба кога алгоритамот не е во право.
iii. Едукација и дигитална писменост
Жените, особено оние од рурални и маргинализирани заедници, треба да имаат пристап до информации за тоа како функционира вештачката интелигенција, како е заштитена нивната приватност, како да пријават онлајн вознемирување и како да препознаат дигитално насилство. Ова може да се поттикне преку образовни програми, проекти, работилници, онлајн курсеви и слично.
iv. Градење на доверливи и безбедни дигитални сервиси
Секој дигитален алат кој користи вештачка интелигенција треба да биде анонимен, заштитен од хакерски напади, да има јасни политики за употреба на податоци и да дозволи корисниците да го изберат нивото на интеракција.
14
v. Поттикнување на јавна дебата за вештачката интелигенција и родовата еднаквост
Јавноста, академската заедница и медиумите треба редовно да дискутираат за импликациите на вештачката интелигенција врз женските права. Само преку отворена дебата и соработка може да се обезбеди етичка, праведна и одговорна примена на технологијата.
15
VII. Заклучок
Во ерата на дигитална трансформација, вештачката интелигенција претставува една од најмоќните алатки со потенцијал да го промени начинот на кој се справуваме со општествените проблеми, вклучувајќи го и родово базираното насилство. Преку способноста за анализа на големо количество на податоци, препознавање на обрасци и автоматско следење на комуникација, интелигентните системи может да помогнат во рана идентификација на ризични ситуации, и да овозможат ефикасно насочување на помошта, со што се овозможува заштита на жртвите.
Истражувајќи ги основите на вештачката интелигенција, конкретната примена на вештачката интелигенција во борбата против насилството врз жените, следењето на говорот на омраза, анализата на податоци од социјалните мрежи, предиктивното моделирање на ризик, се доловуваат технологии кои можат значително да го забрзат и подобрат одговорот на институциите, доколку се применуваат на одговорен,етички и инклузивен начин.
Сепак, јасно е нагласено дека примената на вештачката интелигенција не е без ризици. Алгоритамската пристрасност, неетичката обработка на податоци, недостатокот на транспарентност како и можноста за злоупотреба на технологијата се реални закани кои можат да ги продлабочат постојаните форми на дискриминација и да доведат до нови порведи на човековите права.
Во иднина, прашањето нема да биде дали треба да користиме вештачка интелигенција за справување со насилството, туку како да го направиме тоа на начин што ќе ја почитува приватноста и ебзбедноста на секоја поединка. Само рпеку внимателно и етичко користење на технологијата, вештачката интелигенција може да биде сојузник во остварувањето на родова еднаквост и искоренување на насилството.
16
VIII. Библиографија
[1] https://www.who.int/news-room/fact-sheets/detail/violence-against-women [2] https://eige.europa.eu/publications/cyber-violence-against-women-and-girls
[3] https://www.unwomen.org/en/news/stories/2020/11/feature-covid-19-and violence-against-women
[4] www.hatebase.org
[5] https://www.talktospot.com
[6] https://www.unwomen.org/en/news/stories/2022/05/feature-un-women-and-ibm using-ai-to-end-violence-against-women
[7] https://heradigitalhealth.org/announcement/hera-continues-to-disseminate-its whatsapp-chatbot-supported-disaster-map/
17