Магдалена Тодоровска
Вовед
Родовото базирано насилство претставува еден од најраспространетите и најтешките облици на прекршување на човековите права во светот. Тоа ги засега сите општествени слоеви, без разлика на возраст, образование или култура, а најчесто жртви се жени и девојчиња. Со напредокот на технологијата, особено со развојот на вештачката интелигенција, се појавуваат нови можности за справување со овој проблем. Вештачката интелигенција може да се примени во рано препознавање на насилство, анализа на податоци, следење на однесување на социјални мрежи и поддршка на жртвите преку интелигентни системи.
Во последните години, голем број организации, влади и технолошки компании почнуваат да ја применуваат вештачката интелигенција за подобро разбирање и борба против родово базираното насилство. Алгоритмите за обработка на природен јазик, машинското учење и анализа на слики и видеа веќе покажуваат резултати во откривање насилно однесување, заканувачки пораки и модели на повторувачко насилство. Овие технологии можат да ја засилат превенцијата, да ги информираат институциите, како и да ја зголемат брзината и ефикасноста на интервенциите.
Оваа семинарска работа има за цел да ја истражи улогата на вештачката интелигенција во препознавање и спречување на родово базирано насилство. Ќе се разгледаат конкретни примери, потенцијалите што ги носи вештачката интелигенција, но и ризиците и етичките прашања што ги отвора нејзината употреба. Потребата за одговорна примена на технологијата е клучна во креирање на побезбедно и поправедно општество за сите.
3
Поимување на родово базирано насилство
Родовото базирано насилство се однесува на насилство насочено кон поединци врз основа на нивниот род, при што најчесто жртви се жени и девојчиња, но може да вклучува и лица со различен родов идентитет. Овој вид насилство произлегува од историски нееднакви односи на моќ меѓу мажите и жените, од културни стереотипи, како и од системски форми на дискриминација кои ги одржуваат патријархалните структури во општеството.
Родовото базирано насилство може да се манифестира на различни начини: • Физичко насилство: напади, тепање, удирање или друго насилно однесување.
• Психолошко или емоционално насилство: омаловажување, уцени, закани, контрола, изолирање или манипулација.
• Сексуално насилство: сексуален напад, силување, несакан контакт или присилување на сексуални дејствија.
• Економско насилство: ограничување на пристап до финансиски средства, контрола на потрошувачка или забрана на вработување.
• Сајбер насилство: закани преку интернет, споделување интимни фотографии без дозвола и онлајн вознемирување.
Овој вид насилство може да се случува во приватен или јавен простор, вклучително и во семејни односи, работна средина, образовни институции, но и на социјалните мрежи.
Важно е да се нагласи дека РБН не е индивидуален проблем, туку структурен – вкоренет во општествените норми и институции. Препознавањето на различните облици на насилство е првиот чекор кон нивно спречување и соодветна интервенција. Тука особено значајна станува улогата на технологијата и современите алатки, како вештачката интелигенција, кои можат да придонесат за подобро откривање, следење и справување со овој сложен социо-културен проблем.
4
Технологија и безбедност на жртвите
Со зголемената употреба на дигитални технологии, жртвите на родово базирано насилство сѐ почесто се соочуваат со нови форми на ризици, но и добиваат нови алатки за заштита. Од една страна, технологијата може да биде средство за следење, контрола и вознемирување, но од друга страна, таа може да понуди канали за комуникација, поддршка и пријавување на насилството.
Технологијата како закана:
Во дигиталната ера, сторителите користат мобилни апликации, социјални мрежи, GPS уреди и софтвери за шпионирање (т.н. stalkerware) за следење и контролирање на жртвите. Честопати, тие имаат пристап до приватни податоци како што се локација, пораки, фотографии и дури и микрофон/камера од уредите на жртвите. Ова создава континуирано чувство на страв и несигурност, дури и кога жртвата физички се оддалечила од насилникот.
Технологијата како средство за заштита:
Во последните години се појавуваат бројни дигитални решенија кои имаат за цел да ја зголемат безбедноста на жртвите:
• SOS апликации: мобилни апликации кои овозможуваат итно испраќање на локација и порака до доверлива личност или надлежни органи.
• Анонимни канали за пријавување: веб-платформи што овозможуваат дискретно пријавување на насилство, со можност за поврзување со психолози, правници или засолништа.
• Шифрирани комуникации: апликации за разговор со високо ниво на енкрипција, кои штитат лични информации од злоупотреба.
• Системи за препознавање на ризично однесување: интелигентни алатки кои анализираат содржини од пораки, објави или видеа и препознаваат потенцијални закани.
5
Од суштинско значење е развојот на вакви технологии да биде фокусиран на безбедноста, приватноста и автономијата на жртвите. Жртвите мора да бидат информирани како да ги користат овие алатки, како и да имаат пристап до поддршка во дигиталното опкружување. Организациите што работат со жртви на насилство треба да вклучат технолошка едукација и безбедносни протоколи во својата работа.
Вештачка интелигенција во детекција на насилство
Вештачката интелигенција (ВИ) сѐ повеќе се применува во системи кои имаат за цел да препознаат и спречат родово базирано насилство. Благодарение на способноста за анализа на големи количини на податоци и препознавање на обрасци на однесување, ВИ овозможува навремено идентификување на потенцијални случаи на насилство и поддршка на жртвите преку автоматизирани алатки и системи за известување.
Еден од најчестите начини на кои ВИ се користи е преку анализа на содржини објавени на социјалните мрежи, форуми или пораки. Алгоритмите за обработка на природен јазик (Natural Language Processing – NLP) можат да откријат говор на омраза, закани, навредлив јазик или индиректни сигнали на злоупотреба. Истите технологии се применуваат и во анализата на аудио и видео содржини, каде што ВИ може да препознае тон на глас, емоции, гестови или дури и акти на физичко насилство преку камери за надзор или снимки.
7
o Детекција преку wearables и IoT уреди
Паметните часовници, нараквици и други „носиви“ уреди денес можат да детектираат ненадејни промени во биометриските параметри – како што се срцев ритам, крвен притисок или движење. Комбинирајќи ги овие информации со алгоритми за машинско учење, системот може да предупреди за можно насилство во реално време. Исто така, паметни домашни уреди како што се звучници или камери, можат да бидат програмирани да детектираат крици или знаци на борба и автоматски да повикаат помош.
o Чат-ботови и виртуелни асистенти
Платформи базирани на ВИ како што се интелигентни чат-ботови, нудат можност за дискретна комуникација со жртвите. Овие системи можат да препознаат кога некој корисник е во опасност, да поставуваат чувствителни прашања, да понудат информации за помош и дури и да иницираат поврзување со релевантни институции или засолништа. Примери за вакви алатки веќе се користат во некои земји од страна на невладини организации и владини тела.
o Превентивни системи и предиктивна анализа
Покрај препознавање на веќе случено насилство, ВИ се користи и за превенција преку анализа на историја на однесување, обрасци на комуникација и други индикатори што може да укажуваат на ризик. Превентивните системи можат да ги алармираат социјалните служби или полицијата пред да дојде до ескалација.
8
Примери и алатки што користат ВИ
Со растечкиот развој на вештачката интелигенција, се појавуваат сѐ повеќе конкретни алатки и иницијативи насочени кон препознавање и спречување на родово базирано насилство. Овие алатки користат различни технологии – од обработка на јазик до анализа на слики и звук – со цел да се подобри поддршката за жртвите и да се олесни интервенцијата од надлежните институции.
o „Predictive Policing“ – анализа на ризици
Во некои држави, ВИ се користи за предиктивна анализа во полициска работа. Алгоритми предвидуваат каде и кога е најверојатно да се случи родово базирано насилство, врз основа на историски податоци, пријавени инциденти и демографски фактори. Иако оваа пракса отвора и етички прашања, таа овозможува проактивен пристап и подобро распределување на полициски ресурси во ризични подрачја.
o „rAInbow“ – ВИ чат-бот за жртви на насилство
rAInbow е интерактивен чат-бот развиен од организацијата Soul City Institute во Јужна Африка, кој користи ВИ за да комуницира со жртвите на родово базирано насилство. Базиран на разговор, ботот поставува чувствителни прашања, обезбедува едукација, нуди совети и ги упатува корисниците кон соодветни ресурси и поддршка. Неговата
предност е што може да работи анонимно, во секое време, и да обезбеди доверлива средина за жртвите.
o „Spotlight Initiative“ – ООН и Европска Унија
Оваа глобална иницијатива, поддржана од Обединетите нации и Европската Унија, користи дигитални алатки засновани на вештачка интелигенција за собирање податоци, следење на инциденти и анализа на трендови во родово базираното насилство. Преку комбинирање на статистички податоци и машинско учење, се изработуваат извештаи кои им помагаат на владите и организациите подобро да реагираат и да ги насочат ресурсите таму каде што се најпотребни.
o Модерација на содржина на социјални мрежи
Платформи како Facebook, Instagram и TikTok користат ВИ за автоматска детекција и отстранување на содржини што содржат говор на омраза, закани или дигитално насилство. Преку анализа на јазик и слики, овие алатки помагаат да се спречи ширење на вознемирувачки содржини и да се заштитат ранливите групи.
o Апликации за безбедност
Неколку мобилни апликации како „Circle of 6“, „SafeYou“ и „My Safetipin“ користат вештачка интелигенција за да овозможат побрза реакција при опасност, локациско следење, известување до пријатели или институции, па дури и автоматска аудио/видео регистрација на инциденти. Тие претставуваат иновативен начин жртвите да добијат помош со еден клик.
10
Етички и правни предизвици
Примената на вештачката интелигенција во справувањето со родово базираното насилство не може да се разгледува само од технолошки аспект, туку мора да се земат предвид и етичките и правните последици. ВИ алатките многу често обработуваат чувствителни лични податоци – како што се комуникации, локациски информации или биометриски податоци – што ја отвора темата за приватност и заштита на податоци. Недоволната регулација или злоупотреба на ваквите технологии може да резултира со дополнителна виктимизација или повреда на човековите права на жртвите.
Дополнителен предизвик претставува можноста за алгоритамска пристрасност. Алгоритмите учат од историски податоци кои често се полни со нееднаквости и социјални стереотипи. Како резултат на тоа, може да се случи некои групи да бидат недоволно застапени, погрешно проценети или дискриминирани од страна на ВИ системите. Притоа, се поставува и прашањето на транспарентност – како функционираат алгоритмите, кој ги контролира, и дали има начин да се постави одговорност кога ќе се случи грешка?
Воедно, дигиталната безбедност на жртвите мора да биде приоритет. Апликациите и уредите што користат ВИ може да бидат следени или манипулирани од сторителот, што ја зголемува опасноста за жртвата. Од клучно значење е овие алатки да бидат дизајнирани така што ќе овозможат дискретност, заштита и доверливост. Важно е и да се обезбеди правна рамка што ќе гарантира одговорна и етичка употреба на вештачката интелигенција, со јасно дефинирани стандарди и надзор од релевантни институции.
Без соодветна етика и законска заштита, добрите намери зад овие технологии може лесно да доведат до несакани последици. Затоа, неопходна е интердисциплинарна соработка – помеѓу технолози, правници, активисти и институции – за да се создаде безбедна, праведна и ефективна примена на вештачката интелигенција во борбата
против родово базираното насилство.
11
Можности за развој и препораки
Вештачката интелигенција нуди огромен потенцијал во борбата против родово базираното насилство, особено кога се користи на начин што ги става човековите права и безбедноста на жртвите во центарот. Во иднина, можно е да се развијат уште пософистицирани системи за рана детекција на насилство, кои ќе користат комбинирани извори на податоци – како што се аудио и видео анализи, онлајн комуникации и сензори во паметни уреди – за автоматско препознавање на ризични ситуации.
Исто така, постои можност за создавање на посебно прилагодени ВИ алатки за локални заедници, со почитување на културниот и јазичниот контекст, кои ќе помогнат да се приближи технологијата до ранливите групи. Преку мобилни апликации, чат-ботови и анонимни платформи за пријавување, жртвите може полесно да пристапат до информации, поддршка и услуги. ВИ може да се користи и во обука на стручни кадри – како што се социјални работници, полицајци или здравствени работници – преку симулации и анализи на сценарија со цел подобро разбирање и постапување во случаи на насилство.
За да се искористи овој потенцијал, потребно е вложување во истражување, развој и едукација. Универзитетите и истражувачките центри треба да развиваат интердисциплинарни програми кои ги поврзуваат информатиката, правото, социологијата и родовите студии. Владите и меѓународните организации, пак, имаат улога во поставување на јасна законска рамка што ќе го регулира користењето на ВИ, ќе обезбеди заштита од злоупотреби и ќе поттикнува етички развој.
Препорачливо е сите ВИ решенија поврзани со оваа проблематика да се развиваат транспарентно, во соработка со организации што работат со жртви, со цел да се добие реална слика за потребите и предизвиците. Истовремено, мора да се осигура дека алгоритмите се праведни, недискриминаторни и проверливи. Само на тој начин може да се создаде доверба и да се поттикне поголема употреба на технологијата во служба на човековата безбедност.
12
Заклучок
Примената на вештачка интелигенција во детекцијата и спречувањето на родово базирано насилство претставува револуционерен чекор во борбата против оваа општествена појава. Преку анализа на текстуални, аудиовизуелни и дигитални податоци, алгоритмите можат да идентификуваат модели на насилно однесување, што овозможува побрза интервенција и заштита на жртвите. Сепак, и покрај огромниот потенцијал, мора да се внимава на етичките аспекти, приватноста на податоците и можностите за предрасуди во алгоритмите.
За ефикасна и одржлива примена на овие технологии, неопходна е мултисекторска соработка – помеѓу технолози, експерти за родова еднаквост, правници, институции за заштита на човекови права, како и граѓанскиот сектор. Исто така, важно е овие алатки да не се доживуваат како замена за човечката проценка и емпатија, туку како поддршка што ја зајакнува реакцијата на системот.
Дополнително, потребна е континуирана едукација на јавноста и професионалците кои работат со жртви на насилство, со цел правилна интерпретација и употреба на податоците што ги генерира ВИ. Само преку постојана евалуација, критичко согледување и подобрување на овие технологии може да се осигури дека тие ќе придонесуваат кон создавање побезбедно и поправедно општество за сите, особено за најранливите категории.
13
Библиографија
1. UNESCO (2021). Artificial Intelligence and Gender Equality: Key findings of UNESCO’s Global Dialogue. https://unesdoc.unesco.org
2. Women (2023). Technology-facilitated gender-based violence: A growing threat. https://www.unwomen.org
3. Latonero, M. (2018). Governing Artificial Intelligence: Upholding Human Rights & Dignity. Data & Society Research Institute.
4. Chouldechova, A., & Roth, A. (2020). A snapshot of the frontiers of fairness in machine learning. Communications of the ACM, 63(5), 82–89.
5. European Commission (2020). White Paper on Artificial Intelligence – A European approach to excellence and trust. https://ec.europa.eu
6. Добрев, Д. (2022). Вештачката интелигенција и човековите права. Зборник на трудови од Институтот за човекови права, Скопје.
14