Анастасија Бојкикева
Вовед
Во последниве години, со зголеменото присуство на дигиталните платформи, на жените им се нуди нови начини за изразување, комуникација и поврзување. Меѓутоа, ова исто така отвори нови можности за различни форми на насилство, со посебен фокус на онлајн насилството врз жените. Онлајн насилството се јавува во неколку форми, како што се мизогинистички говори на омраза, сексуални закани, киберстокинг и дигитално репродуктивно насилство. Ваквите напади не само што предизвикуваат психолошки и емоционални штети на жртвите, туку ги доведуваат и во ризик од физички напад, губење на самодоверба и, понекогаш, психички нарушувања. Овие форми на насилство, иако се јавуваат во дигиталниот простор, имаат длабоки физички и емоционални последици за жените, што ја зголемува потребата од создавање нови алатки за спречување и контролирање на ваквите дејства.
Вештачката интелигенција (AI) има потенцијал да понуди иновативни решенија во оваа борба. Со помош на напредни технологии како што се машинското учење и обработката на природен јазик (NLP), AI може да игра клучна улога во откривање и модерирање на онлајн насилството. Ова ќе овозможи брза и ефективна интервенција, која ќе ја намали штетната содржина на дигиталните платформи и ќе создаде помалку ризичен простор за жените. Меѓутоа, не само што AI технологиите можат да се користат за откривање и спречување на насилството, туку тие исто така можат да обезбедат поддршка за жртвите на различни начини.
1. Откривање и спречување на говорот на омраза и насилството
Првата и најважна примена на AI во борбата против онлајн насилството е неговата способност да открива и блокира говор на омраза. Преку алатки како што се обработка на природен јазик (NLP) и машинско учење, AI може да препознае различни облици на насилни изјави, како што се расистички, сексистички или мизогинистички напади. Алгоритмите за машинско учење се обучуваат со големи количини податоци, што им овозможува да идентификуваат и анализираат штетни изрази и модели на говор што можат да резултираат во насилство врз жените.
AI може да идентификува повеќе од само јасни омразнички изрази. Благодарение на напредокот во обработката на природен јазик, овие технологии можат да препознаат суптилни форми на насилство кои може да не се толку очигледни, како што се заканувачки тонови, индиректни напади или дури и употреба на наместени слики и симболи кои носат насилна порака. На пример, ако некој постави сексуални закани во облик на слика или видео, AI може да ја идентификува содржината како насилна, дури и ако текстуалната компонента не содржи директни закани. Ова ќе го олесни процесот на автоматско отстранување на опасни содржини и помагање на жените да се чувствуваат сигурно во дигиталниот простор.
2. Превенција и брза реакција
Вештачката интелигенција игра важна улога во превенцијата на онлајн насилството преку својата способност да ги анализира и детектира потенцијалните случаи на насилство во рана фаза. Алгоритмите за препознавање на шаблони се основа на анализа на големи количини податоци, како што се пораки, коментари, фотографии и видеа на социјалните медиуми, форуми и други онлајн платформи. Технологијата може да ги препознае специфичните словесни или визуелни знаци на насилство, како што се закани, омраза, вознемирување или повторена злоупотреба на
интернет просторите, кои може да укажуваат на потенцијално насилство или предизвикување на психолошка штета.
Еден од најголемите адути на AI во оваа област е неговата способност за рано откривање на предупредувачки знаци, кои не можат да бидат лесно забележани од човечки модератори. На пример, AI може да ги анализира комбинациите на зборови или фрази кои се вообичаени за насилниците, како и да препознае теми или контексти што укажуваат на вербално или психолошко вознемирување. Овие ранобилни индикатори се многу важни за предвидување на потенцијално насилство и неговото спречување пред да прерасне во поголеми инциденти, кои можат да имаат сериозни последици за жртвите.
Преку употреба на овие алгоритми, системите базирани на AI можат да обезбедат рана интервенција. На пример, ако системот препознае закана или агресивно вознемирување, тој може да активира автоматски процеси за известување на администрацијата на социјалните платформи или модераторите, кои можат да преземат мерки, како што се издавање на предупредувања, привремено суспендирање на кориснички профили или во екстремни случаи, целосно бришење на штетни содржини. Во некои случаи, овие системи можат дури и автоматски да блокираат или избришат пораки, што ја зголемува ефикасноста на превентивните мерки и ги намалува штетните ефекти на насилството.
Една од главните предности на AI во оваа област е неговата способност да работи во реално време. За разлика од човечките модератори, кои често работат со временски ограничени ресурси и можат да пропуштат некои инциденти, AI има капацитет за постојана анализа и брза реакција. Ова значи дека потенцијалните случаи на насилство можат да се спречат веднаш, без одлагање. На пример, ако некој на социјалната мрежа упатува сериозни закани или злоупотребува платформа преку објавување на насилни или омразни содржини, AI може веднаш да ги препознае овие акции и да ја предупреди платформата, што може да спречи понатамошно ширење на насилството и да ги заштити корисниците од неговото влијание.
3. Поддршка за жртви на насилство
Дополнително, AI може да помогне во обезбедување на ресурси и поддршка за жените кои се жртви на онлајн насилство. Постои развој на автоматски чатботови кои можат да понудат консултации и насоки за жртвите на насилство. Овие дигитални алатки можат да им помогнат на жените да се обратат за помош, да добијат информации за свои права и ресурси, како и да бидат упатени кон институции и организации кои нудат правна и психолошка поддршка. Чатботовите обезбедуваат анонимност, што им овозможува на жртвите да бараат помош без да се изложат на страв од стигматизација или дополнителни закани. Ова може да биде особено важно за жените кои се плашат од одмазда или кои не можат да се обраќаат во јавност поради социјални и културни бариери.
Една успешна иницијатива е проектот “Call it Out” на интернет платформата Troll Busters, кој користи AI алатки за препознавање на говор на омраза и давање на анонимни консултации за жртвите на интернет насилство. Ова покажува како AI може да биде употребен не само во превенција, туку и во активната поддршка на жртвите.
4. Предизвици и етички аспекти
Иако AI нуди многу предности во борбата против онлајн насилството, постојат и сериозни предизвици кои треба да се разгледаат. Првиот и најголем предизвик е пристрасноста во алгоритмите. AI се базира на податоци, а ако овие податоци се пристрасни или не се инклузивни, алгоритмите ќе ги проектираат тие пристрасности. На пример, ако AI системите не се обучени со целосен спектар на податоци, тие може да не ги препознаат специфичните форми на насилство што се случуваат во различни културни и социјални контексти, а особено може да не ја препознаат специфичната динамика на насилство врз жени во различни региони. Покрај тоа, недостатокот на инклузивност може да доведе до игнорирање на определени групи жртви, како што се жртвите од различни етнички или социјални заедници, кои се соочуваат со уникатни
форми на насилство. Друга важна загриженост е приватноста на податоците. Поради чувствителноста на проблемот, треба внимателно да се размислува како се обработуваат податоците на жртвите на насилство и како тие ќе бидат заштитени. Заштитата на приватноста е од клучно значење во борбата против насилството, и сите AI решенија мора да бидат во согласност со високите стандарди за заштита на лични податоци и безбедност. Дополнително, постои и ризик од злоупотреба на овие технологии за следење на индивидуи или групи без нивна согласност, што може да доведе до нарушување на човековите права.
Заклучок
Вештачката интелигенција (AI) има огромен потенцијал да се искористи во борбата против онлајн насилството врз жените, нудејќи нови и иновативни начини за превенција, детекција и поддршка на жртвите. Со развојот на напредни технологии како што се обработката на природен јазик, машинското учење и алгоритмските системи за препознавање на насилство, AI може да понуди ефикасни решенија кои ги идентификуваат и блокираат штетните содржини во реално време, а истовремено создаваат безбедни и сигурни простори за жените на дигиталните платформи. Од друга страна, AI исто така може да им понуди анонимна поддршка на жртвите преку интуитивни и лесни за користење алатки, како што се чатботови и платформи за консултации, кои им овозможуваат на жените да се обратат за помош без страв од одмазда или дополнителни закани.
Меѓутоа, иако технологијата има голем потенцијал, важно е да се напомене дека AI сам по себе не е целосно решение за овој глобален проблем. Потребно е неговото интегрирање во пошироки стратегии и политики за родова еднаквост и безбедност, кои ќе се фокусираат на едукација, подигнување на свеста и континуирана заштита на жените во сите сфери на животот. Во процесот на развој на AI решенија, треба да се осигураме дека тие се родово свесни, инклузивни и дека ги земаат предвид различните социјални и културни контексти.
Со комбинирање на технолошките иновации и социјалните промени, може да се создаде дигитален простор кој е безбеден за жените, каде што насилството и дискриминацијата ќе бидат значително намалени, а жртвите ќе можат да најдат помош и поддршка. Ова не само што ќе го подобри нивното дигитално искуство, туку и ќе придонесе за постигнување на пошироките цели на родова еднаквост и праведност. Инвестициите во AI и нејзината интеграција со стратегиите за родова еднаквост ќе создадат една поотворена и инклузивна дигитална иднина, во која жените ќе се чувствуваат слободно и безбедно да ги користат сите можности што им ги нуди современиот свет.
Референци
1. Binns, A. (2018). Fairness in Machine Learning: Lessons from Political Philosophy. ACM Digital Library.
2. Goh, T., & Laney, C. (2017). Artificial Intelligence and Bias: An Exploration of How Gender Bias Plays a Role in AI Systems. AI for Good.
3. Mishna, F., et al. (2019). Cyberbullying in the Age of Digital Feminism: A Study of Online Harassment. International Journal of Digital Media Studies.
4. Zhou, Y., & Cheng, Q. (2020). Detecting Online Hate Speech Using Deep Learning. Journal of Artificial Intelligence and Ethics.
5. UN Women. (2020). Technology and Gender Equality: A New Pathway to Addressing Violence Against Women. UN Women.