Ива Серафимовска Психологија Филозофски факултет
АПСТРАКТ
Овој труд ги разгледува психолошките последици од сексуалните deepfake содржини како современа форма на дигитално родово насилство. Врз основа на преглед на достапната научна и стручна литература, трудот ги појаснува поимите deepfake, сексуална злоупотреба базирана на слика (image-based sexual abuse, IBSA) и дигитална димензија на насилството врз жените, а потоа ги анализира емоционалните, трауматските, социјалните и идентитетските последици врз жртвите. Посебно внимание се посветува на улогата на срамот, стигмата и секундарната виктимизација, како и на состојбата во Северна Македонија и во регионот. Трудот заклучува дека, иако содржината е вештачки создадена, достапните, иако ограничени, сознанија укажуваат дека штетата по психичкото здравје е реална и наликува на онаа кај други форми на сексуално насилство, и дека е потребен интегриран одговор: психолошка поддршка водена од принципите на трауматски-информирана грижа, правна заштита, одговорност на платформите и превенција преку образование.
Клучни зборови: deepfake, дигитално родово насилство, сексуална злоупотреба базирана на слика, траума, срам, секундарна виктимизација.
1. ВОВЕД
Брзиот развој на вештачката интелигенција ги промени начините на кои луѓето комуницираат, работат и се претставуваат во дигиталниот простор. Заедно со придобивките, технологиите за генерирање и менување на слики и видеа отворија и нови можности за злоупотреба. Една од најсериозните е создавањето на таканаречени deepfake содржини: синтетички слики, видеа или аудио снимки во кои лицето или гласот на постоечка личност се вметнуваат во материјал во кој таа личност никогаш не учествувала. Терминот потекнува од јавната култура на интернетот, од корисник на платформата Reddit кој кон крајот на 2017 година основал форум за споделување на такви содржини, најпрво порнографски видеа со лица на познати жени (Ajder, Patrini, Cavalli & Cullen, 2019).
Првиот поголем преглед на состојбата, изработен од компанијата Deeptrace (подоцна Sensity), покажа дека 96% од откриените deepfake видеа се порнографски, а содржините на петте најпопуларни сајтови за порнографски deepfake материјал се однесувале исклучиво на жени (Ajder и сор., 2019). Овие податоци потекнуваат од индустриски извештај од 2019 година и се однесуваат на откриени видеа на одредени сајтови, а не на распространетоста во популацијата, па најмногу укажуваат на односот меѓу видовите содржини и на родовата распределба. Иако јавната дебата за deepfake технологиите најчесто се води во контекст на политичка дезинформација и измами, овие податоци укажуваат дека во пракса најмасовната употреба е сексуалното искористување на жени без нивна согласност. Тоа го прави прашањето не само технолошко и правно, туку и длабоко психолошко и родово.
Честа реакција во јавноста е мислењето дека „тоа не е вистинско“ и дека штетата е помала кога сликата е вештачки создадена. Токму ова претпоставено помало значење на штетата е една од причините зошто жртвите често остануваат без признание, без поддршка и без правна заштита. Достапните истражувања, иако сè уште малобројни, укажуваат на спротивното: според сегашните, ограничени наоди, искуството на жртвите на сексуални deepfake содржини во многу аспекти наликува на искуството на жртвите на други форми на сексуално насилство (Rousay, 2023; Mento et al., 2025).
Целта на овој труд е да се систематизираат знаењата за психолошките последици од deepfake базираното дигитално родово насилство и да се објаснат психолошките механизми што стојат зад нив. Трудот се води од четири истражувачки прашања: (1) какви психолошки последици доживуваат жртвите; (2) кои психолошки теории и механизми може да ги објаснат тие последици; (3) што е познато за појавата во Северна Македонија и во регионот; и (4) какви форми на поддршка и превенција се препорачуваат. Трудот има форма на наративен литературен преглед. Користени се рецензирани научни трудови, магистерски труд, извештаи на меѓународни организации и релевантни новинарски и стручни извори, особено за македонскиот и регионалниот контекст. Рецензираните истражувања се сметаат за основен извор на емпириски наоди, додека новинарските и стручните извори се користат претежно за илустрација на регионалниот контекст и како индикатори, а не како доказ за распространетоста на појавата. Поради тоа што deepfake сексуалното злоупотребување е многу нова појава, голем дел од емпириските сознанија потекнуваат од поширокото поле на сексуалната злоупотреба базирана на слика; каде што е тоа случај, тоа е јасно назначено.
Трудот е организиран во осум дела. По воведот следува теоретска рамка со основните поими. Третиот дел ги опишува психолошките последици, а четвртиот ги поставува во објаснувачки модели. Петтиот дел се однесува на македонскиот и регионалниот контекст, шестиот на поддршката и превенцијата, а седмиот на ограничувањата на досегашните истражувања. На крајот е даден заклучок.
2. ТЕОРЕТСКА РАМКА
2.1. Што се deepfake содржини
Терминот deepfake е составен од „deep learning“ (длабоко учење, метод од областа на машинското учење) и „fake“ (лажно). Станува збор за содржини создадени или изменети со помош на невронски мрежи, најчесто така што лицето на една личност се заменува со лицето на друга во постоечки видео или слика, или пак цела слика се генерира од нула. Во првите години за создавање убедливи содржини беше потребно техничко знаење и многу слики на целната личност, но со појавата на лесно достапни апликации и услуги, процесот стана достапен и за луѓе без техничка подготовка (Ajder и сор., 2019). Chesney и Citron (2019) предупредуваат дека оваа достапност значи дека штетата повеќе не е ограничена на јавни личности: доволни се неколку фотографии од профил на социјална мрежа.
Од психолошка гледна точка, најважната карактеристика на deepfake материјалот е што ја нарушува довербата во сопствениот изглед и идентитет како доказ. Лицето на жртвата е вистинско, телото и контекстот се измислени, но за набљудувачот границата не е видлива. Токму оваа двосмисленост е дел од штетата, бидејќи жртвата мора да се справува и со самиот материјал и со прашањето дали другите ќе поверуваат дека е вистинит.
2.2. Сексуална злоупотреба базирана на слика
Сексуалните deepfake содржини се сместуваат во пошироката категорија на сексуална злоупотреба базирана на слика (image-based sexual abuse, IBSA). Според Powell, Scott, Flynn и Henry (2020), таа ги опфаќа неконсензуалното снимање, споделување или заканата за споделување на голи или сексуални слики на некоја личност, вклучувајќи и дигитално изменети слики. McGlynn, Rackley и Houghton (2017) го воведуваат поимот „континуум на сексуална злоупотреба базирана на слика“, со кој сексуалното искористување преку слики се поврзува со другите форми на сексуално насилство: не како изолиран технолошки проблем, туку како дел од истиот модел на контрола, понижување и ускратување на автономија.
Во јавната употреба често се среќава терминот „порнографија од одмазда“ (revenge porn). Истражувачите го критикуваат како непрецизен, бидејќи мотивите на сторителите се различни: од контрола и вознемирување во врска, преку сталкинг и притисок, до забава или профит во групи на врсници. Powell и сор. (2020) наведуваат дека ваквата злоупотреба се користи од сторители на семејно насилство, во сталкинг и сексуално вознемирување, но и во заканите и малтретирањето од страна на врсници и познати лица. Од овие причини, во овој труд се користи поимот сексуална злоупотреба базирана на слика. Во трудот се користи и терминот „жртва“, иако дел од литературата (на пример, Bates, 2017) го претпочита „преживеана“, со што се нагласува отпорноста и активната улога на лицата.
2.3. Дигитална димензија на насилството врз жените
Групата експерти на Советот на Европа за следење на примената на Истанбулската конвенција (GREVIO) во 2021 година ја усвои својата прва Општа препорака, посветена на дигиталната димензија на насилството врз жените (GREVIO, 2021). Со тоа е воведен поимот „дигитална димензија на насилството врз жените“, кој опфаќа и дела извршени онлајн (на пример, споделување понижувачки слики, навреди, закани) и дела извршени преку технологија, вклучително и технологија што допрва ќе се развие. Клучна порака на препораката е дека насилството онлајн не е посебна, помалку сериозна категорија, туку континуитет на родово засновано насилство што се случува и во јавниот и во приватниот живот. GREVIO утврдил дека оваа димензија често се занемарува во националните закони и политики, а препораките се структурирани околу четирите столба на Конвенцијата: превенција, заштита, гонење и координирани политики.
2.4. Родовата димензија на појавата
Деталите за родовата распределба зависат од тоа што се мери. Во анализата на Ajder и сор. (2019), сите порнографски deepfake содржини на најпопуларните сајтови прикажувале жени. Податоци цитирани во стручната литература од регионот покажуваат дека од 2018 година меѓу 90 и 95 проценти од сите deepfake материјали се неконсензуална порнографија, а околу 90 проценти од нив прикажуваат жени; во една американска студија жените политичарки биле 70 пати почесто цел на deepfake содржини од своите машки колеги (наведено во Salkanović, 2025). Бидејќи овие бројки се преземени од секундарен извор и потекнуваат од извештаи на индустријата, тие се користат само како ориентација. Од друга страна, во мултинационалната анкета на Powell, Scott, Flynn и McCook (2024) со 6.109 испитаници од Австралија, Нов Зеланд и Обединетото Кралство, 37,7% пријавиле најмалку едно искуство на сексуална злоупотреба базирана на слика од 16-годишна возраст, а родот не го објаснувал вкупниот обем на виктимизација. Сепак, релациониот контекст и последиците останале родово обележани.
Rousay (2023) оди чекор подалеку и тврди дека сексуалните deepfake содржини се „силно родова појава“ во која хетеронормативноста служи како шаблон за вршење на сексуално насилство, независно од полот, родовиот идентитет или сексуалната ориентација на жртвата. Оттука, родовата анализа не се сведува само на тоа колку жени се жртви, туку на тоа како се обликуваат значењата: чие тело се гледа како јавно добро, чија репутација е ранлива на сексуален скандал и кој ја сноси срамот.
3. ПСИХОЛОШКИ ПОСЛЕДИЦИ ВРЗ ЖРТВИТЕ
Психолошките последици од сексуалните deepfake содржини ќе бидат разгледани низ шест аспекти: емоционалните реакции, симптомите на вознемиреност, депресија и траума, нарушувањето на контролата и идентитетот, трајноста на содржината и хроничната виктимизација, социјалните последици и искуството на секундарна виктимизација. На крајот се посочуваат одликите по кои deepfake се разликува од другите форми на сексуална злоупотреба базирана на слика.
3.1. Емоционални реакции: срам, понижување, гнев и самообвинување
Првите реакции на жртвите најчесто се шок, неверица, страв и чувство на понижување. Наративниот преглед на Mento и сор. (2025), изработен според упатствата SANRA, заклучува дека неконсензуалното споделување интимни слики кај жртвите предизвикува недоверба, анксиозност, депресија, страв, стрес, јавен срам и понижување, а во некои случаи и суицидални мисли. Во материјалите на Американската академија за педијатрија, насочени кон родители и стручни лица, за децата жртви на сексуални злоупотреби базирани на слики создадени со вештачка интелигенција се наведуваат понижување, срам, гнев, чувство на повреда и самообвинување, а се нагласува и дека момчињата помалку често го споделуваат тоа што им се случило (American Academy of Pediatrics, без датум).
Особено значајно е самообвинувањето. Иако жртвата не ја создала сликата и не учествувала во создавањето, чувството на вина и срам често е присутно. Новинарското истражување на регионалната мрежа SEE Check го бележи истото: според претставничка на Автономниот женски центар од Србија, жените чувствуваат вина само поради тоа што го доживеале насилството, а сторителот ги убедува дека самите придонеле за него (Salkanović, 2025). Ова ја потврдува општата психолошка карактеристика на сексуалното насилство, каде што срамот не е соодветен одговор на она што се случило, туку последица на културното пренесување на одговорноста од сторителот на жртвата.
3.2. Анксиозност, депресија и трауматски симптоми
Најцитираното квалитативно истражување за менталното здравје на жртвите на неконсензуално споделување интимни слики е она на Bates (2017). Авторката спровела длабински интервјуа со 18 жени преживеани и ја анализирала содржината на нивните искази. Учесничките опишале проблеми со доверба, симптоми на посттрауматско стресно растројство (ПТСР), анксиозност, депресија и суицидални мисли, а авторката заклучува дека има значајни сличности со реакциите по сексуален напад. Иако ова истражување не се однесува специфично на deepfake содржини, сличностите во механизмот (јавно изложување на интимен материјал без согласност) го прават релевантен основ за разбирање на последиците.
Поновите податоци од психолошката литература и стручните изјави се во ист правец. Во американско национално истражување на психологот Asia Eaton, цитирано во медиумски извештај, една од осум испитани возрасни личности била жртва на некаков вид злоупотреба на интимни слики, а жртвите пријавувале симптоми слични на ПТСР; истото, според неа, важи и за жртвите чии слики се дигитално изменети со вештачка интелигенција (Spectrum News, 2025). Треба да се нагласи дека терминот „симптоми слични на ПТСР“ не значи дека кај секоја жртва може да се постави дијагноза. Дијагнозата според важечките класификации (на пример, American Psychiatric Association, 2013) бара клиничка проценка, а реакциите се разликуваат по интензитет и траење. Затоа литературата најчесто зборува за спектар на реакции, од краткотрајни стресни до хронични трауматски и афективни тешкотии.
3.3. Нарушена контрола, телесна автономија и идентитет
Rousay (2023) во својата феноменолошка студија, анализирана со интерпретативна феноменолошка анализа, ги опишува „телесните штети“ (embodied harms) на сексуалните deepfake содржини. Во фазата на скрининг, од 58 поканети лица, 63% (37) пријавиле искуство со сексуални deepfake содржини, а сите тие пријавиле дека нивните deepfake содржини биле монетизирани онлајн. Во интервјуата, четворица од петте учесници кажале дека тоа бил првпат да зборуваат за своето искуство. Главен наод е дека штетата на сексуалниот deepfake е особена поради преплетеноста и истовременоста на онлајн и офлајн искуствата на злоупотреба, што резултира со „бескрајни одгласи“ на злоупотребата во која се нарушува секој аспект од животот на жртвата. Треба да се има на ум дека станува збор за мал примерок и за магистерски труд, па наодите се индикативни, а не генерализирачки.
Овој наод може да се протолкува преку психологијата на траумата. Janoff-Bulman (1992) тврди дека трауматските настани ги разбиваат основните претпоставки врз кои луѓето го градат чувството на безбедност: дека светот е во основа добар, дека настаните имаат смисла и дека јас сум личност вредна за заштита. Кај жртвите на deepfake, претпоставката дека „мојот изглед, моето лице и моето тело ми припаѓаат мене“ е директно нарушена, бидејќи нивниот лик се користи за цели врз кои немаат контрола. Тоа може да доведе до чувство на отуѓеност од сопственото тело и лик, до недоверба кон сопствената дигитална слика, а кај дел од жртвите и до избегнување на фотографирање и присуство на интернет.
3.4. Трајност на содржината и хронична виктимизација
За разлика од многу други траумати што имаат јасен почеток и крај, дигиталната злоупотреба е временски отворена. Претставничката на Amnesty International, цитирана од SEE Check, истакнува дека штетните содржини лесно се шират преку граници и можат да останат онлајн долго по почетната објава, а потенцијално и засекогаш (Salkanović, 2025). Од психолошка гледна точка, ова значи дека жртвата нема јасен момент во кој може да каже дека „настанот е завршен“. Таквата неизвесност може да одржува состојба на хронична будност: честа проверка дали содржината се појавила повторно, страв дека ќе ја види колега, роднина или работодавец, и очекување на нов напад. Овој дел е аналитичка интерпретација заснована на општите знаења за траумата и на наведените наоди, а не директен емпириски наод за deepfake жртвите.
3.5. Социјални и релациони последици
Литературата редовно ги наведува и социјалните последици: повлекување, недоверба и тешкотии во воспоставување нови блиски врски (Mento и сор., 2025). Citron (2014) во анализата на сајбер-вознемирувањето нагласува дека жените што се цел на таква злоупотреба често се повлекуваат од онлајн просторот, од јавното изразување и понекогаш од работата, што има „потиснувачки“ ефект врз нивното учество во јавниот живот. Од тој аспект, личната штета има и колективна димензија: когнитивното и социјалното повлекување на жртвите го намалува присуството на жените во дигиталниот и јавниот простор, што е еден од начините на кои дигиталното насилство ја одржува родовата нееднаквост.
Во истражувањето на Rousay (2023) се нагласува и преплетувањето на онлајн и офлајн искуствата: онлајн содржините имаат директни последици на работното место, во семејството и во заедницата. За жените што живеат во помали средини, каде што „сите се познаваат“, ризикот од репутациска штета е особено висок, што ќе го видиме подолу во примерите од регионот.
3.6. Секундарна виктимизација и обвинување на жртвата
Секундарна виктимизација е појава кога жртвата дополнително се повредува од реакцијата на околината и на институциите: неверување, обвинување, минимизирање или бирократско однесување. Според SEE Check, адвокатка од Црна Гора истакнува дека секундарната виктимизација се случува често и ги обесхрабрува другите потенцијални жртви да се јават (Salkanović, 2025). Истиот извор опишува случај од мала црногорска средина во кој жена од помал град побарала помош откако сосед ѝ заканил дека ќе објави сексуализирани слики од неа. Бидејќи никогаш не била во врска со него и не верувала дека тој можел да добие таков материјал, посумнала дека сликите се вештачки создадени. Потоа одлучила работата да ја реши тивко, преку неформален разговор, затоа што не била сигурна дека случајот ќе остане доверлив и се плашела дека луѓето навистина ќе поверуваат дека сликите се вистински.
Овој пример добро го илустрира психолошкиот парадокс на deepfake злоупотребата: токму тоа што материјалот е лажен може да ја одврати жртвата од пријавување, бидејќи се плаши дека „лажното“ ќе биде прифатено како вистинито, а тоа што не е вистинито не ја штити од социјалната осуда. Поради тоа, работата со жртвите мора да вклучува и работа врз стравот од нивната околина, а не само врз самите симптоми.
3.7. По што deepfake се разликува од другите форми на IBSA
Врз основа на наведената литература, може да се издвојат неколку особености што ја разликуваат deepfake злоупотребата и можат да имаат последици врз психичкото здравје. Прво, жртвата не мора никогаш да снимила или испратила интимен материјал. И покрај тоа што за самообвинување нема основа, самообвинувањето и обвинувањето од околината остануваат присутни. Второ, содржината може тешко да се разликува од вистинска, што создава и неизвесност дали другите ќе ѝ веруваат на жртвата. Трето, доволна е обична фотографија од социјална мрежа, па ризикот не зависи од интимното однесување на жртвата, туку од самото присуство на интернет. Четврто, содржините можат да се монетизираат и масовно да се шират (Rousay, 2023). Овие особености се аналитичка синтеза и бараат понатамошна емпириска проверка.
4. ПСИХОЛОШКИ МОДЕЛИ ЗА ОБЈАСНУВАЊЕ НА ПОСЛЕДИЦИТЕ
Опишаните последици може да се разберат низ неколку комплементарни теоретски перспективи. Ниту една од нив не е создадена специјално за deepfake, но сите помагаат да се објасни зошто вештачки создадена слика може да предизвика реална траума.
4.1. Модел на траума и разбиени претпоставки
Herman (1992) трауматските настани ги дефинира како оние што го нарушуваат чувството на контрола, поврзаност и смисла, а централна одлика на психолошката траума е чувството на беспомошност. Кај deepfake злоупотребата беспомошноста е двојна: жртвата не може да ја спречи појавата на материјалот, но не може лесно ни да го отстрани. Заедно со тезата на Janoff-Bulman (1992) за разбиените претпоставки, која беше разработена во делот 3.3, овој модел објаснува зошто чувството на безбедност во сопствениот дигитален живот, но и во социјалната околина, може сериозно да се наруши.
4.2. Срам, стигма и „расипан идентитет“
Goffman (1963) стигмата ја опишува како својство што ја дискредитира личноста во очите на другите, оставајќи ја со „расипан идентитет“. Сексуализираните слики во културите што женската сексуалност ја поврзуваат со чест и репутација претставуваат мошне ефикасно средство за стигматизација, без разлика на тоа дали сликата е вистинита. Така можат да се разберат наодите на SEE Check дека жените не пријавуваат поради фактори што се културни и општествени, а не технички: нееднаквиот систем во кој жртвите често се осудуваат наместо сторителите (Salkanović, 2025). Затоа заклучокот на регионалните експерти дека срамот припаѓа на сторителот има и психолошко, а не само морално значење: промената на наративот за вината е дел од терапевтскиот процес.
4.3. Теорија на објективизација
Fredrickson и Roberts (1997) во теоријата на објективизација предлагаат дека во култури во кои женското тело често се гледа како објект на туѓ поглед, жените можат да ја интернализираат гледната точка на набљудувачот и да се самонабљудуваат, што е поврзано со срам, анксиозност и нарушена свесност за внатрешните состојби. Сексуалните deepfake содржини ја доведуваат објективизацијата до крајност: женското лице буквално се користи како суровина за туѓа сексуална фантазија и потрошувачка. Иако директни емпириски проверки на оваа теорија на deepfake жртви недостасуваат, теоријата нуди разумна рамка за разбирање на последиците по самопочитта и односот кон сопственото тело.
4.4. Родова моќ и континуум на насилство
Конечно, концептот на континуум на насилство (McGlynn и сор., 2017; GREVIO, 2021) укажува дека deepfake злоупотребата не е технолошка новина изолирана од остатокот на родово засновано насилство, туку нова алатка во познат арсенал на контрола и заплашување. Таа се користи против јавни личности и политичарки за да се обезвреди нивниот углед (Salkanović, 2025), но и против обични жени во партнерски, колегијални и врсничко-средински односи. Психолошките последици, значи, не се само индивидуална појава, туку и посредно и социјално средство за одржување на нееднаквоста.
5. МАКЕДОНСКИОТ И РЕГИОНАЛНИОТ КОНТЕКСТ
5.1. Случајот „Јавна соба“
Иако не се работи за deepfake материјал, случајот „Јавна соба“ е најпознатиот пример за дигитално сексуално насилство врз жени во Северна Македонија и добро ги покажува општествените услови во кои deepfake злоупотребата би се појавила. „Јавна соба“ беше група на платформата Telegram во која се споделуваа „разголени“ фотографии на жени преземени од нивните профили на социјални мрежи, често придружени со телефонски броеви и други лични податоци (т.н. doxing), како и интимни фотографии од поранешни партнери. Првата група имала над 7.400 членови, а слична група формирана неколку дена по разоткривањето на скандалот во јануари 2020 година имала 3.779 членови (Hadzi-Vasileva, 2021).
Јавното незадоволство од бавната реакција на институциите кулминираше во февруари 2021 година, откако младата жена Ана Колева од Кавадарци на Instagram објави видео во кое раскажува дека нејзина фотографија била украдена и споделена во група на Telegram заедно со телефонскиот број. На протестот на 3 февруари 2021 година во Скопје, организиран од 16 организации за правата на жените и за човековите права, граѓаните бараа итно и темелно разјаснување на случајот, соодветни казни за администраторите и членовите на групите, посебно регулирање на сексуалното вознемирување преку интернет во Кривичниот законик и соодветна грижа за жртвите од надлежните институции (Hadzi-Vasileva, 2021). Меѓу транспарентите на протестот имаше и порака упатена до жртвите: „Не си виновна“, што е директен одговор на самообвинувањето и срамот опишани во претходните делови.
Овој случај има неколку поуки за психологијата. Прво, откако Ана Колева јавно проговори, реакцијата на јавноста и на институциите се променила, што укажува дека јавното признавање и поддршката веројатно се важен заштитен фактор. За нејзиното психичко здравје, сепак, нема достапни податоци, па тоа останува претпоставка. Второ, повторното појавување на сличните групи по затворањето на првата укажува дека штетата е повторлива, а со тоа стравот на жртвите. Трето, барањето за „соодветна грижа за жртвите“ може да укаже дека психосоцијалната поддршка е слабо развиена и поцелосно не се препознава во институционалниот одговор.
5.2. Регионот: сè уште скриена појава
Според новинарското истражување на SEE Check, сексуализираните deepfake содржини и слики генерирани со вештачка интелигенција се појавуваат и во Југоисточна Европа, но остануваат во голема мера скриени поради стигма, ниска свесност и слаб институционален одговор (Salkanović, 2025). Од шесте организации за правата на жените од Босна и Херцеговина, Србија, Хрватска и Црна Гора што биле интервјуирани, само една, Автономниот женски центар од Србија, пријавила дека жени повремено се обраќале за вештачки создадена содржина, и тоа поретко од случаите со вистински интимен материјал споделен без согласност. Во Србија новинарите откриле големи групи на Telegram со десетици илјади мажи што разменуваат дигитално изменети голи фотографии на жени, а во Косово млада жена била цел на манипулирана слика што циркулирала на TikTok и ја обележувала со погрдни термини.
Од овие податоци може да се заклучи дека недостатокот на пријавени случаи не мора да значи и недостаток на појавата. Експертите наведуваат дека пречка за пријавување претставуваат стигмата, непознавањето на вештачката интелигенција и недовербата во поверливоста на институциите (Salkanović, 2025). Од психолошка гледна точка, ова значи дека жртвите веројатно остануваат сами со искуството, без пристап до стручна помош, што може да ги влоши долгорочните последици.
5.3. Правна и институционална рамка
Правната рамка е, според достапните извори, во процес на прилагодување. Во регионот, Хрватска ја има вклучено употребата на вештачка интелигенција во Кривичниот законик, Републиката Српска усвои одредба за вештачка интелигенција во август 2023 година, а Федерацијата Босна и Херцеговина во јули 2025 година, по предлог на граѓански организации (Salkanović, 2025). Од аспект на меѓународните стандарди, Северна Македонија е страна на Истанбулската конвенција, а GREVIO (2021) од државите потписнички бара да ја признаат дигиталната димензија на насилството врз жените како родово засновано насилство и да преземат законодавни и други мерки за превенција и заштита. Во македонскиот случај „Јавна соба“, тогашниот министер за внатрешни работи се повикал на политиката на Telegram да не ги споделува податоците за членовите на групите како пречка за истрагата, а ресорниот министер за правда најавил дека прогонувањето (сталкингот) ќе се воведе како кривично дело (Hadzi-Vasileva, 2021). Подетална анализа на конкретните одредби на важечкиот Кривичен законик, и на тоа дали тие експлицитно ги опфаќаат deepfake содржините, излегува од рамките на овој труд. Во достапната литература не беа пронајдени ни систематски податоци за распространетоста на сексуалните deepfake содржини во Северна Македонија, што е значајна празнина.
6. ПОДДРШКА, ИНТЕРВЕНЦИИ И ПРЕВЕНЦИЈА
6.1. Психолошка поддршка водена од трауматски-информирана грижа
Основен принцип на работата со жртви е недвосмисленото признавање дека искуството е реално и сериозно, без оглед на тоа што материјалот е вештачки создаден. Модел што најдобро ја опфаќа оваа работа е трауматски-информираната грижа, која според упатството на американската Администрација за злоупотреба на супстанции и ментално здравје (SAMHSA, 2014) се темели на принципите на безбедност, доверба и транспарентност, поддршка од врсници, соработка и взаемност, оспособување, глас и избор, како и чувствителност на културни и родови специфичности. Во пракса тоа значи дека стручното лице не ја оспорува реалноста на искуството, ѝ дава на жртвата контрола над темпото и тоа што ќе го сподели, избегнува обвинувачки прашања (на пример, зошто објавила фотографии) и ја информира за правата и можностите за заштита.
6.2. Терапевтски пристапи
Во клиничката пракса за трауматски симптоми, вклучително и ПТСР, најчесто се применуваат трауматски-фокусирани психотерапевтски пристапи, меѓу кои и когнитивно-бихејвиорална терапија. Кај жртвите на deepfake злоупотреба, терапијата може да се насочи кон намалување на симптомите на вознемиреност и избегнување, работа врз когнитивните искривувања што произлегуваат од самообвинувањето („сама сум си виновна“) и враќање на чувството на контрола, на пример преку конкретни чекори како документирање на доказите, пријавување на платформите и обраќање до надлежните институции. Бидејќи досегашните истражувања за ефикасноста на специфични интервенции за deepfake жртви практично не постојат, ова се претпоставки засновани на општата трауматолошка пракса.
6.3. Улога на социјалната околина
Реакцијата на најблиските има голема улога. Верувањето на жртвата, избегнувањето на обвинувања и огласување против срамот се важни заштитни фактори, како што покажа и примерот на протестот во Скопје со пораката „Не си виновна“. Од друга страна, ризикот од неповерување, особено при deepfake материјали, ја зголемува потребата околината да биде едуцирана за тоа што е deepfake, дека лицето на сликата не мора да биде автор или учесник и дека обвинувањето на жртвата не е оправдано.
6.4. Институционален одговор и одговорност на платформите
Институционалниот одговор е клучен за психолошката заштита, бидејќи искуството на жртвата со полицијата, обвинителството и судот може да ја намали или да ја зголеми штетата. Експертите, цитирани од SEE Check, нагласуваат потреба од обука на полицијата и обвинителите, инвестиции во технологија со која институциите ќе одат во чекор со дигиталните закани и кампањи за отстранување на стигмата (Salkanović, 2025). Платформите, исто така, имаат улога: во случајот „Јавна соба“, групата беше затворена од Telegram по притисок на државата, но слична група набрзо повторно се појави (Hadzi-Vasileva, 2021), што укажува дека одговорноста на платформите не смее да се сведува на повремено затворање.
6.5. Превенција и образование
Превенцијата треба да се одвива на повеќе нивоа. Powell, Scott, Flynn и Henry (2020) предлагаат информациите за сериозноста и штетноста на сексуалната злоупотреба базирана на слика да бидат вградени во образованието за почитувачки односи. Образованието опфаќа и дигитална и медиумска писменост, вклучително и знаење за вештачката интелигенција; експертите од регионот укажуваат дека ниската дигитална писменост директно го отежнува препознавањето и пријавувањето на таквите случаи (Salkanović, 2025). Во превенцијата е важно и работењето со потенцијалните сторители, на пример со разобличување на ставовите што ја минимизираат штетата, како што е „тоа е само шега“, „не е вистинско“ или „не прави никому штета“. Од аспект на психолозите, се препорачува и вклучување на психолошка перспектива во креирањето политики, бидејќи таа придонесува со знаења за траумата и срамот што често се занемаруваат во чисто правните пристапи.
7. ОГРАНИЧУВАЊА НА ЛИТЕРАТУРАТА И НАСОКИ ЗА ПОНАТАМОШНО ИСТРАЖУВАЊЕ
Литературата за психолошките последици од сексуалните deepfake содржини е сè уште во зародиш. Прво, голем дел од наодите се преземени од истражувања за поширока категорија, сексуална злоупотреба базирана на слика, и се претпоставува, а не потврдува, дека истите последици важат и за deepfake. Второ, достапните квалитативни истражувања се засновани на мали примероци, а во некои случаи тоа се магистерски трудови или анализи на онлајн дискусии, што ја ограничува можноста за генерализација. Трето, од етички причини и поради тешкотиите во пристапот, истражувањата најчесто вклучуваат возрасни учесници, па знаењата за малолетните жртви се ограничени. Четврто, недостасуваат лонгитудинални истражувања што би ги следеле жртвите со текот на времето, како и истражувања на ефикасноста на интервенциите. Петто, нема податоци за македонскиот контекст. Идните истражувања би можеле да вклучат анкетирање на студентската популација, интервјуа со стручни лица од центрите за помош на жртви и анализа на искуствата на мажите и на ЛГБТИ+ лицата како жртви, чии искуства се помалку присутни во литературата.
8. ЗАКЛУЧОК
Сексуалните deepfake содржини претставуваат форма на дигитално родово насилство чија штета не се мери со тоа дали сликата е „вистинита“, туку со тоа како жртвата и нејзината околина ја доживуваат. Достапната литература, иако ограничена, покажува дека жртвите можат да доживеат срам, понижување и самообвинување, симптоми на анксиозност, депресија и траума, нарушување на чувството на контрола и идентитет, социјално повлекување и секундарна виктимизација. Овие последици, според достапните ограничени наоди, во многу аспекти наликуваат на оние кај другите форми на сексуално насилство, а дополнително ги зголемуваат трајноста и ширењето на дигиталните содржини.
Од психолошка гледна точка, објаснувањето на овие последици бара комбинација на модели: траума и разбиени претпоставки, стигма и срам, објективизација и родова моќ. Заедничка нишка е дека одговорноста за штетата му припаѓа на сторителот и на системите што го овозможуваат насилството, а не на жртвата. Македонскиот случај „Јавна соба“ и регионалните примери покажуваат дека жртвите често остануваат без доволна институционална и психосоцијална поддршка, а дека недостатокот на пријави не значи и недостаток на појавата.
Затоа се препорачува интегриран пристап: (1) признавање на deepfake злоупотребата како форма на родово засновано насилство, во согласност со препораките на GREVIO; (2) достапна психолошка поддршка водена од принципите на трауматски-информирана грижа; (3) обука на полицијата, обвинителството и судството за избегнување на секундарна виктимизација; (4) поголема одговорност на платформите; и (5) превенција преку образование за почитувачки односи, дигитална и медиумска писменост. Како што нагласуваат експертите од регионот, срамот треба да падне на сторителот, а не на оној што страда.
КОРИСТЕНА ЛИТЕРАТУРА
Ajder, H., Patrini, G., Cavalli, F., & Cullen, L. (2019). The state of deepfakes: Landscape, threats, and impact. Deeptrace.
American Academy of Pediatrics. (без датум). The impact of deepfakes, synthetic pornography, & virtual child sexual abuse material. Center of Excellence on Social Media and Youth Mental Health. https://aap.org/en/patient-care/media-and-children/center-of-excellence-on-social-media-and-youth-mental-health/qa-portal/qa-portal-library/qa-portal-library-questions/the-impact-of-deepfakes-synthetic-pornography–virtual-child-sexual-abuse-material
American Psychiatric Association. (2013). Diagnostic and statistical manual of mental disorders (5th ed.). American Psychiatric Publishing.
Bates, S. (2017). Revenge porn and mental health: A qualitative analysis of the mental health effects of revenge porn on female survivors. Feminist Criminology, 12(1), 22–42. https://doi.org/10.1177/1557085116654565
Chesney, R., & Citron, D. K. (2019). Deep fakes: A looming challenge for privacy, democracy, and national security. California Law Review, 107(6), 1753–1819.
Citron, D. K. (2014). Hate crimes in cyberspace. Harvard University Press.
Fredrickson, B. L., & Roberts, T.-A. (1997). Objectification theory: Toward understanding women’s lived experiences and mental health risks. Psychology of Women Quarterly, 21(2), 173–206.
Goffman, E. (1963). Stigma: Notes on the management of spoiled identity. Prentice-Hall.
GREVIO. (2021). General Recommendation No. 1 on the digital dimension of violence against women. Council of Europe. https://rm.coe.int/grevio-rec-no-on-digital-violence-against-women/1680a49147
Hadzi-Vasileva, K. (2021, February 11). Citizens protest against impunity for online sexual predators in North Macedonia. Global Voices. https://globalvoices.org/2021/02/11/citizens-protest-against-impunity-for-online-sexual-predators-in-north-macedonia/
Herman, J. L. (1992). Trauma and recovery. Basic Books.
Janoff-Bulman, R. (1992). Shattered assumptions: Towards a new psychology of trauma. Free Press.
McGlynn, C., Rackley, E., & Houghton, R. (2017). Beyond “revenge porn”: The continuum of image-based sexual abuse. Feminist Legal Studies, 25(1), 25–46.
Mento, C., Praticò, M., Silvestri, M. C., Lombardo, C., & Pira, F. (2025). Psychological violence in image-based sexual abuse (IBSA): The role of psychological traits and social communications—A narrative review. Healthcare, 13(17), Article 2083. https://doi.org/10.3390/healthcare13172083
Powell, A., Scott, A. J., Flynn, A., & Henry, N. (2020). Image-based sexual abuse: An international study of victims and perpetrators. Summary report. RMIT University.
Powell, A., Scott, A. J., Flynn, A., & McCook, S. (2024). A multi-country study of image-based sexual abuse: Extent, relational nature and correlates of victimisation experiences. Journal of Sexual Aggression, 30(1), 25–40. https://doi.org/10.1080/13552600.2022.2119292
Rousay, V. (2023). Sexual deepfakes and image-based sexual abuse: Victim-survivor experiences and embodied harms [Master’s thesis, Harvard University Division of Continuing Education]. https://nrs.harvard.edu/URN-3:HUL.INSTREPOS:37374909
Salkanović, M. (2025, September 10). AI at the service of abuse: Shame belongs to the perpetrator. SEE Check. https://seecheck.org/index.php/2025/09/10/ai-at-the-service-of-abuse-shame-belongs-to-the-perpetrator/
Spectrum News. (2025, April 29). Image-based sexual abuse and mental health [Online news report]. https://spectrumlocalnews.com/nys/central-ny/your-mental-health/2025/04/29/image-based-sexual-abuse-mental-health Substance Abuse and Mental Health Services Administration. (2014). SAMHSA’s concept of trauma and guidance for a trauma-informed approach (HHS Publication No. SMA 14-