Не ме интересира, ама сепак гледам: Родови норми и пристрасниот поглед  на алгоритмите

Published by

on

5 algorithms that demonstrate artificial intelligence bias

Автор Даниел Мисиркоски 

Вовед 

Личното искуство на креирање на повеќе профили на страницата „Инстаграм“  ме поттикна да истражувам како и зошто платформите прикажуваат содржини врз  основа на активноста и иницијалното вметнување на податоци (според податоците  од 2024, 50.6% од корисниците на Инстаграм се мажи, а 49.4% се жени) (Statista.  (2024)). Забележав феномен каде профилите што беа помалку активни или нови,  беа особено изложени на непосакувана содржина, покрај тоа што во опциите на  страницата беа поставени ограничувања за чувствителна и возрасна содржина. 

Делот каде што се појавуваат најмногу нови содржини од страна на алгоритмот се  нарекува „Explore”. Овој дел според Инстаграм, е дизајниран да предложува нови  содржини во зависност од интеракцијата на корисникот со други содржини, пол,  возраст, кои профили и содржини ги следи, пријатели и друго (Instagram Official  Blog. (2023) n.d.). Инстаграм тврди дека ја персонализира содржината за  корисникот, но кога нема доволно податоци за интеракција, користи некакви  предиспозиции за да наметне непосакувана и генерализирана содржина во однос  на нив. 

Ова не е еден изолиран случај, туку проблем кој се појавува на повеќе дигитални  платформи каде што алгоритмите ги користат базичните информации на  корисникот за да препорачува нови пристрасни содржини. Со користење на  информациите на корисникот, доаѓа до зајакнување на општествените стереотипи, родовите норми и родовата нееднаквост. Наместо содржината на новите профили  да биде постепено индивидуализирана, таа паѓа веднаш под асимилација на  колективни мислења и предиспозиции.

Алгоритмот и машкиот поглед: пристрасната персонализација на родовите 

Алгоритмот е претставен како објективен, но тој ја одразува популарната  култура и претходните однесувања на други корисници. Препоставките се вградени  во процесот на селектирање. Се базира на кумулативни податоци од слични  корисници и индивидуалните допаѓања не се на прво место. Кога доаѓа до нови или  недоволно активни профили, алгоритмот е наклонет кон содржини кои имаат висока  интеракција како споделувања, време на гледање, допаѓања и коментари. Тоа  често се изразува на сексуализирани слики или видеа од жени кои спаѓаат под концептот на машкиот поглед, каде што телото е прикажано како објект на задоволство за машкиот корисник (Foto Femme United. (2024) ). Концепт воведен од  Лора Мулви дека телата на женскиот род се прикажани во машката желба и контрола поставувајќи ја жената како објект. Алгоритмот претпоставува дека тоа е  посакувано, придонесувајќи ги жените да се претставуваат на тој начин за да  стигнат до поголема видливост. И ова доаѓа до меѓусебно влечење на јаже, каде  што секоја страна губи. Платформата суптилно ја вметнува својата перспектива и  тоа влијае врз корисниците. 

Профил кој не следи никој и нема чести интеракции, добива сексуално сугестивни  видеа или „инфуленцери“ со сексуализирана естетика. Ова не го бара корисникот,  туку алгоритмот го пренасочува, претпоставувајќи дека ова е некаква елементарна  или стандардна желба на секој машки корисник. Истражувања покажуваат дека нови Инстаграм профили паѓаат жртва на  алгоритамската пристрасност во функцијата Explore (Yan, H., & Biss, M. (2024) н.д.).  Профилите беа идентични, со исклучок на родот наведен во биографијата. По само  две недели користење, “женските” профили им беа прикажани значително повеќе  содржини поврзани со диети, козметика и модни трендови, додека “машките”  профили беа изложени на повеќе содржини поврзани со спорт, технологија и  бизнис.

Особено загрижувачки беше откритието дека профилите што се идентификуваа  како женски и покажуваа интерес за теми традиционално поврзани со мажите (како  програмирање или автомобили) сепак постепено добиваа сè повеќе “типично  женски” содржини. Ова укажува дека алгоритмите не само што ги засилуваат  постоечките родови стереотипи, туку активно ги обесхрабруваат интересите што  отстапуваат од родовите норми. 

Во споредба со активни профили каде што алгоритмот е трениран, има многу ретки  случаеви, но сепак ги има поради базичните податоци кои беа споменати. Дури  користејќи ги опциите за пријавување, блокирање и притискање дека не е  заинтересиран корисникот за таков вид на содржини, тие се враќаат поради тоа што  поголемиот дел од корисниците им придонесуваат внимание, дека се популарни или контроверзни и добиваат поголема интеракција од корисниците. Тоа е илузија  на избор и е финансиски мотивирано бидејќи Инстаграм е бесплатна платформа со  реклами. Колку подолго некој ја користи платформата, толку поголема шанса е да  ги гледа тие реклами што придонесува до компании да плаќаат за да се се  рекламираат. И ова сето е цврсто поврзано со добивање на поголема заработка со задржување на вниманието на корисникот. 

Оваа алгоритамска пристрасност ги заробува корисниците во однапред  дефинирани родови калапи без оглед на нивните вистински интереси и желби. Ова  создава затворен круг на родово стереотипно однесување. Корисниците што се  обидуваат да избегаат од овие калапи се соочуваат со постојан отпор од системот,  кој упорно се обидува да ги врати во “соодветните” родови категории. Оваа  динамика не е само технички проблем, туку длабоко општествен феномен што ги  одразува и засилува постоечките родови нееднаквости. Алгоритмот не е неутрален  посредник, туку активен учесник во обликувањето на родовите идентитети и  односи.

Кој одлучува што сакаме? 

 Се поставува прашањето: дали желбата е лична или некој ја наметнува? Алгоритмот ги претпоставува нашите посакувања со помош на демографски  податоци, родови очекувања, држава во која живееме, јазикот кој го користиме и  уште многу фактори кои не се транспаретно прикажани. Со променување на  локацијата со VPN, може да се забележи дека платофрмата на еден начин ја турка културата во самата држава. Ова е уште еден податок со кој се дознава дека  содржината не е неутрална или ненадејна, туку таа е одлучена пред корисникот да  го оформи својот профил. 

Ова се надоврзува со создавањето на така наречен „стандард“ за тоа што е  посакувано и нормално.  

Мажите ги претставува како „субјекти“. Ги изложува на сексуални содржини,  стереотипи, размислување и начини на однесување . Се менува перцепцијата дека  тоа е нормално. Сето ова придонесува кон нереалистични стандарди, очекувања и  плиток поглед кон жените. Гледајќи ги само како објекти, не како уникатни личности 

со свои емоции и чувства. 

Селективното прикажување има различно влијание кон двата рода. 

Жените се претставени како „објекти“. Секогаш прикажани во најдоброто  светло. Принудени да објавуваат перфектни фотографии кои се изменети со  различни софтвери (како филтри, вештачка интелегенција и слично) за да ги исправат „недостатоците“. „Совршената жена“ е идеја која е наметната каде што  сите жени треба да бидат со идеални пропорции, перфектно лице и слабо тело. Ова е многу токсично поради тоа што помладите, гледајќи ги овие нереални и лажни  прикази, се споредуваат и се принудени истото да го прават. Не поради нивна  желба, но поради очекувањaта кој се поставени од алгоритмот (Healthline. (2024) ).  Почнуваат да ги споредуваат најлошите моменти во својот живот со најдобрите,  постирани од страна на „инфлуенсери“. Дигиталната средина создава циклус, каде владее незадоволството и несигурноста во корисникот.

Розалинд Гил зборува за концептот на “постфеминистичка сензибилност”,  опишувајќи ја современата медиумска култура што вклучува и феминистички и  антифеминистички теми, поврзувајќи ги со неолибералниот субјективитет што ја  потенцира индивидуалната самонадзорот, одговорност и претприемачкиот дух (Gill  Rosalind). 

На Инстаграм, ова се манифестира преку содржини што промовираат “зајакнување”  на жените, но често во тесно дефинирани параметри на физичка привлечност,  консумеризам и самоподобрување. „Инфлуенсерите“ често промовираат  “зајакнувачки” пораки што всушност ги засилуваат традиционалните родови  очекувања затскриени како избор и слобода. Противречностата е особено видлива  во трендовите на фитнес инспирација и трансформации на телото, што ја  нагласуваат личната одговорност за постигнување на идеализирани телесни  стандарди. Поради вакви содржини, Инстаграм негативно влијае на сликата за  телото кај 1 од 3 адолесцентни девојки (Time Magazine ). 

Но ова не е црно и бело. Постојат случаеви каде што и мажите се изложени на некакви шематски очекувања. Се прикажува слика за „идеалниот маж“, кој треба  да е висок, атлетичен, доминантен, емоционално недостапен и финансиски  успешен. Алгоритмот ги турка овие така наречени „алфа маж“ содржини, кои го  издигнуваат луксузниот живот и хедонизмот, каде што успехот е под секоја цена. Дополнително овие промовирања на овие идеологии се маскирани во реклама за  продавање на „курсеви за самопомош“, но наместо да се фокусираат на градење  на автентична врска тие ги доведуваат клиентите до сосема погрешен и искривен  поглед. Оваа „естетика“ е нереална и создава голем притисок, анксиозност и  губењето на автентичноста. 

Освен овие нереалани очекувања кои се наметнуваат на мажите и жените,  се промовираат и содржини кои ги поставуваат половите едни против други,  исмевајќи го другиот пол, зајакнувајќи ги стереотипите и создавајќи родови војни.  Овие содржини се многу контроверзни и добиваат многу видливост. Тие се  споделувани и во коментарите често има расправии кои ненамерно го прават  видеото уште попопуларно. Алгоритмот наместо да ги блокира овие видеа, ги 

издигунува врз други уникатни и креативни содржини. Се нормализира омразата и  се создава поголема одбивност, поларизација и отуѓување помеѓу родовите. 

Многу истражувања покажуваат на илјада најпопуларни рекламни содржини  на Инстаграм, 78% од рекламите насочени кон жени се фокусираат на убавина,  мода и домаќинство, додека 67% од рекламите насочени кон мажи се фокусираат  на технологија, финансии и спорт. Оваа поделба ги засилува традиционалните  родови улоги и ограничува претставувањето на разновидни интереси и  способности. 

Инстаграм и други социјални платформи се соочуваат со сериозен предизвик  во справувањето со екстремистички содржини поврзани со родовите улоги.  Алгоритмите на платформата често ненамерно промовираат радикални ставови поради што имаат многу интеракции поради тоа што се контроверзни.  Истражувањето на Центарот за борба против дигитална омраза открива дека  корисниците, особено младите мажи, можат да бидат изложени на мизогинистички  содржини само 15 минути по интеракција со умерено конзервативни содржини за  родовите улоги (Center for Countering Digital Hate). Овие содржини често  промовираат екстремни верзии на традиционалните родови норми, претставувајќи  ги жените како инфериорни или исклучиво како сексуални објекти. Истовремено, на  другиот крај на спектарот, има радикални феминистички содржини што  промовираат негативни генерализации за мажите. Оваа поларизација на родовите  создава дигитални ехо-комори кои ги зајакнуваат екстремните погледи и ја  отежнуваат конструктивната дискусија за родовата еднаквост.  

Пошироки импликации за родот, идентитетот и дејствувањето 

Константно конзумирање на одредени содржини има силно влијание врз  идентитетот и перцепцијата кон другите. Со ваквото „меко притискање“ на  содржини кои се популарни, тие стануваат поприфатливи. Пример е профили кои  промовираат идеологијата „blackpill“ и други слични идеологии. Често луѓето не ги  пребаруваат директно, но бидејќи се контроверзни сепак стигнуваат до сите 

кориснци евентуално. Содржините го преставуваат светот каде што изгледот ја  детерминираат вредноста на индивидуата. Ова доведува до помал акцент на  емоционалната интелегенција, персонален раст и формирање на вистински врски. Ова исто така принудува голем број луѓе да плаќаат за козметички хирургии за да  ги задоволат овие нереални стандарди. За жените ова може да е ботокс, филери и  слично. А за мажите може да доведе до хирургии за зголемување на својата висина и трансплантација на коса. Истражувањето на Кралскиот колеџ за психијатрија  покажа корелација помеѓу изложеноста на вакви содржини ја зголемува  анксиозност и дисморфија на телото кај адолесцентите (Royal College of  Psychiatrists. (2020) ). Особено проблематичен тренд е зголемувањето на  рекламите за “козметички процедури” насочени кон девојки на возраст од 13-18  години, што ги нормализира инвазивните интервенции и создава нереални  очекувања за физичкиот изглед во раната возраст. Овие содржини го спроведуваат  тврдењето дека единствен начин до романтичка врска е преку изгледот на човекот. 

Ова може да има драстични ефекти врз физичкото и менталното здравје. 

Овие идеи се често поврзани исто со „incel” заедниците, идеологија која се темели  врз омраза и обвинување на другиот пол за неуспешност во љубовта. Индивидуите  кои ја следат овие идеологии ги сфаќаат врските на многу плиток начин, каде што  не бараат емоционала компатибилност или автентична врска, придонесувајќи до  осаменост. Наместо да ги охрабрат да развијат емоционална зрелост и автентични  врски, овие заедници ги учат да ги гледаат меѓучовечките односи како игра на моќ  и манипулација. Особено загрижувачки е што овие идеологии често служат како  порта кон поекстремни форми на мизогинија и дури насилство, создавајќи затворен  круг на омраза и изолација што станува сè потешко да се прекине. Младите луѓе  што се чувствуваат отфрлени или неразбрани во физичкиот свет наоѓаат чувство  на припадност и валидација во овие дигитални заедници, не сфаќајќи дека  идеологиите што ги прифаќаат всушност ги оддалечуваат од можноста за  автентични човечки врски и личен раст. 

Квир теорија и неутралноста на алгоритмот

Понекогаш квир содржините стануваат многу популарни, често за погрешни  и проблематични причини. На тие видеа има многубројни невкусни коментари, исмевање и многу споделувања. Поради ова спаѓаат во таа рамка на контроверзни  содржини кои алгоритмот ги спроведува многу често. На еден начин се прави  експлоатација на квир идентитетот, прави лажна слика, недоразбирање и погрешна претстава на заедницата. Платформата не обезбедува доволна безбедост за  филтрирање на коментарите и затоа некогаш на овој тип на содржини се исклучени  коментарите од креаторот. Според GLAAD извештајот за 2024, Инстаграм добил  оценка 58/100 за безбедност на LGBTQ+ содржини, што е пад од 5 поени во  споредба со претходната година (GLAAD. (2024) н.д.). Наместо да се прикажуваат  реални и автентични квир содржини, алгоритмот промовира видеа кои се шокантни,  бидејќи тоа е во корист на Инстаграм. 

Квир жени се често прикажани на сексуализиран или фетижизиран начин, а квир  мажи се почесто невидливи. А ако се сексуализирани квир мажи, обично е за тие  што се вклопуваат во рамката на „прифатливи“. Ова придонесува до нереални и различни репрезентации и ги поткрепува стереотипите. Наместо да прикажуваат  вистинска квир култура, алгоритмите промовираат погрешен поглед каде геј мажите  се претставени како забава за хетеросексуалните жени, а лезбејките како објекти  за задоволство на хетеросексуалните мажи. 

Квир содржините што се вклопуваат во опсегот на конвенционално атрактивни,  тенки, често бели тела што ги следат доминантните модни трендови добиваат до 5  пати повеќе ангажман од содржините што прикажуваат поразновидни и помалку  нормативни квир идентитети. 

Оваа динамика создава парадоксална ситуација каде зголемената видливост на  одредени квир идентитети доаѓа по цена на нивната автентичност и радикален  потенцијал. Квир креаторите што се потпираат на комерцијализирана женственост  за да привлечат следбеници и спонзорства често ненамерно ги засилуваат истите  хетеронормативни стандарди што квир движењето историски ги предизвикувало.  Истовремено, квир идентитетите што не се вклопуваат во овие стандарди како небинарни лица со андрогин изглед, трансродови лица што не се стремат кон 

“проодност” остануваат маргинализирани и помалку видливи на платформата. Ова  создава искривена слика за квир заедницата, каде само најпривилегираните и  најнормативните, добиваат широка видливост, додека разновидноста останува  невидлива за пошироката публика. 

Квир креаторите што се потпираат повеќе на својата женственостчесто се  соочуваат со дилемата дали да ги прифатат овие можности за монетизација, дури  и кога тоа значи дека нивниот идентитет ќе биде искористен за комерцијални цели  што може да не се усогласени со нивните политички вредности. 

Промовирање и комерцијализација на женското тело 

Инстаграм станува сè почесто користена платформа за индиректно  промовирање на профили на платформи за содржини за возрасни, што доведува  до сложени прашања за родовите норми и економската експлоатација. Директните  линкови до вакви платформи се забранети според правилата на Инстаграм, но  сепак постојат стратегии за заобиколување на овие полиси, користејќи кодиран  јазик и индиректни упатувања. Поради ова Инстаграм функционира како некаков  “излог” за платени сексуализирани содржини. 

Алгоритмот на Инстаграм што фаворизира контроверзни содржини, кои се често  сексуализирани, создава притисок врз креаторите да се објективизираат за да  останат конкурентни и видливи на платформата, за да постигнат некаква заработка.  Особено загрижувачки е што овие содржини често се видливи за помлади  корисници, создавајќи впечаток дека сексуалната објективизација е нормален и  пожелен кариерен пат (Nature. (2024)). Истражувањата покажуваат дека голем  процент од женските корисници на возраст 18-24 години се чувствуваат под  притисок да создаваат сексуализирани содржини за да добијат видливост на  платформата, што укажува на системски проблем во начинот на кој алгоритмите ги  вреднуваат и промовираат различните типови на содржини. 

Оваа појава создава и нова форма на „дигитална родова економија“, каде женската  сексуалност станува производ што се продава преку слоевит систем. Инстаграм

10 

служи како маркетинг алатка, додека другите платформи овозможуваат  монетизација. Иако некои феминистички перспективи го гледаат ова како форма на  економско зајакнување што им овозможува на жените директна контрола над  монетизацијата на своето тело, други критичари истакнуваат дека ова е само нова  манифестација на истите патријархални структури што историски ја експлоатирале  женската убавина, сега преобликувана во привидно прогресивна форма на “избор”  и “зајакнување”. 

Ова придонесува до зацврствување на родовите нееднаквости на платформата,  бидејќи женските креатори многу почесто се соочуваат со дилемата дали да ја  монетизираат својата сексуалност за да останат релевантни, додека машките  креатори имаат поширок спектар на опции за монетизација што не се базираат на  сексуална објективизација.  

Лични сведоштва и етички предлози за иднината 

Пред да ја одберам оваа тема за дискусија, имав разговори со пријатели за нивното  искуство со Инстаграм, особено дали добиваат ненадејни или нерелевантни  содржини, без зразлика на нивниот пол. Сите вратија одговори дека наидуваат на  сексуално сугестивни содржини и видеа кои ги одвојуваат родовите, дури иако  немаат воопшто интерес во тие објави. Веднаш ги избегнуваат тие содржини, но  сепак тие повторно се враќаат на некој одреден период, особено ако е популарна. 

Недостатокот на транспарентност предизвикува фрустрација и намалување на  довербата кон платформата. Платформите мора да имаат подетални причини  поради кои се гледа зошто е препорачано видеото. Алгоритмот треба да биде  повеќе насочен со со поставените филтри и да се фокусира на тоа што не сакаме,  не само тоа што ни се допаѓа. Користејќи ги филтрите за зборови, не успеав никаква  голема разлика да забележам во содржините на неактивните и новите профили. 

Истражувајќи за оваа тема, се дознава дека не се што конзумираме е поради наша  желба, туку тоа е суптилно наметнато. Наместо да дознаваме и да креираме нови  уникатни содржини, подсвесно алгоритмот не турка кон се вклопиме во една рамка.

11 

Библиографија 

(Statista. (2024)) Distribution of Instagram users worldwide as of 2024, by gender.  https://www.statista.com/statistics/802776/distribution-of-users-on-instagram worldwide-gender/ 

(Sprout Social. (2025) ) Social media demographics to inform your 2025 strategy.  https://sproutsocial.com/insights/new-social-media-demographics/ 

(Hootsuite. (2025) ) Instagram demographics that matter to marketers in 2025.  https://blog.hootsuite.com/instagram-demographics/ 

(Instagram Help Center ) How Instagram works.  

https://help.instagram.com/487224561296752

(Instagram Official Blog. (2023) ) Shedding more light on how Instagram works.  https://about.instagram.com/blog/announcements/shedding-more-light-on-how instagram-works 

(Later.com. (2025) ) How the Instagram algorithm works in 2025.  https://later.com/blog/how-instagram-algorithm-works/ 

(Yan, H., & Biss, M. (2024) ) Algorithmic bias in social media content  personalization. PubMed Central.  

https://pmc.ncbi.nlm.nih.gov/articles/PMC11276240

(Foto Femme United. (2024) ) The male gaze in visual media.  https://www.fotofemmeunited.com/article/644-the-male-gaze-in-visual-media 

(Media Studies) Understanding the male gaze theory by Laura Mulvey.  https://media-studies.com/male-gaze/ 

(Nature. (2024)). Exploring gender norms in digital media.  

https://www.nature.com/articles/s41599-024-02960-3

12 

(SAGE Journals. (2024) ) Gender norms on social media: Reinforcement or  resistance? https://journals.sagepub.com/doi/10.1177/11033088241296626 

(PubMed Central. (2024) ) Social media and body image dissatisfaction in youth.  https://pmc.ncbi.nlm.nih.gov/articles/PMC11544943/ 

(Psychology Today (2024). ) Picture perfect: Mental health, social media, and body  image. https://www.psychologytoday.com/us/blog/perfect-me/202410/picture perfect-mental-health-social-media-and-body-image 

(Healthline. (2024) ) Social media and body image: Negative and positive effects.  https://www.healthline.com/health/social-media-and-body-image 

(Royal College of Psychiatrists. (2020) ) Technology use and the mental health of  children and young people https://www.rcpsych.ac.uk/docs/default source/improving-care/better-mh-policy/college-reports/college-report-cr225.pdf 

(GLAAD. (2024)) Social Media Safety Index 2024. https://glaad.org/smsi/social media-safety-index-2024/ 

(The Advocate. (2024). ) Social media failing LGBTQ+ users, GLAAD report finds.  https://www.advocate.com/news/social-media-failing-glaad-report 

(Springer Link. (2024). ) Psychological aspects of social media use.  https://link.springer.com/article/10.1007/s12144-024-06236-6 

(University College London. (2024)). Social media algorithms amplify misogynistic  content among teens. https://www.ucl.ac.uk/news/2024/feb/social-media-algorithms amplify-misogynistic-content-teens 

(Time Magazine ) Investigates Instagram’s impact on teenage girls’ body image. Instagram’s Body Image Problem May Be Unfixable, Experts Say 

(Gill Rosalind) Postfeminist media culture 

https://journals.sagepub.com/doi/10.1177/1367549407075898

13 

(Center for Countering Digital Hate) Center for Countering Digital Hate (CCDH) https://counterhate.com/wp-content/uploads/2022/12/CCDH-Deadly-by Design_120922.pdf

14