Дигитални левијатани: Архитектура на одговорноста и економија на насилството во дигиталната ера

Прашањето за одговорноста на технолошките корпорации во спречувањето на родово базираното насилство на нивните платформи нè води во самото срце на современата дебата за моќта, етиката и управувањето во дигиталната ера. Тоа не е прашање со едноставен технички или правен одговор, туку длабоко филозофско и политичко прашање кое ја разоткрива самата природа на овие ентитети, кои од обични провајдери на услуги еволуираа во квази-државни актери, архитекти на социјалната реалност и куратори на јавниот дискурс. Нивната одговорност не произлегува само од фактот што насилството се случува „на нивна територија“, туку е инхерентно втемелена во нивниот деловен модел, во дизајнот на нивните алгоритми и во огромната, речиси суверена моќ што ја имаат врз обликувањето на социјалните интеракции, норми и искуства за милијарди луѓе. Да се зборува за нивната одговорност значит да се анализираат не само нивните политики за модерирање на содржина, туку и фундаменталната логика на економијата на вниманието која ги поттикнува нивните платформи и која, премногу често, наоѓа профит во поларизацијата, сензационализмот и омразата, каде што родово базираното насилство наоѓа плодна почва за вирално ширење.

Фундаменталниот извор на корпоративната одговорност лежи во економската структура врз која се изградени овие дигитални империи. Платформите како социјалните мрежи не продаваат производ на корисниците; тие го продаваат вниманието и податоците на корисниците на огласувачите, што значи дека нивниот примарен императив е да го максимизираат ангажманот – времето поминато на платформата, кликовите, споделувањата и реакциите. Алгоритмите за препораки, кои се моторот на овие системи, се оптимизирани токму за таа цел, а истражувањата постојано покажуваат дека содржината што предизвикува силни емоционални реакции, како што се гневот и стравот, е несразмерно поефикасна во генерирањето ангажман. Токму во овој процесен јазол, мизогинијата и другите форми на родово базирана омраза стануваат не само толерирани, туку и алгоритмиски засилени, бидејќи предизвикуваат жестоки реакции и дебати, со што го хранат системот кој профитира од нив. Следствено, одговорноста на корпорациите не е само да го „исчистат“ нередот, туку да се соочат со фактот дека нивниот основен деловен модел е структурно соучесник во создавањето услови за процут на токсичноста, префрлајќи ги огромните психосоцијални трошоци од насилството врз жртвите и општеството, додека го приватизираат профитот од ангажманот што тоа насилство го генерира.

Oдговорноста се протега и во доменот на дизајнот и архитектурата на самите платформи, кои во никој случај не се неутрални. Секоја карактеристика – од можноста за анонимни профили, преку леснотијата со која може да се сподели содржина без контекст, до начинот на кој се дизајнирани системите за пријавување на злоупотреба – претставува сет од вредносни избори кои имаат директни последици врз безбедноста на корисниците. Комплексноста на овие системи често служи како изговор за корпоративна пасивност, но вистината е дека архитектурата која овозможува брзо ширење на штетни содржини е свесно изградена за да му служи на капиталот, а не на заедницата. Затоа, вистинската промена бара радикално преиспитување на дигиталниот простор, каде што етиката на грижа и безбедноста на жртвите ќе станат примарен параметар во кодирањето на нашата заедничка иднина.