Користење на вештачката интелигенција (AI) за унапредување на родовата еднаквостЕтички и правни аспекти на користење AI во идентификација и спречување на родово базирано насилство онлајн Бехим Јакупоски Родово базирано насилство е насилство што е насочено кон лице поради неговиот род, машки или женски или што диспропорционално влијае на лица од одреден пол. Често поимите Родово базирано насилство и насилство врз жените се користат наизменично затоа што прифатено е дека во најголем дел од случаите на родово базирано насилство. Жртвата е од женски пол, но сепак тоа не го исклучува и обратниот случај. Оваа тема е важна поради последиците на жртвата од ваквата појава, тие последии може да бидат психолошки, емоционални или сексуални или пак да му причинат економски губиток. Веќе постојат закони за спречување и казнување на ваквата појава но со развојот на технологијата се почесто и тоа насилство и кибер насилство или дигитално. Но, технологијата исто така ни овозможува полесно да се детектира или реши тој проблем, најмодерната и актуелна алатка за тоа нешто е вештачката интелигенција. Во оваа семинарска ќе разгледаме дали и како ВИ може да помогне при родово базираното насилство и етичките и правни аспекти во тоа. Родово базирано насилство онлајн е извршување на насилство врз одредени лица според нивниот пол дигитално или преку интернет. Со растот на технологијата расте и насилството онлајн. Во овој тип на насилство спаѓаат појави како демнење, сајбер булинг, вознемирување, нарушување на приватноста, родово-базиран говор на омраза, споделување туѓи содржини, сексуална злоупотреба врз основа на фотографии или видеа и слично. Обединетите нации ова го дефинираат како секој чин на насилство врз жените што е извршен, олеснет или чии последици се влошени со делумна или целосна употреба на инорматичката и комуникациската технологија (мобилни и паметни телефони, интернет, социјални мрежи, е-пошта и слично), којшто се насочени против жените само затоа што се жени или којшто несразмерно ги погодува жените. Вештачка интелигенција е гранка на компјутерската наука која се занимава со градење паметни машини способни за извршување задачи за кои обично е потребна човечка интелигенција. Улогата на ВИ во родово-базираното насилство се сведува на автоматизирана детекција на штетни содржини, автоматско отстранување на тие содржини, предвидување на ризични ситуации и спречување на ширење на такви содржини. Ова значи во делот од дефиницијата на ВИ за извршување задачи тие задачи да бидат детекцијата на насилнички содржини, нивното бришење и предвидување. За вештачката интелигенција да може да ги извршува овие задачи треба да има пристап до лични податоци, фотографии, приватни пораки. Тука се поставува дилемата за Етички аспекти на користењето на ВИ против оваа појава. Исто така, прашање е дали воопшто правните закони овозможуваат користење на оваа технологија, тоа е правниот аспект. Технологии како вештачка интелигенција за да можат ефективно да детектираат појави на родово насилство онлајн и да го филтрираат тоа ќе треба да имаат пристап до повеќе информации од прифатливото денес. Ако има појава на сајбер булинг од родов аспект, за вештачката интелигенција да може тоа да го детектира, да го класифицира како родово насилство и да го отстрани мора таа иста вештачка интелигенција без ограничувања да има пристап до секоја порака меѓу испраќачите што според многумина е нарушување на приватноста. Пример за тоа е компанијата Meta, Meta објави дека вештачка интелигенција ќе ги скенира сите пораки испратени меѓу нејзините корисници и ќе скенира за знаци на булинг и насилство. Според голем дел од јавноста тоа е пристап до приватни информации и масовно следење. За да се реши тој проблем треба да има баланс меѓу дозволата на пристап на ВИ и приватноста на луѓето. Моделите на ВИ често се тренираат на пристрасни податоци. Тие се тренираат на страници и извори каде што луѓето комуницираат меѓусебе и има пристрани податоци. На пример, ако податоците откаде што се тренира дадено ВИ се од одредени демографски групи, тогаш ВИ што е тренирана на тие извори може да ги дискриминира и игнорира жртвите од маргинилизираните заедници. Истражувања покажуваат дека ВИ алатки за препознавање говор на омраза имаат поголема стапка на грешки кај жените и малцински групи. Решение на ваквиот проблем е поголема контрола на изворите на тренирање на моделите на ВИ. Бидејќи ВИ за да се користи за овие цели треба да има пристап до приватни информации на луѓето, треба да се усогласи тоа со законите за заштита на податоци. На пример, користење на сензитивни податоци да се извршува со согласност од корисникот или да се анонимираат некако тие податоци. Сепак со таквиот пристап се намалува ефикасноста на вештачката интелигенција. И за ова треба да се најде баланс меѓу ефикасност на ВИ и заштита на податоци на корисниците. Исто така се поставува прашањето кој е одговорен ако ВИ направи грешка при неговата работа. Ако даден ВИ систем не успее да детектира насилство или го дозволи тоа насилство кој треба да е одговорен за тоа? Сегашните законски одредби не го имаат покриено ова прашање. За успешно да се имплементираат ваквите системи треба јасни законски решенија кои ќе обвинуваат некого при ваква грешка, како на пример креаторот на тој систем. Исто така се јавува проблем на вон гранични случаи на онлајн насилство. Ако ЕУ има едни закони против родово онлајн насилство а тоа насилство се случува меѓу човек од Европа и човек надвор од Европа се поставува прашањето кои закони би се користеле? Тие од Европа или надвор? Илон Маск по преземањето на Twitter во платформата воведе ВИ систем за откривање на говор на омраза со цел да се намали штетната содржина на Twitter. Според официјалните изјави од самата компанија бројот на штетни твитови е намален за околу 30% или барем видливоста на таквите твитови. Но сепак според други студии овој систем има и некои проблеми. Системот на Twitter се заснова на клучно-фразен пристап односно имаме одредени клучни зборови кои се класифицирани како говор на омраза. Таков пример се зборовите како: „patriarchy“, „break the patriarchy“ и други. Ваквите изрази ако се употреба не значи дека секогаш има говор на омраза а системот ги детектира како такви. Овој проблем може да се реши со подобрување на системот и овозможување да распознава и контекст на кажаното, како и зголемување на речникот на клучните зборови. Deepfake порнографијата е етичка криза каде што вештачка интелигенција се користи за креирање на убедливи, лажни сексуални видеа и слики на жени без нивна согласност што секако има огромни последици на жртвите како и нивната репутација. Првите случаи на ваквата појава датираат од 2017 година. Во 2019 година 96% од deepfake видеата беа со порнографска содржина, каде во 99% од случаите жртви беа жените. Државите веќе воведуваат строги законски одредби за борба против ваквата појава. Во декември 2023 година, Јужна Кореја усвои закон за забрана за поседување на вакви deepfake видеа и слики, казните достигнуваат до 5 години затвор. Во држави во САД исто така се воведија закони против оваа појава како што се Вирџинија и Калифорнија, а Обединетото Кралство исто така воведе одредби кои го криминализираат споделувањето на вакви содржини. Употребата на ВИ за борба против родовото насилство е моќна алатка, но сепак треба да се имплементира со согласност со постојните закони кои исто така треба да трпат модернизирање. Неопходно е да се задржи транспарентноста и заштитата на приватноста на луѓето. Сепак, ВИ е сеуште во нејзнините рани фази и со тек на времето ќе се подобрува во сите аспекти па така и во борбата со родовото насилство и родовото онлајн насилство. Литература Етички и правни аспекти на користење AI во идентификација и спречување на родово базирано насилство онлајн Бехим Јакупоски Родово базирано насилство е насилство што е насочено кон лице поради неговиот род, машки или женски или што диспропорцио

Блог

Етички и правни аспекти на користење AI во идентификација и спречување на родово базирано насилство онлајн

Бехим Јакупоски Родово базирано насилство е насилство што е насочено кон лице поради неговиот род, машки или женски или што диспропорционално влијае на лица од одреден пол. Често поимите Родово базирано насилство и насилство врз жените се користат наизменично затоа што прифатено е дека во најголем дел од случаите на…
Блог

Надминување со проблемите на родовата пристрасност во податоците и алгоритмите

Милко Димоски Апстракт Дали алгоритмите се сексистички настроени? Ова прашање често се поставува, но дебатата ретко е заснована на научна анализа. Овој труд има за цел да одговори на ова прашање преку комбинирање и на социјална и на техничка перспектива. Најпрво, дадена е техничка дефиниција на концептот алгоритам, заедно со…
Блог

Дали ботовите со вештачка интелигенција можат да бидат добри психолози? Предности, недостатоци и етички предизвици

Софија Китановиќ ВОВЕД Несомнен е големиот замав на вештачката интелигенција во современото секојдневие, како резултат на енормниот технолошки подем во изминатата деценија. Таа сè повеќе добива централно место во различни области од животот, почнувајќи од персонализирани препораки на социјалните мрежи, автономни возила, интелигентни дигитални асистенти. Но, нејзиното влијание сè повеќе…
Блог

Визуелна пристрасност: Родовата застапеност во компјутерски генерирани слики и deepfake технологии

Иман Топчи Вовед Во ерата на дигитализацијата, визуелните содржини стануваат сè подоминантна форма на комуникација и информирање. Со развојот на вештачката интелигенција, особено на технологиите за компјутерски генерирани слики и deepfake видеа, границите меѓу реалноста и симулацијата сè потешко се разликуваат. Иако овие технологии отвораат низа можности – од…
Блог

Употреба на вештачка интелигенција при мониторинг на говор на омраза, родова дискриминација и сексизам во работните комуникации

Филип Ѓоргиев 1. Вовед Работното место е основен социјален простор каде секој поединец треба да се чувствува безбедно, почитувано и еднакво третирано. Сепак, во денешно време среќаваме се повеќе случаи на говор на омраза, сексизам и родова дискриминација во професионалната комуникација. Дигиталната ера придонесе комуникациите на работните места сè повеќе…
Блог

Родово одговорно буџетирање во приватниот сектор: чекор кон еднаквост и одржлив бизнис развој

Софија Петкова 1. Вовед Во денешното динамично општество, прашањето за еднаквоста помеѓу жените и мажите сè повеќе добива на значење, не само од етички или социјален аспект, туку и како дел од економската логика и бизнис стратегијата. Еден од пристапите кој придонесува за пофер и поефикасна распределба на ресурси е…
Блог

Влијанието на вештачката интелегенција на пазарот на трудот-трансформации, можности, предизвици и последици

Симона Јошевска Вовед Што претставува вештачката интелигенција? Вештачката интелигенција претставува технолошки напредок кој овозможува компјутерски системи да извршуваат задачи што бараат интелигенција слична на човечката. Овие системи можат да учат од податоци, да анализираат…
Блог

Родовата еднаквост во ерата на дигиталниот маркетинг и вештачката интелигенција: Можности и ризици во новата технолошка реалност

Марија Јосифоска Вовед Во современото дигитално доба, технологијата станува клучен двигател на општествените промени. Еден од најзначајните фактори во оваа трансформација е вештачката интелигенција (ВИ), која брзо се интегрира во различни сектори – од здравство и образование, до финансии и маркетинг. Дигиталниот маркетинг, како динамична и иновативна област, првично го…
Блог

Како отсуството на женски податоци влијае на решенијата за вештачка интелегенција и ИКТ во здравството и јавната политика

Леонид Бошкоски АБСТРАКТ Во оваа ера каде што рапидно информациската и комуникациската технолохија(ICT) е облкувана од страна на Вештачката интелегенција(AI) , прецизноста и точноста на податоците се поважни од кога било. Овој труд истражува како недостатокот на податоци расчленети по пол и род придонесува за развој на недоволно точни и…
Блог

Персонификација и род во дигиталните асистенти – Зошто „тој“ ChatGPT?

Петар Стојановски Во денешно време вештачката интелигенција е насекаде околу нас, што речиси не постои човек кој немал контакт со неа. Особено се користени и алатките базирани на вештачка интелигенција, најчесто од помладата популација. Тоа се алатки како ChatGPТ, DeepSeek, Siri, Alexa, но и алатки како Sora за генерирање на…
Блог

Жените во дата секторот: Предизвици, можности и идни перспективи

Жените во дата секторот: Предизвици, можности и идни перспективи Петар Малиновски Вовед Дигиталната ера донесе значителни промени во различни аспекти на општеството и ја револуционизира комуникацијата, овозможувајќи глобална поврзаност. Преку Интернет, подобрени комуникации и онлајн платформи, луѓето можат да се поврзат меѓу себе на далечина, поттикнувајќи соработка, вмрежување и размена…
Блог

Инклузија на небинарни и родово разновидни перспективи во ВИ модели

Ана Јанеска Вовед Како што вештачката интелигенција сè повеќе влијае врз општествените норми и начинот на донесување одлуки, сè поважно e овие технологии да го препознаваат и почитуваат целиот спектар на родови идентитети. Повеќето ВИ системи досега се развивани врз основа на бинарни претпоставки за родот, што само ја засилуваат…
Блог

Жените како дигитални асистенти: Симболика и родови улоги на дигиталните гласовни асистенти (Siri, Alexa, и др.)

Јана Аргирова ВОВЕД Во дигиталната ера, технологијата станува сѐ поприсутна во секојдневниот живот, обликувајќи го начинот на кој комуницираме, работиме и живееме. Еден од најзабележливите и најкористените производи на Вештачката интелигенција се гласовните дигитални асистенти како Siri (Apple), Alexa (Amazon), Google Assistant и други. Овие системи функционираат преку препознавање на…
Блог

Вештачка интелигенција како помошник на децата со посебни потреби

Анастасија Петковска Вовед Вештачката интелигенција се повеќе и повеќе ни станува помошна алатка на секој од нас. Во секојдневниот живот во последниот период многу луѓе секојдневно ја користат оваа алатка и едноставно не можат да ги извршуваат своите работни обврски без неа. Како и секоја нова технологија така и оваа…
Блог

Вештачка интелигенција и родовата еднаквост

Тео Ефтимов Вовед Едноставно кажано, вештачката интелигенција (ВИ) вклучува користење на компјутери за класификација, анализа и цртање предвидувања од збирки податоци, користејќи збир на правила наречени алгоритми. Алгоритмите за вештачка интелигенција се обучени да користат големи збирки на податоци за да можат да идентификуваат шеми, да прават предвидувања, да…
Блог

Примена на вештачка интелигенција во медицината – Вградување на бионички уреди

Александра Крстевска Апстракт Медицината низ историјата постојано се развивала, но нејзиниот напредок најчесто бил бавен и ограничен од достапните технологии. Лекувањето се засновало на искуството на лекарите и основните дијагностички алатки, со ограничени можности за интервенција кај посложени здравствени проблеми. Денес, со појавата на вештачката интелигенција, медицината станува многу понапредна.…
Блог

Родот и развојот на технологијата: Како претставништвото на жените влијае на иновациите во ИКТ

АндрејТасевски Во текот на последните неколку децении, информациско-комуникациските технологии (ИКТ) се трансформираа во суштински двигател на економскиот и општествениот развој. Иновациите во оваа област влијаат на секој аспект од секојдневниот живот – од здравство, образование и вработување, до комуникација, мобилност и управување со ресурси. Сепак, додека технологијата се развива со…
Блог

Stem образование за девојчиња во земјите во развој: бариери и решенија

Христијан Давидовски Вовед Од минатото до денес, светот станува посвесен за значењето на образованието во областа на STEM (наука, технологија, инженерство и математика) за економскиот раст, развој и иновации кои се важен елемент од нашата егзистенција. Сепак, девојчињата, особено оние од земјите кои се се уште во развој, се…
Блог

Какво влијание има Вештачката интелигенција врз родовата еднаквост

Симона Мирова ВОВЕД Се повеќе, вештачката интелигенција му дава облик на светот во кој живееме – нашите можности за работа, резултатите од грижата за здравјето, нашиот пристап до бенефиции и услуги. Списокот на области погодени од вештачката интелигенција е долг и расте. Ако не научиме како да го искористиме потенцијалот…
Блог

Родовата пристрасност во професионалната средина и нејзино елиминирање со помош на вештачката интелегенција

Вики Симонова Вовед Иако многу компании денес имаат формални политики за еднаквост, родовата нееднаквост сe уште се чувствува на секој чекор во професионалната средина. Жените честопати се соочуваат со скриени препреки – од селекција на работно место, преку напредувања, па се до различен третман во тимови и при оценување…