Горјан Серафимовски
Вовед
Вештачката интелигенција (ВИ) се наметнува како една од највлијателните технологии на 21 век, со потенцијал да трансформира економски, социјални и културни аспекти на општеството. Во контекст на родовата еднаквост, ВИ нуди уникатни можности за промоција на инклузивност, намалување на нееднаквостите и зајакнување на маргинализираните групи, особено жените и другите родови малцинства. Од едукативни програми и алатки за економско зајакнување до анализи на податоци за идентификување на системски нееднаквости, ВИ може да послужи како моќна алатка за создавање на поправедливо општество.
1.Потенцијалот и ризиците на ВИ во контекст на родовата еднаквост
Кети О’Нил во својата книга Weapons of Math Destruction (2016) нагласува три клучни карактеристики на штетните алгоритми: непроѕирност, разорна моќ и скалираност. Непроѕирноста се однесува на недостатокот на транспарентност во тоа како функционираат алгоритмите, што го отежнува идентификувањето на пристрасностите. Разорната моќ се манифестира кога алгоритмите влијаат на голем број луѓе, на пример, преку автоматизирани системи за кредитирање или вработување. Скалираноста овозможува овие пристрасности да се применат на глобално ниво, продлабочувајќи ги нееднаквостите. Во контекст на родовата еднаквост, О’Нил укажува дека ВИ може да ги засили стереотипите, како што е перцепцијата дека одредени професии се „машки“ или „женски“, доколку не се преземат мерки за етички дизајн. Сепак, О’Нил не е целосно песимистична. Таа предлага дека со транспарентност, ревизија на алгоритмите и вклучување на различни перспективи во нивниот развој, ВИ може да се искористи за намалување на нееднаквостите. На пример, алгоритмите можат да се користат за идентификување на родови јазови во платите или за промоција на инклузивни образовни програми. Во Data Feminism (2020), Кетрин Д’Ињазио и Лорен Ф. Клајн пристапуваат кон ВИ и податоците од феминистичка перспектива, нагласувајќи ја потребата од редефинирање на начинот на кој се собираат, анализираат и користат податоците. Тие воведуваат седум принципи на феминистичката наука за податоци, од кои неколку се особено релевантни за родовата еднаквост: предизвикување на моќта, преиспитување на бинарностите и вреднување на плурализмот. Во Data Feminism (2020), Кетрин Д’Ињазио тврди дека податоците и ВИ често се создаваат во рамки на патријархални и колонијални структури, што резултира со пристрасности кои ги маргинализираат жените и другите малцинства. На пример, тие укажуваат на случаи каде системите за препознавање глас или лице се помалку точни за жени или лица со потемен тен поради нерепрезентативни податоци за обука. Овие пристрасности не се само технички проблем, туку и одраз на социјалните хиерархии. Д’Ињазио, исто така, ја нагласува важноста на преиспитување на бинарните категории (како маж/жена) во податоците, бидејќи овие категории често ги исклучуваат небинарните лица и ги зајакнуваат стереотипите. Тие предлагаат ВИ да се користи за промоција на плурализам и инклузивност, на пример, преку создавање на податочни сетови кои ги одразуваат различните родови идентитети.
2.Зајакнување на жените преку дигитални вештини: Иницијативи на UNESCO за родова еднаквост во образованието
UNESCO промовира практични иницијативи за намалување на родовиот јаз во дигиталните технологии. Еден конкретен пример е нивната соработка со глобални партнери, како што е коалицијата EQUALS Skills, за развивање програми за обука на девојки и жени во областа на вештачката интелигенција и програмирањето. Во рамки на овие програми, UNESCO поддржува проекти во земји во развој, каде што девојките добиваат обука за кодирање и развој на ВИ технологии. На пример, во некои африкански земји, UNESCO финансира работилници каде млади жени учат да создаваат апликации кои решаваат локални проблеми, како пристап до здравствена заштита или образование. Овие иницијативи не само што ги зајакнуваат жените економски, туку и ја зголемуваат нивната застапеност во технолошкиот сектор, каде традиционално доминираат мажи. UNESCO, исто така, препорачува укинување на родовите стереотипи во технологијата, како што е практиката гласовните асистенти (на пр. Siri, Alexa) да имаат женски гласови по дифолт, за да се избегне зајакнувањето на стереотипот за „послушна“ женска улога.
3.Подобрување на инклузивноста во технологиите за препознавање лица
Џој Буоламвини, основач на Algorithmic Justice League, покажа дека технологиите за препознавање лица се помалку прецизни за жени и лица со потемен тен поради пристрасни податоци за обука, кои главно вклучуваат слики од бели мажи. Како практичен пример за промоција на родовата еднаквост, нејзината работа доведе до конкретни промени во индустријата. По објавувањето на студијата, големи технолошки компании, како IBM и Microsoft, ги преобучија своите алгоритми за препознавање лица за да вклучат поразновидни податочни сетови, вклучувајќи повеќе слики од жени и лица од различни етнички групи. Ова резултира со подобрување на точноста на овие технологии за жените, намалувајќи ја дискриминацијата во апликации како што се безбедносните системи или процесите за регрутација.
4.Локални можности за примена на вештачката интелигенција во промоцијата на родовата еднаквост во Република Северна Македонија
4.1.Анализа на родови податоци за креирање политики
ВИ може да се искористи за анализа на родово сензитивни податоци собрани од Државниот завод за статистика и локални организации, како Реактор – Истражување во акција, за да се идентификуваат родови јазови во области како вработување, образование и здравство. На пример, ВИ алатка може да обработува податоци од Индексот на родова еднаквост за да ги мапира општините со најголеми нееднаквости во пристапот до услуги. Ова би им помогнало на локалните власти да креираат таргетирани програми, како обуки за жени во рурални средини за дигитални вештини или субвенции за женско претприемништво. ВИ може, исто така, да предвиди идни трендови за родовите јазови врз основа на историски податоци, овозможувајќи проактивни политики.
4.2. Развој на едукативни платформи за родова сензитивност базирани на Вештачка интелигенција (ВИ)
Вештачката интелигенција може да се искористи за создавање онлајн платформи за едукација на јавноста, државните службеници и младите за родовата еднаквост. На пример, соработка меѓу локални НВО, како ХЕРА или Здружението за родова еднаквост „ЕДНА МОЖЕ!“, и технолошки компании може да резултира со развој на ВИ чатбот кој нуди обуки за родово одговорно однесување, препознавање на родово-базирано насилство или разбирање на законските права. Овој чатбот може да се интегрира во веб-страниците на општините или Министерството за труд и социјална политика, овозможувајќи лесен пристап за граѓаните. Таквата иницијатива би можела да се финансира преку грантови, како оние од Британската амбасада за родово инклузивни политики. Образованието за родова еднаквост е клучно за надминување на стереотипите, а ВИ може да направи обуките достапни и интерактивни, особено за младите и администрацијата, каде е забележан напредок во родово одговорно буџетирање.
4.3.Борба против родово-базирано насилство со ВИ алатки
ВИ може да се примени за развој на апликации или системи за рано откривање и превенција на родово-базирано насилство, што е приоритет во Македонија според Националниот акциски план за имплементација на Истанбулската конвенција (2018-2023). На пример, ВИ-базиран систем може да анализира анонимни пријави од жртви преку онлајн платформа, идентификувајќи модели на насилство и упатувајќи ги корисниците кон локални ресурси, како кризни центри или советувалишта. Таква платформа би можела да се развие во соработка со UN Women, која активно работи на елиминирање на родово-базирано насилство во Македонија. Дополнително, ВИ може да се користи за обука на полицијата и социјалните работници преку симулации за справување со случаи на насилство. Родово-базираното насилство останува значителен проблем, а ВИ може да го подобри одговорот на институциите и да ги заштити жртвите, особено во услови на ограничени ресурси.
4.4. Поддршка за економско зајакнување на жените преку ВИ
ВИ може да се искористи за развој на платформи за поврзување на жени претприемачки со можности за финансирање, обука и пазар. На пример, локална ВИ апликација може да анализира профили на жени од рурални средини или маргинализирани групи, препорачувајќи им програми за микрокредитирање или обуки за дигитален маркетинг. Ова би можело да се имплементира преку партнерство со Министерството за економија и локални организации, како Реактор, кои работат на родова анализа на пазарот на труд. ВИ, исто така, може да помогне во идентификување на сектори со висок потенцијал за женско вработување, како ИТ индустријата, каде застапеноста на жените е ниска. Економската независност е клучна за родовата еднаквост, а во Македонија жените се соочуваат со повисока невработеност и помал пристап до економски можности, особено во руралните области.
4.5.Подобрување на родовата застапеност во политиката со ВИ анализи
ВИ може да се користи за анализа на медиумското покривање и јавните дебати за да се идентификуваат родови пристрасности во политичкиот дискурс. На пример, ВИ алатка може да обработува изјави од политичари или медиумски написи за да открие дали жените во политиката се стереотипизирани или маргинализирани. Овие податоци можат да се користат од организации како Клубот на пратенички или Македонското женско лоби за застапување за поголема застапеност на жените во Собранието и локалните совети. Дополнително, ВИ може да помогне во креирањето кампањи за подигање на свеста за важноста на родовите квоти, кои веќе резултираа со 43% застапеност на жени во Собранието. Политичката застапеност на жените во Македонија е подобрена благодарение на квотите, но сепак постои потреба од суштинско учество и надминување на стереотипите, што ВИ може да го поддржи преку аналитика и кампањи.
4.6.ВИ за поддршка на родово одговорно буџетирање
ВИ може да се имплементира во Министерството за финансии или локалните самоуправи за анализа на буџетите од родова перспектива, во согласност со напорите за родово одговорно буџетирање, кои се дел од Националната стратегија за родова еднаквост (2022-2027). На пример, ВИ алатка може да обработува податоци за буџетски трошоци во општините и да идентификува дали средствата се распределуваат на начин што ги задоволува потребите на жените, како што се инвестиции во градинки, центри за жртви на родово-базирано насилство или програми за женско претприемништво. Таква алатка може да се развие во соработка со UN Women, која веќе поддржува проекти за родова еднаквост во Македонија, и да се тестира во пилот-општини како Скопје или Битола. ВИ може да предложи и оптимизации, на пример, зголемување на средствата за програми за економско зајакнување на жените во рурални средини. Родово одговорното буџетирање е приоритет во Македонија, но често недостасуваат алатки за прецизна анализа. ВИ може да ја зголеми ефикасноста и транспарентноста, обезбедувајќи рамномерна распределба на ресурсите.
4.7.ВИ за промоција на родово сензитивно новинарство во Македонија
Вештачката интелигенција (ВИ) може да се искористи за развој на алатка за анализа на медиумските содржини во Македонија, со цел да се промовира родово сензитивно новинарство. Оваа алатка би можела да ја развијат локални организации, како Здружението на новинарите на Македонија (ЗНМ) или Советот за етика во медиумите (СЕММ), во соработка со технолошки факултети, како ФИНКИ. ВИ системот би анализирал текстови, видеа и објави од македонските медиуми (на пример, МРТ, Канал 5, или портали како СДК.мк) за да идентификува родови стереотипи, пристрасности или нееднаква застапеност на жените во вестите. На пример, алатката може да открие дали жените се почесто прикажани во контекст на семејни улоги отколку во професионални или лидерски позиции. Врз основа на анализата, ВИ би генерирала извештаи со препораки за новинарите, како и едукативни материјали за обука на уредници за родово сензитивно известување. Дополнително, алатката може да предложи родово неутрални термини или да истакне примери на инклузивно новинарство. Проектот би можел да се финансира преку грантови од УСАИД или Фондацијата Отворено општество – Македонија, кои поддржуваат медиумски реформи. Медиумите во Македонија често несвесно ги зајакнуваат родовите стереотипи, а жените се недоволно застапени во лидерски наративи. ВИ може да помогне во подигање на свеста и подобрување на квалитетот на новинарството, што е клучно за промена на јавните перцепции за родовата еднаквост. Овој пример се разликува од претходните бидејќи се фокусира на медиумската култура и јавниот дискурс, наместо на економски, политички или едукативни аспекти.
4.8.ВИ за промоција на родово инклузивен пристап во здравствената заштита
Вештачката интелигенција (ВИ) може да се искористи за развој на систем за анализа на здравствени податоци со цел да се идентификуваат и решат родово-специфични потреби во македонскиот здравствен систем. На пример, Министерството за здравство, во соработка со локални НВО како ХЕРА и технолошки компании, може да имплементира ВИ алатка што обработува анонимизирани податоци од здравствени картони, болнички извештаи и истражувања за да открие разлики во пристапот до здравствени услуги меѓу мажите, жените и небинарните лица. Алатката може да идентификува, на пример, дали жените во руралните области (како во Источниот регион) имаат помал пристап до гинеколошки прегледи или скрининг за рак на дојка во споредба со урбаните средини. ВИ може да предложи приоритетни области за интервенција, како мобилни клиники или кампањи за подигање на свеста, и да предвиди идни здравствени ризици врз основа на демографски трендови. Дополнително, ВИ може да се користи за обука на здравствени работници преку симулации за родово сензитивен пристап кон пациентите, особено за маргинализирани групи како Ромките или трансродовите лица. Овој проект може да се финансира преку грантови од Светската здравствена организација (СЗО) или ЕУ фондови за здравство. Здравствената заштита во Македонија се соочува со предизвици поврзани со нееднаков пристап до услуги, особено за жените во руралните и маргинализираните заедници. Родово-базираните разлики во здравствените исходи, како повисоката смртност од рак на грлото на матката кај жените, можат да се решат со ВИ преку прецизна анализа и таргетирани интервенции. Овој пример е различен од претходните бидејќи се фокусира на здравствениот сектор, кој не беше покриен во другите примери, и нагласува физичкото и менталното здравје како клучен аспект на родовата еднаквост.
5.Меѓународни примери за споредба
За да се разбере потенцијалот на вештачката интелигенција (ВИ) за промоција на родовата еднаквост во Република Северна Македонија, корисно е да се разгледаат меѓународни примери од земји со различни социо-економски контексти. Овие примери можат да инспирираат локални иницијативи, истовремено нагласувајќи ги предизвиците за адаптација. Во овој дел се презентираат два примера: еден од Кенија, земја во развој со слични предизвици како Македонија, и еден од Шведска, земја со напреден технолошки и родово-еднаков екосистем.
5.1.ВИ платформа за економско зајакнување на жените во Кенија
Во Кенија, проектот „iHub Women in Business“, поддржан од USAID и локални технолошки хабови, користи ВИ-базиран систем за поврзување на жени претприемачки со можности за финансирање и обука. Платформата анализира профили на жени од рурални и урбани средини, вклучувајќи ги нивните бизнис идеи и вештини, и ги спојува со микрокредити, менторски програми или пазари за нивните производи. ВИ, исто така, предвидува кои сектори (на пример, земјоделство или дигитални услуги) имаат најголем потенцијал за успех, помагајќи им на жените да донесат информирани одлуки. Според извештај на UN Women, проектот поддржал над 10.000 жени до 2024 година, зголемувајќи го нивниот просечен приход за 20% во пилот-регионите. Овој пример е применлив за Македонија, каде жените во руралните области се соочуваат со ограничен пристап до економски можности. Слична ВИ платформа, развиена во соработка со Министерството за економија и НВО како Реактор, може да ги поврзува жените од региони како Пелагонија или Источен со програми за обука за дигитални вештини или грантови за мали бизниси. Предизвикот е обезбедувањето дигитална инфраструктура во руралните средини, што може да се реши со поддршка од ЕУ фондови.
5.2. ВИ за анализа на родовиот јаз во платите во ИТ секторот во Шведска
Во Шведска, земја со висок индекс на родова еднаквост, ВИ се користи за анализа на родовиот јаз во платите во ИТ секторот, каде жените сочинуваат околу 22% од работната сила. Проектот, предводен од Шведскиот институт за истражување (RISE) и поддржан од владата, користи ВИ за обработка на податоци од платите во технолошки компании за да идентификува нееднаквости. Алатката открила дека жените во ИТ заработуваат во просек 8% помалку од мажите за исти позиции. Врз основа на анализата, компаниите вовеле политики за транспарентност на платите и обуки за менаџерите за елиминирање на пристрасности, намалувајќи го јазот за 3% помеѓу 2022 и 2024 година. Во Македонија, каде ИТ секторот е во развој, а жените се застапени со околу 20%, слична ВИ алатка може да се имплементира во соработка со ФИНКИ и технолошки компании за да се анализираат платите и да се промовираат политики за еднаквост. Ограничувањето е малиот обем на податоци, што може да се надмине со регионална соработка во Западен Балкан.
5.3.Споредба и адаптација за Македонија
Кенискиот пример ја нагласува важноста на ВИ за економско зајакнување на жените во услови на ограничени ресурси, што е релевантно за руралните области во Македонија. Шведскиот пример покажува како ВИ може да се користи за прецизни интервенции во напредни економии, што може да биде долгорочна цел за македонскиот ИТ сектор. И двата примера укажуваат на потребата од партнерства меѓу владата, НВО и приватниот сектор, како и на етички развој на ВИ за да се избегнат пристрасности. Во Македонија, пилот проекти, како платформа за женско претприемништво или анализа на плати во Скопје, можат да бидат прв чекор кон имплементација. За успешна адаптација, клучно е да се обезбеди обука за локалните чинители за користење на ВИ алатки и да се вклучат маргинализираните заедници, како Ромките, во процесот на развој. Дополнително, искуството од Кенија и Шведска сугерира дека финансиската поддршка од меѓународни организации, како USAID или ЕУ, може да го забрза спроведувањето на вакви проекти во Македонија.
6.Етички предизвици и препораки за имплементација
Примената на вештачката интелигенција (ВИ) за промоција на родовата еднаквост носи значителен потенцијал, но и етички предизвици кои мора да се решат за да се избегнат ненамерни штети. Овој дел ги анализира клучните ризици поврзани со ВИ и нуди препораки за нејзина одговорна употреба, со посебен фокус на контекстот на Република Северна Македонија.
6.1.Етички предизвици
- Пристрасности во податоците: ВИ системите зависат од податоци, кои често ги одразуваат историските нееднаквости. На пример, ако податоците од македонскиот пазар на труд се базираат на индустрии каде доминираат мажи, ВИ алатките за регрутација може да ги фаворизираат мажите, како што предупредува О’Нил во Weapons of Math Destruction. Во здравствениот сектор, недостатокот на податоци за небинарни лица може да доведе до нивно исклучување од анализите.
- Ограничен пристап до технологија: Во руралните области на Македонија, каде интернет-пенетрацијата е пониска (околу 70% според Државниот завод за статистика, 2023), жените може да бидат исклучени од ВИ-базирани услуги, како платформи за економско зајакнување или едукативни чатботови.
- Недостаток на транспарентност: Непроѕирноста на ВИ алгоритмите, или „црната кутија“, може да ја намали довербата во системите, особено во чувствителни области како борбата против родово-базирано насилство, каде анонимноста и точноста се клучни.
- Ризик од злоупотреба: Без соодветна регулатива, ВИ алатките можат да се злоупотребат за надзор или дискриминација. На пример, систем за анализа на медиумски содржини може да се искористи за цензура ако не е етички регулиран.
6.2.Препораки за имплементација
За да се надминат овие предизвици и да се искористи потенцијалот на ВИ во Македонија, се предлагаат следните мерки:
- Инклузивни податоци: ВИ системите треба да се развиваат со податоци што ги вклучуваат сите родови идентитети и маргинализирани групи, како Ромките или жените од руралните области. Ова може да се постигне преку соработка со НВО, како ХЕРА, за собирање на репрезентативни податоци.
- Транспарентност и ревизија: Алгоритмите треба редовно да се ревидираат од независни тела, следејќи ги принципите на Д’Ињазио и Клајн од Data Feminism. На пример, ВИ алатка за родово одговорно буџетирање треба да има јавно достапен извештај за нејзиното функционирање.
- Приоритет на достапност: Проектите треба да вклучуваат офлајн или нискотехнолошки решенија за руралните средини, како мобилни апликации со минимални барања за интернет. Партнерства со телекомуникациски компании можат да ја подобрат инфраструктурата.
- Регулатива и етички стандарди: Македонија треба да развие национални насоки за етичка употреба на ВИ, инспирирани од рамката на ЕУ за ВИ (AI Act). Ова може да се координира преку Министерството за информатичко општество и администрација.
- Обука и ко-дизајн: Локалните заедници, особено жените и маргинализираните групи, треба да бидат вклучени во развојот на ВИ алатки преку ко-дизајн, како што предлага Data Feminism. На пример, жени претприемачки можат да учествуваат во тестирањето на платформата за економско зајакнување.
6.3.Примена на етичките принципи во Македонија
Овие препораки се директно применливи на предложените проекти во Македонија. На пример, ВИ систем за здравствена заштита треба да вклучи податоци од руралните региони и да биде достапен офлајн за да ги опслужи жените во Источниот регион. Слично, алатката за родово сензитивно новинарство мора да се ревидира за да се спречи пристрасност кон одредени медиуми. За борба против родово-базирано насилство, ВИ системите треба да гарантираат анонимност и да се развиваат со учество на жртви и експерти, како што се советувалиштата на Здружението ЕСЕ. За економско зајакнување, платформите за поврзување на жени претприемачки со можности треба да бидат тестирани од локални кориснички за да се осигура нивната релевантност и леснотија на користење. Дополнително, за да се обезбеди успех, неопходни се обуки за локалните институции и НВО за користење на ВИ алатки, како и финансиска поддршка од меѓународни организации, како UN Women или ЕУ, за пилот проекти. Важно е и да се воспостави механизам за следење на етичката имплементација, како национална комисија за ВИ, која би вклучувала експерти од академската заедница, НВО и владини институции. Ова би овозможило континуирана евалуација на ВИ проектите и нивно прилагодување на локалните потреби. Со имплементација на овие мерки, ВИ може да стане одржлива алатка за промоција на родовата еднаквост, минимизирајќи ги ризиците и максимизирајќи ги придобивките за македонското општество.
7.Заклучок
Вештачката интелигенција (ВИ) нуди значителен потенцијал за промоција на родовата еднаквост, но нејзиниот успех зависи од етичкиот и инклузивен пристап во нејзиниот развој и примена. Преку анализа на теоретските рамки на Кети О’Нил и Кетрин Д’Ињазио, утврдено е дека ВИ може да ги засили или да ги ублажи родовите нееднаквости, во зависност од начинот на кој се управува со пристрасностите и се вклучуваат различните перспективи. Практичните примери, како иницијативите на UNESCO за дигитални вештини и реформите поттикнети од Џој Буоламвини во технологиите за препознавање лица, покажуваат дека ВИ може да ги зајакне жените и да ја подобри инклузивноста. Во локалниот контекст на Република Северна Македонија, ВИ може да се искористи за анализа на родови податоци, борба против родово-базирано насилство, економско зајакнување и поддршка на политичката застапеност на жените, особено во руралните области. Сепак, предизвиците како ограничениот пристап до технологија и ризикот од пристрасни алгоритми бараат внимателен пристап. За да се реализира потенцијалот на ВИ, потребна е соработка меѓу локалните институции, НВО и меѓународните организации, како и фокус на транспарентност и инклузивност. На тој начин, ВИ може да стане моќна алатка за создавање на поправедливо општество во Македонија и пошироко, придонесувајќи кон одржлив напредок во родовата еднаквост.
Библиографија:
Buolamwini, J., & Gebru, T. (2018). Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. Proceedings of Machine Learning Research, 81, 1–15. Достапно на: http://proceedings.mlr.press/v81/buolamwini18a.html
D’Ignazio, C., & Klein, L. F. (2020). Data Feminism. MIT Press. ISBN: 9780262044004.
O’Neil, C. (2016). Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. Crown Publishing Group. ISBN: 9780553418811.
UNESCO. (2019). I’d Blush if I Could: Closing Gender Divides in Digital Skills through Education. Достапно на: https://unesdoc.unesco.org/ark:/48223/pf0000367416
UN Women. (2020). Gender Equality in the Age of AI: Opportunities and Challenges. Достапно на: https://www.unwomen.org/en/digital-library/publications/2020/02/gender-equality-in-the-age-of-ai
West, S. M., Whittaker, M., & Crawford, K. (2019). Discriminating Systems: Gender, Race, and Power in AI.
UN Women. (2020). Gender Equality in the Age of AI: Opportunities and Challenges.
Interface. (2024). AI’s Missing Link: The Gender Gap in the Talent Pool. https://www.interface-eu.org
UN Women. (n.d.). Country Fact Sheet: North Macedonia. Достапно на: https://data.unwomen.org/country/north-macedonia
Државен завод за статистика на Република Северна Македонија. (2023). Употреба на информациско-комуникациски технологии во домаќинствата и од страна на индивидуите. Достапно на: http://www.stat.gov.mk
Министерство за труд и социјална политика. (2022). Национална стратегија за родова еднаквост 2022-2027. Достапно на: https://www.mtsp.gov.mk