Марко Ќипровски
Вовед
Родовата дискриминација при вработување е проблем кој влијае на многу жени ширум светот. Тоа се манифестира преку нееднакви можности за вработување, напредување во кариерата и износ на плата. Истовремено, постои и состојба кога жени, особено од малку застапени етнички групи, се изложени на значително повеќе бариери. Вештачката интелигенција (ВИ) може да биде моќен алат за решавање на овој проблем, но истовремено може да доведе и до нови предизвици. Главната цел на ова истражување е да се испита како вештачката интелигенција може да помогне во намалување на родовата дискриминација при вработување, како и да се анализираат потенцијалните предности и ризици.
Главен дел
1. Родова дискриминација во вработувањето
Родовата дискриминација при вработување се јавува кога работодавците прават избори во процесот на селекција, напредување или одредување плати врз основа на полот на кандидатот, наместо врз основа на квалификациите или перформансите. Ова се случува кога жени или мажи добиваат различни третмани, или кога одредени групи се исклучени од поволни можности само поради нивниот пол. Историски, мажите често добивале поволности на работните места, а жените биле субјект на попречувања, особено на лидерски позиции.
2. Како функционира Вештачката интелигенција?
Вештачката интелигенција претставува системи кои имаат способност да учат од податоците, да донесуваат одлуки и да се адаптираат на нови информации без директна човечка интервенција. Во контекст на вработувањето, ВИ може да се користи за автоматизирано скенирање на биографии, анализа на податоци за кандидатите и генерирање на препораки за најпогодни кандидати. ВИ системите може да ги користат методите на машинско учење и природен јазик за да ја анализираат содржината на апликациите и биографиите.
3. Дискриминација во алгоритмските системи
Машинското учење, во најголем дел, се базира на историски податоци. Тоа значи дека ако податоците што се користат за обука на системите се пристрасни, и самиот алгоритам може да биде пристрасен. На пример, ако историските податоци покажуваат дека повеќе мажи се ангажирани на високи менаџерски позиции, ВИ може да ја фаворизира машката популација при изборот на кандидати за менаџерски позиции.
Примери и анализи
1. Пример за примена на Вештачка Интелегенција во процесите на вработување:
Неколку големи компании, како што се Google и Unilever, користат ВИ во своите процеси за селекција на кандидати. За да се осигурат дека тие немаат пристрасност, тие користат алгоритми кои ги анализираат биографиите и се фокусираат исклучиво на квалификациите и вештините, без да ја земат предвид полот или етничката припадност. На пример, Google користи вештачка интелигенција за да скенира стотици илјади апликации и да ги категоризира врз основа на вештини и резултати од претходната работа.
2. Родовата пристрасност во системите за автоматски селекција:
Еден од главните проблеми во примена на ВИ во процесите на вработување е можноста за репродуцирање на родовите пристрасности. Например, една студија од 2018 година покажа дека системите за ВИ кои ги користат податоци од претходни вработувања може да бидат пристрасни, особено ако се обучени на податоци кои одразуваат историски нееднакви шанси за мажи и жени. Ова може да предизвика ВИ да фаворизира мажи за позиции кои историски се поврзани со мажи.
3. Механизми на родова дискриминација во вработувањето
Родовата дискриминација може да се манифестира на различни начини, како што се:
– Неравномерно претставување во високи позиции: Многу индустрии, особено во технолошките и инженерските сектори, имаат помал број жени во водечките и технички позиции. Ова е резултат на културните и социјалните претпоставки дека овие индустрии се доминирани од мажи.
– Разлики во платите: И покрај напорите да се елиминираат разликите во платите, жени и мажи сѐ уште добиваат различни плати за слични позиции и исто работно искуство. Според статистики од Европската унија, жените во просек заработуваат 16% помалку од мажите.
– Стереотипи и преференци за пол: Работодавците понекогаш не се ни свесни за тоа дека нивните предрасуди може да влијаат на нивните одлуки. На пример, една жена може да биде сметана за помалку компетентна или водечка само поради тоа што има семејни обврски, што доведува до нејзино исклучување од одредени позиции.
4. Amazon се обиде да создаде систем за автоматско скенирање на CV-ата на кандидатите. Меѓутоа, алгоритмот бил обучен на историски податоци, кои претставуваат претходни вработувања. Пошто во технологијата доминирале мажите, алгоритмот ги фаворизирал мажите во новите вработувања. Ова довело до исклучување на жените од некои позиции, бидејќи алгоритмот ги идентификувал само оние CV-а што веќе биле користени за мажи.
Пример за корисни ВИ апликации
Некои компании започнале да користат ВИ за да создадат побалансиран процес на вработување. На пример, компанијата Pymetrics користи игри засновани на вештачка интелигенција за да процени кандидатите за вработување. Тие ја анализираат способноста на кандидатите за решавање на проблеми, нивната емоционална интелигенција и другите вештини, независно од нивниот пол. Овој процес го елиминира стереотипот дека мажите се подобри за технички позиции, а жените се подобри во менаџирање и меѓучовечки односи.
1. Објективни процени: ВИ системите можат да користат неутрални критериуми и методи за проценка на кандидатите, со што се елиминираат човечките преференци за пол. Ова значи дека жените и мажите можат да имаат еднакви шанси за вработување, доколку имаат слични вештини и искуства.
2. Прогноза на перформанси: ВИ може да се користи за предвидување на потенцијалот на кандидатите на долг рок, базирано на нивните вештини и работно искуство, а не врз основа на предрасуди или стереотипи.
3. Родови неутрални огласи: Како што веќе беше споменато, ВИ може да се користи за проверка на јазикот што се користи во огласите за работа. Користењето на родово неутрален јазик може да придонесе за тоа да се привлекуваат повеќе жени во технички и научни области. Ова е важно бидејќи многу огласи за работа содржат некои зборови кои несвесно ги одбиваат жените (на пример, зборови како “агресивен” или “конкурентен” во контекст на лидерски позиции).
Дополнителни примери и анализа на импликациите
1. Родовата разлика во технолошкиот сектор
Една од најголемите индустрии каде родовата дискриминација е изразена е технолошкиот сектор. Според статистика од Светската банка, само 25% од вработените во ИТ индустријата се жени. Ова е резултат на историските социјални норми кои ја потценуваат способноста на жените во научните и технолошките области.
2. Користење на ВИ за елиминирање на пристрасностите кај интервјуата
Еден интересен пример на примена на ВИ е проектот на HireVue, кој користи алгоритми за анализа на видеопријави за вработување. Оваа платформа ги анализира изразите на лицето, говорот и тоналитетот на гласот за да ги процени кандидатите. Во теорија, ова може да помогне да се елиминираат пристрасностите при традиционалните интервјуа, каде што често се гледа полот и физичкиот изглед на кандидатите.
Некои компании започнале да користат ВИ за да проценат како жените и мажите напредуваат во своите кариеери. Програмите анализираат историски податоци за тоа кои фактори доведуваат до напредување и на кои позиции жените најчесто се наоѓаат во однос на мажите. Ова овозможува идентификација на родови нееднаквости во кариерата и обезбедување на поддршка за жени кои се подложени на бариери во напредувањето.
Влијание врз општеството
1. Предности:
Вештачката интелигенција може да го унапреди процесот на селекција, создавајќи пошироки можности за жените и поразновидни работни места. Ова е особено важно во индустрии каде жените традиционално се потценувани, како што се технолошките и
инженерските индустрии. Со помош на ВИ, компаниите можат да идентификуваат таленти без да бидат влијателни од родови предрасуди.
2. Недостиг на вклученост:
Еден од големите проблеми со ВИ е тоа што, ако не се користи правилно, таа може да ги репродуцира веќе постоечките пристрасности. Родовите предрасуди во историските податоци можат да се пренесат на алгоритмите. Затоа, за да се осигури етичка употреба на ВИ, компаниите треба редовно да ја ревидираат и тестираат својата технологија.
Интересно кратко видео кое може да го погледнете поврзано со семинарската: https://www.youtube.com/watch?v=VqFqWIqOB1g&ab_channel=UNESCO
Заклучок
Вештачката интелигенција има голем потенцијал да помогне во намалување на родовата дискриминација при вработување, особено ако се користи за автоматизација на процесите на селекција и создавање на родово неутрални описи за работни позиции. Сепак, важно е да се напомене дека ВИ исто така може да ги репродуцира постоечките предрасуди, ако не се внимава на начинот на кој се користат податоците. Компаниите треба да се уверуваат дека нивните системи за ВИ се објективни и праведни, и да се трудат да ги елиминираат сите форми на родова пристрасност во нивните процеси на вработување.
Извори:
∙ Reuters – Amazon AI Recruiting Tool Bias
∙ Nature – AI in Employment Processes
∙ Langley Search – AI Recruitment Bias
∙ ACLU – Amazon’s Automated Hiring Tool Discrimination ∙ IMD – Amazon’s Sexist Hiring Algorithm
∙ Forbes – Biased Google Search Results in Hiring