Јана Стојковска
Вовед
Вештачката интелигенција (ВИ) претставува област на технологијата која се занимава со создавање на програми способни да извршуваат задачи кои традиционално го захтеваат човечкото размислување. Ова вклучува функции како учење, планирање, резонирање и решавање на проблеми. Во основа, ВИ е симулација на човечката интелигенција од страна на машини, што ја прави една од најбрзо растечките технологии во светот на иновациите. Многу експерти веруваат дека вештачката интелигенција има потенцијал да ги реши некои од најголемите предизвици и кризи со кои се соочува човештвото. Во секојдневниот живот, ВИ веќе е присутна преку различни апликации, како што се гласовните асистенти (на пример, Siri или Alexa), насоките за навигација на мапи и персонализираните препораки на интернет. Сепак, покрај бројните придобивки, постојат и одредени загрижености поврзани со ВИ. Една од главните грижи е можноста машините да ги заменат луѓето на одредени работни места, што би можело да доведе до невработеност. Иако предизвиците постојат, ВИ има огромен потенцијал да го подобри квалитетот на животот со автоматизирање на задачи кои се премногу сложени, опасни или бавни за луѓето. За да се осигураме дека ВИ ќе биде користена на правилен начин, неопходно е да се воспостават јасни правила и етички стандарди. Со одговорна употреба, вештачката интелигенција може да продолжи да ги поддржува луѓето и да придонесува за подобар живот, секогаш ставајќи ги човечките вредности и потреби на прво место.
Главен дел
Родовата нееднаквост долго време претставува значителен проблем во процесите на вработување, влијаејќи врз одлуките за вработување и ги ограничува можностите, особено за жените. Историски, практиките на вработување биле обликувани од општествените стереотипи и несвесните предрасуди, често фаворизирајќи ги мажите за лидерски позиции или работни места во машко
доминантните области, како што се инженерството или технологијата. Ова резултирало со нееднакви условени очекувања за одредени професии, при што жените често се насочуваат кон улоги кои се сметаат за „женствени“, како што се административните позиции или улогите во грижата, додека мажите се сметаат за подобро прилагодени за повисокостатусни или потехнички позиции.
Еден клучен пример за родовата нееднаквост во вработувањето е тенденцијата да се поврзуваат одредени особини со едниот пол наспроти другиот. На пример, лидерските квалитети како самоувереност или одлучност често се поврзуваат со мажите, додека особините како емпатија и нежност се поврзани со жените. Овие предрасуди може да доведат до тоа квалификуваните жени да бидат занемарувани за унапредувања или лидерски улоги, дури и кога ги поседуваат потребните вештини и искуство. Слично на тоа, жените во STEM областите или техничките улоги може да се соочат со недоверба во врска со нивните способности врз основа на нивниот пол.
Проблемот со ова е многу чест. Тоа не само што ги намалува можностите достапни за жените, туку и ја штети разновидноста на работното место и потенцијалот за иновација. Недостатокот на родова еднаквост и делењето на личностите врз основа на тоа дали се мажи или жени, во тимовите може да резултира во хомогена работна култура која не ги зема предвид широкиот спектар на перспективи, идеи и искуства. Ова влијае на донесувањето одлуки, креативноста и вкупниот успех на организацијата. Дополнително, нееднаквото застапување во одредени сектори го продлабочува циклусот на половата нееднаквост, ги ограничува професионалните можности за жените и ги засилува стереотипите за тоа кои улоги се соодветни за
различни луѓе. Решавањето на овој тип на проблем во вработувањето е од клучно значење за создавање на пофер и поинклузивни работни места кои им овозможуваат на сите поединци да го достигнат својот полн потенцијал.
Улогата на вештачката интелигенција во намалувањето на родовата пристрасност
Вештачката интелигенција има потенцијал да го трансформира вработувањето со идентификување и намалување на родова нееднаквост во процесите на вработување. Традиционалните методи на вработување често се потпираат на човечко донесување одлуки, кое може да биде под влијание на несвесни предрасуди поврзани со полот, етничката припадност и други фактори. ВИ, кога е правилно дизајнирана, може да помогне во создавање на пообјективен процес на вработување со фокусирање на вештините, искуството и квалификациите на кандидатите, наместо на субјективни или пристрасни критериуми.
Еден начин на кој ВИ помага во овој процес е преку прегледување на биографиите. Многу компании користат ВИ-поддржани системи за следење на апликанти за филтрирање на биографиите врз основа на релевантни вештини и искуство, без да ги земаат предвид имињата или други лични детали кои може да укажуваат на други карактеристики. Со анализа на апликантите исклучиво врз основа на нивните квалификации, ВИ осигурава дека сите кандидати се оценуваат правично, без разлика на нивното потекло. Ова е особено корисно во индустриите каде жените историски не биле многу застапени, како што се технологијата и инженерството.
ВИ исто така може да игра улога во структуираните интервју процеси. ВИ -водените платформи за интервју, како што е HireVue, ги анализираат одговорите, тонoт и изразот на лицето на кандидатот, наместо да донесуваат одлуки врз основа на изгледот или личната позадина. Ова може да помогне да се осигура дека одлуките за вработување се базирани на објективни критериуми наместо на несвесни предрасуди на интервјуерите. Дополнително, ВИ -поддржаните чатботови можат да
спроведат почетни скрининг интервјуа користејќи стандардизирани прашања, елиминирајќи ги варијациите во тоа како различни кандидати се оценуваат.
Уште една значајна предност на ВИ е неговата способност да идентификува модели на пристрасност во податоците за вработување. Со анализа на претходните одлуки за вработување, ВИ може да открие трендови кои може да укажуваат на полова дискриминација, како што е изборот на помалку женски кандидати за лидерски улоги. Со оваа информација, организациите можат да ги прилагодат своите практики на вработување за да промовираат праведност и инклузивност.
Иако ВИ има голем потенцијал во намалувањето на родовата нееднаквост и половата пристрасност, тој не е совршено решение. Ако ВИ е обучен на пристрасни податоци, тој може да ги реплицира постојните нееднаквости. Затоа, компаниите мора да осигураат дека нивните ВИ модели се дизајнирани со разновидни, непристрасни податоци и редовно да се следат за да се спречи дискриминација. Кога се имплементира внимателно, ВИ може да помогне во создавање на поеднаков процес на вработување, давајќи им на сите кандидати еднаква можност врз основа на нивните вештини и квалификации.
Студија на случај на вештачка интелигенција при регрутирање: HireVue
HireVue е платформа за вработување водена од вештачка интелигенција која користи видео анализа за евалуација на кандидати за работни места. Наместо да се потпира исклучиво на традиционалното прегледување на биографиите и човечките интервјуа, HireVue користи алгоритми за машинско учење за да ги оцени кандидатите врз основа на нивните говорни одговори, тон на глас и изрази на лицето. Компанијата тврди дека нејзината технологија помага да се намали човечката пристрасност при вработувањето со евалуација на објективни фактори наместо на субјективни впечатоци под влијание на полот, расата или други лични карактеристики. Платформата функционира така што кандидатите снимаат видео интервјуа, каде што одговараат на предодредени прашања. ВИ потоа анализира
повеќе аспекти на нивните одговори, вклучувајќи го изборот на зборови, обрасците на говорот и дури микро-изразите. Според HireVue, овој метод осигурава дека секој кандидат е оценет врз основа на исти критериуми, намалувајќи ги неконзистентностите воведени од страна на човечките интервјуери кои може да имаат несвесни предрасуди. Дополнително, ВИ на HireVue ги споредува одговорите со податоците од успешни вработени во слични улоги, обидувајќи се да го идентификува најдобриот кандидат за позицијата.
Сепак, и покрај своите тврдења за праведност, HireVue наишла на значителна критика. Една од главните загрижености е дека ВИ можеби сè уште ги одразува предрасудите вградени во неговите тренинг податоци. Ако алгоритмот е обучен врз основа на претходни одлуки за вработување кои ги фаворизирале машките кандидати, тој може ненамерно да научи да ги преферира особините кои обично ги покажуваат мажите, со што би ги засилил постојните полово-условени нееднаквости. На пример, ако претходните успешни кандидати покажале одреден стил на комуникација потипичен за мажите, ВИ може да ги рангира кандидатите со различен стил, машките кандидати да ги рангира со повисоки поени за разлика од женските кандидати. Ова покренува загриженост дека наместо да се елиминира ваквата ситуација, системот би можел да ја продолжи на помалку транспарентен начин.
Понатаму, критичарите тврдат дека проценката на тонот и изразите на лицето е проблематична, бидејќи овие фактори можат да варираат низ различни култури. Жените, на пример, може да изразуваат самодоверба на различен начин од мажите, а ВИ би можела погрешно да ги протолкува овие разлики како индикатори за помала погодност. Поради ваквите ризици, експертите нагласуваат дека е потребно внимателно надгледување, континуирано тестирање и разновидни тренинг податоци за да се осигура дека ВИ-воденото вработување останува фер и непристрасно.
Предизвици на пристрасност во системи со вештачка интелигенција
ВИ системите во вработувањето често се пофалени за нивната способност да го направат вработувањето пообјективно, но тие не се имуни на предрасуди. Еден од најголемите предизвици во ВИ-воденото вработување е ризикот од користење на пристрасни тренинг податоци. Бидејќи ВИ моделите учат од историски податоци за вработување, тие може ненамерно да ги реплицираат општествените предрасуди. На пример, ако претходните практики на вработување на една компанија ги фаворизирале машките кандидати за инженерски или лидерски улоги, ВИ обучен на овие податоци може да развие преференција за машките апликанти, дури и ако не е експлицитно програмиран да го прави тоа. Ова значи дека наместо да се елиминира ова, ВИ би можела да ги засили постојните нееднаквости со продолжување да ги фаворизира одредени групи наспроти други.
Овој проблем е познат како „алгоритамска пристрасност“, каде ВИ системите ненамерно ги продолжуваат штетните стереотипи. Многу ВИ модели идентификуваат различни податоци и ги користат за донесување одлуки, но ако тие одразуваат полово-условени предрасуди и нееднаквости, ВИ може да поврзе специфични особини насочени кон еден пол, одредена етничка припадност и слично. На пример, ако претходните податоци за вработување покажуваат дека повеќето медицински сестри се жени, а повеќето менаџери се мажи, ВИ може да ги рангира машките кандидати повисоко за лидерски улоги, додека ги преферира женските кандидати за улоги во грижата. Ова резултира во самозасилувачки циклус каде жените продолжуваат да бидат занемарувани за лидерски и технички улоги, едноставно затоа што ВИ претпоставува дека тие позиции се подобро соодветни за мажите.
Друг проблем со алгоритамската пристрасност е нејзината неприметливост. За разлика од човечката пристрасност, која понекогаш може да биде препознаена и исправена, ВИ пристрасноста е вградена во сложени математички модели, што ја прави потешка за откривање и решавање. Компаниите може да и веруваат на ВИ
дека е неутрална, но без внимателно следење и интервенција, тој може да
произведе пристрасни исходи кои остануваат незабележани. За да се спречи ова, организациите треба да осигураат дека нивните ВИ системи се обучуваат на разновидни и балансирани податоци, редовно да се проверуваат за предрасуди и да се дизајнираат со праведност. Без такви претпазни мерки, ВИ би можела да се влоши, наместо да го реши проблемот на нееднаквости во вработувањето.
Конкретни решенија за ублажување на родовата пристрасност:
Намалувањето на нееднаквостите и предрасудите во ВИ-воденото вработување бара комбинација на внимателен дизајн, прецизно следење и активна интервенција. Една од најефективните стратегии е осигурањето дека ВИ моделите се обучуваат на разновидни и балансирани податоци. Многу алатки за ВИ-водено вработување учат од историски податоци за вработување, кои може да ги одразуваат претходните предрасуди кои ги фаворизирале мажите во лидерски или технички улоги. За да се спречи ВИ да ги реплицира овие предрасуди, компаниите мора да подготвуваат тренинг податоци кои вклучуваат еднакво застапеност на мажи и жени, кои се од различни култури и заедници, во различни работни улоги. Ова осигурава дека ВИ не ќе научи да ги поврзува одредени професии со еден пол, помагајќи да се создадат пофер исходи при вработувањето.
Друго клучно решение е имплементацијата на методи на непристрасна селекција. Предрасудите и пристрасностите често започнуваат на фазата на преглед на биографиите, каде фактори како името, полот или возраста на кандидатот може да влијаат на одлуките за вработување, било свесно или несвесно. ВИ може да помогне да се елиминира ова со анонимизирање на апликациите, осигуравајќи дека одлуките за вработување се базираат исклучиво на вештините, квалификациите и искуството. Некои организации веќе користат ВИ-водени алатки за преглед на биографии кои ги отстрануваат идентификувачките информации пред евалуацијата на кандидатите, овозможувајќи пообјективен процес на селекција.
Редовното ревизирање на ВИ моделите е исто така од клучно значење за одржување на праведноста. Бидејќи ВИ алгоритмите континуирано учат и
еволуираат, тие мора редовно да се тестираат за да се осигура дека не развиваат пристрасности со текот на времето. Компаниите треба да спроведуваат ревизии за праведност со анализа на ВИ одлуките за да се откријат какви било полово условени нееднаквости во препораките за вработување. Доколку се откријат предрасуди, мора да се направат прилагодувања, како што е доточување на алгоритмот или повторно обучување на поразновидни податоци. Дополнително, организациите можат да воспостават метрики за праведност, како што е следење на половата рамнотежа на кандидатите избрани од ВИ системите во споредба со оние избрани од човечки регрутери.
Со комбинирање на разновидни тренинг податоци, методи на анонимно вработување и континуирани ревизии, компаниите можат да ја користат ВИ како алатка за намалување на нееднаквостите наместо истите да се засилуваат. Сепак, постигнувањето на вистинска праведност бара континуиран напор, транспарентност и човечко надгледување за да се осигура дека ВИ-воденото вработување останува етичко и инклузивно.
Како вештачката интелигенција ќе ја промени улогата на регрутерот?
ВИ ја трансформира улогата на регрутерите, префрлајќи го нивниот фокус од повторливи административни задачи кон стратешки, со насочување на вработување базирано на интеракција. Наместо да ги заменува човечките регрутери, ВИ делува како моќен асистент кој ги автоматизира рутинските процеси, нуди длабоки сознанија и го подобрува донесувањето одлуки. Оваа промена им овозможува на регрутерите да еволуираат во поактивни и аналитички професионалци, фокусирајќи се на задачи со висока вредност кои бараат човечка проценка и интерперсонални вештини.
Една од главните промени што ВИ ја донесува е овозможувањето на регрутерите да преземат проактивен пристап кон вработувањето. Традиционално, регрутерите работат на пополнување на отворените позиции откако ќе се појават, обично реагирајќи на моменталните потреби на компанијата.. ВИ, сепак, може да
анализира трендови во работната сила, да ги предвиди идните потреби за вработување и да предложи најдобри стратегии за стекнување на таленти. Со пристап до податоци во реално време, регрутерите можат да планираат однапред, да изградат канали на таленти и да ги идентификуваат потенцијалните кандидати пред дури да се појават празнините.
Друг значителен ефект на ВИ е ослободувањето на време за регрутерите да изградат поцврсти врски со кандидатите. Бидејќи ВИ се справува со прегледување на биографиите, почетните оценки и закажувањето на интервјуа, регрутерите можат да се фокусираат на посмислена интеракција со најдобрите кандидати. Наместо да се потпираат исклучиво на биографиите и квалификациите, тие можат да водат детални разговори за да ја проценат културната соодветност, кариерните аспирации и долгорочниот потенцијал. Овој човечки пристап останува клучен елемент во успешното вработување, осигуравајќи дека и компанијата и кандидатот ќе најдат соодветно совпаѓање.
ВИ, исто така, ја подобрува соработката помеѓу регрутерите и менаџерите за вработување. Со користење на ВИ-водени сознанија, како што се метриките за квалитет на вработените и предвидувањата за перформансите, регрутерите можат да им обезбедат на менаџерите за вработување препораки базирани на податоци. Ова помага да се усогласат очекувањата, да се подобрат описите на работните места и да се подобрат вкупните исходи од вработувањето.
Како заклучок, ВИ ја менува регрутацијата, правејќи ја постратешка, базирана на податоци и ориентирана кон изградба на врски со самите кандидати. Регрутерите кои ја прифаќаат ВИ можат да работат попаметно, да донесуваат подобри одлуки за вработување и да создадат поиндивидуализирано искуство за кандидатите.
Пример за успешно ублажување на родовата пристрасност при регрутирање со вештачка интелигенција
ВИ-водените системи за вработување имаат потенцијал да ја намалат половата пристрасност кога се внимателно дизајнирани и имплементирани. Неколку
компании и ВИ алатки успешно го минимизирале ова со фокусирање на вештините, квалификациите и релевантното искуство на кандидатите, наместо на полот, возраста или други фактори. Со користење на ВИ на поетичен и структуриран начин, организациите можат да создадат пофер процес на вработување кој им дава еднакви можности на сите кандидати.
Pymetrics: фер вработување базирано на ВИ
Pymetrics е алатка за вработување со поддршка на ВИ, дизајнирана да промовира праведност во регрутацијата. За разлика од традиционалните ВИ алатки за вработување кои ги анализираат биографиите, Pymetrics ги оценува кандидатите врз основа на когнитивни и емоционални способности. Платформата користи игри базирани на невронаука и поведенчки податоци за да ги оцени способностите на апликантите за решавање проблеми, внимателност, меморија и склоност кон ризик. Бидејќи овие оценки не се базирани на пол, возраст или етничка припадност, тие помагаат да се изедначат условите и осигураат дека одлуките за вработување се донесуваат исклучиво врз основа на индивидуалните способности.
Pymetrics, исто така, активно ги ревидира своите алгоритми за да осигура праведност. Компанијата користи техники за откривање на предрасуди за да спречи дискриминација и ги претренира своите ВИ модели за да осигура дека не фаворизираат една демографска група наспроти друга. Големи компании како Unilever и Accenture успешно ги имплементирале Pymetrics за изградба на поразновидни тимови и намалување на предрасудите во вработувањето.
Заклучок
ВИ има потенцијал да ја револуционизира регрутацијата со намалување на нееднаквостите и промовирање на фер практики при вработување. Во оваа семинарска работа, истражив како традиционалните процеси на вработување историски биле под влијание најчесто на половата пристрасност, ограничувајќи ги можностите за жените и другите потпретставени групи. ВИ нуди решение со анализа на кандидатите врз основа на вештините, искуството и метриките за
перформанси, наместо на личните карактеристики. Сепак, иако ВИ може да помогне во намалувањето на овој проблем, тој исто така носи ризици ако е обучен на пристрасни податоци или имплементиран без соодветно надгледување.
Неколку ВИ-водени алатки за регрутација, како што се HireVue, Pymetrics, Eightfold AI и Applied, покажале успех во минимизирањето на нееднаквостите. Овие платформи се фокусираат на евалуација на кандидатите врз основа на нивните когнитивни способности, поведенчки особини и вештини поврзани со работата, осигуравајќи дека одлуките за вработување се донесуваат објективно, наместо на субјективна проценка. Методите на анонимно вработување и техниките за откривање на предрасуди со поддршка на ВИ дополнително придонеле за создавање на пофер практики при вработување. Сепак, предизвиците остануваат, бидејќи ВИ системите сè уште можат да наследат предрасуди од историските податоци, засилувајќи ги постојните нееднаквости ако не се управуваат правилно.
Библиографија:
∙ https://www.unwomen.org/en/news-stories/interview/2025/02/how-ai-reinforces gender-bias-and-what-we-can-do-about-it
∙ https://www.hirevue.com/platform/conversational-ai-and-automation ∙ https://www.phenom.com/blog/recruiting-ai-guide
∙ https://www.shrm.org/topics-tools/news/technology/the-future-of-hiring–the-role of-ai-in-modern-recruitment-strat
∙ https://www.euronews.com/next/2022/03/08/gender-bias-in-recruitment-how-ai hiring-tools-are-hindering-women-s-careers