Теодора Богдановска
1. ВОВЕД
Светот во кој живееме денес е брз и неизвесен, свет во кој преовладува технологијата и во кој развојот и напредокот се движат со брзина на светлината. Светот е судир на спротивности и различности, но полека станува и судир на она што го правиме ние самите и она што вештачката интелигенција и технологијата можат да го направат наместо нас.
Влијанието на вештачката интелигенција зема голем замав, како во областа на технологијата и информатичките процеси, така и во секојдневните општествени структури. Истражувајќи ја темава, може да се забележи дека родовата нееднаквост е доста застапена при вработувањето и разгледувањето на огласите на кои се аплицира. Ваквата родова нееднаквост и дискриминација е застапена на многу работни места, а меѓу другото и во индустриите за информатичка технологија (ИТ) и информатичка и комуникациска технологиха (ИКТ).
Брзиот напредок на вештачката интелигенција и револуционерните промени кои ги носи со себе, имаат потенцијал да помогнат во истражувањето, пронаоѓањето и решавањето на родовата нееднаквост и дискриминацијата при вработувањето. Вештачката интелигенција е еден од обликувачите на иднината и нејзината стратегија може да биде од огромно значење во отстранување на пристрасноста во регрутирањето, а со тоа ќе се постигне инклузивност и правичност во пристапот кон можностите во ИТ и ИКТ.
3
2. Современата регрутација низ призмата на родовата нееднаквост
Во денешното општество, дискриминацијата и предрасудите се протегаат низ широка област на човечките напори и влијаат на безброј луѓе, особено на оние кои се означени како недоволно застапени или малцинство. Конвенционален пристап кон размислувањето за пристрасноста и дискриминацијата е дека тие даваат предност на некого или се однесуваат кон некого поинаку во однос на друго лице.
Во многу индустрии и сектори, мажите имаат доминанта застапеност во однос на жените, што дополнително го доведува во прашање пристрасниот пристап базиран на нееднаквиот поглед при селекција на кандидати за работа од различен пол.
Пристрасноста во регрутирањето станува забележлива кога некои кандидати добиваат неправедна предност во однос на другите и тоа поради некои нивни атрибути. Етничката, половата и возрастната дискриминација се трите најчести форми на дискриминација со кои се соочува кандидатот за време на процесот на аплицирање. Покрај овие три форми, дискриминацијата поради бременост, политичките ставови, религиозните верувања, попреченоста или други форми на оштетување и носењето болест се исто така споменати како вообичаени форми на дискриминација.
3. Инплицитна и експлицитна пристрасност
Пристрасностите и дискриминацијата постојат во различни форми при вработувањето. Тоа е имплицитна склоност или предрасуда за или против едно лице или група. Според Österlund (2020), дискриминацијата може да биде имплицитна (несвесна) или експлицитна (свесна) и може да се појави врз основа на пол, етничка припадност, сексуална ориентација, култура, религија, возраст итн. Според Oates (2018), движечката сила која стои зад ваквата пристрасност е влијанието на изборите и чувството што некој го развива во текот на својот живот врз основа на настани, но исто така, на пример, влијанието на медиумите.
4
За разлика од несвесната пристрасност, свесната пристрасност се однесува на перцепциите за поединци или групи во општеството. Се смета дека свесната пристрасност може да доведе до различен третман на колегите и може да го попречи процесот на пребарување за привлекување нови луѓе во организацијата. Пример за ова е претпочитањето да се работи со мажи наместо со жени. Ова може да доведе до исклучување на одредени луѓе кога станува збор за можности на пазарот на трудот.
4. Откривање и превенција на пристрасност во процесите на одлучување
Пристрасноста и дискриминацијата се препознаваат кога некој е неправедно третиран во истата ситуација во која се наоѓа друго лице и се јавува преференцијално однесување. Пример за ова е кога машко и женско лице аплицираат за истата работа, по што на мажот му се нуди работата, додека жената има подобри квалификации.
Откако некое лице ќе се соочи со пристрасност и несвесно ќе ја осознае, тешко е да ја отстрани од своите мисли и начин на размислување. Затоа, важно е да се спречи пристрасноста пред да се случи и да се преземат потребните мерки на претпазливост за да се стимулира свеста.
5. Родовата нееднаквост и вештачката интелигенција
5.1. Нерегуларна застапеност на жените во технолошкиот сектор
Освен тоа што застапеноста на жените е во многу помал процент од застапеноста на мажите на работни места поврзани со технологијата, жените исто така се соочуваат и со препреки и предрасуди во однос на нивниот личен успех и напредок. Тоа го докажува и извештајот на Nash Squared за 2023 година „ Digital Leadership Report “, според кој само 14% од лидерите во дигиталниот свет се жени, а останатиот голем процент од лидерството им припаѓа на мажите.
5
5.2. Доминацијата на мажи во дизајнот на вештачка интелигенција и нејзиното влијание врз родовата еднаквост
Вештачката интелигенција сè повеќе влијае врз мислењата и однесувањето на луѓето во секојдневниот живот. Сепак, преголемата застапеност на мажите во дизајнот на овие технологии би можела тивко да ги поништи децениите борба и напредок во родовата еднаквост. Со векови, луѓето развиле критичка теорија за да ги информираат одлуките и да избегнат да ги базираат исклучиво на лично искуство. Сепак, вештачката интелигенција учи првенствено од набљудување на податоците што ѝ се презентирани.
Способноста на вештачката интелигенција да обработува големи количини на податоци може делумно да го реши ова, но ако тие податоци се полни со стереотипни концепти за родот, примената на технологијата што произлегува од тоа ќе ја овековечи оваа пристрасност.
5.3. Значењето на родовата рамнотежа во креирањето правични алгоритми
Водечките мислители во новата област што се занимава со пристрасноста во вештачката интелигенција се исто така првенствено жени, што сугерира дека оние кои се потенцијално погодени од пристрасност имаат поголема веројатност да ја видат, разберат и да се обидат да ја решат. Затоа, родовата рамнотежа во машинското учење е клучна за да се спречи алгоритмите да ги овековечуваат родовите идеологии што ги ставаат жените во неповолна положба.
6. Игнорирање на лингвистичките аспекти на родовата идеологија во АИ истражувањата
Иако според податоците кои ги пронајдов, некои неодамнешни студии се обиделе да ја отстранат пристрасноста од научените алгоритми, тие сепак во голема мера ги игнорираат децениските истражувања за тоа како родовата идеологија е вградена во
6
јазикот. Потребно е да се направи соодветен пристап кон вештачката интелигенција и машинското учење, со цел да се спречи генерирањето на пристрасни алгоритми.
7. Потенцијалот на вештачката интелигенција за намалување на родовата пристрасност
Распространетоста на вештачката интелигенција и нејзиниот сеопфатен замав даваат јасна слика за можениот потенцијал во справувањето и намалувањето на родовата нееднаквост. Вештачката интелигенција (ВИ) носи надеж за унапредување на правичноста при вработувањето преку елиминирање на човечките пристрасности.
Алатки како што се предикативни алгоритми и софтвер за проценка сѐ почесто се користат од страна на работодавачите за селекција на кандидати, автоматизирање на интервјуа, проценка на вештини и предвидување на успех на работното место. Нивната предност лежи во способноста да обработуваат големи количини на податоци со конзистентност, што им овозможува на организациите да применат стандарден пристап при селекцијата и така да се минимизира субјективноста.
Во однос на користењето на вештачката интелигенција за овие цели, од големо значење се и алатките и принципите со кои би можела истата да се послужи. Па така во однос на рамноправната селекција, вештачката интелигенција може да се стреми и да се прилагоди кон изоставување на некои чувствителни информации при анализата на потенцијалните вработени, како на пример име, пол, етничка припадност и слично. Исто така вештачката интелигенција може да се послужи и со стандардизирани интервјуа, користење на предикативна аналитика за различност, откривање на пристрасности за обука, автоматизирање на барањето кандидати, објективно оценување на вештините, препорачување правични плати, но и со следење на одредени метрики за застапеност и правичност.
7
При рамноправната селекција би требало да се обезбеди и етичка употреба на вештачка интелигенција, а не истата да се прави само врз приложени писмени апликации за работното место.
Со анализа и истражување на оваа тема, дојдов до информации за направени истражувања кои покажуваат дека кога алатките за вештачка интелигенција(ВИ) се користат со целосна автономија, без влијание од човечки регрутери, постои зголемување на застапеноста на жени во раните фази од процесот на вработување, особено во поканите за интервјуа.
8. Стратешки мерки за спречување на пристрасност во регрутација со поддршка од вештачка интелигенција
8.1. Алатка за идентификување на родовата пристрасност во огласите за работа
Од истражувањето кое го спроведов на темата, пронајдов информации за делото на Böhm и некои други (2020). Ова дело претставува пристап што може да се користи за мерење на родовата пристрасност во огласите за работа во ИТ. Овој пристап вклучува развој на прототип алатка базирана на обука на класификатор за машинско учење, што овозможува идентификување на родовата пристрасност во огласот за работа.
Покрај тоа, тие римаат развиено и кориснички интерфејс во кој описот на работното место може да се прегледа за можна појава на пристрасност и дискриминација. На овој начин, регрутерите можат да бидат информирани кога ненамерно се јавува родова пристрасност и таа може да се коригира со примена на предлозите предложени од алатката. Алатката работи со проверка на називот и описот на работното место за појава на родово пристрасен јазик. Врз основа на оваа појава, се пресметува резултат за родова неутралност што покажува колку е родово неутрален еден оглас за работа.
8
Наодите од оваа студија вклучуваат предлог за складиште на клучни зборови што ги охрабрува или обесхрабрува жените за време на процесот на аплицирање. Алатката им помага на регрутерите да ги отстранат пристрасните огласи за работа користејќи предложен јазик за да ги заменат оние класифицирани како дискриминаторски. Била спроведена рана евалуација со користење на три серии огласи за работа од различни портали за работа која била импресивна, но сепак методот за пресметување на резултатот за родова неутралност бара сериозно подобрување.
8.2. Модел за разбирање и намалување на пристрасноста при скрининг на биографии
Според истражувачката работа на Derous и Ryan (2018), направен е модел базиран на вештачката интелигенција што се состои од три чекори што ги објаснуваат основните причини за пристрасно скрининг на биографии. Трите чекори вклучени во моделот се: информации за апликацијата, формирање впечаток и резултати од скринингот.
Информациите за апликантот се фокусираат на квалификациите, но и на информациите што не се поврзани со работата, а кои може да се утврдат од овие квалификации и карактеристики што ги има апликантот.
9
Вториот чекор од моделот, формирање впечаток, се фокусира на тоа како податоците добиени за оваа намена се обработуваат од страна на регрутерите. И покрај тоа што процесите во овој чекор се автоматски или несвесни, сепак може да постои висок степен на свест присутен при донесувањето одлуки. На пример, проценката на квалификациите и карактеристиките на една личност врз основа на податоците собрани за оваа намена.
Третата фаза од овој модел се фокусира на резултатите што произлегуваат од процесот на проверка на биографии. Тука, перцепциите за сличност можат да влијаат на начинот на кој кандидатите се привлекуваат и задржуваат.
Тристепениот модел покажува зошто проверката на биографии е подложна на пристрасност, но не и зошто се јавува дискриминација во етички поглед. Сепак, тие идентификуваа голем број фактори што придонесуваат за пристрасна проверка на биографии.
Според нив, недостатокот на обемни лични информации за одреден кандидат може да доведе до пристрасно донесување одлуки. Како резултат на тоа, луѓето се посклони да бидат класифицирани врз основа на стереотипи. Нивното истражување препорачува кандидатот да се стреми да обезбеди доволно информации за себе во апликацијата.
9. Употреба на Natural language processing (NLP) во фазата на селекција при вработување
Примената на NLP во индустријата за регрутирање не е нова, но е секако иновативна. NLP се користи за анализа на интервјуа за да се испита врската помеѓу вербалната содржина и перцепираните оценки за вработување. Развиени се и алатки базирани на NLP за автоматско извлекување на релевантни информации како што се вештини, работно искуство и интереси од биографии.
10
10. Критичен поглед на објективноста на вештачката интелигенција во процесот на вработување
Се почесто во прашање се става и објективноста на вештачката интелигенција и алогритмите кои се користат за селекција на кандидати во процесот на вработување. Вештачката интелигенција/алгоритмите сè повеќе се инкорпорираат во рутинските процеси на работното место, како што е вработувањето. Додека пак алгоритмите нудат ефикасна алатка за работодавците да ги оценуваат биографиите на апликантите.
Одамна знаеме дека родовите предрасуди при регрутирање и вработување е вкоренет проблем. Но, алгоритмите исто така претставуваат проблеми, бидејќи човечките предрасуди се рефлектираат во алгоритмите.
И покрај многубројните технолошки достигнувања, сепак стуктурната дискриминација не изчезнува. Барателите на работа и работодавачите, особено жените, треба да бидат свесни дека алгоритмите можат да ја зајакнат дискриминацијата. Верувањето дека алгоритмите се објективни и непристрасни донесувачи на одлуки е загрижувачко, бидејќи може да доведе до потенцијално повеќе доверба во алгоритмите отколку во човечките евалуатори. Ова е особено критично за луѓето кои ризикуваат да бидат стереотипизирани во процесот на вработување, како што се жените.
Алгоритмите можат да влијаат на важните одлуки додека работат во позадина. Докажувањето на половата дискриминација во одлуките за вработување на работното место е познато тешко.
Бидејќи вештачката интелигенција станува сè поинтегрирана во вработувањето на работното место, ова може да ги влоши родовите предрасуди при вработувањето. Жртвите на дискриминација нема да имаат начин да покажат со прст кон некој што сторил кривично дело, бидејќи алгоритмите не можат да бидат одговорни или изведени пред лицето на правдата за предрасуди.
За жените, дискриминацијата вградена во алгоритмите може да биде попроблематична од онаа на пристрасните луѓе, особено ако алгоритмите се сметаат за
11
неутрални и објективни од самите жени. Ова може да ја намали нивната свест за потенцијално дискриминаторски одлуки.
11. Жените и вештачката интелигенција во процесот на вработување: Објективност или илузија?
Во контекст на сè поголемата примена на вештачката интелигенција (ВИ) во процесите на регрутација и вработување, се поставува прашањето дали алгоритмите навистина ја намалуваат родовата пристрасност. Иако ВИ се смета за алатка што може да понуди објективност во оценувањето на апликациите, постои ризик предрасудите на луѓето да бидат вградени и реплицирани во самите алгоритми.
Истражување кое било спроведено преку три онлајн експерименти со над 1.100 учесници покажало интересни резултати. Жените почесто преферирале нивната апликација да биде оценета од алгоритам наместо од човек – особено кога алтернативата бил машки оценувач. Во овие експерименти, најголемиот процент, дури 61% од невработените жени го избрале алгоритмот ако го споредувале со машки оценувач, додека само 39% го избрале алгоритмот кога се работело за женски оценувач. Кај мажите не е забележана значајна разлика.
Ова укажува на тоа дека жените имаат перцепција дека алгоритмите се пообјективни во споредба со луѓето, особено со мажите. Сепак, оваа доверба може да биде погрешна и потенцијално опасна, бидејќи алгоритмите не се имуни на пристрасност. Недостигот од транспарентност и можност за отчетност при алгоритамските одлуки може да го отежни докажувањето на дискриминација.
12
12. Различните влијанија на човечкиот фактор и вештачката интелигенција врз регрутацијата
Кога станува збор за дизајнирање фер и ефикасни проценки на вработувањето, не станува збор за избор помеѓу алгоритми и човечка проценка. Постојат силни и слаби страни и во човечките и во евалуациите со вештачка интелигенција, тие можат да се користат заедно за да се минимизира пристрасноста.
Алгоритмите нудат брзина, конзистентност и можност за ефикасна обработка на големи количини на податоци. Сепак, тие не се имуни на пристрасност, бидејќи можат да усвојат пристрасности својствени на податоците за кои се обучени.
13. Комбинирање на човечка и алгоритамска проценка
Човечката проценка вклучува емпатија, контекстуална свест и способност за толкување на сложени ситуации. Во исто време, луѓето се подложни на несвесни пристрасности кои се под влијание на културните норми, личните верувања и општествените хиерархии. Со комбинирање на алгоритмите и човечката проценка, можеме да се обидеме да ги искористиме силните страни на обете, а воедно да ги компензираме нивните соодветни слабости.
14. Потребата од алгоритамска писменост и регулаторна рамка
Алгоритамската писменост треба да стане дел од општата дигитална едукација. Кандидатите треба да разберат како функционираат ВИ системите и кои се нивните можни недостатоци. Истовремено, потребна е јасна регулаторна рамка која ќе ја обврзе транспарентноста, ќе забрани дискриминаторски практики и ќе обезбеди механизми за жалба. Од големо значење е потребата да се едуцираат и кандидатите и евалуаторите за потенцијалните стапици од донесувањето одлуки водено од вештачка интелигенција.
13
Само со развивање на критичко разбирање и институционална одговорност можеме да го искористиме потенцијалот на вештачката интелигенција за унапредување на правичноста и родовата еднаквост на пазарот на трудот.
15. Заклучок
Вештачката интелигенција со својот развој и напредок, претставува мост кој ги поврзува сегашноста и иднината. Таа е клуч за напредокот на многу полиња, меѓу кои и ИТ и ИКТ секторите.
Истражувајќи ја темава, може да се забележи дека родовата нееднаквост е доста застапена при вработувањето и разгледувањето на огласите на кои се аплицира. Во однос на тоа се превземаат чекори кон замена на човековата селекција со онаа предводена од вештачката интелигенција. Се верува дека таквиот пристап ќе овозможи луѓето да бидат заштитени од родова дискриминација.
Постигнувањето на родовата еднаквост во ваквите ситуации е тешко, но сепак, за вештачката интелигенција навистина да стане сила за општествено добро, од клучно значење е нејзиниот развој кој треба да биде етички, транспарентен и инклузивен.
Треба да се направат видни промени и да се даде напор кон уште поголем развој во оваа област, се со цел да се намали дискриминацијата и да се постигне едно поеднакво општество за сите.
16.Литература
1. https://link.springer.com/article/10.1007/s00146-022-01574-0 2. https://genderpolicyreport.umn.edu/algorithmic-bias-in-job-hiring/ 3. https://www.womentech.net/how-to/can-artificial-intelligence-offer solutions-gender-bias-in-hiring
14
4. https://www.euronews.com/next/2022/03/08/gender-bias-in recruitment-how-ai-hiring-tools-are-hindering-women-s-careers 5. https://www.cangrade.com/press/new-study-exposes-hidden-gender bias-in-tech-job-descriptions/
15