Агентско-Базирано моделирање на родови фактори во софтверски екосистеми: Техничка рамка за инклузивни инженерски методологии – Користење на вештачката интелигенција (AI) за унапредување на родовата еднаквост

Драгана Усовиќ

Апстракт

Родовата нееднаквост во софтверското инженерство претставува сериозен предизвик кој бара иновативни решенија со користење практики и методи кои доаѓаат од оваа струка. Текстот предлага употреба на агентско-базирано моделирање како алатка за симулација и анализа на родовите динамики во софтверските екосистеми. Текстот ги нагласува главните извори на пристрасност, од образовните системи до AI алатките, и нуди предлог за агентско-базиран систем преку математичко моделирање. Се разгледуваат и истражувања во Македонија и дали се применува агентско-базирано моделирање во Македонија. Практичната вредност на оваа рамка е во можноста за евалуација на различни интервенции во контролирани услови, што овозможува донесување на информирани одлуки за промовирање на родова инклузивност.

Клучни зборови: агентско-базирано моделирање, родова пристрасност, софтверско инженерство, симулација

Вовед

Во новата дигитална ера, софтверското инженерство игра централна улога во општеството, бидејќи претставува еден од најдинамичните и највлијателните сектори на глобалната економија. Сепак, и покрај сите позитивни аспекти, во однос на родовата нееднаквост и пристрасност се соочува со многу предизвици.

Во овој контекст, инженерите честопати имаат тенденција да ја толкуваат алгоритамската пристрасност исклучиво од техничка перспектива, занемарувајќи ги пошироките социјални и културни контексти на проблемот.[1]

Овој текст предлага и разработува техничка рамка базирана на Агентско-Базирано Моделирање како иновативна методологија за истражување и дијагностицирање на родовите фактори во софтверските екосистеми. Агентско-базирано моделирање би овозможило симулација на сложени социо-технички системи преку дефинирање на автономни агенти (програмери, менаџери) кои комуницираат и носат одлуки врз основа на математички моделирани когнитивни динамики, стереотипи и организациски правила. Крајната цел е да се даде идеја за компјутерски модел кој може да симулира различни сценарија пред нивната реална имплементација.

Анализа на родовата пристрасност во софтверското инженерство

Со анализирање на родовата пристрасност во софтверското инженерство, може да дојдеме до многу интересни заклучоци. Имено, едно истражување во инженерското образование ги нагласува систематски разлики во погледите, вредностите и искуствата на жените и мажите во инженерски дисциплини, меѓу кои и компјутерските и софтверските области. Ова истражување покажува дека традиционалните инженерски наставни програми често даваат привилегија на техничката димензија на проблемите, додека ги занемаруваат социјалните, етичките и културните аспекти на инженерската практика. Оваа нерамнотежа може индиректно да придонесе за родова пристрасност, бидејќи таквата техничко-ориентирана култура историски е поврзана со „машки“ стереотипи во инженерството. [2]

Податоците од анкетите кои ги спровеле во ова истражување, покажуваат дека студентките во инженерството, во споредба со студентите, даваат поголемо значење на социјалните и етичките аспекти на инженерската работа, како и на вештините поврзани со соработка, слушање и интеграција на различни перспективи. Жените почесто ја перципираат инженерската одговорност како обрска кон јавноста и поширокото општество, нагласувајќи дека инженерските одлуки можат да имаат позитивни или негативни последици врз поединци и заедници. [2]

Во контекст на софтверското инженерство, ваквите резултати се значајни бидејќи покажуваат дека културата која го занемарува социо-техничкиот аспект на софтверското инженерство, може да го засили чувството на неприпадност на жените во оваа сфера. Доколку пак, ова успешно се интегрира во образованието, па понатаму и во работата, има потенцијал за намалување на родовата пристрасност и создавање поправедна инженерска средина. [2]

Од друг аспект, родова пристрасност може да се појави и од страна на современите алатки за вештачка интелигенција, кои секојдневно ги користиме. Истражувањата покажуваат дека AI системитe, наместо да бидат целосно неутрални, можат несвесно да фаворизирааат еден род, на пример преку почеста употреба на машки форми за професии како „софтверски инженер“ или преку поврзување на техничките улоги со мажи, а негувателски или креативни улоги со жени. Резултатите од истражувањето „Fairness in AI: When are AI Tools Gender-Biased?“, покажуваат дека ChatGPT и Gemini понекогаш генерираат стереотипни одговори (како професија „инженер“ која ја преведуваат во машки род на повеќе јазици, или описи на соби да содржат елементи како автомобили за момчиња и розова боја за девојчиња), со што родовата пристрасност не само што е рефлектирана, туку и во некои случаи засилена. [3]

Архитектура на агентско-базирана симулациона рамка

Агентско-базираното моделирање или скратено АБМ е пристап кој го симулира колективното однесување на системот врз основа на интеракциите на автономни агенти. Оваа методологија е идеална за проучување на социо-технички системи, особено кога интеракциите се комплексни, нелинеарни или дискретни. Работат на начин што се креираат мали „агенти“, како виртуелни луѓе или групи, кои понатаму дејствуваат независно, врз основа на едноставни правила. Секој агент има свои особини, како што се вештини или преференции, и тие се поврзуваат едни со други во виртуелна околина. Агентско-базираното моделирање е корисен за разбирање на системи каде што индивидуалните одлуки водат кон колективни резултати, и се користи во многу науки. [4]

Агентско-базираното моделирање е корисно за моделирање родови фактори во софтверските екосистеми, затоа што помага да се види како мали предрасуди или разлики водат кон големи нерамнотежи. На пример, преку симулации можеме да тестираме како дискриминација при унапредувања или културни преференции влијаат врз кариерите.

Според студија во Journal of Artificial Societies and Social Simulation, AБM се користи за да се симулираат професионални хиерархии каде што агентите се натпреваруваат за позиции, и покажува дека родовите разлики во вештини или предрасуди можат да создадат нееднаквост, но и да се коригираат со интервенции како еднакви критериуми за унапредување. Ова е важно за софтверските полиња, каде што стереотипи за родот можат да го намалат учеството на жените, а како одговор на тоа, AБM ни дава алатка за предвидување и подобрување на истото. [5]

За да се моделираат родовите динамики, нашата околина би дефинирала три основни категории на агенти и тоа:

Инженер/Програмер агенти: Ја претставуваат работната сила. Нивните атрибути се: пол, степен на вештина, преференци и потенцијал.
Менаџер агенти: Тие донесуваат важни одлуки за вработување, оценување на колеги и унапредување. Овие агенти имаат вградени претпоставки (bias) кои ги одразуваат родовите стереотипи што постојат во реалноста.
Системски агенти: Ги дефинираат границите и правилата на околината, како што се техничките стандарди или хиерархиски структури.

Околината може да моделира различни типови на средини во кои агентите дејствуваат. На пример, може да се симулира корпоративна структура со хиерархија, вработени распоредени на нивоа од почетници, менаџери до извршни директори, каде се донесуваат одлуки за унапредување и вработување. На овој начин, добиваме агенти и околина кои се само еден пример на како може овој систем да изгледа. Во зависност од потребите, може да се моделираат и други агенти и околини.

Од социјална теорија до компјутерски модел

Агентско-базираното моделирање овозможува социолошките теории за родова нееднаквост да се преточат во конкретни компјутерски симулации кои можат да се тестираат. Наместо само да се зборува теоретски за тоа како стереотипите влијаат на работната средина или да го набљудуваме истото во реалноста, со овој пристап можеме да симулираме виртуелни вработувања и унапредувања.

Зад агентите, освен што постои програмирање, постојат и математички формули и моделирања кои се клучни за позитивни резултати. Агентите се прикажани како ограничено рационални. Тоа значи дека тие не донесуваат совршени одлуки (како и луѓето), туку избираат врз основа на едноставни правила и делумни информации. Користат така наречени хеуристики (брзи правила) за да се прилагодуваат и да учат преку интеракции. [4] Ова може да се моделира со Random Utility Models (RUM) што значи дека секоја одлука (на пример, избор на кандидат од менаџер) има „корисност“ што се состои од видлив дел (вештини, искуство) и случаен дел (грешка или несигурност). Агентот според формула која ја одредува корисноста, го избира она со највисока корисност, но случајниот дел прави одлуките да не бидат секогаш исти. Ова овозможува реално прикажување на предрасуди или грешки во одлучувањето. [6]

За да се постигне посуштинско моделирање на когнитивните процеси кај агентите, се користат комплексни архитектури како BDI (Belief-Desire-Intention) парадигмата, која ја имитира човечката практична расудливост преку три клучни ментални состојби. Верувањата (beliefs) го претставуваат информацискиот статус на агентот за светот, желбите (desires) ги претставуваат мотивациските цели што агентот сака да ги постигне, а намерите (intentions) се желби кон кои агентот се обврзал и започнал да извршува конкретни планови. [7]

Оваа парадигма може да се примени и во нашиот систем тука, со тоа што менаџерите расудуваат со овие три клучни ментални состојби. На овој начин можеме подобро да разбереме зошто родовата пристрасност постои и каде може да се интервенира, дали треба да се менуваат верувањата, желбите или начинот на кој се донесуваат одлуки.

Симулациски сценарија за тестирање на инклузивноста

Целта на ваквиот агентско-базиран систем е да може да извршуваме симулациски сценарија базирани на реалниот свет со кои би придонеле во намалување на родовата пристрасност.

Пример за ваква симулација, е симулацијата која ја направиле Chibin Zhang и Paolo Gaudiano, која моделира компанија со четири нивоа и два клучни параметри: пристрасност при вработување и пристрасност при унапредување. Пристраноста при вработување влијае на родовиот сооднос на нововработените, додека пак пристрасноста при унапредување им дава предност на мажите во одлуките за промоција, иако сите вработени имаат идентични способности.[8]

Симулацијата трае 10 години, со неделни чекори, и покажува како дури и мали пристрасности доведуваат до значителни родови нерамнотежи, односно мажите доминираат на повисоките позиции (дури до 90% на извршно ниво), додека жените остануваат заглавени на пониските позиции. Најважно, резултатите откриваат дека отстранувањето на пристрасностите по нивното долго дејствување не е доволно за брзо враќање на рамнотежата и може да бидат потребни децении за да се исправат создадените нееднаквости. Оваа симулација е особено важна за софтверското инженерство, каде што родовите стереотипи и пристрасности често резултираат со намалено учество на жените на техничко-менаџерски и лидерски позиции. Симулацијата е визуелно прикажана на слика 1, која го покажува екранот на моделот со вработени (сини за мажи, жолти за жени) распоредени по ранг.[8]

Што е направено или треба да се направи во Македонија?

Во Македонија, постојат истражувања кои се однесуваат на родовата еднаквост, но со отсуство во софтверското инженерство и користење на АБМ за анализа на родовите динамики.

Одредени истражувачки организации активно работат на истражување на овие полиња во Македонија. Една таква организација е Реактор која се занимава со истражување и објавување истражувања наменети за информирање за темите од родовата еднаквост. [9] Една од нивните позначајни публикации е објавена во 2022 година и истата анализира како да се вклучи родот во националниот статистички систем и кои се приоритетните области на кои ова им недостасува. [10]

Надвор од ваквите организации и ваквите истражувања, постои отсуство на иновативни методологии како агентско-базирано моделирање. Ова е значајна празнина, бидејќи како што претходно објаснив, АБМ нуди можности за симулација на комплексни социо-технички системи и тестирање на истите пред нивна реална имплементација.

Ваквото отсуство алудира на потреба за иновативни пристапи и методологи во Македонија кои би биле прилагодени во македонски контекст. Би било добро да се земат во предвид локалниот ИТ сектор и нашиот образовен систем. Може да бидат интегрирани постоечките податоци од Реактор и слични организации, секако доколку се добие нивна дозвола или имаат отворени лиценци и на овој начин да се создадат реалистични модели на родовите динамики во ИТ секторот.

Од клучно значење би било соработката меѓу академските институции како што е ФИНКИ и истражувачките организации кои би тестирале различни начини за интервенирање на родова нееднаквост со помош на агентско-базирано моделирање. Конечно, со ова Македонија може да стане пионер во региниот за користење на напредни техники за промовирање на родова еднаквост и намалување на стереотипите и нееднаквостите кои доаѓаат како последица на ова.

Заклучок

Родовата нееднаквост во софтверското инженерство останува еден од најголемите предизвици во модерниот свет, каде што пристрасностите го намалуваат учеството и напредувањето на жените. Како одговор на овој предизвик, агентско-базираното моделирање претставува моќна и иновативна алатка за симулација и длабока анализа на овие комплексни социо-технички динамики.

Преку дефинирање автономни агенти (инженери, менаџери и системски правила) и интегрирање математички модели како Random Utility Models и BDI парадигмата, можеме да ги реконструираме и тестираме сценарија кои откриваат како дури и мали пристрасности при вработување и унапредување доведуваат до долготрајни нерамнотежи во корпоративните хиерархии, како што е демонстрирано во симулацијата на Zhang и Gaudiano, каде отстранувањето на пристрасностите не е доволно за брзо враќање на рамнотежата и може да трае со децении.

Оваа рамка е практична, бидејќи нуди можност за евалузација на различни интервенции во контролирани виртуелни услови, пред тие да бидат употребени во реалноста. Со тоа, не само што овозможува информирано носење одлуки за промовирање на родовата инклузивност, туку отвара врати кон создавање праведни и поефикасни софтверски екосистеми.

Целта е, со примена на агентско-базирано моделирање во софтверското инженерство, да донесе трансформација на индустријата кон родова рамноправност каде способностите се над стереотипите. Идните истражувања треба да се насочат кон ваквите решенија и да се постигне уште поголем импакт.