Петар Стојановски
- Вовед
Во денешно време вештачката интелигенција е насекаде околу нас, што речиси не постои човек кој немал контакт со неа. Особено се користени и алатките базирани на вештачка интелигенција, најчесто од помладата популација. Тоа се алатки како ChatGPТ, DeepSeek, Siri, Alexa, но и алатки како Sora за генерирање на видеа. Овие асистенти базирани на ВИ се дел од нашето секојдневие, толку што нив ги прашуваме за се што ни е потребно – од рецепти за готвење, до добивање идеи, помош при учење, решавање двоумици, барање совети, но и за општ разговор кога ни е здодевно. Па поради оваа честа употреба, иако се работи за софтвер – за ботови, ние луѓето им дoделуваме човечки карактеристики, бидејќи добиваме илузија дека разговараме со вистинска личност. Може да се издвои ChatGPT како добар пример, бидејќи тој учи податоци за нас и се приспособува на нашиот сленг, што значи дека на некој начин се зближува со нас и имаме чувство како да комуницираме со некој пријател. Интересна работа е што овој асистент базиран на ВИ нема ниту име (ChatGPT не е конкретно име), нема глас, нема ни изглед, а ние му препишуваме човечки карактер. Според ова ние му доделуваме и род на ботот – „тој ми помогна“, „него го прашав“, „тој ќе ти каже“, „внеси му подобар input“. Занимливо е што најчесто, речиси секогаш кога зборуваме за некој ВИ бот се обраќаме во машки род. Зошто токму се случува тоа?
Луѓето потсвесно ги задаваат овие карактеристи, најчесто без никаква шовинистичка позадина. Истото може да се каже и за гласовните асистенти како Siri, Alexa или Cortana. Зошто па тие имаат женски гласови? Луѓето се чувствуаат подобро ислушани и разбрани доколку комуницираат со женски глас и ова се сведува генерално на подлабоката психологија на човекот, но и на културолошки фактори како и традиции, бидејќи женскиот пол е најчесто асоциран со мајчински карактеристики. Во пракса не би требало на виртуелните асистенти воопшто да им даваме вакви особини, но се ова се сведува на одредени стереотипи за двата полови.
- Перцепција на пол и род кај дигиталните ентитети
Сите ВИ помошници како што се гласовните асистенти и виртуелните асистенти се создадени на тој начин што не им се препишува пол. Тие не се дизајнирани да имаат вакви карактеристики. Меѓутоа ова зависи од перцепцијата на човечкиот ум и како луѓето ги замислуваат овие ентитети. Овие ботови немаат ниту тело, ниту изглед, но самите ние им ги задаваме овие карактеристики – нивниот начин да говор, самата „интонација“ како и начинот на кој тие не „разбираат“ што бараме од истите. Кај асистентите кои не се гласовни, како ChatGPT или DeepSeek, може да се перцепираат како „машки“ често поради јазичната структура. Во македонскиот јазик ние употребуваме род при говорот и неминовно е да се користи истиот. Затоа на сите ентитети околу нас, па дури и на овие виртуелни асистенти им доделуваме пол и затоа „природно“ ни доаѓа ChatGPT да е „тој“. Иако потсвесно го правиме, сепак е доказ за постоење на родова нееднаквост при употребата на и комуникацијата со ВИ.
Ова може да се карактеризира и како културолошко прашање, бидејќи на машкиот род често му се препишуваат особини како авторитет, знаење, моќ и слично. На спротивната страна се наоѓаат и „женските“ ВИ асистенти кои се поистоветуваат со поддршка, емпатија и услужливост. Меѓу другото ова претставува и слика за колективните верувања и навики, кои човекот ги проектира дури и кон ВИ. Оваа перцепција е важна кога зборуваме за родовата еднаквост, особено за во иднината.
- Историски и културен контекст на машкиот род технологијата
Во технологијата, особено во дигиталната технологија стереотипите и родовата пристрасност не се случува од скоро време, туку датира уште длабоко во историјата. Кога зборуваме за информатиката и компјутерските науки се смета да се „машка“ индустрија. Ова се должи на тоа што развојот на ова поле било генерално доминирано од машката популација, но големо влијание има/ла поп културата (општ пример се Стив Вознијак, Бил Гејтс, Стив Џобс и слично). Меѓутоа во минатoто има и многу жени во оваа област кои направиле големи придонеси. Некои од нив се Ада Лавлејс (се смета за првиот „програмер“ – на аналитичката машина на Чарлс Бебиџ открива дека уредот може да следи серрија на инструкции и да извршува покомплексни математички пресметки; во нејзина чест постои програмски јазик наречен „Ada“), Грејс Хопер (жената која го креирала компајлерот и на тој начин овозможува пишување на код на англиски јазик, што е големо олеснување при процесот на програмирање; го создава програмскиот јазик COBOL кој до ден денеска се користи за креирање на бизнис ориентирани програми), Маргарет Хамилтон (го популазира денешното софтверско инженерство, прави софтвер кој е користен во Аполо 11) и други. Но тие стануваат маргинализирани со текот на времето. Како што претходно напоменав, поп културата најчесто ги прикажува програмерите, научниците, хакерите како мажи – интелигентни, но и делумно асоцијални и повлечени, а сепак тие ја имаат контролата. Па затоа „нормално“ е со комерцијализацијата на вештачката интелигенција, оваа култура да има свое влијание.
До ден денеска ова поле е доминирано од машката популација со околу 65%, наспроти женската со околу 35% во STEM полињата – наука, технологија, инженерство и математика (податоци од САД). Бројките ги опишуваат денешните навики и посочуваат асиметричен развој во однос на полот на учесниците во оваа индустрија. Кај компјутерската технологија, родова нееднаквост се појавува кај тие што го создаваат софтверот, но и кај тие кои го користат. ChatGPT и другите ботови работат на принцип на тренирање модели, односно препознавање на одредени шеми, па ВИ асистентите во суштина „учат“ од достапни извори, кои може да бидат и пристрасни во однос на културолошките и историските податоци.
Затоа е важно да се разгледува врз база на кои информации се градат овие ВИ модели со цел во иднина да имаме поинклузивен дизајн, а да не биде постојано „тој“ ChatGPT.
- ВИ и родовите импликации во дизајнот
Дизајнот на самите ВИ ботови речиси никогаш не е неутрален. Тој ги рефлектира вредностите од општеството, како и културните и половите предрасури. Што значи виртуелните асистенти иако немаат експлицитно наведен род, тој е вграден во самиот интерфејс и интеракцијата со истите. Како што претходно напоменав, женскиот глас и неговата асоцијација е најчесто поврзан со некакво услужување, а машкиот од друга страна со некакви авторитетни улоги. Тоа се се работи кои моделите ги учат и на тој начин се продлабочуваат стереотипи, но и традиционалните родови улоги, а сепак зборуваме за технологија, која е нежива материја и нема потреба од пол.
Во случајот на ChatGPT не е дефинирано дека тој е „машко“, туку самиот корисник со употреба на самата ВИ алатка проектира машки пол. Податоците од интернет кои се користат за тренирање на моделите се од најразлични извори кои можат да бидат шовинистички или патријархални. Овие технологии знаеме дека се користени и од помладата популација и доколку се постојано наметнати овие родови импликации може да доведе до проблем во иднина. Ако корисниците започнат секоја „паметна“ машина да ја перципираат во машки род, а секоја асистентка „помошничка“ како на пример Siri или Alexa во женски род ,тогаш уште повеќе се продлабочува родовата нееднаквост.
- Како се гласовните асистенти дизајнирани и перципирани
Гласовните асистенти како Siri (креирана од Apple), Alexa (креирана од Амазон) и Cortana (креирана од Мајкрософт) се некои од најпознатите и најраспространетите виртуелни асистенти кои ги употребуваат луѓето. Тие се наоѓаат на спротивниот спектар од ChatGPT – тие се перципирани како „женски“ и неслучајно за нив се избрани женски глас и женски имиња. Ова има подлабоки психолошки причини како и родови и културолошки импликации, но и маркетиншки причини. Истражувањата покажуваат дека човекот кога зборува со женски асистент се чувствува покомотно, ислушан, а има и поголема доверба, бидејќи слуша пријатен и смирен женски глас. На овој начин се засилени родовите стереотипи, дека жената треба да биде послушна, кротка и кооперативна. Се ова несвесно ги зајакнува традиционалните родови улоги и тоа претставува голем проблем. „Женските“ асистенти според ова се симбол за „слугинки“, додека „машките“ се перципирани со поголем авторитет. Интересно е тоа што овие гласовни аситенти не реагираат на шовинистички и навредливи коментари од страна на корисниците, па на некој начин го преќутуваат и потиснуваат тоа, предизвикувајќи нормализација на ова однесување.
- Последици од „машката“ перцепција на ВИ
Кога луѓето започнуваат да ги перцепираат виртуелните асистенти како машки, како што е случајот со ChatGPT, не се работи само за јазична точност (како што е во македонскиот јазик), туку за подлабок социјален проблем. Овие работи носат со себе психолошки последици, кои влијаат на тоа како ги разбираме моќта, авторитетот и знаењето во корелација со родот. На овој начин се нормализира однесување кое не треба да биде прифатливо, а се ова има особено голема улога во воспитувањето на младите – тие кои се константно најизразени на технологија. Им укажува дека машкото е тоа што е со силно, со авторитет, паметен, меѓутоа во реалноста и жената ги поседува истите карактеристики. Технологијата, иако пропагира дека е неутрална, во пракса тоа е неточно. Оваа појава не е изолирана само во оваа сфера, туку се присутни насекаде околу нас – во образованието, пазарот на труд, политиката и социјалниот живот, а последиците влијаат најмногу на умовите од иднината. Затоа е многу важно да се подигне свеста за ова прашање во сите општествени области, со цел намалување на предрасудите и елиминација на стереотипите.
- Заклучок
Вештачката интелигенција се повеќе е дел од нашиот живот, а тоа корелира со усовршувањето на истата. Ова го зголемува и прашањето за родовата перцепција на дигиталните алатки кои произлегуваат од ВИ. Иако овие алатки не поседуваат никаков род, ниту други вистински човечки карактеристики, сепак луѓето често им препишуваат машки особини. Се ова не е случајна појава, туку е длабоко вкоренета во културата, јазикот, навиките, историјата, но и во начинот како ги доживуваме машините. Исто така и стереотипите играат голема улога и во целина се прави уште поголема родова нееднаквост.
Технологијата не е неутрална, бидејќи ВИ постојано учи од податоци кои го рефлектираат општеството. Па затоа за да има прогрес, односно вистински инклузивитет во ова поле, мора да има поголема свест за овој проблем и од страна на корисниците, но и од страна на тие кои ги дизајнираат моделите.
Персонификацијата на ботовите и доделување на род на истите може да делуваат безопасно, но последиците кои ова ги остава, ја формираат културата на иднината и сликата на младите за родовите улоги на машкото и женското. Време е да се подигне свеста!
Референци: