Авторка Ивана Младеновска
Вовед
Во современото дигитално општество, вештачката интелигенција (ВИ) сè повеќе игра централна улога во обликувањето на нашето секојдневие, од лични асистенти, алгоритми за препораки и автоматизирани услуги, до одлучувачки системи во здравството, образованието, банките и јавната администрација. Но, со порастот на влијанието на ВИ, се појавува и клучно прашање: дали овие технологии ја унапредуваат или ја загрозуваат родовата еднаквост?
Истражувањата покажуваат дека ВИ системите често ја одразуваат пристрасноста на податоците со кои се тренирани, како и на луѓето што ги дизајнираат. На пример, алгоритмите за препознавање на говор и лице имаат повисока точност кај мажите и светлокожите лица, додека кај жените, особено од расно и етнички маргинализирани заедници, точноста значително опаѓа. Ова не е случајност, туку последица на структурна нееднаквост, каде жените и небинарните лица се недоволно застапени во развојот на ВИ и во технолошките професии воопшто.
Зошто е важно да се истражува родовата репрезентација во технологијата?
Истражувањето на родовата репрезентација во технологијата е од клучно значење за развој на праведна, инклузивна и етичка технолошка иднина. Технологијата, иако често се перцепира како неутрална и објективна, всушност е производ на луѓе – а со тоа и на нивните вредности, предрасуди и културни гледишта. Начинот на кој се дизајнираат, именуваат и користат технолошките производи често се одразуваат на општествените стереотипи и нееднакви односи на моќ, вклучувајќи ги и родовите.
- Репродукција на родови стереотипи
Многу дигитални технологии – како виртуелни асистенти (на пр. Siri, Alexa, Cortana) – користат женски гласови и се програмирани да бидат услужни, љубезни и подредени. Ова не е случајно, според извештајот на UNESCO (2019), изборот на женски гласови во асистивни технологии се базира на културни и маркетиншки претпоставки дека корисниците повеќе ќе им веруваат и полесно ќе соработуваат со женски гласови. Но, со тоа се зајакнува идејата дека жените се тука за да „служат“ и се секогаш достапни и покорни – што е директен пренос на патријархални стереотипи во дигиталниот свет.
- Недостаток на родова разновидност во технолошката индустрија
Технолошката индустрија има хроничен проблем со недоволна застапеност на жени и небинарни лица, особено во високи и одлучувачки позиции. Овој дисбаланс резултира со технолошки решенија кои не ги земаат предвид различните искуства и потреби на целата популација. На пример, истражувањето на Caroline Criado-Perez во книгата Invisible Women покажува како технолошките дизајни од паметни телефони до безбедносни системи често се базираат на машки корисници како „стандард“, што резултира со неправедни и нефункционални производи за жените.
Теории поврзани со родот
Социјален конструктивизам
Социјалниот конструктивизам е една од највлијателните теории во проучувањето на родот и родовите улоги. Според оваа теорија, родот не е биолошки или природен факт, туку општествено и културно конструиран концепт. Ова значи дека начинот на кој разбираме што значи машко или женско не е универзален или вечен, туку се менува во зависност од историскиот контекст, културата, религијата, економските односи и политичката структура.
Клучни идеи на социјалниот конструктивизам за родот:
- Родот е научен, а не вроден:
Луѓето учат како да се однесуваат како мажи или жени преку социјализација, од семејството, образованието, медиумите, работното место и др. Од најрана возраст, децата се изложени на пораки за тоа што е соодветно машко или женско однесување.
- Родот е перформативен (Judith Butler):
Филозофката Judith Butler во својата книга Gender Trouble (1990) тврди дека родот не е нешто што го имаме, туку нешто што постојано го изведуваме преку однесување, говор, облека и односи со другите. Со ова таа ја воведува идејата дека родот не е фиксна категорија, туку процес што се создава и повторува преку акција.
- Моќ и хиерархија:
Родот не постои одвоено од општествената моќ. Социјалниот конструктивизам покажува дека родовите улоги често се поврзани со нееднакви општествени позиции, каде мажите имаат поголема моќ и ресурси од жените, а тоа се одржува преку институции како правото, религијата и медиуми.
Технофеминизам
Технофеминизмот е теоретски и активистички правец кој го истражува взаемното влијание помеѓу родот, технологијата и општеството. Тој го поставува прашањето: Кој ја создава технологијата, за кого и со какви последици по родовата еднаквост? Овој концепт го критикува доминантниот машки пристап во технолошкиот развој и се залага за поинклузивни, родово чувствителни и етички практики во технолошкото производство и употреба.
Клучни идеи на технофеминизмот:
- Технологијата не е родово неутрална:
Машкиот доминантен поглед ја формирал технологијата од почетоците на индустриската револуција до денес. Ова резултирало со дизајн и функција на технолошките производи кои го игнорираат женското искуство или ја репродуцираат родовата нееднаквост
- Инклузивен дизајн:
Технофеминизмот се залага за дизајн на технологии кој ги вклучува жените, небинарните лица и други маргинализирани групи не само како корисници, туку и како активни учесници во процесот на иновација.
- Преиспитување на моќта во дигиталниот свет:
Од вештачка интелигенција до алгоритми, технофеминизмот ги анализира структурите на моќ и пристрасност кои се вградени во технолошките системи. На пример, алгоритми кои дискриминираат жени во регрутирање или виртуелни асистенти кои промовираат стереотипи за женска покорност.
Првите примери на родова персонификација во технологијата
Родовата персонификација во технологијата се однесува на тоа кога технолошките уреди, софтверот или системите се прикажани или дизајнирани така што добиваат човечки карактеристики најчесто преку глас, име, изглед или однесување поврзани со одреден род. Во најголем дел од историјата на развој на дигиталната технологија, особено кај виртуелните асистенти и говорните системи, овој род најчесто бил женски.
ELIZA (1966) – Пионер на родово обоена интеракција
Првиот значаен пример е програмата ELIZA, развиена од Joseph Weizenbaum во MIT. ELIZA е ран компјутерски психотерапевт кој симулирал разговор користејќи предефинирани фрази и прашања. Иако ELIZA немала визуелен изглед или експлицитен род, нејзиното име (женско име) и нејзината нежна и слушателска улога довеле до тоа корисниците да ја доживуваат како женска личност. Ова е еден од првите случаи каде што технологијата е неформално женски персонифицирана, што ја открива моќта на културните претстави во обликувањето на доживувањето на технологијата.
Clippy (1997) – Родово неутрален, но перципиран
Clippy, интерактивниот помошник во Microsoft Office, визуелно не беше човечка фигура туку хартиен клип, но неговиот тон и начинот на комуникација беа доживувани различно од корисниците, некои го доживуваа како машко, некои како женско, некои како неутрален. Тоа покажува дека персонификацијата не зависи само од гласот или изгледот, туку и од интеракцијата и културниот контекст.
Siri (2011), Alexa (2014), -Женска персонификација како индустриски стандард
Од влезот на виртуелните асистенти на пазарот, женскиот глас стана доминантен избор.
Siri (Apple, 2011): Стартуваше со женски глас, дизајниран да биде пријателски и услужен.
Alexa (Amazon, 2014): Добива женско име и глас што создава асоцијација со помошник кој не противречи.
Културолошки и индустриски причини за избор на женски глас во технологијата
Изборот на женски гласови за виртуелни асистенти и дигитални гласовни технологии (како што се Siri, Alexa и други) не е случаен, туку резултат на длабоки културни претпоставки и индустриски стратегии. Овој избор е вкоренет во историјата на родовите улоги, перцепцијата за жените во општеството, како и во желбата на технолошките компании да создадат привлечни и прифатливи кориснички искуства.
Психолошки фактори: Перцепција и прифатливост
Истражувањата во социјалната психологија и говорната перцепција покажале дека луѓето генерално повеќе им веруваат на женски гласови во неформални и услужни контексти, особено кога станува збор за техничка поддршка, насоки или организациски задачи.
Индустриски причини: Маркетинг и дизајн ориентиран кон корисникот
Технолошките компании избираат женски гласови од маркетиншки причини тие сакаат нивните продукти да изгледаат достапни, сигурни и ненападни. Особено кога се работи за производи што треба да живеат во приватниот простор на корисникот како паметни звучници и телефони, женскиот глас се смета за помалку заканувачки и попријатен за слушање.
Критики и последици
Иако индустриските одлуки се базирани на пазарни истражувања, критичарите укажуваат дека овие избори ја одржуваат и зајакнуваат родовата нееднаквост. Виртуелните асистенти со женски гласови се програмирани да бидат покорни, услужни, да се извинат дури и кога се навредени и ретко да поставуваат граници што ги репродуцира стереотипите за жените како потчинети и без глас.
Како корисниците комуницираат со женски, а како со машки асистенти
Различните гласови кои се користат за виртуелни асистенти имаат значително влијание на начинот на комуникација што корисниците го имаат со нив. Со оглед на тоа дека најчесто се користат женски гласови (како Siri, Alexa, Google Assistant), а понекогаш и машки гласови, овие асистенти не само што помагаат во извршувањето задачи, туку и се дел од психолошката динамика на родовите стереотипи и постоењето на различни норми за користењето технологии. Понижувачки, пријателски па дури и доминантни реакции кон асистентите зависат од полот на гласот.
Психолошки ефекти на комуникацијата
Женските гласови најчесто предизвикуваат позитивни емоции кај корисниците. Женските асистенти како Siri, Alexa, и Google Assistant се перцепираат како пријателски настроени, љубезни и подготвени да помогнат, што ги прави популарни за секојдневно користење во домаќинствата или на патувања.
- Социјална врска: Женските гласови се сметаат за пољубезни и попријатни за слушање па корисниците често ги користат за помали и не толку сложени задачи, како поставување аларми или добивање навигациски упатства.
Машки гласови – авторитетни и сигурни
Машките гласови како што е машкиот избор во Siri, се сметаат за помалку лични, а повеќе авторитарни. Тие се користат помалку за задачи кои бараат емоционална инволвираност, а повеќе за информации кои треба да се пренесуваат со јасност и сигурност како што се упатства, технички детали или навигација.
- Родовите улоги: Во општеството, машките гласови често се поврзуваат со сигурност, контрола и експертиза што доведува до повеќе авторитетни комуникации. Корисниците обично се помалку љубезни со машките гласови, затоа што тие се перцепираат како поблиски до технички и функционални системи, а не како помошници.
Родови перцепции и стереотипи
Женски гласови – родови стереотипи
Родовите стереотипи имаат големо влијание врз комуникацијата со виртуелни асистенти. Женските гласови во технологијата репродуцираат стереотипи за жените како услужни, потчинети и послушни, што често доведува до непристојно или сексистичко однесување од страна на корисниците.
- Емпатија и подреденост: Корисниците може да се помалку внимателни, а повеќе агресивни кога комуницираат со женски гласови. Женските виртуелни асистенти се најчесто поврзани со емпатија и помош, па така корисниците не се двоумат да ги користат за задачи кои се или не се од големо значење. Но, исто така, има случаи кога некои од корисниците им се обраќаат на асистентите на погрдни или непристојни начини.
Машки гласови – одговор на авторитет
Машките гласови како што е примерот со Amazon’s Alexa, не се толку подложни на агресивни или сексистички напади бидејќи тие се поврзани со улогата на експерт или комуникативен лидер. Машките гласови се гледани повеќе како професионални и моќни, па со нив се комуницира на појасен и авторитетен начин без да има потреба од емоционална инволвираност.
Разлики помеѓу машките и женските виртуелни гласови
| Карактеристика | Женски глас | Машки глас |
| Асоцијација | Топлина,грижа,услужливост | Авторитет,сигурност,моќ |
| Општествена перцепција | Погоден за помош и поддршка | Погоден за команда и информации од експерт |
| Типични улоги | Виртуелниасистенти,гласовни менија, GPS | Системи за безбедност,навигација,технички системи |
Заклучок
Првите примери на родова персонификација во технологијата покажуваат како општествените стереотипи и културните норми се пренесуваат и во дигиталната сфера. Тие не само што ја обликуваат перцепцијата на технологијата, туку и влијаат врз тоа како луѓето комуницираат со неа и како технологијата се вградува во секојдневниот живот. Истовремено, тие отвораат важни прашања за етиката, дизајнот и одговорноста при развој на нови технолошки системи. Изборот помеѓу машки и женски гласови во технологиите не е само естетска одлука, туку рефлексија на длабоки општествени норми, стереотипи и пазарни очекувања. Женските гласови се користат за да се создаде чувство на пријателство, помош и пристапност, додека машките гласови се користат за да создадат чувство на моќ, знаење или авторитет. Меѓутоа некритичкото користење на овие модели може да ги репродуцира и зацврсти постојните родови нееднаквости. Поради тоа сè повеќе истражувачи, дизајнери и организации повикуваат на повеќе избори, инклузивност и свест за родовиот контекст во технолошкиот дизајн.
Користена литература
Discriminating Systems: Gender, Race, and Power in AI – Report – AI Now Institute
GENDER TROUBLE: Feminism and the Subversion of Identity (wordpress.com)
Lorber, Paradoxes of Gender (1994).pdf (xyonline.net)