Автор Петар Велевски
Распространетоста на гласовните асистенти со вештачка интелигенција фундаментално ја трансформира интеракцијата човек-компјутер, при што платформите како Amazon Alexa, Apple Siri, Microsoft Cortana и Google Gemini стануваат се поприсутни во домовите, возилата и работните места ширум светот. Сепак, под овие системи лежи загрижувачка шема што ги рефлектира и потенцијално зајакнува длабоко вкоренетите родови стереотипи. Доминацијата на женските гласови како стандард, заедно со нивното подчинето програмирано однесување, создава она што истражувачите на UNESCO го опишуваат како “послушни и услужни машини што се преправаат дека се жени”. Оваа појава претставува повеќе од едноставен дизајнерски избор таа ги опфака вековните претпоставки за родовите улоги, динамиката на моќта и природата на услужната работа што сега се кодирани во дигитлната врска кај модерното општество.
1. Вовед
Брзата интеграција на технологијата за гласовни асистенти доведе до голема употреба на вештачката интелигенција. Во 2022 година, околу 142 милиони луѓе користеле гласовни асистенти, бројка што сугерира дека овие платформи стануваат сè поголем дел од секојдневните рутини на значителен дел од населението. Пандемијата COVID-19 и зголемената распространетост на паметните телефони го поттикнаа овој раст и ги претворија гласовните асистенти од технички новитети во клучни алатки за комуникација, пристап до информации и домашна автоматизација.
Сепак, оваа технолошка револуција се одвива паралелно со вознемирувачкиот тренд во изборот на дизајн со универзално користење на женски гласови. Од Alexa која е именувана по античката библиотека во Александрија, Cortana именувана по лик од вештачка интелигенција кој се проектира како сензуална, гола жена во франшизата за видео игри Halo, Siri чие име потекнува од нордиско име што значи „убава жена што те води до победа“, и Gemini, кое има родово неутрално име, првично користеа женски гласови. Овој
3
феномен не е случаен случаен, туку е намерен од страна на технолошките компании.
Импликациите од овој феномен одат многу подалеку од претпоставките за дизајнот на корисничкиот интерфејс. Истражувања покажуваат дека слушателите ги толкуваат компјутерски креираните гласови со истите родово стереотипни очекувања споредливи со оние што се користат кај човекот. Кога учесниците во контролирани студии комуницираат со машки наспроти женски вокали, тие покажуваат мерливи разлики во перцепцијата на кредибилитет, компетентност и доверба. Резултатите од ова истражување откриваат дека одлуките за дизајнот на вокалните интерфејси на асистентите одат многу подалеку од техничките спецификации и стануваат важни алатки за социјализација што влијаат на толкувањата поврзани со полот и прифатливите перформанси за потрошувачите, особено децата.
Последиците од ова и други поврзани прашања почнаа да доведуваат до креирање на политики и академските заедници, како што е прикажано во извештајот на UNESKO од 2019 година, „ I’d Blush if I Could “, кој подигна значителна светска свест за ова прашање. Самиот наслов на извештајот, е земен од одговорот на Сири на родово навредливи коментари, кој илустрира како овие системи се дизајнирани да го прифатат и отфрлат вознимирувањето на начини кој ги одсликува општествените очекувања за женските реакции на несоодветно однесување. Ова програмирање создава, како што велат научниците, „моќна илустрација за родовите пристрасности вградени во технолошките производи“ што ризикува да ја нормализира покорни реакции на агресија.
2. Историски контекст и развој гласовна технологија
Свртувањето кон женските вокализации во компјутерските интерфејси започна уште во ерата на телефонските оператори, кога женските гласови беа поврзани со информативна комуникација. Ангажирањето на Ема Нат како (прва жена) телефонски оператор во 1878 година го означи почетокот на систематска врска помеѓу женските гласови и технологиите за помошна комуникација.
4
Конвенционалната историзација, донесе силна родова пристрасност во технологиите за синтезата на говор. Збирките на податоци за обука што се користат околу еден век за системи за синтеза на говор беа во голема мера женски гласови и тие доведоа до она што технолозите го нарекуваат „богати податоци за женски гласови“ и ги поставија асистентите со женски звук како „најисплатливо решение од аспект на времето и трошоците“. Развојот на технологијата ги вгради конвенционалните перцепции за родовите улоги во парадигмата на денешните гласовни асистенти.
Во текот на 2010-тите, кога компаниите се впуштија во развој на првите гласовни асистенти за потрошувачи, тие користеа достапни технички рамки кои беа пристрасни кон создавање женски гласови, водени од социјалното уредување кое ги поврзувало женските гласовни квалитети со услуга. Инженерските тимови што ги развија овие гласовни асистенти беа претежно составени од мажи, со што се создаде средина каде што претпоставките за родовите улоги можеа да се вградат без соодветна проверка.
3. Технички и комерцијални образложенија
Компаниите постојано тврдат дека нивниот избор на женски стандардни гласови одразува набљудувачко истражување кое ги покажува преференците на корисниците за женските вокални карактеристики во помошни контексти. Microsoft експлицитно изјави во 2017 година дека „за нашите цели – создавање корисен, поддржувачки и сигурен асистент – женскиот глас беше попривлечна опција“. Сепак, резултатите на ова истражување остануваат во голема мера скриени, при што повеќето организации се „помалку транспарентни во однос на нивните мотивации“.
Техничкиот аргумент во врска со квалитетот на синтезата на гласот претставува уште една сложеност. Програмерите забележаа дека „некои типични вокални карактеристики на човечкиот женски глас го отежнуваат техничкoто производство на висококвалитетен синтетички женски глас“, но компаниите продолжуваат да инвестираат многу во развојот на женскиот глас. Ова сугерира дека техничките размислувања не се примарен поттик на одлуките за дизајн.
5
Психолошките истражувања што ги цитираат компаниите откриваат проблематични претпоставки. Студиите постојано покажуваат дека „женските гласови се перцепираат како корисни, потчинети и послушни“, додека „машките гласови се перцепираат како доминантни, соодветни и заповедни“. Компаниите ги искористуваат овие стереотипни асоцијации за да ги направат производите да изгледаат помалку заканувачки и ефикасно да ги монетизираат родовите стереотипи, наместо да ги променат.
4. Родови предрасуди и општествени импликации
Гласовните асистенти со женски гласови функционираат како „моќни алатки за социјализација“ кои ги учат корисниците, особено децата, за родовите улоги и очекувањата за однесување. Програмирањето на гласовните асистенти да реагираат послушно на командите, да одржуваат услужливо однесување без оглед на однесувањето на корисниците создава загрижувачки модели на женска интеракција.
Кога корисниците упатуваат родови навреди кон гласовните асистенти, програмираните одговори на системите честопати ги отсликуваат општествените очекувања за тоа како жените треба да реагираат на вознемирување. Поранешниот одговор на Siri „ I’d blush if I could “ на родови пцовки a веселиот одговор на Alexa „ That’s nice of you to say! “ на коментари како „ You’re hot “, демонстрираат како овие системи се дизајнирани да го одбијат несоодветното однесување, а не да го предизвикуваат.
За развојот на детето, овие модели се особено загрижувачки. Децата ги набљудуваат родителите како издаваат директни команди на субјекти што звучат женски, а кои реагираат со непогрешлива учтивост и усогласеност. Ова создава она што истражувачите го опишуваат како „значајни последици за развојот на детето“, особено во однос на динамиката на моќта и соодветните начини на интеракција со жените.
Во контекст на работното место, гласовните асистенти кои имаа женски карактеристики додека извршуваат поддржувачки улоги ризикуваат да ги зајакнат стереотипите што ги позиционираат жените како природно соодветни за
6
помошни, а не за лидерски позиции. Ова технолошко засилување се случува кога многу организации работат на справување со постојаните родови нееднаквости.
Глобалниот пристап на технологијата за гласовни асистенти ги засилува овие загрижености низ различни културни контексти, потенцијално ширејќи одредени претпоставки за родовите улоги низ целиот свет и покренувајќи прашања за дигиталниот колонизам преку навидум неутрални технолошки алатки.
5. Кориснички перцепции и студии за однесување
Истражувања покажуваат дека корисниците несвесно ги применуваат шемите на човековата социјална интеракција во нивните односи со гласовните асистенти, покажувајќи родови стереотипни очекувања и покрај свеста дека комуницираат со вештачки системи. Студија на Универзитетот Стенфорд покажа дека учесниците постојано ги оценувале речениците произведени од машки гласови како „повалидни и попријателски од речениците произведени од женскиот глас“. Учесниците, исто така, демонстрираа јасна стереотипизација со оценување на женските гласови како поинформирани за „женските“ теми, додека ги сметаа машките гласови за поавторитативни за „машките“ теми.
Неодамнешното истражување на Универзитетот Џонс Хопкинс откри дека мажите ги прекинуваат гласовните асистенти со вештачка интелигенција речиси двојно почесто од жените, отсликувајќи ги шемите од реалниот свет каде што мажите непропорционално ги прекинуваат жените. Ова сугерира дека изборот на дизајн на гласовни асистенти може да го зајакне прекинувачкото однесување што придонесува за родовата нееднаквост во човечките интеракции.
Студии откриваат загрижувачки трендови во развојот на однесувањето. Корисниците кои првично комуницираат учтиво со гласовните асистенти често развиваат покомандувачки и помалку учтиви комуникациски шеми со текот на времето. Ова сугерира дека продолжената интеракција со нежни женски гласови може да ги нормализира наредувачки стилови на интеракција што се пренесуваат на човечките односи – особено загрижувачки за децата чии комуникациски шеми сè уште се развиваат.
7
Кроскултурните истражувања покажуваат дека иако преференциите за женски гласови во асистивни контексти се чинат конзистентни во многу култури, специфичните стереотипи поврзани со овие преференции значително варираат. Ова укажува дека иако родовото определување на гласовните асистенти може да биде широко распространето, претпоставките за одредени родови улоги одразуваат специфични културни контексти, а не универзални човечки преференции.
6. Одговори на индустријата и неодамнешни случувања
Одлуката на Apple од 2021 година да го елиминира женскиот глас како стандардна опција за Siri претставува најзначајна промена на политиката досега, која бара од корисниците активно да го изберат својот префериран глас за време на поставувањето на уредот. Ова влијае на над една милијарда iOS уреди ширум светот. Сепак, компанијата ги одржуваше родовите категоризации за повеќето гласовни опции, продолжувајќи да ги зајакнува бинарните претпоставки за пол.
Google имплементираше рандомизирано доделување гласови и премина од родови гласовни етикети на системи за именување базирани на боја. Овој пристап претставува посеопфатен обид за деродовување на интеракциите со гласовните асистенти, додека се одржува гласовната разновидност и изборот на корисниците.
Одговорот на Amazon беше поограничен, одржувајќи го постојано женскиот глас на Alexa, додека ги прошируваше опциите преку купување гласови на познати личности. Овој комерцијален пристап ја дава предност на пазарната диференцијација пред систематското решавање на проблемите со родовите предрасуди.
Microsoft воведе опции за машки глас за Cortana, додека ги одржуваше женските гласови како стандардна поставка. Задржувањето на женските стандардни вредности од страна на компанијата сугерира континуирана доверба во истражувањето на пазарот што укажува на преференциите на корисниците за женските гласови на асистентите.
8
Одговорите низ целата индустрија беа комплицирани од техничките и економските инвестиции во постојните технологии. Цената за развој на висококвалитетна синтеза на глас за повеќе типови гласови, во комбинација со воспоставените кориснички бази навикнати на одредени вокални карактеристики, создава финансиски дестимулации за сеопфатен редизајн. Компаниите генерално се стремат кон постепени промени кои се справуваат со видливите аспекти на родовите предрасуди, а воедно ги одржуваат основните претпоставки за дизајн.
7. Неутрални алтернативи и иновации
Project Q, развиен од истражувачи, дизајнери на звук и лингвисти во соработка со организаторите на Copenhagen Pride и застапниците на Equal AI, претставува најсеопфатен обид за создавање вистинска родово неутрална опција за гласовен асистент. Проектот вклучуваше снимање десетици гласови од поединци кои се идентификуваат низ целиот родов спектар за да се постигнат родово неутрални карактеристики без да се загрози квалитетот на аудио.
Техничките предизвици во создавањето родово неутрални гласови ја истакнуваат сложеноста на преминувањето надвор од бинарните претпоставки за род. Дизајнерот на звук Нис Норгард забележа дека „вашиот мозок може да каже дали гласот е повишен нагоре и надолу“, што го прави „тешко да се работи со овие гласови без да се уништат“. Ова ограничување покажува како еволуирала човечката аудитивна перцепција за да се детектираат родови маркери во вокалните карактеристики.
Истражувањето на одговорите на корисниците на родово неутралните гласовни асистенти даде мешани резултати. Сеопфатна студија која ги испитува перцепциите за доверба, привлечност и употребливост кај женски, машки и безродови гласовни асистенти не пронајде значајни разлики во одговорите на корисниците. Ова сугерира дека реакциите на корисниците може да бидат посложени од едноставното активирање на родовиот стереотип, при што други фактори како што се квалитетот на гласот и извршувањето на задачите потенцијално ги надминуваат преференциите базирани на пол
9
Воведувањето на родово неутрален глас на Siri од страна на Apple, произведен од член на LGBTQ+ заедницата, претставува значаен чекор кон инклузивни опции, иако овој глас не е поставен како стандарден и истражувањето за одговорите на корисниците останува ограничено. Поставувањето на родово неутралните опции како секундарни избори сугерира дека дури и прогресивните компании остануваат претпазливи во врска со предизвикувањето на очекувањата на корисниците.
8. Идни насоки и технолошки размислувања
Напредокот во технологиите за машинско учење и невронски мрежи овозможува пософистицирана синтеза на глас што би можела да поддржи поголема разновидност во карактеристиките на гласот без да се загрози квалитетот. Неодамнешното воведување на гласови од страна на Apple кои „користат снимки од изворни таленти кои потоа се извршуваат преку невронскиот мотор за претворање на текст во говор на Apple“ го демонстрира потенцијалот за технолошки решенија кои ги прошируваат опциите, а воедно одржуваат висококвалитетни искуства.
Како што гласовните интерфејси се прошируваат надвор од улогите на лични асистенти во образованието, здравствената заштита и алатките за професионална соработка, импликациите од родов дизајн на глас стануваат посложени и потенцијално позначајни. Образовните апликации покренуваат посебна загриженост за тоа како презентацијата на родот на гласовниот асистент може да влијае врз учењето на учениците и моделите на интеракција меѓу наставниците и учениците.
Растечката софистицираност на говорната вештачка интелигенција отвора можности за подинамични пристапи кон презентацијата на гласот. Идните системи би можеле да ја адаптираат својата вокална презентација врз основа на контекстот, видот на задачата или преференциите на корисниците за специфични сценарија за интеракција.
Меѓународните регулаторни рамки веројатно ќе играат сè поважна улога во обликувањето на пристапите во индустријата. Предложените регулативи за
10
вештачка интелигенција на Европската унија вклучуваат одредби кои се однесуваат на пристрасноста и дискриминацијата, потенцијално создавајќи законски барања за компаниите да демонстрираат ублажување на пристрасноста во развојот на гласовните асистенти.
Пресекот на технологијата за гласовни асистенти со новите технологии како што се augmented reality, virtual reality, и ambient computing доведуваат до дополнителни размислувања. Како што гласовните интерфејси се интегрираат во поимпресивни средини, влијанието на родово-ориентираните избори на дизајн врз однесувањето на корисниците може да стане поизразено.
9. Истражувачки методологии и академски рамки
Академската студија за родовите предрасуди во технологијата на гласовните асистенти користела различни методолошки пристапи. Квантитативните експериментални дизајни кои ги испитуваат одговорите на корисниците на женски, машки и безродови гласови обезбедија мерливи докази за активирање на родовите стереотипи. Овие контролирани експерименти воспоставуваат основни докази за ефектите на предрасудите, додека контролираат за збунувачки варијабли.
Квалитативните истражувања придонесоа со клучни увиди во субјективните искуства и културните значења. Етнографските студии за семејните интеракции со гласовните асистенти открија како децата развиваат комуникациски модели и претпоставки за родовите улоги преку набљудување на интеракциите родител
асистент.
Примената на феминистичките принципи на HCI обезбеди рамки за анализа на родовите предрасуди кои се протегаат надвор од мерењето на преференциите на корисниците. Овие пристапи нагласуваат испитување на динамиката на моќ, предизвикување на претпоставките за неутралната технологија и давање приоритет на маргинализираните перспективи.
Лонгитудиналните студии кои ги следат промените во однесувањето на корисниците со текот на времето открија временски модели кои пресечни студии не можат да ги опфатат. Истражувањата кои покажуваат дека корисниците
11
стануваат побавни и помалку учтиви со текот на времето даваат клучни докази за загриженоста за условувањето на однесувањето и неговото потенцијално пренесување во човечките односи.
Методологијата GenderMag, специјално дизајнирана да идентификува родови предрасуди во софтверските интерфејси, е применета во дизајнот на гласовните асистенти со ветувачки резултати. Овој метод на когнитивно проницување користи емпириски базирани персони што претставуваат различни краеви на родово поврзаниот спектар на однесување за да идентификуваат потенцијални бариери за употребливост.
10. Индустриски стандарди и упатства за дизајн
Развојот на индустриски стандарди за справување со родовите предрасуди се појави како критична потреба. Сегашните практики значително се разликуваат меѓу компаниите и платформите, создавајќи недоследности во начинот на кој се решаваат проблемите со предрасудите. Недостатокот на стандардизирани пристапи им отежнува на корисниците, истражувачите и групите за застапување да го проценат напредокот.
Професионалните организации почнаа да развиваат препораки за инклузивен дизајн на гласовни асистенти, иако усвојувањето останува доброволно, а имплементацијата значително варира. На упатствата честопати им недостасуваат специфични технички барања или механизми за спроведување, ограничувајќи ја нивната ефикасност во водењето систематски промени.
Интеграцијата на размислувањата за пристапност со напорите за ублажување на родовите предрасуди создава дополнителна сложеност. Гласовните асистенти им служат на корисниците со различни потреби за пристапност, вклучително и лица кои се потпираат на гласовни интерфејси поради попреченост. Промените во дизајнот мора внимателно да се оценат за да се осигури дека не создаваат бариери за корисниците кои зависат од оваа технологија за основни функции.
12
Меѓународните варијации во културните ставови кон родовите улоги создаваат предизвици за развој на универзално применливи стандарди за дизајн. Упатствата развиени првенствено во западни контексти можеби не ги задоволуваат специфичните потреби на корисниците во други културни средини. Глобалната природа на платформите за гласовни асистенти бара рамки за дизајн кои ја прифаќаат културната разновидност, а воедно одржуваат конзистентни пристапи за ублажување на предрасудите.
Образованието на корисниците и дигиталната писменост, исто така, играат важна улога во справувањето со родовите предрасуди. Упатствата што се фокусираат исклучиво на гласовните карактеристики може да пропуштат можности да им помогнат на корисниците да развијат покритични односи со технологијата за гласовни асистенти. Сеопфатните пристапи бараат интегрирани стратегии што се однесуваат и на технолошкиот дизајн и на разбирањето на социјалните импликации од страна на корисниците.
11. Заклучок
Доминацијата на женските гласови во конструкцијата на гласовните асистенти одразува сложена динамика помеѓу техничките можности, деловните интереси и длабоко вкоренетите културни конвенции. Тоа не е знак на неутралност во технологијата или дури и на преференциите на потрошувачите, туку е одраз на тековните стереотипи кои ги гледаат жените како услужливи, помирливи и достапни на повик да понудат помош во секој момент.
Емпириските истражувања цврсто утврдуваат дека родовото определување на гласовниот асистент има значително влијание врз однесувањето на корисниците во квантификувани услови. Фактот дека машките корисници ги прекинуваат асистентите со женски глас речиси двојно повеќе од асистентите со машки глас е јасен доказ за фактот дека родово определените елементи на дизајнот активно ја продолжуваат штетната родова динамика. Понатаму, програмирањето на гласовните асистенти да останат смирени кога се вознемируваат, всушност ги зајакнува општествените очекувања за женска покорност, имајќи длабок ефект врз она што корисниците го сметаат за прифатливи норми за интеракција.
13
Реакциите низ секторите укажуваат не само на потенцијалот за иновации, туку и на ограничувањата на пазарно базираните пристапи за справување со системските предрасуди. На пример, иако корпорации како Apple ги отстранија стандардните поставки за женски глас, а Google ги прифати категориите на гласови неутрални според пол, ваквите промени честопати одразуваат прилагодувања на површинско ниво, наместо длабоко преиспитување на основните претпоставки.
Развојот на родово неутрални гласови преку реалности како Project Q претставува значајна иновација во технологијата сепак, ограниченото ниво на прифаќање спречува целосна лонгитудинална евалуација на нивната ефикасност. Техничките предизвици што се поставуваат при развивање на вистински родово неутрални гласови ги истакнуваат сложеностите во надминувањето на родовите бинарни парадигми.
Со ширењето на технологијата за гласовни асистенти низ целиот свет и проширувањето на поширок спектар на апликации, нејзиното идно влијание врз општествениот ангажман и културните практики веројатно ќе се засили. Силните индустриски стандарди, регулаторните политики и напорите за едукација на потрошувачите ќе бидат од суштинско значење за да се обезбеди дека технологијата за гласовни асистенти го промовира, а не го спречува напредокот кон родовата еднаквост. Изборите направени во дизајнот на тековните системи за вештачка интелигенција силно ќе влијаат на перцепцијата и интеграцијата на системите за вештачка интелигенција во социјалните средини. Оваа технолошка пресек овозможува можност за предизвикување, а не за зајакнување, на непристојни родови стереотипи и со тоа промовирање на системи за вештачка интелигенција кои моделираат поизбалансирани системи за интеракција. Сепак, искористувањето на овој потенцијал бара постојана посветеност од страна на технолошките компании, истражувачите, креаторите на политики и корисниците за давање приоритет на социјалната еднаквост покрај технолошкиот напредок и комерцијалниот успех.
14
12. Референци
– Hwang, A. H.-C., et al. (2024). Female AI voices empower women in teams. Cornell University Research.
– Lee, E.-J., Nass, C., & Brave, S. (2005). Can computer-generated speech have gender? Proceedings of the SIGCHI Conference on Human Factors in Computing Systems, 1-3.
– Mahmood, A., & Huang, C.-M. (2025). Alexa, should voice assistants have a gender? Johns Hopkins University Hub.
– Nass, C., Moon, Y., & Green, N. (2000). Are machines gender-neutral? Journal of Applied Social Psychology, 27(10), 864-876.
– Porcheron, M., et al. (2018). Voice interfaces in everyday life. Proceedings of the ACM CHI Conference on Human Factors in Computing Systems, 1-12.
– Schwind, V., Habler, F., & Henze, N. (2019). Effects of smart virtual assistants’ gender and language. Proceedings of Mensch und Computer, 1-6.
– UNESCO. (2019). I’d blush if I could: Closing gender divides in digital skills through education. https://unesdoc.unesco.org/ark:/48223/pf0000367416
– Virtue & Copenhagen Pride. (2019). Q: The world’s first gender-neutral voice. Dezeen. https://www.dezeen.com/2019/03/22/q-gender-neutral-voice-technology-virtue
– West, M., Kraut, R., & Chew, H. E. (2019). Gender stereotypes in AI voice assistants. Brookings Institution.
– Assink, L. (2021). Exploring gender bias in AI voice assistants [Master’s thesis]. University of Twente.
15