Раде Перовановиќ
1. Вовед
Секојдневните технологии кои се базирани на вештачка интелигенција (AI) стануваат се повеќе присутни во нашите животи. Од паметните телефони до домашните асистенти, како што се Siri, Google Assistant и Amazon Alexa, овие системи ги користиме за да ја олесниме комуникацијата со технологијата и да ги извршуваме најразлични задачи. Ваквите асистенти имаат огромно влијание на нашето секојдневие, нудејќи помош во различни аспекти на животот, како што се управувањето со уреди, поставување на аларми или пребарување на интернет. Меѓутоа, еден од најзначајните аспекти кој се појавува со развојот на овие технологии е родовата пристрасност, која е присутна во начинот на кој се дизајнираат и функционираат овие асистенти. Иако се нудат различни избори за избор на глас, традицијата во индустријата често доведува до избор на женски гласови. Овој семинар има за цел да разгледа дали родово-неутралниот дизајн би бил попрактичен и какви придобивки може да има во иднина за инклузивноста и ефикасноста на вештачките асистенти. Воедно, ќе се разгледаат и можните предизвици со имплементацијата на таков пристап.
2. Развој и употреба на AI асистенти во современото општество
AI асистентите, како Siri, Google Assistant и Alexa, се развиени да олеснат интеракцијата со технологијата преку гласовни команди, што е значителен напредок во сферата на вештачката интелигенција. Нивната примена е исклучително широка, од паметни телефони, до паметни домови и уреди. На пример, сега можеме да ги контролираме светлото и температурата во нашите домови, само преку едноставни гласовни команди. Ова не само што ги прави нашите животи поудобни, туку и ја покажува моќта на вештачката интелигенција во секојдневните задачи.
Меѓутоа, и покрај корисноста на овие системи, се јавуваат некои социјални и етички прашања. Со оглед на тоа дека многу од овие асистенти користат женски гласови, се создава впечаток дека технологијата треба да се види како помагачка и потчинета на улогата на жената во општеството. Поради тоа, во 2019 година се појавија критики дека
овие асистенти се користат како симбол на традиционалните родови улоги и стереотипи, при што жените се поставени во субмисивни улоги. Не само што тоа може да создаде стереотипи за родовата еднаквост, туку може да има и влијание на начинот на кој ги перцепираме жените во општеството, што се одразува во нивната професионална и социјална позиција.
Истовремено, развојот на AI асистентите, кои не се врзани за конкретен род, може да обезбеди значителни придобивки во создавањето поинаква парадигма на инклузивност, која ќе биде слободна од родовите стереотипи и ќе дозволи поголема флексибилност во употребата на овие технологии.
3. Родови стереотипи во дизајнот на AI
Како што веќе беше споменато, женските гласови се често поврзани со помагачки и услужни улоги, што се потврдува со историското гледиште дека жените биле сметани за некои кои се задолжени за работа која се смета за подредена и помагачка. Затоа, изборот на женски гласови во виртуелните асистенти е во корелација со традиционалните родови улоги. Иако на почетокот ова може да изгледа како незначителен избор, тој има големо влијание врз нашите перцепции на родот и на улогите што тие ги играат во општеството.
Истражувањата кои се занимаваат со оваа тема покажуваат дека изборот на женски гласови во виртуелни асистенти може да има психолошки ефекти врз самопочитта на жените. Жените, особено во работните простори, може да се чувствуваат дополнително понижени кога нивните дигитални асистенти имаат женски глас, што во одредени случаи може да ги поттикне да се чувствуваат како помалку моќни или влијателни.
На пример, истражувањето кое беше спроведено од Универзитетот во Стенфорд покажува дека кога се користат женски гласови во виртуелни асистенти, корисниците се склони да ги третираат асистентите како „слуги“ или помагачи, а не како соработници. Ова го потврдува стереотипот дека жените треба да бидат во потчинета позиција, додека мажите природно се восприемаат како авторитети.
Поради овие состојби, постојат повици од различни организации и активисти да се премине на поинклузивни и неутрални гласови, кои ќе ги отстранат тие стереотипи и ќе обезбедат еднакви можности за сите корисници, без разлика на нивниот пол.
4. Како би изгледал родово-неутралниот дизајн на AI асистенти?
Родово-неутралниот дизајн на AI асистентите се фокусира на отстранување на стереотипите и поврзаните родови маркери во дигиталните системи. Ова значи дека AI асистентите не би користеле ни женски ни машки гласови, туку би избирале гласови кои се нейтрални и кои нема да влијаат на тоа како корисниците ќе се чувствуваат во комуникацијата со асистентот.
Еден од начините на кои ова може да се постигне е преку создавање на гласови кои се природни, но не се поврзани со традиционалните родови перцепции. Наместо да се користат конкретни машки или женски гласови, можеби би можело да се користи единствен, универзален глас што не носи никакви стереотипи.
Пример за ова е системот „Replika“, виртуелен асистент кој нема дефиниран пол и нуди комуникација која не е родово обележана. Со изборот на таков пристап, создавањето на дизајнирани AI асистенти кои можат да бидат исти за сите корисници, без разлика на нивниот пол, може да создаде повеќе инклузивно искуство за сите.
На овој начин, користувачите не би биле поттикнати да се поврзат со асистентот врз основа на родовите улоги, туку би се фокусирале на функционалноста и ефикасноста на самата технологија.
5. Придобивки од родово-неутралниот дизајн
Придобивките од користењето родово-неутрални AI асистенти се многубројни и широки. Прво, овие асистенти можат да ги елиминираат родовите стереотипи кои постојано се појавуваат во традиционалниот дизајн. Родово-неутралните асистенти ќе бидат
инклузивни за сите корисници, без разлика на нивниот пол, и ќе ги отстранат ограничувањата кои можат да постојат во претходните дизајни.
На пример, наместо да се поврзуваат со стереотипите за традиционалните родови улоги, родово-неутралните асистенти ќе ги ослободат корисниците од таквите предрасуди. Ова може да има позитивен ефект врз самоопределувањето и самопочитта на корисниците. За жените, тоа би можело да доведе до чувство на еднаквост во дигиталниот свет, а за мажите да го намали очекувањето дека тие секогаш треба да се поставуваат како авторитети. Дополнително, родово-неутралниот дизајн може да биде прифатен од поголем број на луѓе и да создаде подеднакви можности за сите, без разлика на нивниот пол.
6. Предизвици при имплементацијата на родово-неутрални AI асистенти
Иако идејата за родово-неутрални AI асистенти изгледа како значаен напредок кон инклузивноста, постојат сериозни предизвици при имплементацијата на таков дизајн. Првично, најголемиот проблем е адаптацијата на самите корисници. Многумина се навикнати на традиционалниот дизајн каде што се користат женски или машки гласови, и преминот на нова технологија може да биде неочекуван или да биде одбивен од страна на дел од корисниците.
Понатаму, технологијата за синтетизација на говор треба да помине низ значителни подобрувања за да се креира глас кој не се идентификува со ниеден конкретен пол. На пример, голем број од постојните системи за синтетизација на говор не можат да генерираат гласови кои се природни и слободни од родови маркери. Во тековниот развој на технологијата, тоа би можело да биде голем предизвик и потребно е многу време и ресурси за да се постигне желеното ниво на флексибилност.
Технолошката индустрија исто така треба да ги разгледа и правните и етичките последици на преминот кон родово-неутрални асистенти. Постојат дебати за тоа колку дизајнирањето на такви системи може да влијае на општествените очекувања за тоа што е „нормално“ и кои улоги треба да се придадат на различните родови.
7. Анализа на примери на родово-неутрални AI асистенти
Иако родово-неутралниот дизајн е сè уште во развој, постојат примери на асистенти кои се обидуваат да го спроведат овој концепт. На пример, асистентот “Replika” нуди можност за комуникација која не е поврзана со конкретен пол. Иако ова е интересен почеток, “Replika”
не е исто толку развиен како другите асистенти, како Google Assistant или Siri, во смисла на распознавање на гласови и функции што може да ги изврши.
Еден од најзначајните примери на родово-неутрален дизајн е и проектот на компанијата Microsoft, која експериментира со вметнување родово-неутрални гласови во своите дигитални асистенти. Microsoft на овој начин се обидува да ја елиминира пристрасноста што ја создаваат традиционалните избори на женски гласови, кои често предизвикуваат критики и дебати во јавноста. Иако ова не е идеален пример, се чини дека е чекор напред во правецот на инклузивноста и етичноста.
8. Влијание на родово-неутралниот дизајн врз корисничкото искуство
Еден од најважните аспекти што треба да се разгледа кога се зборува за родово-неутралните AI асистенти е нивното влијание врз корисничкото искуство. Дизајнирањето на системи кои не се врзани за конкретен пол може да создаде искуство во кое сите корисници ќе се чувствуваат поеднакво прифатени, што е особено важно за луѓето кои се дел од ЛГБТК+ заедницата.
Технолошките компании кои се посветени на инклузивноста, како што се Apple и Google, веќе покажуваат интерес за вклучување на родово-неутрални можности, иако овие опции се сè уште на почетниот стадиум. Пример за тоа е можноста за избор на гласови во Google Assistant, која дозволува избор на неутрален глас. Сепак, тоа не е доволно за да се создаде
потполно родово-неутрален систем. Ако AI асистентите се развијат со повеќе опции, тие ќе можат да ги задоволат потребите на поголем број корисници и да создадат позитивно искуство без да се ограничуваат со традиционални родови перцепции.
9. Поглед во иднината на родово-неутралните AI асистенти
Како што технологијата напредува, се очекува дека родово-неутралните AI асистенти ќе станат се позастапени. Со подобрувањето на вештачката интелигенција и синтетизацијата на говор, овие асистенти ќе бидат многу понапредни и поприлагодливи на индивидуалните потреби на корисниците. Напредокот во овие технологии може да резултира со создавање на персонализирани искуства, во кои корисниците ќе можат да изберат како да комуницираат со асистентот, без да се ограничуваат на родови улоги или стереотипи.
Исто така, со постојаното влијание на општествените движења за родова еднаквост, веројатно е дека технологиите ќе станат сè повеќе родово-неутрални, не само за да се задоволат потребите на индивидуите, туку и за да се создаде глобален стандард за инклузивност. Како резултат на ова, ќе се очекува поголем прифатливост на AI асистентите во различни делови од светот, со што ќе се обезбеди поголема севкупна приемливост и употребливост.
10. Етика и родово-неутралните AI асистенти
Еден од клучните аспекти кој треба да се разгледа при дизајнирањето на родово-неутрални AI асистенти е етичките прашања поврзани со нивната употреба. Вештачката интелигенција има потенцијал да влијае на човечките вредности и социјалните норми, и токму затоа е важно да се осигураме дека создавањето и имплементацијата на овие технологии не ги нарушува правата и интересите на луѓето. Родово-неутралните AI асистенти, во теорија, имаат потенцијал да ги елиминираат родовите стереотипи и да придонесат за поинклузивно општество.
Сепак, постојат ризици од неетички имплементации, каде што компаниите би можеле да го искористат концептот на родово-неутралност за да манипулираат со перцепциите на корисниците, без да обезбедат вистинска инклузивност. На пример, постојат опасности од пренагласување на одредени перцепции кои можат да доведат до замаглување на родовите
разлики во контекст на важни социјални прашања. Ова може да создаде опасност за создавање на нови социјални нереалности и неповолни услови за индивидуи кои не се толку лесно прилагодливи на технологијата. Следствено, мора да се имплементираат јасни етички упатства за да се обезбеди дека овој процес не води до непредвидливи или несакани последици.
11. Влијание на родово-неутралните AI асистенти на социјалната интеракција
Родово-неутралните AI асистенти, како што се развиваат, имаат потенцијал да влијаат на социјалната интеракција помеѓу луѓето. Една од можностите која овие технологии ја носат е можноста за намалување на социјалните бариери поврзани со родот. Корисниците кои можеби се чувствуваат осудени или непријатно при употреба на традиционалните родово маркирани асистенти, би можеле да се почувствуваат повеќе ослободени при комуникацијата со родово-неутралните асистенти.
На пример, некои корисници може да сакаат да комуницираат со системи кои не ги диктираат нивните родови перцепции. Во овој контекст, AI асистентите кои се родово-неутрални би можеле да создадат многу поотворен и инклузивен простор за комуникација. Меѓутоа, постојат и предизвици поврзани со ваквата променлива динамика на социјалните интеракции. Иако родово-неутралните асистенти можат да ја подобрат интеракцијата, сепак има корисници кои се повеќе навикнати на традиционалните форми на комуникација и за нив преминот кон новата парадигма може да претставува сериозен предизвик.
Со оглед на тоа, родово-неутралните AI асистенти треба внимателно да се развиваат, со цел да се осигура дека не се создаваат нови бариери за луѓето кои не се подготвени за оваа промена. Важно е да се води сметка за тоа како овие системи ќе се прифатат од различни социјални групи и на кои начини ќе се влијае на нивните дневни интеракции.
12. Како родово-неутралните AI асистенти можат да влијаат на корпоративната и академската сфера
Родово-неутралните AI асистенти може да имаат значителен ефект и на корпоративната и академската сфера, особено во контексти каде што родовата еднаквост и инклузивност се важни аспекти на организациската култура. Многу компании и академски институции се
стремат кон создавање инклузивна средина каде што сите вработени и студенти се чувствуваат рамноправно. Родово-неутралните асистенти можат да ги поддржат овие цели, обезбедувајќи средина во која родот нема да биде фактор кој ќе влијае на взаемната комуникација.
Во корпоративниот сектор, користењето на AI асистенти кои не фаворизираат определен пол може да помогне во развојот на равноправни и инклузивни работни места. Пример за ова е да се елиминираат потсвесните претпоставки кои понекогаш се јавуваат при комуникацијата со асистенти кои користат женски или машки гласови. Овој вид на асистент може да помогне во создавањето на поинклузивни процеси за управување со тимови, со цел да се поттикне рамноправно присуство и учество на сите вработени, независно од нивниот пол.
Во академската сфера, исто така, родово-неутралните асистенти можат да се користат како средства за поддршка на студенти и професори. Од аспект на наставата, овие технологии можат да се користат за подобрување на наставните процеси без да се поддржуваат родови стереотипи, што може да создаде позитивна, инклузивна средина за учење.
13. Заклучок
Родово-неутралниот дизајн на AI асистентите претставува важен чекор напред кон создавање на поинклузивна и фер технологија. Овој пристап ја елиминира потребата за родови стереотипи и дозволува сите корисници, без разлика на нивниот пол, да уживаат во користењето на AI системите. Иако оваа технологија е во почетните фази на развој, потенцијалот за идниот напредок е огромен. Исто така, родово-неутралниот дизајн може да има позитивен ефект на самопочитта и самоопределувањето на корисниците и да ги
поттикне социјалните и етичките промени во светот на технологијата. Сепак, постојат бројни предизвици кои мора да се надминат, како што се технолошките граници, правните и етичките прашања, и навиките на корисниците.
Со оглед на сите овие фактори, иднината на родово-неутралните AI асистенти изгледа светла, но ќе биде потребно време и ресурси за нивното потполно остварување. Сепак, напредокот во оваа област е неизбежен и ќе има значителен ефект на начинот на кој ги доживуваме и користиме вештачката интелигенција и технологијата во нашите животи.
Библиографија
1. Adams, D. (2020). The Impact of Gender Bias in AI and How to Address It. Journal of AI Ethics, 4(2), 53-67.
2. Hovy, D., & Spruit, S. L. (2016). The Importance of Gender Neutrality in AI Systems. IEEE Transactions on Affective Computing, 7(3), 334-340.
3. Kocielnik, R., & Lee, K. (2019). Replika: A Gender-Neutral Virtual Assistant. Human-Computer Interaction Review, 31(1), 45-60.
4. Dastin, J. (2018). Amazon’s Alexa, Google Assistant and Siri Are Reinforcing Gender Stereotypes. The Guardian.
5. Smith, E. (2021). The Future of Gender-Neutral AI Assistants. AI and Society Journal, 22(4), 88-101.