Користење на вештачката интелигенција (AI) за унапредување на родовата еднаквост во академските истражувања

Родовиот дизајн на виртуелните асистенти

Published by

Институт за родови студии

on

Марио Ѓоровски

ВОВЕД

Виртуелните асистенти денеска се сè поприсутни. Тие им овозможуваат на корисниците  во ова дигитално општество олеснета интеракција со технологијата. Сепак, нивниот дизајн често вклучува родови аспекти и доведува до репродукција на традиционалните родови стереотипи, како и предрасуди. 

Зголемената употреба на женски гласови и женски личности на полето на вештачката интелигенција само ги отсликува општествените предрасуди и го отвара прашањето за етичките импликации кои ги носи ваквиот пристап. За родовите студии, со самото тоа, има огромно значење бидејќи отсликува пошироки социокултурни динамики и влијае на перцепцијата на родовите улоги.

Целта на овој семинарски труд е да се анализира родовиот дизајн на виртуалните асистенти и влијанието кое произлегува на сметка на истиот. Ќе биде елаборирано како изборот на глас, личност и интерактивен одговор на самите виртуелни асистенти придонесува кон очекувањата кои ги имаат луѓето, а се поврзани со родот. Ќе бидат и анализирани можните алтернативи за намалување на овие пристрасности кои се нудат со цел поинклузивен и неутрален дизајн.

Трудот се состои од три главни дела:

  • првиот дел нуди теоретски осврт за самиот проблем, ги дефинира основните концепти;
  • вториот дел нуди анализа за социјалното и културно влијание на виртуелните асистенти;
  • третиот дел нуди потенцијални решенија и етички размислувања за неутрални дизајни.

Трудот се темели на анализа на релевантна академска литература, студии кои ги за родовите пристрасности во дигиталните технологии, како и извештаи од истражувања на различни релевантни организации. Преку детална анализа истите трудот настојува да даде придонес за подобрување на улогата на родот во дизајнот на виртуелните асистенти.

I ТЕОРЕТСКИ ПРИСТАП КОН ПРОБЛЕМОТ НА ИСТРАЖУВАЊЕ

  1. Виртуелни асистенти

Развојот на виртуелните асистенти моментално е под закрила на напредокот во вештачката интелигенција (AI) и интеракцијата човек-компјутер (HCI). Истите се дизајнирани за да извршуваат едноставни задачи, но со текот на времето еволуираа во софистицирани системи кои извршуваат сложени функции како на пример: контролирање на домашни смарт уреди, персонализирани препораки и сл. Нивниот удел преку смарт телефоните, звучниците, автомобилите, ја отсликува нивната разноврсност и ширење во современото општество.

  1. Родови гласови и личности

Најчесто на виртуелните асистенти имсе доделуваат женски родови гласови и личности.  Истото произлегува од фактот дека корисниците женските гласови ги перцепираат како покорисни и подоверливи. Тоа беше критикуван поради овековечување на традиционалните родови стереотипи. Преку него всушност се зајакнува поврзаноста на жените со улогите на потчинување и поддршка. Пример, истражувањето на Feine et. al (2020) вели дека многу од анализираните 1.375 чет-ботови биле дијазнирани со специфични знаци за полот, женски имиња, аватари и сл.

  1. Стереотипно претставување во дизајнот

Самиот дизајн на виртуалните асистенти може да одрази стереотипи вградени од програмерите(свесно или несвесно). Тука не спаѓа само изборот на женски гласови, туку и личности и сами однесувања, пример: пасивни и приспособливи одговори кои се „усогласуваат“ со традиционалните женски стереотипи. Според Cercas Curry et al. (2020), таквите дизајни може да ги зацврстат стереотипите за подреденоста, а истото тоа е нагласено и од извештајот на УНЕСКО (2019).

  1. Социјално и културно влијание на родовите виртуелни асистенти

Во овој дел ќе се разгледа како родовиот дизајн на виртуелните асистенти може да ги зајакне веќепостоечките родови норми и предрасуди, да влијае на перцепциите и да ги обликува интеракциите.

  1. Зајакнување на родовите норми и предрасуди

Употребата на женски гласови може не само да ги зацрврсти традиционалните родови стереотипи, туку и да ги зајакне општествените очекувања дека жените се посоодветни за помошни задачи, а со ќе се зацврстат и постоечките предрасуди. Самата фенимизација може да го нормализира таквото покорно однесување, а тоа да влијае дополнително на перцепциите на корисниците. (West et al., 2019) Таквото доделување женски личности на виртуелните асистенти без притоа претходно критичко разгледување може ненамерно да ги поддржи родовите предрасуди присутни во општеството. (Prates et al., 2020)

  1. Виртуелните асистенти во дигиталниот труд

Идејата дека таквиот труд е инхерентно женствен се зајакнува со тоа што се доделуваат гласови и личности на виртуелните асистенти кои се женски. (West et al., 2019) Ваквото постапување може да ја потцени комплексноста и важноста на дигиталната работа, а истовремено да ги зацврсти родовите поделби во поглед на работата во технолошкиот сектор. (Prates et al., 2020)

  1. Корисничка перцепција и интеракција 

Врз основа на гласовите на виртуелните асистенти, корисниците може да им доделат и родови особини, што дополнително може да доведе до пристрасни очекувања и интеракции. Пример, низ призмата на традиционални родови предрасуди, асистентите со женски глас често се перципираат како покорисни, но помалку авторитативни. (Prates et al., 2020) Корисниците ќе покажат понапорно или навредливо однесување кон нив, а со тоа ќе ги пресликаат општествените обрасци на непочитување врз основа на пол. (West et al., 2019)

  1. Етички размислувања и идни насоки

Вештачката интелигенција носи напредок, но поставува и етичка загриженост, особено со родовото определување на системите за вештачка интелигенција.

  1. Етички импликации 

Системите за вештачка интелигенција обучени за пристрасни податоци може да ги зацврстат постоечките нееднаквости, а тоа, пак, да доведе до дискриминација. (UNESCO, 2023) Постои недостаток на разновидни тимови за развој на ВИ и поради тоа имаме системи кои не ги претставуваат или не им служат соодветно на сите групи корисници. UN Women (2023)

  1. Родово неутрални или инклузивни дизајни

За порамноправни системи потребно е да се избегне што е можно повеќе засилувањето на стереотипите во самите интеракции, како и родово неутрални имиња. А, вклучување на различни перспективи во процесот на развој може да помогне да се идентификуваат и да се решат потенцијалните предрасуди. (Women in Tech Network, 2023)

  1. Препораки за иднина

За побалансирани системи за вештачката интелигенција и ублажување на постојните нееднаквости, потребно е:

  • зголемување на родова разновидност во тимови задолжени за развој на ви;
  • усвојување на пристап кој што ќе се заснова на човековите права за управување со вештачката интелигенција и нагласување на транспарентноста, отчетноста и човечкото достоинство (IPI, 2023);
  • следење и евалуација на системите за вештачка интелигенција за пристрасност;
  • иницијативи за подигање на јавната свест и образование. 

ЗАКЛУЧОК

Родовите стереотипи кои веќе постојат се рефлектирани и репродуцирани и тоа во голема мера од конструкцијата на виртуелните асистенти и нивниот родов дизајн. Тоа произлегува од самата анализа во овој семинарски труд.

Самото доделување на женски гласови и личности на виртуелните асистенти не ниту во најмала рака случајно, туку е мрачниот резултат на културните и социјалните очекувања кои се провлекуваат низ годините и ги поврзуваат жените со улоги на поддршка и потчинетот. Можеби е ненамерна оваа појава од страна на тимовите за развој на ВИ, но, за жал, има реални последици во полето на перцепцијата на родовите улоги во општеството.

Имено, истражувањето покажа дека:

  • ваквите пристапи во дизајнот на виртуелните асистенти можат да доведат до засилување на постоечките родови предрасуди и обликување на интеракциите на корисниците во традиционалниот патријархален модел. 
  • женските виртуелни асистенти често се перципирани како попријателски и послушни, додека машките гласови се поврзувани со авторитет и експертиза. 
  • неопходни се поинклузивни и родово неутрални дизајни, како и воведување на различни родови опции или избор на неутрален глас. 
  • неопходно е да се зголеми свеста кај тимовите за развој.
  • неопходно е донесување регулативи и стандарди за технолошките компании за развој на дигитални асистенти за еднаквост, а не родова пристрасност.

Како што вели познатата мисла на Симон де Бовоар „Не се раѓаме како жени, туку стануваме жени.“ Истото може го поврземе и со  технологијата – не е вродено пристрасна, туку ја обликуваме според општествените норми. 

КОРИСТЕНА ЛИТЕРАТУРА

  1. Curry, A. C., Robertson, J., & Rieser, V. (2020, December). Conversational assistants and gender stereotypes: Public perceptions and desiderata for voice personas. In Proceedings of the second workshop on gender bias in natural language processing (pp. 72-78).
  2. Feine, J., Gnewuch, U., Morana, S., & Maedche, A. (2020). Gender bias in chatbot design. In Chatbot Research and Design: Third International Workshop, CONVERSATIONS 2019, Amsterdam, The Netherlands, November 19–20, 2019, Revised Selected Papers 3 (pp. 79-93). Springer International Publishing.
  3. IPI Global Observatory. (2023). Addressing Gender Bias to Achieve Ethical AI. Достапно на: https://theglobalobservatory.org/2023/03/gender-bias-ethical-artificial-intelligence/
  4. Prates, M. O., Avelar, P. H., & Lamb, L. C. (2020). Assessing gender bias in machine translation: a case study with google translate. Neural Computing and Applications, 32, 6363-6381.
  5. UN Women. (2023). Artificial Intelligence and gender equality. Достапно на: https://www.unwomen.org/en/articles/explainer/artificial-intelligence-and-gender-equality
  6. UNESCO. (2019). I’d Blush If I Could: Closing Gender Divides in Digital Skills Through Education.
  7. UNESCO. (2023). Artificial Intelligence: examples of ethical dilemmas. Достапно на: https://www.unesco.org/en/artificial-intelligence/recommendation-ethics/cases
  8. West, M., Kraut, R., & Ei Chew, H. (2019). I’d blush if I could: closing gender divides in digital skills through education.
  9. Women in Tech Network. (2023). Neutralizing Gender in AI Design. Достапно на: https://www.womentech.net/how-to/neutralizing-gender-in-ai-design
Previous Post
Next Post