Авторка Емили Димитриевска
Вовед
Во последната деценија, вештачката интелигенција (AI) станува сè поголем дел од секојдневниот живот на децата. Преку дигитални асистенти, едукативни апликации, видео игри и паметни играчки, AI веќе не е само алатка во рацете на возрасните – таа станува активен учесник во воспитувањето, образованието и социјализацијата на младите генерации. Овој тренд, иако технолошки напреден, отвора сериозни прашања во однос на содржините, вредностите и скриените пораки што AI им ги пренесува на децата, особено во контекст на родовата еднаквост и стереотипите.
Традиционално, родовите норми и улоги се пренесувале преку семејството, училиштето и медиумите, но денес нова генерација расте во опкружување каде што машините – често со женски гласови и „подредени“ карактеристики – ги обликуваат нивните перцепции за тоа што значи да се биде машко или женско. Гласовните асистенти како Alexa или Siri, играчки кои комуницираат со децата, па дури и едукативните платформи, често несвесно репродуцираат или дури и засилуваат родови стереотипи. Овие пораки, иако понекогаш суптилни, имаат потенцијал да влијаат на формирањето на идентитетот, вредносниот систем и амбициите на детето уште во најраните години од животот.
Ваквата ситуација ја отвора потребата за критичко преиспитување на улогата на AI како „дигитален воспитувач“. Кои родови пораки ги пренесува технологијата? Дали тие придонесуваат кон еднаквост и инклузија, или пак го одржуваат статус квото на традиционалните стереотипи? Каква одговорност имаат развивачите, родителите, образовните институции и општеството во целина во насока на создавање на родово чувствителни дигитални алатки?
2
AI и децата – нови дигитални воспитувачи
Со појавата на гласовни асистенти како Alexa, Siri и Google Assistant, како и со образовните апликации и видео-платформи, децата често комуницираат со технологии уште пред да научат да читаат. Во таа комуникација, тие не само што учат информации, туку и моделираат однесување – како да прашаат, како да бараат нешто, па дури и како да се однесуваат.
Во многу случаи, овие технологии користат женски гласови, што го зацврстува традиционалниот став дека „асистенцијата“ и „услужноста“ се женски карактеристики. Дополнително, интеракцијата со овие уреди често е еднострана – корисникот командува, а асистентот извршува, што креира перцепција на подреденост.
Родови стереотипи во дигитални содржини
Денес, децата сѐ почесто учат и се забавуваат преку екрани – гледајќи видеа на YouTube, цртани на Netflix, користејќи образовни и забавни апликации и играјќи интерактивни видеоигри. Иако овие содржини изгледаат забавни, под површината често се кријат пораки кои пренесуваат традиционални и ограничувачки родови норми.
Истражувањата покажуваат дека машките ликови во дигиталните медиуми најчесто се прикажани како храбри, активни, интелигентни и снаодливи. Тие се хероите кои решаваат проблеми, спасуваат ситуации и водат авантури. Наспроти нив, женските ликови обично се прикажани како чувствителни, емотивни, грижливи или преокупирани со својот изглед. Нивната улога често е пасивна, поддржувачка или романтична.
Овие шаблони се особено забележливи во дигиталните игри и мобилни апликации за деца. Девојчињата често се „таргетирани“ со игри во кои се уредуваат виртуелни модни комбинации, шминкаат ликови, готват или дизајнираат
3
ентериери. Момчињата, пак, добиваат содржини со логички предизвици, акција, стратегии и технички мисии. Така уште од најрана возраст се формира поделба на „женски“ и „машки“ интереси – што директно влијае врз градењето на идентитетот и интересите на децата.
Овој тренд може да има сериозни долгорочни последици врз самодовербата и амбициите на децата, особено кај девојчињата. Со повторувано изложување на вакви стереотипни претстави, децата почнуваат да веруваат дека постојат „професии за девојчиња“ и „професии за момчиња“, и дека одредени вештини или способности не се соодветни за нивниот пол. Ова најмногу се одразува во СТЕМ подрачјата (наука, технологија, инженерство и математика), каде сѐ уште постои значителен родов дисбаланс. Девојчињата кои растат со уверување дека се „повеќе за уметност и емоции“ отколку за „логика и технологии“ може да избегнуваат такви образовни насоки, и покрај потенцијалот и интересот што го имаат.
Покрај тоа, децата учат преку набљудување и идентификација со ликовите што ги следат. Кога нема доволно силни, компетентни и разновидни женски ликови во содржините, девојчињата немаат модели со кои можат да се идентификуваат. Истото важи и за момчињата – тие ретко гледаат ликови кои покажуваат емоции, грижа или се занимаваат со нешта што се надвор од традиционалните машки улоги, што може да ја ограничи нивната емпатичност и отвореност.
За да се надмине овој проблем, потребно е критичко размислување при изборот на дигитални содржини, како и свесна намера кај родителите, наставниците и креаторите на медиумски содржини да промовираат родова еднаквост. Вклучувањето на разновидни ликови, слични можности за сите деца и избегнување на родови клишеа е клучно за создавање медиумска култура која ќе ги охрабри децата да бидат она што сакаат – без ограничувања наметнати од стереотипи.
4
Несвесна пристрасност во алгоритмите и родовата нееднаквост
Според една студија на Berkeley Haas Center for Equity, Gender and Leadership, која анализирала 133 системи базирани на вештачка интелигенција во различни индустрии, 44% од нив покажале родова пристрасност, а 25% имале и родова и расна пристрасност. Оваа статистика укажува на длабоко вгнездени системски проблеми во дизајнот и обуката на алгоритмите [1].
Beyza Doğuç, уметница од Анкара, Турција, наидува на родова пристрасност додека истражува за свој роман користејќи генеративна AI. Кога побарала од AI да напише приказна за доктор и медицинска сестра, AI автоматски го направила докторот машко, а медицинската сестра женско. Понатамошни обиди со различни инструкции повторно резултирале со родово стереотипизирани улоги, каде што одредени карактеристики и вештини биле поврзани исклучиво со машки или женски ликови [1].
Кога го прашала системот зошто прави такви асоцијации, AI одговорила дека тоа се должи на податоците со кои била тренирана, и особено на “word embeddings” – начин на кој машините ги поврзуваат зборовите со значења врз основа на контекстот. Ако AI се тренира на податоци што ги поврзуваат мажите со „лидерство“ и жените со „грижа“, таа ќе продолжи да создава содржини кои го одразуваат тој пристрасен наратив [1].
Како што вели Doğuç во интервју за UN Women:
„Вештачката интелигенција ги огледува пристрасностите кои се присутни во нашето општество и кои се манифестираат во податоците за тренирање.“
„Дали AI е навистина правична? Колку таа ги огледува патријархалните структури на нашето општество и пристрасностите од нејзините претежно машки креатори?“
Искуството на Natacha Sangwa, студентка од Руанда која учествувала во иницијативата African Girls Can Code, дополнително го потврдува ова. Таа
5
забележала дека AI системите често се развиваат од мажи и тренирани на податоци кои првенствено ги претставуваат мажите. Во реални услови, ова резултира со неквалитетни и неточни дијагнози за жените, бидејќи AI не препознава симптоми што се разликуваат кај женската популација [1].
Ако овие трендови продолжат, AI технологијата ќе продолжи да продуцира резултати без родова и расна разновидност, што може да доведе до:
∙ пристрастни одлуки за вработување, здравствена грижа и друго, ∙ понизок квалитет на услуги за жени и малцинства,
∙ и понатамошно репродуцирање на општествените нееднаквости.
AI системите учат од податоците кои им се достапни. Ако тие податоци ја рефлектираат родово нееднакво општество, и самата AI ќе ја репродуцира таа пристрасност. На пример:
∙ Препораките на YouTube за деца може да ги водат девојчињата кон канали за козметика и принцези, а момчињата кон спорт или наука.
∙ Chatbot-ови кои се користат во образовни апликации може да имаат вградено одредени очекувања за тоа „кој треба што да знае“.
∙ Гласовните асистенти ретко препознаваат транс или небинарен идентитет.
Последици од ран родов моделинг
Родовото обликување започнува многу порано отколку што обично се мисли – често уште пред детето да направи свои први чекори. Преку играчки, боите на облеката, изборот на активности и општествените пораки кои ги пренесуваат возрасните, децата почнуваат да формираат претстава за тоа што се смета за „машко“ или „женско“. На прв поглед, изјави како „девојчињата не сакаат црна боја“ или „момчињата не свират флејта“ можат да изгледаат безопасно, но во реалноста тие го поставуваат темелот на ограничувачки норми кои влијаат врз детскиот развој и идентитет.
6
Истражувањата укажуваат дека родовите стереотипи значајно влијаат на животните избори на поединците. Дури половина од испитаниците сметаат дека изборот на професија бил под влијание на родовите очекувања, а четири од десет лица признаваат дека стереотипите играле улога и во нивните лични односи. Овие влијанија започнуваат уште во најраната возраст – некои студии покажуваат дека родителите веќе во првата година од животот на детето развиваат одредени очекувања во однос на идната професија, врз основа на полот [2].
Кај момчињата, социјалниот притисок да бидат силни, „машки“ и емоционално воздржани има долгорочни последици. Децата кои се воспитуваат со овие вредности подоцна покажуваат повисоко ниво на агресија, намалена емоционална интелигенција и зголемен ризик од ментални нарушувања. Дополнително, машките адолесценти почесто одбегнуваат да побараат психолошка поддршка, а стапките на самоубиства кај мажите во зрелата возраст се значително повисоки од тие кај жените. Сето ова се должи на длабоко вкоренетата перцепција дека мажите мора секогаш да бидат силни, независни и емоционално недостапни.
Од друга страна, девојчињата се соочуваат со поинаков, но исто толку штетен притисок – да бидат совршени, привлечни, и секогаш прилагодени на очекувањата на околината. Последните извештаи покажуваат драматичен пад во психичкото здравје на девојчињата. Сѐ повеќе тинејџерки изразуваат чувства на тага, безвредност и несигурност, што е придружено со зголемена изложеност на сексуално вознемирување и негативни коментари поврзани со нивниот изглед. Општеството, преку медиумите и образованието, често ги учи девојчињата да ја градат својата вредност врз основа на надворешниот изглед, а не на способностите или карактерот [2].
Посебно ранлива група се ЛГБТК+ младите, кои често не се вклопуваат во традиционалните рамки на родовиот идентитет. Овие млади лица се изложени на одбивање, булинг, психичко и физичко насилство, особено кога нивното однесување или изглед отстапува од она што се смета за „нормално“ за машко или женско дете [2]. Неприфаќањето и дискриминацијата значително го
7
зголемуваат ризикот од анксиозност, депресија и самоубиствени мисли кај оваа популација.
Севкупно, последиците од раниот родов моделинг се длабоки и се одразуваат на сите аспекти од развојот на децата – од избор на хоби и професија, до изградба на личноста, менталното здравје и односите со другите. Иако честопати се смета дека е во прашање „само играчка“ или „само боја на облека“, овие симболи пренесуваат пораки кои се всадуваат длабоко во психата на детето и го обликуваат неговиот идентитет. Време е како општество да ги преиспитаме тие пораки и да понудиме поголема слобода за изразување, еднакви можности и емпатичен пристап во воспитувањето – без ограничувања базирани на родови стереотипи [2].
Раното изложување на стереотипни родови пораки може да има трајни ефекти врз децата. Истражувања покажуваат дека:
∙ Девојчињата на возраст од 6 години веќе почнуваат да се сомневаат дека се „помалку паметни“ од момчињата.
∙ Момчињата почнуваат да избегнуваат активности кои се перципираат како „женски“, дури и ако ги интересираат.
∙ Децата ги интернализираат улогите кои ги гледаат онлајн и ги применуваат во секојдневниот живот.
Насоки за надминување на родовиот јаз
Намалувањето на родовата пристрасност во вештачката интелигенција бара сеопфатен пристап кој ги опфаќа технолошките, општествените и регулаторните аспекти. Еден од клучните чекори е зголемување на разновидноста и застапеноста во податоците за обука. Кога во датасетите постои рамноправна застапеност на половите, се намалува ризикот од создавање пристрасни
8
резултати. Исто така, користењето на пристапи како машинско учење чувствително на правичност овозможува полесно откривање и намалување на пристрасностите уште во фазата на развој на системот. Овие технички решенија дополнително се засилуваат со иницијативи што ја промовираат разновидноста во развојните тимови. Вклучувањето на различни гледишта преку создавање инклузивна работна средина им овозможува на компаниите подобро да ги препознаат и адресираат потенцијалните пристрасности.
Покрај тоа, развивањето на регулаторни политики и индустриски стандарди е од суштинско значење за етички развој на AI. Потребно е креаторите на политики да постават јасни насоки кои ќе ја осигураат транспарентноста, одговорноста и правичноста во овие системи. Таквите стандарди може да ги охрабрат компаниите да обрнат поголемо внимание на етичките аспекти и да создадат основа за евалуација на нивните AI решенија. Клучна е соработката помеѓу различни засегнати страни – развивачи, истражувачи и организации за застапување – со цел успешно спроведување на овие промени. Како што истакнува етичарката за AI, Џој Буоламвини: „Мораме да создадеме култура на одговорност, во која креаторите на AI се свесни за влијанието што нивната технологија го има врз општеството.“ Преку ваков пристап, можеме да се стремиме кон AI системи кои се поправедни и поинклузивни [3] .
За да се намали влијанието на родовата пристрасност во технологиите базирани на вештачка интелигенција, неопходно е да се преземат конкретни и долгорочни мерки. Постојат неколку приоритетни области на делување кои можат да придонесат кон поголема родова еднаквост:
1. Подобрување на квалитетот на податоците што се користат за тренирање на алгоритмите
AI системите учат од податоците со кои се „хранат“. Ако тие податоци се засновани на историски обрасци во кои доминирале родови стереотипи или дискриминација, тогаш и резултатите од алгоритмите ќе ја репродуцираат
9
таа пристрасност. Затоа е важно базите на податоци што се користат при развојот на AI да бидат внимателно проверени и прилагодени за да ја одразуваат реалната разновидност на луѓето и нивните искуства. Наместо слепо следење на историјата, потребно е критички да се анализира кои аспекти треба да се задржат, а кои да се надминат [4].
2. Поголема застапеност на жени во AI индустријата
Жените мора да имаат можност да учествуваат во сите фази на развој на технологијата – од идеја, преку дизајн и развој, до примена и регулирање. Поголемото присуство на жени во технолошките компании значи и поголеми шанси за препознавање на потенцијални пристрасности и креирање посоцијално одговорни решенија. Разновидни тимови – во кои се вклучени и жени и мажи, но и лица од различни социјални и културни позадини – имаат поголем капацитет да создаваат инклузивни технологии[4].
3. Образование и инспирација за идните генерации
За да се промени состојбата на долг рок, неопходно е девојчињата уште од млади да добијат пристап до знаење и можности во областа на науката, технологијата, инженерството и математиката (STEM). Ова значи креирање програми за едукација, стипендии, клубови за технологија и активности што ќе го разбудат нивниот интерес за технологија и AI. Исто така, жените кои сакаат да направат промена во кариерата треба да имаат поддршка и пристап до обуки за полесна транзиција во технолошките професии [4]. 4. Развој на етички стандарди со вклучен родов аспект
Индустријата мора да работи заедно со институциите, истражувачите и граѓанскиот сектор за да создаде правила и етички принципи што ќе гарантираат дека развојот на AI е безбеден, транспарентен и правичен. Овие насоки мора да вклучуваат јасни механизми за идентификација и спречување на родова дискриминација во алгоритмите и да предвидуваат одговорност кај оние што ги развиваат и користат овие технологии[4].
10
Заклучок
Развојот на вештачката интелигенција претставува една од највлијателните технологии на денешницата, со потенцијал да ја трансформира секоја сфера од општествениот живот – од образованието, здравството и економијата, до начинот на кој децата учат и го разбираат светот. Но, токму во тој потенцијал се крие и ризик: ако не се води сметка за родовите аспекти, AI може несвесно да ги пренесе или дури да ги засили постојните родови стереотипи. Ова е особено критично кога AI се користи во содржини наменети за деца, бидејќи тие се во процес на формирање на вредности, идентитет и самодоверба.
Затоа, неопходно е развојот и примената на AI да бидат придружени со силна свест за родова еднаквост, етички стандарди и инклузивност. Вклучувањето на жени во технолошкиот сектор, обезбедувањето родово неутрални податоци, едукацијата на младите за критичко користење на технологијата и развој на политики што го штитат дигиталното достоинство се клучни чекори за создавање поправеден дигитален свет.
AI не смее да биде само технолошки напредна, туку и општествено одговорна. Само така ќе можеме да создадеме иднина во која децата растат со пораки што ги охрабруваат, наместо да ги ограничуваат – независно од нивниот пол.
11
Референци
1. https://www.unwomen.org/en/articles/explainer/artificial-intelligence-and-gender equality
2. https://thinkorblue.com/the-impact-of-gender-stereotypes-on-children/ 3. https://hub.edubirdie.com/examples/gender-bias-and-artificial-intelligence/ 4. https://southernvoice.org/artificial-intelligence-ai-gender-bridging-the-gap/
12