Ирена Стевковска
Вовед
Вештачката интелегенција игра сè позначајна улога во образованието. Таа се користи за различни цели, вклучително и предвидување на однесувањето на учениците, нивните споделување на вредностите и автоматизирани системи за оценување, се до избор на наставни содржини. Ваквите предности се многу важни за унапредување на наставата, но истовремено постојат соодветни ризици поврзани кои се поврзани со многу бројни општествени недостацо како што се на пример родовите предрасуди. Затоа е многу важно да се прецизира улогата на педагозите особено кога станува збор за дигитализираното учење и ризиците од родовите предрасуди.
Родовата пристрасност се однесува на третман или дискриминацијата кон поединците врз основа на нивниот пол. Реално може да се манифестира на различни начини, влијаејќи различно врз луѓето во зависност од нивниот родов идентитет. Но кога станува збор за традиционалните образовни практики, овие модели често се пренесувале преку учебниците, наставните примери и социјализацијата во училиштето. Сеоак со појавата на AI, родовите стереотипи добиваат нова форма и сега се пренесуваат преку алгоритми кои ги добиваат информациите од големи бази на податоци. Тоа значи на што се споделува на алгоритмите, тоа понатаму се понатаму го читаат и учениците во нивните истражувања.
Затоа улогата на педагогот е многу важна. Педагогот е тој кој се наоѓа меѓу ученикот и социјалната реалност. Затоа педагошката работа вклучува и препознавање на родовите стреотипи особено кога тоа значи формирање на образовни содржини,. Во таа насока токму наставникот е тој кој треба да биде медиумски и дигитално описменет за да може да ги пренесе ефектите од вештачката интелегенција врз учениците.
Од горенаведеното целта на овој труд е да се испита на соодветен начин како и на кој начин појавата на родовите предрасуди во вештачката интелигенција ќе биде дел од улогата на педагогот во образовниот процес. Тоа е многу важно ако се смести во македонски контекст во кој функционира мултикултиризмот и традиционалните родови стереотипи. Токму училиштето е простор каде може да се научи на кој начин да се користи вештачката интелегенција и да се препознаат родовите предрасуди.
Трудот е поделен на неколку дела кои се поврзани во целина и тоа преку анализа на поимите кои се поврзани со етиката во образованието, потоа родовите предрасуди и вештачката интелегенција. Следниот дел се однесува на таоа на кој вештачката интелегенција е поврзана со родовите предрасуди . Најважен дел е анализата на улогата на педагогот и практиките кои се користат за спречување на овие предрасуди во наставниот процес. На крајот се изведуваат заклучоци и препораки за создавање на соодветна образовна пракса.
Етиката и вештачката интелегенција во образованието
Секое училиште има збир на формални и неформални правила до кои се очекува да се придржуваат сите ученици, наставници и персоналот. Овие правила се реално дизајнирани да го заштитат и подобрат образовното искуство. Но, кој одлучува за разликата помеѓу тоа што е правилно, а што погрешно, дали правилата се прекршуваат или се кршат и за кого и кога конкретно важат овие правила? Зад секое правило стои покомплицирана приказна за етиката во образованието која промовира вредности: еднаквост, фер третман и почитување на различностите. Но иако овие вредности реално се можат да се применуваат поедноставно во традиционалната (нормална) средина, но сместени во дигиталното опкружување, многу често се случува да се наиде на ееднаквост или пак дискриминација (Biesta, 2010).
1.1 Алгоритамска пристрасност и етички ризици во образованието поддржано од вештачка интелигенција
Централен етички предизвик во употребата на вештачка интелигенција во образованието е како невидливите алгоритамски одлуки ги обликуваат можностите за учениците. Кога системите за вештачка интелигенција се користат за скрининг на прием, поддршка за оценување или контролни табли за анализа на учењето, тие често се потпираат на историски податоци кои веќе содржат социјални и родови предрасуди. Според тврдењето на Selwyn (2019), овие системи не само што ја одразуваат реалноста, туку активно учествуваат во „создавањето“ категории на студенти кои се сметаат за високо или ниско потенцијални. Ако податоците за обука содржат стереотипи, на пример дека девојчињата се послаби во STEM предметите, предикативните модели може систематски да ги потценат нивните идни перформанси и да препорачаат помалку тешки насоки (Williamson & Eynon, 2020). Покрај тоа, многу комерцијални алатки за вештачка интелигенција се непроѕирни, што значи дека наставниците, учениците и родителите не можат лесно да го доведат во прашање начинот на кој се донесуваат одлуките.
Овој недостаток на транспарентност е во конфликт со образовните вредности на праведност, одговорност и право на објаснување. Поради оваа причина, неколку автори повикуваат на „критична писменост за податоци“ кај едукаторите, за да можат да ги толкуваат резултатите од системите за вештачка интелигенција, да идентификуваат потенцијална дискриминација и да се залагаат за учениците кои би можеле да бидат негативно погодени (Mandinach & Schildkamp, 2021).
Според Bolukbasi и сор. (2016), вештачката интелигенција (ВИ) е дефинирана како програмиран систем кој учи од огромен број дстапни податоци, Но воедно тој систем не е преставен како неутрален, туку пренесува вредностите кои се достапни на алгоритамот.. Во таа насока когаинформациите прикажуваат родови предрасуди, алгоритмот знае и умее тоа да го пренесе на истиот начин. Тоа само покажува дека етиката е својствена карактеристика за човекот, но секако не е за вештачката интелегенција (Bolukbasi и сор., 2016).
Етиката во образованието се поврзува со родовите предрасуди, но сместено во дигиталниот простор каде што функционира вештачката интелигенција тоа е далеку и пошироко од етиката која е застапена во образованието и социјализацијата. Ако образованието е простор и начин на тоа каде и како вредностите се ствараат и менуваат, тогаш педагогот претставува врската меѓу ученикот и просторот каде вредностите созреваат. Дигиталната револуција која го промени светот ја донесе вештачката интелигенција да биде дел и од образовниот процес.
1.2 Педагошката одговорност на наставниците во новите средини за учење
Друга важна етичка димензија се однесува на педагошката улога на наставниците во наставната околина која е посредувана од вештачка интелигенција. УНЕСКО (2021), нагласува дека наставниците не треба да бидат заменети со системи за вештачка интелигенција, туку треба да дејствуваат како „етички управители“ кои водат како овие технологии се избираат, имплементираат и дискутираат со учениците. Токму Luckin (2017), истакнува дека вештачката интелигенција може да поддржи формативно оценување и персонализирани повратни информации, но не може целосно да го разбере емоционалниот, културниот и релациски контекст на секој ученик.
Ако училиштата едноставно усвојат готови алатки за вештачка интелигенција без критичко размислување, постои ризик педагошките одлуки да бидат аутсорсирани на добавувачи на софтвер и дека локалните вредности околу инклузијата, соработката и демократското учество ќе бидат ослабени (Knox, 2020). Затоа, програмите за образование на наставници треба да вклучуваат не само основни дигитални вештини, туку и модули за етиката на вештачката интелигенција, заштитата на податоците и општествените влијанија на автоматизацијата (Holmes и сор., 2019).
Кога наставниците се опремени критички да ги доведуваат во прашање препораките за вештачката интелигенција, да ги вклучуваат учениците во дијалог за тоа како функционираат алгоритмите и да ко-креираат правила во училницата за одговорна употреба, вештачката интелигенција може да стане алатка за зајакнување, а не за поткопување, на етичкото и граѓанското образование. Според Bolukbasi и сор. (2016), вештачката интелигенција (ВИ) е дефинирана како програмиран систем кој учи од огромен број дстапни податоци, Но воедно тој систем не е преставен како неутрален, туку пренесува вредностите кои се достапни на алгоритамот.. Во таа насока когаинформациите прикажуваат родови предрасуди, алгоритмот знае и умее тоа да го пренесе на истиот начин. Тоа само покажува дека етиката е својствена карактеристика за човекот, но секако не е за вештачката интелегенција (Bolukbasi и сор., 2016).
Етиката во образованието се поврзува со родовите предрасуди, но сместено во дигиталниот простор каде што функционира вештачката интелигенција тоа е далеку и пошироко од етиката која е застапена во образованието и социјализацијата. Ако образованието е простор и начин на тоа каде и како вредностите се ствараат и менуваат, тогаш педагогот претставува врската меѓу ученикот и просторот каде вредностите созреваат. Дигиталната револуција која го промени светот ја донесе вештачката интелегенција да биде дел и од образовниот процес.
Во таа насока многу е важно и за педсгозите и за учениците да ги разберат основните поими кои се однесуваат на етиката во технологијата, родовите стереотипи и алгоритамската пристрасност, Токму тука се препознава улогата на педагот во таква образовна дигитална средина.
Вештачката интелигенција во образованието донесе многу придобивки како што се персонализираното учење, потоа можноста за пристапност за ученици со посебни потреби и секако можноста да се унапреди истражувачко учење. Но ако не постои разграничување на тоа што е етика во образовниот процес и беш свесна педагошка интервенција, ВИ може да креира еден вид на дискриминација која тешко моѓе да се препознае и да се користи како начин на пристап во образованието (Holmes и сор.,2019).
Затоа улогата на педагогот е многу важна и тоа не само преку користењето на технолошките алатки, туку да ги пренесе нивните вредности и општествени последици. Ова отвара голем број на прашања кои се важни за образовниот процес и она што педагогот мора да го пренесе кај учениците на вистински начин, кои несомнено понатаму во нивниот живот ќе има големо влијание врз приемот на информации од страна на вештачката интелегенција.
Вештачка интелигенција и родовите предрасуди
Во литературата на оваа тема постои голем број на докази каде е евидентно дека родовата пристрасност навистина постои во алгоритмите за вештачка интелигенција Така истражувањата на Kumar и сор., (2019); Canetti и сор., (2019); се само дел од научните трудови каде родовите предрасуди се присутни во алгоритмите не ВИ.
2.1 Структурни родови предрасуди
Значителен број меѓународни истражувања покажуваат дека родовите предрасуди во вештачката интелигенција не се случајни, туку се вкоренети во пошироките општествени структури и историските нееднаквости. Според истражувањето на Crawford (2021), множествата податоци што се користат за обука на системи за вештачка интелигенција често потекнуваат од институции кои долго време ги документирале човечките активности на родови начини. Кога овие информации се пренаменуваат за машинско учење, алгоритмите наследуваат, па дури и ги засилуваат шемите на дискриминација.
На пример, истражувањето на D’Ignazio & Klein (2020), покажува како моделите за препознавање слики непропорционално погрешно ги класифицираат жените во технички или лидерски контексти, бидејќи основните податоци за обука ги препретставуваат мажите во такви улоги. Во образовните услови, ова може да резултира со системи за препораки што почесто им предлагаат научна и технолошка патека на машките студенти (УНЕСКО, 2023).
Не може да не се спомене и проблемот со „јамки за повратни информации“, каде што пристрасните резултати од вештачката интелигенција го обликуваат однесувањето на корисниците и создаваат нови пристрасни податоци што моделот подоцна ги внесува (O’Neil, 2016).. Овие сознанија нагласуваат дека родовите предрасуди во вештачката интелигенција треба да се гледа не само како технички проблем, туку како социотехнички предизвик на повеќе нивоа, вклучително и во образованието
Пристрасните и неповолните исходи од одлуките за алгоритам ги надминуваат вреднсотите кои се важни за поединците и според Altman и сор. (2018), штетните ефекти допираат до семејствата, заедниците и општеството во целина. Родовата пристрасност е забележана на различни нивоа во општеството – почнувајќи од семејството до образованието па се до вработувањето. Така според Ridley & Young (2012), жените генерално се сметаат за недоволно искористен ресурс со способностите и вештините потребни за ИТ индустријата, што исто така го ограничува нивниот избор на кариера. Затоа, родовата пристрасност, која лесно може да се идентификува во општеството, исто така, забавува навлегување во новата технологија, т.е. вештачката интелигенција.
Со воведувањето на ВИ во образованиот процес, се отвора прашањето: дали технологијата ја ослободува или ја ограничува индивидуата? Алгоритамската пристрасност во образованието е загрижувачка бидејќи моделите базирани на податоци стануваат сè позастапени во поддршката на учениците, наставниците и педагозите (Ridley & Young, 2012) Овие пристрасности можат да се манифестираат на различни начини, влијаејќи на групите врз основа на раса, етничка припадност, пол, националност, социоекономски статус и попреченост.
Справувањето со овие прашања бара повеќеслоен пристап за праведност. Сепак, постигнувањето целосна праведност може да биде невозможно, бидејќи различните дефиниции за праведност и родова дискриминација честопати бараат различни решенија, особено во образовни апликации.Таков пример се експериментални анализи кои покажале јазичните модели генрираат податоци кои посочуваат дека женски имиња се поврзуваат со со професии кои се во областа на грижа и образование, а додека машките имиња со технички и лидерски позиции (Noble, 2012).
Ако ова се постави во македонски контекст, родовите предрасуди во образованието реално постојат и воведувањето на AI. Таков пример се истражувањата на Институтот за македонски јазик и Бирото за развој на образованието (2021), кои укажеале дека во учебниците во основното и средното образование многу често мажите се преставени како носители на јавни професии, науката и сл., додека жените се поврзуваат најчесто со домашни, семејни или помошни улоги (Ангеловска, 2019). Понатаму овие учебници се вградуваат во дигиталните образовни платформи кои подоцна алгоритамот црпи информации за овие вредности. Во случајот наставниот и педагоски кадар не ги препознае овие стереотипи, технологијата ги користи за понатамошни пребарувања и цели на учениците и јавноста.
Сепак учениците во својот образовен процес денес ушат паралелно и од наставникот, учебникот и од алгоритамот. Затоа, потребно е педагозите да се дигитално и медиумски описменети што значи дека не само да знаат ги користат алатките на ВИ, туку истовремено да го разбираат начинот на кој алгоритмите собираат вредносни контести.
Улогата на педагогот во спречување на родови предрасуди
Во потребата да се спречи родавата дискриминација при образовниот простор потребно е педагозите првенствено да се способни да ги препознаат стереотипите кои се појавуваат во традиционалната настава, а потоа и во дигиталниот простор каде функционира ВИ. Педагогот секако е корисник на технологијта во својата работа и знае како, кога и со која цел ја употребува вештачката интелегенција и алатките со таа располага. Несомнено, педагозите мора да се со висок степен на дигитална и медиумска писменост, развиена свест за родовите и социјалните фактори што ја обликуваат училиштната средина. Тоа се постигнува со напорна работа која вметнува и набљудувачки методи, потоа пренесување на здрави морално етички вредности најмногу поради тоа што наставникот е модел за вредности во училницата.
3.1 Професионална компетентност и писменост за вештачка интелигенција кај наставниците
Истражувачите нагласуваат дека наставниците мора да развијат комбинација од професионална компетентност и критичка писменост за вештачка интелигенција со цел ефикасно да се спречат родовите предрасуди во дигиталните средини. Според Passey и сор. (2022), критичката писменост за вештачка интелигенција вклучува разбирање не само како да се ракуваат со алатките за вештачка интелигенција, туку и како да се евалуираат нивните резултати, да се преиспитаат нивните претпоставки и да се идентификуваат скриени предрасуди во автоматизираните препораки. Во образовните услови, ова значи дека наставниците треба да бидат способни да ги анализираат изворите на автоматски генерирани текстови или примери и да ги водат учениците во откривање на стереотипни претставувања. Kога наставниците намерно истражуваат содржина генерирана од вештачка интелигенција заедно со учениците, дијалогот во училницата се префрла од пасивно прифаќање на технолошкиот авторитет кон активно толкување (Amiel & Reeves, 2021).
Понатаму, Buolamwini & Gebru (2018), истакнуваат како алгоритамските одлуки ги одразуваат структурите на општествената моќ, зајакнувајќи ја потребата едукаторите да ги објаснат дигиталните резултати со дискусии за еднаквост и социјална правда. Кога наставниците интегрираат употреба на вештачка интелигенција во часовите, платформите за вештачка интелигенција се трансформираат од едноставни алатки за домашна работа во простори за истражување и етичко истражување. Овој пристап е во согласност со современите педагошки рамки кои нагласуваат критичко размислување, автономија на учениците и свест за вредностите на дигиталното граѓанство.
Таков пример е користењето на ChatGPT која е платформа за автоматско генерирање примери и текстови. Наставникот треба заедно со учениците да ги анализираат текстовите и изворите на тие текстови со што че утврдат дали постојат ќе ја анализираат родови стереотипи.
Така платформите стануваат место за истражување, а не само за пишување на домашни задачи. Ставено во македонски контекст, во училишта веќе постојат примери каде наставниците по предметите „Граѓанско образование“ и „Македонски јазик“ дискутираат на теми како што е медиумскат и дигитална писмености тоа како токму интернет-содржините влијаат родовите улоги во опшеството, семјството, заедницата. Во таа насока таквите практики можат да се применат и при користење на AI.
Второ, педагогот во својот опис на работа ја има задачата за создавање на инклузивна наставна средина во која учениците чувствуваат дека се разбрани и споделуваат исти вредности. Еден практичен пристап е намерна употреба на родово балансирани примери во задачите и сценаријата Преку користење на различни алатки, многу често педагозите користат алатки со кои се насочуваат интересите на учениците без разлика за родовата пристрастност. Така според Master и сор. (2017), учениците ја примаат улогата што ја „гледаат“ во примерите, а не само онаа што им се кажува.
Трето. наставникот е тој кој потикнува мислења и автономност кај учениците. Таква стратегија е кога се поставува „зошто“ наместо само прифаќање на информациите. При користење на ВИ, ако алатките даваат одговори каде пости родова предрасуда, тогаш улогата на педагогот е да ја пренасочи дискусијата во правец на тоа како ВИ дошла до тоа.
На таков начин се поттикнува аналитичкото размислување наспроти готовата добиена информација, Во македонски контекст Бирото за развој на образованието воведува наставни реформи во кои се менуваат наставните програми на ова ниво.
3.2 Заеднички училишни заедници и превентивни практики
Современите истражувања нагласуваат дека спречувањето на родовите стереотипи преку вештачката интелигенција не може да се постигне само од наставниците; тоа бара холистичка училишна заедница што ги вклучува родителите, администраторите и пошироката образовна средина. Според Ahn & Davis (2023), заедници за учење помагаат да се обезбеди конзистентност во вредностите, комуникацијата и очекувањата во врска со употребата на дигитални алатки. Кога наставниците работат со родителите за да објаснат како функционираат алатките за вештачка интелигенција, какви ризици постојат и како можат да се појават родови предрасуди, семејствата стануваат партнери во промовирањето на порамноправни дигитални навики дома. Вклучувањето на родителите значително влијае врз тоа дали девојчињата се чувствуваат охрабрени да истражуваат STEM области или дали стереотипните верувања продолжуваат. Училиштата што организираат работилници, јавни дискусии и активности за учење базирани на проекти што ги вклучуваат и учениците и родителите создаваат заеднички простори за преиспитување на родовите норми во апликациите за вештачка интелигенција. Истражувањето од Lambrecht & Tucker (2019), исто така, истакнува дека кога цели училишни заедници усвојуваат инклузивни дигитални политики, учениците покажуваат посилно критичко расудување и поголема мотивација да се спротивстават на алгоритамските предрасуди. Овие координирани напори го позиционираат наставникот не само како фасилитатор во училницата, туку и како лидер во заедницата кој ги поврзува општествените вредности, семејната култура и одговорното користење на вештачката интелигенција.
Последно, но и не најмалку важно е соработката со родителите и училиштната заедница која е важна за превенција на стереотипикаде може да се променат тие вредности во нови култулорошки модели. Педагогот ја има можноста да организира работилници и проекти кои и учениците и родителите ќе ги насочи кон намалување на стереотипите што укажува на тоа дека . Затоа, улогата на педагогот е не само техничка, туку едукативна на повеќе нивоа на учење со што се надминуваат општествените граници (Lambrecht & Tucker, 2019).
Заклучок и препораки
Пресеците на технологијата, родот и еднаквоста можат да бидат сложени, особено во однос на вештачката интелигенција. Но кога станува збор за образовниот процес во овој труд се покажа дека системите за вештачка интелигенција всушност се генератори на информации кои можат да алудираат на родовите предрасуди. Токму затоа ваквиот пристап кон предрасудите е многу важен во наставата кога учениците се токму во процес на формирање идентитетот. Улогата на педагозите е исклучително важна токму на оваа тема.
Затоа според анализата може да се препознаат неколку препораки кои се важни за педафозите. Тоа се однесува на тоа дека тие мораат да внимаваат со пристапот кон алатките за вештачка интелигенција. Тоа подразбира евалуација на информациите и насочување на уениците да ги доведуваат во прашање дигиталните информации и да истражуваат правилно. Второ, наставниците мора да посочуваат примери за родовите стереотипи особено кога станува збор за науката и технологијата. Трето, медиумската и дигиталната писменост мора да биде дел од учењето со што ќе им се овозможи на учениците правилно да ја користат расположливата вештачка интелегенција и алатките, но воедно да имаат можност за формирање на сопствено мислење и и идентитет.
Покрај горенаведеното, мора да се напомене дека улогата на педагозите се протега и надвор од нивните надлежности, а тоа се мисли на промени во институционалните политики како што се обуките кои треба да гио организираат надлежните вконтинуиран однос на развој Потоа, соработката меѓу наставниците, родителите, училишните психолози и сите останати чинители треба да овозможат соодветна средина за учење. Сепак мора да се нагласи дека вештачката интелигенција во образованието секогаш е неизбежна, но воедно и контролирана. Сепак улогата на педагогот е незаменлива кога станува збор за образовниот процес на многу нивоа.
Користена литература
Ahn, J., & Davis, K. (2023). AI literacy and critical digital citizenship in school communities. Journal of Educational Technology Research, 45(2), 115–134.
Altman, M., Wood, A., & Vayena, E. (2018). A harm-reduction framework for algorithmic fairness. IEEE Security & Privacy, 16(3), 34–45.
Ангеловска, И. (2019). Родова претставеност во учебниците во основното образование во Република Северна Македонија. Скопје, Северна Македонија: Универзитет „Св. Кирил и Методиј“ – Институт за родови студии.
Amiel, T., & Reeves, T. C. (2021). The role of critical digital pedagogy in AI supported learning environments. Computers & Education, 168, Article 104193.
Biesta, G. (2010). Good education in an age of measurement: Ethics, politics, democracy. Boulder, CO: Paradigm Publishers.
Bolukbasi, T., Chang, K. W., Zou, J., Saligrama, V., & Kalai, A. (2016). Man is to computer programmer as woman is to homemaker? Debiasing word embeddings. In Advances in neural information processing systems (Vol. 29, pp. 4349–4357).
Биро за развој на образованието. (2021). Анализа на содржини и образовни стандарди во учебниците. Скопје, Северна Македонија: Министерство за образование и наука.
Buolamwini, J., & Gebru, T. (2018). Gender shades: Intersectional accuracy disparities in commercial gender classification. Proceedings of Machine Learning Research, 81, 1–15.
Canetti, R., Cohen, A., Dikkala, N., Ramnarayan, G., Scheffler, S., & Smith, A. (2019). From soft classifiers to hard decisions: How fair can we be? In Proceedings of the 2019 Conference on Fairness, Accountability, and Transparency (pp. 309–318). ACM.
Crawford, K. (2021). Atlas of AI: Power, politics, and the planetary costs of artificial intelligence. Yale University Press.
D’Ignazio, C., & Klein, L. F. (2020). Data feminism. MIT Press.
Holmes, W., Bialik, M., & Fadel, C. (2019). Artificial intelligence in education: Promises and implications for teaching and learning. Boston, MA: Center for Curriculum Redesign.
Holmes, W., Porayska-Pomsta, K., & Holstein, K. (2022). Ethical and pedagogical considerations in the use of AI in education. British Journal of Educational Technology, 53(6), 1523–1539.
Kumar, G., Singh, G., & Bhatnagar, V. (2019). Scary side of artificial intelligence: A perilous contrivance to mankind. Humanities and Social Sciences Review, 7(5), 1122–1132.
Kurup, A., Li, X., & Powell, C. (2020). Parents and gender stereotypes in STEM: Implications for AI supported education. Educational Psychology Review, 32(4), 987–1012.
Lambrecht, A., & Tucker, C. (2019). Algorithmic bias? An empirical study of apparent gender-based discrimination in the display of STEM career ads. Management Science, 65(7), 2966–2981.
Langelotz, L., & Haraway, D. (2021). Teaching with algorithms: School communities confronting bias in AI. Learning, Media and Technology, 46(3), 345–360.
Master, A., Meltzoff, A. N., & Cheryan, S. (2017). Social group effects on children’s STEM motivation: The role of gendered examples. Child Development, 88(1), 71–86.
Master, A., Cheryan, S., & Meltzoff, A. N. (2017). Computing whether she belongs: Stereotypes undermine girls’ interest and sense of belonging in computer science. Journal of Educational Psychology, 109(5), 788–805.
Noble, S. U. (2018). Algorithms of oppression: How search engines reinforce racism. New York, NY: New York University Press.
O’Neil, C. (2016). Weapons of math destruction: How big data increases inequality and threatens democracy. Crown.
Passey, D., Shonfeld, M., & Hillman, T. (2022). Developing critical AI literacy in teacher education. Journal of Digital Learning, 8(1), 43–59.
Ridley, G., & Young, J. (2012). Theoretical approaches to gender and IT: Examining some Australian evidence. Information Systems Journal, 22(5), 355–373.
Sambasivan, N., Arnesen, E., & Hutchinson, B. (2021). Toward participatory AI design in education. Proceedings of the ACM on Human Computer Interaction, 5(CSCW2), Article 412.
UNESCO. (2023). Technology, gender equality and inclusive education: Global review and policy recommendations. UNESCO Publishing.
Williamson, B., & Eynon, R. (2020). Algorithmic systems in education: Concepts, challenges and futures. Learning, Media and Technology, 45(1), 1–17.