Користење на вештачката интелигенција (AI) за унапредување на родовата еднаквост во академските истражувања

Како отсуството на женски податоци влијае на решенијата  за вештачка интелегенција и ИКТ во здравството и јавната политика

Published by

Институт за родови студии

on

Леонид Бошкоски

АБСТРАКТ

Во оваа ера каде што рапидно информациската и комуникациската технолохија(ICT) е облкувана од страна на Вештачката интелегенција(AI) , прецизноста и точноста на податоците се поважни од кога било. Овој труд истражува како недостатокот на податоци расчленети по пол и род придонесува за развој на недоволно точни и прецизни системи за вештачка интелегенција и јавната политика. При анализа, се добиваат резултати каде е истакнато дека има недоволна застапеност на податоци за жените и тоа доведува до дијагностички грешки и погрешно информирани јавни служби. Трудот тврди дека практиките за собирање податоци и дизајнот на ИКТ системите мора да бидат поткрепени и да се родово-свесени за да се доведе до изградба на правични технолошки решенија. Како препораки, треба да се усвојуваат принципи на феминистички податоци што би довело со зголемување на транспарентноста во дизајнот на алгоритмите.

  • ВОВЕД

Во овај период каде што технологијата има огромен раст, вештачката интелегенција и  информациската и комуникациската технологија се составен дел од речиси секој аспектт во човечкото опшество. Од здравствени дијагнози, до политиката за јавна безбедност па дури и урбанистичкото планирање, овие технологии ветуваат дека ќе го револуционизираат нашиот свет. Сепак додека го прифаќаме потенцијалот на вештачката интелегнција и ИКТ, едно критично прашање останува неодговорено. Прашањето е колкава е штетата што се прави од страна на отстуството на податоци  околу податоците за род и пол. Отсуството на податоците разделени по пол во системите за вештачка интелегенција и за ИКТ, има огромни последици особено во полето на здравствената заштита и јавната политика. Со неуспехот да се земат во предвид родовите разлики, овите технолохии често ги продолжуваат предрасудите што резултираат со неефикасни, штетни и нееднакви исходи за жените.Всушност, жените имаат 50% поголема веројатност да бидат погрешно дијагностицирани по срцев удар, бидејќи повеќето бази на податоци и медицински алгоритми се базираат на машки симптоми.

Иако вештачката интелегенција и ИКТ имаат огромен потенцијал, тие се добри само колку што се добри податоците кои ги хранат нив.Постои честа заблуда дека податоците се неутрални. Сепак начинот на кој податоците се собираат, етикетираат и користат е длабоко подвлијание на човечките одлуки, честопати репродуцирајќи родови стереотипи. Историски гледано податоците што се користат за обука на овие системи се претежно машки центрирани, што одразува и недостатокк на женска застапеност во истражувањата и општ надзор на потребите на жените во процесот на собирање на податоци. Во здравството, на пример, многу медицински студии првенствено се фокусирале на машки учесници, што доведува до погрешни дијагнози, неефикасни третмани, па дури и повисоки стапки на смртност кај жените. Слично на тоа, во јавните политики, отсуството на родови податоци резултира  со јавни услуги и политики кои не успеваат да ги задоволат специфилните потреби на жените, продолжувајќи ги постојните родови нееднаквости.

Овај труд има за цел да го истражи значењето на јазот во родовите податоци и неговото влијание врз вештачката интелегенција и ИКТ системите, особено во здраството и јавните политики. Со испитување на студии на случаи и преглед на тековните истражувања, се забележуваат последици од исклучувањето на жените од податоците што се користат за развој на овие системи. Централниот аргумент на овај труд е дека отсуството на податоци специфични за родот не е само прашање на науката за податоци, туку и фундаментално прашање на еднаквост. За да се изградат транспарентни и точни системи за вештачка интелегенција и ИКТ, од суштинско значење е да се усвојат практиките во собирањето и дизајнирањето на податоци што се родово свесни.

Преку ова истражување, трудот ќе предложи препораки за справување со јазот во родовите податоци, вклучувајќи ја и потребата за собирање податоци што е инклузивно за родот, транспареност во дизајнот на алгоритми и интеграција на феминистичките принцип на податоци во вештачката интелегенција и ИКТ системите. Со обезбедување дека и жените и мажите се подеднакво застапени во множествата податоци, можеме да почнеме да го затвораме јазот во родот во технологијата и да работиме кон создавање решенија што им служат на сите, подеднакво.

Истражувањето иплицира дека вештачката интелегинција и ИКТ која го обликуваат светот, мора да еволуираат за да се одразат потребите потребите на сите родови, создавајќи рамноправно и пофер опшество за иднината. На крајот на краиштата само со хранење на вештачката интелегенција со податоци кои се рамноправно распределени на сите родови, може да стигниме до создавање на системи кои се од клучна вредност за промовирање на еднаквост,праведност и напредок на сите.

  • Родовиот јаз во податоците во здравството

Во сферата на модерната медицина, интеграцијата на вештачката интелигенција (ВИ) и информатичко-комуникациската технологија (ИКТ) значително го трансформирa начинот на кој се испорачува, управува и подобрува здравствената заштита. Од дијагностички алатки управувани од ВИ до предикативни алгоритми за исходи на пациентите и оптимизација на третманот, овие технологии нудат револуционерни можности. Сепак, под ова ветување лежи една критична маана – многу од овие системи се обучени врз основа на податоци кои во голема мера ги исклучуваат или недоволно ги претставуваат жените. Ова поглавје ја истражува манифестацијата на родовиот јаз во податоците во здравствената заштита и и итната потреба од поинклузивни практики за податоци.  

1.1 Историско исклучување на жените во медицинските истражувања.

 Историски гледано, медицинските истражувања биле доминирани од податоци ориентирани кон мажите. Жените честопати биле исклучувани од клиничките испитувања, особено во текот на 20 век, поради загриженост за хормоналните флуктуации и потенцијалните ризици за репродуктивното здравје. Како резултат на тоа, повеќето лекови, дијагностички критериуми и протоколи за третман биле развиени и тестирани првенствено на машки испитаници. Ова историско исклучување создало основа за податоци која е пристрасна по дизајн. На пример, кардиоваскуларните заболувања – една од водечките причини за смрт кај жените – традиционално се проучуваат со користење на машки модели, што доведува до погрешно разбирање за тоа како се манифестираат симптомите кај жените. Додека мажите може да доживеат болка во градите за време на срцев удар, кај жените има поголема веројатност да се појави замор, гадење или отежнато дишење. Овие разлики, кога се занемаруваат од системите базирани на податоци, доведуваат до одложени дијагнози и полоши исходи за жените.

1.2 Вештачката интелигенција и репродукцијата на пристрасност 

Воведувањето на вештачката интелигенција во здравствената заштита не го решава овој проблем но во многу случаи дури и го влошува. Алгоритмите обучени на збир на податоци кои повеќе се засноваат на детали на мажи, можат да произведат пристрасни предвидувања. Ако податоците за здравјето на жените се недоволно застапени или не се распределени по пол, алатките за вештачка интелигенција можат погрешно да дијагностицираат, погрешно да дадат приоритет или целосно да ги превидат пациентките. Значаен пример е употребата на вештачка интелигенција во дијагностицирањето на состојби на кожата. Многу збирки на податоци што се користат за обука на дерматолошки алатки за вештачка интелигенција содржат значително повеќе слики од посветли тонови на кожата и машки пациенти. Како резултат на тоа, овие алатки се помалку прецизни при дијагностицирање на состојби кај жени или кај луѓе со потемна кожа – што ја истакнува меѓусебната пристрасност на податоците. Понатаму, технологијата за носење на здравјето, како што се паметните часовници или фитнес тракерите, честопати не успева да ги земе предвид физиолошките разлики помеѓу мажите и жените. Алгоритмите дизајнирани да ја следат варијабилноста на срцевиот ритам или да детектираат аритмии може да не работат толку прецизно за женските корисници, што доведува до помалку веродостојни податоци и полоши резултати кај корисниците. 

1.3 Влијанието врз здравјето на жените

 Јазот во податоците за половите има длабоки последици за здравјето на жените во различни домени. Состојбите како што се ендометриоза, синдром на полицистични јајници (PCOS) и автоимуните болести честопати се недоволно истражени и слабо разбрани. Бидејќи овие состојби првенствено ги погодуваат жените, нивната релативна невидливост во медицинските збирки податоци значи дека тие често се погрешно дијагностицирани или отфрлени. Во итна медицина, жените честопати имаат помала веројатност да примаат лекови против болки или да бидат сфатени сериозно кога презентираат симптоми. Системите за тријажа со вештачка интелигенција обучени на историски податоци ризикуваат да ги зајакнат овие нееднаквости освен ако не се преземат корективни чекори. Дополнително, здравствената заштита поврзана со бременоста е друга област каде што има недостатокот на сеопфатни и репрезентативни податоци.

 1.4 Кон инклузивни здравствени податоци 

Затворањето на јазот во родовите податоци во здравствената заштита бара повеќестран пристап. Прво, медицинските истражувања мора да дадат приоритет на вклучувањето на жените во клиничките студии – не само како учесници, туку како централен фокус на дизајнот на истражувањето. Напорите за собирање податоци треба да обезбедат информациите да се распределат по пол, и каде што е можно, да се исфилтрираат податоците според фактор на раса и возраст.  Развивачите на системи за вештачка интелигенција и ИКТ мора да усвојат етички практики за податоци. Ова вклучува ревизија на множества податоци за рамнотежа помеѓу половите, вклучување на експерти за родови прашања во дизајнот на системот и спроведување техники за алгоритамска праведност. Транспарентноста во начинот на кој се собираат и користат податоците е исто така од суштинско значење за градење доверба и обезбедување одговорност. Конечно, здравствените институции и владите мора да поддржат промени во политиките што налагаат инклузивни практики за податоци и да промовираат финансирање за медицински истражувања специфични за полот. Овие напори не само што ќе ја подобрат точноста и праведноста на алатките за вештачка интелигенција, туку ќе доведат и до подобри здравствени резултати за жените воопшто.

  • Родовиот јаз во податоците во јавните политики

Во еден свет кој е сe повеќе управуван од податоци, јавните политики повеќе не се водат само од политичка идеологија или квалитативни истражувања, туку од огромни количини на податоци собрани преку владини системи, дигитални платформи и социјални услуги. Овие збирки на податоци помагаат да се одредат буџетските распределби и урбанистичкото планирање. Сепак, исто како и во здравството, овие системи често се дизајнирани околу машки ориентирани норми и ги изоставуваат или недоволно ги претставуваат искуствата на жените. Резултатот што се добива е постојан јаз во податоците за половите што ја продолжува нееднаквоста.


2.1 Улогата на податоците во креирањето политики 

Владите се потпираат на податоци за да ги идентификуваат социјалните потреби, да распределат средства и да ја проценат ефикасноста на политиките. Ова вклучува податоци од попис, статистика за вработување, резултати од образованието и трендови во јавното здравје. Кога овие податоци се нецелосни, тоа може да доведе до неефикасни или дури и штетни резултати. На пример, ако податоците за користењето не навремено  успеат да го опфатат непропорционалниот товар на неплатената работа за негата што ја вршат жените, креаторите на политиките може да ја потценат потребата од субвенционирана грижа за деца. Покрај тоа, алгоритамското управување – каде што вештачката интелигенција се користи за да помогне во одлучувањето кој прима бенефиции, домување или услуги за вработување, зависи целосно од квалитетот и рамнотежата на основните податоци. Без соодветна родова застапеност, овие системи ризикуваат систематски да ги стават жените во неповолна положба.

2.2 Како жените стануваат изоставени во податоците

Жените често стануваат изоставени во податоците кои се релевантни за политиките поради неколку фактори: 

  • Собирање податоци без родова разлика: Многу официјални статистики не се распределуваат по пол, што го отежнува идентификувањето на нееднаквостите. 
  • Недоволно известување: Проблеми како семејно насилство, сексуално вознемирување се значително недоволно пријавени поради стигма, недостаток на соодветни канали или ограничени законски дефиниции. 
  • Несоодветен дизајн на анкети: Прашалниците и алатките за јавни податоци често се дизајнирани со претпоставки засновани на машки норми, занемарувајќи ги искуствата и потребите специфични за жените.

2.3 Дигиталниот јаз и алгоритамската нееднаквост 

Како што владите и институциите се повеќе се насочени кон дигиталните платформи и вештачката интелигенција за да обезбедат услуги и да спроведат политики, се повеќе се појавуваат нови слоеви на нееднаквост. Жените, особено во заедниците со пониски приходи и руралните заедници, може да немаат пристап до дигитални уреди, стабилен интернет или дигитална писменост потребна за ангажирање со владини портали и онлајн апликации. Овој феномен, познат како дигитален родов јаз, е особено изразен во земјите во развој, но останува релевантен на глобално ниво. Понатаму, алгоритмите во јавниот сектор што се користат за предвидување ризици или распределба на ресурси  како што се предвидливо полициско работење или откривање на измами во социјалната помош,  можат да доведат до родови и расни предрасуди. На пример, алгоритам обучен врз основа на историски случаи на измами во социјалната помош може да има поголема веројатност да ги означи самохраните мајки – особено жените од различни раси – ако минатите политики непропорционално ги таргетирале.

2.4 Кризна политика и родова перспектива 

Важноста на податоците распределени според пол во креирањето политики станува уште поочигледна за време на кризи. Пандемијата COVID-19 ги откри ранливостите на јавните одговори слепи за родова разлика. Карантините доведоа до нагло зголемување на случаите на семејно насилство, но на многу земји им недостасуваа системи за податоци за следење и реагирање на ова зголемување во реално време. Пакетите за економска помош честопати го занемаруваа неформалниот сектор, каде што жените се презастапени, оставајќи милиони без финансиска поддршка. За време на хуманитарни кризи, жените и девојките бегалци се соочуваат со уникатни ризици, вклучително и насилство базирано на пол и пречки за пристап до репродуктивна здравствена заштита.

2.5 Премостување на јазот во податоците за политиките

 За да се реши јазот во податоците за пол во јавната политика, мора да се спроведат неколку клучни стратегии: 

  • Собирање податоци распределени според пол: Сите владини податоци, од буџетирање до евалуација на програми, треба да се поделат според пол. 
  • Вклучување во дигиталната трансформација: Жените мора да бидат во центарот на вниманието за развојот на дигиталната јавна инфраструктура, обезбедувајќи пристапност, безбедност и употребливост.
  • Градење капацитети и едукација: Јавните службеници, статистичарите и научниците за податоци мора да бидат обучени да препознаваат и корегираат родови предрасуди во системите за податоци.
  • Премостување на јазот во родовите податоци – кон инклузивна и правична вештачка интелигенција и ИКТ

Како што расте свеста за јазот во родовите податоци, така расте и потребата од конкретни, акциони решенија што се справуваат со ова системско прашање. Неуспехот да се соберат и интегрираат податоци расчленети по род во системите за вештачка интелигенција и ИКТ не е само технички недостаток, туку одраз на пошироките општествени нееднаквости. Премостувањето на овој јаз бара повеќеслоен пристап, комбинирајќи инклузивни практики за податоци, етички дизајн, интердисциплинарна соработка и политичка волја. Ова поглавје ги истражува клучните стратегии и препораки за затворање на јазот во родовите податоци и обезбедување решенија за вештачка интелигенција и ИКТ да промовираат еднаквост, наместо да ги зајакнуваат постојните предрасуди.

3.1 Претставување на сите родови 

Во срцето на јазот во родовите податоци лежи фундаментален проблем – процесите на собирање податоци кои историски им дале приоритет на машките перспективи или не успеале да ги соберат податоците што ја одразуваат разновидноста на искуствата на жените. Еден од првите чекори кон решавање на ова прашање е спроведување на инклузивни практики за собирање податоци. Овие практики треба да обезбедат дека множествата податоци одразуваат избалансирана застапеност на полот, возраста, етничката припадност. Институциите и истражувачите мора да усвојат стандарди за собирање податоци што се чувствителни на пол. Ова вклучува дизајнирање анкети и медицински студии што ги земаат предвид биолошките и социјалните разлики меѓу половите, осигурувајќи дека жените не само што се вклучени како учесници, туку се соодветно застапени низ демографските групи.  Иницијативите за отворени податоци, исто така, можат да играат клучна улога. Владите и организациите треба да инвестираат во бази на податоци со отворен пристап кои континуирано се ажурираат и следат за рамнотежа меѓу половите. Овие складишта можат да ги користат развивачите и истражувачите за да изградат системи со вештачка интелигенција што ги одразуваат популациите во реалниот свет и ги намалуваат штетните предрасуди. 

3.2 Алгоритмска транспарентност 

 Само податоците не се доволни, начинот на кој се дизајнирани и имплементирани алгоритмите е подеднакво критичен. Алгоритмската транспарентност вклучува правење на процесите на донесување одлуки на системите со вештачка интелигенција да се видливи и разбирливи. Без транспарентност, тешко е да се откријат, разберат и корегираат родовите предрасуди. Етичкиот дизајн со вештачка интелигенција започнува со интердисциплинарна соработка. Инженерите, научниците за податоци, етичарите и експертите за родова еднаквост мора да работат заедно за да го проценат општественото влијание на алгоритмите. Родовите ревизии и систематските проценки за тоа дали системите за вештачка интелигенција ги третираат различните полови праведно треба да станат стандардна практика. Овие ревизии можат да помогнат во идентификувањето на пристрасни резултати и да предложат прилагодувања пред технологијата да стигне до јавноста.Понатаму, програмерите мора да обезбедат алгоритмите да бидат обучени за бази на податоци што ги земаат предвид разликите специфични за полот и да бидат подложени на редовно тестирање под различни сценарија. 

3.4 Политика и управување

Улогата на институциите и на Владите како и на меѓународните тела и регулаторните институции имаат клучна улога во спроведувањето на стандардите што го ублажуваат јазот во родовите податоци. Законите и политиките треба да ги задолжат податоците распределени по род во области како што се јавното здравство, транспортот, образованието и социјалните услуги. Во набавката и развојот на вештачката интелигенција, јавните институции треба да дадат приоритет на системите што ги исполнуваат критериумите за родова еднаквост.

  • Заклучок

 Дигиталното доба има извонреден потенцијал за трансформирање на општествата, подобрување на здравствените резултати и создавање одговорна јавна политика. Сепак, ветувањето на технологијата е толку силно колку што се силни податоците што ја поттикнуваат. Кога тие податоци се нецелосни и пристрасни тие се закануваат да ги зајакнат вековните нееднаквости се повеќе . Јазот во родовите податоци не е само технички пропуст – тоа е системско прашање длабоко вкоренето во историските модели на исклучување. Искуствата на жените долго време беа недоволно застапени во науката, медицината, управувањето и технологијата, а појавата на вештачката интелигенција и ИКТ не ја корегира автоматски оваа нерамнотежа. Наместо тоа, ризикува да ја вгради подлабоко во самите системи на кои се повеќе се потпираме за да донесуваме одлуки што ни го менуваат животот. Се покажува како отсуството на родово филтрирани податоци во вештачката интелигенција и ИКТ води до пристрасни резултати, особено во областите на здравствената заштита и јавната политика. Од медицински алгоритми кои не успеваат да ги препознаат женските симптоми на болести до алатки за вештачка интелигенција кои погрешно ги толкуваат или ги занемаруваат општествените реалности на жените, последиците не се хипотетички – тие се реални, мерливи и опасни. Во здравството, јазот се манифестира во дози на лекови, погрешно дијагностицирани состојби и исклучување од клинички испитувања. Во јавните политики, тоа резултира со искривени приоритети, погрешно усогласени услуги и нееднаков пристап до критични ресурси. Ова не се само проблеми со податоците туку и со  прашањата за човекови права. Сепак, решението е на дофат. Затворањето на јазот во родовите податоци е можно и неопходно.  Со вградување на инклузивноста во секоја фаза од животниот циклус на податоците, од собирање до алгоритамска обработка и до имплементација можеме да создадеме попаметни, пофер и порепрезентативни технологии.  Потребна е глобална посветеност и соработка низ дисциплините – инженери, здравствени работници, креатори на политики, едукатори и активисти. Образованието ќе игра витална улога во преобликувањето на начинот на кој размислуваме за податоците, кој ги генерира и чии гласови се засилуваат од нив. Само кога системите што ги градиме ќе го одразат целиот спектар на човечкото искуство, ќе го реализираме вистинскиот потенцијал на дигиталната револуција. Технологијата не постои во вакум, таа е одраз на вредностите на нејзините креатори и приоритетите на општествата што ја усвојуваат. Со давање приоритет на практиките за податоци што се инклузивни за родово, ние не само што ја корегираме нерамнотежата – ние поставуваме основа за поправедни и порамноправни општества. Нека ова биде моментот кога ќе престанеме да ги третираме жените како статистички заостанати мисли – и да почнеме да дизајнираме свет каде што секој, без оглед на полот, е подеднакво видлив во множествата податоци што ги обликуваат нивните животи.

Библиографија

Previous Post
Next Post