Симона Мирова
ВОВЕД
Се повеќе, вештачката интелигенција му дава облик на светот во кој живееме – нашите можности за работа, резултатите од грижата за здравјето, нашиот пристап до бенефиции и услуги. Списокот на области погодени од вештачката интелигенција е долг и расте. Ако не научиме како да го искористиме потенцијалот на вештачката интелигенција за да ги премостиме нееднаквостите кои постојат во светот вклучително и родовата нееднаквост – и да спречиме дискриминација, вештачката интелигенција може да стане засилувач на нееднаквоста. Една неодамнешна студија на Советот на Европа укажа на недостатоците во постоечките механизми за да се спречи појавата на дискриминација во развојот на алгоритамските системи.
Системите засновани на Вештачка Интелегенција можат да бидат чисто поврзани со софтвер, кои дејствуваат во виртуелниот свет, на пример: Гласовни асистенти, софтвер за анализа на слики, пребарувачи, систем за препозавање говор и лице; или Вештачката Интелегенција може да се вгради во хардверски уреди, на пример: Напредни роботи, автономни автомобили, дронови и сл. Системите за вештачка интелегенција имаат моќ да создадат низа можности за општеството и економијата, но тие исто така поставуваат нови предизвици.
Зголемената употреба на вештачката интелегинција во секој аспект од животот на луѓето, бара размислување за нејзините етички импликации и проценк на потенцијалните ризици, како што се алгоритамската родова пристрасност и дискриминација.
Светот има проблем со родовата еднаквост, а вештачката интелигенција ја отсликува родовата пристрасност во нашето општество.
3
4
Родова пристрасност на Вештачката Интелегенција
Родова пристрасност во вештачката интелигенција се однесува на ситуацијата кога системите на вештачката интелегенција, како алгоритмите и машинското учење, ги покажуваат предрасудите кои веќе постојат во општеството во поглед на родот. Ова
може да се случи ако податоците што се користат за обука на вештачката интелегенција се пристрасни и одразуваат историски нееднакви третмани на жените и мажите.
Студијата на Беркли Хас Центарот за еднаквост, род и лидерство анализираше 133 системи на вештачка интелигенција во различни индустрии и откри дека околу 44% од нив покажале родова пристрасност, а 25% покажале и родова и расна пристрасност.
Бејза Догуч, уметник од Анкара, Турција, наиде на родова пристрасност во Generative AI кога истражуваше за роман и го поттикна да напише приказна за лекар и медицинска сестра. Генеративната вештачка интелигенција создава нова содржина (текст, слики, видео, итн.) инспирирана од слична содржина и податоци за кои е обучен, честопати како одговор на прашања или барања од корисник.
Вештачката интелигенција го направила докторот машко, а медицинската сестра жена. Догуч продолжи да му дава повеќе поттикнувања, а вештачката интелигенција секогаш избирала родови стереотипни улоги за ликовите и поврзувала одредени квалитети и вештини со машки или женски ликови. Кога ја прашала вештачката интелигенција за родовата пристрасност што ја покажува, вештачката интелигенција објаснила дека тоа е поради податоците за кои била обучена и конкретно, „вградување зборови“ – начинот на кој одредени зборови се кодирани во машинското учење за да го одразат нивното значење и поврзаноста со други зборови – тоа е како машините учат и работат со човечкиот јазик. Ако вештачката интелигенција е обучена за податоци што ги поврзуваат жените и мажите со
5
различни и специфични вештини или интереси, таа ќе генерира содржина што ќе ја одразува таа пристрасност.
,,Вештачката интелигенција ги отсликува предрасудите кои се присутни во нашето општество и кои се манифестираат во податоците за обуката за вештачка интелигенција“, рече Догуч.
Оваа пристрасност може да го продлабочи родовиот јаз во работната сила, платите и другите сфери.
Како можеме да ја намалиме родовата пристрасност во системите за вештачка интелигенција?
Вештачката интелигенција ги отсликува предрасудите кои се присутни во нашето општество врз основа на пол, возраст, раса и многу други фактори.
„За да се намали родовата пристрасност во вештачката интелигенција, од клучно значење е податоците што се користат за обука на системи за вештачка интелигенција да бидат разновидни и да ги претставуваат сите полови, раси и заедници“, нагласува Дел Вилар. „Ова значи активно избирање податоци што рефлектираат различни социјални потекла, култури и улоги, истовремено отстранувајќи ги историските предрасуди, како што се оние што поврзуваат одредени работни места или особини со еден пол“.
„Дополнително, системите за вештачка интелигенција треба да бидат создадени од различни развојни тимови составени од луѓе од различни полови, раси и културни потекла.
Јавната свест и образованието се суштински дел од оваа стратегија, додава Дел Вилар. Помагањето на луѓето да разберат како функционира вештачката интелигенција и потенцијалот за пристрасност може да ги поттикне да препознаат и
6
спречат пристрасни системи и да го задржат човечкиот надзор врз процесите на донесување одлуки.
Како Вештачката Интелегенција може да помогне да се идентификуваат родовите предрасуди и да се донесат подобри одлуки
Иако податоците генерирани со вештачка интелигенција носат ризици од родова пристрасност, тие исто така имаат значителен потенцијал за идентификување и решавање на родовите нееднаквости низ секторите. На пример, вештачката интелигенција помогна да се анализираат големи количини на податоци за да се пронајдат родови разлики во платите во работната сила, со алатки како Glassdoor кои покажуваат разлики во платите врз основа на пол.
Во финансиите, вештачката интелигенција помага да се надминат долготрајните родови предрасуди во кредитното бодување, како што се гледа со компании како Zest AI, кои користат машинско учење за да направат поправедни кредитни проценки. Вештачката интелигенција, исто така, го подобрува пристапот до услугите за микрофинансирање за жените претприемачи за пристап до заеми и финансиски услуги, особено во недоволно услужените области.
Вештачката интелигенција помогна да се открие разликата во стапките на запишување меѓу мажите и жените на платформи како што се Coursera и edX, и откриени предрасуди во учебниците, помагајќи им на едукаторите да ги ревидираат материјалите за учење за да бидат поинклузивни.
„Вештачката Интелегенција ја следи родовата застапеност во лидерските улоги и ја охрабрува употребата на родови квоти за справување со нееднаквостите“, споделува Вилар. „Исто така, може да помогне во анализата и изготвувањето на родово чувствителни закони со идентификување на моделите на родова дискриминација и предлагање реформи. Во иднина, вештачката интелигенција би можела да им
7
помогне на владите да ги проценат потенцијалните родови влијанија на предложените закони и да помогне да се спречи родовата дискриминација и нееднаквост.
Како Вештачката Интелегенција може да ја подобри безбедноста на жените и да ја спречи дигиталната злоупотреба
Додека насилството врз жените и девојчињата преку Интернет и офлајн, олеснето со технологија, е се поголема загриженост, има многу ветувачки напредок во вештачката интелигенција што нуди иновативни решенија за справување со дигиталната злоупотреба и заштита на преживеаните.
На пример, мобилните апликации како bSafe обезбедуваат безбедносни предупредувања за заштита на жените, додека канадскиот Botler.ai им помага на жртвите да разберат дали инцидентите со сексуално вознемирување што ги доживеале го прекршуваат кривичниот законик на САД или канадскиот закон. Чет ботови како „Sophia“ од Spring ACT и „rAInbow“ од AI for Good обезбедуваат анонимна поддршка и ги поврзуваат преживеаните со правни услуги и други ресурси.
„Алгоритмите напојувани со вештачка интелигенција, исто така, може да се користат за да се направи дигиталниот простор безбеден за секого со откривање и отстранување на штетни, дискриминаторски содржини“ додава Вилар.
8
Заклучок
Вештачката интелигенција има огромен потенцијал за подобрување на родовата еднаквост, но истовремено носи и ризици ако не се користи внимателно. Примената на ВИ во различни области може да доведе до елиминирање на пристрасностите во процесите на донесување одлуки, како што се регрутирањето, образованието и здравството. Меѓутоа, ако алгоритмите и податоците што се користат за обука на ВИ се пристрасни или нецелосни, тоа може да ја продлабочи родовата нееднаквост и да ги засили постоечките стереотипи.
Затоа, важно е да се вложат напори во подобрување на транспарентноста и етиката при развојот на ВИ, како и да се обезбеди вклучување на различни перспективи и родови групи во создавањето на овие технологии. Само така ќе може да се осигуриме дека ВИ ќе служи како алатка за промоција на родова еднаквост и ќе помогне во градењето на пофер и поконструктивни општества.
9
Користена литература
https://www.unwomen.org/en/articles/explainer/artificial-intelligence-and-gender-equality https://www.itu.int/itu-d/reports/statistics/2023/10/10/ff23-the-gender-digital-divide/
https://eige.europa.eu/publications-resources/toolkits-guides/gender-equality-index-2020- report/digitalisation-and-equal-rights-role-ai-algorithms?language_content_entity=en
10