Авторка Марија Спасеноска
1.Вовед
Во последните неколку години, сите ние можеме да го забележиме брзиот подем на вештачката интелигенција (AI), технологија што веќе започнува драстично да гo менува начинот на кој функционираат различни области од нашето секојдневие. Од транспорт и образование, па сè до финансиите и здравството. AI нуди нови најразлични можности за автоматизација и анализа на податоци со досега невидена прецизност и брзина.
Иако вештачката интелигенција носи низа придобивки, таа не е имуна на проблемите што ги носат и традиционалните човечки системи особено кога станува збор за еднаквоста. Во контекст на медицината, како една од гранките каде AI бележи забрзан развој, позитивна страна е тоа што алгоритмите овозможуваат олеснување при анализа на големи количини податоци, како и подобрување на точноста при предвидување на болести и одредување на третмани. Сепак, со се поголемата имплементација на AI во здравствените системи, се наметнуваат и сериозни прашања поврзани со еднаквиот третман на сите пациенти.
Се поголем број научници, истражувачи и здравствени работници ја отвораат темата за тоа дали родовата еднаквост е доволно земена предвид во дизајнот и примената на вештачката интелигенција во здравството. Прашањата што се поставуваат се: Дали сите полови и родови идентитети се еднакво застапени во податоците што ги користат AI моделите? Дали алгоритмите земаат предвид разлики во симптомите, физиологијата и социокултурните фактори? Ваквите дилеми се клучни во оценувањето на праведноста и ефикасноста на современите интелигентни здравствени системи.
2.Важноста на AI во медицината
Една од најбараните апликации на вештачката интелигенција во здравствената аналитика е предвидливото моделирање за исходите на пациентите. Замислете да можете да прогнозирате кои пациенти се изложени на висок ризик за реадмисија, односно тоа е кога пациентот повторно е примен во болница во краток временски период по отпуштањето или веројатно оние кои ќе развијат компликации по операцијата. Тоа веќе не е работа на
научната фантастика. Алгоритмите за вештачка интелигенција се пробиваат низ огромните збирки на податоци, идентификувајќи обрасци што би можеле да ги пропуштат човечките аналитичари и обезбедуваат активни увиди во реално време.
Но, тоа не застанува тука. Здравствените организации ја користат вештачката интелигенција за да ги оптимизираат своите операции на начини кои претходно беа незамисливи. Земете ја распределбата на ресурсите, на пример. Анализите засновани на вештачка интелигенција им помагаат на болниците да го предвидат приливот на пациенти, овозможувајќи им соодветно персонализирање и управување со капацитетот на креветот со невидена прецизност. Ова не само што ја подобрува грижата за пациентите, туку и значително ја зголемува оперативната ефикасност
Финансиската страна на здравството, исто така, добива промена на вештачката интелигенција. Управувањето со циклусот на приходи, долго трн во окото на давателите на здравствени услуги, се рационализира преку интелигентна автоматизација. Системите за вештачка интелигенција сега се способни да ги анализираат одбивањата на барањата, да ги идентификуваат трендовите, па дури и да предлагаат корективни активности за да се спречат идни одбивања. Резултатот? Побрзи надоместоци и поздрава крајна линија.
Можеби една од највозбудливите граници е персонализираната медицина. Вештачката интелигенција им овозможува на давателите на здравствени услуги да ги анализираат генетските податоци заедно со електронската здравствена евиденција и информациите за начинот на живот за да ги приспособат плановите за лекување на индивидуалните пациенти. Ова ниво на прилагодување некогаш беше сон, но вештачката интелигенција го прави реалност, потенцијално револуционизирајќи го начинот на кој пристапуваме кон управувањето со хроничните болести и лекувањето на ракот.
Откривањето дрога, критичен, но озлогласено одзема време и скап процес, е уште една област каде вештачката интелигенција предизвикува бранови. Фармацевтските компании користат вештачка интелигенција за да ги просејуваат молекуларните бази на податоци, да предвидат интеракции меѓу лекови и цел, па дури и да дизајнираат нови молекули. Ова би
можело драматично да го намали времето и трошоците вклучени во донесувањето на нови третмани на пазарот – менувач на играта во индустријата каде што времето буквално значи животи.
Интеграцијата на вештачката интелигенција во здравствената анализа доаѓа со нејзиниот добар дел од предизвици. Загриженоста за приватноста на податоците, потребата од силни мерки за сајбер-безбедност и тековната борба да се осигура дека алгоритмите за вештачка интелигенција се ослободени од пристрасност се само неколку од пречките што здравствените организации мора да ги решат. Со усвојувањето на Законот за вештачка интелигенција на ЕУ, организациите ќе треба да ги следат глобалните регулаторни влијанија врз иницијативите за вештачка интелигенција.
Покрај тоа, треба да се земе предвид човечкиот фактор. Како што вештачката интелигенција презема поаналитичко кревање тешки товари, здравствените работници мора да се прилагодат, да учат нови вештини за ефективно да работат заедно со овие интелигентни системи.
И покрај овие предизвици, траекторијата е јасна: ВИ во здравствената аналитика не е само тренд – тоа е иднината. Како што технологијата продолжува да се развива и здравствените организации стануваат повешти во искористувањето на нејзината моќ, можеме да очекуваме да видиме уште поиновативни апликации кои се појавуваат.
3. Теоретски и аналитички поглед на медицината и AI 2.1 Технологиите кои ги користи AI
AI системите во медицината користат големи количини на податоци за да развијат модели што можат да предвидуваат, дијагностицираат и препорачуваат соодветни третмани.
Некои од најчесто користените технологии во медицинската AI вклучуваат:
➢ Machine Learning (ML): алгоритми што учат од податоци и донесуваат одлуки или предвидувања без експлицитно програмирање.
➢ Deep Learning (DL): вид на ML што користи повеќеслојни невронски мрежи за откривање комплексни структури во податоците.
➢ Convolutional Neural Network (CNN): посебен тип на невронска мрежа идеален за обработка на медицински слики (пр. ренген)
➢ Natural Language Processing (NLP): се користи за обработка и анализа на текстуални медицински белешки, симптоми, извештаи од лекари и историја на пациенти. ➢ Reinforcement Learning (RL): се користи за динамички системи, како персонализирани планови за третман или препораки за терапија.
Благодарение на овие технологии, се појавуваат иновативни системи кои можат да дијагностицираат болести на база на слики, да предвидат ризик од срцев удар или рак години однапред, автоматски да издвојуваат клучни информации за состојбата на пациентот, премногу значајни работи кои доколку би се детекрирале на ваков начин тоа би значело човечки живот.
Проблемот настанува кога податоците со кои се тренираат овие модели не ја рефлектираат демографската разновидност на реалното население. Во продолжение сакам да кажам накратко за неколку научни истражувања кои се направени во однос на оваа насока.
2.2 Научни увиди за родова пристрасност во здравствени податоци
Првото истражување, спроведено од “Cirillo et al. (2020)”, покажува дека многу од biomedical dataset-ите имаат значително помала застапеност на женски пациенти. На пример, во datasets што содржат медицински слики, жените се претставени само со 30% од вкупниот број на записи. Оваа нерамнотежа влијае врз перформансите на AI системите, при што тие се помалку ефикасни кај групите што се помалку застапени во податоците.
Дополнително, друго значајно истражување “Larrazabal et al. (2020)” анализира како родовиот дисбаланс влијае на точноста на дијагностика при анализа на медицински слики. Според нивната студија, алгоритмите тренирани со машки-доминантни податоци имаат значително подобра точност во дијагностицирањето кај машки пациенти, додека кај женските пациенти често имаат повисока стапка на невистинити резултати. Оваа ситуација
создава опасност од недоволно навремено откривање на болести кај жените и ги зголемува здравствените ризици за оваа популација.
“Chen et al. (2020)” е третото истражување кое ја нагласува важноста на дизајнот на самите системи. Истражувачите посочуваат дека пристрасноста не произлегува само од податоците, туку и од структурата на развојните тимови, кои најчесто се составени од машки истражувачи и инженери. Овие тимови можат несвесно да ги занемарат родовите специфики, што доведува до креирање на технички напредни, но сепак социјални нечувствителни системи. На пример, во алгоритми за предвидување на ризик од дијабетес или остеопороза, родовата димензија често се занемарува, иако е клучна за точна проценка.
2.3 Проблеми со пристап до податоци и приватност
Еден од клучните предизвици за развој на праведна и ефективна вештачка интелигенција во здравството е ограничениот пристап до разновидни и чувствителни здравствени податоци. Особено ранливи категории се податоците поврзани со репродуктивното здравје, родовиот идентитет, хормонските третмани, како и медицинските информации што можат да откријат сексуална ориентација, психијатриска историја или HIV статус. Заради високата чувствителност на овие информации, институциите и истражувачите често се соочуваат со строги етички и правни ограничувања, што го отежнува собирањето и споделувањето на податоци кои се критични за развој на инклузивни AI модели.
Современи решенија: Federated Learning и Synthetic Data
Како одговор на овој предизвик, во последните години се појавуваат технолошки решенија кои овозможуваат обука на AI модели без централизиран пристап до податоците. Две водечки технологии во оваа насока се:
1. Federated Learning
Овој пристап подразбира дека моделот се насочува кон податоците, наместо обратно. Институциите (болници, лаборатории) го задржуваат локалниот пристап до податоците, а моделот се тренира паралелно на повеќе места. Потоа, само ажурираните тежини од моделот се споделуваат и агрегираат.
Пример: Модел за предвидување на ризик од предвремено породување може да се обучи преку овој тип на учење во неколку гинеколошки клиники, без ниту една од нив да мора да ги сподели своите чувствителни пациентски податоци.
2. Synthetic Data Generation
Синтетичките податоци се вештачки генерирани, но статистички валидни податоци кои ја репрезентираат структурата на реалните податоци. Тие се користат за да се избегне користење на вистински лични податоци, односно на некој начин да се зачува приватноста на пациентите, но и да се задржи дистрибуцијата и корелациите меѓу променливите.
Овие пристапи претставуваат одговорна примена на вештачка интелигенција во здравството, при што се задоволуваат и техничките потреби за разновидни податоци и етичките барања за приватност.
2.4 Меѓународни иницијативи и регулативи
На глобално ниво, меѓународни организации и етички тела преземаат значајни чекори за справување со предизвиците поврзани со AI во здравството. Светската здравствена организација (WHO), во својот извештај „Ethics and governance of artificial intelligence for health“, предлага основни етички принципи за примена на AI: транспарентност и инклузивност. Еден од клучните аспекти е потребата за претставеност на различни демографски групи при развојот и тестирањето на здравствени AI системи.
UNESCO, пак, во својата „Recommendation on the Ethics of Artificial Intelligence“, ја потенцира родовата еднаквост како суштински столб за етички дизајн и примена на интелигентни технологии. Овие иницијативи не само што поставуваат етички стандарди, туку и повикуваат на глобална колаборација и регулатива за создавање поправедни системи.
3.Реални случаи и податочна анализа
Постојат бројни примери што ја илустрираат важноста на родовата еднаквост во здравствените AI системи. На пример, во студијата спроведена во болницата Beth Israel
Deaconess Medical Center во Бостон, AI систем за анализа на кардиолошки снимки имал значително помала точност кај женски пациенти. Причината била што тренинг податоците содржеле 70% машки и само 30% женски пациенти, што резултирало со занемарување на типичните симптоми на срцеви заболувања кај жени.
Апликации како Flo се популарни алатки за следење на менструалниот циклус и репродуктивното здравје. Иако нудат корисни информации, нивната точност не е иста за сите кориснички. Според Healthline, апликациите може да даваат неточни предвидувања кај жени со нерегуларни циклуси или состојби како PCOS. Причината често лежи во тоа што алгоритмите се тренирани врз ограничен сет на податоци, кој не ги опфаќа доволно сите демографски и физиолошки разлики. Затоа, овие апликации не треба да се користат како единствен метод за планирање бременост, туку да се комбинираат со медицински совет.
Овие случаи не само што ја потврдуваат важноста на проблемот, туку и повикуваат на итна интервенција во начинот на кој се дизајнираат и применуваат AI технологии во медицината.
Овие научни наоди ја отвораат дискусијата за длабоката поврзаност меѓу технологијата и општествените неправди. Ако алгоритмите што ги користиме во здравството не се дизајнирани за да бидат фер, тие можат да ги репродуцираат или дури и да ги влошат постоечките нееднаквости.
На пример, симптомите на срцев удар кај жените често вклучуваат вртоглавица, гадење и замор, наместо класичната болка во градите. Ако алгоритмот е трениран главно со машки примери, тие симптоми нема да бидат правилно препознаени. Како резултат, жените може да не бидат итно третирани, што доведува до зголемена смртност.
Родовата пристрасност има и психолошки и социолошки последици. Пациентите можат да ја изгубат довербата во здравствениот систем ако чувствуваат дека не се третирани еднакво. Воедно, жените можат да бидат обвинети дека “претеруваат” со симптомите, што е феномен добро документиран во медицинската литература. Со вклучување на gender-aware AI практики, овие проблеми можат да се ублажат.
4.Анализа на родова застапеност во медицински податоци
Со цел да се обезбеди фер и ефективна здравствена грижа, неопходно е уште од почетокот на развојот на AI технологиите да се вклучи родовата перспектива. Ова значи дека при дизајнирање на алгоритми и модели, првично програмерите треба активно да внимаваат на тоа како нивните избори (податоци, метрики, критериуми) влијаат врз различни демографски групи.
Во таа насока, направив анализа на реален медицински датасет кој содржи информации за пациенти и нивните здравствени параметри. Особено ја анализирав распределбата на пациентите според пол. Како што е прикажано на Слика 1, застапеноста на мажи е значително поголема од онаа на жени:
➢ 8506 машки пациенти
➢ 1494 женски пациенти
Ова претставува приближно 85% мажи и 15% жени, што покажува сериозна нерамнотежа.
Слика 1. Распределба на пациенти по пол во медицински датасет
Оваа нерамнотежа директно укажува на проблемот на структурна пристрасност во податоците, што претставува сериозен ризик при тренирање на AI модели. Моделите што се обучуваат со доминантно машки податоци ќе имаат тенденција да бидат помалку точни кога се применуваат на женски пациенти. Ова е особено проблематично во области како кардиологија, каде што симптомите кај жените можат да се разликуваат од машките и ако не се препознаени, можат да доведат до погрешна или доцна дијагноза.
Затоа, како што истакнуваат и WHO и UNESCO, потребно е уште од фазата на дизајн на алгоритмите да се биде сигурен во однос на балансирана застапеност на демографските групи и активно да се следи и корегира пристрасноста.
5.Заклучок
Здравствената индустрија е на работ на револуција управувана од податоци, придвижувана од вештачка интелигенција. Оние кои ја прифаќаат оваа промена ќе добијат значителна конкурентска предност, потенцијално преобликувајќи го здравствениот пејзаж во децениите што доаѓаат. Во оваа игра со високи влогови на технолошка еднообразба, едно е сигурно: вистинските победници ќе бидат пациентите, кои ќе имаат корист од поефикасна, ефективна и персонализирана нега.
Како што покажаа анализите и истражувањата презентирани во оваа семинарска работа, гледано од аспект родовата пристрасност таа е доста присутна во многу здравствени податоци и алгоритми, а тоа води кон нееднаква дијагностика. Овие пристрасности не се само технички пропусти, туку и прашања од длабоко етичко и социјално значење.
Затоа, неопходно е уште од најраните фази на развој на AI системите да се вклучи родовата перспектива. Не треба да се ангажираат само инженерите и програмерите, туку и лекари, социолози, етичари и претставници од сите засегнати групи. Само така можеме да создадеме алгоритми кои ќе го одразуваат целото население и ќе обезбедат еднаков третман за сите.
Вистинскиот напредок не лежи само во алгоритмите, туку во одлуката да создадеме општество што го вреднува секој човек – без разлика на неговиот пол, род или идентитет.
6.Користена литература
Cirillo, D., et al. (2020). Sex and gender differences and biases in artificial intelligence for biomedicine and healthcare. npj Digital Medicine, 3, 81.
Larrazabal, . J., et al. (2020). Gender imbalance in medical imaging datasets produces biased њ32classifiers for computer-aided diagnosis. PNAS.
Chen, I. Y., et al. (2020). Ethical Machine Learning in Health Care. Annual Review of Biomedical Data Science.
WHO (2021). Ethics and governance of artificial intelligence for health. UNESCO (2022). Recommendation on the Ethics of Artificial Intelligence. https://www.healthline.com/health/flo-period-tracker
https://www.kaggle.com/datasets/marius2303/medical-condition-prediction dataset?resource=download