Симоноски Мартин
Вовед
IRS Етичкиот Аналитичар AI е нова алатка за длабока анализа на текстови, слики и документи, со цел идентификација и оценка на содржини што може да содржат злонамерност, говор на омраза или дискриминација. Покрај детекција, алатката овозможува филтрирање/цензура на содржината, задржувајќи го истото значење, но во етичко прифатлива форма.
Оваа технолоѓија може да биде особено корисна во популарните оналјн медиуми, каде што би функционирала како помошна алатка за предупредување на корисниците пред испраќање на пораки. Дополнително, може да им обезбеди образовна вредност, објаснувајќи ги причините за предупредувањето и давајќи насоки за подобрување на содржината, со цел да се избегнат слични грешки во иднина.
IRS Етичкиот Аналитичар AI
Алатката/ботот е важна за медиумите поради неколку причини:
1. Идентификација на говор на омраза и дискриминација: IRS Етичкиот Аналитичар AI може да помогне во идентификување на содржини кои содржат говор на омраза или дискриминација, што е клучно за медиумите кои сакаат да избегнат објавување на такви содржини и да промовираат инклузивност и почитување на различностите.
2. Зголемена одговорност: IRS Етичкиот Аналитичар AI може да помогне во зголемување на одговорноста на медиумите, бидејќи ќе им овозможи да ги идентификуваат и отстранат штетните содржини пред тие да станат јавни.
3. Превенција на говор на омраза: Со идентификување на говорот на омраза и дискриминацијата, оваа алатка може да помогне во намалување на нивното ширење на интернет, што е особено важно во контекст на социјалните мрежи и онлајн платформите.
4. Едукација и свест: IRS Етичкиот Аналитичар AI може да се користи за едукација на новинарите и медиумските професионалци за важноста на етичкото известување и заштитата на ранливите групи.
Предизвици
Имплементација на алатката што е IRS Етичкиот Аналитичар AI, кое користи вештачка интелигенција, носи значајни предизвици за самата цензура и баланс меѓу слободата на говор и етиката. Самото доаѓа и со упорни предизвици со сваќања на човечки намерни злонамери за разбирање на значењето и човечка корист на иронија за имитација. Дополнително доаѓа и самото прифаќање на алатката и корист од корисниците на медиумите.
Можност за цензура
Еден од главните предизвици е ризикот од прекумерна цензура. Алатките базирани на вештачка интелегенција можат да идентификуваат и отстранат содржини кои се сметаат за навредливи или неетички. Сепак, постои опасност овие системи да бидат претерано рестриктивни, со што би се ограничила слободата на изразување. Ова е особено важно и кога суштината што ботот ќе проба да е блокира нема да ја разбере дека е намерно направена за самата забава или привлечност на корисниците. Самите реклами на медиумите можат да паднат во границите за цензура што можно ќе придонесе до намалена популарност на алатката
Балансирање помеѓу слободата на говор и етиката
Можноста за алатката да се прилагоди на слободниот говор и заштитата е комплексно. Иако алгоритмот на алатката можат да помогнат со намалулвање на токсичноста во онлајн комуникации, исто може да дојде до загуба на легитимното мислење бидејќи е контраверзно, но не е навредливо. За ова ќе е потребно време за креирање на алгоритми и внимателно модерирање за подобро разбирање на содржините.
Примери и некои предвидувања
Веќе се користи аи алатката од многу платформи, иако воглавно се користи за помошна алатка на корисникот во врска со страницаита, пристап и замена до техничка поддршка и автоматска цензура или оттстранување на токсична или злонамерна онлајн комуникација. Пример воглавно со темата:
• Facebook и Instagram – користат алгоритми за автоматско декетција и отстранување на говор на омраза, дезинформации и навредливи коментари.
• Youtube – Корист на алгоритам за потешко споделување и прикажување на токсични, навредливи медиуми кон корисниците.
Сепак со имплементација и користење на самите алгоритми на алатката што е моментално истражувана придонесува значајни влијанија:
Автоматизирана модерација: Може да се имплементира во медиумите, каде во реално време ќе анализира и филтрира содржината која ќе е прикажана. Може да се приклучува овој екстремно филтриран приказ на медиумите самоволно и да се користи во случај корисникот да е осетлив со тоа што ќе биде прикажано или како ќе биде претставена содржината на корисникот.
Намалување на лажни вести и манипулации: како други аи алатки има можност да истражува изворите на содржината, но и ќе може да предупреди корисникот дали содржината содржи можни манипулации во написите или дезинформации со цел да потенцираат омраза кон конкретни лица.
Подобрување на интеракција и може речникот со публиката: Ако на ботот му е дадено да дава препораки за подобрување на јазикот на корисниците, без автоматска сензура или
филтрација, ќе може да гледа како начин за корегирање на речникот на корисникот и да придонесе до попродуктивни и цивилизирани дискусии на интернет.
Помагател за задржување и подобрување на репутацијата на познати личности: Ботот ќе може да се користи за контрола и проверка на содржините што ги споделуваат познати личности. Иако веќе е корисен за едукација и филтрирање на пораки, постои ризик дека луѓето, особено децата, лесно можат да поверуваат во информации споделени од нивните омилени јавни личности, без разлика дали тие се точни или манипулативни. Воглавно ќе биде голема помош за да се зачува репутацијата на секој корисник на онлајн медиумите.
Персонализација за филтрација по свој вкус: Се знае како за слобода на говор на корисникот, ќе има можност за подесување на филтрацијата на ботот. Ќе можат да одлучуваат за кои теми/коментари да бидат филтрирани во оглед е навредливо за нив а кои да ја чуваат својата содржина.
Во професионалниот поглед на филтрација, компании можат да го користат за следење на корпоративната популарност и избегнување на штетни PR скандали.
Заклучок
IRS Етичкиот аналитичар АI во главно е одлична алатка за онлајн медиуми или социјални страници, неговата корист и инфлуенса врз нив може да овозможи значително подобрување во односот помеѓу луѓе онлајн или во живо и безбедност на онлајн медиумите. Но истовремено ќе мора да се внимава на транспарентноста и правичноста во неговата употреба.
Линкови за истражување:
https://mk.shaip.com/in-the-media/how-conversational-ai-is-transforming-human-resource management/
ѓ
Изработка:
Симоноски Мартин
201195