AI detektira uvredljive sadržaje iz riječi i emotikona

Facebook i njegove druge društvene aplikacije često se optužuju za nedovoljnu efikasnost u otkrivanju i uklanjanju uvredljivih sadržaja, bez obzira što na tim sustavima rade napredni algoritmi i obilje ljudi.

Instagram je sad najavio vlastite alate koji će se uhvatiti u koštac s tim problemima kako bi izgradio "oklope" koji će čuvati korisnike od izlaganja uvredama u direktnim porukama.

Alati će se temeljiti na AI-u koji će prepoznavati kombinacije riječi, fraza i emotikona koji ukazuju na mogućnost uvredljivih sadržaja, čak i u slučajevima kada izostaju neka slova ili riječi, čime se mnogi služe kako bi zaobišli filtere umjetne inteligencije.

Instagram će također pružiti korisnicima mogućnost da proaktivno blokiraju ljude čak i ako ih pokušavaju kontaktirati putem novostvorenih računa, a ta značajka će biti pokrenuta kroz nekoliko predstojećih tjedana.

U početku će novi alati za prepoznavanje, blokiranje i uklanjanje nepoželjnih sadržaja i ljudi funkcionirati u Velikoj Britaniji, Francuskoj, Njemačkoj, Irskoj, Kanadi, Australiji i Novom Zelandu, dok bi se u sljedećih nekoliko mjeseci trebali koristiti i globalno.

Koliko će biti učinkoviti saznat ćemo vrlo brzo, no ne vjerujemo da će Instagram postati spektakularno "čišći", jer to do sada nije uspjelo niti jednoj društvenoj platformi.

Više detalja potražite u službenom blogu Instagrama na ovoj poveznici.