Instagram se zeli jos snaznije boriti protiv online nasilja te su objavili kako su poceli koristiti novu tehnologiju koja ce im omoguciti da u samim fotografijama detektuju znakove online nasilja. Na taj nacin i oni zele koristiti vjestacku inteligenciju u moderiranju sadrzaja na svojoj platformi.

“Vecina sadrzaja na Instagramu je pozitivnog karaktera i veseli ljude, ali povremeno tu ima fotografija koje su nepozeljne”, rekao je Adam Moseri, novi direktor Instagrama u sluzbenoj objavi. Dodaje kako koriste masinsko ucenje kako bi proaktivno prepoznali nasilje u fotografijama i njihovim opisima te odmah to proslijedili timu zaduzenom za detaljniju provjeru.

Njihova tehnologija tako moze prepoznati niz taktika poznatih kod online nasilja, poput poredjenja, ocjenjivanja opisa. Cest primjer je kada se neka osoba stavi na sliku pored druge i uporeduje u negativnom smislu.