Facebook scoverà i meme offensivi con l’intelligenza artificiale

Per quanto possano essere bravi e numerosi, i moderatori di Facebook non possono visionare ogni singola immagine che viene pubblicata sulla sua gigantesca piattaforma; per aiutarli nello scovare i meme offensivi l’azienda si sta rivolgendo all’intelligenza artificiale e al machine learning.

In un post pubblicato da poco, Facebook descrive un sistema chiamato Rosetta che utilizza l’apprendimento automatico per identificare il testo in immagini e video e quindi trascriverlo in qualcosa che sia leggibile dalla macchina. In particolare Facebook sta trovando questo strumento particolarmente utile per trascrivere i testi sui meme.

Gli strumenti di trascrizione del testo non sono una novità, ma Facebook affronta sfide diverse a causa delle dimensioni della sua piattaforma e della varietà delle immagini che vengono ogni giorno caricate online. Si dice che ora Rosetta lavori in diretta, estraendo il testo da 1 miliardo di immagini e video al giorno, sia su Facebook che su Instagram.

In questo momento non è del tutto chiaro cosa stia facendo Facebook con i dati ottenuti da Rosetta. È utile per le funzioni di base come la ricerca di foto, sottolinea il post sul blog. Ma sembra anche che Facebook stia iniziando a puntare a obiettivi molto più importanti, come capire che cosa sarebbe interessante inserire nel feed di notizie degli utenti e, soprattutto, capire quali di essi sono meme e quali in realtà stanno diffondendo l’incitamento all’odio o altri commenti offensivi.

L’azienda afferma che l’estrazione del testo e l’apprendimento automatico vengono utilizzati per “identificare automaticamente i contenuti che violano la nostra politica di incitamento all’odio” e sono in grado di farlo in più lingue. Dati i noti problemi di moderazione della società, un sistema ben funzionante in grado di contrassegnare automaticamente le immagini potenzialmente problematiche potrebbe essere di grande aiuto.

Per chi fosse interessato ad approfondire, è possibile leggere maggior informazioni su Rosetta direttamente sul post ufficiale pubblicato da Facebook sul suo blog.