Il gigante della tecnologia Google ha appena introdotto la sua nuova arma per combattere il trolling online e l’ha resa disponibile agli sviluppatori che utilizzano semplicemente l’apprendimento automatico per filtrare automaticamente i commenti dannosi o offensivi.
Google ha appena presentato la sua nuova arma per combattere il trolling online
I commentatori del portale troveranno più difficile incitare a risse se una nuova tecnologia di Google si vendicherà. Di recente, il gigante della tecnologia Google annunciato, la Prospettiva, è uno strumento che utilizza il machine learning semplicemente per filtrare automaticamente i commenti dannosi, riducendo il lavoro di moderazione umana.
La Prospettiva assegna un punteggio ad ogni commento in base all’impatto che può avere sulla discussione. La tecnologia identifica come “tossici” a diversi livelli commenti come “I liberali vivono nelle bolle e meritano di perdere” o “E’ un peccato che Donald Trump sia stato eletto. Non si può mai sottovalutare la stupidità dell’interno degli Stati Uniti”. Un commento come “Sei uno stupido idiota” sarebbe al massimo livello di tossicità.
La tecnologia sarà rilasciata dal gigante della tecnologia Google come API per i media. Ciò che è interessante qui è che ogni sito può definire quanto sia rigoroso il filtro “tossicità” e cosa fare con i commenti problematici: puoi semplicemente rifiutare i messaggi molto dannosi o mettere “moderatamente dannoso” in fondo all’elenco, ad esempio.
Il gigante della tecnologia Google afferma di aver già testato Perspective nella pubblicazione “The New York Times”, che riceve 11.000 commenti al giorno. Il giornale ha uno staff solo per moderare i commenti prima che vengano pubblicati. Con Perspective, che apprende quanto sia dannoso un commento basato su valutazioni umane, il lavoro di moderazione può essere più efficiente.
Per ora, la prospettiva funziona in inglese e rileva solo un linguaggio tossico. L’anno prossimo, l’idea si espanderà per la tecnologia in altre lingue e valuterà i commenti in base ad altri fattori, ad esempio quando un messaggio è fuori tema o non aggiunge nulla alla discussione.