Google i Jigsaw presenten Perspective, una tecnologia que identifica comentaris tòxics en converses a la Xarxa

MADRID, 23 (Portaltic/EP)

Google i Jigsaw han presentat Perspective, una tecnologia que es troba en la seva primera etapa de desenvolupament i que utilitza l’aprenentatge automàtic (‘machine learning’)per ajudar a identificar comentaris negatius i tòxics en les notícies.

Un 72% dels usuaris d’Internet als Estats Units ha estat testimoni d’assetjaments a la Xarxa i gairebé la meitat els ha patit directament en algun moment, segons l’institut d’investigació Data&Society. Així mateix, gairebé un terç dels usuaris s’autocensura quan envia missatges a xarxes socials, per por de ser objecte de represàlies.

D’acord amb el mateix estudi, l’assetjament en línia ha afectat més de 140 milions de persones als Estats Units i moltes altres, a la resta del món. Es tracta, a més, d’un problema que no afecta només els lectors.

Les organitzacions de notícies volen que es generi una bona conversa i discussió al voltant del contingut publicat però intentar acabar amb els ‘trols’ o contingut abusiu els treu molts diners, temps i feina. Com a resultat, decideixen a vegades tancar els comentaris per complet, com indiquen des de Google en un comunicat.

Google i Jigsaw estan donant un primer pas en la lluita contra els ‘trols’ amb Perspective. Aquesta tecnologia analitza els comentaris i els avalua basant-se en la semblança que tenen amb els comentaris que les persones han indicat com a ‘tòxics’ o que, probablement, poden fer que algú abandoni una conversa.

Per aprendre a detectar un llenguatge potencialment tòxic, Perspective examina desenes de milers de comentaris etiquetats per persones dedicades a revisar-los. Cada vegada que Perspective troba nous exemples de comentaris tòxics o rep correccions per part dels usuaris, millora la seva capacitat per avaluar els futurs comentaris.

Els editors poden decidir què desitgen fer amb la informació que reben de Perspective. Per exemple, poden triar marcar comentaris perquè siguin revisats pels seus propis moderadors i decidir si els inclouen en una conversa. O fins i tot podrien permetre els lectors classificar els comentaris segons la seva toxicitat, facilitant-los la cerca de grans debats amagats en converses tòxiques.

Perspective s’uneix a la biblioteca de codi obert TensorFlow i a la plataforma de Cloud Machine Learning, com un dels nous recursos de ‘machine learning’ que Google ha posat a la disposició dels desenvolupadors.