Perspective, la propuesta de Google para acabar con los trolls del internet

34534543
Sede de Google. / Flickr.

La nueva oferta de la empresa tecnológica busca una solución efectiva en contra de las personas que suelen hacer comentarios irrespetuosos en las noticias.

Perspective, la propuesta de Google para acabar con los trolls del internet

Google ha creado una herramienta que funciona con inteligencia artificial, y su nombre es Perspective, la misma se encargará de analizar cada comentario dentro de las páginas web y de encontrar algo fuera de los límites del respeto, para luego proceder a excluirlos de las conversaciones.  

Esto se debe a que según datos del Instituto de Investigación Data Society, al menos el 47% de los usuarios ha sido víctima de algún tipo de abuso y de esto se desprende más de un tercio que decide autocensurarse para evitar cualquier tipo de represalias que puedan tomar los trolls. Cuando entramos a un sitio web de noticias es común observar los comentarios en los que las personas se terminan insultando o atacando por sencillamente expresar lo que piensa, muchos terminan dejando todo a medias o dejan de comentar.

El objetivo de Google es incentivar unos ambientes seguros para que las personas tengan la certeza de poder comentar y expresarse libremente sin necesidad de incurrir a la falta de respeto. Lo que antes era conocido como ‘Google Ideas’ y ahora se llama Jigsaw, fue el encargado de desarrollar el sistema artificial que planea acabar con los trolls, su presidente es Jared Cohen, quien afirma que el concepto de Perspective también busca empoderar a los editores y desarrolladores para que tomen el control de sus publicaciones y decidir que puede ir o no dentro de ellas.

Así mismo, la herramienta digital es un código abierto, por lo que cualquiera pude utilizarlo. Perspective enviará la información que recolecte y la facilitará a los editores para que ellos puedan medir la forma en que actuaran en contra de los trolls. Jigsaw también facilita varias posibilidades de lo que pueden hacer con los comentarios molestos, entre ellos, el poder clasificarlos para que las personas vean lo tóxico que están siendo.

El ‘entrenamiento’ de Perspective

Una vez adquirido, hay que enseñarle a detectar los comentarios que no queremos dentro de nuestra página, Perspective es una base de datos que hay que ir llenando de los comentarios malos, es decir, los vamos seleccionando y guardando para que la inteligencia artificial los analice, en cada uno habrán palabras que no nos gusta, como una grosería, el programa las irá marcando y así cuando este dentro del sitio el irá comparando los comentarios nuevos con los que ya tiene guardados, si encuentra unos similares el programa terminará identificándolos y añadiéndolos a la base de datos, que luego el editor podrá evaluar.

Para que la herramienta sea eficaz, es importante que sea muy utilizada, de esto depende que el aprenda y automáticamente cree patrones de identificación, así mismo Cohen enfatiza en que el poder de Perspective en contra de los trolls será perfecto luego de tener cierto recorrido, debido a que en su fase inicial puede funcionar de una manera más lenta porque aún no se ha “alimentado” de los comentarios mal intencionados.

45354

Logo de Jigsaw. / Jigsaw.

Por otra parte, el programa dependerá en un principio de los editores para que estos le ayuden a entender que es lo que no quieren, por lo que es ideal que trabajen juntos para perfeccionarlo y lograr el objetivo planteado. La primera prueba de Perspective fue en el The New York Times, en donde los editores del periódico estadounidense colaboraron con la herramienta para sacar de su sistema a los trolls, esto le facilita un gran trabajo al diario, debido a que ellos ya contaban con un equipo que trataba de mantener alejado a los comentarios tóxicos, llegaban a analizar hasta 11.000 comentarios por día, lo que les terminaba ocasionando que tan solo fueran comentados el 10% de sus artículos.

Hasta los momentos, la aplicación solo se encuentra en inglés, pero en el futuro Jigsaw espera que usuarios de otros países se sientan atraídos por esta idea y decidan colaborar para empezar a construir un modelo que contenga el idioma que necesiten. De igual forma, se conoce que hay otras empresas interesadas en desarrollar este tipo de herramientas, como Mozilla o Twitter, también con el objetivo de ser eficaces y contundentes en contra de los trolls que causan malestar en el internet.

Comentarios