Redes sociales, presionadas para actualizar sus políticas frente a los discursos de odio

Mensajes ofensivos o violentos pasan los filtros y se publican en redes sociales todos los días, esto ha llevado a gobiernos, expertos y usuarios a presionar a las compañías dueñas de las redes para que refuercen sus filtros, eliminen las publicaciones incorrectas y sancionen a los usuarios infractores.

En lo que va de 2019, los casos abundan:

• El suicidio de la adolescente británica Molly Russell que acabó con su vida al ser víctima de ciberacoso en Instagram.
• La transmisión en Facebook Live de la masacre de 51 personas en Nueva Zelanda.
• La polémica contra Twitter por no eliminar el contenido abusivo o inapropiado de cuentas de políticos.

PRIMICIAS ha recopilado las más recientes acciones que han tomado los gigantes de las redes sociales, como Facebook, Twitter e Instagram, para reforzar sus filtros.

Instagram contra el ciberacoso

La red social, que cuenta con casi 4 millones de usuarios en Ecuador y atrae a jóvenes entre 18 y 34 años, anunció una nueva funcionalidad para frenar el acoso.

Se trata de una herramienta de inteligencia artificial que identifica textos similares a los mensajes que suelen ser denunciados como inapropiados.

Así, el usuario que escribe el comentario recibe una advertencia que dice: "¿estás seguro que quieres enviar este mensaje? "Aprende más" antes de publicar.

Al dar click en “aprende más” sale el aviso "estamos solicitando a la gente que repiense los comentarios que se parecen a otros que han sido denunciados".

El aviso puede ser ignorado por el usuario, sin embargo, según Instagram las pruebas revelaron que esta alternativa sí lleva a las personas a reconsiderar lo escrito y a cambiarlo por un mensaje menos ofensivo. 

La funcionalidad está disponible actualmente solo para usuarios en inglés, pero la red social tiene planes a corto plazo de implementarla globalmente.

La compañía también implementará la herramienta “Restrict” (restringir) para filtrar los mensajes abusivos sin bloquear a los usuarios.

Los comentarios de perfiles “restringidos” sólo podrán ser vistos por el autor del mensaje, no se notificará la restricción y el agresor no podrá ver si el afectado está activo ni saber cuando leyó sus mensajes directos. 

Facebook contra el terrorismo y el racismo

La red social con más perfiles en Ecuador (12 millones de usuarios) anunció en mayo un ajuste en las reglas de su función de transmisión en vivo. Esta medida se adoptó después de que una masacre en Nueva Zelanda fue transmitida por Facebook Live.

El gigante tecnológico anunció una política de “ataque directo” frente al uso indebido de Facebook Live para evitar que sus servicios sean utilizados para "causar daño o propagar el odio", según voceros de la empresa.

Desde el 14 de mayo de 2019 cualquier usuario que haya infringido o faltado a alguna de las normas de la red será suspendido de la plataforma de transmisión en vivo.

Facebook penalizará desde la primera infracción con 30 días de suspensión. Además implementará otras sanciones, por ejemplo, los infractores no podrán crear anuncios en esta plataforma. 

Facebook también dijo que invertirá USD 7,5 millones en investigación para mejorar sus sistema de análisis de imagen y video.

Recientemente una auditoría externa reveló que los esfuerzos de la  red social por combatir el racismo han sido "demasiado reducidos", por eso la compañía anunció en julio que tomará acciones para eliminar el contenido que promueva el nacionalismo o separatismo blanco.

Se han identificado lemas y símbolos de odio para que los mensajes que los contengan sean filtrados. 

Twitter corta los discursos de odio 

Este 9 de julio de 2019, Twitter, que tiene 4 millones de usuarios en Ecuador, actualizó sus políticas contra el contenido que incita al odio. Todos los tuits denunciados por incluir discursos de odio por razones religiosas serán eliminados.

Los perfiles autores de estas publicaciones no serán sancionados, solo se eliminarán sus mensajes.

El contenido con lenguaje que deshumaniza a otros por su religión o sus creencias, publicado después del 9 de julio, será censurado o borrado inmediatamente y los usuarios autores enfrentarán sanciones como la suspensión temporal e incluso permanente de sus cuentas.

Twitter aclaró que las políticas de protección se han iniciado con los grupos religiosos, pero continuarán con otros grupos considerados vulnerables.

Nada de nazis

• YouTube borrará los videos que promuevan la superioridad racial, ataquen a las minorías, glorifiquen la ideología nazi y a los que niegan hechos históricos que produjeron eventos violentos, como el Holocausto.
• WhatsApp bloqueará las cuentas de los usuarios que envíen mensajes masivos con fines políticos.
• “Esta no es una herramienta para hacer política”, dijo la máxima ejecutiva de Políticas y Comunicaciones de WhatsApp, Victoria Grand.