Facebook todavía tiene problemas para eliminar a los supremacistas

Es probable que mejore la represión de Facebook contra el discurso de odio. Como explica el Washington Post, el Proyecto de Transparencia Tecnológica (TTP) de la organización sin fines de lucro ha publicado una investigación que indica que los grupos extremistas blancos todavía tienen una presencia significativa en las redes sociales. Más de 80 de estas organizaciones racistas están en Facebook, incluidas varias que la empresa ha descrito como "organizaciones peligrosas" que normalmente prohíbe. Los investigadores encontraron 119 páginas y 20 grupos, 24 de los cuales fueron generados automáticamente por Facebook cuando los usuarios enumeraron grupos de supremacistas blancos como propietarios o intereses.

Parece que la represión de Facebook contra el discurso de odio podría mejorarse. Como explica The Washington Post, la organización sin fines de lucro Tech Searches también ha sido un problema, según el organismo de control. Facebook mostró anuncios junto con búsquedas de grupos de supremacistas blancos, incluso cuando esos grupos estaban en la lista negra del sitio social. Las recomendaciones que dirigen a los visitantes a otros sitios de odio y las tácticas de Facebook para redirigir a los usuarios a grupos pro-tolerantes funcionaron en solo el 14% de 226 búsquedas. Varias búsquedas de supremacistas mostraron anuncios de iglesias negras. Esto puede identificar efectivamente los objetivos de los extremistas, dijo el TTP.

En un comunicado a Engadget, Meta dijo que "inmediatamente" comenzó a eliminar los anuncios de búsqueda relacionados con grupos prohibidos. También dijo que está trabajando en esto con un "pequeño número" de páginas generadas automáticamente. La compañía también prometió continuar trabajando con expertos externos para "vencer" otros contenidos extremistas y de odio. Puede estudiar el informe completo a línea.

La presencia de estos grupos en Facebook no es del todo sorprendente. Libby Hemphill, profesora asistente de la Universidad de Michigan, le dijo al periódico que los grupos de odio son cada vez más conscientes de cómo eludir las restricciones de contenido. Las plataformas en línea a menudo luchan por adaptarse, y la investigación de TTP muestra que no siempre tienen éxito.

Sin embargo, los resultados causaron un dolor de cabeza mortal. Se produce solo unas semanas después de que GLAAD acusara a Meta Brands de no hacer mucho para proteger a los usuarios LGBTQ, y después de un período relativamente corto después de que el denunciante Francis Hogan dijera que el filtrado algorítmico de contenido de Facebook había fallado y había capturado solo a una "pequeña minoría". Hay mucha presión para aumentar la acción contra el odio y no está claro cuán útiles serán los parches recientes.

"Los 270 grupos designados por Meta como organizaciones extremistas blancas han sido prohibidos en nuestra plataforma. Invertimos mucho en tecnología, personas e investigación para mantener nuestra plataforma segura. Inmediatamente solucionamos un problema con los anuncios que aparecían en búsquedas de términos relacionados con organizaciones prohibidas, y también estamos trabajando en un problema generado automáticamente que afectó incorrectamente a una pequeña cantidad de páginas. Continuaremos trabajando con expertos y organizaciones externas para mantenernos a la vanguardia y eliminar contenido violento, de odio y relacionado con el terrorismo de nuestras plataformas."