Interés General

El algoritmo que promueve los discursos de odio se vuelve un boomerang contra Facebook

octubre 17, 2021 11:00 am POR TÉLAM

El algoritmo que facilita la circulación de discursos de odio se está convirtiendo en un boomerang para Facebook e Instagram.

El algoritmo que facilita la circulación de discursos de odio se está convirtiendo en un boomerang para Facebook e Instagram, pero algunas denuncias indican que la empresa de Mark Zuckerberg no se decide a modificarlo porque el mecanismo genera interacciones, aunque ataque a grupos vulnerables y contradiga el objetivo de crear una red “significativa y saludable”, dijo hoy Ezequiel Ipar, director del Laboratorio de Estudios sobre Democracia y Autoritarismo (LEDA).

Los textos que promueven discursos de odio al parecer se profundizaron con la modificación del algoritmo de Facebook, el verdadero gestor de la interacción entre sus usuarios.

El tema tomó más fuerza cuando la exempleada de esa compañía Frances Haugen pidió regular al gigante de las redes sociales al que acusó, ante legisladores de los Estados Unidos de “financiar sus ganancias” con la seguridad de los usuarios.

Haugen reveló que Facebook sabe que sus sitios son potencialmente dañinos para la salud mental de los jóvenes. “Casi nadie sabe lo que sucede dentro de Facebook. Ocultan información al público, a sus accionistas y a los gobiernos”, agregó.

Desde la Argentina, en el LEDA, de la Universidad Nacional de San Martín (Unsam) con investigadores del Conicet, Ipar y su equipo investigan estas redes y las consecuencias de la aplicación del algoritmo diseñado por la gente de Zuckerberg.

Haugen dijo que Facebook “puede dar cuenta y reconocer entre el 3 y el 5 por ciento de los discursos de odio de los mensajes de los 3.000 millones de usuarios. Pero parece que los controles funcionan en 50 lenguas, y Facebook tiene usuarios en 5.500. Es decir, que 5.450 viven en un far west digital”, sentenció Ipar.

Como ejemplo del discurso de odio y la falta de controles de la red, en octubre de 2018, The New York Times (NYT) denunció que militares birmanos usaron Facebook para justificar una limpieza étnica contra los rohinyas, una minoría musulmana, y argumentaron que el islam representa una amenaza para el budismo.

Ipar recordó también “casos de incitación a la violencia interétnica en Etiopía”.

En noviembre de 2019, la BBC reprodujo el testimonio del atleta etíope Haile Gebrselassie, quien denunció a Facebook como responsable de la matanza de 78 personas debido a “la distribución de noticias falsas”, explicó.

“Comenzaron a buscar por dónde se había generado el discurso de odio, y descubrieron que fue a través de posteos en Facebook”, explicó a Télam el investigador.

“No fue la radio ni la televisión,ni un dictador hablando desde un medio oficial; fue desde la capilaridad de Facebook donde se generó la sensación de temor”, agregó.

Pero la forma en la que Facebook trató “de resolver estos problemas, los terminó agudizando”, dijo sobre la reformulación que hicieron del algoritmo.

A continuación, los pasajes centrales de la entrevista de Télam a Ipar.

– Télam: ¿Cuál es el objetivo del algoritmo?

– Ezequiel Ipar: Vincular a las personas y saber lo que a un usuario puede despertarle interés, en qué pondrá su atención. Por eso, se dice que Facebook domina la atención de los individuos. Eso es lo que busca el algoritmo: llamar tu atención, y relacionar a los usuarios.

– T: ¿Cómo asocia esa función del algoritmo con la difusión de los discursos de odio?

– E.I.: Cuando empezaron a decaer las interacciones entre individuos, en 2017/2018, Facebook rediseñó su algoritmo para, dijeron, que los usuarios tuvieran “una experiencia más saludable y significativa”. Lo que mostrarían de modo privilegiado ya no sería publicidad, sino lo que a tus amigos les resultara interesante para promover más “likes”, compartir más contenidos o incrementar el tráfico de comentarios. Así fue que detectaron que empezaron a destacarse los discursos que incitaban al odio en las interacciones. Se profundizó una interacción relacionada al narcisismo del odio, pero no lo consideraron porque los algoritmos cuantifican la interacción y la reacción de los usuarios, y no la calidad o el contenido de las respuestas.

El algoritmo facilita la circulación de mensajes, y los discursos de odio produjeron más interacciones en la red. Entre lo más saludable y lo más significativo, el algoritmo promueve lo significativo para generar mayor tráfico en la red. Así que es muy probable que el algoritmo de Facebook esté incitando campañas de odio.

– T: El algoritmo evalúa la intensidad de circulación de los mensajes, sin importar el contenido de los mismos. Es un hecho matemático sin connotación humana. ¿Por qué Facebook no modifica su algoritmo?

– E.I.: Porque verificaron que lo que más repotencia la circulación de los mensajes es, justamente, los mensajes con connotaciones de discurso de odio.

– T: ¿Qué hacen con ese dato sabiendo que terminan facilitando ese tipo de mensajes?

– E.I.: Estamos justo en ese momento. Haugen se dio cuenta de que en Facebook sabían lo que estaban movilizando con su algoritmo, y también que estaban dispuestos a no hacer nada para modificarlo. Ahora hay una respuesta curiosa desde Facebook porque empiezan a sugerir la necesidad de cierta regulación estatal dado que entendieron que hay algo del propio espacio digital, que ellos crearon, que está intrínsecamente descontrolado y que puede empezar a afectar a la plataforma y a su negocio. Creo que se dieron cuenta de que también existe el riesgo de que un buen porcentaje de sus usuarios se retiren de las redes por esa distribución de discursos de odio y violencia. Ellos mismos están sugiriendo que para que Facebook sea “significativa y saludable” ahora se requiere algún tipo de evaluación y supervisión, saber qué está pasando en la red, y una regulación externa.

– T: Pero no están permitiendo esa ventana de observación.

– E.I.: Todavía no, y ese es el conflicto en el que estamos ahora. Por un lado, hasta dónde -a partir de esta crisis- Facebook hará públicas las informaciones de las que dispone, y hasta qué punto están dispuestos a intervenir en la red como lo sugieren sus propios estudios. Esos documentos demuestran que hay profesionales en Facebook que ya tienen alternativas para modificar la circulación de los discursos de odio, pero son cambios estructurales que pueden poner en juego una parte del negocio. Uno de sus equipos estudió los temas de violencia, asedio y discurso de odio en el algoritmo, y sugirió quitar la posibilidad de compartir contenidos maliciosos. No eliminarlos, pero que tampoco puedan compartirse. Parece que lo probaron y funcionó, pero decidieron no adoptarlo. La crónica dice que ese documento interno llegó a las máximas autoridades de la empresa y la respuesta fue que era muy buena solución, pero que van a dejarla como una alternativa de emergencia. Imagino que se niegan a cambiarlo porque creen que la violencia y el discurso de odio son un problema social que se expresa en la red social, pero no es un problema de la red social en sí misma.

No te podés perder

El algoritmo que promueve los discursos de odio se vuelve un boomerang contra Facebook — Actualizate