Lily Qian / For The Times
Era octubre de 2020, las teorías de la conspiración electoral amenazaban con destrozar a Estados Unidos y Jessica González intentaba que una de las empresas más poderosas del mundo la escuchara.
La cosa no iba bien.
Después de meses de intentar conseguir una cita, González, codirectora ejecutiva del grupo de activismo de medios Free Press, finalmente logró agendar una reunión con algunos de los empleados de Facebook responsables de hacer cumplir los estándares de la comunidad de la plataforma social. El problema en cuestión: la propagación de información errónea viral entre los usuarios latinos y de habla hispana de la red.
En todo el país, una serie de medios engañosos habían propagado mentiras y verdades a medias, tanto en inglés como en español, a las comunidades latinas locales. A veces, la desinformación reflejaba lo que estaba viendo el resto de la nación: propaganda sobre el envío de boletas por correo y los vigilantes de antifa, o teorías de conspiración sobre el estado profundo y el COVID-19. Otras veces se inclinaba hacia preocupaciones más específicas de los latinos, como comparar al candidato Joe Biden con dictadores latinoamericanos o afirmar que los activistas de Black Lives Matter estaban usando brujería.
Gran parte de la desinformación se difundía en las redes sociales, a través de YouTube, Twitter y, fundamentalmente, Facebook, WhatsApp e Instagram. Los tres son propiedad de la misma empresa, recientemente rebautizada como Meta.
“El mismo tipo de temas que aparecían en inglés también surgían en español”, recordó González. “Pero en inglés, las señalaban o las bajaban por completo, y en español las dejaban en línea. Si finalmente las quitaban, tomaba días”.
Free Press había señalado brevemente el problema en julio de 2020 durante una reunión con el presidente ejecutivo de la compañía, Mark Zuckerberg. González había pasado meses desde entonces tratando de establecer otra conversación, más enfocada en el tema. Ahora, eso estaba a punto de suceder.
Al encuentro asistieron el director de políticas públicas de Facebook para la lucha contra el terrorismo y organizaciones peligrosas, su director global de riesgo y respuesta, y varios miembros del equipo de políticas de la empresa, según las notas de la reunión, revisadas por The Times.
Sin embargo, la conversación no salió como esperaba González.
Teníamos muchas preguntas específicas que no respondieron en absoluto”, relató. “Por ejemplo, les preguntamos, ¿quién está a cargo de garantizar la integridad de la moderación del contenido en español? No nos dieron respuesta a eso, ni siquiera si esa persona existía. Preguntamos, ¿cuántos moderadores de contenido tienes en español? Se negaron a [responder]. ¿Cuántas personas que moderan el contenido en español residen en EE.UU…? Sin respuesta”.
“Nos encontramos constantemente con lo que le ocurre a otros grupos que están trabajando en la desinformación o el discurso del odio”, agregó: “Con un montón de promesas vacías y falta de detalles”.
Free Press no fue el único que descubrió que Facebook era un socio menos que ideal en la lucha contra la desinformación centrada en los latinos y en idioma español. Días después de las elecciones, la agrupación y otras casi 20 entidades activistas, muchas de ellas centradas en los latinos, enviaron una carta a Zuckerberg criticando la “inacción y habilitación de su compañía en la selección, manipulación y privación de derechos de los usuarios latinos” durante las elecciones, a pesar de los “repetidos esfuerzos” de los signatarios para alertarlo de estas preocupaciones.
“Facebook no ha sido transparente en absoluto”, dijo Jacobo Licona, investigador de desinformación del grupo de participación de votantes latinos Equis Labs. Además, expresó, “no ha cooperado con los legisladores ni con las organizaciones que sirven a los latinos” que trabajan en la desinformación.
Pero dentro de Facebook, los empleados habían levantado sus propias banderas rojas durante meses, pidiendo una respuesta corporativa más sólida a las campañas de desinformación que su empresa estaba facilitando.
Esa era una vía directa a un tesoro de informes corporativos, memorandos y registros de chat que recientemente hizo públicos Frances Haugen, denunciante y ex empleada de Facebook.
No somos buenos para detectar información errónea en español o en muchos otros tipos de medios”, se lee en uno de esos documentos, una evaluación del riesgo del producto de febrero de 2020, incluida en las divulgaciones realizadas a la Comisión de Bolsa y Valores y proporcionada al Congreso en una versión editada por el asesor legal de Haugen. Un consorcio de organizaciones de noticias, incluido Los Angeles Times, obtuvo las versiones recibidas por el Congreso. El mismo documento agrega más adelante: “Seguiremos teniendo lagunas en la detección y aplicación, especialmente para el español”.
El mes siguiente, otro informe interno advirtió que Facebook “no tenía políticas de protección contra la supresión selectiva (por ejemplo, ICE en las urnas)”, aludiendo a la preocupación de que los votantes latinos no se presentaran a sufragar si se les decía, falsamente, que las autoridades de inmigración estarían presentes en los lugares de votación. El informe codificó esa preocupación en rojo brillante: alto riesgo, baja preparación.
Más adelante, en una evaluación de la capacidad de la empresa para manejar la información errónea viral, el informe agregó: “Aún existen brechas en la detección (por ejemplo, varios tipos de medios, publicaciones en español, etc.)”.
Un tercer informe interno señaló a los grupos raciales con bajas tasas históricas de participación de votantes como uno de los principales subconjuntos de usuarios de Facebook que enfrentan un riesgo elevado ante los esfuerzos por privar del derecho al voto. Los latinos se encuentran entre ellos.
Estas preocupaciones resultarían proféticas a medida que se acercaban las elecciones. “La desinformación que apunta a los latinos, en inglés y español, se daba en todo el país, especialmente en lugares con mayor población de esta comunidad”, incluidos California, Texas, Florida, Nueva York y Arizona, señaló Licona, el investigador de la desinformación. “Facebook fue, y sigue siendo, un actor importante”.
El portavoz de la compañía, Kevin McAlister, le dijo a The Times que Facebook tomó “una serie de pasos” antes de las elecciones de 2020 para combatir la desinformación en español.
“Creamos una versión en español de nuestro ‘Centro de información sobre votaciones’. En ella, las personas podían encontrar datos precisos sobre las elecciones, ampliamos nuestras políticas de interferencia de votantes y las aplicamos en español y agregamos dos nuevos socios de verificación de datos de EE.UU, que revisan el contenido en español en Facebook e Instagram”, señaló McAlister. “Invertimos en investigación interna para ayudar a los equipos a identificar de manera proactiva dónde podríamos mejorar nuestros productos y políticas antes de las elecciones de Estados Unidos de 2020”.
Otras medidas más amplias anunciadas en ese momento incluyeron no aceptar ningún anuncio político nuevo en la semana anterior al día de las elecciones y eliminar la desinformación sobre las condiciones de las elecciones en los tres días previos a ese día.
En la jornada electoral, la compañía informó haber eliminado más de 265.000 publicaciones de Facebook e Instagram que violaban sus políticas de interferencia con los votantes y agregó etiquetas de advertencia a más de 180 millones de casos de información errónea verificada.
En una publicación de junio de 2020 en su página personal de Facebook, Zuckerberg prometió “prohibir las publicaciones que hagan afirmaciones falsas diciendo que los agentes de ICE están revisando los documentos de inmigración en los lugares de votación; una táctica utilizada para desalentar el voto”.
La compañía también dijo que cuatro de sus 10 socios de verificación de datos en EE.UU manejan contenido en español. Sin embargo, los problemas que enfrentan los latinos en Facebook, WhatsApp e Instagram se extienden más allá de cualquier ciclo electoral, revelan las filtraciones de Haugen.
En 2019, Facebook publicó un estudio que analizaba internamente los esfuerzos para disuadir a las personas de participar en el censo de EE.UU y cómo los usuarios percibían la respuesta de la empresa a esos esfuerzos.
Entre las publicaciones que los usuarios informaron a Facebook estaban las que “le decían a los hispanos que no llenaran el formulario” y “que no participen en responder preguntas sobre ciudadanía”; así como aquellas que alegaban que las personas “estarían en peligro de ser deportadas si participaban”, que el gobierno “conseguiría” que participen y las que “disuadían a los grupos étnicos” de participar.
Los investigadores de Facebook también examinaron la posibilidad de que la abundancia de retórica antiinmigrante en el sitio tenga un costo enorme en el bienestar mental de los usuarios latinos.
Mientras discutía un estudio con colegas en un tablero de mensajes interno, un investigador comentó: “Queríamos evaluar si las poblaciones vulnerables se veían afectadas de manera diferente, por lo cual comparamos cómo se sentían [los usuarios] latinos en comparación con el resto de los participantes, dada la exposición a la retórica de odio antiinmigración. Descubrimos que expresaban niveles más altos de decepción e ira, especialmente después de ver contenido infractor”.
En otros foros de mensajes, a los empleados les preocupaba que los productos de la empresa pudieran estar contribuyendo a desigualdades raciales más amplias. “Si bien presumiblemente no tenemos ninguna política diseñada para perjudicar a las minorías, definitivamente tenemos políticas/prácticas y un comportamiento emergente que sí”, escribió un empleado en un foro llamado Integrity Ideas to Fight Racial Injustice. “Deberíamos estudiar de forma exhaustiva cómo nuestras decisiones y cómo los mecanismos de las redes sociales apoyan o no a las comunidades minoritarias”.
Otra publicación en el mismo grupo de justicia racial alentó a la compañía a ser más transparente sobre XCheck, un programa diseñado para brindar a los usuarios destacados de Facebook una moderación de contenido de mayor calidad que, en la práctica, eximió a muchos de seguir las reglas. “XCheck es nuestra implementación técnica de un doble estándar”, escribió el empleado. (Aparte de algunos gerentes y ejecutivos de alto nivel, los nombres de los empleados individuales de Facebook fueron eliminados de los documentos entregados a The Times).
Como sugieren estos mensajes internos, Facebook, una empresa enorme, con decenas de miles de empleados, no es monolítica. Los documentos filtrados revelan un desacuerdo sustancial entre el personal sobre todo tipo de problemas que afectan a la empresa, entre los que destaca la desinformación.
La evaluación de riesgos de los productos de 2020 indica una de esas áreas de desacuerdo. Después de señalar que la detección de información errónea en español sigue siendo “de muy bajo rendimiento”, el informe ofrece esta recomendación: “Sigan intentando mejorar. La adición de recursos no ayudará”.
No todo el mundo quedó satisfecho con esa respuesta.
“Para la información errónea, esto no parece correcto... ¿Por qué decimos que la adición de recursos no ayudará?”, preguntó un empleado en un comentario. “Tengo entendido que tenemos un [ingeniero de software] a tiempo parcial dedicado a la detección en [Instagram] en este momento”.
Un segundo comentario agregó que la desinformación dirigida “es una gran laguna… Señala que no tenemos recursos disponibles en este momento para respaldar cualquier trabajo que pueda ser necesario aquí”. (No queda claro si los dos comentarios los escribió el mismo empleado).
En las comunicaciones con el mundo exterior, incluidos los legisladores, la compañía ha hecho hincapié en la solidez de su moderación de contenidos en español más que en las preocupaciones planteadas por sus propios empleados.
“Realizamos revisiones de contenido en español las 24 horas del día en múltiples sitios globales”, escribió la empresa en mayo, en un comunicado dirigido al Congreso. “El español es uno de los idiomas más utilizados en nuestras plataformas y también es uno de los idiomas con mayores recursos en lo que respecta a la revisión de contenido”.
Dos meses después, casi 30 senadores y miembros del Congreso enviaron una carta a la compañía expresando su preocupación porque sus protocolos de moderación de contenido aún no lograban detener el flujo de información errónea en español. “Le instamos a que divulgue datos específicos y claros que demuestren los recursos que dedica actualmente para proteger a los que no hablan inglés de la información errónea, la desinformación y el contenido ilegal en sus plataformas”, expresó el grupo a Zuckerberg, así como a sus homólogos en YouTube, Twitter y Nextdoor.
La respuesta de Zuckerberg, que nuevamente enfatizó los recursos y la mano de obra que la compañía estaba invirtiendo en la moderación del contenido en idioma no inglés, los dejó decepcionados. “Recibimos una respuesta de Facebook, y en realidad fue más de lo mismo, sin respuestas concretas y directas a ninguna de nuestras preguntas”, aseguró un portavoz del representante Tony Cárdenas (D-Pacoima), uno de los principales signatarios de la carta.
En una entrevista posterior con The Times, el propio Cárdenas consideró su relación con Facebook “básicamente sin valor”. Durante las audiencias en el Congreso, Zuckerberg siguió “tratando de dar la imagen de que están haciendo todo lo que pueden: enormes avances, todo lo que pueden hacer, lo están haciendo; las inversiones son profundas, grandes y apropiadas”.
“Pero cuando se revisan sus respuestas, estas fueron muy escasas en detalles”, agregó Cárdenas. “Eran más bien aspiracionales y un poco apologéticas, pero en absoluto objetivas”.
Este es un sentimiento común en el Capitolio.
“Las plataformas en línea no están haciendo lo suficiente para poner fin a la desinformación digital”, dijo la senadora Amy Klobuchar (D-Minnesota) en un comunicado. “Cuando se trata de desinformación en otros idiomas, su historial es aún peor... Todavía se pueden encontrar publicaciones de Facebook en español de noviembre de 2020 que promueven mentiras electorales sin etiquetas de advertencia”.
“Lo he dicho antes y lo vuelvo a decir: las campañas de desinformación en español están explotando absolutamente en plataformas de redes sociales como Facebook, WhatsApp, etc.”, manifestó la representante Alexandria Ocasio-Cortez (D-N.Y.) en un tuit reciente. “[Son tantas, que] Están avergonzando a las campañas de desinformación en inglés de EE.UU”.
Los grupos activistas de los latinos también han sido críticos. UnidosUS (anteriormente llamado Consejo Nacional de La Raza) recientemente cortó los lazos con Facebook, devolviendo una subvención de la empresa por frustración con “el papel que la plataforma ha desempeñado en la perpetuación intencional de productos y políticas que dañan a la comunidad latina”.
Sin embargo, a pesar de toda la preocupación interna y las críticas externas, el español es un idioma relativamente bien manejado, según los estándares de Facebook.
Un memorando filtrado de 2021 desglosa los diferentes países por “cobertura”, una métrica que usa Facebook para rastrear cuánto del contenido que ven los usuarios está en un idioma compatible con el “clasificador cívico” de la empresa (una herramienta de inteligencia artificial responsable de señalar el contenido político para su posterior revisión por humanos). Según ese informe, el único país latinoamericano que tiene menos del 75% de cobertura es Haití, que no habla español. Estados Unidos, por su parte, tiene una cobertura del 99.45%.
Y un informe sobre los gastos de la empresa en 2020 indica que, después del inglés, el segundo mayor número de horas dedicadas al trabajo relacionado con la medición y el etiquetado del discurso del odio se destinó al contenido en español.
De hecho, muchas de las divulgaciones surgidas de las filtraciones de Haugen se centraron en las lagunas de cobertura en otros idiomas con menos recursos, especialmente en Oriente Medio y Asia.
Pero para aquellos que buscan proteger mejor a los latinos de la desinformación dirigida, las afirmaciones de Facebook de recursos suficientes, y las preocupaciones expresadas por sus propios empleados, plantean la pregunta de por qué las cosas no se están haciendo mejor. “Siempre dicen: ‘Los escuchamos; estamos trabajando en ello, estamos tratando de mejorar’”, expresó González. “Y luego simplemente no hacen nada”.
Para leer esta nota en inglés, haga clic aquí.
Suscríbase al Kiosco Digital
Encuentre noticias sobre su comunidad, entretenimiento, eventos locales y todo lo que desea saber del mundo del deporte y de sus equipos preferidos.
Ocasionalmente, puede recibir contenido promocional del Los Angeles Times en Español.
