Cuando los talibanes tomaron el poder en Afganistán en 2021, no solo desataron un terremoto geopolítico, sino que también pusieron a prueba los límites de la moderación de contenido en redes sociales. Meta, que los había catalogado como una organización peligrosa bajo su política de "Personas y Organizaciones Peligrosas", se encontró en un dilema: ¿debía permitir publicaciones del nuevo gobierno afgano o mantener su prohibición total? La respuesta, como suele suceder en estos casos, no era sencilla.
Meta tiene un sistema de clasificación de organizaciones peligrosas que divide a los grupos en dos niveles. En el Nivel 1 están las entidades que han cometido graves actos de violencia contra civiles, como grupos terroristas y organizaciones de crimen organizado. En el Nivel 2, se encuentran los actores violentos no estatales que atacan principalmente a fuerzas gubernamentales o militares en conflictos armados, pero no a la población civil. La política de Meta prohíbe la presencia de estas entidades en sus plataformas, además de eliminar contenido que las glorifique, apoye o represente.
Sin embargo, las redes sociales no existen en un vacío digital. Son plataformas con un impacto directo en la realidad política y social, lo que significa que sus decisiones de moderación tienen consecuencias tangibles. En el caso de Afganistán, prohibir la presencia de los talibanes en Facebook e Instagram significaba que los ciudadanos afganos no podían acceder a información oficial sobre regulaciones impuestas por su nuevo gobierno. Conscientes de este dilema, Meta optó por un enfoque matizado: bloqueó a la mayoría de los funcionarios talibanes, pero permitió publicaciones limitadas del Ministerio del Interior para informar sobre aspectos administrativos esenciales.
Te podría interesar
Este dilema no es exclusivo del caso afgano. La reciente designación de seis cárteles mexicanos y dos pandillas latinoamericanas como organizaciones terroristas por parte de Estados Unidos plantea un reto similar. Si Meta aplica sus reglas con la misma rigurosidad, debería eliminar cualquier contenido relacionado con estos grupos, incluidos reportes periodísticos o denuncias ciudadanas. ¿Pero qué pasa cuando estos mismos grupos ejercen un control territorial de facto en ciertas regiones? ¿Cómo se maneja la delgada línea entre informar y glorificar?
El desafío se agrava con la ambigüedad de ciertos contenidos. Según la política de Meta, se permite la discusión neutral, la cobertura noticiosa y la condena de estas organizaciones, siempre que el tono sea claro. Frases como "El Cártel de Sinaloa domina el tráfico de fentanilo" pueden ser permitidas en un análisis académico, pero una publicación con la misma frase sin contexto podría ser eliminada por sospecha de apoyo implícito.
Meta no solo enfrenta estos desafíos en teoría; sus acciones reflejan una respuesta constante al problema. Los datos más recientes muestran que la cantidad de contenido de organizaciones peligrosas moderado por la plataforma ha aumentado significativamente desde 2018, alcanzando su punto más alto en 2022 con más de 15 millones de acciones tomadas en un solo período. Esta tendencia muestra la evolución de los sistemas de detección y el compromiso continuo de la empresa con la seguridad digital.
Gráfica: Cantidad de contenido moderado por Meta referente a terrorismo. Fuente: Centro de transparencia de Meta.
A medida que las amenazas evolucionan, o que los grupos del crimen organizado son designados como terroristas, las plataformas deben equilibrar la necesidad de limitar la difusión de contenido peligroso sin caer en la censura indiscriminada. La transparencia en la aplicación de políticas y el desarrollo de herramientas más precisas para diferenciar entre información y propaganda serán clave.
Finalmente, hay que señalar que un aspecto clave en este debate es que, mientras Estados Unidos ha designado a varios cárteles mexicanos y pandillas latinoamericanas como organizaciones terroristas, el gobierno de México no los reconoce bajo esa categoría. Para México, estas organizaciones son criminales, pero su clasificación como terroristas podría implicar la intervención de actores extranjeros en asuntos de seguridad nacional, algo que históricamente ha sido motivo de tensiones diplomáticas entre ambos países. Por ello, se vuelve un reto en cómo responderá Meta a esta situación tanto en México como en Estados Unidos.