Millones de cuentas desaparecieron de Facebook e Instagram en cuestión de días mientras Meta intensificó el uso de inteligencia artificial para detectar perfiles que considera vinculados con bots, spam y otras actividades prohibidas.
La empresa eliminó más de 10 millones de cuentas en un periodo de dos días. El proceso analizó patrones de comportamiento y actividad digital para identificar perfiles que los sistemas consideraron parte de redes coordinadas.
La operación también provocó cambios en los números de seguidores de cuentas con grandes audiencias. Algunas figuras públicas registraron descensos importantes en sus contadores después de la eliminación masiva de perfiles.
Te podría interesar
El problema surgió cuando los sistemas automáticos también bloquearon cuentas de personas reales. Usuarios reportaron la pérdida de acceso a sus fotografías, contactos y publicaciones, además de dificultades para obtener una revisión humana de sus casos.
Cuando el algoritmo decide quién puede entrar
Meta utiliza herramientas de inteligencia artificial para analizar grandes volúmenes de actividad en sus plataformas. Los sistemas buscan patrones que pueden indicar la existencia de bots, cuentas falsas o campañas de spam.
Te podría interesar
El problema aparece cuando una actividad legítima coincide con los patrones que el sistema busca detectar. En esos casos, un usuario real puede recibir un bloqueo sin conocer con precisión qué provocó la decisión.
Algunos afectados reportaron dificultades para recuperar sus perfiles y para comunicarse con un representante de la empresa. La ausencia de una respuesta humana inmediata aumenta la dificultad para apelar las decisiones automatizadas.
La inteligencia artificial también participa en tareas de moderación de contenidos. Meta redujo la participación de revisores humanos en algunas funciones y aumentó el uso de herramientas automáticas para analizar publicaciones y actividad digital.
La otra disputa: la IA también evalúa trabajadores
El uso de inteligencia artificial no se limita a las cuentas de Facebook e Instagram. Un grupo de 26 trabajadores demandó a Meta en California por el uso de sistemas automatizados relacionados con la evaluación del desempeño laboral.
La demanda menciona el software Metamate, que analiza indicadores de productividad y actividad digital. Los trabajadores sostienen que las evaluaciones afectaron a personas que tomaron licencias por motivos médicos o familiares.
Los demandantes cuestionan que métricas digitales formen parte de decisiones relacionadas con la permanencia laboral. Meta sostiene que las decisiones finales corresponden a responsables humanos.
La empresa también redujo su plantilla global durante el año y aumentó la inversión en inteligencia artificial. El cambio modificó la relación entre el trabajo humano y los sistemas automatizados dentro de la compañía.
Meta y el problema de confiar en sistemas automáticos
La eliminación de millones de cuentas muestra la capacidad de la inteligencia artificial para procesar grandes cantidades de información en poco tiempo. También expone el riesgo de que un error automatizado afecte a una persona sin que exista una respuesta inmediata.
La discusión adquiere relevancia porque las plataformas concentran fotografías, conversaciones, contactos y años de actividad de sus usuarios. Para muchas personas, perder una cuenta implica perder el acceso a una parte importante de su vida digital.
El Consejo de Supervisión de Meta analiza decisiones relacionadas con la moderación y el uso de herramientas automatizadas. Organismos internacionales también revisan el impacto de estas tecnologías sobre la privacidad, el empleo y los derechos de los usuarios.
TAMBIÉN LEE: ¿Qué sabe internet de ti? La IA puede revelar tu pasado digital y afectar tu carrera profesional
TAMBIÉN LEE: La inteligencia artificial cambia las reglas de la seguridad: prevenir antes que reaccionar
Contexto
Las redes sociales enfrentan una cantidad creciente de cuentas y contenidos que deben analizar. Las empresas recurren a sistemas automatizados porque la revisión manual no permite procesar todo el volumen de actividad que generan sus plataformas.
El uso de inteligencia artificial permite detectar patrones en millones de perfiles, pero también plantea dudas sobre la posibilidad de corregir una decisión equivocada. El usuario puede enfrentar dificultades cuando una plataforma bloquea su cuenta y no ofrece una revisión humana rápida.
El debate también llega al ámbito laboral. Las empresas utilizan herramientas digitales para medir productividad y desempeño, mientras los trabajadores cuestionan el uso de esos datos en decisiones de contratación o despido.
Para Meta, el desafío consiste en ampliar la automatización sin perder mecanismos de revisión y apelación. La discusión también alcanza a otras plataformas que utilizan inteligencia artificial para decidir qué cuentas permanecen activas y qué usuarios pueden acceder a sus servicios.
VGB