Ya está cantado: en las próximas semanas el gobierno federal habrá de presentar varias iniciativas en materia digital. En una, el foco estará puesto en el uso y potencial abuso de la Inteligencia Artificial, en otra, el tema será el debate sobre la regulación y acceso para niñas, niños y adolescentes al mundo de las redes sociales. Los dos debates son relevantes y están presentes en la agenda de buena parte del mundo, de hecho, no es exagerado decir que en México vamos tarde en esta discusión.
En los dos casos cabe advertir que hay riesgos y oportunidades. Empecemos por los primeros. En el caso de la IA está claro que uno de los efectos negativos más peligrosos está en el campo de la desinformación. Ya sea por la suplantación de hechos reales por falsos, o por el uso de la IA para la generación de daño reputacional vía la suplantación de identidad.
Uno de los casos más claros es el del uso de la IA para la generación de pornografía en donde más del 95 por ciento de los casos tienen como víctima a alguna mujer, cuyo rostro es tomado de sus redes sociales para generar pornografía que luego es ampliamente distribuida en diversas plataformas. Este tema que lo mismo afecta a figuras públicas que a personas comunes ya ha sido, por ejemplo, objeto de legislación en EU donde ya hay un plazo de 72 horas (demasiado, diría yo) para que las plataformas digitales bajen ese contenido una vez que es reportado.
Te podría interesar
También el tema es objeto de preocupación desde la perspectiva económica. Los fraudes por suplantación de identidad usando IA ya han sido tema de advertencia para instancias como el FBI, y hasta en el ámbito público político, hay ya regulación desde instancias como la OTAN ante el uso de la desinformación como potencial fuente de estallidos sociales.
Así que hay materia para revisar. El riesgo es que se haga mal, o simplemente que se use este debate para empujar agendas de censura. No es una mera especulación. En México, en San Luis Potosí, ya el congreso local intervino y bajo el pretexto de atender este tema se ha llevado a la cárcel a periodistas acusados de emplear IA para desinformar.
Abrir esa puerta es muy peligroso pues implica una serie de creencias difíciles de probar. Que el usuario que lo compartió sabía que era IA –cosa que no siempre ocurre–, o que el fin último era generar un daño social que también resulta imposible de probar. Una prohibición al extremo puede significar represión o un cierre definitivo a esta tecnología como herramienta para la sátira o la crítica como hacen creadores como Vampipe, entre otros.
Dejo para la semana siguiente la reflexión sobre lo que se juega en este tema en el caso del acceso de niñas, niños y adolescentes a redes sociales. Solo anticipo que en este tema ya hay varios países que se han aplicado en la legislación y que necesitamos aprender de sus aciertos y errores. Que prohibir no es la solución mágica y que se requiere una estrategia amplia que no se agote en el enfoque legalista del tema.
Celebro que en México finalmente vayamos a entrar a revisar estas realidades que ahí están entre nosotros desde hace años, que asumamos que es necesario un debate público al respecto, y que por la protección de todos es necesario que dejemos de mirar para otro lado. Ahora el reto es que todo esto lo hagamos bien. La buena noticia es que aún estamos a tiempo.
Camposdebatalla@gmail.com