En la entrega anterior mencionaba que hay dos temas de fondo que vale la pena comentar para entender mejor los alcances que pueden tener los peligros de la inteligencia artificial: primero, el de ciertos rasgos muy comunes de personalidad de nosotros los humanos, y segundo, el de la forma en la que estamos organizados política, social y económicamente.
En cuanto al primero de los tópicos decíamos que la ingenuidad, la aversión por conceptos y explicaciones científicas o complicadas, la propensión al pensamiento mágico y la facilidad de sumisión (todos rasgos bastante comunes en nuestras sociedades) crean contextos de alta vulnerabilidad ante el uso sin controles éticos de la inteligencia artificial generativa (IAG). Cuando ésta es usada, por ejemplo, para la propagación hiperpersonalizada de noticias falsas o mensajes maliciosos, las vulnerabilidades mencionadas se suman para hacer que la IAG sea una herramienta potencialmente muy efectiva y peligrosa para polarizar a la sociedad y destruir la democracia.
En cuanto al tema de nuestra formas de organización social, cito de entrada un párrafo absolutamente pertinente de un artículo de Naomi Klein publicado en The Guardian: "Hay un mundo en el que la IA generativa, como una poderosa herramienta de investigación predictiva y una ejecutante de tareas tediosas, podría organizarse para beneficiar a la humanidad, a otras especies y a nuestro hogar compartido. Pero para que eso suceda, estas tecnologías tendrían que desplegarse dentro de un orden económico y social muy diferente al nuestro, uno que tuviera como propósito satisfacer las necesidades humanas y proteger los sistemas planetarios que sustentan toda la vida".
Lamentablemente ese orden no lo hemos tenido nunca. La historia de la humanidad da cuenta de regímenes políticos que han privilegiado la concentración del poder en detrimento de mecanismos colaborativos y de sistemas económicos que incentivan la maximización de utilidades pecuniarias y propician la acumulación de la riqueza sobre cualquier otro mecanismo que reduzca las desigualdades y mejore el bienestar de todos los grupos de población.
Esos son temas de fondo que han generado desde hace siglos encendidos debates, que han iniciado revoluciones y que ahora son fuente de inspiración para diseñar estrategias engañosas y reivindicatorias con las que autócratas variopintos ganan elecciones legales para posteriormente demoler la democracia.
Estos sistemas que organizan nuestras vidas son fuente de riesgos estructurales del desarrollo de la inteligencia artificial generativa. No están diseñados para privilegiar la minimización de los daños potenciales de su desarrollo sino para en sus memorias de cálculo éstos resulten siempre aparentemente menores que los beneficios esperados.
A pesar de que la mayoría de la gente no lo ve y no lo percibe en lo absoluto, las civilizaciones que tenemos han nacido y se han desarrollado dentro de un ecosistema patriarcal que ha normado la gestación de toda la variedad de regímenes políticos, económicos y sociales que la humanidad ha experimentado. El ecosistema patriarcal ha envuelto a las civilizaciones humanas como lo ha hecho la atmósfera que respiramos. Es en ese ambiente, inundado de fallas originarias, en el que se está desarrollando y aplicando la inteligencia artificial generativa.
El guion se ha repetido un sinnúmero de veces: los promotores de una innovación técnica o tecnológica prometen enormes beneficios sociales como resultado de la aplicación libre y acelerada de la misma; los sistemas políticos y económicos permiten y justifican su aplicación mediante cálculos que maximizan las rentabilidades política y pecuniaria en el menor tiempo posible; los argumentos que llaman a la prudencia y a una consideración más cuidadosa de los daños potenciales son acallados por el entusiasmo multitudinario que despiertan las promesas escuchadas; la innovación es aplicada, quizá se observan algunos de los beneficios prometidos pero comienza la acumulación de daños; pasa el tiempo y éstos se empiezan a revelar cuantiosos ante el asombro de los incrédulos.
Pasó con la adición de plomo a la gasolina, con la comercialización de opiáceos altamente adictivos, con el aceite cristalizado de semilla de algodón y pasará, aunque no sabemos cómo, cuándo y en dónde, con la inteligencia artificial generativa si ésta no es debida y paradigmáticamente regulada.
La IAG es una herramienta avasalladora que viene acompañada de la obtención de enormes e insospechados beneficios, pero que trae bajo la manga una matriz de riesgos ocultos que iremos descubriendo paulatinamente.
Seguiremos con el tema.