Lo que hasta hace muy poco tiempo era todavía una expectativa o pronóstico, en unos cuantos años se ha convertido ya en una realidad. La Inteligencia Artificial está cambiando nuestras vidas de manera acelerada tanto en lo individual como en lo colectivo al procesar información a una gran velocidad, automatizar procesos, facilitar la toma de decisiones, disminuir los márgenes de error y, en sectores como el de la salud, permite por ejemplo un diagnóstico de enfermedades más preciso en mucho menor tiempo, así como desarrollar tratamientos personalizados o crear nuevos medicamentos.
Sin duda la IA ha traído beneficios en muchas áreas pero a la vez, está generando preocupaciones que no son menores siendo algunas de las más comunes la forma en que habrá de afectar los empleos que se están volviendo prescindibles, también se ha llamado la atención sobre las noticias falsas o maliciosas (fake y deep news), los posibles sesgos en la información así como filtración y manipulación de la misma, la suplantación de identidad o invasión a nuestra privacidad. Es increíble como mediante la IA se puede llegar a conocer tanto de cada persona (hábitos, estilo de vida, patrones de consumo, vínculos, intereses, ubicación y hasta el estado emocional), quizá incluso mejor que nosotros mismos.
Sin embargo, también se empiezan a advertir otros riesgos de mayores dimensiones. Geoffrey Hinton, Premio Nobel de Física 2024 y premio Turing en 2018 ha alertado sobre las consecuencias que podría traer la IA si sus objetivos no se alinean con los valores humanos, siendo su mayor preocupación que se desarrollen armas autónomas que puedan amenazar a la humanidad. Recientemente el doctor Pedro Salazar, quien dirigió el Instituto de Investigaciones Jurídicas de la UNAM y actualmente coordina la Línea de Investigación en Derecho e Inteligencia Artificial (LIDIA), sostiene en su libro “Totalitarismo Total” que nuestra capacidad para discernir entre lo que es real y lo que es falso, generado por IA, está en crisis, así como que la carrera tecnológica está provocando la mayor concentración de poder en la historia y que, al fundirse el poder económico, político e ideológico en una alianza totalitaria, se pone en riesgo la libertad de las personas. También cita a Byung-Chul Han quien, al recibir el premio Princesa de Asturias en 2025 señaló que gracias a la digitalización estamos interconectados, pero a la vez nos hemos quedado sin relaciones ni vínculos genuinos.
Te podría interesar
En este contexto, el Papa León XIV emitió su primer Encíclica “Magnifica Humanitas” sobre la custodia de la persona humana en el tiempo de la inteligencia artificial, mediante la cual se exponen una serie de preocupaciones y planteamientos que contribuyen a la urgente discusión sobre los alcances, límites y necesaria regulación de la IA por lo que comparto algunos de sus principales aspectos.
El uso de la IA nunca es un hecho puramente técnico: cuando entra en procesos que inciden en la vida de las personas, afecta a sus derechos, oportunidades, reputación y libertad. Las decisiones delicadas que repercuten en el trabajo, el acceso a créditos y a otros servicios, y la reputación de las personas, corren el riesgo de ser confiadas completamente a sistemas automatizados que no conocen la compasión, la misericordia, el perdón y, sobre todo, la apertura a la esperanza de cambio en el individuo, pudiendo así producir nuevas formas de descarte. La IA tampoco es neutral, porque toma el rostro de quien la concibe, financia, regula y ejecuta.
La IA es ya un ambiente en que estamos inmersos y un poder que debemos afrontar, por eso no basta regularla, es necesario desarmarla. No es lícito confiar a sistemas artificiales decisiones letales o, en cualquier caso, irreversibles, no existe algoritmo que pueda hacer que la guerra sea moralmente aceptable.
El desinterés por la verdad conduce lenta pero inexorablemente hacia el totalitarismo para el cual, como escribió Hannah Arendt, los súbditos ideales no son tanto aquellos ideológicamente convencidos, sino las personas para quienes ya no existe distinción entre el hecho y la ficción ni entre lo verdadero y lo falso.
La IA no vive experiencia, no tiene cuerpo, no conoce el amor ni el trabajo, ni la responsabilidad, no tiene conciencia moral. Puede simular empatía o comprensión, pero no conoce lo que produce.
Confiar, en la práctica, a un algoritmo el poder de seleccionar quién es digno y quién no, sin que nadie asuma el peso de la decisión, significa encomendarle la tarea de redefinir los límites de las posibilidades humanas.