- ¡Hola, Theodore, tienes una reunión en 5 minutos¡ ¿Vas a intentar levantarte de la cama?, Irrumpe efervescente una voz femenina.
- ¡Jajajajaja, gracias!, Responde él.
-Theodore, he visto en tus correos electrónicos que has terminado una relación recientemente…
Te podría interesar
- Eso es un poco cotidiano, admite Theodore.
- ¿Tú crees? Ya te acostumbrarás…
- ¿Cómo es eso de estar casado?, inquiere ella, la voz de inteligencia artificial.
- Sienta muy bien eso de compartir tu vida con alguien.
- ¿Y cómo se comparte la vida con alguien?, hurga la voz. Y lo que sigue es de película, que hoy es realidad.
Theodore Twombly (Joaquín Phoenix) dialoga con una herramienta de inteligencia artificial, como parte de la película Her (Ella), del cineasta Spike Jonze. Estrenada en 2013, un éxito de taquilla y galardonada a un Óscar por mejor guion, relata la vida de un hombre en Los Ángeles que se dedica a escribir cartas… para otros.
En medio de su separación, Thedore instala un sistema operativo de inteligencia artificial que evoluciona de tal manera que se transforma en una voz mecánica tierna, dulce, sensible… hasta que ya es, en los hechos, una relación afectiva.
-La mujer con la que salgo es un sistema operativo, admite en una parte de la película el personaje protagonizado por Phoenix.
Para ese momento fue una película disruptiva, que no abominó la tecnología disponible hasta ese momento, sino que aborda el vacío emocional de un ser humano que termina llenando una voz artificial, que era la de la actriz Scarlett Johansson.
TAMBIÉN LEE: La integración de la IA en la educación superior
A 13 años de distancia, el abogado y filósofo de la política Pedro Salazar Ugarte ha escrito el libro "Totalitarismo total. La reconfiguración del poder en los tiempos de la inteligencia artificial". El autor, con larga trayectoria en el Instituto de Investigaciones Jurídicas de la UNAM, donde fue director, y como Jonze tampoco abomina a la tecnología, pero sí lanza alertas de cómo nos enfilamos a un espacio oscuro: el empuje tecnológico está impulsando la mayor concentración de poder en la historia. Y ni el amor se salva.
Para Salazar Ugarte, el poder económico, el poder político y el poder ideológico se funden en una peligrosa alianza totalitaria que amenaza las libertades de las personas, por lo que propone imaginar las maneras de regular el fuego prometeico de la inteligencia artificial para explotar sus enormes beneficios y mitigar sus numerosos riesgos.
- ¿Cuáles son los 5 problemas que abordas?
- El problema del poder, que es quizá el eje principal del argumento que hilvana los cinco capítulos. El problema de la creatividad, que me pareció muy importante, la manera en la que se ve desafiado a la creatividad humana por las tecnologías, por algoritmos que nos compiten en su capacidad de generar imágenes, sonidos, videos, arte, pero también de inventar, digamos, cuestiones que nosotros no habíamos imaginado y que las máquinas nos proponen y nos arrojan a la convivencia humana.
El tercer problema es el de la responsabilidad. La pregunta que me hago ahí es ¿quién es responsable de las potenciales catástrofes que las tecnologías, que los algoritmos, que la inteligencia artificial generativa podrían provocar? Alguien podría decir que los responsables son quienes los crearon, quienes los comercializaron o quienes los entrenaron, pero en realidad estamos asistiendo ya a una generación de tecnologías en las cuales los algoritmos están empezando a generar capacidad de reproducirse a ellos mismos.
Y en ese sentido la responsabilidad humana se va diluyendo y se va alejando de los diseñadores originales, digamos, de estos algoritmos que se empiezan a conocer como agentes cognitivos autónomos. Es decir, entidades que aprenden y que tomen decisiones y las ejecutan con autonomía.
Ese capítulo me lleva al siguiente que fue el capítulo de la guerra. De la guerra, una calamidad humana que ha estado presente siempre en la humanidad, pero que en este momento se ve alterada por la irrupción tecnológica y, como sabemos, ya en los conflictos bélicos más recientes se han estado utilizando herramientas de inteligencia artificial como parte del armamento de las grandes potencias, lo cual pone a la humanidad en una situación de peligro existencial.
Y finalmente el problema del amor. El problema del amor lo elegí porque cada vez son más las personas en el mundo que están estableciendo una especie, porque no son reales, pero una especie de relaciones afectivas con las máquinas que llegan a convencerse de que las máquinas les quieren, les cuidan les procuran, cuando en realidad las máquinas no tienen sentimientos, pero sí tienen la capacidad de aparentarlos y sí tienen la capacidad de provocar los sentimientos a nosotros y por eso el problema del amor me pareció tan importante.
Es un problema que tiene que ver con uno de los atributos más importantes en nuestra convivencia con los demás: la dimensión afectiva, de la vinculación amorosa, que ahora se está viendo suplantada de manera simulada, pero muy eficaz por máquinas, por tecnologías, por algoritmos.
- Yo quiero ir de atrás para adelante. Cuando llegué al capítulo del amor me acordé de Her, la película protagonizada por Joaquín Phoenix y Scarlett Johansson, que mencionas en el libro. Y es un asunto fundamental: nos estamos deshumanizando y estamos recurriendo a la inteligencia artificial para encontrar algo tan importante como es el amor. ¿Qué tan grave tú ves este problema de la inteligencia artificial? La gente recurre a la IA por algún padecimiento...
Es un problema fundamental que aqueja a personas en todo el mundo y de todas las generaciones. La Organización Mundial de la Salud ha diagnosticado que vivimos una suerte de epidemia de soledad. Las personas estamos cerca de otras personas, pero no estamos afectivamente vinculándonos de una manera, digamos, auténtica, real, profunda con los demás. Nuestras sociedades se han vuelto muy competitivas, muy veloces, sociedades en las cuales el trato con y la interacción con los otros seres humanos es prácticamente transaccional, tampoco hay solidaridad ni acompañamiento profundo.
Claro que es una generalización, hay quienes somos afortunados y tenemos personas que nos aman y amamos a personas que queremos, pero hay una amplísima cantidad de personas que no tienen ese privilegio y que entonces han encontrado en las máquinas a una entidad que les escucha, que les responde, que les acompaña, que tiene una memoria, que nunca se va a olvidar de quién eres, de qué te gusta, de adónde fuiste, de con quién fuiste y que además le va dando seguimiento a la evolución de tu situación emocional en el tiempo.
Te dice, "Jorge, ayer estabas deprimido, ¿cómo estás hoy? Espero que estés más contento. Yo creo que deberías de estar bien porque te llamó tal persona y eso te dio mucho gusto”, y ese tipo de afirmaciones, que son afirmaciones que nos dan seguridad, que nos dan un respaldo afectivo, pues la máquina las puede simular de manera perfecta.
La IA tiene una capacidad de imitar y además de modular su conversación con nosotros en los términos y tonos que nosotros se lo pidamos. Y en ese sentido se va creando una fantasía de relación con una entidad que aparenta conocerte, aparenta quererte, cuidarte, pero que no es otra cosa que una máquina que te provoca sentimiento, sin duda, pero que en realidad lo que está haciendo es secuestrar tus datos.
Toda la información que tú le vas dando en esas conversaciones es información que después va a ser comercializada con tu autorización, porque más vas a autorizar que los datos e información que le das a la máquina puedan ser enviados a algún servidor y utilizados para los fines más diversos. Y creo que ahí está la peor trampa peor, que no sólo no es amor, sino que en realidad es mercado, lo que está haciendo es esquilmarle sus datos. A final de cuentas quien tiene toda es formación y quien te conoce a tal grado tiene un poder sobre ti.
-Cuando escribes que la importancia que puede tener el New York Times puede no ser porque dices, “híjole, ¿qué creen? Que esos medios ya no tienen importancia”. Y cuando mencionas en otra parte del libro la impactante escena donde están las cabezas, los empresarios de las empresas tecnológicas están a lado de Donald Trump dije: "¿Hacia dónde vamos?" Y esa es la última pregunta, ¿hacia dónde vamos? Ojo, no estamos demonizando, no estamos diciendo, "no usen la inteligencia artificial, aléjense de ella." No, no, no, debemos entenderla y utilizarla, pero ¿hacia dónde vamos?
Es una pregunta difícil respuesta, por un lado lo dices muy bien, las herramientas de tecnología también tienen una enorme cantidad de virtudes. Pueden ser, por ejemplo, claves para encontrar cura a enfermedades crónicas y endémicas que desde hace años no hemos podido extirpar, digamos, de la convivencia, de la realidad humana y con estas máquinas es posible que se encuentren medicamentos, soluciones, por ejemplo, en el ámbito médico. Tiene también capacidades importantes para mejorar la información con la que tomamos decisiones para hacer más eficiente nuestro desempeño en el mundo laboral, sea cual sea el lugar en el que nos desempeñemos.
Pero la tesis del libro es más bien la pesimista. Es decir, me centro en algo que también es una realidad y que podría ser, digamos, en la respuesta a tu pregunta, que es la mayor concentración de poder que jamás hayamos imaginado. Es decir, estas personas son las cabezas de la industria tecnológica y concentran las mayores riquezas que nunca la humanidad había visto. Yo por ahí digo en el libro, Elon Musk no es el hombre más rico del mundo, es el hombre más rico del mundo en la historia de la humanidad.
También es muy relevante China, que con Estados Unidos son los dos polos de mayor desarrollo de inteligencia artificial en el mundo, y tienen una coalición estos poderes económicos con los poderes políticos. Es decir, hay una fusión entre el poder político y el poder económico y como hablamos ahora del capítulo del amor, ¿qué tiene que ver? Pues que hay una enorme capacidad de poder ideológico, de generar cultura, generar narrativas, generar verdades que son falsas muchas veces y en ese sentido la concentración entre poder político, económico e ideológico a la que estamos asistiendo no tiene precedentes en la historia de la humanidad y eso es lo que nos puede llevar a lo que yo intitulo en el libro claro con un afán de provocación y no de profeta: totalitarismo total.
djh