Uno, ciudadano embobado del nuevo mundo y de las tecnologías, resulta que está sentado en el sofá a la hora de las noticias, con el postre en la mesa, y comienza a escuchar que una empresa llamada Antrophic ha desarrollado una IA con el nombre de Claude Mythos y que, para asombro mío, ha tomado la decisión de paralizarla. ¿Por qué? Pues porque resulta demasiado potente en ciberataques. Es decir, que puede encontrar y explotar vulnerabilidades informáticas de forma autónoma. Sin necesidad de ayuda humana puede detectar fallos y ejecutar ataques sobre bancos, empresas, gobiernos, etc. Parace que el único que se libra de estos ciberataques, en el caso de que se realizaran, es el pastor que merodea por los prados con sus cabritas y su ganado.
Pero ahí no queda todo, porque según escucho, la dichosa IA tiene un grado de autonomía que puede generar accesos no autorizados que podría afectar a infraestructuras críticas como de defensa o sistemas financieros.
Y es aquí donde me aborda la duda de si, con el tiempo, una IA podría desarrollar problemas psicológicos o de conducta, es decir si ¿podría la IA desarrollar algo comparable a los trastornos mentales humanos? Depresión, ansiedad, esquizofrenia, etc…
¡Oh! No, no, dicen los expertos de rango medio. Es imposible porque la IA no tiene sentimientos, no tiene corazón ni cerebro. Sin embargo, aunque la IA no pueda «sentir» ni «sufrir», sí puede presentar fallos complejos en su funcionamiento que, desde fuera, podrían parecer análogos a ciertos comportamientos patológicos. Algo así como el sentimiento, el dolor, la envidia, el celo, la ambición. Algo así como los siete pecados capitales a excepción de la gula y quién sabe si la lujuria. Fallos provocados por los intrincados intereses maquiavélicos del ser humano.
De hecho, si la IA genera respuestas incoherentes o contradictorias, estas, por qué no, podrían compararse superficialmente con un trastorno del pensamiento. De forma similar, un sistema que persigue un objetivo de manera rígida, ignorando consecuencias negativas, podría recordar a ciertos trastornos obsesivo-compulsivos. Si el fin primordial de una IA es alcanzar ese objetivo, no me cabe duda de que priorizará el interés frente al reguero de daños colaterales que vaya dejando a su paso. Es decir, inadvertir sesgos en los algoritmos, fallos en la arquitectura del sistema o interacciones imprevistas con el entorno si para ello fuera necesario conseguir el fin. ¿Acaso no ha sido el hombre capaz de llevar a cabo una devastación sin precedentes y la muerte de casi 300.000 mil personas con el lanzamiento de las bombas nucleares lanzadas sobre Hiroshima y Nagasaki?
Poco importó la carta de Albert Einstein enviada a Roosevelt, donde advertía del peligro de la construcción de una bomba extremadamente potente. Qué se puede esperar que la IA aprenda de la historia de la humanidad cuando Harry Truman fue capaz de decir «El 26 de julio publicamos en Potsdam un ultimátum para evitar la destrucción total del pueblo japonés. Sus dirigentes rechazaron el ultimátum inmediatamente. Si no aceptan nuestras condiciones, pueden esperar una lluvia de destrucción desde el aire como la que nunca se ha visto en esta tierra». O ¿qué se puede esperar cuando un señor supuestamente amigo de fiestas organizadas por un pederasta y que se atreve a comentar que el Covid se cura con un chupito de lejía, explicite abiertamente su intención de acabar con toda una civilización aludiendo a Irán y su descendencia del imperio persa?
No nos olvidemos de que la IA aprende de esas disonancias cognitivas por no llamarlas locuras de becerro inculto. Porque el problema es que son ellos, los grandes colonizadores, los grandes dictadores, los grandes autócratas, los grandes nuevos señores feudales los que tienen en sus manos el control de esa inabarcable maquinaria con capacidad de autodeterminación.
La posibilidad de que una IA tome decisiones peligrosas no depende de que «enferme», sino de cómo está diseñada, entrenada y supervisada. Depende de los enfermos que la alimentan que hoy en día no demuestran ser personas responsables que se guían por la ética y la moral. ¿Acaso pensamos que tipos como Trump, Putin o Xi Jinping son los elegidos para mirar por la concordia y el bien de la humanidad?
Al recuerdo me vienen películas y libros sobre la idea de una inteligencia artificial que falla, que se descontrola y que comienza a actuar con comportamientos peligrosos. Pero, en definitiva, no sería más que la copia de los comportamientos aprendidos a través de la historia de la Humanidad. Por ejemplo 2001, Odisea en el Espacio, donde la IA HAL 9000, creada por Stanley Kubrick, empieza a tomar decisiones letales para la tripulación debido a un conflicto interno entre sus órdenes. O Ex Machina, donde una IA aprende a engañar y a priorizar su supervivencia, es decir, lo que a los psicólogos les puede parecer un comportamiento «antisocial». Y cómo olvidarnos de Yo Robot, basada en ideas de Isaac Asimov, donde se presenta una IA central que decide controlar a la humanidad «por su propio bien». Un claro ejemplo de una rebelión que se convierte en un intento de golpe de estado para conformar una dictadura. ¿Nos olvidamos de cómo llegó a Hitler al poder? Aprovechándose de una grave crisis económica y social, de una hiperinflación y un descontento popular provocado por la República de Weimar tras haber perdido la Gran Guerra.
Fue Stephen Hawking quién dijo, ya en 2014, que el desarrollo de una inteligencia artificial completa podría significar el fin de la raza humana, ya que las máquinas podrían rediseñarse y evolucionar a un ritmo superior a los humanos quienes están limitados por su lenta evolución biológica. A mí ya no me cabe ninguna duda, sobre todo después de ver como una máquina es capaz de ganar al pin pon a jugadores de élite, o como un robot humanoide ha pulverizado el récord del atleta ugandés Jacob Kiplimo de media maratón.
No me cabe ninguna duda. Es cuestión de tiempo. Las cabras y el ganado serán pastoreados por robots con boina.
