Científicos advierten que el control de las armas nucleares por parte de la IA podría conducir a una guerra «al estilo Terminator»


El mundo puede estar cada vez más cerca de una guerra nuclear apocalíptica, ya que el control sobre las armas nucleares se cede a la inteligencia artificial (IA).

El mundo puede estar cada vez más cerca de una era en la que una guerra nuclear apocalíptica al estilo Terminator podría ser posible debido a ceder el control de las armas nucleares a la inteligencia artificial (IA), según publicaciones de científicos nucleares y expertos en defensa.

Mientras que numerosos expertos en inteligencia artificial le han dicho al Jerusalem Post a lo largo de los años que las personas preocupadas por la inteligencia artificial que ataca a la humanidad como en las famosas películas de «Terminator» simplemente no entienden la tecnología, la probabilidad de que la IA cometa un error catastrófico con armas nucleares no es un cuento de hadas.

Un artículo reciente en el Boletín de los Científicos Atómicos, un importante grupo de científicos nucleares, así como otras publicaciones recientes de expertos en defensa, han dicho que Rusia ya puede estar integrando la IA en un nuevo torpedo nuclear que está desarrollando conocido como Poseidón, para hazlo autónomo.

Según el informe de Atomic Scientists, Estados Unidos y China también están considerando inyectar IA más profundamente en sus programas de armas nucleares a medida que modernizan y revisan su inventario nuclear.

No ha habido informes expresos sobre la integración de AI en Israel, lo que según informes extranjeros, es un aparato de entre 80 y 200 armas nucleares. Pero ha habido informes de que las FDI integraron IA en armas convencionales, como su bomba de especias transportada por F-16.
Parte de la preocupación en el informe era que integrar la IA en los sistemas de armas nucleares podría volverse culturalmente inevitable una vez que las armas no convencionales se vuelvan más dominadas por la IA.

Los riesgos del holocausto nuclear sobre los que los científicos y expertos están escribiendo no son una toma hostil por parte de AI, sino de que AI sea pirateado, se salga de control por un error técnico o juzgue mal una situación.

Inteligencia Artificial. Terminator 3 El despertar de las máquinas – Final de ataque nuclear HD (1080p)

Dichos riesgos podrían ser magnificados por vehículos no tripulados que llevan armas nucleares donde no hay nadie a bordo y responsables de tomar la decisión final de desplegar un arma nuclear.

Como un riesgo secundario pero aún serio, la integración de la IA en los sistemas de alerta temprana podría abrumar a los tomadores de decisiones humanos que podrían ser más rápidos en el dedo del gatillo nuclear para ceder ante la tecnología a pesar de las dudas de juicio humano que puedan tener.

Algunos estudios han demostrado que la inteligencia artificial y la evidencia automatizada en general pueden reforzar el pensamiento estilo burbuja y hacer que sea más difícil para los analistas entretener narraciones alternativas sobre lo que podría estar ocurriendo en situaciones turbias y de alto estrés.

Un ejemplo que el artículo da de la importancia del juicio humano fue un incidente de 1983 cuando un oficial soviético llamado Stanislav Petrov ignoró las advertencias audibles y visuales automatizadas de que los misiles nucleares estadounidenses estaban entrantes. Los sistemas estaban equivocados y si Petrov confiara en la tecnología por sus propios instintos, el mundo podría haber ido a una guerra nuclear por un mal funcionamiento tecnológico.

El artículo también señala posibles aspectos valiosos de la IA en el campo de las armas nucleares, como la recopilación de datos más precisos y completos para que los responsables de la toma de decisiones adivinen en la oscuridad con menos frecuencia.

Además, la inteligencia artificial puede proporcionar dicha información clave a los tomadores de decisiones mucho más rápido, mientras que en el pasado la información clave podría estar atascada en el proceso de recopilación sin llegar a los líderes a tiempo antes de que tuvieran que tomar una decisión.

Además, el artículo señaló que la IA se ha integrado en aspectos de los programas nucleares de los países durante algún tiempo.

Incluso en las décadas anteriores de la Guerra Fría, tanto EE. UU. Como Rusia tenían ciertas capacidades programadas en algunas armas nucleares para poder cambiar rápidamente a atacarse entre sí, en lugar de aterrizar inofensivamente en el mar, en caso de que ocurrieran ciertos escenarios. En general, la mayor preocupación sobre la IA en las armas nucleares es con el lado más débil en un enfrentamiento potencial.

Un país como China, con capacidades de armas nucleares o convencionales mucho más limitadas, podría tratar de integrar la inteligencia artificial en su programa de armas nucleares con la esperanza de acelerar la velocidad de despliegue para que Estados Unidos no pueda sacarlo de una guerra con una ventaja preventiva » primer anotación.»

Algunos analistas creen que esta podría ser una razón por la que Rusia está entreteniendo a la IA en su programa nuclear, mientras que otros consideran que Moscú quiere acelerar su despliegue de armas nucleares para tener una mentalidad más ofensiva y no solo en defensa propia.

Aunque tales habilidades parecen estar muy lejos de lo que Irán puede lograr, Teherán ha tenido saltos repentinos en la tecnología nuclear en el pasado cuando recibió asistencia de Rusia, China, Corea del Norte o Pakistán.

Fuente: https://www.jpost.com/International/Nuke-scientists-warn-AI-control-could-lead-to-Terminator-style-nuke-war-612123

Deja una respuesta

Por favor, inicia sesión con uno de estos métodos para publicar tu comentario:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Salir /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Salir /  Cambiar )

Conectando a %s

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.