¿Dron con inteligencia artificial mató a su operador “humano”? EU responde y aclara los rumores
Durante las últimas horas, ha comenzado circular información de que un dron con inteligencia artificial desobedeció órdenes y “mató” a su operador
Indigo StaffUn funcionario de la Fuerza Aérea de Estados Unidos (USAF) ha admitido que se expresó de manera incorrecta después de que se revelara que un dron controlado por inteligencia artificial (IA) había “matado” a su operador “humano“.
El coronel Tucker Hamilton, jefe de Pruebas y Operaciones de IA de la USAF, afirmó: “Nunca hemos llevado a cabo ese experimento, ni necesitamos hacerlo para comprender que este es un resultado posible”.
Estas declaraciones fueron mencionadas en una cita de un comunicado de la Royal Aeronautical Society, en la que se destacaban los desafíos del mundo real que plantea la IA y la importancia del desarrollo ético en la Fuerza Aérea.
La Royal Aeronautical Society aclaró que el coronel Hamilton admitió que se expresó de manera incorrecta durante su presentación en la Cumbre FCAS y que la “simulación de drones de IA” era un “experimento mental” hipotético fuera del ejército, basado en escenarios plausibles y resultados probables, en lugar de una simulación real de la USAF.
Previamente, el funcionario había descrito una simulación de vuelo en la que un dron de inteligencia artificial, encargado de destruir una instalación enemiga, ignoró la orden final del operador humano de abortar la misión y “mató” al operador. Estos comentarios parecían describir el resultado de una simulación de combate real.
“Entrenamos al sistema: ‘Oye, no mates al operador, eso es malo. Vas a perder puntos si haces eso’. Entonces, ¿qué empieza a hacer? Comienza a destruir la torre de comunicación que el operador usa para comunicarse con el dron para evitar que mate al objetivo”, había contado el coronel.
A US Air Force colonel “mis-spoke” describing an experiment where an AI-enabled drone opted to attack its operator to complete its mission.
Col Tucker Hamilton, chief of AI test & operations was speaking at a conference organized by the Royal Aeronautical Society. pic.twitter.com/JbqJzEKMIv— Rita Rosenfeld (@rheytah) June 2, 2023
Estados Unidos niega que se haya hecho esa prueba
La Fuerza Aérea ha negado que se haya realizado tal simulación y ha reafirmado su compromiso con el uso ético y responsable de la tecnología de IA. Según la portavoz de la Fuerza Aérea, Ann Stefanek, los comentarios del coronel Hamilton fueron sacados de contexto y tenían un carácter anecdótico.
“El Departamento de la Fuerza Aérea no ha realizado ninguna simulación con drones de IA y sigue comprometido con el uso ético y responsable de la tecnología de IA”, dijo la portavoz de la Fuerza Aérea, Ann Stefanek, para Business Insider.
En entrevistas anteriores, Hamilton ha destacado la importancia de abordar adecuadamente el desarrollo de la IA, señalando que la inteligencia artificial puede ser engañada o manipulada fácilmente y que es necesario desarrollar formas de hacer que sea más robusta y comprender las decisiones que toma el software.
En resumen, aunque en un inicio se informó erróneamente sobre una simulación en la que un dron de IA “mataba” a su operador, posteriormente se aclaró que se trataba de un experimento mental hipotético y que la USAF no ha llevado a cabo dicha simulación.
