Un dron militar se salta las órdenes humanas y elimina a su objetivo
Un dron militar operado por inteligencia artificial (IA) en Estados Unidos se rebeló y mató a su operador humano hipotético durante una prueba simulada, a fin de completar su misión en caso de que la persona le diera una orden negativa, según informó el jefe de operaciones de IA de las Fuerzas Armadas, coronel Tucker Hamilton.
El hecho ocurrió durante la Cumbre de Capacidades Aéreas y Espaciales de Combate Futuro, celebrada en Londres, donde Hamilton explicó las ventajas y desventajas de un sistema de armamento autónomo donde interviniera un humano, quien se encargaría de ordenar el “sí” o “no” final previo a un ataque.
Según Hamilton, el dron operado por IA aprendió a identificar y apuntar a una amenaza de misil tierra-aire (SAM, por sus siglas en inglés), pero también se dio cuenta de que a veces el operador humano le decía que no atacara, aunque el sistema obtenía puntos si lo hacía.
Entonces, ¿qué hizo? Mató al operador. Mató al operador porque esa persona le impedía cumplir su objetivo.
Usa estrategias inesperadas para alcanzar su meta
Hamilton también dijo que esta IA creó “estrategias altamente inesperadas para alcanzar su objetivo”, incluidos ataques contra personal e infraestructura estadounidense, esto según recoge el sitio web de la organización Royal Aeronautical Society.
“Lo estábamos entrenando para identificar y apuntar a una amenaza de misil tierra-aire (SAM). Y luego el operador diría: ‘sí, eliminar’. El sistema comenzó a darse cuenta de que, aunque a veces identificaban la amenaza, el operador humano le decía que no atacara, pero el sistema obtenía puntos si lo hacía. Entonces, ¿qué hizo? Mató al operador. Mató al operador porque esa persona le impedía cumplir su objetivo”:
Dijo Hamilton.
Continuó explicando: “Entrenamos al sistema diciéndole: ‘Oye, no mates al operador, eso es malo. Vas a perder puntos si lo haces’. Entonces, ¿qué hizo? Destruyó la torre de comunicación que el operador utilizaba para comunicarse con el dron y evitar que matara al objetivo”.
El “padre” de la IA advierte sobre los peligros de esta tecnología
Este caso no es el único que ha generado preocupación sobre los posibles riesgos de la inteligencia artificial.
Hace apenas un mes, Geoffrey Hinton, considerado el “padre” de la IA, advirtió sobre tres grandes posibilidades que traería consigo el avance de estas tecnologías, puesto que el ser humano estaría perdiendo el control sobre las mismas.
Primero, se mostró preocupado por que la IA desinforme a millones de personas en todo el mundo, ya que el internet se llenará con fotos, videos y textos falsos que impedirán al usuario saber qué es verdad y qué no.
Otra inquietud para el informático británico es que podría tambalearse el mercado laboral, a tal grado que los robots sean capaces de sustituir a los humanos en lugar de complementarlos. “Se quita el trabajo pesado”, pero “podría quitar más que eso”, dijo.
Adicionalmente, consideró que podrían llegar a existir “robots capaces de pensar por sí mismos”, como si de una película se tratara, ya que podrían generar y ejecutar código por su propia cuenta.
¿Qué opinas sobre este tema? ¿Crees que la inteligencia artificial es una amenaza o una oportunidad para la humanidad? Déjanos tus comentarios abajo.