- El Secretario General de la ONU pide la prohibición mundial de los “robots asesinos” autónomos.
- Guterres sostiene que delegar decisiones de vida o muerte a las máquinas es “moralmente repugnante”.
- Los gobiernos deberían adoptar una postura ahora, no esperar a que suceda algo catastrófico.
El Secretario General de la ONU, Antonio Guterres, ha pedido que las armas letales autónomas, que describió como “robots asesinos”, sean prohibidas según el derecho internacional tras las recientes conversaciones en el primer Diálogo Global sobre la Gobernanza de la Inteligencia Artificial en Ginebra.
El llamado de Guterres a prohibir estas armas se centra en aquellas capaces de identificar, seleccionar y atacar objetivos sin supervisión humana, dejando a la inteligencia artificial y otros sistemas informáticos a cargo de las decisiones de vida o muerte.
En última instancia, argumentó que ciertas decisiones deben ser exclusivamente humanas y que la decisión de quitar una vida está dentro de los límites de la necesidad de supervisión humana. Sostuvo que entregar la toma de decisiones a robots asesinos sería “moralmente repugnante” y “políticamente inaceptable”.
La IA requiere una regulación global ya que la IA militar representa una gran amenaza
El núcleo del argumento del Secretario General es que insta a los gobiernos a actuar ahora y prohibir esos robots, en lugar de esperar a que se produzca un incidente importante que involucre un arma autónoma antes de repensar sus tácticas.
“No esperemos a que ocurran atrocidades”, dijo Guterres. “Algunas decisiones deben seguir siendo humanas para siempre; ninguna más que quitar vidas humanas”.
La cuestión se vuelve más urgente ahora que los modelos de IA y los chips avanzados ya se están utilizando en inteligencia militar, objetivos y otros sistemas de campo de batalla.
En términos más generales, el pensamiento de Guterres se alinea con Anthropologie, que recientemente chocó con el Pentágono después de buscar garantías de que sus modelos no serían utilizados para armas autónomas o vigilancia.
Aunque el Pentágono rechazó esas restricciones, argumentando que debería poder utilizar los modelos de Anthropic para cualquier propósito legítimo, el caso pone de relieve cómo las empresas privadas se están involucrando cada vez más en la guerra digital.
Informes por El diario de Wall Street El Papa León XIV citó una opinión similar, quien advirtió que las armas controladas por IA podrían promover una visión “antihumana” de la guerra. Advirtió que la autonomía podría reducir algunos de los peligros y distanciar a los líderes políticos de las consecuencias humanitarias del conflicto.
Es necesario equilibrar las ventajas y desventajas de la IA
Sin embargo, la inteligencia artificial promete varias ventajas en la guerra moderna, en particular la capacidad de procesar grandes cantidades de información con extrema rapidez. Con la informática moderna, los militares pueden responder a las amenazas a la velocidad del rayo, mejorar su precisión y exactitud, reducir el riesgo para los soldados y potencialmente reducir las bajas civiles.
Los críticos también cuestionan si la supervisión humana de los sistemas de IA tiene algún sentido si, en primer lugar, la persona a cargo tiene sólo unos segundos para actuar sobre la información generada por la IA.
Aún no se ha determinado qué parte o grupo de partes debe ser considerada responsable de un incidente o accidente: operadores humanos, comandantes, fabricantes de hardware y desarrolladores de software son algunas de las partes en la sentencia.
“Podemos ser la última generación en términos en los que la humanidad y las máquinas puedan coexistir”, advirtió Guterres por separado en una publicación de X que la IA debe ser gobernada, confiable y justa.
“Suena a ciencia ficción, pero es una posibilidad real, y podría cambiar el mundo de maneras que aún no entendemos, y podría cambiar la dinámica energética de nuestro planeta de maneras que necesitan nuestra atención”, añadió el copresidente de AI, Yoshua Bengiore, del Panel Científico Internacional Independiente.
Siga TechRadar en Google News Y Agréganos como fuente preferida Recibe noticias, reseñas y opiniones de nuestros expertos en tu feed.
