La ONU exige “prohibir los robots asesinos antes de que sea muy tarde”

A menudo la ciencia ficción nos advierte de la posibilidad de perder el control de nuestros robots, y ver que estos se subleven ante nosotros sus creadores o simplemente para dominarnos en el momento en el que obtengan una autonomía para tomar decisiones. Los ejemplos son varios: Ex Machina, Terminator, Yo Robot, etc. Aunque esto está lejos de llegar, al menos podemos hablar de algo en concreto: la industria de la guerra está usando cada vez más la tecnología de vanguardia como la inteligencia artificial o la robótica para fines bélicos, lo que pone en riesgo la vida de los seres humanos a niveles nunca antes vistos.

Ahora, en una cumbre organizada por Amnistía Internacional (AI) llamada Convención sobre Ciertas Armas Convencionales llevada a Cabo en Ginebra entre el 27 y 31 de agosto de 2018 se discutirá la negociación de una nueva legislación internacional para prohibir los sistemas de armas totalmente autónomos.

En un comunicado en el sitio web de AI, se indica que la reunión es un momento clave para que los Estados debatan opciones con las que abordar los desafíos éticos, humanitarios, de derechos humanos y de seguridad planteados por los sistemas de armas totalmente autónomos.

“Los robots asesinos ya no son cosa de ciencia ficción. Desde los drones dirigidos por inteligencia artificial hasta las armas automáticas que pueden elegir su propio objetivo, los avances tecnológicos en armamento ganan terreno rápidamente al derecho internacional. Nos deslizamos hacia un futuro en el que los seres humanos podrían verse eliminados de la toma de decisiones con el uso de la fuerza”, manifestó Rasha Abdul-Rahim, investigadora sobre Inteligencia Artificial y Derechos Humanos de la organización humanitaria.

Para la experta, “aun no es tarde para cambiar de rumbo”. Sostiene que la prohibición de los sistemas de armas totalmente autónomos podría impedir algunos escenarios realmente distópicos, como una nueva carrera de armas de alta tecnología entre superpotencias mundiales que provocaría que las armas autónomas proliferaran de forma generalizada”.

Abdul-Rahim solicitó a los Estados presentes en Ginebra esta semana “que actúen con la urgencia que esta cuestión requiere, y que presenten un mandato ambicioso para abordar los numerosos riesgos planteados por las armas autónomas.”

La mayoría de los Estados que asistieron a la última reunión de la Convención sobre Ciertas Armas Convencionales en abril de 2018 subrayaron la importancia de mantener el control humano sobre los sistemas de armamento y el uso de la fuerza, y manifestaron su apoyo al desarrollo de nueva legislación internacional sobre sistemas de armas autónomos letales. Veintiséis de estos Estados, entre ellos Austria, Brasil y Egipto, pidieron una prohibición total. China también ha pedido un nuevo protocolo de la Convención sobre Ciertas Armas Convencionales que prohíba el uso de sistemas de armas totalmente autónomos.

Lo interesante es que varios Estados poderosos se opusieron a crear prohibiciones vinculantes en términos jurídicos, entre ellos Corea del Sur, EEUU, Francia, Israel, Reino Unido y Rusia, países poderosos militarmente hablando y que se sabe que están desarrollando sistemas de armas autónomas.

La sofisticación no garantiza el cumplimiento del derecho internacional

Uno de los argumentos es que las nuevas tecnologías de la guerra, por más sofisticadas que sean, difícilmente incorporarán criterios intrínsecamente humanos para cumplir el derecho internacional. Por ejemplo, tomar decisiones difíciles sobre la proporcionalidad o la necesidad de un ataque. De ahí la necesidad de crear normas vinculantes al respecto.

“Hasta ahora, la probabilidad de que las armas autónomas se utilicen en operaciones policiales, con todos los riesgos que ello comporta, no se ha tenido muy en cuenta. Pero existen ya drones capaces de disparar dardos de electrochoque, gas lacrimógeno y proyectiles de pimienta. Israel ha utilizado recientemente drones semiautónomos para lanzar gas lacrimógeno contra manifestantes en Gaza, y es probable que volvamos a ver emplear este tipo de tecnología a organismos encargados de hacer cumplir ley en el futuro”, explicó la citada experta.

 

 

Daniel Meza
Esta noticia ha sido publicada originalmente en N+1, ciencia que suma

Sobre N+1: Es la primera revista online de divulgación científica y tecnológica que permite la reproducción total o parcial de sus contenidos por medios de comunicación, bloggers e influencers, realizando la mención del texto y el enlace a la web: “Esta noticia ha sido publicada originalmente en la revista N+1, ciencia que sumawww.nmas1.org”.​​​​​​

Suscríbete

Déjanos tu mail para recibir nuestro boletín de noticias

La confirmación ha sido enviada a tu correo.