Naciones Unidas y el Comité Internacional de la Cruz Roja (CICR) renovaron su llamado a establecer reglas internacionales obligatorias para controlar los sistemas de armas autónomas, ante el rápido avance de tecnologías capaces de seleccionar y atacar objetivos con una intervención humana cada vez menor. El secretario general de la ONU, António Guterres, y la presidenta del CICR, Mirjana Spoljaric, pidieron a los gobiernos que dejen atrás años de discusiones y comiencen este mismo año negociaciones para establecer prohibiciones y restricciones jurídicamente vinculantes.
Ambos consideran que la reunión prevista para noviembre, durante la Séptima Conferencia de Examen de la Convención sobre Ciertas Armas Convencionales, representa una oportunidad para avanzar hacia un acuerdo internacional. “Hoy renovamos este llamamiento con una urgencia aún mayor. Las preocupaciones fundamentales no han cambiado, pero los riesgos se han intensificado. Estamos peligrosamente cerca de cruzar una línea roja moral: que las máquinas seleccionen de forma autónoma a seres humanos como objetivos”, señalaron.
La autonomía militar reduce el control humano
El principal problema planteado por la ONU y la Cruz Roja es el grado de control que las personas conservarán sobre decisiones de vida o muerte cuando los sistemas militares incorporen mayores capacidades de inteligencia artificial, sensores, reconocimiento y algoritmos. Este tipo de armamento, conocido formalmente como Sistemas de Armas Autónomas Letales (LAWS, por sus siglas en inglés) o “robots asesinos”, plantea serias deficiencias en el derecho internacional humanitario.
Cuando un algoritmo comete un error, ataca a la población civil o viola las leyes de la guerra, resulta casi imposible determinar quién debe responder penalmente: si el operador que lanzó el dispositivo, el comandante en la cima de la cadena de mando o los ingenieros y programadores que diseñaron el software. Esta laguna jurídica amenaza con sembrar una impunidad generalizada en los conflictos modernos.
Guterres y Spoljaric sostienen que una mayor autonomía puede incrementar los riesgos para civiles e infraestructura civil, especialmente en conflictos donde las nuevas tecnologías ya están modificando la manera de conducir las operaciones militares. “Los Estados deben mostrar valentía política y pasar de las discusiones graduales a una acción decisiva”, afirmaron.
La preocupación no se limita al campo de batalla. Los especialistas también advierten que, cuando una máquina toma parte de la decisión letal, puede resultar más complicado determinar quién es responsable si el sistema comete un error, ataca a civiles o viola el derecho internacional humanitario. “Una falta de acción rápida y decisiva costará vidas”, advirtieron.
Los drones ya muestran los riesgos de estas tecnologías
El debate dejó de ser exclusivamente teórico. El material analizado señala como ejemplo la guerra entre Rusia y Ucrania, donde drones autodetonantes y otros sistemas con funciones autónomas han sido utilizados contra infraestructura energética. En diciembre de 2022, cientos de drones Shahed-136 fueron empleados en ataques contra la infraestructura energética ucraniana. Dos centrales eléctricas en Odesa quedaron destruidas, dejando a aproximadamente 1.5 millones de personas sin electricidad ni calefacción durante los meses más fríos del invierno.
Estos sistemas pueden operar después de ser activados sin requerir una intervención humana constante. Los avances en inteligencia artificial podrían ampliar todavía más esas capacidades y permitir que las máquinas identifiquen objetivos mediante sensores y algoritmos.
Desde 2013, Naciones Unidas ha advertido sobre los riesgos humanitarios de las armas autónomas letales, mientras los Estados han discutido conceptos como “control humano significativo” y “juicio humano”.
La responsabilidad también alcanza a comandantes y desarrolladores
El avance de estas armas plantea otra pregunta: quién responde por un ataque ilegal cuando participan operadores, comandantes, diseñadores y programadores. El derecho internacional ya contempla la responsabilidad de mando por crímenes de guerra y crímenes de lesa humanidad. Sin embargo, los sistemas autónomos pueden crear nuevos vacíos cuando su funcionamiento es tan complejo que ningún individuo comprende por completo cómo se produjo una decisión.
El caso de Ucrania ha llevado incluso a la Corte Penal Internacional a emitir órdenes de arresto contra altos mandos rusos por ataques contra objetivos civiles. El debate sobre armas autónomas podría ampliar las responsabilidades hacia quienes diseñan, integran, despliegan y supervisan estos sistemas.
Guterres y Spoljaric sostienen que noviembre debe marcar un punto de inflexión. “Las generaciones futuras preguntarán si los líderes actuaron cuando todavía existía la posibilidad de establecer límites antes de que estas armas proliferaran fuera de control”. “El camino está claro. La necesidad es urgente. La innovación debe servir a la humanidad, no ponerla en peligro”.
Te puede interesar
Rusia ataca tren de pasajeros a 2 km de la frontera con Polonia
Quién es Sarah Khalifa, la presentadora de TV condenada a muerte en Egipto por tráfico de drogas
Fuerzas estadounidenses atacan a varios buques petroleros iraníes en el estrecho de Ormuz