CIUDAD DE MÉXICO, agosto 26 (XPFM).- La posibilidad de que una máquina pueda decidir por sí misma quién vive y quién muere preocupa cada vez más a la comunidad internacional. La ONU y el Comité Internacional de la Cruz Roja (CICR) advirtieron que el desarrollo de sistemas de armas autónomos está acercando al mundo a un escenario en el que decisiones letales podrían quedar fuera del control humano.
El secretario general de la ONU, António Guterres, y la presidenta del CICR, Mirjana Spoljaric, llamaron a los Estados a establecer con urgencia reglas internacionales claras y jurídicamente vinculantes para regular estas tecnologías.
Los sistemas de armas autónomos pueden identificar y atacar objetivos después de ser activados, sin una nueva intervención humana. A diferencia de un dron operado a distancia, en estos sistemas la selección y ataque del objetivo pueden quedar en manos de sensores y programas informáticos.
“Ahora nos encontramos peligrosamente cerca de cruzar una línea roja moral: el ataque autónomo de máquinas contra seres humanos”, advirtieron Guterres y Spoljaric.
El problema: ¿quién responde si la máquina se equivoca?
El derecho internacional humanitario exige distinguir entre objetivos militares y civiles y evitar ataques desproporcionados. Sin embargo, estos principios se vuelven más difíciles de aplicar cuando una máquina selecciona y ataca un objetivo por sí misma.
También existe el riesgo de que los sistemas enfrenten situaciones no previstas por sus diseñadores. Si una decisión autónoma provoca la muerte de civiles, determinar quién es responsable y cómo investigar una posible violación del derecho internacional podría resultar mucho más complejo.
Ante este escenario, la ONU y el CICR pidieron negociar un instrumento internacional que establezca prohibiciones y límites concretos. El CICR propone prohibir sistemas cuyos efectos no puedan comprenderse, preverse o explicarse adecuadamente, así como aquellos diseñados para aplicar directamente la fuerza contra personas.
El debate internacional continuará en distintos organismos y tendrá un momento clave en noviembre de 2026, durante la Séptima Conferencia de Examen de la Convención sobre Ciertas Armas Convencionales.
Para Guterres y Spoljaric, el objetivo no es detener la innovación tecnológica, sino establecer una frontera clara: las decisiones sobre el uso de la fuerza y la vida humana deben permanecer bajo un control humano efectivo.
