En un discurso reciente ante el Consejo de Seguridad de las Naciones Unidas, la ministra de Asuntos Exteriores australiana, Penny Wong, articuló una visión compleja de la inteligencia artificial (IA) y sus implicaciones para la guerra. Si bien reconoció los beneficios sustanciales que ofrece la IA en áreas como la atención médica y la educación, Wong expresó su preocupación por su posible integración en armas nucleares y sistemas autónomos. Sostuvo que la IA, a diferencia de los tomadores de decisiones humanos, carece de juicio moral y responsabilidad, lo que podría cambiar irrevocablemente el panorama de la guerra, haciéndola más peligrosa y con un mayor riesgo de una escalada involuntaria.
El debate sobre la IA en contextos militares a menudo se ve empañado por malentendidos tanto sobre la tecnología como sobre la naturaleza de la guerra en sí. Esto plantea preguntas críticas sobre si la IA realmente transformará la guerra y si puede considerarse inexplicable, como algunos afirman.
La aplicación de la IA en entornos militares ya es multifacética y se extiende desde simulaciones de entrenamiento hasta controvertidos sistemas de apoyo a la toma de decisiones que ayudan a orientar las operaciones. Por ejemplo, según se informa, las Fuerzas de Defensa de Israel utilizan un sistema de inteligencia artificial conocido como “Lavender”, que está diseñado para identificar miembros potenciales de grupos militantes, incluido Hamás. Estas tecnologías provocan intensos debates morales, especialmente porque existen en el momento crítico de la toma de decisiones de vida o muerte.
La idea de una «brecha de rendición de cuentas» surge en los debates sobre la IA, especialmente cuando algo sale mal. Esta cuestión suele ser destacada por informes sensacionalistas de los medios de comunicación sobre armas autónomas, a menudo denominadas «robots asesinos». Sin embargo, las armas más antiguas, como los misiles no guiados y las minas terrestres, no reciben la misma atención en lo que respecta a la responsabilidad, a pesar de que operan sin supervisión humana durante sus fases más mortíferas. El escándalo Robodebt en Australia, por ejemplo, ilustró cómo un sistema automatizado defectuoso tuvo consecuencias mucho más allá de la «falla» de cualquier sistema en particular, destacando que la responsabilidad a menudo recae en las personas detrás de la tecnología.
Los sistemas de IA, como cualquier tecnología compleja, no son entidades aisladas; son diseñados, desarrollados y utilizados por personas, y esta participación humana es crucial para evaluar la responsabilidad. Cada etapa del ciclo de vida de un sistema de IA (desde su concepción hasta su eventual retiro) requiere decisiones conscientes ligadas a la responsabilidad humana. Por lo tanto, el debate puede girar menos sobre la tecnología en sí y más sobre los marcos éticos y operativos establecidos por sus arquitectos humanos.
En última instancia, las preocupaciones sobre el impacto de la IA en la guerra deben desviar la atención hacia las personas responsables de los procesos de toma de decisiones que involucran estas tecnologías. Incluso si la IA cambia ciertas prácticas operativas, son los actores humanos involucrados quienes son responsables de las decisiones tomadas con respecto a su implementación y uso. Al hacerlo, el diálogo en curso sobre la IA en la guerra se convierte no solo en una cuestión de capacidades tecnológicas, sino fundamentalmente en una discusión sobre la ética humana y la responsabilidad en contextos militares.
