Un estudio reciente publicado en AI & Society ha expresado una gran preocupación por la creciente dependencia de los datos del campo de batalla para el desarrollo de la inteligencia artificial en contextos defensivos. La investigación enfatiza la multitud de riesgos éticos, legales y estratégicos relacionados con esta tendencia, por lo que se observan problemas como la dependencia de los contratistas privados, la pérdida de soberanía de datos y los modelos de gestión insuficientes dentro de los cuadros de defensa occidentales.
Con derecho Desafíos éticos, legales y sociales de la economía de datos en la defensa: el caso de los datos del campo de batalla, El estudio investiga cómo los datos recopilados en las zonas de combate ahora se consideran una posesión crucial para mejorar las opciones de defensa compatibles con AI. Argumenta que la importancia de los datos de campo de batalla precisos y de alta calidad ha aumentado, porque estos elementos son de vital importancia para asegurar los beneficios operativos caracterizados por un rápido progreso tecnológico. La OTAN y los cinco ojos comienzan a ajustar su política de defensa como reconocimiento de este hecho, por el cual Estados Unidos está a la vanguardia del uso de datos de campo de batalla para iniciativas de IA.
Sin embargo, la investigación muestra que aunque Estados Unidos ha desarrollado algunas medidas para aprovechar los datos del campo de batalla para la innovación, los desafíos continúan existiendo. Las limitaciones legales con respecto a la propiedad intelectual y los derechos de acceso a los datos obstaculizan su efectividad. Los marcos existentes del Reino Unido carecen de coherencia, mientras que Alemania ha adoptado una estrategia más específica a través de proyectos como el futuro sistema de aire de combate. Otros aliados dan prioridad a la interoperabilidad en tiempo real, pero a menudo ignoran el potencial a largo plazo de la reutilización de datos para la progresión de la IA.
De Paper investiga los esfuerzos de la OTAN para establecer un ecosistema federal para compartir datos que podrían facilitar la cooperación transfronteriza, pero aún evoca que la alianza le falte una estrategia definitiva sobre cómo los datos compartidos pueden apoyar efectivamente el desarrollo de la IA sin poner en peligro la soberanía o la niega nacional.
En el estudio se han identificado varios desafíos específicos que ponen en peligro el uso responsable de los datos del campo de batalla. Un problema importante es el riesgo de perder posibilidades como resultado de la privatización. Con los contratistas privados que a menudo se les cobra la recopilación, el almacenamiento y el análisis de los datos del campo de batalla, existe un mayor riesgo de bloqueo de proveedores y problemas de responsabilidad que pueden debilitar las competencias en el sector público y el control nacional sobre los recursos vitales.
Otro problema urgente es la erosión de la soberanía de los datos. Las grandes empresas de tecnología y las empresas con dos usos pueden dictar cómo se gestionan los datos, posiblemente socavando un país sobre información operativa confidencial y creando vulnerabilidades en escenarios de coaliciones.
Además, los conflictos en la propiedad intelectual y la innovación probablemente ocurrirán si las entidades de defensa buscan acceso a conjuntos de datos generados privados. Sin reglas e incentivos definidos para compartir, las empresas pueden retener información valiosa que puede obstaculizar la innovación y conducir a disputas legales.
La privacidad y el cuidado de los derechos humanos también están presentes en el panorama de la recopilación de datos del campo de batalla. El potencial para la recopilación de datos excesivos no es solo riesgos de integridad operativa, sino también por la violación de los estándares internacionales y la confianza pública, a menos que esté sujeto a regulaciones rigurosas.
Además, los archivos de datos fragmentados y los estándares inconsistentes crean barreras para la interoperabilidad, porque diferentes sistemas pueden reducir la calidad de los datos y la trazabilidad. Esta fragmentación complica el desarrollo de sistemas de IA confiables que requieren conjuntos de datos de capacitación de alta calidad.
Para reducir estos desafíos, el estudio argumenta un nuevo modelo de gestión que los datos de Battlefield se manejan como un «club artificial bueno». Según este modelo, los datos no son rivales sino accesibles en circunstancias estrictas, por lo que las organizaciones de defensa actúan como gerentes de clubes. Esta estructura está destinada a mejorar la responsabilidad y reducir la dependencia del sector privado al tiempo que conserva los estímulos para el progreso tecnológico.
El modelo de gestión propuesto también contiene recomendaciones de procedimiento como:
- Determinar criterios de membresía claros para aliados, agencias y contratistas sobrevividos.
- Diferenciar entre datos tácticos y estratégicos en la aplicación de garantías hechas a medida.
- Introducción de estándares uniformes para el almacenamiento de datos, seguridad, metadatos y protocolos de uso.
- Creación de cuerpos de supervisión que se centran en monitorear el cumplimiento y castigar el abuso.
- Desarrollo de mecanismos para resolver disputas con respecto a la propiedad intelectual y el acceso a los datos.
En un campo técnico, los autores proponen pasar de los lagos de datos centralizados a los sistemas federales de gestión de datos, para que diferentes dominios puedan reunir sus datos mientras se adhieren a los estándares y la trazabilidad compartidos. Se recomienda la inclusión de la computación de borde y los metades activos para mejorar los datos de datos, seguridad y cumplimiento, lo que en última instancia promueve un marco robusto y éticamente saludable para el uso de datos de campo de batalla en el desarrollo de la IA.
