Busque en el archivo de publicaciones o dentro de este sitio web
La primera estrategia OTAN de la historia sobre Inteligencia Artificial (IA) se ha aprobado este mes de octubre de 2021, destacando en ella los principios y la base legal para un uso seguro y responsable de la IA y la normativa que orientará el camino para establecer unas normas prácticas compartidas por los aliados de acuerdo con la legislación internacional y los valores de la OTAN.
Los principios que se incluyen constituyen una guía relevante para las empresas que tienen la obligación de evaluar el impacto legal de los sistemas de IA en uso o que se usaran en el futuro y para que la OTAN pueda llevar a cabo un análisis de riesgo y valoración de impacto antes de desplegar sistemas de IA en operaciones.
La estrategia aliada en IA afectará a todas las actividades que realice la Alianza en apoyo de sus tres misiones esenciales; la defensa colectiva, la gestión de crisis y la seguridad cooperativa. La OTAN tiene previsto en el futuro integrar la IA de forma que pueda interoperar con las tres misiones citadas. El uso de la IA se realizará de forma transparente y responsable en toda la organización, en el apoyo a las misiones aliadas y en todos los niveles operativos de acuerdo con la legislación internacional.
La estrategia aliada sobre IA se apoyará sobre cuatro sólidos pilares:
1. Cooperación destacada entre la OTAN, la empresa privada y el mundo académico
2. Fuerza laboral de Técnicos bien dirigidos con talento y capacidades en IA
3. Infraestructura actualizada, robusta y segura de gestión de datos
4. Adecuada Ciberdefensa
Por tanto, se establecen los siguientes seis principios, basados en compromisos éticos, legales y de normativa en vigor ampliamente aceptados, para el uso responsable de la IA en la OTAN de acuerdo con los valores de la Alianza, sus normas y la legislación internacional:
1. Legitimidad: Las aplicaciones de IA serán desarrolladas y se usarán de acuerdo con las leyes nacionales e internacionales incluyendo el derecho internacional humanitario y los derechos humanos cuando sean aplicables.
2. Responsabilidad: Las aplicaciones de IA serán desarrolladas y utilizadas con un nivel apropiado de cuidado y buen juicio. Los responsables rendirán cuentas de su uso.
3. Trazabilidad y sencillez: Las aplicaciones de IA serán fácilmente entendibles y transparentes para el usuario. Para ello se incluirán mecanismos de valoración, validación y verificación a nivel OTAN y nacional.
4. Fiabilidad: La seguridad de funcionamiento y de uso y la robustez de las aplicaciones de IA estarán sujetas a comprobación y valoración, contando con simulación bien definida de posibles eventualidades para el usuario.
5. Gobernabilidad: Las aplicaciones de IA estarán desarrolladas y serán usadas de acuerdo con las funciones para las que están previstas y permitirán:
a. Interacción apropiada hombre-máquina
b. Capacidad de detectar y evitar consecuencias indeseadas
c. Capacidad para ser desacopladas o desactivadas
6. Mitigación de posibles sesgos: Se desarrollarán todas las acciones necesarias de forma proactiva para minimizar cualquier sesgo no deseado en el desarrollo y uso de las aplicaciones de IA y en las bases de datos.
Estos principios se aplicarán a lo largo del ciclo de vida de cualquier capacidad de IA y los aliados y la OTAN los aplicarán en todas las líneas de desarrollo de aplicaciones de IA.
Uno o varios Centros OTAN de Evaluación de IA desarrollaran las mejores prácticas para su uso por los aliados y para desarrollos futuros de esta Estrategia.
Vicente Moret Millas
