Busque en el archivo de publicaciones o dentro de este sitio web
Madrid, 5 de junio de 2024.
El 5 de junio de 2024 tuvo lugar una mesa redonda organizada por la Academia de las Ciencias y las Artes Militares en colaboración con Isdefe. La actividad tuvo por título » Impacto de la IA en el sector de la Defensa y Seguridad” y se desarrolló en el salón de actos de la sede de Isdefe en Madrid.
La actividad comenzó con el saludo de Ildefonso Vera Gómez, director del departamento de Innovación, Procesos y Transformación Digital de Isdefe. A continuación, Jaime Domínguez Buj, general de ejército, presidente de la Academia de las Ciencias y las Artes Militares dirigió también unas palabras de bienvenida.
El moderador de la mesa fue José Carlos de la Fuente Chacón, general de división (R) académico de número. Después de presentar la mesa redonda, hizo la presentación de los ponentes, con un breve resumen de los currículos de cada uno. A continuación, cedió la palabra al primer ponente, Mateo Burgos.
Mateo Burgos es catedrático en la Escuela de ingenieros de Telecomunicación de la Universidad Politécnica de Madrid. Es también director de la Cátedra ISDEFE-UPM en Defensa y Seguridad, integrada en la red Horizontes.
El ponente comenzó aclarando que no es un desarrollador de IA, sino un experto en tecnologías para la defensa y la seguridad. Explicó que la IA es una tecnología poderosa que tiene el potencial tanto para aplicaciones buenas como malas. A continuación, mencionó que la IA ha avanzado significativamente, especialmente con la aparición de la IA generativa como ChatGPT. Esto ha llevado tanto a avances como a amenazas, como la capacidad de generar correos electrónicos de phishing realistas.
Por otra parte, Mateo Burgos predijo que la IA continuará desarrollándose independientemente de las regulaciones, y que es probable que Estados Unidos y Asia lideren este desarrollo. Argumentó que, si bien las regulaciones son necesarias, no deben obstaculizar el progreso. El ponente concluyó afirmando que la IA debe desarrollarse de manera controlada y colaborativa, con humanos siempre involucrados.
Finalmente hizo un recorrido por algunas aplicaciones potenciales de la IA en la defensa y la seguridad. Se refirió, entre otras a algunas que ya están en marcha, como el mantenimiento predictivo, la recopilación de inteligencia de código abierto y el análisis de señales.
Su conclusión fue que la inteligencia artificial se va a desarrollar, ya sea para el bien y para el mal, o solamente para el mal.
Le sucedió en el uso de la palabra Antonio Portilla Figueras. Doctor ingeniero de Telecomunicación, es actualmente Catedrático en la Universidad de Alcalá, de la que ha sido su Director en el periodo 2016-2022. Dirige la Cátedra ISDEFE-UAH en TIC e Inteligencia Artificial desde el año 2018. Comenzó su ponencia subrayando la evolución de la IA desde mediados del siglo pasado hasta la actualidad y destacó el significativo avance en las capacidades computacionales.
El ponente arrancó su exposición en torno a diversos subcampos de la IA, mencionando algoritmos de optimización, aprendizaje automático, aprendizaje profundo, sistemas difusos y la hibridación con sistemas robóticos, entre otros. Explicó cómo estas herramientas pueden aplicarse a problemas específicos en el ámbito de la defensa, dividiendo su aplicación en siete áreas clave. Estas áreas son: inteligencia, vigilancia y reconocimiento, logística, ciberoperaciones, mando y control, tratamiento de grandes volúmenes de datos, vehículos autónomos y sistemas de armas autónomas.
A continuación, Antonio Portilla mencionó varios desafíos éticos y operacionales asociados con la implementación de la IA en defensa. Hizo hincapié en la necesidad de que la IA sea confiable, robusta, segura y supervisada por humanos. Además, destacó la importancia de considerar los derechos humanos y las leyes de la guerra en el desarrollo y uso de tecnologías de IA.
Asimismo, abordó la problemática de la explicabilidad de los modelos de IA, lo que plantea retos significativos en términos de confiabilidad y control. También mencionó la importancia del manejo adecuado de los datos, asegurando que sean estructurados y confiables.
Concluyó su intervención refiriéndose a proyectos específicos en los que está involucrada su cátedra, como el diseño de sistemas de seguridad y la detección temprana de ciberataques.
La tercera ponencia corrió a cargo de Luis Alfonso Ureña. Doctor en Informática, catedrático de Lenguajes y Sistemas Informáticos del Departamento de Informática de la Universidad de Jaén. Miembro de la Junta de Gobierno de la Confederación de Sociedades Científicas de España.
El ponente comenzó con una cita del CEO de Microsoft sobre la importancia del lenguaje humano como nueva interfaz de usuario, destacando su relevancia en la comunicación hombre-máquina. Mencionó el papel fundamental de los avances en inteligencia artificial, particularmente en el procesamiento del lenguaje natural, gracias a la gran capacidad de cálculo y el desarrollo de técnicas como los transformers. Estos modelos, inicialmente usados para predecir texto, han evolucionado para abarcar imágenes y videos, lo que ha generado una revolución en este campo.
A continuación, discutió los modelos del lenguaje actuales, resaltando su capacidad predictiva y la importancia de la transparencia, especialmente en contextos críticos como el militar y médico. Hizo mención a un estudio de Stanford, que analiza la transparencia de estos modelos, indicando que muchos no cumplirían con las regulaciones europeas.
Luis Alfonso abordó también el uso potencial de modelos de lenguaje en la conducción autónoma, proporcionando ejemplos de su aplicación y su capacidad para mejorar la seguridad vial. Concluyó reflexionando sobre los desafíos y oportunidades de la inteligencia artificial, cuestionando su impacto ético y social.
Finalmente, expuso la situación de España en el desarrollo de modelos fundacionales, subrayando la importancia de que estos sean abiertos y accesibles para evitar depender de sistemas cerrados y privados.
El último ponente fue Javier Bermejo Higuera, coronel del Cuerpo Ingenieros Politécnicos. Responsable de Departamento TICS de la Subdirección de Sistemas Terrestres del INTA, es Doctor Ingeniero en Armamento, Ingeniero en Electrónica, en Armamento, Técnico de Telecomunicaciones, Licenciado en Físicas y posee un máster en Sistemas de Comunicación e Información para la Seguridad y Defensa.
Comenzó diciendo que el INTA está desarrollando capacidades en inteligencia artificial (IA) para el sector defensa, bajo la guía de la estrategia de innovación de la defensa y la estrategia de inteligencia artificial, ambas de ministerio de Defensa. Aunque Europa no iguala la inversión de Estados Unidos en tecnologías disruptivas, se están haciendo esfuerzos significativos. Se ha creado un laboratorio específico de IA y se ha establecido el Centro de Experimentación (CEDETEX) de Jaén, que incluye áreas de lucha antidrone y navegación autónoma, además del Centro de Inteligencia Artificial (CIA).
El futuro Centro de Inteligencia Artificial del CETEDEX en Jaén será un referente, con importantes capacidades de computación y seguridad. Proporcionará servicios de tecnologías de información y comunicaciones como servicios de Inteligencia artificial, tanto al centro antidrone como al de navegación autónoma.
A pesar de que el CETEDEX no estará plenamente operativo hasta 2029, ya se han iniciado proyectos de inteligencia artificial en paralelo desde el departamento TICS. Estos incluyen sistemas de detección de ciberamenazas y de búsqueda de términos militares, así como la obtención de inteligencia de imágenes satelitales. A nivel europeo, hay una importante participación en el programa EDF, con proyectos como EuroHAPS, un dirigible de IA, y HYDEF, un misil hipersónico optimizado con IA.
En conclusión, el INTA, a través del departamento TICS y del CETEDEX, ya está avanzando en proyectos de IA en respuesta a las necesidades de las fuerzas armadas.
Terminadas las ponencias, se inició un extenso turno de preguntas. En primer lugar, el moderador dirigió preguntas a los distintos ponentes y luego fue el público asistente el que pudo hacer preguntas a la mesa.
El moderador clausuró la mesa redonda agradeciendo a la audiencia su atención y a los organizadores su esfuerzo.
