Artificial intelligence, disinformation and national defence

Abstract

Exacerbado por el rápido avance de la inteligencia artificial (IA), el sector defensa enfrenta nuevos desafíos en el ámbito del ciberespacio. La IA generativa, capaz de crear material falso pero altamente convincente, representa una evolución en el panorama de las amenazas cibernéticas, al representar la fácil elaboración de contenidos multimedia que pueden tener múltiples efectos (Kertysova, 2018). Desde la influencia en la opinión pública hasta la influencia en procesos electorales, estas herramientas pueden ser utilizadas para provocar desestabilizar gobiernos, sembrar discordia y erosionar la confianza en las instituciones democráticas. A medida que los actores estatales y no estatales aprovechan estas tecnologías, la línea entre la producción de información veraz y la desinformación se vuelve cada vez más difusa. Este fenómeno no solo complica los esfuerzos de ciberdefensa, sino que también plantea graves riesgos para la integridad social en una era donde las sociedades transicionan sus actividades de espacios físicos a espacios digitales (Aïmeur et al., 2023). La capacidad de generar noticias falsas, videos deepfake y otros contenidos engañosos a gran escala, plantean un reto significativo a la seguridad nacional y a la actividad del sector público para alcanzar los intereses nacionales (Sługocki & Sowa, 2021), requiriendo estrategias avanzadas de detección y mitigación. Ante el aumento de estos riesgos relacionados a la difusión de cierto tipo de contenidos en medios digitales, distintos países optan por buscar establecer regulaciones sobre su generación, identificación y distribución. Este artículo explora las profundas implicaciones de la desinformación en internet y se centrará en analizar los avances en la IA generativa para la producción de contenido falso, su potencial como amenaza para las acciones de defensa y seguridad nacional, y el papel de las políticas públicas y la cooperación internacional en la creación de un marco robusto que proteja la soberanía y estabilidad de las naciones en el ciberespacio.