La peligrosa alianza de la IA y el sector militar

La IA produce importantes rupturas

No existe una definición única de la inteligencia artificial (IA) y el motivo podría deberse, al menos en igual medida, tanto a la dificultad para comprender sus límites disciplinares como a una campaña mediática encaminada a justificar todas sus consecuencias, incluidas aquellas que son perjudiciales para la sociedad 1/. Para los economistas de la innovación, la IA constituye una tecnología de alcance general (TAG) que, al igual que la máquina de vapor al inicio de la revolución industrial, la electricidad a finales del siglo XIX y la informática tras la Segunda Guerra Mundial, se extiende por todos los sectores de la economía y la sociedad. Sin embargo, la historia nunca se repite de la misma manera.

Además, contrariamente a lo que permitiría su uso socialmente controlado para satisfacer las necesidades de la humanidad, al mismo tiempo las tecnologías basadas en la IA transforman los datos en una fuente de acumulación de beneficios, refuerzan el poder de seguridad de los Estados e introducen nuevas formas de guerra debido a su uso por parte de las fuerzas armadas. La IA reduce aún más las diferencias entre las dimensiones militares y civiles de los conflictos en el marco de la agenda de seguridad nacional de las grandes potencias. En definitiva, ofrece posibilidades de uso contra los seres humanos en todos los ámbitos de su vida en sociedad, ya sea como asalariados, ciudadanos o civiles amenazados por las guerras.

Por lo tanto, este artículo solo aborda una dimensión de la omnipresencia de los poderes de la IA. Además, deja de lado los poderosos efectos regeneradores del complejo militar-industrial estadounidense provocados por la creciente importancia de las GAFAM en la industria de la defensa, un proceso que hoy en día se subestima en gran medida 2/.

La integración de la IA en las doctrinas y los equipos militares marca un paso más en la larga historia del uso de las tecnologías con fines destructivos. La aparición de sistemas de armas autónomos se califica a menudo de tercera revolución militar, tras la invención de la pólvora y las armas nucleares. De hecho, ofrece a las fuerzas armadas numerosas oportunidades que se sitúan en cuatro ámbitos principales. En primer lugar, mejora el rendimiento de los sistemas de armas existentes y hace más fiables ciertas tareas realizadas por la tropa. Las tecnologías de interfaz cerebro-ordenador, utilizadas en los hospitales para regenerar o restaurar funciones alteradas, ya se emplean con fines militares o de seguridad nacional, ya sea para aumentar las capacidades físicas de los soldados, ya sea con objetivos de pacificación, interrogatorio o tortura (mediante la inducción de dolor sensorial sin lesiones físicas) 3/.

Además, gracias a la IA, numerosas funciones ‒como las actividades de inteligencia, vigilancia, logística, ciberoperaciones y operaciones de mando y control‒ pueden centralizarse, o podrán hacerlo en un futuro próximo, en una única fuente 4/ (véase el recuadro a continuación).

Cuadro 1. Comparación de las financiaciones estatales de la IA por grandes ejes

Fuente: el autor, a partir de datos del Tribunal de Cuentas (2023)

Ataques quirúrgicos y asesinatos selectivos: la gran mentira

Tal y como declaró un militar israelí a la revista de investigación israelí +972, el uso de la IA permite generar 100 nuevos objetivos al día, frente a los 50 al año que se generaban en el pasado. Y la desinformación hace creer, al igual que ocurrió con los supuestos ataques quirúrgicos contra Irak en 2003, que existe una precisión en los objetivos seleccionados que, según sus responsables, convierte al ejército israelí en “el más humano del mundo”. Sin embargo, su portavoz ha declarado que los objetivos de los bombardeos en Gaza “no son su precisión, sino la magnitud de los daños causados” 5/. En definitiva, la “intensificación algorítmica de la destrucción” 6/ es el resultado de la combinación de las decisiones tomadas por los militares y las deficiencias del aprendizaje automático, ya que los militares no pueden satisfacer las enormes necesidades de datos que exigen estas máquinas.

Además, la IA puede combinarse con otras tecnologías emergentes, como la informática cuántica, la impresión en 3D o los misiles hipersónicos, que vuelan a más de 6.000 km por hora y a 30.000 metros de altitud. Los modelos que se están desarrollando actualmente se lanzan desde misiles balísticos que, a su vez, pueden alcanzar una velocidad de 25.000 km/h. La etapa actual, la de la alianza entre la IA y la energía nuclear, es objeto de un acalorado debate entre los especialistas, algunos de los cuales expresan su preocupación: “Estamos cerca de un momento Oppenheimer”. De hecho, Estados Unidos dispone de un bombardero (el B-21) portador de armas nucleares capaz de llevar a cabo misiones sin tripulación, y los rusos están desarrollando un vehículo submarino no tripulado destinado a ataques nucleares de represalia 7/.

Estas realidades tienen mucho más peso que el compromiso de los países de asegurar que siempre haya “un ser humano en el bucle” y el control político permanente sobre las armas nucleares que defienden las Naciones Unidas, así como la declaración realizada en febrero de 2023 en la cumbre de La Haya por 57 países (pero rechazada por Rusia e Israel) a favor de un “uso responsable” de la IA en el campo de batalla. Por su parte, el Gobierno francés ha presionado para que el ámbito militar quede excluido de la Ley de Inteligencia Artificial europea 8/.

Por último, y este es uno de los principales objetivos, ciertos tipos de armas creadas por la IA incorporan una toma de decisiones autónoma por parte del propio equipamiento 9/. Un avance importante en este ámbito es la creación de sistemas de armas letales autónomas (SALA) que actúan en tierra (los robots asesinos), en el aire (los drones) y en el mar (por ejemplo, un buque cazaminas que las detecta y las destruye). Se trata de sistemas de armas que, una vez activados, seleccionan y apuntan a objetivos sin la intervención de un operador 10/. Estas armas, que cuentan con funciones denominadas eufemísticamente “dispara y olvida” (fire and forget), presentan varias características: la capacidad de matar, la capacidad de funcionar sin necesidad de intervención o control humano, la capacidad de aprender a través de interacciones con el entorno que les permiten ampliar sus funcionalidades y, por último, la imposibilidad de interrumpir una operación una vez que se ha iniciado 11/.

La IA ‒a través del aprendizaje automático‒ multiplica por diez su potencial devastador, ya que los algoritmos integrados producen resultados en parte incontrolados, una forma de “imprevisibilidad intrínseca” (imprevisibility by design) en la decisión y en el momento de atacar, así como en las consecuencias que de ello se derivan 12/. De tal forma que una batalla entre sistemas autónomos enemigos podría degenerar antes de que la intervención de un militar pudiera evitar la catástrofe 13/. Más aún cuando el Ministerio de Defensa de Estados Unidos se muestra a favor de un sistema descentralizado que aumenta la distancia entre el objeto (el arma) y el sujeto (el operador) 14/.

El riesgo de pérdida del control humano sobre las armas parece asumirse: el Pentágono está llevando a cabo pruebas para limitar al máximo la intervención humana en los procesos de toma de decisiones de alto nivel de las armas que utilizan IA 15/. Hay que añadir que la amplia difusión de la investigación en IA en decenas de países facilita la proliferación de los sistemas de armas autónomos y, por lo tanto, aumenta los riesgos de una espiral incontrolada y de su uso preventivo con consecuencias fatales 16/.

Francia: un sesgo militar que conduce al declive

Dos documentos han definido la estrategia gubernamental en el ámbito de la IA. En marzo de 2018, el informe presentado por Cédric Villani, “Dar sentido a la inteligencia artificial, para una estrategia nacional y europea”, se elaboró a partir de las opiniones recabadas de 420 expertos. Su autor recuerda: “Hoy en día, sin embargo, la gran mayoría de las transferencias se producen del ámbito civil al militar. Esto es aún más cierto en el ámbito de la inteligencia artificial (IA)” 17/. La misma constatación la hace un responsable de la DGA (Dirección General de Armamento), el brazo industrial del Ministerio de Defensa, quien señala que “el desplazamiento hacia el ámbito civil del centro de gravedad del desarrollo de las tecnologías, en particular las digitales, exige reforzar una estrategia encaminada a mejorar su detección y posterior captación en beneficio de los objetivos de la innovación en materia de defensa” 18/. El informe publicado por el Ministerio de Defensa en 2019, que constituye el otro documento fundamental en materia de IA, señala asimismo que un punto en común de las estrategias nacionales es que “los componentes tecnológicos deben, por tanto, extenderse […] del ámbito civil al militar” 19/.

Hasta aquí las declaraciones. La realidad es muy diferente y el dominio militar sobre la actividad innovadora continúa. Como refleja el cuadro 1, en la fase inicial (2018-2022) de las medidas gubernamentales, el sector de la Defensa recibió casi tanta financiación en IA como la Investigación y más que el conjunto de la “economía” francesa. En otras palabras, el Ministerio de Defensa (que representa aproximadamente el 2 % del PIB) recibió tanto como el resto de la industria y los servicios juntos.

Esta sobrerrepresentación del ámbito militar se va a acentuar aún más. El plan Francia 2030 prevé destinar 2.200 millones de euros a la inversión en IA con el fin de apoyar la formación, fomentar la difusión de las tecnologías de IA y centrarse en algunos ámbitos prioritarios. Sin embargo, esta cantidad es apenas superior a la asignada por la Ley de Programación Militar 2024-2030 a la IA de defensa (2.000 millones de euros) 20/. El gobierno también creó en mayo de 2024 la Agencia Ministerial para la Inteligencia Artificial de Defensa.

¿A qué se destinarán estos 2.000 millones de euros militares dedicados a la IA? Básicamente, a llevar a cabo lo que la DGA denomina “captación de innovación” con el fin de adaptar las investigaciones realizadas en los laboratorios públicos y privados civiles a las necesidades operativas, mejorar la autonomía decisoria de los robots, diseñar las cabinas de mando del futuro, etc. “De hecho, el sector de la defensa utiliza datos procedentes de sensores militares específicos (radares, sonares, sistemas optrónicos, equipos de guerra electrónica) a los que el sector civil apenas tiene acceso”. El mito del papel impulsor de la investigación militar se desvanece un poco más.

La defensa no solo goza de un trato privilegiado en la asignación de fondos públicos destinados a la IA, sino que también está mejor organizada. El ministro de las Fuerzas Armadas (Sébastien Lecornu) ha anunciado que toma como “modelo lo que se hizo con la energía nuclear en la década de 1960” para liderar el salto tecnológico que representa la inteligencia artificial.

Esta hipercentralización ejercida por la institución militar contrasta con la dispersión de la financiación pública civil, que transita por numerosos canales establecidos por las instituciones de política pública. ¿Cuáles son las consecuencias? En un informe publicado en 2023, el Tribunal de Cuentas observa una “falta de gobernanza o coordinación para el conjunto de los usos de la IA y las infraestructuras críticas asociadas”, un “seguimiento insuficiente de la financiación correspondiente” que puede dar lugar a “divergencias en las prioridades, dificultades para la difusión de las innovaciones, así como una reducción de la eficiencia de las inversiones que pueden realizarse de forma dispersa”. Esta constatación de entrelazamiento y opacidad de los costosos mecanismos públicos puestos en marcha no es fruto del azar, sino un rasgo estructural del comportamiento de la Alta Administración (la “burocracia en capas” tiene un futuro prometedor por delante) que caracteriza al conjunto de la política industrial.

El sesgo militar de las políticas públicas en materia de IA debilita la investigación pública y la industria civil. De hecho, los resultados científicos de Francia en el ámbito de la IA, medidos por el número de publicaciones citadas, se han deteriorado. Francia ha pasado del quinto puesto en 2003 al octavo en 2013 y, posteriormente, al duodécimo en 2023; ahora ocupa el quinto lugar en Europa, por detrás del Reino Unido, Alemania, Italia y España, y está a punto de ser superada por Irán (datos: Scimago). Este es uno de los efectos del recorte de la investigación pública civil que se viene llevando a cabo desde hace años y que la excelencia de la investigación en matemáticas ya no consigue paliar. De hecho, también en este ámbito la situación se está deteriorando. Francia ha retrocedido, pasando del cuarto puesto mundial en 2013 al séptimo en 2023, y ahora se ve superada por India, Reino Unido e Italia.

La industria civil está sufriendo un retroceso mucho más devastador. La calidad de la investigación pública y el importante apoyo financiero aportado por el Banco Público de Inversiones (BPI) han permitido, sin duda, que algunos investigadores creen empresas emergentes, algunas de las cuales son líderes mundiales ‒siendo Mistral AI la más citada‒. En cambio, los grandes grupos, que sin embargo acaparan una buena parte de la financiación pública destinada a I+D, quedan en evidencia. Thales, que fabrica armas de alta tecnología, es la principal solicitante de patentes de IA en Francia, pero al estar encasillada en el sector de la defensa, no figura entre las 20 principales empresas europeas que solicitan patentes de IA (fuente: Questel).

De hecho, seis décadas de política tecnológica dominada por los grandes programas militares y estratégicos han marginado a varios sectores industriales clave (electrónica, informática, máquinas-herramienta). Los campeones nacionales abundan en el cementerio de las quiebras: Alcatel, Alstom Energía, Areva (rebautizada Orano en 2018). El caso más reciente es el de ATOS, hacia la que vuelve a fluir el dinero público ‒como ya ocurrió en las décadas de 1960, 1970 y 1980 con Bull, que, por cierto, fue adquirida por ATOS‒. De hecho, hay que salvar “cueste lo que cueste” su filial, que fabrica los superordenadores que constituyen un eslabón esencial de la disuasión nuclear francesa y que son indispensables para gestionar determinados sistemas de armas.

De este modo, al participar en la carrera por la militarización de la IA, el Gobierno francés está maltratando la investigación pública y deteriorando aún más el sistema industrial.

06/06/2025

Claude Serfati

Vie de la recherche scientifique n.º 437, abril-mayo-junio de 2024

Traducción: viento sur

1/ Parnas “The Real Risks of Artificial Intelligence”, Communications of the ACM, Vol. 60, 10, octubre de 2017.

2/ Estos importantes procesos se detallan en Serfati Claude, Un monde en guerre, Textuel, abril de 2024, en el capítulo “L’intelligence artificielle, au cœur de l’ordre militaro-sécuritaire”.

3/ Munyon Charles N., “Neuroethics of Non-primary Brain Computer Interface: Focus on Potential Military Applications”, Frontiers in neurosciences, 2018, 12.

4/ Hoadley Daniel S. y Lucas Nathan J., “Artificial Intelligence and National Security”, Congressionnal Research Service, 26 de abril de 2018.

5/ https://www.theguardian.com/world/2023/oct/10/right-now-it-is-one-day-at-a-time-life-on-israels-frontline-with-gaza

6/ https://ainowinstitute.org/publication/the-algorithmically-accelerated-killing-machine

7/ Michael Depp y Paul Scharre [7] Artificial Intelligence and Nuclear Stability, 16 de enero de

2024, https://warontherocks.com/2019/08/america-needs-a-dead-hand/

8/ Santopinto Federico, L’UE, l’intelligence artificielle militaire et les armes létales autonomes, IRIS, abril de 2024.

9/ The Mitre Corporation, “Perspectives on Research in Artificial Intelligence and Artificial General Intelligence Relevant to DOD”, Office of the Assistant Secretary of Defense for Research and Engineering, enero de 2017. Véase asimismo https://stanleycenter.org/wp-content/uploads/2020/06/TheMilitarization-ArtificialIntelligence.pdf

10/ Hoadley Daniel S. y Lucas Nathan J., “Artificial Intelligence and National Security”, Congressionnal Research Service, 26 de abril de 2018.

11/ https://www.aljundi.ae/en/the-file/emerging-military-technologies-trends-for-2023-beyond/1/02/2023

12/ Boulanin Vincent, Davison Neil, Goussac y Netta Carlsson Peldán, “Limits on Autonomy in Weapon Systems”, SIPRI e ICRC (Comité Internacional de la Cruz Roja), junio de 2020, p. 8 y 13.

13/ Boucher Philip, “Artificial intelligence : How does it work, why does it matter, and what can we do about it ?”. European Parliament Research Service (EPRS), junio de 2020, p. 25.

14/ Breaking Defense, 9 de febrero de 2023, https://breakingdefense.com/2023/02/dods-clarified-ai-policy-flashes-green-light-for-robotic-weapons-experts/

15/ Monomita Chakraborty, 18 de mayo de 2021, https://www.analyticsinsight.net/pentagon-is-attempting-to-incorporate-ai-controlled-robots-into-the-us-military/

16/ Michael C. Horowitz, “When speed kills: Lethal autonomous weapon systems, deterrence and stability”, Journal of Strategic Studies, 2019, 42:6.

17/ Villani Cédric, “Les enjeux de l’IA pour la Défense de demain”, Revue de défense nationale, 2019/5 (n.º 820), p. 23.

18/ Chiva Emmanuel, “L’intelligence artificielle: un moteur de l’innovation de défense française”, Revue de défense nationale, 2019/5 (n.º 820), p. 36.

19/ Ministère de la Défense, “L’intelligence artificielle au service de la défense”, Rapport de la Task Force IA, septiembre de 2019.

20/ https://www.info.gouv.fr/actualite/defense-la-strategie-ministerielle-sur-lintelligence-artificielle

Fuente: Viento Sur