¿IA, QUO VADIS?

...

Sin embargo, también hemos podido apreciar cómo estos procesos de cambio, que siguen por lo general un modelo evolutivo, acumulativo y progresivo en su construcción, todo ello a partir de la acumulación de conocimiento humano y de su aplicación al funcionamiento de nuestras sociedades, tienen una estructura de carácter cíclico. Siguiendo este proceso cíclico, se alcanza un grado máximo de expansión asociado a un punto de maduración y ruptura, que podríamos identificar como correspondiente a la aparición de tecnologías críticas en un momento determinado. Y que son las responsables de catalizar, impulsar y dar lugar a transformaciones radicales en nuestros sistemas de convivencia y organización política, así como económica, productiva y militar. En cuanto a la afectación económica y productiva asociada al ecosistema económico y la problemática sociolaboral que arrastran estos grandes fenómenos, ya en su momento se pronunció Keynes[2] describiendo las dificultades que la aparición e implantación de estos cambios de carácter disruptivo inducían en las estructuras laborales y productivas de las sociedades del momento.

Así pues, como resultado de los procesos anteriormente descritos podríamos inferir dos conclusiones de carácter general. La primera de ellas, asociada al fenómeno conocido como singularidad tecnológica[3], sería la de que todos estos fenómenos de cambio disruptivo catalizados por el ecosistema tecnológico e innovador han producido siempre en el ser humano grandes incertidumbres y temores. Todos ellos, relacionados con los efectos negativos que pudieran presentarse a la hora de su implantación y sus efectos sobre el estatus quo establecido, o por decirlo de otro modo, por sacar a la sociedad en de manera general y a su clase dirigente en particular de su zona de confort. Y la segunda conclusión, sería que el resultado final de todo el proceso termina coadyuvando hacía en una mejora sustancial de las estructuras económicas y del tejido laboral y productivo en su conjunto, elevando los niveles de poder y riqueza de las elites dirigentes resultantes del proceso y el nivel de vida y renta de la ciudadanía en su conjunto.

Ahora bien, de todos los posibles enfoques de estudio asociados a la aparición de nuevos inventos e innovaciones cada vez más sofisticados en todos los ámbitos del funcionamiento de la existencia humana, nosotros nos vamos a fijar fundamentalmente en aquellos que tienen que ver con la incidencia de la Inteligencia artificial en los procesos de cambio y transformación en el campo militar. A medida que los riesgos y las amenazas a los que se han ido enfrentando nuestras sociedades han ido evolucionando hacia escenarios cada día más volátiles, complejos y poliédricos, las nuevas tecnologías han ido adquiriendo una mayor relevancia y jugado un papel más determinante en el desarrollo y resultado final de los conflictos. La superioridad tecnológica en el campo de batalla ha marcado, sin género de dudas, una de las diferencias más significativas a la hora de decantar la derrota o la victoria en favor de uno u otro bando contendiente, destacando así la importancia que estos fenómenos han supuesto para definir el destino de las naciones en cada momento de la historia.

La pregunta relevante a la que nos gustaría dar una respuesta consistente en nuestro análisis, sería la de si la arquitectura militar actual está realmente preparada y dispone de los medios y recursos suficientes, así como las capacidades necesarias, para poder enfrentarse con garantías de éxito a los riesgos, amenazas y desafíos derivados de la profunda transformación que se vislumbra puede introducir el actual proceso de cambio tecnológico, y muy en particular el derivado del impuso e implantación de una tecnología disruptiva como es la Inteligencia Artificial (IA). Es indudable que la respuesta a esta pregunta solo podrá ser respondida de forma categórica con el paso del tiempo y el devenir de los acontecimientos. Sin embargo, a continuación, vamos a tratar de aportar una serie de reflexiones que puedan servir de ayuda en la futura toma de decisiones en el ámbito de la de la compleja arquitectura de Defensa y la Seguridad Nacional a la hora de prever los efectos reales de la implantación de esta tecnología.

En el umbral de la era de la Inteligencia Artificial (IA), nos encontramos ante una revolución tecnológica sin precedentes, que tendrá efectos difícilmente previsibles en nuestras sociedades y muy en particular en la forma de entender las relaciones sociales y la organización del poder frente a la arquitectura política, económica y tecnológica tal y como la hemos entendido hasta el momento. Desde sus primeras aplicaciones civiles, la inteligencia artificial ha demostrado su capacidad para revolucionar la producción, la toma de decisiones estratégicas y la interacción tecnológica. Su impacto en el ámbito militar promete ser igualmente transformador, redefiniendo las reglas de los conflictos futuros. Integrar la IA en los sistemas de defensa y seguridad, no solo optimizará los recursos disponibles, sino que también abrirá nuevas alternativas que abarcarían desde los sistemas autónomos que ejecutan misiones de reconocimiento y ataque con precisión quirúrgica, hasta el análisis de cantidades ingentes de datos en tiempo real que permitirían anticipar los movimientos del enemigo y facilitarían la toma de decisiones de una forma más flexible, precisa y eficiente. Desde este enfoque resulta evidente que la inteligencia artificial está destinada a remodelar y redefinir la arquitectura militar en múltiples frentes.

Para muestra bastaría un botón, pensemos en los sistemas de defensa antimisiles y anti-drones, los cuales representan una parte vital de los medios y capacidades futuras destinados a garantizar el éxito en el combate, en un campo de acción operativo tan vital como el de la defensa y la superioridad aérea. En este complejo y basto campo operativo los ordenadores encargados de gestionar y coordinar estos sistemas, funcionan bajo una dependencia absoluta de un conjunto de algoritmos basados en modelos de inteligencia artificial (IA). Éstos a su vez deben encargarse de gestionar cantidades ingentes de datos, con relación a los misiles y drones objeto del posible ataque, así como de transmitir la información relevante a todos los centros de mando involucrados en su intercepción y destrucción[4].

Lo cierto y más probable es que a nivel operativo en un conflicto real la dimensión del ataque fuera de tal calibre que los operadores humanos de los sistemas de defensa se vieran superados dada la cantidad ingente de información que sería necesario gestionar en un momento determinado y por la velocidad exponencial a la que habría que tomar las decisiones. Entonces y de manera completamente natural y cuasiautomática entraría a hacerse cargo de la gestion y la toma de decisiones el modo automático de la inteligencia artificial. Lo cual resolvería en parte las dificultades de tipo técnico, pero nos veríamos enfrentados a un nuevo dilema que sería el ético, él de quien toma las decisiones, aquí la maquina necesariamente terminaría suplantado la acción humana.

Otro aspecto fundamental en el uso y explotación de esta tecnología es el relacionado con su capacidad para combinar desinformación, ciberataques, operaciones psicológicas de manipulación y tácticas convencionales. Todas estas capacidades de desestabilización están redefiniendo el paradigma de las guerras modernas. El desarrollo de nuevas estrategias de defensa y seguridad frente a estas nuevas formas de riesgos y amenaza tan volátiles como complejas, es fundamental para establecer una parte de la doctrina y los medios y capacidades militares del futuro que ya está aquí. Estos procesos tecnológicos no sólo afectan a nuestras fuerzas armadas y a los gobiernos, sino que también cada vez más, forman parte de un proceso holístico de lo que podríamos dar en denominar la seguridad integral. En este sentido, las políticas de defensa y seguridad nacional deberán adaptarse lo más rápidamente posible para hacer frente a un panorama en el que las amenazas tecnológicas evolucionan de manera dinámica y exponencial.

En conclusión, podríamos decir que vivimos un apasionante pero incierto proceso de transición en la evolución de la humanidad, lleno de riesgos pero también de infinitas oportunidades para hacer un mundo por un lado más seguro, resiliente libre y justo y por el otro desde el punto de vista económico y empresarial con mayores niveles de productividad y de generación de riqueza, el resultado dependerá de saber explotar sabiamente y con equilibrio los desafíos, riesgos y amenazas que nos rodean.

Pero la IA es más que otra herramienta de procesamiento de información. La fricción y el azar seguirán siendo elementos básicos de la estrategia, y la concepción alarmista de la IA como un actor maligno y automotivado probablemente seguirá siendo materia de ficción de Hollywood. Sin embargo, la IA representará un cambio radical en los asuntos estratégicos, porque tomará decisiones estratégicas en nuestro nombre y las promulgará de forma autónoma sobre la base de cálculos que no son humanos. Esto puede tener consecuencias de largo alcance: cambiar las sociedades que lo ejercen, cambiar el poder relativo entre ellas y cambiar el carácter del conflicto. Otras tecnologías han hecho lo mismo. La IA es más radical porque cambia la base misma de las propias decisiones estratégicas. Las máquinas no emplean las heurísticas cognitivas que informan nuestras decisiones, y menos aún la reflexión consciente que utilizamos para imaginar un futuro o intuir lo que otros podrían querer. Y aunque las máquinas actuarán sin duda para cumplir nuestros objetivos, inevitablemente algo se perderá en la traducción. Además, si bien la acción seguirá siendo táctica en el futuro cercano, las ventajas competitivas que se obtendrán de la inteligencia artificial producirán una toma de decisiones a niveles cada vez más elevados. La IA no es una tecnología armamentística per se. Es una tecnología de toma de decisiones, lo que la hace inevitablemente estratégica. Aunque la estrategia ha surgido de la evolución humana, en el futuro será la evolución de las máquinas en lugar de los humanos lo que más le dé forma.

La inteligencia artificial va más allá de ser una simple herramienta de procesamiento de datos. El factor serendípico continuará siendo un elemento determinante a la hora de la toma de decisiones. Sin embargo, la inteligencia artificial marcará un antes y un después en los asuntos geotecnosocioeconómicos y geotecnopolíticomilitares, al tomar decisiones en nuestro nombre de manera autónoma, basándose en sus propios cálculos. Todo ello, arrastrará profundos cambios que transformarán el complejo ecosistema de relaciones sociales, políticas, económica, empresariales, tecnológicas y militares de manera globalizada tato a nivel individual y colectivo con un grado de incidencia mayor o menor dependiendo de los diferentes niveles de uso e implantación de las nuevas tecnologías. Además de alterar el modelo y la arquitectura de poder vigentes hasta este momento y por ende la naturaleza de los riesgos y amenazas y la forma y desarrollo de los procesos conflictuales[5].

[1] Los mercados y la economía atraviesan ciclos de crecimiento y recesión. Schumpeter popularizó el término destrucción creativa en Capitalism, Socialism and Democracy: “El proceso de mutación industrial … revoluciona incesantemente la estructura económica desde dentro, destruyendo constantemente las estructuras antiguas, creando constantemente nuevas… Este proceso de destrucción creativa es la esencia del capitalismo”. La destrucción creativa describe cómo las empresas que no innovan desaparecen, dando lugar a empresas adaptativas e innovadoras.

[2] En 1930, John Maynard Keynes presentó el concepto de «desempleo tecnológico». Predijo que para 2030, la tecnología podría resolver problemas materiales, permitiendo producir bienes a casi cero costes con sistemas autónomos. Esta abundancia tecnológica cubriría las necesidades humanas sin intervención. Keynes también advirtió que esta automatización eficiente podría crear una «clase inútil» de personas sin empleo ni oportunidades en una economía dominada por máquinas y algoritmos. El desempleo masivo debido a la sustitución de trabajadores plantea desafíos significativos que deben ser gestionados para evitar la marginación en la era digital.

[3] El concepto de singularidad tecnológica ha evolucionado considerablemente a lo largo de los años, y sus raíces se remontan a mediados del siglo XX. A John von Neumann se le atribuye una de las primeras menciones del concepto de singularidad, especulando sobre una "singularidad" en la que el progreso tecnológico se volvería incomprensiblemente rápido y complejo, lo que daría lugar a una transformación más allá de la capacidad humana de anticipar o comprender plenamente.

[4] La respuesta técnica a estos escenarios operativos es compleja. En países democráticos, la doctrina militar permite tres modos de operación de software de IA para la asignación de objetivos: 1) Manual: la IA procesa los datos, pero el operador humano decide el objetivo y su momento. 2) Semiautomático: la IA selecciona el objetivo, y el operador humano tiene quince segundos para anular o retrasar la decisión. 3) Automático: la IA selecciona los objetivos sin intervención humana.

[5] Las máquinas no usan las mismas heurísticas cognitivas ni la reflexión consciente que los seres humanos empleamos para prever situaciones futuras o entender los deseos de los demás, lo que podría llevar a una falta de alineación con nuestros objetivos. Aunque en el futuro cercano la acción seguirá estando regida por la acción humana, las ventajas competitivas introducidas por la inteligencia artificial conducirán inevitablemente a transformar el proceso de toma de decisiones la toma de decisiones a niveles a niveles desconocidos hasta el momento. Esta tecnología no es un arma en sí misma, sino una caja de herramientas con capacidad de emulación del pensamiento y de la conducta humana hasta niveles y grados que desconocemos por el momento por lo que su empleo antes o después la terminara convirtiendo en un arma esta vez sí, de doble filo. El cómo funcione y los resultados que produzca dependerá de nosotros mismos.