El futuro de la guerra algorítmica Parte III: Estancamiento

Nota del editor: lo que sigue es un extracto del próximo libro de los autores, Información en la guerra: innovación militar, redes de batalla y el futuro de la inteligencia artificial.

¿Cómo sería un completo fracaso de la actual carrera por implementar sistemas de inteligencia artificial y aprendizaje automático (AI/ML) en todo el ejército estadounidense? La profesión militar estadounidense está igualmente bendecida y maldecida por el determinismo tecnológico y la creencia de que los nuevos dispositivos resolverán viejos problemas. Esta línea de pensamiento impregna las nociones sobre compensaciones y la creencia de que la precisión puede contrarrestar la masa en la guerra moderna.

El siguiente escenario es una especie de premortem, que invita al lector a imaginar un mundo en el que el cambio tecnológico avanza tanto hacia atrás como hacia adelante y es desigual. Esta técnica del equipo rojo pretende ilustrar cómo el fracaso surge como una forma de prevenirlo. El análisis se basa en escenarios anteriores publicados por War on the Rocks que exploraron cómo una burocracia rota y la incapacidad de crear una comprensión común de cómo la IA/ML afectan el carácter de la guerra. Todos estos escenarios están adaptados de nuestro libro reciente: Información en la guerra: innovación militar, redes de batalla y el futuro de la inteligencia artificial. En el libro, utilizamos una variedad de casos históricos sobre la adopción de tecnología de la información para imaginar cómo reaccionará el ejército estadounidense ante la última ola de interés en IA/ML. A partir de estas historias divergentes, vemos diferentes futuros en el horizonte que exigen prudencia y un diálogo más sólido sobre cómo las personas, la burocracia y las redes de conocimiento chocan con cualquier nueva tecnología.

En el escenario siguiente, el futuro es sombrío. Las viejas ideas sobre la guerra se combinan con la burocracia de la era industrial para limitar el grado en que cualquier nueva tecnología puede producir una ventaja duradera. AI/ML se convierte en otra falsa promesa sacrificada en el altar del choque de voluntades. La burocracia de defensa lucha por adaptarse y recurre a ideas duraderas sobre la guerra a pesar de la disponibilidad de nueva tecnología. El hombre a caballo permanece nostálgico y perdido en sueños de batallas pasadas que lo dejan incapaz de adaptarse al futuro de la guerra.

En este futuro alternativo, el ejército estadounidense nunca escapa a la gravedad de las viejas ideas sobre la guerra y la burocracia heredada. A pesar de la actual ola de entusiasmo por la IA/ML, existe una posibilidad distinta de cero para este futuro. Sí, los servicios están en una carrera para desarrollar nuevas redes de batalla, pero aún es incierto hasta qué punto se convertirán en nuevas doctrinas y formaciones de combate.

* * *

Estamos en el año 2040. El presidente del Estado Mayor Conjunto se dirige al Pentágono en un antiguo coche deportivo reformado, escoltado por un dron de seguridad y su asistente personal digital que le lee las noticias del día. El tráfico era más intenso de lo normal. Era una hermosa mañana de primavera con flores de cerezo que agregaban color al laberinto, de otro modo borroso, de mármol blanco y gris, hormigón y edificios de acero que dibujaban el norte de Virginia. Muchos conductores como él optaron por disfrutar del viaje matutino y conducir ellos mismos en lugar de activar el modo de conducción automatizada limitada, que los restringía a una experiencia aburrida de cincuenta millas por hora. Prefería conducir pero que una máquina le leyera, catalogara la información que encontraba útil y resaltara para su personal las preguntas que quería respuestas cuando llegara a la oficina. A decir verdad, de todos modos no le gustaba mucho leer.

El viejo general había adaptado a su asistente personal, Chesty, para que sonara como un antiguo Perro Diablo. Los algoritmos eliminaron archivos de audio antiguos e incluso adaptaron metáforas específicas de un período de la Segunda Guerra Mundial. Fue otro ejemplo de las formas divertidas pero triviales en que el software mediaba el compromiso de todos con el mundo. Chesty gruñó y le leyó los titulares.

"El general de la Fuerza Aérea detiene el experimento de enjambre que prueba agentes automatizados del espacio aéreo citando la necesidad de integrar mejor a los pilotos y controladores de tráfico aéreo humanos".

Chesty añadió al titular: “Hoy hacemos generales en función de su capacidad para escribir una maldita carta. Esa clase de hombres no pueden prepararnos para la guerra”.

"Nuevo informe: los simuladores chinos impulsados ​​por IA se basan en la extracción de redes sociales para replicar la toma de decisiones militares de EE. UU. más allá de las luchas doctrinales en las primeras pruebas".

Chesty añadió al titular: "No hay suficientes comunistas chinos en el mundo para impedir que un regimiento de marines completamente armado vaya a donde quiera ir".

"El Cirujano General del Ejército solicita psicólogos y trabajadores sociales adicionales para asesoramiento matrimonial citando deficiencias críticas en los servicios médicos digitales que brindan asesoramiento a malas parejas".

Chesty añadió al titular: "Cuando el Cuerpo de Marines quiera que tengas una esposa, te la asignarán".

El general le pide a Chesty que limite los comentarios y proporcione una descripción general de un comité del Congreso sobre el estado de la integración de la IA en todo el ejército estadounidense. Se había visto obligado a revisar estos informes desde que era comandante de compañía en ejercicios de entrenamiento de infantería en Twentynine Palms. Recordó el primero de muchos de estos tediosos experimentos. Era un día de verano especialmente caluroso y la empresa llevaba cinco días operando en el campo con una combinación de tabletas frágiles, drones baratos y todo tipo de antenas extrañas. Sus marines estaban sucios y cansados, pero los científicos y representantes de la industria, vestidos con pantalones tácticos elegantes y polos grabados con bloqueador solar derretido y logotipos de la compañía, seguían preguntando por qué el último artilugio de IA no funcionaba. Siempre sintió que había un trasfondo de "ustedes, los espartanos, no lo entienden" cuando hablaban.

Cuando era un joven capitán, asumió que tenía que participar en estos experimentos porque había dinero en juego. La Infantería de Marina no iba a cambiar tanto, sino que iba a tomar el dinero de algún tonto y probar cosas locas en el desierto. Estos experimentos incluso provocaron algunas buenas risas.

Recordó durante esa iteración cómo un cabo de lanza se acercó sigilosamente a un centinela automatizado diseñado para detectar el movimiento enemigo alrededor de bases de patrulla seguras colocando un caparazón de tortuga frente a su cara. La máquina asumió que era una especie en peligro de extinción y envió un mensaje que hizo que todos los centinelas se retiraran. Siempre fue así. En aquellos días, los generales recibían información sobre magia, pero los soldados vieron la verdad.

El último informe señaló que a pesar de la creciente optimización analítica y de datos en el sector privado debido a años de conectividad 5G, nuevos diseños de chips y mejores algoritmos, seguía habiendo preocupaciones reales sobre la transformación del ejército. El informe entrevistó a más de cien líderes de combate de todos los servicios. Aunque era anónimo, los conocía, o al menos cómo pensaban sobre la guerra. Los robots podrían irse a la mierda.

Durante su carrera, años de campañas de contrainsurgencia y zonas grises hicieron que muchos oficiales sospecharan hasta qué punto la tecnología podría cambiar la guerra. Como oficiales subalternos, probaron por primera vez el combate cazando enemigos esquivos y viendo su potencia de fuego restringida por reglas de enfrentamiento y grupos que parecían desaparecer en valles y aldeas. Estos mismos oficiales tomaron el mando de formaciones más grandes y escucharon a los líderes predicar el evangelio del conflicto entre grandes potencias, como si la década de 2020 fuera de alguna manera la década de 1980 o, peor aún, la de 1930. Planearon patrullas de libertad de navegación y actualizaron planes de guerra, aprendiendo a ver los factores de tiempo y distancia y la organización de tareas como más importantes que cualquier capacidad nueva y exquisita. Lucharon por permanecer en la cabina de los aviones y al timón de los barcos de la Armada, defendiendo la opinión de que ninguna máquina, a pesar de su velocidad, podría reemplazar la esencia del maestro, el comandante y el juicio humano. En las escuelas de guerra escribieron largas monografías filosóficas sobre tradiciones, mando y control, y casos históricos que veían el pasado como casi prelapsario, un lugar donde las leyendas comandaban regimientos, grupos y flotillas que luchaban contra adversarios determinados.

No había ningún líder para este movimiento. A lo largo de los años, se fusionó en diatribas y artículos de Slack, WhatsApp y Signal en War on the Rocks. En algún momento, un autor civil denominó al movimiento “Tercera Ola Clausewitziana”. El grupo vio los beneficios de la tecnología, pero evitó tomar decisiones difíciles sobre la estructura de la fuerza y ​​probar nuevos conceptos, prefiriendo ver la guerra como una lucha humana duradera. Un tema favorito en estos foros fueron los generales Charles Krulak y Al Gray. Innumerables artículos de las universidades de guerra revisaron, e incluso volvieron a contar, su legado, distorsionando el pasado para justificar un renacimiento de las armas combinadas y la importancia de las tácticas y la toma de decisiones de las unidades pequeñas. Estos debates se extendieron a las decisiones de adquisiciones, ya que el número de personas históricamente en un escuadrón definía los parámetros de diseño de los vehículos de combate y la necesidad de un ser humano en la cabina generaba costos vertiginosos.

A lo largo de su carrera, el Presidente recordó haber estado al margen de este grupo. Observó cómo se nombraba a civiles, generalmente millennials con grandes ideas y currículums escasos, para nuevas administraciones y se los presionaba para que se implementara un cambio tecnológico. Estos civiles consideraron que las viejas costumbres eran obsoletas y una reliquia de la guerra del siglo XX. Observó cómo el movimiento retrocedía, utilizando las redes sociales y los susurros en los pasillos del Congreso para limitar el grado en que cualquier nuevo genio podía desafiar tradiciones milenarias y verdades humanas fundamentales sobre la guerra. Redes de barbas grises y jubilados fomentaron la insurgencia.

Vio estas batallas en los últimos informes de la comisión del Congreso. Un grupo de líderes empresariales, charlatanes de LinkedIn y bandidos de la circunvalación describieron por qué el ejército nuevamente estaba atrasado en la integración de aplicaciones comerciales de inteligencia artificial. Esta gente no tenía ni idea. No habían visto los contratos heredados y la burocracia legal relacionada con el intercambio de datos que distorsionaban el entrenamiento de cualquier algoritmo. No se dieron cuenta de que el ancho de banda del campo de batalla no era tan rápido como la red de sensores que permitían que su trasero civil desapareciera sin esfuerzo en sombríos mundos de realidad virtual. No entendían los constantes requisitos de inteligencia para tomar fotografías de vehículos enemigos en todos los ángulos y en todas las condiciones climáticas para entrenar el software de reconocimiento de imágenes de IA. Eran novatos que no se dieron cuenta de que la guerra no se podía reducir a patrones simples como los hábitos de compra de los consumidores.

El viejo general sabía que ahora formaba parte de una vieja guardia definida por la Tercera Ola Clausewitziana. Sabía que podía confiar en que el próximo grupo de oficiales subalternos descubriría las mismas duras verdades y mantendría a raya a los nerds. Los geeks simplemente no entendían las armas combinadas, lo que se necesitaba para crear una fuerza de combate y, sobre todo, matar. Nunca lo harían.

* * *

Una mirada superficial a los casos históricos más allá de un deseo arraigado en la historia Whig de ver el pasado como un progreso hacia el presente ilustra por qué los responsables de las políticas estadounidenses hoy necesitan evitar el escenario descrito anteriormente. Desde los primeros experimentos con radar hasta el desarrollo de una red global de vigilancia aérea no tripulada y capacidades de ataque, hay más fracasos que historias de éxito. Por cada historia de éxito de radares, como la del Reino Unido y la red de radares de alerta temprana Chain Home, había una amplia gama de ideas a medias sobre los rayos de la muerte en las principales potencias mundiales en el período de entreguerras. A pesar del éxito que experimentó Estados Unidos al desplegar una nueva generación de aviones no tripulados de ataque y reconocimiento después de 2001, hubo una prehistoria rica y poco informada de drones que no lograron romper la imagen perdurable de la batalla como un esfuerzo humano.

Sin embargo, el pasado no tiene por qué ser un prólogo. El momento actual exige una adopción generalizada de las capacidades de IA/ML y el inicio de una nueva era de experimentación ascendente. Así como la sociedad ucraniana a través de iniciativas como DELTA COP ha demostrado cómo construir capacidades estrechas de IA/ML desde abajo hacia arriba, el ejército estadounidense debería acelerar experimentos actuales como el Ejercicio de Dominio de la Información Global. También hay un número creciente de iniciativas a nivel de servicio para reimaginar la guerra, como el esfuerzo de codificación en curso de los Marines integrado con el Comando de Futuros del Ejército en Austin, Texas. Este esfuerzo ya ha producido un algoritmo invaluable que permite maximizar las capacidades de detección de radares comerciales para cumplir con los requisitos de concienciación del dominio marítimo de la flota y las fuerzas conjuntas.

Para lograr un cambio sostenido, el núcleo de estas iniciativas deberá residir en la planificación y en cómo los militares reimaginan al proverbial hombre a caballo como parte de una red de decisiones desagregada más amplia. Comprender el equilibrio entre el juicio humano, la creatividad y las perspectivas generadas por modelos resultará esencial para el arte operacional en el siglo XXI. Sin embargo, para comprender cuál es la mejor manera de fusionar los datos y la mente para la guerra, se requieren experimentaciones audaces y juegos de guerra que prueben diferentes combinaciones de sistemas. El futuro aún está en gestación. Todos los profesionales militares, así como los ciudadanos preocupados, ya sean entusiastas o escépticos de la IA/ML, deberían formar parte de él.

Benjamin Jensen, Ph.D., es profesor de estudios estratégicos en la Escuela de Guerra Avanzada de la Marine Corps University y miembro principal de guerra, juegos y estrategia del futuro en el Centro de Estudios Estratégicos e Internacionales. También es oficial de la Reserva del Ejército de Estados Unidos.

Christopher Whyte, Ph.D., es profesor asistente de seguridad nacional y preparación para emergencias en la Virginia Commonwealth University.

El Coronel Scott Cuomo, Ph.D., actualmente se desempeña como asesor senior del Cuerpo de Marines de los EE. UU. dentro de la Oficina del Subsecretario de Defensa para Políticas. Ayudó a ser coautor de estos ensayos mientras participaba en el Programa de Estrategas del Comandante del Cuerpo de Marines y también se desempeñaba como representante del servicio en la Comisión de Seguridad Nacional sobre Inteligencia Artificial.

Las opiniones que expresan son propias y no reflejan ninguna posición oficial del gobierno.

Imagen: Arte generado por IA por el Dr. Benjamin Jensen