Hace unos dos meses, el cofundador de Shield AI, Brandon Tseng, y uno de sus empleados estaban en un Uber atravesando las calles de Kiev, Ucrania. Se dirigían a una reunión con funcionarios militares para venderles sus sistemas piloto de inteligencia artificial y drones, cuando de repente su empleado le mostró una advertencia en su teléfono. Bombas rusas estaban en camino. Tseng enfrentó su posible destino con indiferencia. «Si es tu momento de partir», dijo, «entonces es tu momento de partir».
Si algo, Tseng, un ex SEAL de la Marina, estaba ansioso por más acción. Los empleados de Shield AI habían estado previamente en áreas mucho más peligrosas en Ucrania, capacitando a las tropas en su software y drones. «Estoy bastante celoso de a dónde llegaron a ir», comentó Tseng. «Desde el punto de vista de la aventura».
Tseng personifica esa masculinidad reservada que impregna a la mayoría de los fundadores de tecnología de defensa. Cuando lo conocí el mes pasado en la oficina de la compañía en Arlington, mostraba un cuchillo exhibido en su oficina grabado con el lema de los SEAL «Sufrir en silencio». Las paredes blancas, cuyos bordes brillaban con luces fluorescentes (para parecerse a una nave espacial, según Tseng), estaban cubiertas de lemas como «Haz lo que dicta el honor» y «Gana tu escudo todos los días». Le señalé que eran bastante intensos. «¿Lo son?», respondió Tseng.
En 2015, Tseng fundó Shield AI junto a su hermano, Ryan Tseng, un ingeniero eléctrico galardonado con una patente, con una misión clara: «Construimos el mejor piloto de inteligencia artificial del mundo», dijo. «Quiero poner un millón de pilotos de IA en manos de los clientes».
Con ese fin, él y su hermano han recaudado más de $1 mil millones de inversores como Riot Ventures y el Fondo de Tecnología Innovadora de EE. UU. La compañía desarrolla software de IA para hacer que los vehículos aéreos sean autónomos, aunque Tseng dijo que quieren que el software de Shield AI esté en sistemas submarinos y de superficie también. También tiene productos de hardware, como su dron V-BAT.
Shield AI también es parte de una rara clase de startups de tecnología de defensa: una que realmente ha conseguido contratos gubernamentales de tamaño decente, como su contrato de $198 millones con la Guardia Costera de este año. Como si intentaran posicionarse para un futuro aún más grande, los fundadores eligieron una nueva oficina rodeada por tres pisos de Raytheon, uno de los principales contratistas de defensa.
Ucrania: El laboratorio para las startups de tecnología de defensa de EE. UU.
El 16 de septiembre fue un signo de los tiempos cambiantes: en lugar de hacer que los fundadores de tecnología de defensa vuelen a la capital, se pongan sus trajes y rueguen a los políticos, Washington, D.C., llegó hasta ellos.
Los miembros del Comité de Servicios Armados de la Cámara de Representantes se reunieron con el CTO de Palantir, Shyam Sankar, Brandon Tseng y ejecutivos de Skydio, Applied Intuition y Saildrone en el campus del Silicon Valley de la UC Santa Cruz. Discutieron la reforma de adquisiciones del Departamento de Defensa de EE. UU. y, inevitablemente, el papel de la tecnología de EE. UU. en Ucrania. Fue la primera audiencia pública que el comité ha celebrado fuera de Washington, D.C., desde 2006.
Ucrania ha sido «un gran laboratorio», dijo Tseng a los legisladores. «Lo que creo que los ucranianos han descubierto es que no van a utilizar nada que no funcione en el campo de batalla, punto».
Fundadores de tecnología de defensa, como Palmer Luckey, cofundador de Anduril, y Adam Bry, cofundador de Skydio, han acudido en masa al país en disputa para vender tecnología relativamente nueva para un campo de batalla en rápido deterioro. Lamentablemente, no toda la tecnología estadounidense está funcionando. Según un informe del Wall Street Journal, los drones de las startups estadounidenses casi universalmente han fallado en operar a través de la guerra electrónica en Ucrania, lo que significa que los drones dejan de funcionar bajo la tecnología de bloqueo de GPS de Rusia.
«Ucrania está en guerra y la gente está muriendo. Pero … quieres sacar lecciones de eso», me dijo Tseng una semana después, reflexionando sobre la audiencia. «No querrás tener que volver a aprender cualquiera de esas lecciones. Estados Unidos no debería querer volver a aprender cualquiera de esas lecciones».
Naturalmente, está seguro de que los drones de Shield AI han tenido más éxito en Ucrania que otros porque, dice, pueden operar sin depender del GPS. «Estamos trabajando para llevar más drones allí basándonos en los éxitos que hemos tenido», dijo, aunque se negó a dar detalles específicos sobre cuántos drones ha enviado Shield AI.
Asesinos de inteligencia artificial al estilo de Terminator? ¿O «El juego de Ender»?
La oficina de Tseng está vacía además de una copia enmarcada de la Constitución, colgada torcida en la pared. Lo citó como una de sus mayores inspiraciones. «No es porque seamos perfectos, sino porque aspiramos a estos valores que afirmaría que son valores perfectos», dijo. «Eso es lo que más importa. Siempre estamos avanzando en esa dirección».
Enderezó el marco antes de repasar brevemente la historia de la guerra. Indicó que la disuasión tiende a ocurrir cuando surge una nueva tecnología radical, como la bomba atómica, o la tecnología furtiva y el GPS. Tseng dijo que la IA abrirá la nueva era de la disuasión, asumiendo que el DoD la financie correctamente. «Las empresas privadas están destinando más dinero a la IA y la autonomía que cualquier cantidad agregada en el presupuesto de defensa», dijo.
El valor potencial de los contratos federales relacionados con la IA se disparó a $4.6 mil millones en 2023 desde $335 millones en 2022, según un informe del Brookings Institution. Pero eso sigue siendo una fracción de los más de $70 mil millones que los inversores de capital de riesgo invirtieron en tecnología de defensa en aproximadamente el mismo período, según PitchBook.
Sin embargo, la mayor pregunta sobre el uso militar de la IA no es el presupuesto, es la ética. Tanto fundadores como legisladores luchan con la decisión de permitir armas completamente autónomas, es decir, que la IA decide cuándo matar. Últimamente, la retórica de algunos fundadores parece estar a favor de construir tales armas.
Hace unos días, por ejemplo, Luckey de Anduril afirmó que hay «una campaña oculta que está siendo librada en las Naciones Unidas en este momento por muchos de nuestros adversarios» para engañar a los países occidentales para que no persigan agresivamente la IA. Insinuó que la IA completamente autónoma no es peor que las minas terrestres. Sin embargo, no mencionó que EE. UU. está entre más de 160 naciones que acordaron prohibir el uso de minas antipersonales en la gran mayoría de los lugares.
Tseng se opone firmemente a las armas completamente autónomas. «He tenido que tomar la decisión moral de utilizar la fuerza letal en el campo de batalla», dijo. «Esa es una decisión humana y siempre será una decisión humana. Esa es la postura de Shield AI. Esa es también la postura de las fuerzas armadas de EE. UU.».
Tiene razón en que las fuerzas armadas de EE. UU. actualmente no adquieren armas completamente autónomas, aunque no prohíbe a las empresas desarrollarlas. ¿Qué pasaría si EE. UU. cambiara su postura? «Creo que es una hipótesis ridícula», respondió. «El Congreso no quiere eso. Nadie quiere eso».
Entonces, si no prevé un ejército de asesinos al estilo de Terminator, ¿qué imagina? «Una sola persona podría comandar y controlar un millón de drones», dijo Tseng. «No hay una limitación tecnológica en cuanto a cuánto podría comandar efectivamente una sola persona en el campo de batalla».
Va a ser algo parecido a «El juego de Ender», dijo, haciendo referencia al clásico de ciencia ficción de 1985 donde un oficial militar infantil puede liberar legiones de ejércitos espaciales con un gesto de la mano.
«Excepto que en lugar de humanos reales que estaba comandando, serán malditos robots», dijo Tseng.
