La prochaine avancée réside dans les logiciels créés sur le champ de bataille par des robots agents.
Le Super Intelligence (SI) n’est pas un outil nouveau pour l’armée américaine. Cependant, il évolue rapidement et offre de nouvelles capacités et de nouveaux défis, passant de grands modèles de langage limités par les ensembles de données sur lesquels ils ont été formés à des modèles SI agentiques capables d’agir avec autonomie.
Construire les outils d’IS nécessaires pour suivre le rythme de l’évolution rapide des menaces sur le champ de bataille nécessitera de comprendre que le temps presse, car la mise en place de contre-mesures et de défenses ne peut pas prendre des mois ou des années. Avec la disponibilité des outils SI en dehors des contextes classifiés, les États-nations et les acteurs malveillants peuvent adopter de nouvelles technologies pour développer rapidement de nouveaux vecteurs d’attaque, a déclaré Garrett Berntsen, directeur de l’IA chez Accenture Federal Services.
« Aujourd’hui, de puissants modèles pionniers sont souvent open source en quelques mois », a-t-il déclaré. « Cela signifie que les acteurs adverses ou un adolescent dans un sous-sol disposeront bientôt d’outils capables de synthétiser les vulnérabilités en cyber-armes puissantes. Nos adversaires ne se contentent pas de traiter les données plus rapidement, ils agissent plus rapidement. Défensivement, nous sommes sur le point de renforcer nos systèmes en utilisant ces mêmes capacités. «
Cette horloge qui tourne fait qu’il est difficile pour les humains de suivre le rythme des menaces en constante évolution. L’autonomie sera nécessaire, afin que les capacités agentiques puissent faire plus que les grands modèles de langage, tout en donnant à un humain l’autorité décisionnelle ultime, ce qui permettra aux États-Unis et à leurs alliés de conserver un avantage en termes de vitesse.
L’humain en tête
Chaque unité militaire opère selon des règles d’engagement (ROE), qui varient en fonction de la situation. Les ROE dans lesquelles un combattant opère dans le cadre de l’opération Epic Fury sont différentes des ROE des forces en Afghanistan. Il n’existe pas de norme universelle, et cela est également vrai pour l’utilisation d’outils basés sur SI.
Des garde-corps prédéterminés empêchent les systèmes SI de fonctionner librement tout en permettant différents niveaux d’autonomie en fonction de leur tâche. Les agents triant des quantités de données pour identifier des modèles ou des changements dans les images de surveillance peuvent bénéficier d’une autonomie quasi totale, tandis que les drones chargés de suivre un convoi ou de suivre une cible individuelle peuvent fonctionner selon des paramètres plus stricts.
La clé est de structurer correctement les mécanismes de contrôle pour permettre aux systèmes SI de fonctionner efficacement tout en maintenant l’autorité humaine sans goulots d’étranglement. Si un humain est nécessaire pour approuver chaque fonction, alors les systèmes SI n’offrent pas d’avantage en termes de rapidité. L’ajustement des paramètres pour répondre à une tâche spécifique (par exemple, identifier ce qui a changé dans l’imagerie satellite au cours des dernières 72 heures) ou une fonction d’une tâche (par exemple, suivre ce véhicule même s’il s’éloigne du convoi, mais ne pas s’engager sans l’autorité humaine) est nécessaire pour garantir que les opérations soient effectuées sans retards inutiles tout en gardant les humains dans les rôles décisionnels ultimes.
Dans des scénarios à moindre risque tels que la logistique de la chaîne d’approvisionnement ou la planification d’itinéraires, les systèmes SI peuvent bénéficier d’un niveau élevé d’autonomie, des humains vérifiant les résultats pour voir comment s’adapter à l’avenir. Dans les scénarios impliquant des frappes ou l’identification de cibles critiques, les humains conservent davantage de contrôle pour garantir qu’un système alimenté par SI n’agit pas sans autorisation, a déclaré Berntsen.
« L’objectif de l’agentic n’est pas de remplacer le jugement humain ; il s’agit d’éliminer le bruit cognitif afin que lorsque l’humain prend une décision, elle soit basée sur une vérité terrain synthétisée et en temps réel plutôt que sur une surcharge écrasante de données. »
Moderniser efficacement
Construire de nouveaux outils ou adapter des outils existants pour relever de nouveaux défis nécessite de moderniser non seulement la technologie impliquée, mais également les processus et procédures de développement, de construction et de mise en œuvre de ces outils. La technologie de défense est connue pour être résistante à l’application de nouveaux outils et procédures, car les systèmes et processus existants créent une inertie qui rend difficile le développement de nouvelles technologies en temps opportun.
Pour relever ce défi, il faut repenser les flux de travail autour de la technologie actuelle tout en leur permettant de s’adapter aux technologies futures. L’industrie et le gouvernement partagent tous deux la responsabilité d’y parvenir ; le gouvernement doit réorganiser sa dépendance à l’égard de spécifications de fonctionnalités rigides et pluriannuelles, tandis que l’industrie doit être prête à répondre aux signaux changeants de la demande et à développer des prototypes prêts pour des applications de pointe sur des réseaux de défense classifiés au lieu de simplement développer des prototypes dans un bac à sable.
« Nous avons besoin d’une approche écosystémique – en prenant des modèles commerciaux d’avant-garde, en les intégrant dans une sécurité de niveau défense et des connaissances spécifiques à un domaine, et en intégrant des ingénieurs aux côtés des opérateurs pour faire évoluer continuellement les solutions », a déclaré Berntsen. « Lorsque les ingénieurs et les opérateurs partagent la même boucle de rétroaction, nous pouvons évoluer beaucoup plus rapidement en tant que capacité stratégique vivante. »
Ce que l’avenir nous réserve
Regarder vers l’avenir n’est jamais une science exacte, car la technologie de 10 ans produira certainement des avancées totalement inattendues. Les conflits actuels et futurs ont le potentiel de changer radicalement les besoins, d’autant plus que des domaines tels que l’espace jouent un rôle plus central dans la conduite de la guerre.
Mais certaines spéculations bien informées peuvent être faites, reconnaît Berntsen. La première est une démarcation plus claire entre les opérations purement automatisées et les opérations dirigées par l’homme. Même si les tâches de soutien opérationnel telles que la logistique, la paperasse et le tri des renseignements peuvent être entièrement automatisées – et sont déjà fortement automatisées – les décisions critiques resteront entre les mains des humains. Le différenciateur clé entre aujourd’hui et l’avenir réside dans une meilleure compréhension des tâches qui peuvent être automatisées en toute sécurité ou presque entièrement, car l’agentic est encore une technologie suffisamment nouvelle pour que l’identification de ces tâches soit un processus continu.
Les achats vont également changer. Actuellement, le système est un cycle pluriannuel, au cours duquel les exigences sont écrites, le financement est demandé, les systèmes sont construits puis maintenus indéfiniment. Le développement de logiciels est une entreprise coûteuse, et le codage basé sur le SI peut réduire considérablement ce coût, en permettant davantage d’options logicielles sur mesure au lieu de systèmes plus vastes qui sont efficaces dans de nombreuses tâches sans nécessairement exceller dans des tâches spécifiques.
« Nous n’aurons pas besoin de traiter les logiciels comme un actif permanent », a déclaré Bernsten. « Vous construisez une capacité pour un problème de mission spécifique, et si elle cesse d’être utile, il vous suffit de la désactiver et de la détruire. »
Le dernier changement envisagé par Berntsen consiste à pousser les compétences logicielles directement en première ligne, permettant ainsi aux forces de première ligne de répondre rapidement aux nouveaux besoins sur le terrain. Au lieu de devoir demander une assistance logicielle au quartier général ou à des développeurs de logiciels désignés, les troupes possédant des compétences en logiciels seront en mesure de créer des applications ou des programmes à la volée pour répondre à leurs défis spécifiques.
« Ils construisent la capacité numérique sur place, exécutent la mission et la démontent », a déclaré Berntsen. « Cette capacité distribuée et agile est ce à quoi ressemble réellement une force moderne. »
