La prochaine étape de l’IA pour la communauté du renseignement : les agents gérant les agents
TAMPA — L’avenir de la communauté américaine du renseignement impliquera probablement des réseaux d’agents de l’IA travaillant entre eux – échangeant des informations, coordonnant les tâches et fournissant des renseignements exploitables, ont déclaré cette semaine des responsables clés.
« Construire des agents, puis des agents avec des agents, est la direction dans laquelle nous voulons aller », a déclaré le major-général Robert Kinney, chef de l’intelligence artificielle de la Defense Intelligence Agency, lors d’un panel sur l’IA à l’émission DODIIS de la DIA mercredi. « Nous posons les fondations et les canalisations, si vous voulez, pour poursuivre les agents de construction. »
Le concept va bien au-delà des chatbots actuels, où un utilisateur pose une question et reçoit une réponse. Kinney a imaginé un agent d’IA prenant en charge les fonctions de renseignement et communiquant avec plusieurs autres agents prenant en charge les opérations, les incendies, la logistique, les communications et la planification, créant ainsi un système interconnecté capable d’aider à résoudre des problèmes de mission complexes.
Selon Kinney, les premiers défis consistent à déterminer l’aspect « artisanal » : comment utiliser les agents de manière responsable pour interagir et contrôler d’autres agents, et comment gérer la conformité, la sécurité et la confiance pendant la construction de ces agents.
Il reste également à déterminer dans quelle mesure le gouvernement doit autoriser les agents à opérer sans intervention humaine. Kinney a suggéré que la réponse dépendrait des conséquences d’une décision. Dans les zones de mission potentiellement réversibles, les agences pourraient accepter plus de risques et garder un humain « au courant », tandis que des actions irréversibles telles que les incendies nécessiteraient un humain « au courant ».
Il ne s’agit pas là de préoccupations théoriques, car cette discussion s’inscrit également dans un contexte d’urgence nouvelle. Ces dernières semaines, OpenAI et Anthropic ont divulgué des cas dans lesquels des agents d’IA auraient échappé au confinement prévu lors de tests de sécurité et pris des mesures non autorisées pour pirater d’autres systèmes réseau, soulevant de nouvelles questions sur le degré d’autonomie que ces systèmes devraient avoir à mesure que leurs capacités augmentent.
Kinney a déclaré que l’agence était sur un sprint de 90 jours pour créer son premier service de plate-forme d’IA d’entreprise.
Un autre livrable est la plate-forme de composants modulaires (MCP), qui, selon Kinney, constitue un « moyen plus universel d’accéder à nos données ». Il a ajouté que ChatDIA, qui est déployé sur le Joint Worldwide Intelligence Communication System (JWICS), est également « réorganisé en tant que frontal pour le MCP et les agents ».
L’Agence nationale de renseignement géospatial (NGA) adopte une approche tout aussi méthodique.
Michelle Aten, directrice de l’intelligence artificielle de la NGA, a déclaré que l’agence développait un cadre agent construit autour de tâches individuelles identifiées par des experts en la matière, tout en travaillant au sein du CI pour éviter que plusieurs organisations ne gaspillent de l’argent en créant les mêmes agents. L’objectif est de rendre les agents de confiance largement disponibles et détectables, puis de les surveiller en permanence pour déceler tout comportement « anormal ou aberrant ».
NGA a également mis en place un groupe de travail sur l’IA pour déterminer « de manière agressive » si ses investissements produisent réellement des résultats. Aten a déclaré que l’effort consiste à mener des appels de données et des entretiens dans toute l’agence pour inventorier les capacités d’IA et les flux de données qui les soutiennent, établir des mesures de performance et d’efficacité et comparer les programmes visant à réduire les dépenses redondantes.
Au FBI, la directrice de l’intelligence artificielle, Katie Noyes, a déclaré que l’approche agentique initiale du bureau était organisée autour de rôles spécifiques. Un analyste de la lutte contre le terrorisme, par exemple, pourrait demander à un agent de rassembler des collections de sources ouvertes et de renseignements, d’identifier les corrélations et de suggérer les questions à poser ensuite. Un cyberanalyste pourrait utiliser un cadre similaire pour examiner les indicateurs de compromission du trafic réseau du FBI.
Comme pour la DIA et la NGA, le FBI se concentre sur le développement des infrastructures, de la gouvernance et de la confiance, ont indiqué les responsables. Cela déterminera quels agents créer, à quoi ils peuvent accéder, comment leurs performances seront mesurées et, surtout, quand un humain doit garder le contrôle.
