L’armée va faire un pas (prudent) vers l’emploi d’agents d’IA pour défendre les réseaux, selon un responsable

WASHINGTON — L’armée est sur le point de franchir la prochaine étape vers le déploiement potentiel d’agents défensifs d’IA sur ses réseaux alors que le service prévoit d’attribuer des contrats à deux entreprises d’ici la fin de la semaine, a déclaré un responsable clé.

« Celui que nous prévoyons d’attribuer vendredi est notre élément d’action. Donc, essentiellement, comment pouvons-nous non seulement détecter de manière autonome un adversaire potentiel ? Comment faisons-nous maintenant quelque chose – avoir une réponse autonome dans les paramètres prescrits d’un opérateur humain, ou même en conjonction avec cela ? » Brandon Pugh, le principal cyber-conseiller du service, a déclaré lundi lors de la conférence annuelle de l’AUSA. « C’est extraordinaire. Quelque chose que nous n’avons pas fait et dont nous sommes très enthousiastes. »

Pugh a refusé de fournir les noms des lauréats avant l’annonce de vendredi.

L’effort d’IA en réseau, baptisé Projet Griffin, est issu d’un exercice théorique auquel participent de hauts dirigeants de l’industrie et des leaders des services. L’armée a publié une liste de solutions commerciales ouverte en août, suscitant 108 candidatures qui ont été réduites à 10 finalistes.

Pugh a expliqué que l’armée dispose d’outils, tels que sa capacité Panoptic Junction, qui, selon lui, ont un taux de réussite de près de 90 % pour identifier les activités malveillantes sur le réseau. Mais ils n’ont actuellement aucun moyen de remédier à ces menaces, en particulier avec les humains limités.

Malgré la récompense accordée vendredi, les responsables ont déclaré que les agents ne commenceraient pas immédiatement à travailler sur les réseaux gouvernementaux.

« Pour nous, la question se posera : sommes-nous, en tant qu’humains, prêts à laisser l’agent agir ? Pensez au nombre d’années pendant lesquelles un humain a été la personne qui crée le patch, corrige quelque chose, alors nous nous demandons ce que signifie avoir un agent pour faire ce travail et comment vérifier le travail de cet agent. Il reste donc beaucoup à faire dans cet espace », a déclaré le lieutenant-général Christopher Eubank, commandant du Cyber ​​Command de l’armée, aux journalistes lors de la conférence.

Il a ajouté que le service travaille avec les entreprises pour comprendre ce qu’elles peuvent faire dans cet espace et déterminer ce que signifie réellement agir, notant qu’ils travaillent « main dans la main avec les entreprises pour construire à quoi cela ressemble », puis le soumettre à un processus délibéré sur la partie du réseau de l’armée. Les deux entreprises récompensées pourraient travailler en tandem ou faire leur propre travail.

Pugh a déclaré que le recours à une ouverture aux solutions commerciales pour rassembler des idées a en fait été suggéré par les membres de l’industrie, comme un moyen de maintenir des réponses larges plutôt que de prescrire ce que les entreprises devraient fournir à l’armée. L’industrie a souvent des capacités ou des idées qui ne sont même pas sur le radar du gouvernement, a-t-il déclaré.

Compte tenu de la grande ouverture, l’armée souhaite déterminer ce que les entreprises sont capables de fournir au fur et à mesure qu’elles le mettent à l’épreuve.