Biodonnées, IA et avenir du commandement : bien faire les choses
À mesure que l’IA et la biotechnologie convergent, la question centrale n’est plus simplement de savoir si l’armée peut collecter des données biologiques. La question est de savoir comment.
Qui contrôle la collecte ? Dans quelles conditions les données peuvent-elles être transmises ? Qui est autorisé à les interpréter ? Quelle autorité ces interprètes devraient-ils avoir dans les décisions de commandement ? Je soutiens que le Pentagone – et, en dernier ressort, le Congrès – doivent gérer les biodonnées comme un facteur émergent non seulement dans la médecine militaire, mais aussi dans les décisions de commandement. Sa confidentialité, son intégrité, sa disponibilité et son utilisation opérationnelle relèvent de plus en plus de la protection des forces et de la responsabilité du commandement.
Les technologies émergentes peuvent collecter et interpréter des indicateurs de fatigue, de surcharge cognitive, de stress physiologique, d’exposition environnementale et de récupération. Les données sous-jacentes peuvent inclure la fréquence cardiaque et sa variabilité, les mesures de sommeil et de récupération, la température corporelle, la chimie du sang, les biomarqueurs de blessure ou d’infection et les indicateurs de stress physiologique, ainsi que des mesures médicales moins évidentes telles que les schémas de mouvement et d’activité.
Utilisées de manière responsable, ces capacités pourraient aider les commandants à anticiper le déclin de l’endurance, à gérer les rotations des forces, à prioriser les ressources médicales limitées et à prendre des décisions plus éclairées concernant la préparation opérationnelle. Mais les mêmes informations, entre de mauvaises mains ou tout simplement mal utilisées, peuvent révéler les vulnérabilités d’une unité ou fausser les décisions dont dépend sa mission.
Il y a une distinction essentielle à faire ici entre les données brutes et ce qui en est fait, et par qui. Un capteur mesure quelque chose ; un système d’IA interprète ce que cette mesure peut signifier ; un commandant décide si cette évaluation est importante pour une mission particulière. Ce sont des fonctions différentes, qui comportent des normes différentes de fiabilité et de responsabilité. Une mesure de la fréquence cardiaque ne constitue pas un diagnostic. Un déficit de sommeil n’est pas une mesure complète du jugement. Un score de préparation généré par un modèle n’est pas une commande et ne devrait pas non plus le devenir par défaut. Le jugement humain reste essentiel et les humains doivent être tenus responsables de leurs jugements – ou de leur déférence aveugle envers une machine.
Alors, comment les militaires peuvent-ils utiliser correctement les biodonnées ? Pour commencer, pendant l’entraînement, les biodonnées pourraient aider à identifier la fatigue accumulée, à optimiser les programmes de récupération, à évaluer l’exposition aux risques environnementaux et à soutenir une évaluation médicale précoce. Les données longitudinales collectées au fil des mois et des années peuvent établir la base de référence d’un individu, permettant aux cliniciens d’évaluer les écarts par rapport à la plage individuelle de cette personne, plutôt que de comparer chaque membre du service à une moyenne de population indifférenciée. De telles utilisations peuvent améliorer la santé, la conception de la formation et la préservation des forces avant le début d’un déploiement.
Au-delà de la santé individuelle, l’IA pourrait identifier les changements de performances au sein d’une unité, aider à anticiper la demande de services médicaux ou éclairer les décisions sur le moment où une unité doit se reposer et quand elle peut continuer à fonctionner. Lorsqu’elles sont fusionnées avec d’autres données militaires plus traditionnelles – comme la disponibilité du personnel, les stocks de munitions, l’état de l’équipement, les renseignements et les exigences de la mission – les biodonnées deviennent partie intégrante du tableau opérationnel plus large du commandant.
Cela augmente à la fois l’utilité et le risque. Les informations médicales deviennent des informations de commandement lorsqu’une déduction sur le corps commence à influencer où, quand et comment une personne ou une formation est employée. À ce stade, l’armée doit être capable de distinguer la conscience opérationnelle légitime d’une surveillance inappropriée, et l’aide à la décision du jugement humain s’inclinant aveuglément devant une estimation statistique.
Sécurité et confidentialité
Avant qu’un commandant se demande ce qu’un appareil portable peut révéler sur le personnel, il doit répondre à une question plus fondamentale : cet appareil devrait-il être actif dans cet environnement ?
En 2018, le ministère de la Défense a restreint les capacités de géolocalisation dans des zones opérationnelles désignées, reconnaissant que les trackers de fitness et les appareils associés pouvaient révéler l’emplacement du personnel, les routines et les concentrations de forces.
Même les données collectées en temps de paix peuvent créer un risque pour la sécurité. Au fil du temps, les mesures peuvent révéler qui s’entraîne ensemble, combien de temps les unités mettent à récupérer, combien de temps le personnel reste dans une installation et quand l’état de préparation semble se détériorer. Un enregistrement persistant d’un comportement de routine peut devenir une carte de la capacité militaire future – pour notre propre planification ou, en cas de fuite, pour celle d’un adversaire.
C’est précisément parce que les biodonnées sont utiles sur le plan opérationnel qu’elles valent également la peine d’être volées ou manipulées. Un adversaire capable d’accéder aux données physiologiques, comportementales et de performance pourrait identifier les cycles d’entraînement, les fenêtres de récupération, les modèles de déploiement ou les éventuelles lacunes dans l’endurance de l’unité. Ou bien, au lieu de simplement voler des données biologiques, un adversaire pourrait les modifier, faisant apparaître une formation compétente comme inapte aux opérations ou présentant une unité épuisée comme prête, ce qui pourrait inciter les commandants à pousser le personnel fatigué au-delà de leurs limites ou à retirer prématurément les forces de haut niveau.
Même les mesures de sécurité peuvent être révélatrices : si tous les membres d’une unité donnée éteignent leurs trackers en même temps, cela constitue en soi un signal qu’ils sont probablement sur le point d’être déployés. Les restrictions sur les appareils doivent couvrir l’ensemble du cycle de vie des données, et pas seulement le moment du contact.
En bref, un tracker de santé personnel peut avoir des implications bien au-delà de son utilisateur individuel – et le simple fait de désactiver le partage de position ou de mettre un appareil en « mode avion » n’élimine pas nécessairement le risque.
La question pour les commandants n’est donc pas simplement de savoir si un appareil est approuvé à l’achat ou utile pendant la formation. C’est lui qui a le pouvoir d’autoriser, d’interdire ou de restreindre l’appareil lorsque les conditions de sécurité changent. Un traqueur utile lors d’un programme de réhabilitation ou d’un entraînement en garnison peut s’avérer inacceptable à proximité d’une installation sensible, lors des préparatifs de déploiement ou dans une zone de conflit. Les autorisations doivent être spécifiques à la mission et à l’environnement, avec des distinctions explicites entre la collecte de données localement, leur transmission sans fil et leur téléchargement sur des services cloud. Dans certains contextes, la bonne décision du commandement sera de laisser l’appareil derrière lui.
Quand l’information médicale devient autorité de commandement
Une deuxième série de questions concerne les autorisations, l’identifiabilité et l’interprétation : qui peut faire quoi, quand ? Les professionnels de la santé, les supérieurs militaires et les militaires eux-mêmes peuvent-ils tous voir les mêmes informations ? Un commandant peut-il accéder aux indicateurs cliniques d’un individu, ou seulement à un résumé pertinent sur le plan opérationnel ? Qui peut partager, conserver, contester ou supprimer un enregistrement ?
Ces distinctions doivent être intégrées à la politique et à la technologie, et non ajoutées au cas par cas. Le personnel médical peut avoir besoin des informations personnelles et identifiables d’un militaire à des fins de diagnostic et de traitement. Un commandant peut n’avoir besoin que d’une évaluation limitée des limitations liées à la mission, comme la fatigue ou la maladie, sans avoir accès à un historique médical complet. L’individu doit avoir un moyen de comprendre comment ses informations sont utilisées et de contester toute utilisation abusive.
Les comparaisons de référence créent un autre défi. Comparer un militaire avec sa propre base de référence validée peut être plus instructif que de le mesurer par rapport à des moyennes généralisées sur de grandes populations. Mais la maladie, l’environnement local, les nouveaux équipements et les mesures incomplètes peuvent modifier ce qui est considéré comme « normal ». Plutôt que d’approuver des évaluations qu’ils ne comprennent pas, les commandants devraient savoir si une évaluation donnée reflète une mesure directe, un écart par rapport à une référence individuelle, une inférence basée sur la population ou une prédiction générée par l’IA et si le modèle a été validé pour la mission en cours.
L’IA peut éclairer certains aspects du problème, mais elle ne peut à elle seule résoudre les questions de cohésion des unités, d’adaptabilité tactique ou de nécessité militaire. Les utilisateurs doivent se prémunir contre le « biais d’automatisation », où les humains s’en remettent sans réserve aux résultats de l’ordinateur comme s’ils s’adressaient à un oracle, et contre la « fixation métrique », où la capacité de mesurer quelques facteurs conduit à ignorer des éléments intangibles importants. Les mesures biologiques doivent éclairer, et non se substituer silencieusement, au jugement militaire professionnel et à l’expertise clinique.
Un résultat généré par l’IA peut paraître plus précis que les preuves sous-jacentes ne le sont en réalité. Prenons l’exemple d’un tableau de bord indiquant qu’un militaire est « prêt à 90 % ». Prêt pour quelle tâche, pour combien de temps, dans quelles conditions environnementales et selon quels critères validés ? Un score numérique peut compresser des incertitudes complexes en une illusion de certitude simpliste.
Les évaluations doivent donc faire la distinction entre les mesures réelles, les diagnostics basés sur ces données concrètes et les prévisions basées sur ces diagnostics, avec des mises en garde claires quant à l’incertitude et aux limites inhérentes à tout modèle mathématique. Ils devraient également permettre à un humain de contester et de corriger les erreurs potentielles. Un jugement clinique, le rapport d’un militaire ou l’observation directe d’un commandant peuvent révéler des conditions que le modèle n’a pas capturées.
Recommandations : Sécuriser l’architecture des biodonnées
Dans l’ensemble, une approche cohérente des biodonnées devrait traiter les facteurs suivants, non pas comme des réflexions après coup, mais comme étant centraux dans la conception du système :
Premièrement, la collecte de données et le contrôle des émissions doivent être des décisions explicites. Établissez des règles spécifiques à la mission, désignez l’autorité chargée d’émettre des exceptions et exigez des évaluations des risques documentées pour les opérations ou les sites sensibles. Construisez le système pour qu’il se dégrade progressivement au lieu de s’effondrer dès qu’un ennemi perturbe le réseau. Ne présumez jamais que l’équipement adapté à la formation en temps de paix est adapté au déploiement opérationnel.
Deuxièmement, protégez les données biologiques pour garantir la confidentialité des individus et la sécurité opérationnelle. Appliquer des garanties proportionnées au contexte de la mission et à la valeur qu’un adversaire pourrait tirer de l’agrégation et de la corrélation avec d’autres données. Sécurisez le chemin des données de bout en bout, en commençant par des capteurs vérifiés et en terminant par des règles strictes de conservation ou de stockage à long terme.
Troisièmement, séparez l’accès clinique de l’utilisation des commandes. Établissez des niveaux d’accès clairs et différents pour le personnel médical, les commandants, les analystes et les militaires. Les chefs militaires devraient recevoir le minimum d’informations personnelles nécessaires à la prise de décisions légitimes, tandis que les déterminations cliniques restent du ressort des professionnels de la santé. Précisez qui peut activer les systèmes de surveillance, inspecter les enregistrements identifiables, approuver les utilisations secondaires et auditer l’accès.
Quatrièmement, protégez-vous contre une confiance aveugle dans les affirmations algorithmiques. Exiger des résultats qu’ils distinguent les références individuelles des normes de population, les observations directes des prédictions et les résultats validés des inférences incertaines. Intégrez des procédures pour contester un score, documenter les dérogations, corriger les erreurs et empêcher les décisions injustifiées basées sur des données incomplètes.
Cinquièmement, attribuez des responsabilités avant l’adoption opérationnelle. Identifiez qui approuve les nouvelles technologies, fixe les seuils de performance, juge les évaluations contradictoires, examine les risques et enquête sur les échecs. La responsabilité doit rester traçable jusqu’à des personnes individuelles identifiables.
Enfin, entraînez-vous au déni, à la tromperie et à la manipulation des biodonnées. Dans les wargames, présenter aux commandants des estimations apparemment crédibles de l’état de préparation qui entrent en conflit avec ce que leur disent leur équipe médicale, leurs subordonnés ou leurs propres yeux. Les scénarios devraient inclure des trackers personnels transmettant pendant un exercice, des enregistrements incorrectement anonymisés exposant une petite unité ou un outil d’IA produisant des conclusions corrompues. L’objectif est d’acquérir un jugement sur le moment de faire confiance à une évaluation, de la remettre en question et de s’en passer.
Les États-Unis ont l’opportunité d’utiliser l’IA et la biotechnologie pour renforcer les soins médicaux, la préparation du personnel et l’efficacité militaire. Réaliser ce potentiel nécessite bien plus que le déploiement de capteurs ou l’achat d’analyses. Cela nécessite des institutions capables de gouverner quand l’information est créée, où elle circule, qui peut l’interpréter et quelle autorité elle doit avoir sur les décisions qui en découlent.
Protéger à la fois les combattants individuels et la force dans son ensemble nécessite de protéger à la fois les informations tirées du corps humain et l’autorité humaine sur la manière dont elles sont utilisées. La sécurité des biodonnées n’est pas simplement une question de confidentialité ou un problème de technologie médicale. C’est une exigence de protection des forces, de résilience opérationnelle et de leadership.
Le Dr Elise G. Annett est chercheuse au sein du programme sur les technologies de rupture et la guerre future de l’Institut d’études stratégiques nationales de l’Université de la Défense nationale, et chercheuse principale dans le domaine numérique au Centre pour l’application de la grande stratégie.
Les points de vue et opinions présentés dans cet essai sont ceux de l’auteur et ne représentent pas nécessairement ceux du gouvernement des États-Unis, du ministère de la Guerre ou de l’Université de la Défense nationale.
