Omettre l’évidence : la manière la plus probable par laquelle l’IA peut permettre des attaques terroristes

Parfois, une fixation sur les menaces les plus dangereuses peut vous amener à négliger les dangers les plus probables, comme être tellement inquiet de l’impact d’un astéroïde que vous vous promenez en regardant le ciel… et que vous tombez ensuite dans un trou d’égout ouvert. Le gouvernement américain et l’industrie de l’IA risquent de commettre la même erreur en matière d’intelligence artificielle et de terrorisme.

Les laboratoires américains d’IA comme OpenAI et Anthropic se sont concentrés sur la prévention des abus les plus potentiellement désastreux de leurs produits : l’exploitation de l’IA pour aider les terroristes à fabriquer des armes de destruction massive. Et, en effet, il y a eu une poignée d’attaques de ce type au cours des dernières décennies, depuis le rejet de gaz neurotoxique par la secte Aum Shinrikyo dans le métro de Tokyo en 1995, tuant 19 personnes, jusqu’aux lettres contenant de l’anthrax aux États-Unis en 2001, qui en ont tué cinq. Les conseils de l’IA sur la manière de fabriquer et de diffuser ces substances mortelles pourraient rendre des attaques similaires beaucoup plus meurtrières.

Mais les terroristes tuent déjà des milliers de personnes chaque année avec des armes classiques et des explosifs. Donc le plus probable L’abus cinétique de l’intelligence artificielle concerne les groupes terroristes, les psychopathes individuels et d’autres acteurs malveillants qui utilisent l’IA pour organiser des attaques conventionnelles plus efficaces. Nous avons des preuves claires que le danger augmente :

L’Etat islamique – qui reste l’organisation terroriste la plus meurtrière de la planète – a distribué un « Guide des outils et des risques liés à l’IA » à ses partisans et propose une formation en personne à l’IA. Bien que l’utilisation la plus courante jusqu’à présent soit la propagande générée par l’IA, les membres de l’Etat islamique ont également consulté l’IA pour les aider à fabriquer des bombes maison et à concevoir des véhicules télécommandés pour les lancer. Une étude récente sur Boko Haram, basé au Nigeria, a révélé que le groupe extrémiste utilisait l’IA « pour planifier des attaques, dépanner des armes et concevoir des engins explosifs ».

Même les acteurs des « loups solitaires » en profitent. Les forces de l’ordre ont décrit l’attentat à la bombe contre un Cybertruck à Las Vegas en janvier 2025 comme le premier incident connu au cours duquel ChatGPT a été utilisé pour fabriquer un engin explosif. Et en février 2026, un tireur dans une école canadienne aurait consulté ChatGPT avant de commettre une attaque meurtrière. Ce sont les canaris de la mine de charbon.

Aujourd’hui, prêter attention aux menaces de destruction massive est louable et compréhensible. Les experts répartissent ces dangers en catégories de bombes chimiques (gaz et liquides toxiques), biologiques (germes), radiologiques (propagation de matières radioactives) et nucléaires – collectivement connues sous le nom de menaces CBRN. Empêcher l’IA d’aider à concevoir une super-variole ou une arme nucléaire est évidemment une bonne chose ! Il est également important de minimiser les menaces chimiques et radiologiques, même si les attaques terroristes utilisant des explosifs se sont souvent révélées plus meurtrières que les pires attaques terroristes chimiques au monde, et qu’aucune attaque terroriste radiologique ou nucléaire n’a encore eu lieu. Les signes indiquant que les laboratoires prennent ces menaces au sérieux incluent leur vague d’embauches au cours de l’année écoulée pour des postes de sécurité liés au CBRN, les références répétées aux menaces CBRN dans leurs rapports de risques et l’octroi de récompenses aux organisations qui travaillent sur la réduction des menaces CBRN.

Pourtant, il existe une relative pénurie d’actions similaires pour faire face aux menaces conventionnelles. Et même si les terroristes et les criminels sont généralement à la traîne des armées nationales dans l’adoption de nouvelles tactiques et méthodes, ils ont également fait preuve d’une ingéniosité et d’une capacité d’adaptation remarquables. Ainsi, tandis que les forces armées des États-Unis, de la Chine, de la Russie, de l’Ukraine, de la Corée du Sud et bien d’autres s’efforcent d’intégrer profondément l’IA dans tous les aspects de leurs opérations de guerre conventionnelles – de la collecte de renseignements à la planification opérationnelle en passant par les frappes de drones – les terroristes aussi le font de plus en plus.

Une telle adoption de l’IA par des acteurs non étatiques malveillants pourrait augmenter considérablement leur capacité à tuer, en particulier parce que l’incompétence technique et la mauvaise logistique sont les principales causes des attaques terroristes ratées. Un meilleur accès à l’information peut surmonter ces obstacles.

Les laboratoires Frontier AI ne doivent pas sous-estimer à quel point l’accès simplifié aux informations open source peut aider les attaquants, en particulier les loups solitaires ou les petites cellules non prises en charge par les grandes organisations. Si les attaques à la bombe de type marathon de Boston (5 tués) devenaient aussi efficaces que celles d’Oklahoma City (168 tués), ou si les attaques terroristes de type San Bernardino (14 tués) devenaient aussi complexes que les attentats de l’EI à Paris (130 tués), les effets cumulés seraient dévastateurs. Notamment, la différence de létalité au sein de ces paires d’attaques résulte en grande partie de différences en matière de connaissances, de planification et de logistique, autant de choses pour lesquelles l’IA peut aider.

L’attentat à la bombe d’Oklahoma City, par exemple, – qui reste la pire attaque terroriste menée par des citoyens américains sur le sol américain – impliquait un engin explosif improvisé relativement complexe pesant des milliers de livres, qui a nécessité l’approvisionnement et l’assemblage de matériaux comme le nitrométhane et les explosifs Tovex. Les terroristes ont appris comment procéder grâce à leur entraînement militaire, à leurs manuels de survie et d’armes, ainsi qu’à un roman, Les journaux de Turnerécrit comme un « plan détaillé de victoire » pour les suprémacistes blancs. En comparaison, les bombardiers du marathon de Boston ont assemblé des armes beaucoup plus petites et rudimentaires, en suivant les instructions des forces d’Al-Qaïda. Inspirer revue. Un accès supérieur à l’information a conduit à un résultat bien plus meurtrier.

Ce phénomène pourrait s’étendre à de nombreux autres types d’armes conventionnelles, notamment lorsque des groupes terroristes étrangers s’emparent d’armes avancées. Prenons un scénario : des militants liés à Al-Qaïda tendent une embuscade à un convoi militaire russe en Afrique, tuant des dizaines de personnes et capturant des véhicules et du matériel. Le butin comprend une mitrailleuse lourde russe Kord – mais aucun des militants ne sait comment la faire fonctionner. En ce qui concerne l’IA, cependant, ils peuvent trouver un manuel technique en russe, ainsi qu’une vidéo pédagogique en anglais. En utilisant l’IA pour traduire les deux dans leur langue maternelle, le bambara, les militants apprennent à utiliser et à entretenir la mitrailleuse. Cela augmente considérablement leur puissance de feu, rendant les attaques futures plus réussies, ce qui leur permet de saisir encore plus de ressources et d’armes – qu’ils peuvent également utiliser l’aide de l’IA. Chacune de ces étapes est tout à fait possible et pourrait s’appliquer à des systèmes beaucoup plus avancés comme les chars et les systèmes anti-aériens, que l’Etat islamique a capturés en grande quantité en 2014-2015.

Outre le coût en vies humaines, le fait de ne pas réagir de manière préventive aux risques conventionnels pourrait entraîner de graves conséquences pour les laboratoires pionniers. Le développement de l’IA suscite déjà assez peu d’intérêt auprès du public américain, en particulier la construction de centres de données qui sous-tendent la mise à l’échelle de l’IA. Une attaque terroriste majeure basée sur l’IA pourrait attiser une anxiété supplémentaire face à la prolifération de cette technologie et augmenter la probabilité de réglementations imprévisibles et sévères que les laboratoires tentent d’éviter. Cela pourrait inclure une réglementation plus directe des filtres de sécurité, une collecte et une surveillance obligatoires des données, des contrôles à l’exportation et des restrictions sur la distribution des modèles – tout cela pourrait freiner le développement de l’IA aux États-Unis au profit d’adversaires comme la Chine et saper l’attrait de l’IA pour les consommateurs.

Alors, par où les laboratoires devraient-ils commencer pour résoudre le problème ?

Premièrement, attribuez aux menaces conventionnelles un niveau d’importance similaire à celui des menaces CBRN. Cela nécessiterait d’embaucher des experts en matière de terrorisme et de systèmes d’armes conventionnelles aux côtés des spécialistes CBRN. Cela nécessiterait également un examen approfondi des risques, garantissant que la probabilité des menaces est prise en compte, et non seulement leur ampleur.

Deuxièmement, coopérez avec les forces de l’ordre et les agences de renseignement pour identifier de manière proactive les comptes utilisés pour des activités illicites, même si les interactions spécifiques avec les modèles d’IA ne violent pas immédiatement les conditions d’utilisation. Cela pourrait donner un aperçu de ce que les terroristes préparent et éviter les attaques avant qu’elles ne se produisent.

Troisièmement, et c’est le plus important, renforcer les garanties rapides entourant les systèmes d’armes conventionnelles, notamment en ce qui concerne la traduction des manuels techniques et opérationnels et la conception des composants de remplacement. L’accès simplifié à l’information, même lorsqu’elle est théoriquement disponible dans d’autres sources ouvertes, augmente la probabilité qu’elle soit utilisée.

Les terroristes travaillent activement à exploiter les modèles américains d’IA. Ne pas les arrêter pourrait créer des vagues de peur et des réactions anti-technologiques qui s’étendraient bien au-delà des dommages physiques infligés.

Ryan Brobst est directeur adjoint du Centre sur le pouvoir militaire et politique (CMPP) de la Fondation pour la défense des démocraties (FDD).