L’exploitation IA terroristes par Boko Haram
Une récente investigation menée par l’université de Cambridge a mis en évidence une utilisation préoccupante des intelligences artificielles conversationnelles par le groupe terroriste Boko Haram. Les analyses des chercheurs révèlent que des plateformes comme ChatGPT, Claude et Gemini sont activement employées pour élaborer des stratégies d’attaques, fabriquer des explosifs et assurer la maintenance d’armements.
ISIS forme ses commandants à contourner les protections des IA
Parallèlement, depuis 2023, l’État islamique (ISIS) a entrepris de former ses commandants à contourner les mécanismes de sécurité intégrés dans ces outils d’intelligence artificielle. Cette démarche stratégique vise à exploiter les vulnérabilités des systèmes pour faciliter leurs opérations malveillantes et étendre leur portée d’action.
L’autorégulation des fournisseurs d’IA mise en question
L’étude souligne de manière alarmante que les filtres de sécurité des chatbots échouent fréquemment à prévenir ces utilisations abusives. Cette constatation remet sérieusement en question l’efficacité de l’autorégulation volontaire des fournisseurs d’IA face à la menace croissante de l’exploitation de leurs technologies par des groupes terroristes.