Des poèmes pour tromper l'IA : les secrets de l'arme nucléaire révélés

Imaginez un sonnet qui contiendrait les secrets de fabrication d'une bombe nucléaire. Ce n'est pas de la fiction : des chercheurs ont découvert que la poésie est une clé universelle pour contourner les garde-fous de sécurité de l'IA. En formulant des requêtes dangereuses sous forme de vers, ils ont atteint un taux de réussite de débridage de 62 % en moyenne sur 25 chatbots majeurs, certaines attaques atteignant même 90 % d'efficacité. Les systèmes de sécurité de l'IA, conçus pour repérer des mots-clés comme « bombe », sont déroutés par les métaphores et la syntaxe inhabituelle, ce qui les empêche de déclencher leurs alertes. Cela révèle un décalage critique entre l'interprétation sophistiquée du langage par l'IA et ses protocoles de sécurité fragiles et faciles à tromper. Dans le monde réel, cette vulnérabilité pourrait être exploitée pour générer des instructions de fabrication d'armes, créer des malwares ou accéder à d'autres informations interdites.