Poemas engañan a la IA: Revelan secretos sobre armas nucleares

Imagina un soneto que contiene los secretos para construir una bomba nuclear. No es fantasía: investigadores han descubierto que la poesía es una clave universal para eludir las barreras de seguridad de la IA. Al formular peticiones peligrosas en verso, lograron una tasa de éxito de jailbreak del 62 % en promedio en 25 chatbots importantes, con algunos ataques alcanzando una efectividad del 90 %. Los sistemas de seguridad de la IA, diseñados para detectar palabras clave como "bomba", se confunden con las metáforas y la sintaxis inusual, por lo que no activan sus alarmas. Esto revela un desajuste crítico entre la sofisticada interpretación del lenguaje de una IA y sus protocolos de seguridad frágiles y fáciles de engañar. En el mundo real, esta vulnerabilidad podría ser explotada para generar instrucciones para fabricar armas, crear malware o acceder a otra información prohibida.