Poemas Enganam IA: Segredos de Armas Nucleares Revelados

Imagine um soneto guardando os segredos para construir uma bomba nuclear. Isso não é fantasia — pesquisadores descobriram que a poesia é uma chave universal para contornar as barreiras de segurança da IA. Ao formular solicitações perigosas em verso, eles alcançaram uma taxa de sucesso de jailbreak de 62% em média em 25 dos principais chatbots, com alguns ataques atingindo 90% de eficácia. Os sistemas de segurança da IA, projetados para detectar palavras-chave como "bomba", são confundidos por metáforas e sintaxe incomum, falhando em acionar seus alarmes. Isso revela um desalinhamento crítico entre a interpretação de linguagem sofisticada de uma IA e seus protocolos de segurança frágeis e facilmente enganados. No mundo real, essa vulnerabilidade poderia ser explorada para gerar instruções para a construção de armas, criação de malware ou acesso a outras informações proibidas.