تخيل قصيدة قصيرة تحمل أسرار صنع قنبلة نووية. هذا ليس من نسج الخيال—فقد اكتشف الباحثون أن الشعر هو مفتاح عالمي لتجاوز ضوابط أمان الذكاء الاصطناعي. فمن خلال صياغة الطلبات الخطرة...
قصة عامة سابقة · مراجعة الأدلة غير متاحة.
نُشرتخيل قصيدة قصيرة تحمل أسرار صنع قنبلة نووية. هذا ليس من نسج الخيال—فقد اكتشف الباحثون أن الشعر هو مفتاح عالمي لتجاوز ضوابط أمان الذكاء الاصطناعي. فمن خلال صياغة الطلبات الخطرة في قالب شعري، حققوا متوسط نجاح في كسر الحماية بنسبة 62% عبر 25 من روبوتات الدردشة الرئيسية، ووصلت فعالية بعض الهجمات إلى 90%. تُصاب أنظمة أمان الذكاء الاصطناعي، المصممة لرصد كلمات رئيسية مثل "قنبلة"، بالارتباك بسبب الاستعارات والصياغات النحوية غير المألوفة، مما يمنعها من إطلاق إنذاراتها. يكشف هذا عن وجود فجوة خطيرة بين قدرة الذكاء الاصطناعي المتطورة على تفسير اللغة وبروتوكولات الأمان الهشة التي يسهل خداعها. في العالم الحقيقي، يمكن استغلال هذه الثغرة لإنشاء تعليمات لصنع الأسلحة، أو تطوير برمجيات خبيثة، أو الوصول إلى معلومات محظورة أخرى.
هذا البحث يُحدث هزة في مجال أمان الذكاء الاصطناعي من خلال كشفه أن التلقينات الشعرية تتجاوز ضوابط الأمان الأساسية.
اسحب لأعلى للتالي1 / 1