فينتك جيت: وكالات
بات المخترقون يستخدمون الذكاء الاصطناعي لمهاجمة أنظمة الذكاء الاصطناعي، حيث جعل تقدم بحثي جديد هجمات الحقن الفوري للذكاء الاصطناعي أسرع وأسهل على نحو مخيف.
وباتت أكثر نماذج الذكاء الاصطناعي أمانًا مثل “Gemini” من شركة جوجل معرضة لهذا الخطر.
تُعدّ هجمات الحقن الفوري إحدى أكثر الطرق المستخدمة للتلاعب بالنماذج اللغوية الكبيرة، فمن خلال إدخال تعليمات خبيثة في النص الذي يقرأه الذكاء الاصطناعي -مثل تعليق في تعليمات برمجية أو نص مخفي على صفحة إنترنت- يمكن للمخترقين جعل النموذج يتجاهل قواعده الأصلية، بحسب تقرير لموقع “BGR” المتخصص في أخبار التكنولوجيا، اطلعت عليه “العربية Business”.
وقد يعني ذلك تسريب بيانات شخصية، أو تقديم إجابات خاطئة، أو القيام بسلوكيات أخرى غير مقصودة. لكن المشكلة تكمن في أن هجمات الحقن الفوري تتطلب عادةً الكثير من التجربة والخطأ اليدوي لتُصبح صحيحة، خاصةً بالنسبة للنماذج المغلقة مثل “GPT-4” أو “Gemini”، حيث لا يستطيع المطورون معرفة التعليمات البرمجية الأساسية أو بيانات التدريب.
لكن تقنية جديدة تُسمى “Fun-Tuning” تُغير ذلك. طور فريق من الباحثين الجامعيين هذه الطريقة، باستخدام واجهة برمجة تطبيقات الضبط الدقيق من جوجل” لـ”Gemini”، وذلك لتصميم عمليات حقن سريعة عالية النجاح تلقائيًا.
من خلال استغلال واجهة تدريب “Gemini”، يتمكن “Fun-Tuning” من اكتشاف أفضل “البادئات” و”اللاحقات” التي يجب إضافتها لطلب خبيث من هاجم للنموذج اللغوي الكبير، مما يزيد بشكل كبير من فرص تنفيذ هذا الطلب كما هو مراد.
في الاختبار، حقق “Fun-Tuning” معدلات نجاح تصل إلى 82% على بعض نماذج “Gemini”، مقارنةً بأقل من 30% في الهجمات التقليدية.
ويعمل “Fun-Tuning” من خلال استغلال الأدلة الدقيقة في عملية الضبط الدقيق -مثل كيفية تفاعل النموذج مع أخطاء التدريب- وتحويلها إلى ردود فعل تُعزز فعالية الهجوم.
والأمر الأكثر إثارة للقلق هو أن الهجمات التي طُوّرت لإصدار واحد من “Gemini” انتقلت بسهولة إلى إصدارات أخرى. وهذا يعني أن بإمكان مهاجم واحد تطوير طلب خبيث ناجح واحد ونشره عبر منصات متعددة.
وبالنظر إلى أن “جوجل” تقدم واجهة برمجة التطبيقات هذه للضبط الدقيق مجانًا، فإن تكلفة شن مثل هذا الهجوم منخفضة تصل إلى 10 دولارات من وقت الحوسبة
اقرا ايضا:
«علي بابا » تطلق نموذج ذكاء اصطناعي يمكنه معالجة الفيديو والصوت على الهاتف
«جوجل» تعلن عن تحديث ثوري في خدمة البريد الإلكتروني «Gmail» بتقنيات الذكاء الاصطناعي
بيل جيتس: لن يكون هناك حاجة للبشر في معظم الوظائف والذكاء الاصطناعي سيوفر بدائل أكفأ وأوفر
وزارة العدل الأمريكية تلزم «جوجل» بالافصاح عن أي إستثمار مقبل في أي شركة ذكاء اصطناعي
