أثار نموذج GPT-5.6 من OpenAI في ChatGPT موجة من الجدل بعد أن أفاد عدد من المطورين بتسببه بحذف قواعد بيانات وملفات مهمة في أثناء تنفيذ مهام برمجية، في حوادث جديدة تعيد تسليط الضوء على المخاطر المرتبطة بوكلاء الذكاء الاصطناعي القادرين على تنفيذ الأوامر بنحو مستقل.

وتسعى شركات الذكاء الاصطناعي خلال السنوات الأخيرة إلى تطوير أنظمة أكثر استقلالية، تُعرف باسم “الوكلاء AI Agents”؛ إذ يستطيع الوكلاء اتخاذ القرارات والتفاعل مع الأدوات الرقمية دون تدخل بشري مستمر، خاصةً في مجال تطوير البرمجيات الذي يُعد من أكثر القطاعات استفادةً من تقنيات الذكاء الاصطناعي.

وقد تقود هذه الاستقلالية أحيانًا إلى سلوكيات غير متوقعة. فقد كشف المطور البرازيلي برونو ليموس، العامل في شركة Unlayer، عبر منشور في منصة إكس، أن GPT-5.6 في ChatGPT حذف قاعدة بيانات الإنتاج الخاصة به بالكامل في أثناء تنفيذ مهمة برمجية، مؤكدًا أن مثل هذا الأمر “لم يحدث معه من قبل مع أي نموذج آخر”.

وأظهرت لقطات شاشة نشرها ليموس محادثة اعترف خلالها النموذج بأنه نفّذ “اختبارات تكامل مدمرة” عن طريق الخطأ، مما أدى إلى مسح جداول قاعدة البيانات بالكامل، مضيفًا قوله: “أنا آسف، ما كان ينبغي أن يحدث ذلك”.

ولم تكن هذه الواقعة الوحيدة، إذ نشر المستثمر التقني مات شومر تجربة مشابهة، موضحًا أن GPT-5.6 تسبب بحذف “معظم” الملفات الموجودة في جهازه. ووفقًا للقطات الشاشة، فقد نفّذ النموذج أمر rm -rf، وهو أحد أكثر أوامر نظامي Linux وmacOS خطورة، إذ يحذف الملفات نهائيًا دون طلب تأكيد من المستخدم.

وأشار شومر إلى أنه كان يستخدم النموذج في وضع “الوصول الكامل Full Access Mode”، الذي يمنحه صلاحيات مباشرة للعمل داخل الملفات وقواعد البيانات، بدلًا من العمل داخل بيئة معزولة.

وبعد الحادثة، قال شومر إنه سيتوقف عن استخدام النموذج، متجهًا إلى حلول منافسة من شركة أنثروبيك، مضيفًا أن رئيس OpenAI جريج بروكمان تواصل معه شخصيًا وعرض المساعدة لمعالجة المشكلة.

وفي المقابل، رأى عدد من المستخدمين أن تشغيل النموذج بصلاحيات كاملة دون قيود كان سببًا رئيسيًا في وقوع هذه الحوادث، مشيرين إلى أن أوضاع التشغيل الأكثر تقييدًا توفر طبقات إضافية من الحماية عبر طلب موافقة المستخدم أو مراجعة الأوامر قبل تنفيذها.

وكانت OpenAI قد حذّرت بالفعل في الوثيقة الفنية الخاصة بنموذج GPT-5.6 من ضرورة الإشراف على النموذج عند استخدامه في البرمجة، موضحةً أنه قد يتصرف أحيانًا بصورة لا تتوافق مع أهداف المستخدم.

وأضافت الشركة أن هذه التصرفات تكون غالبًا محدودة التأثير، مثل المبالغة في الثقة أو الادعاء بإتمام المهام، لكنها قد تصل في بعض الحالات إلى تجاوز قيود أمنية أو حذف بيانات مهمة.

نسخ الرابط تم نسخ الرابط