أصبحت روبوتات الدردشة المعتمدة على الذكاء الاصطناعى مثل ChatGPT أداة أساسية يعتمد عليها الكثيرون، سواء في المهام المهنية أو الاستخدامات الشخصية، لكن فى بعض الأحيان، قد يؤدى مشاركة بيانات حساسة أو استخدام الميزات المتصلة بالإنترنت إلى تعريض معلومات المستخدمين لمخاطر أكبر.

ولمساعدة المستخدمين على البقاء فى أمان، أعلنت شركة OpenAI عن ميزتين أمنيتين جديدتين: ملصقات المخاطر المرتفعة (Elevated Risk labels) ووضع الإغلاق (Lockdown Mode)، وستعمل الملصقات على تحذير المستخدمين عندما تتضمن ميزة متصلة بالويب احتمالية كشف المزيد من البيانات، بينما سيقوم وضع الإغلاق بتقييد كيفية اتصال ChatGPT بالأنظمة الخارجية.

وتقول الشركة إن هذه الميزات تهدف إلى توفير تنبيهات أوضح وتحكم أكبر فى المعلومات، إلى جانب تقليل مخاطر ما يُعرف بهجمات "حقن الأوامر" (Prompt Injection).

وجاء في التدوينة الرسمية للشركة:“مع تولّى أنظمة الذكاء الاصطناعى مهام أكثر تعقيداً - خاصة تلك التى تتضمن الويب والتطبيقات المتصلة - تتغير رهانات الأمان، أحد المخاطر الناشئة التى أصبحت ذات أهمية خاصة هو: حقن الأوامر، نحن نقدم حمايتين جديدتين لمساعدة المستخدمين والمؤسسات على الحد من هجمات حقن الأوامر، من خلال وضوح أكبر بشأن المخاطر وتحكم أقوى.”

يُعد “حقن الأوامر” تقنية يستخدمها القراصنة لإخفاء تعليمات خبيثة داخل صفحات ويب أو ملفات، بهدف خداع نظام الذكاء الاصطناعي وجعله يكشف معلومات سرية أو ينفذ إجراءات غير مقصودة، ومع استخدام ملايين الأشخاص حول العالم لروبوتات الدردشة مثل ChatGPT في مهام مثل قراءة المستندات، تصفح الإنترنت، أو ربط الحسابات بتطبيقات أخرى، تصبح مخاطر هذه الحيل أكثر خطورة وتأثيراً، وتهدف الأدوات الجديدة التي أطلقتها OpenAI داخل ChatGPT إلى حماية المستخدمين من هذه التهديدات.

قدّمت OpenAI “وضع الإغلاق” كخيار اختياري يقوم بتقييد طريقة تفاعل ChatGPT مع الأنظمة الخارجية بشكل صارم، وعند تفعيل هذا الوضع، سيتم الحد من بعض الأدوات والاتصالات أو تعطيلها، مثل:التصفح المباشر للويب، عمليات التكامل التي ترسل وتستقبل معلومات من خدمات خارجية، ومن خلال تقليل هذه التفاعلات الخارجية، تسعى OpenAI إلى تقليص ما يُعرف بـ “سطح الهجوم” الذي يمكن للقراصنة استغلاله.

وبحسب الشركة، فإن وضع الإغلاق ليس ضرورياً لمعظم المستخدمين في الاستخدام اليومي. بل تم تصميمه أساساً للأشخاص الذين يتعاملون مع معلومات شديدة الحساسية أو الذين قد يكونون عرضة لمخاطر مرتفعة، مثل الصحفيين، والتنفيذيين، والباحثين، والمتخصصين في الأمن السيبرانيز

إلى جانب وضع الإغلاق، تقدم OpenAI أيضاً “ملصقات المخاطر المرتفعة” داخل ChatGPT. ستظهر هذه الملصقات بجانب الأدوات أو الميزات التي تنطوي على درجة أعلى من التعرض لمحتوى أو أنظمة خارجية، فعلى سبيل المثال، إذا كانت إحدى الميزات تتصل بمحتوى خارجي أو تمنح وصولاً أوسع إلى النظام، فسيعرض ChatGPT تنبيهاً واضحاً بشأن المخاطر المحتملة. سيساعد ذلك المستخدمين على اتخاذ قرار مستنير بشأن المتابعة أو الحفاظ على مستوى خصوصية أعلى.

تشير OpenAI إلى أن العديد من أقوى أدوات ChatGPT تعتمد على اتصالات خارجية، سواء كان ذلك من خلال تصفح الإنترنت، و تحليل الملفات التي يتم تحميلها، والتفاعل مع تطبيقات الطرف الثالث، حيث أن هذه القدرات تجعل الذكاء الاصطناعي أكثر فائدة وكفاءة، لكنها قد تفتح أيضاً ثغرات أمنية إذا أسيء استخدامها. ومن خلال توفير تحذيرات أوضح ووضع أمني أكثر صرامة، تهدف الشركة إلى تقليل هذه المخاطر دون التأثير على تجربة الاستخدام بالنسبة لمعظم المستخدمين.

تعكس الخطوات الجديدة التى أعلنتها OpenAI إدراكاً متزايداً لحساسية البيانات التي يتعامل معها الذكاء الاصطناعي، خاصة مع توسع استخدامه في مجالات العمل والحياة الشخصية، وبينما توفر الميزات الجديدة مستوى أعلى من الحماية والتحكم، فإنها تؤكد أيضاً أن الأمان في عصر الذكاء الاصطناعي لم يعد خياراً ثانوياً، بل ضرورة أساسية.