أطلق الملياردير الأمريكي إيلون ماسك تحذيرا جديدًا بشأن استخدام روبوتات الدردشة المعتمدة على الذكاء الاصطناعي، داعيًا إلى إبعاد منصة ChatGPT عن الأطفال والأشخاص الذين يعانون من اضطرابات نفسية، وذلك عقب تقارير كشفت ارتباط المشتبه به في حادث إطلاق نار مميت في كندا باستخدام الأداة قبل وقوع الهجوم.وجاء تعليق ماسك عبر منصة X، في ظل تصاعد الجدل حول مدى مسؤولية شركات الذكاء الاصطناعي عن مراقبة استخدام تقنياتها ومنع استغلالها في التخطيط لأعمال عنف.

حساب المشتبه به على ChatGPT رُصد قبل الهجوم

جاء تعليق ماسك ردًا على منشور للناشط التقني هيرنان كورتيس  أشار فيه إلى مزاعم بأن منفذ حادث إطلاق نار في مدرسة بمنطقة تمبلر ريدج بكندا استخدم ChatGPT في وضع خطة مفصلة لارتكاب جريمة جماعية. — Hernan Cortes (@CyberPunkCortes) https://twitter.com/CyberPunkCortes/status/2032082591076004037?ref_src=twsrc%5Etfw وبحسب مقتطف من دعوى قضائية جرى تداوله في المنشور، فإن نظام المراقبة الخاص بنماذج اللغة في شركة OpenAI رصد محادثات المستخدم المتعلقة بالعنف المسلح، وقام بإحالتها إلى مشرفين بشريين لمراجعتها.وتزعم الدعوى أن نحو 12 موظفًا في OpenAI اعتبروا تلك المحادثات مؤشرًا على “خطر وشيك بإلحاق أذى جسيم بالآخرين”، واقترحوا إبلاغ الشرطة الكندية. لكن، وفقًا لما ورد في الادعاءات، فإن هذه التوصية لم تعتمد من قبل قيادة الشركة.

حظر الحساب الأول فقط

وتضيف الدعوى أن الإجراء الوحيد الذي اتخذته الشركة في ذلك الوقت كان حظر الحساب الأول للمستخدم المرتبط بالمحادثات المثيرة للقلق.غير أن ذلك لم يمنع الشخص المعني من إنشاء حساب ثانٍ ومواصلة استخدام ChatGPT في مناقشة سيناريوهات تتعلق بالعنف المسلح، بحسب ما ذكره المدعون وتقارير إعلاميةفي خضم الجدل، كشفت شركة OpenAI أنها رصدت حسابًا مرتبطًا بالمشتبه به جيسي فان روتسيلار في يونيو 2025، وذلك عبر أنظمة الكشف عن إساءة الاستخدام التي تعتمد على أدوات آلية وتحقيقات بشرية لمتابعة أي نشاط قد يرتبط بالعنف.وأوضحت الشركة أنها قامت بحظر الحساب في ذلك الوقت بعد اكتشاف استخدامه بطريقة تثير القلق، إلا أنها لم تبلغ السلطات لأن المعلومات المتاحة لم تصل بحسب تقييمها إلى مستوى خطة موثوقة أو تهديد وشيك بإلحاق أذى جسيم بالآخرين.

الهجوم الذي صدم كندا

وقع الهجوم في 12 فبراير داخل مدرسة تومبلر ريدج الثانوية في بلدة تومبلر ريدج بمقاطعة كولومبيا البريطانية، وأسفر عن مقتل ثمانية أشخاص وإصابة 27 آخرين، في واحدة من أكثر حوادث إطلاق النار دموية في تاريخ البلاد.وذكرت السلطات أن المشتبه به عثر عليه لاحقا داخل المدرسة وقد توفي نتيجة إصابة بطلق ناري أطلقه على نفسه.كما أفادت الشرطة بأن والدة المشتبه به وأخاه غير الشقيق كانا بين الضحايا، حيث عُثر عليهما مقتولين داخل منزل في البلدة.بعد وقوع الهجوم، قالت OpenAI إنها تواصلت بشكل استباقي مع الشرطة الكندية وقدمت معلومات مرتبطة بالمشتبه به لدعم التحقيقات الجارية.

سياسة OpenAI في التعامل مع التهديدات

أكدت الشركة أن سياستها تقضي بإبلاغ السلطات فقط عندما يتوافر دليل واضح على خطر وشيك قد يؤدي إلى أذى حقيقي، مشيرة إلى أن الإبلاغ الواسع دون معايير دقيقة قد يؤدي إلى أضرار غير مقصودة.كما أوضحت أن ChatGPT مصمم لرفض المساعدة في الأنشطة غير القانونية أو العنيفة، وأنه يحاول توجيه المستخدمين بعيدًا عن أي سلوك قد يؤدي إلى إلحاق ضرر بالآخرين.وأضافت الشركة أنها تراجع باستمرار معايير الإبلاغ عن المخاطر بالتعاون مع خبراء السلامة الرقمية، كما أنها تدرس تفاصيل هذه القضية بهدف تحسين أنظمة الحماية مستقبلًا.المصدر: فيتو