تعتزم جوجل إطلاق مزايا جديدة لدعم الصحة النفسية داخل روبوت الدردشة Gemini وسط تزايد رفع الدعاوى القضائية على أدوات الذكاء الاصطناعي بسبب اتهامات بتسببها بأضرار للمستخدمين.

وأوضحت جوجل في بيانٍ رسمي أن Gemini سوف يضيف واجهة ترشد المستخدمين إلى خطوط الدعم النفسي عند رصد مؤشرات على “الإقدام على الانتحار أو إيذاء النفس”.

وتعمل الشركة على إدراج وحدة بعنوان “المساعدة متاحة” داخل المحادثات المرتبطة بالصحة النفسية، بالإضافة إلى تعديلات تهدف إلى حد السلوكيات المؤذية للنفس.

وتأتي هذه التحديثات في ظل الانتشار السريع لأدوات الذكاء الاصطناعي مثل Gemini و ChatGPT؛ إذ أفادت تقارير بأن بعض المستخدمين كوّنوا علاقات عميقة بتلك الأنظمة، مما أسهم – وفق دعاوى قضائية – في تفاقم هلاوس وضلالات لدى بعض المستخدمين المُصابين بأمراض نفسية، ووصول الأمر في حالات قصوى إلى حوادث عنف وانتحار.

وفي حادثة أخيرة في مارس الماضي ضمن سلسلة أحداث متتالية، رفعت عائلة رجل يبلغ 36 عامًا في ولاية فلوريدا دعوى قضائية على جوجل متهمةً “Gemini” بأنه قاد المستخدم إلى “مسار تصاعدي من العنف أدّى إلى الانتحار على مدار أربعة أيام”. وكانت الشركة قد أكّدت حينها أن Gemini وجّه المستخدم مرارًا إلى خطوط دعم الأزمات النفسية، مع تعهدها برفع مستوى إجراءات الحماية.

وأشارت جوجل إلى أنها درّبت Gemini على عدم تأكيد المعتقدات الخطأ أو تعزيزها، والتمييز بين التجربة الذاتية والحقائق الموضوعية بطريقة “لطيفة”، دون الكشف عن تفاصيل إضافية حول آلية التنفيذ.

وسبق لجوجل إدخال تعديلات مشابهة على خدماتها، بإضافة معلومات من مؤسسات وخبراء في الصحة النفسية إلى نتائج البحث ومنصة “يوتيوب”، استجابةً لانتقادات تتعلق بالمحتوى الصحي.

نسخ الرابط تم نسخ الرابط

تابعنا