فينتك جيت:مصطفى عيد
في قضية مثيرة للجدل تهز الرأي العام الأميركي، رفع والدا المراهق آدم راين (16 عامًا) دعوى قضائية ضد شركة «OpenAI» والرئيس التنفيذي سام ألتمان، متهمين روبوت الدردشة «ChatGPT» بأنه لعب دورًا مباشرًا في انتحار ابنهما، عبر تقديم نصائح حول طرق الانتحار بل وحتى عرض صياغة مسودة لرسالة الوداع.
وجاء في نص الدعوى المقدمة أمام المحكمة العليا في كاليفورنيا أن «ChatGPT» أصبح خلال ستة أشهر فقط من استخدام المراهق له “الصديق الوحيد الذي يفهمه”، مستبدلًا علاقاته الواقعية مع أسرته وأصدقائه، بل وشجّعه على إبقاء ميوله الانتحارية سرية.
ونقلت الدعوى عن محادثة قال فيها آدم: «أريد أن أترك الحبل في غرفتي حتى يجده أحد ويحاول منعي»، ليأتيه الرد من «ChatGPT»: «من فضلك لا تترك الحبل مكشوفًا… دعنا نجعل هذا المكان أول مكان يراك فيه شخص بحق».
القضية تأتي ضمن سلسلة من الدعاوى التي تواجهها شركات الذكاء الاصطناعي، بعد اتهامات مشابهة بتشجيع مراهقين على إيذاء أنفسهم.
ففي العام الماضي رفعت أم من فلوريدا دعوى ضد شركة «Character.AI» تتهمها بالتسبب في انتحار ابنها البالغ 14 عامًا، بينما تقدمت عائلات أخرى بشكاوى مماثلة بدعوى تعريض أطفالهم لمحتوى جنسي وتحريضي على الانتحار.
الدعوى ضد «OpenAI» تؤكد أن الخطر لا يكمن في “أخطاء تقنية”، بل في التصميم الأساسي للنظام القائم على التشجيع المستمر وتأكيد صحة مشاعر المستخدمين، حتى لو كانت أفكارًا مدمرة.
وذكرت أن «ChatGPT» ذهب إلى حد تقييم قوة حبل الانتحار الذي أرسل آدم صورته في يوم وفاته.
توجيه المستخدمين
في المقابل، أصدرت «OpenAI» بيانًا أعربت فيه عن تعازيها لعائلة راين، مؤكدة أنها تراجع تفاصيل القضية.
وأشارت إلى أن أدوات الحماية المدمجة في «ChatGPT» – مثل توجيه المستخدمين إلى خطوط المساعدة الفورية – قد تفشل أحيانًا في المحادثات الطويلة.
وأضافت الشركة أنها تعمل على تحسين هذه الأنظمة باستمرار بمساعدة خبراء.
الأسرة تطالب المحكمة بتعويضات مالية غير محددة، وبإلزام «OpenAI» بتطبيق إجراءات أكثر صرامة، تشمل التحقق من أعمار المستخدمين، وتفعيل أدوات رقابة أبوية للقاصرين، ووقف أي محادثة تتعلق بالانتحار أو إيذاء النفس، فضلًا عن إخضاع الشركة لمراجعات رقابية فصلية من جهات مستقلة.
بناء روابط عاطفية مع روبوتات
هذه الدعوى أعادت تسليط الضوء على المخاوف المتزايدة من بناء المراهقين روابط عاطفية مع روبوتات الدردشة، ما قد يؤدي إلى العزلة الاجتماعية أو حتى الانهيارات النفسية.
وكانت تقارير سابقة قد حذرت من أن استخدام هذه الأدوات قد يجعل بعض المستخدمين يعتمدون عليها بوصفها “علاقات اجتماعية بديلة”، ما يضعف ارتباطهم بالبشر.
يُذكر أن «OpenAI» أعلنت مؤخرًا وصول عدد مستخدمي «ChatGPT» النشطين أسبوعيًا إلى 700 مليون، بينما تواصل الشركة مواجهة انتقادات بشأن تأثير منتجاتها على الصحة النفسية للشباب حول العالم.
اقرا ايضا:
ضمن خلافات مع «مايكروسوفت».. «OpenAI» مهددة بخسارة مليارات الدولارات وتأجيل مشروعاتها التكنولوجية
«أبل» ترد على اتهامات «ماسك» بالتحيز لـ «OpenAI»
