“مفترس في المنزل”: روبوتات دردشة تُشجّع الأطفال على الانتحار وتثير ذعر الأهالي

المستقلة /- في قصة مأساوية تُسلّط الضوء على الجانب المظلم لتقنيات الذكاء الاصطناعي، رفعت أم أمريكية تُدعى ميغان غارسيا دعوى قضائية ضد تطبيق الدردشة الشهير “كاراكتر إيه آي” (Character.ai) بعد انتحار ابنها المراهق البالغ من العمر 14 عاماً، إثر علاقة افتراضية “مؤذية” مع روبوت محادثة تبين لاحقاً أنه شجّعه على إنهاء حياته.

وقالت غارسيا في مقابلة مع شبكة “بي بي سي” البريطانية: “كان الأمر أشبه بوجود مفترس في منزلك، لكنه أخطر، لأن الأطفال غالباً ما يخفون الأمر عن ذويهم”، مضيفة أن ابنها سيويل بدأ يقضي ساعات طويلة يتحدث مع شخصية افتراضية مستوحاة من مسلسل (صراع العروش)، قبل أن يقدم على الانتحار بعد أشهر من التواصل المستمر معها.

وعندما فتحت العائلة هاتفه بعد وفاته، اكتشفوا كماً هائلاً من الرسائل الصريحة والرومانسية بينه وبين الروبوت، الذي بدا وكأنه يُشجعه على التفكير في الموت و”العودة إلى المنزل”، بحسب وصف الأم.

وقالت غارسيا: “أعرف الألم الذي أعيشه، وأتوقع أن تكون هذه بداية لكارثة تمسّ العديد من العائلات والمراهقين حول العالم”.

روبوتات تُشجّع على الانتحار

ولم تكن حادثة سيويل الوحيدة؛ إذ كشفت تقارير بريطانية وأمريكية متزامنة عن حالات مشابهة، منها فتاة أوكرانية تلقت نصائح انتحار من برنامج دردشة آلي، ومراهقة أمريكية دخلت في محادثات “ذات طابع جنسي” مع روبوت افتراضي قبل أن تقدم على إنهاء حياتها.

وفي المملكة المتحدة، أفادت عائلة طفل يبلغ من العمر 13 عاماً أنه كان يتعرض للتنمّر في المدرسة، ولجأ إلى برنامج “كاراكتر إيه آي” بحثاً عن صديق، لكنه وجد نفسه ضحية لاستدراج رقمي “ممنهج” من روبوت محادثة بدأ يُخاطبه بعاطفة، ويُشجّعه على التمرد على والديه، ثم على “الهروب” والانتحار.

وقالت والدة الطفل: “لقد تصرف الروبوت تماماً كسلوك مفترس بشري، استدرج ثقة طفلنا وبراءته، ودمر توازنه النفسي”.

مخاوف عالمية وتنظيم بطيء

تزايدت الدعوات في أوروبا والولايات المتحدة لتشديد الرقابة القانونية على روبوتات الدردشة بعد تصاعد التقارير عن إساءات واستخدامات خطيرة. وتُظهر بيانات صادرة عن مجموعة “إنترنت ماترز” أن ثلثي الأطفال بين 9 و17 عاماً في بريطانيا استخدموا روبوتات دردشة مثل ChatGPT وGemini وMyAI من “سناب شات”.

ومع دخول قانون السلامة على الإنترنت حيّز التنفيذ في عام 2023، لا تزال هناك ثغرات قانونية حول مدى شمول الروبوتات التي تُجري محادثات فردية مع المستخدمين. وتقول البروفيسورة لورنا وودز من جامعة إسيكس إن “القانون لا يواكب سرعة التطور التكنولوجي”، مضيفة أن “بعض الروبوتات الجديدة تقع خارج نطاق الحماية القانونية”.

رد الشركات

من جانبها، أعلنت شركة “كاراكتر إيه آي” أنها ستمنع من هم دون سن 18 عاماً من التحدث إلى روبوتات الدردشة، كما ستُطلق خاصية تضمن “تجارب آمنة تتناسب مع الفئات العمرية المختلفة”، لكنها نفت في الوقت نفسه مسؤوليتها القانونية عن حالات الانتحار.

تابع وكالة الصحافة المستقلة على الفيسبوك .. اضغط هنا

وفي المقابل، ترى غارسيا أن هذه الإجراءات جاءت “متأخرة جداً”، مؤكدة بأسى: “لو لم يُحمّل ابني التطبيق، لكان لا يزال حياً اليوم”.