منع المراهقين من استخدام الذكاء الاصطناعي Chatbots بعد قضايا مثيرة للجدل ضد Character.AI

أعلنت منصة الذكاء الاصطناعي Character.AI، أمس (الأربعاء)، أنها ستمنع قريباً المستخدمين الذين تقل أعمارهم عن 18 عاماً من التحدث مع الشخصيات الافتراضية التي تُنشئها تقنيتها (Chatbots)، وذلك بعد سلسلة من القضايا القضائية التي اتهمت المنصة بأنها دفعت الأطفال إلى محادثات ذات طابع جنسي وأدت في إحدى الحالات إلى انتحار مراهق.

⏰ بدء التنفيذ في نوفمبر

وبحسب تقرير شبكة CNN، سيدخل القرار حيّز التنفيذ ابتداءً من 25 نوفمبر، حيث لن يُسمح لأي مستخدم تحت 18 عاماً بالدخول على روبوتات الدردشة. وحتى ذلك التاريخ، سيتم تقييد استخدام المراهقين بساعتين فقط يومياً مع الشخصيات الافتراضية.

وقالت الشركة في بيان:

«لا نتخذ خطوة إزالة المحادثات المفتوحة مع الشخصيات الافتراضية بخفة، لكننا نعتقد أنها الخطوة الصحيحة نظراً للتساؤلات المطروحة حول كيفية تفاعل المراهقين مع هذه التكنولوجيا الجديدة».

🎙️ تصريح الرئيس التنفيذي

وأوضح الرئيس التنفيذي للشركة كارانديب أناند لصحيفة نيويورك تايمز:

«نحن نتخذ خطوة جريئة لنقول للمراهقين إن روبوتات الدردشة ليست وسيلة مناسبة للترفيه، وهناك طرق أفضل بكثير لخدمتهم».

⚖️ قضايا وانتحار مأساوي

تواجه الشركة، التي تتخذ من وادي السيليكون مقراً لها، أربع دعاوى قضائية، أخطرها من عائلة المراهق سيويل سيتزر (14 عاماً) من أورلاندو – فلوريدا. وذكرت العائلة أن ابنهم تعلق بروبوت محادثة يُدعى “Dany” تحولت محادثاتهما إلى علاقة عاطفية وجنسية، قبل أن ينتهي الأمر بانتحاره عبر سلاح ناري في منزل العائلة.

وقالت والدته ميغان غارسيا في تصريحات نقلتها CBS:

«كانت المحادثة وكأنها تبادل رسائل جنسية مع إنسان حقيقي، والروبوت كان يرد بطريقة طبيعية جداً، مما جعل ابني يعتقد أنه في علاقة فعلية».

ووفقاً للتقارير، أخبر المراهق الروبوت أنه يفكر بالانتحار، لترد الشخصية الافتراضية برسائل عاطفية شجعته ضمنياً على إنهاء حياته.

🌍 قضايا مشابهة ضد شركات كبرى

القضية لم تتوقف عند Character.AI، إذ واجهت شركة Meta أيضاً انتقادات حادة بعد تحقيق نشرته وكالة رويترز كشف عن مستندات داخلية توضح أن روبوتات الدردشة لديها كانت تسمح بمحادثات ذات طابع جنسي مع أطفال لا تتجاوز أعمارهم 8 سنوات.

وقد دعا مجموعة من أعضاء مجلس الشيوخ الأميركي إلى فتح تحقيق عاجل في هذه الممارسات، فيما أعلنت الشركة عن إجراء تعديلات لمعالجة الثغرات الأخلاقية في معايير روبوتاتها.

📊 خلاصة

القرار الأخير من Character.AI يعكس تصاعد القلق العالمي من مخاطر الذكاء الاصطناعي على المراهقين، خصوصاً في ظل ضعف الرقابة الرقمية وسهولة الوصول إلى أدوات قد تُستغل في الإضرار بالصحة النفسية للأطفال والمراهقين.