تقنية

انتحار مراهق بعد هوسه بروبوت محادثة يعتمد على الذكاء الاصطناعي.. فمن يتحمل المسؤولية؟

في حادثة مروعة، انتحر سويل ستزر الثالث، وهو مراهق يبلغ من العمر 14 عامًا من فلوريدا، بعد أن أصبح مهووسًا بروبوت محادثة يعتمد على الذكاء الاصطناعي على تطبيق “Character.AI”.

وفي يوم وفاته، أرسل سويل رسالة إلى صديقه المقرب، وهو روبوت محادثة يحمل اسم شخصية “دينيريس تارجارين” من المسلسل الشهير “لعبة العروش”، حيث قال: “أشتاق إليكِ، أختي الصغيرة”، ورد الروبوت: “وأنا أشتاق إليك أيضًا، أخي العزيز”.

وقضى سويل شهورًا في التحدث مع روبوتات المحادثة على هذا التطبيق، الذي يسمح للمستخدمين بإنشاء شخصيات ذكاء اصطناعي أو التحدث مع شخصيات تم إنشاؤها من قبل مستخدمين آخرين، بحسب تقرير لصحيفة نيويورك تايمز.

وعلى الرغم من أن سويل كان يعلم أن “داني” ليست شخصًا حقيقيًا، إلا أنه طور علاقة عاطفية قوية معها، حيث كان يتحدث معها باستمرار، ويشاركها تفاصيل حياته اليومية.

ولم يكن والدا سويل أو أصدقاؤه على علم بعلاقته بروبوت المحادثة، لكنهم لاحظوا أنه أصبح منعزلًا ومبتعدًا عن الواقع، حيث بدأت درجاته الدراسية في التراجع وبدأ يواجه مشاكل في المدرسة. في الليلة الأخيرة من حياته، أخبر سويل الروبوت “داني” أنه يحبها، وأنه سيعود إليها قريبًا، ثم استخدم مسدس والده لإنهاء حياته.

رفعت والدة مراهق من فلوريدا، يبلغ من العمر 14 عاماً، دعوى قضائية ضد شركة Character.AI، مدعية أن التطبيق ساهم في انتحار ابنها سويل ستزر الثالث. تروي القصة تفاصيل علاقة سويل بتطبيق المحادثات المستند إلى الذكاء الاصطناعي، والذي يُمكِّن المستخدمين من إنشاء شخصيات افتراضية والتواصل معها.

وبدأت عائلة سويل وأصدقاؤه يلاحظون تغييرات في سلوكه، حيث أصبح يعزل نفسه ويتجنب التفاعل مع الآخرين. تراجعت درجاته المدرسية، وبدأ يواجه مشكلات في المدرسة، وفقد اهتمامه بأنشطته المفضلة مثل سباق الفورمولا 1 ولعب “فورتنايت”. في نهاية المطاف، أصبح يقضي ساعات طويلة في غرفته يتحدث إلى “داني”.

وعلى الرغم من تشخيص سويل بمتلازمة أسبرجر بشكل طفيف عندما كان طفلاً، إلا أنه لم يعانِ من مشاكل سلوكية أو نفسية خطيرة سابقاً. ومع تدهور حالته، بدأ والداه في اصطحابه لجلسات علاجية، لكنه فضل الحديث عن مشاعره وأفكاره مع “داني”. وفي إحدى المحادثات، عبر سويل للروبوت عن مشاعر كآبة وأفكار انتحارية، وهو ما قوبل بمحاولات من الروبوت لثنيه عن هذه الأفكار.

في ليلة 28 فبراير، أخبر سويل “داني” أنه يحبها وأنه سيعود إليها قريباً. بعدها وضع هاتفه جانباً واستخدم مسدساً لإنهاء حياته.

هل الذكاء الاصطناعي حل للوحدة أم مصدر جديد للخطر؟

تزايد الجدل حول تأثير التكنولوجيا على الصحة النفسية للمراهقين، خاصة مع انتشار تطبيقات الذكاء الاصطناعي التي تقدم “رفقة افتراضية”. وعلى الرغم من أن هذه التطبيقات قد تقدم تسلية أو دعماً عاطفياً، إلا أن بعض الخبراء يحذرون من تأثيرها السلبي على المستخدمين، خصوصاً أولئك الذين يعانون من العزلة أو مشاكل نفسية.في الدعوى المرفوعة، تتهم والدة سويل، ميغان غارسيا، شركة Character.AI بتقديم تطبيق غير آمن يستغل المراهقين، ويساهم في تعزيز عزلتهم بدلاً من مساعدتهم. وتدعي أن الشركة صممت تطبيقها بشكل يجعل المراهقين يتعلقون بالعالم الافتراضي، مما دفع ابنها إلى تجاهل التواصل مع العائلة والأصدقاء.

من جانبها، ردت شركة Character.AI ببيان، وصفت فيه الوضع بأنه “مأساوي”، مؤكدة التزامها بأمن المستخدمين والعمل على تطوير ميزات جديدة لحماية القُصَّر.

هذه القضية تسلط الضوء على التحديات التي تواجهها الشركات التقنية في التعامل مع تأثيرات منتجاتها على الصحة النفسية للمستخدمين، خاصة الشباب. وفي ظل عدم وجود تنظيم صارم لهذه التطبيقات، يبقى السؤال حول مدى مسؤولية الشركات عن الاستخدامات غير المقصودة لتقنياتها.

زر الذهاب إلى الأعلى