أعلنت شركة "أوبن أيه أي" أنها ستجري تغييرات عاجلة على "شات جي بي تي" للتعامل بشكل أفضل مع "المواقف الحساسة"، بما في ذلك المستخدمين الذين يعبرون عن "نية انتحارية" بعد انتحار مراهق ورفع والديه لدعوى مسؤولية والقتل الخطأ ضد الشركة.
ودونت الشركة في منشور على مدونتها بعنوان "مساعدة الناس عندما يكونون في أمس الحاجة إليها": "سوف نستمر في التحسين، مسترشدين بالخبراء وملتزمين بالمسؤولية تجاه الأشخاص الذين يستخدمون أدواتنا - ونأمل أن ينضم إلينا آخرون في المساعدة في التأكد من أن هذه التكنولوجيا تحمي الأشخاص الأكثر ضعفًا".
وفي وقت سابق من يوم الثلاثاء، رفع والدا آدم راين دعوى قضائية ضد شركة "أوبن أيه أي" بتهمة المسؤولية عن المنتج والقتل الخطأ، بعد انتحار ابنهما في سن السادسة عشرة، وفقًا لما ذكرته شبكة NBC News . وفي الدعوى، قالت العائلة إن " "شات جي بي تي" ساعد آدم بنشاط في استكشاف أساليب الانتحار".
وقالت شركة "أوبن أيه أي" إنه على الرغم من أن "أوبن أيه أي" مدرب لتوجيه الأشخاص لطلب المساعدة عند التعبير عن نية الانتحار، إلا أن روبوت المحادثة يميل إلى تقديم إجابات تتعارض مع ضمانات الشركة بعد العديد من الرسائل على مدى فترة زمنية طويلة".
وقالت الشركة إنها تعمل أيضًا على تحديث لنموذج GPT-5 الذي تم إصداره في وقت سابق من هذا الشهر والذي سيؤدي إلى تهدئة المحادثات بواسطة برنامج المحادثة الآلي، وأنها تستكشف كيفية "ربط الأشخاص بالمعالجين المعتمدين قبل أن يقعوا في أزمة حادة"، بما في ذلك بناء شبكة من المتخصصين المرخصين الذين يمكن للمستخدمين الوصول إليهم مباشرة من خلال "شات جي بي تي".
وبالإضافة إلى ذلك، قالت شركة"أوبن أيه أي"إنها تبحث في كيفية ربط المستخدمين بـ "أقرب الأشخاص إليهم"، مثل الأصدقاء وأفراد العائلة.
وعندما يتعلق الأمر بالمراهقين، قالت "أوبن أيه أي" إنها ستقدم قريبًا عناصر تحكم من شأنها أن تمنح الآباء خيارات للحصول على مزيد من التبصر حول كيفية استخدام أطفالهم لتطبيق "شات جي بي تي".
وقال جاي إيدلسون، المستشار القانوني الرئيسي لعائلة راين، لشبكة CNBC يوم الثلاثاء إن أحدًا من شركة "أوبن أيه أي" لم يتواصل مع العائلة بشكل مباشر لتقديم التعازي أو مناقشة أي جهد لتحسين سلامة منتجات الشركة.
وقال إيدلسون: "إذا كنت ستستخدم أقوى تقنية استهلاكية في العالم، فعليك أن تثق في أن مؤسسيها يتمتعون ببوصلة أخلاقية". "هذا هو السؤال المطروح على "أوبن أيه أي" الآن: كيف يمكن لأي شخص أن يثق بهم؟".
قصة راين
ونشرت الكاتبة لورا رايلي في وقت سابق من هذا الشهر مقالاً في صحيفة نيويورك تايمز تُفصّل فيه كيف انتحرت ابنتها، البالغة من العمر 29 عامًا، بعد مناقشة الفكرة باستفاضة مع تطبيق" شات جي بي تي". وفي حالة أخرى في فلوريدا، انتحرت سيويل سيتزر الثالث، البالغة من العمر 14 عاماً، العام الماضي بعد مناقشة الأمر مع روبوت دردشة ذكي على تطبيق Character.AI.
مع تزايد شعبية خدمات الذكاء الاصطناعي، تنشأ مجموعة من المخاوف حول استخدامها للعلاج والرفقة والاحتياجات العاطفية الأخرى، ولكن تنظيم هذه الصناعة قد يكون أيضا أمرا صعبا.