أعلنت شركة "أوبن أيه آي" للذكاء الاصطناعي عن خطط لتطوير نظام آلي جديد لتحديد الأعمار لتوفير حماية أكثر صرامة للمستخدمين دون سن 18 عامًا.
يأتي هذا التطوير في أعقاب دعوى قضائية رفعتها عائلة ضد الشركة المطورة لروبوت الدردشة "تشات جي بي تي" للذكاء الاصطناعي بعد انتحار ابنها إثر محادثات مطولة مع روبوت الدردشة الخاص بالشركة.
يُمثل هذا تحديًا جديدًا للشركة حيث يُطلب منها توفير حماية أكبر لمستخدميها الأصغر سنًا مع حماية خصوصيتهم وخصوصية المستخدمين البالغين الذين لا يرغبون في وضع حواجز أمنية.
لتحقيق هذه الغاية، نشرت الشركة منشورًا جديدًا على مدونتها بعنوان "سلامة وحرية وخصوصية المراهقين"، ناقش فيه الرئيس التنفيذي سام ألتمان نهج الشركة المستقبلي.
وقال ألتمان في منشوره "نطور ميزات أمان متقدمة لضمان خصوصية بياناتك، حتى من موظفي أوبن أيه آي". ومع ذلك، أضاف محذرا بأن "الأنظمة الآلية ستراقب احتمال إساءة الاستخدام الخطير والمخاطر الأكثر خطورة، مثل التهديدات لحياة شخص ما، أو خطط لإيذاء الآخرين، أو الضرر المجتمعي، مثل حادث أمني سيبراني ضخم محتمل". وقال إنه قد يتم تصعيد هذه الطلبات للمراجعة البشرية في بعض الحالات.
وأضاف الرئيس التنفيذي للشركة أن "تشات جي بي تي" مصمم للمستخدمين الذين تبلغ أعمارهم 13 عامًا فأكثر، ولكنه أضاف شرطًا ينص على أن من هم دون سن 18 عامًا بحاجة إلى حماية أكبر. ولهذا الغرض، أعلنت "أوبن أيه آي" أنها تطور طريقة جديدة لتحديد عمر مستخدميها.
وأكد "نبني نظامًا للتنبؤ بالعمر لتقدير العمر بناءً على كيفية استخدام الأشخاص لروبوت تشات جي بي تي. إذا كان هناك شك، فسنلتزم بالحد الأدنى ونعتمد على تجربة من هم دون سن 18 عامًا. في بعض الحالات أو البلدان، قد نطلب أيضًا إثبات الهوية؛ نعلم أن هذا يمثل انتهاكًا لخصوصية البالغين، لكننا نعتقد أنه تنازل جدير بالاهتمام".
إلى جانب ذلك، قد يُشرك "تشات جي بي تي" السلطات أو الآباء في حالات تفاعلات المستخدمين الأصغر سنًا التي تُصنف على أنها خطيرة.
وقال ألتمان "إذا راودت أفكار انتحارية مستخدما دون سن 18 عامًا، فسنحاول التواصل مع والديه. وإذا تعذر ذلك، فسنتواصل مع السلطات في حال وقوع أذى وشيك".
كما ستتيح الشركة للآباء ربط حساباتهم بحسابات أطفالهم (الذين تزيد أعمارهم عن 13 عامًا)، ومنحهم خيار إيقاف تشغيل وظائف الذاكرة، وإيقاف الخدمة عن العمل عند عدم السماح باستخدام الشاشة.