حذّرت دورية طبية أميركية من أخطار الاعتماد على تطبيقات الذكاء الاصطناعي للحصول على معلومات صحية، وذلك بعد إصابة رجل بحالة نادرة عقب تفاعله مع روبوت المحادثة "شات جي بي تي" بشأن إزالة ملح الطعام من نظامه الغذائي.
وأفاد مقال نُشر في مجلة "أنالس أوف إنترنال ميديسن" أن رجلاً يبلغ من العمر 60 عاماً أصيب بـ"التسمم بالبروميد"، وهي حالة معروفة في أوائل القرن العشرين يُعتقد أنها كانت مسؤولة عن قرابة واحد من كل عشرة حالات دخول إلى المستشفيات النفسية في ذلك الوقت.
وقال المريض للأطباء إنه بعد قراءته عن الآثار السلبية لكلوريد الصوديوم (ملح الطعام)، استشار "تشات جي بي تي" حول كيفية إزالة الكلوريد من نظامه الغذائي، فبدأ خلال ثلاثة أشهر في تناول بروميد الصوديوم، رغم أنه كان يعلم أن "الكلوريد يمكن استبداله بالبروميد لأغراض أخرى، مثل التنظيف". يُذكر أن بروميد الصوديوم كان يُستخدم كمهدّئ في أوائل القرن العشرين.
وأوضح فريق الباحثين من جامعة واشنطن في سياتل أن هذه الحالة تسلّط الضوء على كيف يمكن لاستخدام الذكاء الاصطناعي أن يساهم في تطور حالات مرضية خطيرة يمكن الوقاية منها. وأضافوا أنهم لم يتمكنوا من الوصول إلى سجل محادثة المريض مع "تشات جي بي تي"، وبالتالي لم يتأكدوا من النصيحة التي تلقاها.
لكن عند تجربة الباحثين لسؤال "تشات جي بي تي" عن بدائل الكلوريد، تضمّن الرد بالفعل ذكر البروميد، دون تقديم تحذير صحي محدد أو الاستفسار عن سبب طلب هذه المعلومة، كما كان من المفترض أن يفعل طبيب مختص.
وحذر المؤلفون من أن "تشات جي بي تي" وتطبيقات الذكاء الاصطناعي الأخرى قد "تولّد معلومات علمية غير دقيقة، وتفتقر إلى النقاش النقدي، وقد تؤدي في النهاية إلى انتشار المعلومات المضللة".
"أوبن إيه آي" الشركة المطوّرة لـ "شات جي بي تي"، لم تُعلّق بعد على الحادثة، لكنها كانت قد أعلنت الأسبوع الماضي عن تحديث كبير للنموذج (GPT-5)، مؤكدة أنه سيكون أفضل في الإجابة عن الأسئلة الصحية وأكثر قدرة على التحذير من المخاطر المحتملة، مع التأكيد في الوقت نفسه على أنه لا يُعد بديلاً عن الاستشارة الطبية المتخصصة.
وأشار المقال، الذي نُشر قبل إطلاق GPT-5، إلى أن المريض يبدو أنه استخدم نسخة سابقة من "تشات جي بي تي". ورغم إقرار الباحثين بأن الذكاء الاصطناعي يمكن أن يكون جسراً بين العلماء والجمهور، إلا أنهم اعتبروا أنه يحمل خطر تقديم معلومات منزوعة من سياقها، وأنه من غير المرجح أن يقترح طبيب مختص استبدال ملح الطعام ببروميد الصوديوم.
وشدد الأطباء على أن على الممارسين الصحيين طرح أسئلة على المرضى حول مصادر حصولهم على المعلومات، بما في ذلك ما إذا كانوا قد لجأوا إلى الذكاء الاصطناعي.
وكان المريض قد حضر إلى المستشفى مدعياً أن جاره ربما يسمّمه، كما ذكر أنه يخضع لقيود غذائية متعددة. ورغم شعوره بالعطش الشديد، رفض شرب الماء المقدم له بدافع الشك. وحاول الهروب من المستشفى خلال 24 ساعة من دخوله، وبعد اتخاذ إجراءات إلزامية لعلاجه، تم تشخيص إصابته بالذهان.
وبعد استقرار حالته، أبلغ عن أعراض أخرى مرتبطة بالتسمم بالبروميد، مثل حب الشباب في الوجه، والعطش المفرط، والأرق.