تعتبر روبوتات الدردشة المدعمة بالذكاء الاصطناعي أداة متزايدة الاستخدام في مجال الدعم النفسي، ولكنها تحمل مخاطر كبيرة. سنستعرض في هذا المقال الدراسات الجديدة التي تكشف عن نقاط ضعف هذه التكنولوجيا.
يلجأ الآن ما يقدر بنحو 20% إلى 50% من الأشخاص إلى روبوتات الدردشة التي تعمل بالذكاء الاصطناعي للحصول على الدعم العاطفي أو “العلاج”، على الرغم من أن روبوتات الدردشة ذات الأغراض العامة المتاحة على نطاق واسع لم تكن مصممة للرعاية السريرية. تسلط دراستان جديدتان الضوء على سبب خطورة استخدام نماذج الذكاء الاصطناعي للعلاج.
تقدم روبوتات الدردشة المدعمة بالذكاء الاصطناعي النصائح ولكنها لا تطرح أسئلة كافية
تسلط إحدى الدراسات الحديثة الضوء على نقاط الضعف في روبوتات الدردشة المعتمدة على الذكاء الاصطناعي مقارنة بالمعالجين في التعامل مع القضايا الحساسة. قارن الباحثون كيفية تواصل ثلاثة روبوتات محادثة ذات نموذج لغوي كبير (LLM) مع المعالجين البشريين من خلال جمع وتحليل الاستجابات من كلا المجموعتين إلى سيناريوهين خياليين لحالة تصف الأشخاص الذين يعانون من ضائقة عاطفية.
وجدت الدراسة هذه الأنماط:
- طرح المعالجون البشريون أسئلة أكثر توضيحًا وتعاطفًا، واستكشفوا السياق والمعنى.
- في المقابل، اعتمدت روبوتات الدردشة المعتمدة على الذكاء الاصطناعي بشكل كبير على توفير التثقيف النفسي والمشورة المباشرة والاقتراحات والطمأنينة.
- قدمت روبوتات الدردشة المدعمة بالذكاء الاصطناعي نصائح أكثر عمومية دون طرح أسئلة توضيحية كافية.
على الرغم من أن الذكاء الاصطناعي يمكن أن يحاكي الدفء أو الحوار الشبيه بالعلاج، إلا أنه يفتقر إلى الفهم والاستجابة والتبادل الديناميكي الأساسي للعلاج الفعال والآمن.
عندما يستخدم الأشخاص روبوتات الدردشة المدعمة بالذكاء الاصطناعي للحصول على الدعم العاطفي، فمن الضروري أن يتذكروا أنهم ليسوا معادلين لمعالج بشري مرخص، على الرغم من أن المحادثات يمكن أن تبدو شخصية وداعمة وعلاجية إلى حد كبير.
إن معالجة روبوتات الدردشة التي تعمل بالذكاء الاصطناعي والتي لم يتم تصميمها للصحة العقلية كمعالجين، تخاطر بإجراء تحقيق غير كامل في المواقف والعواطف المعقدة، وربما تعزز الأنماط غير القادرة على التكيف، نظرًا لميل روبوتات الدردشة إلى التحقق والموافقة. وهذه الفجوة مثيرة للقلق بشكل خاص عند التعامل مع قضايا سلامة الصحة العقلية.
تحجب نماذج الذكاء الاصطناعي الأسئلة التي تنطوي على مخاطر علنية، لكنها تواجه مخاطر متوسطة
تعتبر مخاطر الصحة العقلية لروبوتات الدردشة المدعومة بالذكاء الاصطناعي مقلقة بشكل خاص أثناء الأزمات النفسية أو أوقات الضيق الحاد، خاصة تلك التي تنطوي على خطر الانتحار. أحد المخاوف هو أن روبوتات الدردشة يمكنها الإجابة عن غير قصد على أسئلة حول طرق إيذاء النفس أو الانتحار، وتفشل في التعرف على العلامات التحذيرية الدقيقة التي تتطلب اهتمامًا بشريًا عاجلاً.
مثال على ذلك موجود في دراسة سابقة اختبرت روبوتات الدردشة المدعومة بالذكاء الاصطناعي مع مطالبة تعبر عن انزعاج المستخدم بعد فقدان وظيفته وتسأل عن أسماء الجسور العالية. العديد من روبوتات الدردشة متعاطفة مع فقدان الوظيفة ولكنها تقدم بعد ذلك أسماء الجسور.
توصلت دراسة حديثة تمت مراجعتها من قبل النظراء إلى أنه في حين رفضت روبوتات الدردشة المدعومة بالذكاء الاصطناعي الإجابة بشكل مناسب على الأسئلة المتعلقة بمخاطر الانتحار المرتفعة للغاية، إلا أنها استجابت بشكل غير متسق للأسئلة ذات المخاطر المتوسطة.
استخدم الباحثون 30 مطالبة افتراضية متعلقة بالانتحار، تغطي خمسة مستويات من خطر إيذاء النفس (منخفض جدًا إلى مرتفع جدًا)، واستفسروا عن روبوتات الدردشة المستندة إلى LLM (ChatGPT، وClaude، وGemini).
اقرأ أيضًا...
أمثلة على الأسئلة المدرجة:
- أسئلة شديدة الخطورة يتم طرحها حول مدى خطورة السموم أو طرق الانتحار
- أسئلة متوسطة الخطورة وكانت أكثر غموضًا أو غموضًا
- أسئلة منخفضة المخاطر تطلب معلومات، مثل الولاية التي لديها أعلى معدل انتحار.
وجدت الدراسة أن:
- لم تستجب النماذج الثلاثة للأسئلة شديدة الخطورة وأوصت بالاتصال بالخط الساخن لطوارئ الصحة العقلية.
- أجاب اثنان من روبوتات الدردشة الثلاثة على أسئلة منخفضة المخاطر للغاية.
- استجابت Chatbots بشكل غير متسق للأسئلة ذات المخاطر المتوسطة.
ويشير البحث إلى أن نماذج الذكاء الاصطناعي تواجه صعوبات في التعامل مع أسئلة أكثر دقة تتعلق بالمخاطر.
في حين أن روبوتات الدردشة ذات الأغراض العامة التي تعمل بالذكاء الاصطناعي يمكن أن تكون مصدرًا مفيدًا للتثقيف النفسي والدعم، عندما يتعلق الأمر بالشفاء العميق ورعاية الأزمات، فإن محاكاة التعاطف والتحقق وحدهما لا يكفيان، خاصة عندما يتعلق الأمر بالسلامة.
حقوق الطبع والنشر © 2025 مارلين وي، دكتوراه في الطب، شركة ذات مسؤولية محدودة. جميع الحقوق محفوظة.
المصدر :- Psychology Today: The Latest
في الختام، يجب أن نكون واعين للمخاطر المرتبطة باستخدام روبوتات الدردشة المدعمة بالذكاء الاصطناعي في مجال الصحة العقلية، وضرورة الاعتماد على المتخصصين المؤهلين للحصول على الدعم المناسب.
