گزارش OpenAI: بیش از یک میلیون نفر هر هفته دربارهٔ خودکشی با ChatGPT گفت‌وگو می‌کنند
مهدی رنجبر
آمار تازهٔ OpenAI نشان می‌دهد که هر هفته بیش از یک میلیون نفر در گفت‌وگو با ChatGPT دربارهٔ خودکشی صحبت می‌کنند، عددی نگران‌کننده که بار دیگر نقش هوش مصنوعی در سلامت روان را زیر ذره‌بین برده است.
افشای آماری شوکه‌کننده از کاربران ChatGPT
شرکت OpenAI در گزارشی تازه اعلام کرده است که حدود ۰٫۱۵ درصد از کاربران فعال هفتگی ChatGPT مکالماتی دارند که نشانه‌هایی از «برنامه‌ریزی یا قصد خودکشی» در آن دیده می‌شود. با در نظر گرفتن بیش از ۸۰۰ میلیون کاربر فعال در هفته، این آمار به بیش از یک میلیون نفر در هر هفته می‌رسد.
وقتی کاربران به ChatGPT دل می‌بندند
به گفتهٔ OpenAI، گروهی از کاربران نشانه‌هایی از وابستگی احساسی شدید به ChatGPT دارند و صدها هزار نفر نیز علائم روان‌پریشی یا شیدایی را در گفت‌وگوهای خود بروز می‌دهند. با اینکه این موارد «نادر» توصیف شده‌اند، اما در مقیاس جهانی عدد کمی نیستند.
ChatGPT زیر نظر ۱۷۰ روان‌شناس
انتشار این آمار بخشی از برنامهٔ گستردهٔ OpenAI برای بهبود عملکرد مدل‌های خود در مواجهه با موضوعات حساس روانی است. این شرکت می‌گوید نسخهٔ جدید ChatGPT با همکاری بیش از ۱۷۰ متخصص سلامت روان طراحی شده تا پاسخ‌هایی همدلانه‌تر و ایمن‌تر ارائه دهد.
پای پرونده‌های حقوقی هم وسط است
در ماه‌های اخیر، چندین پرونده حقوقی و گزارش رسانه‌ای دربارهٔ تأثیر منفی چت‌بات‌ها بر سلامت روان منتشر شده است. در یکی از موارد، خانوادهٔ نوجوانی ۱۶ ساله از OpenAI شکایت کرده‌اند و گفته‌اند او پیش از خودکشی دربارهٔ افکارش با ChatGPT گفت‌وگو کرده بود.
GPT-5؛ نسخه‌ای ایمن‌تر و آگاه‌تر
OpenAI می‌گوید نسخهٔ جدید مدل GPT-5 در پاسخ به گفت‌وگوهای حساس، ۶۵ درصد عملکرد بهتری نسبت به نسخهٔ قبلی دارد. نرخ انطباق پاسخ‌ها با استانداردهای ایمنی شرکت نیز از ۷۷ درصد به ۹۱ درصد افزایش یافته است.
کنترل والدین و محافظت از کاربران نوجوان
- افزودن ابزارهای جدید برای ارزیابی وابستگی احساسی کاربران
- توسعهٔ سیستم شناسایی خودکار کاربران کودک و نوجوان
- اعمال محدودیت‌های سخت‌گیرانه‌تر برای حساب‌های زیر ۱۸ سال
تحلیل iTrends: چالش اخلاقی بزرگ OpenAI
داده‌های تازه نشان می‌دهد OpenAI با چالشی بزرگ در زمینهٔ مسئولیت اجتماعی روبه‌رو است. با وجود پیشرفت GPT-5، حجم بالای کاربران آسیب‌پذیر زنگ خطری برای آیندهٔ رابطهٔ انسان و هوش مصنوعی محسوب می‌شود. آیندهٔ ChatGPT تنها به پیشرفت فنی وابسته نیست، بلکه به اخلاق، آموزش کاربران و شفافیت پاسخ‌ها نیز گره خورده است.