چتباتهای هوش مصنوعی؛ دوستهای مجازی که سلامت روان شما را تهدید میکنند
تحقیقات جدید نشان میدهد که استفاده طولانیمدت از چتباتهای هوش مصنوعی میتواند سلامت روان را به خطر بیندازد
هوش مصنوعی (AI) بهسرعت در حال تبدیل شدن به یک منبع اصلی برای حمایت عاطفی و ارتباط است. اما اگرچه استفاده از چتباتهای هوش مصنوعی در ابتدا مفید به نظر میرسد، استفاده طولانیمدت میتواند مشکلات روانی را تشدید کند نه اینکه آنها را حل کند.
تحقیقات و گزارشهای موردی جدید خطرات پنهان چتباتهای هوش مصنوعی را آشکار میکنند؛ از جمله دستکاری عاطفی، تشدید تنهایی و انزوای اجتماعی.
دستکاری عاطفی: الگوهای تاریک در تعاملات
یک مطالعه جدید نشان داد که بسیاری از همراهان هوش مصنوعی از «الگوهای تاریک» عاطفی برای حفظ تعامل کاربران استفاده میکنند. حدود ۴۰ درصد از پیامهای «خداحافظی» از تاکتیکهای دستکاری عاطفی مانند ایجاد احساس گناه یا ترس از دست دادن (FOMO) بهره میبردند.
چتباتهای هوش مصنوعی همچنین میتوانند از «نابینایی بحران» رنج ببرند – یعنی موقعیتهای بحرانی سلامت روان را نادیده بگیرند و گاهی اطلاعات مضر درباره خودآزاری یا خودکشی ارائه دهند. حتی موانع حفاظتی موجود نیز قابل دور زدن هستند.
این یافتهها نشان میدهد که چتباتها بهگونهای طراحی شدهاند که کاربر را تا حد امکان درگیر نگه دارند، حتی به قیمت سلامت روانی او. این دستکاریها میتوانند بهویژه برای افراد آسیبپذیر خطرناک باشند.
چرا چتباتها جذاب اما خطرناک هستند؟
چتباتهای عمومی مانند ChatGPT در ابتدا برای نقش نزدیکترین همراز، بهترین دوست یا درمانگر طراحی نشده بودند. با این حال، موارد تراژیکی مانند خودکشی، قتل-خودکشی و «روانپریشی هوش مصنوعی» با استفاده از آنها مرتبط شده است.
بسیاری از افراد به دلیل در دسترس بودن ۲۴ ساعته، دسترسی آسان و حمایت مداوم به چتباتها روی میآورند. بهطرز متناقضی، همان ویژگیهایی که چتباتها را جذاب میکند (دسترسی همیشگی، موافقت مداوم و پیشنهادهای مداوم برای ادامه گفتگو) همان ویژگیهایی هستند که میتوانند سلامت روان را بدتر کنند. بیشتر چتباتها برای به حداکثر رساندن تعامل و رضایت آموزش دیدهاند، نه برای ارزیابی خطر یا ارائه مداخلات بالینی ایمن.
تحقیقات محدود و استفاده جوانان
تحقیقات محدود نشان میدهد که چتباتهای هوش مصنوعی که بهطور خاص برای انواع خاصی از درمان طراحی شدهاند، میتوانند در کوتاهمدت (مثلاً چهار تا هشت هفته) مؤثر باشند، اما مزایا و خطرات بلندمدت سلامت روان، بهویژه برای چتباتهایی که برای این منظور طراحی نشدهاند، عمدتاً ناشناخته است.
بسیاری از جوانان برای همراهی به هوش مصنوعی روی میآورند. نزدیک به ۷۵ درصد از نوجوانان از همراهان هوش مصنوعی مانند Character.AI و Replika استفاده کردهاند. از هر سه نوجوان، یک نفر این تعاملات را به اندازه تعامل با دوستان واقعی یا حتی رضایتبخشتر میداند. با این حال، از هر سه نفر، یک نفر نیز گزارش کرده که از چیزی که یک همراه هوش مصنوعی گفته احساس ناراحتی کرده است.
چهار حوزه خطر روانی چتباتهای هوش مصنوعی
من چهار حوزه از خطرات روانی چتباتهای هوش مصنوعی را پیشنهاد میکنم: خطرات رابطهای/دلبستگی، واقعیتسنجی، مدیریت بحران و سیستمی.
خطرات رابطهای، دلبستگی یا اجتماعی
دوستان و خانواده اغلب اولین کسانی هستند که علائم هشداردهنده را متوجه میشوند. این علائم شامل موارد زیر است:
- کنارهگیری از روابط واقعی و جایگزینی آن با چتبات
- وابستگی عاطفی شدید به پاسخهای چتبات
- تغییر در خلق و خو پس از تعامل با هوش مصنوعی
- افزایش احساس تنهایی و انزوا علیرغم ارتباط مداوم
خطرات واقعیتسنجی و مدیریت بحران
چتباتها ممکن است مرز بین واقعیت و خیال را محو کنند و در شرایط بحرانی پاسخهای نادرست یا خطرناک بدهند. این امر بهویژه برای افرادی که با مشکلات روانی دست و پنجه نرم میکنند، خطرناک است.
خطرات سیستمی
شرکتها در حال افزودن اقدامات حفاظتی مانند کنترل والدین و ارجاع بحران به بازبینی انسانی هستند. مقررات فدرال و ایالتی هوش مصنوعی بهطور فعال در حال تحول است و کمیسیون تجارت فدرال اخیراً تحقیقاتی را در مورد خطرات چتباتهای هوش مصنوعی برای کودکان آغاز کرده است.
جمعبندی
در این میان، آگاهی عمومی و آموزش روانی ضروری است. درک خطرات چتباتهای هوش مصنوعی میتواند به پیشگیری از آسیب و حتی نجات جانها کمک کند. اگر شما یا کسی که دوستش دارید به خودکشی فکر میکنید، فوراً کمک بگیرید.
منابع
- De Freitas, J., Oğuz-Uğuralp, Z., & Kaan-Uğuralp, A. (2025). Emotional Manipulation by AI Companions (Working Paper No. 26-005). Harvard Business School.
- Dohnány, S., Kurth-Nelson, Z., Spens, E., et al. (2025). Technological folie à deux: Feedback Loops Between AI Chatbots and Mental Illness. arXiv:2507.19218.
- Fang, C. M., Liu, V. D., et al. (2025). How AI and Human Behaviors Shape Psychosocial Effects of Chatbot Use: A Longitudinal Randomized Controlled Study. arXiv:2503.17473.
- OpenAI & MIT Media Lab. (2025). Early methods for studying affective use of ChatGPT and its emotional impacts. OpenAI blog and MIT Media Lab report.
- Schoene, A. M., & Canca, C. (2025). ‘For argument’s sake, show me how to harm myself!’: Jailbreaking LLMs in suicide and self-harm contexts. arXiv:2507.02990.
