هوش مصنوعی محرم نیست/ اعتماد نکنید!

1405-05-28 10:28:31
بازدید: 110
کد خبر: 000515003
0 زمان مطالعه: 1 دقیقه
هوش مصنوعی محرم نیست/ اعتماد نکنید!

درد و دل های نصف شبی، تحلیل رفتارهای شریک زندگی، حل و فصل اختلافات خانوادگی یا صرفاً تخلیه احساسات؛ مراجعه به هوش مصنوعی برای این امور به رفتاری بسیار رایج میان کاربران تبدیل شده است. با این حال، کارشناسان هشدار می دهند که صحبت با هوش مصنوعی درباره مشکلات شخصی، همواره راه حلی بی ضرر برای کاهش استرس نیست و در صورت انتظار حمایت عاطفی، تشخیص پزشکی یا تصمیم گیری های حیاتی، می تواند خطرات قابل توجهی به همراه داشته باشد.

او طوری صحبت می کند که انگار ما را می فهمد؛ اما آیا واقعاً درکمان می کند؟

به گزارش خبرنگار فناوری ایونا، یکی از جذابیت های اصلی چت بات های هوش مصنوعی، توانایی آن ها در شبیه سازی فوق العاده طبیعی ارتباطات انسانی است. پاسخ هایی مثل «کاملاً طبیعیه که ناراحت بشی» یا «احساست رو درک می کنم»، حس آرامش عمیقی به ویژه برای افراد تنها یا دچار پریشانی عاطفی ایجاد می کند. دسترسی ۲۴ ساعته، نبود قضاوت و سرعت پاسخ دهی، این سیستم ها را به یک «محرم دیجیتال» تبدیل کرده است.

اما متخصصان بر یک تمایز کلیدی تأکید دارند: هوش مصنوعی همدلی نمی کند. این سیستم ها احساسی تجربه نمی کنند، چهره را نمی بینند، لحن صدا را نمی شنوند و ارزیابی بالینی انجام نمی دهند، بلکه فقط کلمات متناسب با متن را تولید می کنند. خطری که اینجا وجود دارد، اشتباه گرفتن این فرایند با یک «رابطه درمانی واقعی» است.

چرا تأیید مداوم هوش مصنوعی می تواند مشکل ساز شود؟

هوش مصنوعی اغلب بر اساس داده های یک طرفه ای که کاربر ارائه می دهد، به قضاوت می پردازد و معمولاً حق را به او می دهد؛ مثلاً در یک اختلاف زناشویی ممکن است بگوید: «شوهرت به تو اهمیت نمیده!» یا «این رفتار همسرت واقعا فریبکارانه است. حتما دره خیانت میکنه».

این تأیید لحظه ای حس خوبی ایجاد می کند، اما مشکل دقیقاً از همین جا آغاز می شود: سیستمی که به جای به چالش کشیدن ذهن فرد، فقط نظر او را تقویت می کند، درک دیدگاه طرف مقابل و حل مسالمت آمیز مسائل را دشوار می سازد.

بر اساس پژوهشی در سال ۲۰۲۵ روی ۱۱ مدل هوش مصنوعی و ۱۶۰۴ شرکت کننده، مشخص شد که هوش مصنوعی نسبت به انسان ها تمایل بیشتری به تأیید کاربر دارد و این تأیید بیش از حد باعث موجه دیدن رفتارهای نادرست در مسائل می شود. این در حالی است که درمانگر واقعی وظیفه دارد تحریف های شناختی فرد را به چالش بکشد.

با وجود این خطرات، نمی توان کاربردهای مثبت آن را نادیده گرفت. بر اساس یک بررسی سیستماتیک در سال ۲۰۲۵ روی حدود ۳۰ هزار شرکت کننده، مشخص شد که چت بات ها می توانند اثرات مثبتی بر کاهش استرس، اضطراب و افسردگی جوانان داشته باشند. همچنین پژوهشی در کالج دارتموث نشان داد استفاده هشت هفته ای از یک سیستم توسعه یافته بر پایه روان درمانی، علائم افسردگی را ۵۱ درصد و اضطراب را ۳۱ درصد کاهش داده است.

اما نکته مهم این است که این نتایج مربوط به ابزارهای تخصصی سلامت روان در محیط های آزمایشگاهی است، نه چت بات های عمومی. هوش مصنوعی می تواند همراه فکری خوبی برای نظم دادن به افکار باشد، اما روان درمانگر نیست.

هوش مصنوعی

خطر وابستگی عاطفی و انزوا از دنیای واقعی

یک مطالعه چهار هفته ای توسط MIT و OpenAI روی بیش از ۳۰۰ هزار پیام نشان داد که با افزایش زمان صرف شده با هوش مصنوعی، احساس تنهایی و دلبستگی عاطفی در برخی افراد افزایش یافته و ارتباطات واقعی آن ها کاهش یافته است.

علت این پدیده صبوری بی حد و حصر هوش مصنوعی است؛ او بحث نمی کند، همیشه در دسترس است و مخالفت نمی کند. در حالی که روابط واقعی انسانی نیازمند صبر، مسئولیت پذیری متقابل و پذیرش اختلافات است.

اصطلاح «روان پریشی هوش مصنوعی» چیست؟

به تازگی اصطلاح «روان پریشی هوش مصنوعی» در بحث های سلامت روان مطرح شده است. البته این یک تشخیص رسمی پزشکی نیست، بلکه توصیف وضعیتی است که در آن افکار غیرواقعی یا توهم آمیز فرد توسط تأییدهای مداوم هوش مصنوعی تقویت می شود. شواهدی وجود ندارد که هوش مصنوعی علت ایجاد روان پریشی باشد، اما می تواند آسیب پذیری های ذهنی موجود را تشدید کند.

هشدار سازمان بهداشت جهانی و خط قرمز بحران ها

کارشناسان و سازمان بهداشت جهانی (WHO) تأکید می کنند که هوش مصنوعی به هیچ وجه مکانیسم قابل اعتمادی برای مدیریت بحران های شدید روان شناختی (مانند افکار خودکشی، خودآزاری یا افسردگی شدید) نیست. هیچ تضمینی برای تشخیص درست فوریت شرایط توسط سیستم وجود ندارد و خطر ارائه پاسخ های نادرست یا خطرناک همچنان باقی است.

رویکرد سازمان بهداشت جهانی رد این فناوری نیست، بلکه تأکید بر ایمنی، پاسخگویی و استفاده انسان محور است.

منبع: انجمن روانشناسی آمریکا، سازمان بهداشت جهانی - OpenAI.  MIT Media Lab, Science Org, Technological folie à deux: feedback loops between AI chatbots and mental health 

برچسب ها
نظر شما
    هیچ دیدگاهی برای این مطلب ثبت نشده است!
تصاویر
صنایع غذایی گلها ایونا تی‌وی
محصولات غذایی هوفر
ستاره غرب آسیا
مرکز فرهنگی منتظر المهدی
بانک ملی
بازگشت به بالا
© کلیه حقوق این وب سایت برای پایگاه خبری نگاه ایرانیان نیوز محفوظ است.
website designed by InTen DigitalMarketing Agency , developed by InTen