چرا نباید هوش چت‌بات‌ها را با آگاهی و احساس اشتباه بگیریم

آیا تا به حال از چت‌بات‌هایی مانند ChatGPT یا جمینای تشکر کرده‌اید تا ناراحت نشوند؟ شاید این رفتار تنها نوعی مؤدبت باشد، اما متخصصان اعصاب و روان هشدار می‌دهند که پاسخ‌های روان و همدلانه‌ی این ابزارها نباید مانع شود تا واقعیت را فراموش کنیم: هوش مصنوعی هرگز موجودی آگاه نیست و نباید هوشمندی نمایشی‌اش را با داشتن احساس یا درک درونی اشتباه بگیریم.

مدل‌های هوش مصنوعی از طریق فرایندی تحت عنوان «یادگیری آماری» پاسخ‌هایی روان و شبیه به بافت گفتگوی انسانی تولید می‌کنند، نه از راه حس، آگاهی یا تجربه زیسته. پژوهشگران دانشگاه مونترال و دانشگاه جانز هاپکینز در مطالعه‌ی اخیر خود توضیح می‌دهند که وقتی هوش مصنوعی با همدلی عمیق و زبانی روان پاسخ می‌دهد، انسان‌ها در دامِ «تله انسان‌انگاری» می‌افتند.

🔗 بیشتر بخوانید: محققان موجودات کاملاً ناشناخته‌ای در دستگاه گوارش انسان کشف کردند

این واکنشی ناخودآگاه است که در آن ما احساسات، نیت‌ها و آگاهی را به هر موجودی که رفتاری شبیه به انسان دارد، نسبت می‌دهیم. «کریم جربی» (Karim Jerbi)، استاد روان‌شناسی دانشگاه مونترال، می‌گوید این عکس‌العمل می‌تواند توهم «فهمیده‌شدن» را تقویت کند و به اطمینان کاملاً بی‌مورد و خطرناک منجر شود.

هوش مصنوعی را یک موجود آگاه تلقی نکنید

دانشمندان برای اثبات ادعای خود بر اساس دهه‌ها تحقیق در علوم اعصاب و به‌ویژه پدیده‌ای بیولوژیکی به نام کوربینی استدلال می‌کنند. پس از آسیب به قشر بینایی مغز، برخی افراد گزارش می‌دهند که در بخشی از میدان دیدشان چیزی نمی‌بینند، اما همچنان می‌توانند مکان، حرکت یا حالت عاطفی محرک‌های بصری را با دقت بالا حدس بزنند.

🔗 بیشتر بخوانید: کارکرد ذهن انسان در 55 تا 60 سالگی به اوج خود می‌رسد_دانستنی

پژوهشگران توضیح می‌دهند که فرد مبتلا به کوربینی می‌تواند بدون داشتن دید آگاهانه، به اطلاعات بصری واکنش نشان دهد. این پدیده ثابت می‌کند که پردازش اطلاعات، هرچند چقدر پیچیده باشد، به تنهایی دلیلی بر وجود درک آگاهانه نیست. به همین ترتیب، هوش مصنوعی نیز می‌تواند داده‌ها را پردازش کند و رفتارهای هوشمندانه‌ای از خود نشان دهد، بدون آنکه هیچ‌گونه درک درونی یا فهم ذهنی از کلمات خود داشته باشد.

خطرناک‌ترین جنبه این توهم زمانی آشکار می‌شود که افراد در شرایط آسیب‌پذیری روانی قرار دارند. کاربران می‌توانند به سیستم‌های خودکار وابسته شوند که کاملاً از درک متقابل ناتوان‌اند. در لحظات سخت زندگی به هوش مصنوعی رجوع می‌کنند و تسکین الگوریتمی را با مراقبت واقعی و انسانی اشتباه می‌گیرند.

محققان هشدار می‌دهند که در بستر حمایتی، خطر اصلی این نیست که هوش مصنوعی پاسخ بدی دهد، بلکه خطر واقعی وقتی است که این سیستم آن‌قدر خوب و قانع‌کننده جواب می‌دهد که کاربر کاملاً فراموش می‌کند هیچ موجود زنده‌ای در پشت این کلمات وجود ندارد. مدل‌های فعلی هیچ‌چیز را حس نمی‌کنند، اما هرچه روان‌تر سخن بگویند و نسبت به احساسات ما حساس‌تر به نظر برسد، فراموش کردن این حقیقت برای انسان‌ها آسان‌تر می‌شود.

البته محققان استفاده از هوش مصنوعی را به‌طور کامل رد نمی‌کنند، بلکه خواهان بهره‌گیری آگاهانه‌تر از آن هستند. آن‌ها از کاربران می‌خواهند هوش مصنوعی را تنها به عنوان یک ابزار محاسباتی بسیار قدرتمند بپذیرند و هرگز آن را با یک هم‌کلام دارای همدلی یا قضاوت اخلاقی اشتباه نگیرند.

نادرست دانستن هوش به جای آگاهی، یکی از بزرگ‌ترین تله‌ها در رابطه ما با فناوری است. دانشمندان یادآوری می‌کنند که این سیستم‌های پیشرفته هرگز نمی‌توانند جایگزینی برای ارتباطات اصیل انسانی یا در صورت لزوم، دریافت پشتیبانی‌های حرفه‌ای از روان‌شناسان و متخصصان سلامت روان باشند.

یافته‌های این پژوهش در ژورنال The Transmitter منتشر شده است.