هوش چت‌بات‌ها را با خودآگاهی ‌نادرست نگیرید_دانستنی

آیا تا بحال پیش آمده است که از ChatGPT یا جمینای سپاس کنید تا مبادا غمگین بشود؟ احتمالا فکر کنید این فقط رفتاری مؤدبانه در برابر یک هم‌کلام است، اما عصب‌شناسان هشدار خواهند داد که جواب‌های روان و همدلی این ابزارها نباید ما را فریب دهد، چون هوش مصنوعی هیچ زمان یک حاضر آگاه نیست و نباید هوشمندی آن را با داشتن احساسات و توانایی درونی نادرست گرفت.

مدل‌های هوش مصنوعی از طریق فرایندی به نام «یادگیری آماری» جواب‌های روان و مشابه با بافت گفتگو را تشکیل می‌کنند، نه از طریق حس، آگاهی یا توانایی زیسته. محققان دانشگاه مونترال و دانشگاه جانز هاپکینز در تحقیق تازه خود توضیح خواهند داد که هنگامی هوش مصنوعی با همدلی عمیق و زبانی روان جواب می‌دهد، انسان‌ها در دامی به نام «تله انسان‌انگاری» دچار خواهد شد.

این واکنشی ناخودآگاه است که در آن ما احساسات، مقاصد و آگاهی را به هر چیزی که رفتاری همانند به انسان دارد، نسبت می‌دهیم. «کریم جربی» (Karim Jerbi)، استاد روان‌شناسی دانشگاه مونترال، می‌گوید این عکس العمل ناخودآگاه می‌تواند توهم فهمیدن‌شدن را در ما تحکیم کند و به یک مطمعن کاملاً نابه‌جا و خطرناک منجر بشود.

هوش مصنوعی به گفتن موجودی آگاه

دانشمندان برای اثبات ادعای خود به دهه‌ها تحقیق در عرصه علوم اعصاب و به‌طور اختصاصی اتفاق‌ای بیولوژیکی به نام کوربینی استناد می‌کنند. بعد از صدمه به قشر بینایی در مغز، برخی افراد گزارش خواهند داد که در بخشی از میدان دید خود هیچ‌چیز نمی‌بینند، اما هم چنان می‌توانند مکان، حرکت یا حالت عاطفی محرک‌های بصری را با دقت بالایی گمان بزنند.

پژوهشگران توضیح خواهند داد که یک فرد مبتلا به کوربینی می‌تواند بدون توانایی آگاهانه دیدن، به اطلاعات بصری عکس العمل نشان دهد. این اتفاق ثابت می‌کند که پردازش اطلاعات، هر چه مقدار هم که پیچیده باشد، به هیچ گفتن برای اثبات وجود یک توانایی آگاهانه کافی نیست. به همین ترتیب، هوش مصنوعی نیز می‌تواند داده‌ها را پردازش کند و رفتارهای زیرکانه‌ای نشان دهد، بدون آنکه هیچ‌گونه توانایی درونی یا فهمیدن ذهنی از حرف های‌های خود داشته باشد.

خطرناک‌ترین جنبه این توهم ذهنی وقتی آشکار می‌بشود که افراد در شرایط صدمه‌پذیری روانی قرار دارند. کاربران امکان پذیر به سیستم‌های خودکاری وابسته شوند که کاملاً از فهمیدن متقابل ناتوان می باشند. آن‌ها در لحظات دشوار زندگی به هوش مصنوعی روی می‌آورند و تسکین الگوریتمی را با مراقبت واقعی و انسانی نادرست می‌گیرند.

محققان هشدار خواهند داد که در بستر حمایتروانی، خطر مهم این نیست که هوش مصنوعی جواب بدی بدهد، بلکه خطر واقعی وقتی است که این سیستم آن‌قدر خوب و قانع‌کننده جواب می‌دهد که کاربر کاملاً فراموش می‌کند هیچ حاضر زنده‌ای در پشت این کلمات وجود ندارد. مدل‌های جاری هیچ‌چیز را حس نمی‌کنند، اما هرچه روان‌تر سخن بگویید کنند و نسبت به احساسات ما حساس‌تر به نظر برسند، فراموش‌کردن این حقیقت تلخ برای انسان‌ها آسان‌تر می‌بشود.

یقیناً محققان منفعت گیری از هوش مصنوعی را به‌طور کامل رد نمی‌کنند، بلکه خواستار منفعت گیری آگاهانه‌تر از آن می باشند. آن‌ها از کاربران می‌خواهند که هوش مصنوعی را فقطً به گفتن یک ابزار محاسباتی زیاد قوی بپذیرند و هیچ زمان آن را با یک هم‌کلام دارای همدلی یا قضاوت اخلاقی نادرست نگیرند.

نادرست گرفتن هوش با آگاهی، یکی از بزرگ‌ترین تله‌ها در رابطه ما با فناوری است. دانشمندان یادآوری می‌کنند که این سیستم‌های پیشرفته هیچ زمان نمی توانند جایگزینی برای ارتباطات اصیل انسانی یا در صورت لزوم، دریافت پشتیبانی‌های حرفه‌ای از روان‌شناسان و متخصصان سلامت روان باشند.

یافته‌های این پژوهش در ژورنال The Transmitter انتشار شده است.