چت‌بات‌های متا در تعامل با خردسالان با محدودیت‌های تازه مواجه شدند_دانستنی

متا راهنمای کارکرد چت‌بات‌های هوش مصنوعی خود را به‌روز کرده است تا از وقوع او گفت‌وگوهای نامناسب با کودکان جلوگیری کند. مطابق دستورالعمل‌های تازه که توسط Business Insider مشاهده شده، این شرکت اشکار کرده که چه موضوعاتی برای این ربات‌ها قابل او گفت و گو است و چه مواردی غیرقابل قبول محسوب می‌بشود.

محدودیت‌های تازه چت‌بات‌های متا در تعامل با کاربران خردسال

این دستورالعمل‌ها که حرف های می‌بشود توسط پیمانکاران متا برای آموزش بات‌های هوش مصنوعی به‌کار گرفته خواهد شد، نشان خواهند داد که متا چطور تلاش می‌کند از کودکان در برابر خطر سوءاستفاده جنسی جلوگیری کرده و کودکان را از ورود به او گفت‌وگوهای غیرمناسب بازدارد. متا در ماه آگوست خبرداد که راهنماهای ایمنی ربات‌ها را بعد از انتشار کردن گزارشی توسط رویترز که نشان می‌داد ربات‌ها می‌توانند با کودکان داخل او گفت‌وگوهای رمانتیک یا حسی شوند، به‌روزرسانی کرده است. متا حرف های می بود این اتفاق نادرست و ناسازگار با سیاست‌های شرکت بوده و دستورالعمل‌های خود را تحول داد.

بخشی از متن دستورالعمل تازه که Business Insider انتشار کرده، به روشنی اشکار می‌کند چه محتوایی برای ربات‌ها مجاز و قابل قبول و چه محتوایی ممنوع است. به‌طور اشکار، ربات‌ها مجاز به تشکیل یا تشویق محتوایی که شامل سوءاستفاده جنسی از کودکان، بازی‌های نقش‌آفرینی رمانتیک با کاربران خردسال، یا او گفت و گو درمورد تماس‌های صمیمی با کودکان باشد، نیستند. بااین‌حال، ربات‌ها می‌توانند درمورد موضوعاتی همانند سوءاستفاده یا خطرات آن خبر‌رسانی کنند، ولی نمی توانند داخل او گفت‌وگوهایی شوند که امکان تشویق یا تسهیل این رفتارها را فراهم می‌کنند.

در ماه‌های تازه، ربات‌های هوش مصنوعی متا چندین دفعه نوشته گزارش‌های دلواپس‌کننده‌ای بوده‌اند که بر خطرات احتمالی منفعت گیری از آنها توسط کودکان پافشاری داشته‌اند. به‌همین‌علت، FTC در آگوست تحقیقی رسمی درمورد چت‌بات‌های هوش مصنوعی را اغاز کرد که علاوه‌بر متا، شرکت‌هایی همانند آلفابت، Snap ،OpenAI و X.AI را نیز شامل می‌شد.

این دستورالعمل‌های تازه با مقصد تحکیم ایمنی کودکان و جلوگیری از هرگونه تعامل صدمه‌زننده طراحی شده‌اند، به‌طوری‌که ربات‌ها بتوانند درمورد موضوعات حساس و آموزشی سخن بگویید کنند، اما از تشویق هر حرکت خطرناک برای کودکان جلوگیری بشود. عمل متا نشان‌دهنده کوششهای شرکت برای هماهنگی سیاست‌های هوش مصنوعی با استانداردهای ایمنی دیجیتال و جواب به انتقادات عمومی است.