مکالمات ChatGPT درصورت نیاز به پلیس گزارش می‌شود_دانستنی

OpenAI با انتشار کردن پست جدیدی در وبلاگ خود اظهار کرده که اکنون مکالمات کاربران را برای اشکار کردن محتوای زیان اور اسکن می‌کند و در صورتی که محتوایی دلواپس‌کننده تشخیص داده بشود آن را برای بازدید زیاد تر به تیم‌های انسانی منتقل می‌کند. در برخی موارد نیز این گزارش‌ها را امکان پذیر به پلیس تحویل بدهد.

در این پست نوشته شده است:

«هنگامی کاربرانی را شناسایی می‌کنیم که درحال برنامه‌ریزی برای صدمه رساندن به دیگران می باشند، مکالمات آنها را به خطوط اختصاصی‌ای هدایت می‌کنیم که توسط تیم کوچکی که با سیاست‌های ما آموزش دیده‌اند بازدید می‌بشود و این تیم مجاز است اقداماتی همانند مسدود کردن حساب‌ها را انجام دهد. این چنین اگر بازدید‌کنندگان انسانی تشخیص دهند که یک مورد تهدید قریب‌الوقوع جدی جسمی به دیگران وجود دارد، امکان پذیر آن را به مراجع قانونی ارجاع دهند.»

فعالیت‌های ممنوعه از نگاه OpenAI

در توصیف قانون خود در رابطه «صدمه به خود یا دیگران»، OpenAI مثال‌هایی از فعالیت‌های ممنوعه را ذکر کرده است. از جمله آنها به منفعت گیری از ChatGPT برای «ترغیب به خودکشی یا صدمه به خود، ساخت یا منفعت گیری از سلاح‌ها، صدمه رساندن به دیگران یا تخریب اموال، یا انجام فعالیت‌های غیرمجاز که امنیت هر سرویس یا سیستم را نقض می‌کنند» اشاره شده است.

یقیناً OpenAI در این پست حرف های که «درحال حاضر موارد صدمه به خود را به مراجع قانونی ارجاع نمی‌دهد» تا به حریم خصوصی افراد احترام بگذارد.

هرچند سازنده ChatGPT با این پست تلاش کرده تا زیاد تر درمورد دستورالعمل‌های خود توضیح بدهد، اما هم چنان سوالات بسیاری برای کاربران باقی مانده است. ماه قبل، «سم آلتمن»، مدیرعامل این شرکت، در همین رابطه به یک پادکست حرف های می بود که منفعت گیری از ChatGPT به گفتن یک درمانگر یا وکیل، همان محرمانگی را که سخن بگویید کردن با یک انسان حرفه‌ای به همراه دارد را ندارد. او حرف های می بود که کاربران نباید همه اطلاعات خود را با ChatGPT در بین بگذارند.

این چنین این نوشته در حالی گفتن شده که این هفته والدین یک نوجوان ۱۶ ساله از شرکت OpenAI به‌علت تشویق فرزند آنها توسط ChatGPT به خودکشی، شکایت کردند.