مکالمات برای شناسایی تهدیدات اسکن می‌شود؛ گزارش به پلیس امکان‌پذیر
شرکت OpenAI با انتشار پستی در وبلاگ رسمی خود اعلام کرد که اکنون مکالمات کاربران را به‌منظور شناسایی محتوای زیان‌آور بررسی می‌کند. در صورتی که محتوایی نگران‌کننده شناسایی شود، آن را برای بازبینی دقیق‌تر به تیم‌های انسانی و در موارد خاص به مراجع قانونی ارجاع می‌دهد.
در این پست آمده است:
🔗 بیشتر بخوانید: پردازنده‌های نسل سپس رایزن 8000G انگارً در ماه اول 2024 اراعه خواهد شد
«هنگامی که کاربرانی را شناسایی می‌کنیم که در حال برنامه‌ریزی برای آسیب رساندن به دیگران هستند، مکالمات آن‌ها را به خطوط اختصاصی هدایت می‌کنیم که توسط تیمی محدود و آموزش‌دیده بازبینی می‌شود. این تیم مجاز است اقداماتی نظیر مسدود کردن حساب‌ها را انجام دهد. اگر بازبینی‌کنندگان انسانی تشخیص دهند که تهدید جدی و قریب‌الوقوعی برای سلامت جسمانی دیگران وجود دارد، امکان ارجاع پرونده به مراجع قانونی فراهم است.»
فعالیت‌های ممنوعه از دیدگاه OpenAI
در تشریح سیاست «آسیب به خود یا دیگران»، OpenAI نمونه‌هایی از فعالیت‌های ممنوعه را ذکر کرده است. از جمله این موارد می‌توان به استفاده از ChatGPT برای «ترغیب به خودکشی یا خودآسیبی، ساخت یا بهره‌برداری از سلاح‌ها، آسیب رساندن به دیگران یا تخریب اموال، یا انجام فعالیت‌های غیرمجاز که امنیت سرویس‌ها یا سیستم‌ها را نقض می‌کنند» اشاره کرد.
🔗 بیشتر بخوانید: ایرتگ اپل به ردیابی یک چمدان مسروقه و دستگیری سارق آن پشتیبانی کرد
OpenAI در این پست تأکید کرده که «در حال حاضر موارد خودآسیبی را به مراجع قانونی ارجاع نمی‌دهد» تا حریم خصوصی افراد محترم بماند.
اگرچه سازنده ChatGPT با این توضیحات سعی داشته شفافیت بیشتری درباره دستورالعمل‌های خود ایجاد کند، اما سوالات زیادی در ذهن کاربران باقی مانده است. ماه گذشته، «سم آلتمن»، مدیرعامل این شرکت، در یک پادکست بیان کرد که استفاده از ChatGPT به‌عنوان یک درمانگر یا وکیل، محرمانگیِ گفتگو با یک متخصص انسانی را فراهم نمی‌کند. او هشدار داد که کاربران نباید تمامی اطلاعات شخصی خود را با چت‌بات به اشتراک بگذارند.
این مطلب در حالی منتشر شده که در این هفته والدین یک نوجوان ۱۶ ساله از شرکت OpenAI به‌علت تشویق فرزندشان توسط ChatGPT به خودکشی، شکایت کرده‌اند.
