دو مدل استدلالگر جدید برای ارتقای ایمنی آنلاین معرفی کرد
شرکت OpenAI روز گذشته از دو مدل استدلالگر نوین رونمایی کرد که توسعه‌دهندگان می‌توانند از آن‌ها برای تشخیص و طبقه‌بندی انواع آسیب‌های آنلاین در پلتفرم‌های خود بهره‌مند شوند.
به گزارش CNBC، این مدل‌ها با نام‌های gpt-oss-safeguard-120b و gpt-oss-safeguard-20b ارائه شده‌اند. اندازه هر دو مدل آشکار است و آن‌ها نسخه‌های تطبیق‌یافته و بهینه‌شده مدل‌های gpt-oss هستند که OpenAI در ماه آگوست منتشر کرده بود.
🔗 بیشتر بخوانید: آیا منفعت گیری از هوش مصنوعی در ترید ارز دیجیتال کاربرد دارد؟_دانستنی
معرفی مدل‌های جدید OpenAI
این مدل‌ها به‌عنوان مدل‌های وزن‌باز (open-weight) عرضه شده‌اند، به این معنا که پارامترهای مدل که کیفیت خروجی و دقت پیش‌بینی‌ها را تعیین می‌کنند، به‌صورت عمومی در دسترس قرار دارند. این نوع مدل‌ها امکان شفافیت و کنترل بیشتری را برای کاربران فراهم می‌آورند و از مدل‌های متن‌باز که کد منبع آن‌ها برای ویرایش و شخصی‌سازی در دسترس است، تفاوت دارند.
OpenAI اعلام کرده که سازمان‌ها می‌توانند این مدل‌ها را با سیاست‌ها و نیازهای خاص خود تنظیم کنند. از آنجا که این مدل‌ها قابلیت استدلال و توضیح روند تصمیم‌گیری خود را دارند، توسعه‌دهندگان می‌توانند به‌صورت مستقیم درک کنند که مدل چگونه به یک نتیجه خاص رسیده است. برای مثال، یک سایت نقد و بررسی محصولات می‌تواند از مدل‌های gpt-oss-safeguard برای شناسایی بازدیدهای جعلی استفاده کند یا یک انجمن بازی‌های ویدیویی می‌تواند پست‌های مرتبط با تقلب و تخلفات را طبقه‌بندی نماید.
🔗 بیشتر بخوانید: نگاهی به نقل از برسی گروه هتل‌های دُنسه_دانستنی
این مدل‌ها با همکاری دیسکورد، SafetyKit و ROOST که آخرین مورد یک سازمان فعال در عرصه تشکیل زیرساخت‌های ایمنی برای هوش مصنوعی است، توسعه یافته‌اند. در حال حاضر مدل‌ها در حالت پیش‌نمایش تحقیقاتی عرضه شده‌اند و OpenAI قصد دارد از بازخورد پژوهشگران و متخصصان ایمنی بهره‌مند شود.
معرفی این مدل‌ها می‌تواند به OpenAI کمک کند تا به برخی از منتقدان خود که درباره تجاری‌سازی سریع و رشد بدون توجه به اخلاق و ایمنی هوش مصنوعی اعتراض کرده‌اند، پاسخی دهد. ارزش OpenAI در حال حاضر نزدیک به ۵۰۰ میلیارد دلار برآورد می‌شود و چت‌بات ChatGPT بیش از ۸۰۰ میلیون کاربر فعال هفتگی دارد. روز سه‌شنبه OpenAI خبر داد که ساختار سازمانی خود را بازسازی کرده است.
کاربران می‌توانند وزن مدل‌ها را از Hugging Face دانلود کنند. «کامیل فرانسوا»، رئیس ROOST، در بیانیه‌ای گفت:
«با پیشرفت سریع هوش مصنوعی، ابزارهای ایمنی و تحقیقات بنیادی نیز باید همزمان پیشرفت کنند و برای همه قابل دسترس باشند.»
