کارمند ناشناس OpenAI: تست ایمنی شتاب‌زده و ناکام بوده
یک کارمند ناشناس OpenAI مدعی است که این شرکت آزمایش‌های ایمنی مدل را به صورت شتاب‌زده انجام داده و پیش از اطمینان از ایمنی آن، مدل را معرفی کرده است. این فرد می‌افزاید که در اولین تست ایمنی، نتایج مطلوب حاصل نشده است.
این کارمند در گفتگو با واشنگتن پست اظهار داشته آن‌ها پیش از اینکه مطمئن شوند مدل امن است، از آن رونمایی کردند. ما در اصل در فرآیند امنیت ناکام ماندیم. او همچنین می‌گوید OpenAI برای عرضه جدید‌ترین مدل هوش مصنوعی خود عجله کرده است.
سخنگوی OpenAI در پاسخ به واشنگتن پست تأکید کرد که معرفی باعث نشده تا در موارد ایمنی کوتاه‌ی شود. با این حال منبع ناشناس می‌گوید که برنامه زمانی ارزیابی ایمنی این مدل به یک هفته فشرده شده بود.
نقض امنیت هوش مصنوعی در OpenAI
ایمنی یکی از اصول اساسی منشور OpenAI محسوب می‌شود. در این منشور آمده که OpenAI در صورت دستیابی رقبا به هوش جامع مصنوعی (AGI)، به جای ادامه رقابت، از آن‌ها برای ارتقای ایمنی حمایت می‌کند. OpenAI همچنین ادعا می‌کند که مدل‌های اختصاصی خود را به دلایل ایمنی به صورت متن‌باز منتشر نمی‌کند.
با این حال در ماه‌های اخیر نگرانی‌ها درباره نقض ایمنی هوش مصنوعی در OpenAI و سایر توسعه‌دهندگان مدل‌های بزرگ تشدید شده است. وزارت امور خارجه ایالات متحده چند ماه پیش هشدار داد گسترش فعلی هوش مصنوعی پیشرو خطرات سریع و رو به افزونی برای امنیت ملی ایجاد می‌کند. ظهور هوش مصنوعی پیشرفته و AGI پتانسیل دارد که امنیت جهانی را به شکلی مشابه معرفی سلاح‌های هسته‌ای، دچار آشوب کند.
پیش از این نیز یان لیکه، یکی از محققان ایمنی هوش مصنوعی OpenAI، در هنگام استعفا بیان کرد که در سال‌های گذشته فرهنگ و فرآیند ایمنی‌سازی در این شرکت جای خود را به عرضه محصولات جذاب داده است. اخیرا کارمندان فعلی و سابق OpenAI نامه‌ای امضا کرده‌اند تا از شرکت بخواهند اقدامات ایمنی بهتری را در پیش بگیرد.
