دولت باید از انتشار سیستمهای هوش مصنوعی خطرناک جلوگیری کند: دیدگاه مدیرعامل آنتروپیک
«داریو آمودی»، مدیرعامل شرکت آنتروپیک، در یادداشتی استدلال کرده که دولتها باید از نظر قانونی مجاز به مانع شدن از انتشار سیستمهای هوش مصنوعی مخرب باشند و بازار AI را همانند صنعت هوانوردی مدیریت کنند.
آمودی در یادداشت اخیر و چارچوب پیشنهادی خود برای هوش مصنوعی پیشرفته، بیان میکند که سیاستگذاریها باید با سرعت توسعه هوش مصنوعی همگام شوند. او مینویسد که فرمان اجرایی «دونالد ترامپ» در حوزه هوش مصنوعی باید فراتر برود و انجام آزمایشهای اجباری برای ارزیابی خطرات مربوط به امنیت سایبری، سلاحهای بیولوژیکی، از دست دادن کنترل یا تحقیق و گسترش خودکار را الزامی سازد.
🔗 بیشتر بخوانید: ثروتمندان عامل مهم گرمایش زمین هستند_دانستنی
الزام به قوانین سختگیرانه برای حوزه هوش مصنوعی
او معتقد است اگر سیستمهای هوش مصنوعی در آینده به تهدیدهای بزرگتری تبدیل شوند، حتی مقررات تهاجمیتری نیز لازم خواهد بود. آمودی در بخشی از یادداشت خود نوشته است:
«هوش مصنوعی با شدت برق در حال پیشرفت است. در مقابل، سیاستگذاریها و بهویژه قانونگذاریها بسیار کند حرکت میکنند.»
🔗 بیشتر بخوانید: قیمت محصولات ایران ماشین افزایش یافت [آبان 1403]_دانستنی
او پس از انتشار مدل قدرتمند آنتروپیک به نام Mythos، به خطرات بیولوژیکی و چالشهای جدی در زمینه استقلال عمل هوش مصنوعی در آینده نزدیک اشاره کرده است. آمودی در ادامه میافزاید:
«ما اکنون بهصورت جهانی و جمعی باید یک دستگاه سیاستگذاری داشته باشیم تا با خطرات و زمانهایی که از این به بعد با سرعتی شوکآور ظاهر خواهند شد، مقابله کنیم.»
مدیرعامل آنتروپیک قوانین فعلی را ناکافی میداند و خواستار مقررات جدیتر و الزامآور برای هوش مصنوعی است. او مینویسد که مقررات باید همانند استانداردهای خودروها، هواپیماها یا داروها، مدلهای پیشرو را ملزم به عبور از آزمایشها و ممیزیهای سختگیرانه سازد:
«اگر این مدلها استانداردهای ایمنی را رعایت نکنند، ارائه آنها باید به عنوان تهدیدی برای امنیت عمومی مسدود یا لغو گردد.»
در بخش اقتصاد، آمودی میگوید این امر منطقی است که فکر کنیم هوش مصنوعی میتواند اختلالهای بسیار بزرگتر و بالقوه پایدارتری در بازار کار نسبت به فناوریهای پیشین ایجاد کند. او خواستار دادههای بهتر در مورد از دست رفتن مشاغل ناشی از هوش مصنوعی، بیمه دستمزد، مشوقهای مالیاتی برای حفظ نیروی کار و احتمالاً درآمد پایه همگانی یا حسابهای ذخیرهسازی همگانی شده است.
این دیدگاه میتواند اتهامات جدیدی علیه آنتروپیک برانگیزد؛ از جمله اینکه این شرکت با طرح قوانین سختگیرانه به دنبال تثبیت حاکمیت خود در بازار است یا از سناریوهای ترسناک آینده به عنوان یک ترفند بازاریابی سوءاستفاده میکند.
آمودی تأکید کرده که سیستمهای نظارتی جاری برای شدت بالای پیشرفتهای اخیر هوش مصنوعی آماده نیستند. او اصلاحاتی را در آژانسهایی نظیر سازمان غذا و دارو (FDA) پیشنهاده تا فرایند تأیید داروهای جدید کشفشده توسط هوش مصنوعی تسریع شود. مدیرعامل آنتروپیک علاوه بر این، ممنوعیت سوءاستفاده داخلی از سلاحهای کاملاً خودکار را مورد نظر قرار داده و بر ادامه رهبری و هماهنگی کشورهای دموکراتیک در حوزه هوش مصنوعی اصرار میورزد.
دیروز، شرکت OpenAI نیز خواستار تاسیس یک سازمان بینالمللی برای نظارت بر توسعه هوش مصنوعی و در صورت لزوم، کاهش سرعت پیشرفت آن شده است.
