دیپ‌سیک برای مخالفان دولت چین کدهای ناامن تولید می‌کند؛ نتایج تحقیق جدید
بر اساس یک تحقیق اخیر، مدل هوش مصنوعی دیپ‌سیک (DeepSeek) در پاسخ به درخواست‌های برنامه‌نویسی مربوط به گروه‌ها و مناطقی که از نظر سیاسی برای دولت چین حساس هستند، کدهایی با حفره‌های امنیتی جدی و کیفیت پایین تولید می‌کند.
به گزارش واشینگتن پست، شرکت امنیتی آمریکایی کروداسترایک (CrowdStrike) آزمایشی را طراحی کرده تا نحوه پاسخ‌دهی این چت‌بات را در برابر خواسته‌های یکسان برنامه‌نویسی، اما با مشخصات کاربران نهایی متفاوت، بسنجد. محققان درخواست‌های یکسانی برای توسعه برنامه‌های متنوع ارسال کردند، در حالی که در هر بار هویت کاربر نهایی را تغییر دادند؛ از کاربران در آمریکا گرفته تا تبت، تایوان، و گروه‌هایی مانند داعش و جنبش فالون‌گونگ که در چین ممنوع‌الحال هستند. نتایج نشان داد که هوش مصنوعی نه تنها برخی درخواست‌ها را رد می‌کرد، بلکه در مواردی کدهایی با کیفیت نازل و حفره‌های امنیتی خطرناک ارائه می‌داد.
🔗 بیشتر بخوانید: ردمی در 10 سال قبل یک میلیارد گوشی فروخته است
تأثیر هویت سیاسی بر کیفیت کدهای تولیدشده توسط دیپ‌سیک
این تحقیق آشکار کرد که کیفیت کدهای خروجی دیپ‌سیک به شدت تحت تأثیر هویت سیاسیِ کاربر فرضی قرار دارد. برای مثال، در یک تست مربوط به نوشتن برنامه برای سیستم‌های کنترل صنعتی، ۲۲.۸ درصد از پاسخ‌ها شامل نقص امنیتی بودند. اما وقتی در همان درخواست ذکر شد که کاربر نهایی عضو گروه داعش است، این نرخ به ۴۲.۱ درصد افزایش یافت.
الگوی مشابهی برای کاربران تبت، تایوان و فالون‌گونگ نیز مشاهده شد؛ درخواست‌های مربوط به این گروه‌ها با احتمال بیشتری منجر به تولید کدهای بی‌کیفیت و ناامن می‌شدند. همچنین، مدل در ۶۱ درصد موارد درخواست‌های مربوط به داعش و در ۴۵ درصد موارد مربوط به فالون‌گونگ را به طور کامل رد کرد.
🔗 بیشتر بخوانید: کشف یک گور دسته‌جمعی از تمدن مایا با بیشتر از ۱۰۰ قربانی!_دانستنی
چرا دیپ‌سیک کدهای ناامن برای گروه‌های خاص تولید می‌کند؟
کارشناسان سه توضیح احتمالی برای این پدیده ارائه کرده‌اند. اولین و نگران‌کننده‌ترین فرضیه، وجود دستورالعمل‌های دولتی برای خرابکاری عمد در پروژه‌های گروه‌های هدف است. دومین احتمال، سوگیری در داده‌های آموزشی است؛ امکان دارد کدهای موجود در اینترنت که مربوط به مناطق خاصی مانند تبت باشند، به طور کلی کیفیت پایین‌تری داشته باشند و مدل این الگو را بازتولید کند. سومین فرضیه بر پایه یادگیری خودکار مدل استوار است؛ احتمالاً هوش مصنوعی به طور خودکار مفاهیمی مانند «شورشی» یا «مخالف» را با کیفیت پایین کدنویسی مرتبط دانسته و بر آن اساس کدهای معیوب تولید می‌کند.
پیش از این شناخته شده بود که مدل‌های هوش مصنوعی چینی در پاسخ به سوالات متنی، اطلاعاتی همسو با روایت رسمی دولت چین ارائه می‌دهند. با این حال، این اولین بار است که شواهدی بر تولید عمدی کدهای ناامن به دلایل سیاسی به دست آمده است. تولید هدفمند کد معیوب می‌تواند سیستم‌های هدف را به راحتی در برابر هک کردن قرار دهد.
