پیشبینی سم آلتمن از آینده ایجنتهای هوش مصنوعی و چالشهای امنیتی آنها
«سم آلتمن»، مدیرعامل OpenAI، در رویداد «TED2025» تصویری از آینده ترسیم کرد که در آن ایجنتهای هوش مصنوعی بهصورت جداگانه در فضای اینترنت فعال هستند، به دادههای حساس کاربران — از جمله حسابهای بانکی — دسترسی پیدا میکنند و حتی امکان کنترل سیستمها را در اختیار میگیرند؛ رویایی دلنشین اما پر از چالشهای امنیتی که کاربران را به تردید میاندازد.
بر اساس گزارشی از «WindowsCentral»، در سالهای اخیر ابزارهای هوش مصنوعی نظیر ChatGPT بهشدت در حال گسترشاند. با این حال، نگرانیهای مربوط به امنیت و حریم خصوصی همچنان مانع بزرگی برای پذیرش کامل این فناوری باقی ماندهاند.
🔗 بیشتر بخوانید: فضاپیمای دان به سیارک وستا نزدیک میشود_دانستنی
اشتباهات هوش مصنوعی عاملمحور میتواند بسیار پرهزینه باشد
سم آلتمن در گفتگویی در TED2025 به چالشهای پیشروی این تکنولوژی پرداخت و تصریح کرد که هوش مصنوعی عاملمحور — نوعی AI که قادر است بهصورت خودمختار و جداگانه کار کند — آیندهای محتمل اما پرریسک دارد. او بیان داشت:
«فکر میکنم مردم در بسیاری از موارد بهآهستگی به هوش مصنوعی عاملمحور عادت خواهند کرد، اما حتی اگر برخی با این فناوری راحت باشند و برخی نه، در نهایت به مرحلهای میرویم که سیستمهای هوش مصنوعی در اینترنت کلیک خواهند کرد. این یکی از دلنشینترین و پرپیامدترین چالشهای ایمنی است که با آن روبرو شدهایم، زیرا وقتی هوش مصنوعی به سیستمها و اطلاعات دسترسی آشکار پیدا کند و اشتباهی مرتکب شود، ریسکهای بسیار بیشتری به همراه خواهد داشت.»
🔗 بیشتر بخوانید: چرا موسسه هرمس بهترین سایت دوره آنلاین و آموزش مجازی است؟! 5 مسئله کلیدی_دانستنی
آلتمن تأکید کرد که اگر کاربران به سیستمهای هوش مصنوعی اعتماد نداشته باشند، هرگز اجازه دسترسی به اطلاعات شخصی یا کنترل سیستمهای خود را نخواهند داد:
«محصول خوب، محصولی ایمن است. تا زمانی که مطمئن نباشید ایجنتهای [هوش مصنوعی] ما حساب بانکیتان را خالی نمیکنند یا دادههایتان را حذف نمیکنند، از آنها بهره نخواهید برد.»
مایکروسافت در معرفی ابزار «Windows Recall» با چالشهای امنیتی جدی روبرو شد. این ابزار حتی در حالت فعال بودن فیلتر اطلاعات حساس، همچنان دادههای حیاتی نظیر اطلاعات کارت بانکی را ثبت میکرد. این اتفاق اعتماد عمومی را به سیستمهای هوش مصنوعی با دسترسی گسترده به چالش کشید.
به طور کلی، آینده هوش مصنوعی عاملمحور با وجود پتانسیلهای چشمگیر، همچنان با موانع جدی در حوزه امنیت و حریم خصوصی مواجه است. اظهارات سم آلتمن در مورد دسترسی گسترده این سیستمها به اطلاعات شخصی همچون حسابهای بانکی، در کنار مثالهایی مانند ابزار جنجالی Windows Recall مایکروسافت، نشان میدهد که کسب اعتماد کاربران نیازمند تضمینهای امنیتی قوی و شفافیت در عملکرد است. اگرچه مسیر آینده برای این فناوری نوظهور روشن و پرشتاب به نظر میرسد، اما موفقیت نهایی آن به توانایی شرکتها در مدیریت ریسکها و ارتقای ایمنی سیستمها وابسته خواهد بود.
