پیشبینی «سم آلتمن» از آینده ایجنتهای هوش مصنوعی و چالشهای آن_دانستنی
نوشته و ویرایش شده توسط مجله ی دانستنی
«سم آلتمن»، مدیرعامل OpenAI، در اتفاقات «TED2025» آیندهای را پیشبینی کرده که در آن ایجنتهای هوش مصنوعی جدا گانه در اینترنت فعالیت میکند، به اطلاعات حساس کاربران همانند حسابهای بانکی دسترسی دارد و حتی امکان پذیر کنترل سیستمها را در دست بگیرد؛ آیندهای دلنشین اما پر از چالشهای امنیتی که کاربران را به تردید میاندازد.
بر پایه گزارش «WindowsCentral»، در سالهای تازه ابزارهای هوش مصنوعی همانند ChatGPT بهشدت درحال گسترش می باشند. باوجوداین، نگرانیهای درمورد امنیت و حریم خصوصی هم چنان مانعی بزرگ برای پذیرفتن کامل این فناوری باقی ماندهاند.
اشتباهات هوش مصنوعی عاملمحور میتواند زیاد پرهزینه باشد
سم آلتمن، مدیرعامل OpenAI، در گفتگویی در TED2025، به چالشهای آینده این فناوری پرداخت و اشاره کرد که هوش مصنوعی عاملمحور نوعی AI که میتواند خودکار و جدا گانه فعالیت کند، آیندهای محتمل اما پرریسک دارد. او او گفت:
«فکر میکنم مردم در تعداد بسیاری از موارد بهآهستگی به هوش مصنوعی عاملمحور عادت خواهند کرد اما حتی اگر برخیها با این فناوری راحت باشند و برخیها نه، بالاخره داخل مرحلهای میشویم که سیستمهای هوش مصنوعی در اینترنت کلیک خواهند کرد. این یکی از دلنشینترین و پرپیامدترین چالشهای ایمنی است که با آن برخورد کردهایم، چون هنگامی هوش مصنوعی به سیستمها و اطلاعات دسترسی اشکار کند و مرتکب نادرست بشود، اشتباهاتش ریسکهای زیاد بیشتری خواهد داشت.»
آخرین مطالب
- ثبتنام بستههای حمایتی معاونت علمی اغاز شد_دانستنی
- ماهوارهها چطور از فضا جنگ را رصد میکنند؟_دانستنی
- نظر اختصاصی اسکای فایبر شاتل؛ توانایی اینترنت پایدار بدون وابستگی به خط تلفن_دانستنی
- پیکاپ چری KP31 به بازار میآید؛ همان برانکویی که فورد هیچ زمان نساخت_دانستنی
- قیاس آمار گلهای رونالدو و مسی با پای غیرتخصصی خود_دانستنی
آلتمن پافشاری کرد اگر کاربران به سیستمهای هوش مصنوعی مطمعن نداشته باشند، هیچگاه به آنها اجازه دسترسی به اطلاعات شخصی یا کنترل سیستمهای خود را نخواهند داد:
«محصول خوب، محصولی ایمن است. تا وقتی که یقین نباشید ایجنتهای [هوش مصنوعی] ما حساب بانکیتان را خالی نمیکند یا دادههایتان را حذف نمیکنند، از آنها منفعت گیری نخواهید کرد.»
مایکروسافت در معارفه ابزار «Windows Recall» با مشکلات امنیتی بزرگی روبه رو شد. این ابزار حتی وقتی که فیلتر اطلاعات حساس فعال می بود، بازهم دادههای مهم همانند اطلاعات کارت بانکی را ثبت میکرد. این نوشته مطمعن عمومی را به سیستمهای هوش مصنوعی با دسترسی گسترده، به چالش کشید.
درمجموع، آینده هوش مصنوعی عاملمحور باوجود پتانسیلهای دیدنی، هم چنان با چالشهای جدی در عرصه امنیت و حریم خصوصی روبه رو است. اظهارات سم آلتمن درمورد دسترسی گسترده این سیستمها به اطلاعات شخصی همانند حسابهای بانکی، در کنار مثالهایی همانند ابزار جنجالی Windows Recall مایکروسافت، مشخص می کند جلب مطمعن کاربران نیازمند ضمانتهای قوی امنیتی و شفافیت عملکردی است. اگرچه مسیر اینده برای این فناوری نوظهور روشن و پرشتاب به نظر میرسد، پیروزی آن به توانایی شرکتها در مدیریت ریسکها و ترقی ایمنی سیستمها وابسته خواهد می بود.
دسته بندی مطالب
