نگرانی رگولاتورها: هوش مصنوعی در فرآیند تشخیص پزشکی مستقر شده
هوش مصنوعی اگرچه مزایای فرا‌وانی دارد، اما خطا‌های زیادی نیز به همراه آورده است. اکنون پزشکان از ابزار‌های هوش مصنوعی که کنترل نشده و کم‌کارایی هستند برای پشتیبانی از تشخیص بیماران استفاده می‌کنند، و این موضوع باعث نگرانی رگولاتور‌هایی مانند سازمان غذا و داروی آمریکا (FDA) شده است.
بر اساس گزارش پولیتیکو، برخی پزشکان در حال حاضر از ابزار‌های هوش مصنوعی کنترل‌نشده مانند دستیار‌های مجازی برای یادداشت‌برداری، تشخیص و درمان بیماری‌ها بهره می‌برند. از سوی دیگر، رشد این فناوری بسیار سریع‌تر از آن است که دولت‌ها و سازمان‌ها بتوانند مقررات متناسب تدوین کنند. تأمین بودجه و نیروی انسانی برای نظارت بر این سیستم‌ها چالش بزرگی است، با این حال رگولاتورها به‌دلیل پیامد‌های هوش مصنوعی در حوزه‌های پزشکی و مراقبت‌های بهداشتی دلسرد و نگران‌اند.
ورود هوش مصنوعی‌های کنترل‌نشده به حوزه پزشکی
سازمان غذا و داروی آمریکا (FDA) به‌صورت معمول پس از بررسی دارو‌ها یا تجهیزات پزشکی جدید به آن‌ها مجوز فعالیت می‌دهد؛ اما نرم‌افزار‌های هوش مصنوعی را نمی‌توان با همین روال تایید یا رد کرد، زیرا هوش مصنوعی به‌طور مداوم در حال آموزش و تحول است. به همین دلیل FDA قصد دارد محصولات هوش مصنوعی را به‌شکل مداوم تحت نظارت داشته باشد.
جوی بایدن، رئیس‌جمهور آمریکا، در اکتبر ۲۰۲۳ (مهرماه) از آژانس‌های نظارتی خواستار اقدام و هماهنگی کامل برای اطمینان از ایمنی و کارایی هوش مصنوعی شد. با این حال، بر اساس گزارش پولیتیکو، رگولاتور‌هایی مانند FDA فاقد منابع موردنیاز برای نظارت بر این فناوری هستند.
مشکل FDA به نظر می‌رسد فرا‌تر از کمبود بودجه یا نیروی انسانی باشد. این آژانس برای کنترل هوش مصنوعی، اختیارات بیش‌تری نیز می‌طلبد. برای مثال، FDA باید امکان دسترسی به داده‌های هوش مصنوعی و توانایی تنظیم الگوریتم‌های کلیدی آن را داشته باشد تا بتواند این فناوری را در چارچوب اصول پزشکی قرار دهد.
