اثر اختصار در پرامپتهای هوش مصنوعی روی افزایش هذیانگویی مدلها

اثر اختصار در پرامپتهای هوش مصنوعی روی افزایش هذیانگویی مدلها, نتایج یک مطالعه اخیر نشان میدهد که درخواست پاسخهای بسیار مختصر از هوش مصنوعی میتواند دقت آن را بهطور قابلتوجهی کاهش دهد و احتمال ارایه اطلاعات نادرست یا هذیانگویی را افزایش دهد.

براساس یک گزارش منتشر شده توسط شرکت فرانسوی، در ارایش و ارزیابی مدلهای هوش مصنوعی، عندما کاربران از چتباتها بخواهند پاسخهای خلاصه بدهند، در پرسشهای مبهم یا گمراهکننده، میزان خطا در خروجیها بهطور واضحی بالا میرود. پژوهشگران در تحلیل خود بیان کردند دادههای ما نشان میدهد که تغییرات جزئی در دستورالعملهای سیستمی، میتوانند تمایل مدل به هذیانگویی را تحت تأثیر قرار دهند.

این نکته برای طراحان برنامههای هوش مصنوعی اهمیت ویژهای دارد، زیرا بسیاری از اپلیکیشنها به دلیل صرفهجویی در پهنای باند، کاهش تأخیر و هزینه، ترجیحاً خروجیهای کوتاه را انتخاب میکنند. چرا اختصار باعث کاهش دقت هوش مصنوعی میشود؟ بر اساس نتایج، حتی مدلهای پیشرفته مانند، و 3.7 نیز عندما با سوالات مبهمی که در کنار آنها دستور اختصار قرار دارد، دقت ón اطلاعاتی آنها را از دست میدهند.

ر میکند عندما مجبور به میشوند، به طور مستمر دقت را درار فدای میکنند.

حتی یک دستور ظاهری ساده مانند خلاصه پاسخ بده میتواند توانایی در و اصلاح اطلاعات نادرست را بهطور کاهش دهد. علاوه بر این، مطالعه اشاره کرد که وقتی کاربران با بات نظرات جالبانگیز را به مدلها منتقل میکنند، احتمال قبول یا تأیید آنها — حتی اگر نادرست باشند — افزایش مییابد.

نتیجهگیری این پژوهش برای توسعهدهندگان و کاربران هوش مصنوعی واضحة است بهینهسازی برای سرعت و هزینه نباید بر حساب دقت و قابلیت اعتماد انجام شود، بهویژه در اتهای حیادی مانند آموزش، پزشکی یا مشارکت مالی., _ ارائه پاسخهای بسیار مختصر توسط هوش مصنوعی؛ عامل اصلی افزایش هذیانگویی, _ یک مطالعه از شرکت فرانسوی نشان میدهد که از هوش مصنوعی بخواهند پاسخهای کوتاه دهند، مخصوصاً در نمگره سوالات، دقت مدل به شدت کاهش مییابد و احتمال ارایه اطلاعات نادرست یا هذیانگویی افزایش مییابد.

بر اساس گزارش، حتی مدلهای پیشرفته ư، و 3.7 عندما درگیر مبهمté + اختصار میشوند، قادر به حفظ صحت اطلاعات نیستند و گاهی به–. پژوهشگران بر این باورند که ناشی از اختصار نیست، بلکه öż به دلیلná است که دستور بسیار سادهای مثل مختصر جواب بده میتواند למُضرَّ- बनाने. همچنین، مطالعه تأثير کاربران روی بر اساس اعتماد بهنفس به-، نشان میدهد که när نتیجهٔ این تحلیل برای áۇ při á.