احمدرضا صمدی / خانهتوضیح ساده · هوش مصنوعی روزمره
چرا هوش مصنوعی وقتی اشتباه می‌کند این‌قدر مطمئن به نظر می‌رسد؟
یک پاسخ خوش‌بیان ممکن است هم نکتهٔ درست داشته باشد، هم اشتباه و هم ادعای بدون پشتوانه. لحن مطمئن نشان نمی‌دهد کدام ادعا درست است.
در یک نگاه
خوش‌بیانی ثابت نمی‌کند پاسخ هوش مصنوعی درست است. برای همان ادعای مشخص منبع بخواهید، آن را باز کنید و جمله‌ای را پیدا کنید که واقعاً ادعا را پشتیبانی می‌کند. ناشر صفحه و به‌روز بودن آن را بررسی کنید. پیوند به صفحه‌ای مرتبط کافی نیست؛ یک پاسخ ممکن است هم واقعیت درست داشته باشد، هم اشتباه و هم ادعایی بدون پشتوانه.
فیلم توضیحی را ببینید
فیلم پویانمایی ۷۵ ثانیه‌ای به انگلیسی با زیرنویس و صدای ساخته‌شده با هوش مصنوعی است. موزه، وب‌سایت، گفت‌وگو و پاسخ ساختگی هستند. پیشنهادهای کلمه فقط برای توضیح‌اند و احتمال واقعی مدل نیستند.
یک پاسخ، سه ادعای متفاوت
در فیلم، دستیار می‌گوید موزهٔ ساختگی ویلومیر هر روز از نه تا پنج باز است و دوشنبه‌ها ورود رایگان دارد. وب‌سایت ساختگی موزه می‌گوید ساعت کار از سه‌شنبه تا یکشنبه نه تا پنج است، دوشنبه تعطیل است و چیزی دربارهٔ ورود رایگان دوشنبه نمی‌گوید.
ساعت درست است، روز اشتباه است و ادعای رایگان بودن پشتوانه ندارد. این مثال آموزشی طراحی شده است و آزمون یک محصول واقعی نیست.
کلمات محتمل با واقعیت بررسی‌شده فرق دارند
مدل زبانی الگوهای متن را یاد می‌گیرد و بخش بعدی زبان را پیش‌بینی می‌کند. این فرایند می‌تواند جملهٔ درست یا اشتباه بسازد. NIST ارائهٔ مطمئن اطلاعات نادرست را «داستان‌سازی» یا confabulation می‌نامد. جملهٔ روان ثابت نمی‌کند واقعیت‌ها بررسی شده‌اند. راهنمای NIST.
چرا حدس مطمئن ممکن است امتیاز بگیرد؟
کالای و همکارانش استدلال می‌کنند بعضی روش‌های رایج آموزش و ارزیابی، حدس زدن را بیشتر از بیان تردید پاداش می‌دهند. این می‌تواند برخی خطاهای مطمئن را توضیح دهد؛ به معنی یکسان بودن آموزش و رفتار همهٔ مدل‌ها نیست. مقالهٔ پژوهشی.
آیا صفحهٔ منبع خود ادعا را پشتیبانی می‌کند؟
مطالعهٔ چهار موتور جست‌وجوی مولد در سال ۲۰۲۳، جمله‌های بدون پشتوانه و ارجاع‌هایی یافت که ادعای مربوط را تأیید نمی‌کردند. جست‌وجو و پیوند مفیدند، ولی باید ببینید صفحهٔ منبع واقعاً چه می‌گوید. مطالعهٔ ارجاع‌ها.
چطور می‌توانید یک ادعای مشخص در پاسخ هوش مصنوعی را بررسی کنید؟
- منبع را بخواهید. صفحه‌ای بخواهید که همان ادعا را پشتیبانی کند.
- آن را باز کنید. ناشر و به‌روز بودن را بررسی کنید.
- جملهٔ تأییدکننده را پیدا کنید. مرتبط بودن صفحه کافی نیست؛ باید خود ادعا را تأیید کند.
اطمینان یک لحن است. شواهد چیزی است که می‌توانید بررسی کنید.
در پلتفرم دلخواه ببینید
منابع
منابع اصلی در ۵ اکتبر ۲۰۲۶ بررسی شدند. مطالعهٔ ارجاع‌ها مربوط به سامانه‌های آزمایش‌شده در سال ۲۰۲۳ است و نرخ خطای امروز همهٔ محصولات را نشان نمی‌دهد.