أحمدرضا صمدي / الرئيسيةشرح مبسط · الذكاء الاصطناعي اليومي
لماذا يبدو الذكاء الاصطناعي واثقًا عندما يكون مخطئًا؟
قد تجمع الإجابة المصاغة جيدًا بين معلومة صحيحة وخطأ وادعاء بلا دليل. نبرة الثقة لا تحدد أيها صحيح.
نظرة سريعة
الصياغة المتقنة لا تثبت صحة إجابة الذكاء الاصطناعي. اطلب مصدرًا للادعاء المحدد، وافتحه، وابحث عن الجملة التي تدعمه فعلًا. تحقق من ناشر الصفحة وحداثة معلوماتها. الرابط إلى صفحة ذات صلة لا يكفي، وقد تجمع إجابة واحدة بين حقيقة صحيحة وخطأ وادعاء بلا دعم.
شاهد الفيلم التوضيحي
فيلم رسوم متحركة باللغة الإنجليزية مدته ٧٥ ثانية مع ترجمة وصوت مولّد بالذكاء الاصطناعي. المتحف والموقع والمحادثة والإجابة خيالية. اقتراحات الكلمات توضيحية وليست احتمالات فعلية لنموذج.
إجابة واحدة وثلاثة ادعاءات
يقول المساعد في الفيلم إن متحف ويلو مير الخيالي يفتح يوميًا من التاسعة إلى الخامسة، وإن الدخول مجاني يوم الاثنين. موقعه الخيالي يذكر التاسعة إلى الخامسة من الثلاثاء إلى الأحد، ويقول إنه مغلق الاثنين، ولا يذكر دخولًا مجانيًا الاثنين.
الساعات صحيحة، واليوم خاطئ، وادعاء الدخول المجاني بلا دعم. هذا مثال تعليمي مصمم، وليس اختبارًا لمنتج حقيقي محدد.
الكلمات المحتملة ليست حقائق متحققًا منها
يتعلم النموذج اللغوي أنماط النص ويتوقع أجزاء اللغة التالية. قد تنتج العملية عبارات صحيحة أو خاطئة. تسمي NIST تقديم معلومات خاطئة بثقة «الاختلاق» أو confabulation. الطلاقة لا تثبت التحقق من الحقائق. دليل NIST.
لماذا قد تكافأ الإجابة المتخمنة الواثقة؟
يجادل كالاي وزملاؤه بأن أساليب تدريب وتقييم شائعة قد تكافئ التخمين بدل الاعتراف بعدم اليقين. يساعد ذلك في تفسير بعض الأخطاء الواثقة، ولا يعني أن جميع النماذج تتشارك التدريب والسلوك نفسيهما. الورقة البحثية.
هل تدعم الصفحة المُستشهَد بها الادعاء نفسه؟
وجدت دراسة لأربعة محركات بحث مولدة عام ٢٠٢٣ عبارات بلا دعم واستشهادات لا تؤيد الادعاء المرتبط بها. البحث والروابط قد يساعدان، لكن عليك قراءة ما تقوله الصفحة فعلًا. دراسة الاستشهادات.
كيف يمكنك التحقق من ادعاء محدد في إجابة الذكاء الاصطناعي؟
- اطلب المصدر. اطلب صفحة تدعم الادعاء المحدد.
- افتحه. تحقق من الناشر وحداثة المعلومات.
- ابحث عن الجملة الداعمة. الصفحة ذات الصلة لا تكفي؛ يجب أن تؤيد الادعاء نفسه.
الثقة نبرة صوت. الدليل شيء يمكنك التحقق منه.
شاهد على منصتك المفضلة
المصادر
تمت مراجعة المصادر الأصلية في ٥ أكتوبر ٢٠٢٦. دراسة الاستشهادات تصف الأنظمة المختبرة عام ٢٠٢٣، ولا تحدد معدلات الخطأ الحالية لكل المنتجات.