أحمدرضا صمديحاول المستند أن يصبح المدير
يوضح مسرح خيالي لماذا يجب ألا تمنح قراءة مستند ذلك المستند السيطرة على مساعد الذكاء الاصطناعي. قد تحد الأدوات الأقل وفحص المحتوى الوارد ونقاط الموافقة البشرية من الضرر الناتج عن توجيه مضلل.
فيلم رسوم متحركة بالإنجليزية بصوت اصطناعي وترجمة نصية إنجليزية. آشا والمسرح ومستندات الموردين والملاحظة المخفية وسائل تعليمية خيالية. توضح البوابات قائمتنا العملية، وليست تطبيقًا أمنيًا حقيقيًا أو نظام منع مثبتًا. لا تظهر تعليمات هجوم قابلة للاستخدام ولا يُدعى أي ارتباط بأنثروبيك.
الموقف
تطلب آشا من مساعد تلخيص ثلاثة مستندات للموردين. تحاول ملاحظة مخفية الصعود إلى كرسي المخرج. المسرح تشبيه: مستند المورد مادة للمهمة، بينما يحدد طلب المستخدم ما ينبغي أن يفعله المساعد.
ما يدعمه المصدر
يصف بحث أنثروبيك، المنشور في 24 نوفمبر 2025 والمراجع في 22 أكتوبر 2026، حقن التوجيهات بأنه تعليمات عدائية داخل مادة يعالجها الذكاء الاصطناعي. يناقش تدريب النموذج ومصنفات الفحص واختبارات الفريق الأحمر المتخصص، مع الإقرار بأن وكلاء المتصفح يظلون عرضة للخطر. تختبر هذه الفرق النظام؛ ولا تعني وجود شخص يوافق على كل إجراء للمستخدم. [APID]
ثلاثة أسئلة عملية
تسأل قائمتنا الأصلية: ما الأدوات التي يستطيع المساعد الوصول إليها، وما الفحوص المطبقة على المستندات الواردة، وأي الإجراءات ذات العواقب تنتظر موافقة إنسان؟ تصبح هذه في المسرح الخيالي حلقة مفاتيح أصغر وحاجز فحص للملاحظات الخارجية ونقطة تحقق قبل الإرسال أو الدفع أو الحذف. ينبغي أن تصف الموافقة الإجراء الفعلي ووجهته.
الحدود
هذه احتياطات متعددة الطبقات وليست ضمانًا. المسرح وأوراق الموردين والمساعد والملاحظة المخفية خيالية؛ لا يظهر هجوم حقيقي أو تعليمات هجوم قابلة للاستخدام. القائمة تفسيرنا العملي وليست منتجًا مختبرًا أو نتيجة أمنية مقاسة. لا يدعي الفيلم حصانة أو معدلات هجوم أو ارتباطًا بأنثروبيك.
عن الكاتب
أحمدرضا صمدي — https://a-samadi.com