هل تساءلت يومًا عن نقطة الضعف التي تخفيها تلك الأنظمة الرائعة لوكلاء الذكاء الاصطناعي التي يتحدث عنها الجميع؟

يتضح أن هناك فجوة كبيرة لا يريد أحد التحدث عنها: موثوقية المطالبات. نعم، هذا صحيح - الأساس الذي تبني عليه هذه الوكلاء قد لا يكون متينًا كما تعتقد.

عندما تنفذ وكلاء الذكاء الاصطناعي الأوامر، كيف تعرف أن التعليمات التي تُغذيهم ليست مخترقة؟ إنه كمن تسلم مفاتيح سيارتك لمرآب بدون التحقق مما إذا كانوا يعملون هناك بالفعل. طبقة الثقة؟ تكاد تكون غير موجودة في معظم الإعدادات.

تتولى MetaArenaGaming معالجة هذه النقطة العمياء بالضبط. إنهم يبنون بنية تحتية تتحقق من صحة الطلبات قبل أن تتعامل معها الوكلاء - فكر في الأمر كنقطة تفتيش أمنية لتعليمات الذكاء الاصطناعي. ليست هذه المشكلة الأكثر جاذبية للحل، لكنها بالتأكيد واحدة تهمنا إذا كنا جادين بشأن الأنظمة المستقلة التي تتعامل مع الأصول الحقيقية.