Herkesin övgüler yağdırdığı o şık AI Ajansı sistemlerinde gizli olan Achilles'in zayıf noktasının ne olduğunu hiç merak ettiniz mi?

Görünüşe göre kimsenin konuşmak istemediği büyük bir boşluk var: istem güvenilirliği. Evet, doğru—bu ajanların üzerine inşa edildiği temel düşündüğünüz kadar sağlam olmayabilir.

AI ajanları komutları yerine getirdiğinde, onlara verilen komutların tehlikeye atılmadığını nasıl bilirsiniz? Bu, araba anahtarlarınızı bir vale teslim ederken, gerçekten orada çalışıp çalışmadıklarını kontrol etmemek gibidir. Güven katmanı? Çoğu kurulumda neredeyse yok.

MetaArenaGaming bu tam kör noktayı ele alıyor. Ajanlar talimatlara dokunmadan önce talimatların doğruluğunu doğrulayan bir altyapı inşa ediyorlar - bunu AI talimatları için bir güvenlik kontrol noktası olarak düşünün. Çözülmesi en çekici problem değil ama gerçekten de gerçek varlıkları yöneten otonom sistemler konusunda ciddiysek önemli bir konu.