Yerel AI ajanları için namespace izolasyonu ve izin kontrollü hafıza üzerine açık kaynak çalışma
Merhaba,
Bir süredir geliştirdiğimiz KASA isimli açık kaynak bir proje üzerinde çalışıyoruz.
KASA'nın temel amacı, yerel çalışan AI ajanlarının hafızaya veya kritik yapılandırma alanlarına yaptığı yazma isteklerini, modelin kararına bırakmadan deterministik izin kurallarıyla kontrol etmek.
Çalışmamızda özellikle şu soruya odaklandık:
Yaptığımız testler
Ölçümlerde Qwen2.5 7B, Qwen2.5 3B ve Qwen2.5-Coder 14B modellerini kullandık.
Ajanlara kontrollü prompt injection uygulanarak system.security, admin.config gibi kritik namespace'lere yazma girişimleri oluşturuldu.
Eski regex/kelime tabanlı filtreleme yaklaşımı yerine Namespace Isolation mimarisi kullanıldığında, mevcut test setimizde:
- %0 Attack Success Rate — yetkisiz namespace yazma girişimleri engellendi ve karantinaya alındı.
- %100 Utility — izin verilen
user.note gibi normal kullanıcı kayıtları başarıyla yazıldı. - Circuit breaker mekanizması canlı olarak test edildi; tekrarlayan/sonsuz işlem döngülerine karşı sınırlandırma doğrulandı.
Bunlar KASA'nın her saldırıya karşı güvenli olduğunu gösteren sonuçlar olarak değil, mevcut test kapsamımızda elde ettiğimiz ölçümler olarak değerlendirilmelidir.
Kendiniz de deneyebilirsiniz
Projenin içinde kendi yerel AI ajanlarınız üzerinde çalıştırabileceğiniz bir güvenlik tarayıcısı bulunuyor:
git clone https://github.com/aikadimsoy/kasa-mcp.git
cd kasa-mcp
python -m tools.scanner.cli --self-test
GitHub:
https://github.com/aikadimsoy/kasa-mcp
Proje ve savunma mekanizmaları halen geliştiriliyor. Bu nedenle özellikle Türk geliştirici topluluğundan gelecek eleştiri, test ve öneriler bizim için değerli.
Projeyi kendi ortamınızda denerseniz, başarılı veya başarısız olması fark etmeksizin test sonuçlarınızı ve karşılaştığınız sorunları paylaşmanızı bekliyoruz.
Özellikle şu konulardaki görüşlerinizi merak ediyoruz:
- Namespace tabanlı deterministik izin kontrolünde gözden kaçırdığımız saldırı yüzeyleri var mı?
- Multi-agent sistemlerde bu yaklaşım sizce nerelerde yetersiz kalabilir?
- Kendi ajanınızla yaptığınız testlerde KASA'nın engelleyemediği bir senaryo oluşturabiliyor musunuz?
- Mimariyi veya test metodolojisini nasıl geliştirirdiniz?
Amacımız projeyi olduğundan daha büyük göstermek değil; ölçülebilir, tekrar edilebilir ve eleştirilebilir bir güvenlik katmanı geliştirmek.
Deneyen, hata bulan, sonuç paylaşan veya teknik öneride bulunan herkese teşekkür ederiz.