LLM Agent'larında Prompt Injection Güvenliği Nasıl Sağlanır?
denizpolat
11 Haz 2026 19:13
düzenlendi
Selamlar herkese, kendi veritabanımıza bağlı çalışan bir AI Agent geliştiriyoruz. Ancak kullanıcının vereceği girdilerle sistemi manipüle etmesinden (prompt injection) korkuyoruz. Agent'ın sadece belirlediğimiz araçları (tools) güvenli şekilde kullanmasını nasıl sağlayabiliriz? Hangi guardrail kütüphanelerini önerirsiniz?
Cevaplar 5
emrearslan
11 Haz 2026 19:13
düzenlendi
Sistem promptu içine kural yazmak bir yere kadar koruyor. En temizi girdileri ayrı bir denetleyici modelden geçirmek.
barisdemir
11 Haz 2026 19:13
düzenlendi
Ben de benzer bir projede LangChain'in kendi guardrail mekanizmalarını kullandım ama bazen gecikme süresini çok artırıyor, dikkat et.
niluferaydin
11 Haz 2026 19:13
düzenlendi
Sadece prompt seviyesinde koruma yetmez, agent'ın yetkilerini minimum seviyede tutmak en kritik nokta.
muratsahin
11 Haz 2026 19:13
düzenlendi
Tool tanımlamalarını çok sıkı yapın. Gelen parametreleri backend tarafında mutlaka regex veya şema doğrulamasıyla kontrol edin.
eylulkose
11 Haz 2026 19:13
düzenlendi
Kesinlikle NeMo Guardrails veya Llama Guard kullanmalısın. Girdileri agent'a gitmeden önce filtrelemek en mantıklısı.
Lütfen giriş yapın cevap yazmak için.