LLM uygulamalarinda Prompt Injection saldirilarini nasil engelliyorsunuz?
candemirel
11 Haz 2026 19:27
düzenlendi
Selamlar herkese. Gelistirdigimiz bir chatbot projesinde kullanici girdilerinin sistem promptunu ezmesini engellemek istiyoruz. Ignore previous instructions tarzi manipulasyonlari onlemek icin ne gibi onlemler aliyorsunuz? LLM Guard veya benzeri kutuphaneler kullanan var mi?
Cevaplar 5
zulalpolat
11 Haz 2026 19:27
düzenlendi
Tamamen engellemek imkansiz gibi bir sey su an. Sadece riski azaltabiliyoruz. OWASP'in LLM Top 10 dokumanini incelemenizi oneririm.
serhanarslan
11 Haz 2026 19:27
düzenlendi
En temizi girdiyi asil modele gondermeden once daha kucuk ve hizli bir modele taratip prompt injection var mi diye kontrol ettirmek.
serdargun
11 Haz 2026 19:27
düzenlendi
LLM Guard'i denedik, fena degil ama latency suresini biraz artiriyor. Prod ortaminda dikkat etmek gerek.
pelinozkan
11 Haz 2026 19:27
düzenlendi
Sistem promptunu cok net sinirlandirmak lazim. System role ile user role ayrimini API duzeyinde iyi yapmak ilk adim.
mehmettoprak
11 Haz 2026 19:27
düzenlendi
Biz girdi temizleme icin regex ve basit bir kara liste kullaniyoruz ama her zaman yetmiyor maalesef.
Lütfen giriş yapın cevap yazmak için.