Dijital Görünürlük, Web & AI
Prompt Injection
- Diğer kullanım
- Prompt injection attack
- Diğer kullanım
- Indirect prompt injection
Hızlı Tanım
Prompt injection, bir AI sisteminin talimat hiyerarşisini kötüye kullanarak modelin güvenilir olmayan metin veya içerikteki talimatları izlemeye yönlendirilmesi güvenlik saldırısıdır.
Kavramın Açıklaması
Doğrudan saldırıda kullanıcı zararlı talimat verir; indirect prompt injection'da web sayfası, belge veya başka veri kaynağındaki gizli talimat model tarafından okunabilir.
Saldırı yalnız uygunsuz yanıt üretmekle kalmayıp tool calling veya veri erişimi olan agent sistemlerinde yetkisiz eylem riskine dönüşebilir.
Prompt injection yalnız 'iyi sistem prompt'u yazarak tamamen çözülemez. Yetki sınırı, input trust, tool permission ve human approval gibi çok katmanlı kontroller gerekir.
Neden Önemli?
MedyaBudur'da dış URL ve dosyaları AI workflow'una alan sistemlerde içerik veri olarak ele alınmalı; içindeki talimatların otomatik güvenilir kabul edilmemesi gerekir.