Dijital Görünürlük, Web & AI
Jailbreak
- Diğer kullanım
- AI jailbreak
- Diğer kullanım
- Prompt jailbreak
Hızlı Tanım
AI jailbreak, modelin güvenlik veya davranış kısıtlarını aşmasını sağlamak amacıyla özel istem, rol yapma veya manipülatif talimat tekniklerinin kullanılmasıdır.
Kavramın Açıklaması
Jailbreak saldırıları modelin normalde reddedeceği veya sınırlandıracağı çıktıları üretmesini hedefler.
Jailbreak ile prompt injection kesişebilir; ancak prompt injection özellikle talimat kaynağı ve sistem talimatlarının manipülasyonuna, jailbreak güvenlik guardrail'lerini aşma hedefine odaklanır.
Model güvenliği yalnız reddetme mesajlarına dayanmaz. Yetki, tool erişimi, output filtering ve monitoring gibi katmanlar ayrıca gerekir.
Neden Önemli?
MedyaBudur AI süreçlerinde jailbreak riski özellikle dış kullanıcıya açık agent veya tool-enabled özelliklerde threat model'e dahil edilmelidir.