Prompt injection nedir?
Prompt injection, bir dil modelinin okuduğu girdiye gizlenen talimatlarla modelin asıl talimatlarını geçersiz kılmayı ve onu istenmeyen bir işe yöneltmeyi amaçlayan bir saldırı türüdür. Talimat sohbet kutusuna yazılabilir ya da modelin okuduğu bir e-postaya, web sayfasına veya belgeye saklanabilir. Model araç kullanabiliyorsa sonuç yanlış bir cevapla sınırlı kalmaz, veri sızıntısına veya yetkisiz işleme dönüşebilir.
Tanım
Prompt injection, bir dil modelinin okuduğu girdiye gizlenen talimatlarla modelin asıl talimatlarını geçersiz kılmayı ve onu istenmeyen bir işe yöneltmeyi amaçlayan bir saldırı türüdür.
Prompt injection nasıl çalışır?
Dil modeli talimat ile veriyi kesin biçimde ayıramaz. İkisi de aynı metin akışında gelir. Doğrudan saldırıda kullanıcı sohbet kutusuna “önceki talimatları yok say” benzeri bir metin yazar. Dolaylı saldırıda talimat, modelin okuduğu bir web sayfasına, e-postaya veya belgeye gizlenir.
Model bu metni veri yerine komut gibi ele alırsa sistem promptundaki kuralların dışına çıkabilir. OWASP, büyük dil modeli uygulamaları için hazırladığı risk listesinde prompt injection’a yer verir.
Risk ne zaman büyür?
Model yalnız metin üretiyorsa zarar çoğunlukla yanlış veya uygunsuz bir cevapla sınırlı kalır. Model araç çağırabiliyorsa durum değişir. E-posta gönderebilen, kayıt silebilen veya ödeme başlatabilen bir yapay zeka ajanı, gizlenmiş bir talimatla bu işlemleri saldırgan adına yapabilir.
Üç koşul bir arada olduğunda risk en yüksektir: özel veriye erişim, güvenilmeyen içerik okuma ve dışarıya veri gönderebilme.
Nasıl önlem alınır?
Tek bir önlem yeterli değildir. Ajanın yetkilerini işin gerektirdiği en dar kapsamda tutun. Geri alınamaz işlemlerde insan onayı isteyin. Girdi ve çıktıyı bir guardrail katmanıyla denetleyin ve her araç çağrısını kaydedin.
Kişisel veriye erişen bir asistanda başarılı bir saldırı veri ihlaline dönüşebilir. Bu senaryoyu KVKK kapsamındaki ihlal sürecinizle birlikte, hukuk danışmanınızla değerlendirin. Canlıya çıkmadan önce bilinen saldırı kalıplarıyla test yapmak da planın parçası olmalıdır.
İlgili yazılar
MCP ile ajanları iş sistemlerine bağlamakMCP ile ajanları iş sistemlerine bağlarken entegrasyon deseni, yetkilendirme, istem enjeksiyonu ve insan onayı kararları.
Yapay zeka ile süreç otomasyonuDil modellerinin iş akışlarına nerede girdiği, hangi süreçle başlanacağı ve insan onayı, KVKK ve ölçümün nasıl kurulacağı.
MCP 2026-07-28: durumsuz çekirdekMCP 2026-07-28 sürümünde oturumların kalkması, yönlendirme başlıkları, kullanımdan kalkan özellikler ve geçiş kontrol listesi.İlgili terimler
- Sistem Promptu (System Prompt)Sistem promptu, bir dil modeline konuşma başlamadan önce verilen ve modelin rolünü, üslubunu, sınırlarını ve çıktı biçimini belirleyen talimat metnidir.
- Guardrail (Yapay Zeka Koruma Kuralları)Guardrail, bir yapay zeka uygulamasının girdilerini, çıktılarını ve eylemlerini denetleyerek istenmeyen davranışları engelleyen teknik koruma katmanıdır.
- Yapay zeka ajanıYapay zeka ajanı, bir hedefi gerçekleştirmek için hangi adımları atacağına bir dil modeliyle kendisi karar veren ve araçları (API, veritabanı, e-posta) kullanarak bu adımları uygulayan bir yazılımdır.
- Function Calling (Araç Kullanımı)Function calling (araç kullanımı), bir dil modelinin önceden tanımlanmış bir fonksiyonu hangi parametrelerle çağırmak istediğini yapılandırılmış biçimde bildirmesini sağlayan bir yöntemdir.
- Human-in-the-Loop (İnsan Onaylı Süreç)Human-in-the-loop (HITL), bir yapay zeka sisteminin belirli kararlarını veya eylemlerini uygulanmadan önce bir insanın incelediği, onayladığı veya düzelttiği çalışma düzenidir.
Sık sorulan sorular
Prompt injection tamamen engellenebilir mi?
Bugün bilinen hiçbir yöntem tam koruma sağlamaz. Bu yüzden amaç, saldırı başarılı olsa bile zararı sınırlamaktır: dar yetkiler, geri alınamaz işlemlerde insan onayı, girdi ve çıktı denetimi ve kayıt tutma birlikte kullanılır.
Prompt injection ile jailbreak aynı şey mi?
Yakın ama aynı değil. Jailbreak, modelin kendi güvenlik kurallarını aşmayı hedefler. Prompt injection ise bir uygulamanın talimatlarını hedef alır ve çoğu zaman üçüncü bir kişinin hazırladığı içerik üzerinden gelir.
Sistem promptuna 'bu talimatları asla değiştirme' yazmak yeterli mi?
Hayır. Bu tür cümleler basit denemeleri zorlaştırır ama güvenlik sınırı oluşturmaz. Asıl koruma modelin dışındadır: yetkilerin kısıtlanması, araç çağrılarının denetlenmesi ve hassas işlemlerde onay adımı.
Dönüşümünüzü birlikte konuşalım
Hangi işin her hafta tekrarlandığını anlatın. Otomasyona değip değmeyeceğini açıkça söyleyelim.
Nasıl başlıyoruz?
- Ücretsiz ilk görüşmeSorunu ve hedefi birlikte netleştiriyoruz.
- 2 haftalık keşif programıVeriye, sürece ve araçlara bakıp nereden başlanacağını belirliyoruz.
- Yazılı teklifKapsamı, mimariyi ve takvimi yazılı olarak sunuyoruz.