Sistem promptu nedir?
Sistem promptu, bir dil modeline konuşma başlamadan önce verilen ve modelin rolünü, üslubunu, sınırlarını ve çıktı biçimini belirleyen talimat metnidir. Kullanıcı bu metni görmez, ama asistanın her cevabını o biçimlendirir. Aynı model, farklı bir sistem promptuyla destek temsilcisi, teklif yazarı veya kod gözden geçiren bir yardımcı gibi davranabilir.
Tanım
Sistem promptu, bir dil modeline konuşma başlamadan önce verilen ve modelin rolünü, üslubunu, sınırlarını ve çıktı biçimini belirleyen talimat metnidir.
Sistem promptu nasıl çalışır?
Bir dil modeline giden her istek katmanlardan oluşur. Sistem promptunu uygulamayı geliştiren ekip yazar. Kullanıcı mesajını ise son kullanıcı yazar. Sistem promptu her istekte yeniden gönderilir ve bağlam penceresinde yer kaplar. Model genellikle sistem talimatlarına kullanıcı mesajından daha fazla ağırlık verir. Ancak bu bir garanti değildir.
İyi bir sistem promptunda neler bulunur?
İyi bir sistem promptu asistanın kim olduğunu ve kime hizmet ettiğini söyler. Yapacağı ve yapmayacağı işleri sayar. Bilmediği durumda ne diyeceğini, cevabın uzunluğunu ve biçimini tanımlar. Bir iki iyi örnek çoğu zaman uzun kurallardan daha etkilidir.
Sistem promptu bir kez yazılıp bırakılmaz. Kod gibi sürümlenir, gerçek sorularla test edilir ve her değişiklik kayda geçer. Bu çalışma prompt mühendisliğinin en somut çıktısıdır.
Türkiye’de sistem promptu yazarken nelere dikkat edilir?
Türkçe cevap bekliyorsanız bunu açıkça yazın ve hitap biçimini belirtin. Aksi halde model “sen” ile “siz” arasında gidip gelebilir. Kurumunuza özgü terimleri ve çevrilmemesi gereken ürün adlarını da ekleyin.
Sistem promptuna müşteri verisi veya kişisel veri koymayın. Sistem promptu bir güvenlik sınırı da değildir. Prompt injection saldırıları talimatları aşmaya çalışır. Yetki kontrolünü kodda yapın ve çıktıyı denetleyen bir guardrail katmanı ekleyin.
İlgili yazılar
Chatbot maliyetini ne belirler?Chatbot maliyetinde bot türü, kanal, entegrasyon ve bakımın payı; WhatsApp mesaj ücretleri ve kaliteyi koruyan tasarruf yolları.
WordPress için RAGRAG'in WordPress sitelerinde arama, destek ve içerik keşfi için nasıl çalıştığı ve kurulumda hangi kararların önemli olduğu.
RAG projesinin maliyetini ne belirler?RAG bilgi asistanında tek seferlik ve işletme maliyet kalemleri, maliyeti artıran ve düşüren tercihler, teklif öncesi hazırlık.İlgili terimler
- Prompt mühendisliğiPrompt mühendisliği, bir dil modelinden tutarlı ve doğru sonuç almak için talimatları, örnekleri ve bağlamı yazma, test etme ve iyileştirme işidir.
- LLM (Büyük Dil Modeli)LLM (Large Language Model, büyük dil modeli), çok büyük metin verisiyle eğitilmiş ve bir metnin devamını tahmin ederek soru cevaplayan, özetleyen, çeviren ve yazan bir yapay zeka modelidir.
- Prompt Injection (İstem Enjeksiyonu)Prompt injection, bir dil modelinin okuduğu girdiye gizlenen talimatlarla modelin asıl talimatlarını geçersiz kılmayı ve onu istenmeyen bir işe yöneltmeyi amaçlayan bir saldırı türüdür.
- Guardrail (Yapay Zeka Koruma Kuralları)Guardrail, bir yapay zeka uygulamasının girdilerini, çıktılarını ve eylemlerini denetleyerek istenmeyen davranışları engelleyen teknik koruma katmanıdır.
- Bağlam Penceresi (Context Window)Bağlam penceresi (context window), bir dil modelinin tek bir istekte okuyup dikkate alabildiği en fazla metin miktarını token cinsinden belirleyen sınırdır.
Sık sorulan sorular
Sistem promptu ile kullanıcı promptu arasındaki fark ne?
Sistem promptunu uygulamayı geliştiren ekip yazar ve her konuşmada aynı kalır. Kullanıcı promptu ise son kullanıcının o anda yazdığı mesajdır. Model genellikle sistem talimatlarına daha fazla ağırlık verir.
Sistem promptu gizli kalır mı?
Buna güvenmeyin. Kullanıcılar uygun sorularla prompt metnini açığa çıkarabilir. Sistem promptuna API anahtarı, parola veya kişisel veri yazmayın. Metni, sızsa da zarar vermeyecek şekilde tasarlayın.
Sistem promptu ne kadar uzun olmalı?
Görevi net anlatacak kadar. Sistem promptu her istekte yeniden gönderilir, bu yüzden uzadıkça token maliyeti ve gecikme artar. Sık değişen bilgi için prompt yerine RAG kullanmak daha doğrudur.
Dönüşümünüzü birlikte konuşalım
Hangi işin her hafta tekrarlandığını anlatın. Otomasyona değip değmeyeceğini açıkça söyleyelim.
Nasıl başlıyoruz?
- Ücretsiz ilk görüşmeSorunu ve hedefi birlikte netleştiriyoruz.
- 2 haftalık keşif programıVeriye, sürece ve araçlara bakıp nereden başlanacağını belirliyoruz.
- Yazılı teklifKapsamı, mimariyi ve takvimi yazılı olarak sunuyoruz.