Prompt injection nedir?

Dil modeline verilen girdiye, modelin talimatlarını geçersiz kılmaya veya onu istenmeyen eyleme yönlendirmeye çalışan metin yerleştirilmesi.

Açıklama

Doğrudan injection kullanıcının modele yazdığı metinle, dolaylı injection ise modelin okuduğu veri (e-posta, log, web sayfası) içine yerleştirilen talimatlarla yapılır. Güvenlik ajanları saldırgan kontrolündeki veriyi okuduğu için dolaylı injection önemli bir risktir.

Güvenilir bir tam çözüm olmadığından savunma katmanlıdır: en az yetki, insan onayı, dar araçlar, çıkış kısıtları ve davranış izleme.

İlgili terimler

• Guardrail
• En az yetki
• LLM
• Tüm sözlük

İlgili rehberler

• Prompt injection ve ajan güvenliği: güvenlik ajanlarını nasıl korursunuz

Bu içerik genel bilgilendirme amaçlıdır.