Guardrail nedir?

Bir AI sisteminin yapabileceklerini sınırlayan teknik veya süreçsel koruma (yetki sınırı, onay, girdi/çıktı denetimi).

Açıklama

Guardrail'ler model içinde (talimatlar, filtreler) veya model dışında (yetki, onay akışı, araç parametre doğrulaması) uygulanabilir. Güvenlik açısından model dışı guardrail'ler daha güvenilirdir, çünkü modelin yönlendirilmesinden etkilenmez.

Örnekler: ajanın yalnızca belirli cihaz grubunda işlem yapabilmesi, belirli işlemlerin dört göz onayı gerektirmesi, bakım penceresi dışında değişiklik önerilmemesi.

İlgili terimler

• En az yetki
• Prompt injection
• Human-in-the-loop
• Tüm sözlük

İlgili rehberler

• Prompt injection ve ajan güvenliği: güvenlik ajanlarını nasıl korursunuz
• AI ajanına güvenlik ürünü yetkisi verirken en az yetki tasarımı

Bu içerik genel bilgilendirme amaçlıdır.