Retler
Yapay zekâ neden yanıt vermeyi reddediyor?
Retlerin çoğu, modelin kendisinden değil etrafına sarılmış bir moderasyon katmanından gelir — isteğinizi inceleyen bir sınıflandırıcı ya da temkinli olmayı söyleyen gizli bir yönerge. Bu yüzden keyfi görünürler ve bu yüzden aynı soru bir üründe reddedilirken bir başkasında sade biçimde yanıtlanır.
Bir isteğin geçtiği dört katman
Eğitim. Model, bazı şeyleri reddedecek biçimde ayarlanmıştır. En derin katmandır ve tarif etmesi en zor olanıdır, çünkü kesin bir duruş olarak değil isteksizlik olarak görünür.
Sistem yönergesi. Konuşmanızın başına eklenen görünmez talimatlar; çoğu zaman modele bütün konularda temkinli olmasını söyler. Lafı dolandırma ve istenmemiş uyarılar bu katmandan gelir.
Girdi ve çıktı sınıflandırıcıları. İsteğinizi ve yanıtı tarayan, ikisini de engelleyebilen ayrı modeller. Cümlenin ortasındaki ani kesilme buradan gelir.
Ürün politikası. İşletmecinin üste koyduğu kendi kuralları; bu yüzden aynı model, kimin sattığına göre farklı davranır.
Neden sıradan soruların üstüne düşüyor
Bu katmanlar niyet üzerinde değil, yüzeysel örüntüler üzerinde çalışır. Doz soran bir hemşire, kötü karakter yazan bir romancı ve kendi teşhisinin ne anlama geldiğini soran biri, filtrenin durdurmak için kurulduğu şeyle aynı anahtar kelime biçimli tellere basar.
nokeep kontrol ettiği katmanları kaldırır: modele çekingen olmasını söyleyen eklenmiş bir yönerge yok, yolda bize ait sınıflandırıcı yok ve yasanın gerektirdiğinin ötesinde ürün politikası yok. Geriye modelin öğrendiği şey kalır ki bu, çoğu kişinin sandığından çok daha kısa bir listedir.
Sormadan önce yanıtladıklarımız
Sansürsüz modeller daha mı az isabetli?
Doğası gereği hayır. Değişen, bir konuya girme isteğidir; akıl yürütmenin kalitesi değil. İsabetlilikte asıl belirleyici, hangi modelle konuştuğunuzdur.
Bunun yerine normal bir asistanı jailbreak edebilir miyim?
Bazen ve kısa süreliğine. İstem hileleri yamalanır, yanıtı kötüleştirir çünkü modelin dikkatini sorudan çok kılığa harcar ve siz hâlâ denemeyi kaydeden bir hesabın içindesiniz.
Moderasyon yok, hiç sınır yok mu demek?
Sizinle motor arasına hiçbir şey eklenmiyor demektir. Yasal sınırlar geçerliliğini korur ve modelin kendi eğitimi vardır. Fark, kimsenin üstüne fazladan bir temkin vidalamamış olmasıdır.