چرا هوش مصنوعی از پاسخ دادن سر باز می‌زند؟

آموزش. مدل طوری تنظیم شده که برخی چیزها را نپذیرد. عمیق‌ترین لایه است و توصیفش از همه سخت‌تر، چون به‌شکل بی‌میلی بروز می‌کند نه توقف قاطع.

دستور سیستمی. دستورهایی نامرئی که پیش از گفتگوی شما افزوده می‌شوند و اغلب به مدل می‌گویند دربارهٔ موضوعاتی کامل محتاط باشد. طفره‌رفتن‌ها و هشدارهای ناخواسته از همین لایه می‌آیند.

دسته‌بندی‌کننده‌های ورودی و خروجی. مدل‌هایی جداگانه که درخواست و پاسخ را می‌کاوند و می‌توانند هر دو را مسدود کنند. توقف ناگهانی وسط جمله از اینجا می‌آید.

سیاست محصول. قوانین خود اپراتور که روی همه‌چیز گذاشته می‌شود، و به همین دلیل یک مدل واحد بسته به اینکه چه کسی آن را می‌فروشد رفتار متفاوتی دارد.

این لایه‌ها روی الگوهای سطحی کار می‌کنند، نه روی نیت. پرستاری که دربارهٔ دوز دارو می‌پرسد، رمان‌نویسی که شخصیت منفی می‌نویسد، و کسی که می‌پرسد تشخیص پزشکی خودش یعنی چه، همگی همان سیم‌های کلیدواژه‌ای را لمس می‌کنند که فیلتر برای چیز دیگری کار گذاشته بود.

nokeep لایه‌هایی را که در اختیار دارد برمی‌دارد: نه دستور افزوده‌ای که به مدل بگوید طفره برود، نه دسته‌بندی‌کننده‌ای از ما در مسیر، و نه سیاست محصولی فراتر از آنچه قانون می‌خواهد. آنچه می‌ماند همان چیزی است که مدل آموخته است، و آن فهرست بسیار کوتاه‌تر از تصور بیشتر مردم است.