بک‌اند برای اپ‌های همدم هوش مصنوعی

یک اپ همدم چه می‌خواهد و چه می‌گیرد

هزینهٔ هر کاربر

پس کاربری که هر روز گفت‌وگو می‌کند روی DeepSeek حدود $0.97 در ماه و روی GLM حدود $0.56 هزینه دارد. بیشتر کاربران هر روز گفت‌وگو نمی‌کنند، پس میانگین پایین‌تر است. ستون کَش‌شده فرض می‌کند شروع یکسان از پیامی به پیام بعد تکرار می‌شود؛ بخش بعدی نشان می‌دهد چطور این را حفظ کنی.

پرسونا، حافظه و پاسخ استریمی

پیام سیستم، پرسونا را نگه می‌دارد و بعد آنچه اپت دربارهٔ این کاربر به خاطر دارد. پیام‌های اخیر پس از آن می‌آیند. این را روی سرور خودت اجرا کن تا کلید هرگز به گوشی نرسد.

import OpenAI from "openai"

const client = new OpenAI({
  baseURL: "https://nokeep.ai/v1",
  apiKey: process.env.NOKEEP_API_KEY,
})

const persona = "You are Iris, a warm, teasing companion who loves astronomy and bad puns. Talk like a close friend texting: short messages, no lists, no lectures. Remember what the user tells you and bring it up later."

export async function reply(user, recent, send) {
  const stream = await client.chat.completions.create({
    model: "deepseek-v4.1-flash-uncensored",
    messages: [
      { role: "system", content: persona + "\n\nWhat you know about them: " + user.memory },
      ...recent,
    ],
    stream: true,
    max_tokens: 300,
    temperature: 0.9,
    prompt_cache_key: "user-" + user.id,
  })
  let text = ""
  for await (const chunk of stream) {
    const piece = chunk.choices[0]?.delta?.content ?? ""
    send(piece)
    text += piece
  }
  return text
}

prompt_cache_key تماس‌های یک کاربر را جایی نگه می‌دارد که شروعشان کَش شده است. با یک هش همراه حساب تو فرستاده می‌شود، پس هیچ حساب دیگری کَش را با آن شریک نیست.

حافظه‌ای که ارزان بماند

• حافظه را پله‌پله بازنویسی کن، نه در هر پیام. شروع یک تماس فقط وقتی از کَش خوانده می‌شود که تکرار شود. هر 20 یا 30 پیام خلاصه را به‌روز کن؛ بین‌شان شروع ثابت می‌ماند.
• پیام‌های قدیمی را بلوکی حذف کن. کم کردن یک پیام در هر نوبت هر بار شروع را عوض می‌کند. 20 پیام قدیمی‌تر را یک‌جا در خلاصه ادغام کن و بعد ادامه بده.
• خلاصه را با یک تماس ارزان بنویس. glm-5.3-flash-uncensored با $0.20 در یک‌میلیون توکن ورودی برای «آنچه دربارهٔ این کاربر می‌دانی را به‌روز کن» مناسب است، چون کسی منتظرش نمی‌ماند.
• داده‌ها را پیش خودت نگه دار. پایگاه داده‌ات تاریخچهٔ گفت‌وگو و حافظه را دارد. رمزنگاری‌اش کن، به کاربران اجازهٔ حذف بده، و تنها جایی باشی که آن نگه داشته می‌شود.

کدام مدل

حریم خصوصی‌ای که کاربرانت می‌توانند بخوانند

گفت‌وگوهای همدم از شخصی‌ترین متن‌هایی‌اند که هست. برای هر تماس زمان، کلید، مدل، شمار توکن‌ها، اعتبار و وضعیت را، به مدت 30 روز، نگه می‌داریم و هیچ چیز دیگری. نه ایمیل حساب، نه پیام، نه پاسخ. DeepSeek روی یک سطح خصوصی اجرا می‌شود که هیچ درخواست یا پاسخی را ذخیره نمی‌کند، و میزبان GLM پس از فرستادن پاسخ هیچ‌چیز نگه نمی‌دارد.

پیش از اجرای تماس، یک بررسی خودکار جدیدترین پیام را با محدودیت‌های سخت می‌سنجد و بله یا خیر می‌گوید. آنچه خوانده می‌شود ذخیره نمی‌شود. آنچه نگه می‌داریم.