Перейти к содержанию

Что такое stateless AI?

Stateless-запрос к ИИ — это запрос, который не опирается на состояние разговора, сохранённое между запросами интерфейсом. Приложение всё же может отправлять предыдущие сообщения как контекст или само сохранять историю. Обработка запросов без состояния — это не то же самое, что отсутствие хранения, отсутствие памяти или анонимность.

Обновлено

Бесплатно каждый день · Без аккаунта и карты

Приватность

Ответили, и следа нет.

Ваше устройствоВаш чат остаётся здесь.

Нормально ли всё ещё скучать по ним?

Да. Скучать значит понимать, что человек был важен.

Наши серверыОтвечаю…
  • 0чатов
  • 0IP-адресов
  • 0аккаунтов

Как модель без состояния понимает разговор?

Приложение может включать предыдущие сообщения в каждый новый запрос. С точки зрения модели этот контекст приходит как часть текущего входа; ей не нужно самостоятельно извлекать постоянно сохранённый разговор.

По мере роста разговора приложение может выбирать, сокращать или опускать более ранний контекст. Доступное окно контекста и логика отбора в приложении определяют, что модель может использовать.

Где здесь память?

Память — это функция продукта: она хранит информацию и подставляет её, когда это полезно. Она может храниться в облачном аккаунте или на устройстве пользователя. Интерфейс запросов без состояния поддерживает оба варианта.

В nokeep сохранённая память хранится в браузере, а нужный контекст может отправляться вместе с запросами к модели. Пользователи могут просматривать, редактировать и стирать память. Это отличается от серверного профиля, который сам следует за человеком между устройствами.

Без состояния — не политика хранения

API может обрабатывать каждый запрос независимо и при этом записывать его содержимое в журнал. Другая система может вести зашифрованное состояние разговора по другим правилам. Читайте реальную политику обработки данных, а не выводите приватность из формата запроса.

У приложения, провайдера модели и подключённых инструментов может быть отдельное поведение хранения. Служебные записи и экспортированные копии тоже требуют отдельного внимания.

Выбор правильного поведения

Для долгой работы решите, что должно сохраняться и где: сам чат, инструкции проекта, файлы или выбранная память. Проверьте, понятны ли продукту эти настройки и можно ли их отменить.

В nokeep сохранённые данные рабочей области остаются в браузере, без серверной копии истории чатов. Обработка запросов к модели всё равно идёт с нужным контекстом, по соглашениям об отсутствии хранения.

Источники

Пошагово в nokeep

Ответы на вопросы, которые вы ещё не задали

Значит ли stateless, что модель не может помнить предыдущее сообщение?

Нет. Приложение может включить это сообщение в следующий запрос как контекст.

Значит ли stateless, что запросы никогда не логируются?

Нет. Состояние запроса и хранение — разные вещи. Проверьте политику конфиденциальности сервиса.

Может ли nokeep использовать память между чатами?

Да. Он может использовать память, сохранённую в вашем браузере, и включать нужный контекст в запросы к модели. Это не автоматически синхронизируемый серверный профиль.

По теме

О чём вы думаете?

Бесплатно каждый день · Без аккаунта и карты