Pular para o conteúdo

O que é IA sem estado?

Um pedido de IA sem estado é aquele que não depende de um estado da conversa guardado entre pedidos pela interface. Um aplicativo ainda pode enviar mensagens anteriores como contexto ou salvar um histórico por conta própria. Tratar pedidos sem estado não é o mesmo que não reter dados, não ter memória ou ser anônimo.

Atualizado

Grátis todo dia · Sem conta nem cartão

Privado

Respondido, depois apagado.

Seu dispositivoSeu chat fica aqui.

É normal ainda sentir falta deles?

Sim. Sentir falta de alguém mostra o quanto ele importava.

Nossos servidoresRespondendo…
  • 0chats
  • 0endereços IP
  • 0contas

Como um modelo sem estado acompanha uma conversa?

O aplicativo pode incluir as mensagens anteriores em cada novo pedido. Do ponto de vista do modelo, esse contexto chega como parte da entrada atual; ele não precisa buscar sozinho uma conversa persistente.

Conforme a conversa cresce, o app pode selecionar, resumir ou omitir contexto anterior. A janela de contexto disponível e a lógica de seleção do app determinam o que o modelo consegue usar.

Onde entra a memória?

A memória é um recurso do produto que armazena informações e as fornece quando são úteis. Ela pode ficar em uma conta na nuvem ou no dispositivo do usuário. Uma interface de pedidos sem estado pode funcionar com qualquer um dos dois arranjos.

No nokeep, a memória salva fica no navegador, e o contexto relevante pode ser enviado com os pedidos ao modelo. Os usuários podem ver, editar e apagar a memória. Isso é diferente de um perfil no servidor que acompanha a pessoa automaticamente entre dispositivos.

Sem estado não é política de retenção

Uma API pode tratar cada pedido de forma independente e, ainda assim, registrar o conteúdo. Outro sistema pode manter um estado de conversa criptografado sob regras diferentes. Leia a política real de tratamento de dados, em vez de deduzir a privacidade pelo formato do pedido.

O aplicativo, o provedor do modelo e as ferramentas conectadas podem ter, cada um, uma retenção diferente. Registros operacionais e cópias exportadas também precisam de uma análise separada.

Escolhendo o comportamento certo

Para um trabalho contínuo, defina o que deve persistir e onde: a própria conversa, as instruções do projeto, os arquivos ou a memória selecionada. Verifique se o produto deixa esses controles compreensíveis e reversíveis.

No nokeep, os dados do espaço de trabalho ficam salvos no navegador, sem cópia de histórico de conversas no servidor. A inferência hospedada ainda processa o contexto relevante sob acordos de não retenção.

Fontes

Passo a passo no nokeep

Respondido antes de você perguntar

Sem estado significa que o modelo não consegue lembrar a mensagem anterior?

Não. O aplicativo pode incluir essa mensagem no próximo pedido como contexto.

Sem estado significa que os prompts nunca são registrados?

Não. Estado do pedido e retenção são coisas diferentes. Consulte a política de privacidade do serviço.

O nokeep consegue usar memória entre conversas?

Sim. Ele pode usar a memória salva no seu navegador e incluir o contexto relevante nos pedidos ao modelo. Não é um perfil no servidor sincronizado automaticamente.

Relacionado

O que está passando pela sua cabeça?

Grátis todo dia · Sem conta nem cartão