跳到正文

什么是无状态 AI?

无状态 AI 请求,是指不依赖该界面在请求之间保存的对话状态的请求。应用仍可以把之前的消息作为上下文发送,或者自己保存历史记录。无状态的请求处理,并不等于不保留数据、没有记忆或匿名。

更新于

每天免费 · 无需账户或银行卡

私密

答完即逝。

你的设备你的聊天留在这里。

还在想念 TA,这正常吗?

正常。想念一个人,正说明 TA 对你很重要。

我们的服务器正在回答…
  • 0条聊天
  • 0个 IP 地址
  • 0个账号

无状态模型如何跟上对话?

应用可以在每次新请求中附上之前的消息。从模型的角度看,这些上下文是作为当前输入的一部分到达的;模型不需要自行调取一段持久的对话。

随着对话变长,应用可能会选择、概括或省略较早的上下文。可用的上下文窗口,以及应用的选择逻辑,都会影响模型能用到的内容。

记忆在哪里?

记忆是一项产品功能,它会存储信息,并在有用时把信息提供出来。记忆可以存放在云端账户中,也可以存放在用户的设备上。无状态的请求接口两种方式都能支持。

在 nokeep 中,保存的记忆存放在浏览器里,相关的上下文可以随模型请求一并发送。用户可以查看、编辑和删除记忆。这与会在各设备之间自动同步的服务器端个人资料不同。

无状态不等于保留政策

API 可以独立处理每个请求,同时记录其内容。另一个系统可能在不同规则下保存加密的对话状态。应当阅读实际的数据处理政策,而不是从请求格式去推断隐私。

应用、模型服务提供方以及所连接的工具,各自可能有不同的保留方式。运营记录和导出的副本也需要单独考虑。

选择合适的行为

对于持续进行的工作,要确定什么应该保留,以及保留在哪里:聊天本身、项目说明、文件,还是选定的记忆。请确认产品是否让这些控制项易于理解、可以撤销。

对于 nokeep,保存的工作区数据留在浏览器中,服务器上没有聊天记录副本。托管的推理仍会在无保留协议下处理相关的上下文。

来源

在 nokeep 中一步步操作

你可能正在想的问题

无状态是否意味着模型记不住上一条消息?

不是。应用可以把那条消息作为上下文,包含在下一次请求中。

无状态是否意味着提示词从不被记录?

不是。请求状态与保留是两回事。请查阅该服务的隐私政策。

nokeep 能否在不同聊天之间使用记忆?

可以。它可以使用保存在你浏览器中的记忆,并把相关上下文包含在模型请求中。它不是自动同步的服务器端个人资料。

相关内容

你在想什么?

每天免费 · 无需账户或银行卡