ステートレスAIとは？

アプリは、新しいリクエストのたびに以前のメッセージを含められます。モデルから見ると、その文脈は現在の入力の一部として届くので、モデルが永続的な会話を自分で取り出す必要はありません。

会話が長くなると、アプリは以前の文脈を選んだり、要約したり、省いたりすることがあります。使えるコンテキストウィンドウの大きさと、アプリの選択ロジックが、モデルが何を使えるかを左右します。

記憶とは、情報を保存し、役立つときに渡す製品の機能です。クラウドのアカウントにも、ユーザーの端末にも置けます。ステートレスなリクエストの仕組みは、どちらの形にも対応できます。

nokeepでは、保存された記憶はブラウザに置かれ、関連する文脈はモデルへのリクエストと一緒に送られることがあります。ユーザーは記憶を確認、編集、削除できます。これは、端末をまたいで自動的についてくるサーバー上のプロフィールとは違います。

APIは各リクエストを独立に処理しつつ、内容を記録することもあります。別のシステムが、別のルールのもとで暗号化された会話の状態を保持することもあります。リクエストの形式からプライバシーを推測するのではなく、実際のデータ取り扱いポリシーを読んでください。

アプリ、モデル提供者、接続されたツールには、それぞれ別々の保持の仕組みがあることがあります。運用記録や書き出したコピーも、別に考える必要があります。

継続的な作業では、何を残し、どこに残すかを決めてください。チャットそのもの、プロジェクトの指示、ファイル、選んだ記憶などです。製品がそれらの管理をわかりやすく、元に戻せる形で用意しているか確かめてください。

nokeepでは、保存されたワークスペースのデータはブラウザに残り、チャット履歴のサーバー上のコピーはありません。ホストされた推論では、関連する文脈をデータを保持しない契約のもとで処理します。