AI không trạng thái là gì?

Ứng dụng có thể đính kèm các tin nhắn trước vào mỗi yêu cầu mới. Với mô hình, ngữ cảnh đó đến như một phần của đầu vào hiện tại; nó không cần tự truy xuất một cuộc trò chuyện được lưu lại.

Khi cuộc trò chuyện dài thêm, ứng dụng có thể chọn lọc, tóm tắt hoặc bỏ bớt ngữ cảnh cũ. Cửa sổ ngữ cảnh có sẵn và logic chọn lọc của ứng dụng quyết định những gì mô hình có thể dùng.

Bộ nhớ là một tính năng sản phẩm, lưu thông tin và đưa nó vào khi cần. Nó có thể nằm trong tài khoản đám mây hoặc trên thiết bị của người dùng. Giao diện yêu cầu không trạng thái đều có thể hỗ trợ cả hai cách.

Trong nokeep, bộ nhớ đã lưu nằm trong trình duyệt và ngữ cảnh liên quan có thể được gửi kèm yêu cầu tới mô hình. Người dùng có thể xem, sửa và xóa bộ nhớ. Điều này khác với hồ sơ trên máy chủ tự động theo bạn giữa các thiết bị.

Một API có thể xử lý từng yêu cầu độc lập trong khi vẫn ghi lại nội dung. Một hệ thống khác có thể duy trì trạng thái hội thoại đã mã hóa theo quy tắc khác. Hãy đọc chính sách xử lý dữ liệu thực tế thay vì suy đoán mức riêng tư từ định dạng yêu cầu.

Ứng dụng, nhà cung cấp mô hình và các công cụ được kết nối mỗi bên có thể có cách lưu giữ riêng. Hồ sơ vận hành và các bản sao đã xuất cũng cần được xem xét riêng.

Với công việc lâu dài, hãy xác định điều gì nên được giữ lại và giữ ở đâu: bản thân cuộc trò chuyện, chỉ dẫn của dự án, tệp, hay bộ nhớ đã chọn. Kiểm tra xem sản phẩm có làm cho các điều khiển này dễ hiểu và có thể hoàn tác hay không.

Với nokeep, dữ liệu không gian làm việc đã lưu vẫn nằm trong trình duyệt, không có bản sao lịch sử trò chuyện trên máy chủ. Suy luận được lưu trữ trên máy chủ vẫn xử lý ngữ cảnh liên quan theo thỏa thuận không lưu giữ.