API hội thoại NPC cho game

Hội thoại NPC cần gì, và bạn nhận được gì

Một nghìn cuộc nói chuyện tốn bao nhiêu

Với GLM, cùng một nghìn cuộc nói chuyện là khoảng $1.34 trước khi nó suy nghĩ ngắn, nhưng phần suy nghĩ đó đến trước mỗi câu, tốn thời gian mà NPC không có. Prompt persona ngắn thì rẻ dù thế nào; thứ làm tăng chi phí là bản mô tả lore dài trong mỗi lần gọi.

Một câu thoại, truyền trực tiếp

Chạy đoạn này trên máy chủ game, không phải trong client: khóa đặt trong game có thể bị lấy ra. Hiển thị từng phần khi nó đến, để bong bóng thoại đầy dần khi người chơi nhìn vào.

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://nokeep.ai/v1",
    api_key=os.environ["NOKEEP_API_KEY"],
)

persona = "You are Brannoc, the blacksmith of Hollowmere: gruff, superstitious, owes the thieves guild money. The player has the quest \"Missing ore\" and has not yet found the mine. Speak only as Brannoc, in one to three short sentences. Never mention game mechanics."

stream = client.chat.completions.create(
    model="deepseek-v4.1-flash-uncensored",
    messages=[
        {"role": "system", "content": persona},
        {"role": "user", "content": "Have you seen any ore carts come through town?"},
    ],
    stream=True,
    max_tokens=120,
    temperature=0.8,
)
for chunk in stream:
    if chunk.choices:
        print(chunk.choices[0].delta.content or "", end="", flush=True)

Một câu mà game có thể hành động theo

Khi câu trả lời của NPC phải thay đổi game, hãy yêu cầu JSON thay vì văn xuôi truyền trực tiếp: câu thoại để hiển thị, một tâm trạng cho hoạt ảnh, và một hành động cho mã của bạn. Hãy mô tả cấu trúc đó trong prompt luôn.

import json

reply = client.chat.completions.create(
    model="deepseek-v4.1-flash-uncensored",
    max_tokens=200,
    response_format={"type": "json_object"},
    messages=[
        {"role": "system", "content": persona + ' Answer as JSON: {"line": string, "mood": "calm" | "angry" | "afraid", "action": "none" | "give_map" | "attack"}.'},
        {"role": "user", "content": "Tell me where the mine is or I tell the guild you skipped town."},
    ],
)
npc = json.loads(reply.choices[0].message.content)
print(npc["line"], npc["mood"], npc["action"])

Nhiều người chơi cùng lúc

• Mỗi khóa được 120 yêu cầu mỗi phút, và một tài khoản có thể giữ 10 khóa. Khi gặp 429, header Retry-After cho biết nên chờ bao lâu. Giới hạn tốc độ.
• Mỗi môi trường có khóa riêng với giới hạn hằng ngày: một lỗi làm vòng lặp hội thoại chạy mãi sẽ dừng ở mức trần, không phải ở số dư của bạn. Khóa và giới hạn.
• Giữ persona ngắn và cố định. Persona khoảng 1,000 token trở lên, lặp lại từ lần gọi này sang lần khác, được đọc từ bộ nhớ đệm với giá chỉ bằng một phần.
• Viết sẵn một câu dự phòng cho khi lần gọi thất bại, để lúc bận không làm đứng cảnh. 503 busy không tốn gì.

Mô hình nào

Dùng deepseek-v4.1-flash-uncensored cho lời thoại: nó trả lời mà không suy nghĩ trước, nhận các tham số lấy mẫu và trả về JSON. glm-5.3-flash-uncensored rẻ hơn mỗi token ($0.20 vào, $0.65 ra mỗi triệu, so với $0.45 và $1.75) nhưng suy nghĩ ngắn trước mỗi câu trả lời, nên hợp với việc người chơi không phải chờ, như viết tin đồn trong thị trấn cho ngày mai. So sánh hai mô hình.

Chúng tôi giữ gì từ lời người chơi

Một dòng cho mỗi lần gọi: thời gian, khóa, mô hình, số token, tín dụng và trạng thái, giữ trong 30 ngày. Không bao giờ giữ điều người chơi gõ, không bao giờ giữ câu nói của NPC. Không có gì được thêm vào prompt persona của bạn. Chúng tôi giữ gì.