Una API de diálogo para NPC de juegos

Lo que necesita un diálogo de NPC y lo que obtienes

Lo que cuestan mil diálogos

En GLM, los mismos mil diálogos cuestan unos $1.34 antes de su razonamiento breve, pero ese razonamiento ocurre antes de cada frase, lo que cuesta tiempo que un NPC no puede permitirse. Las personalidades cortas son baratas de cualquier modo; lo que suma es una hoja de lore larga en cada llamada.

Una frase de diálogo, en streaming

Ejecútalo en tu servidor de juego, no en el cliente: una clave incluida dentro de un juego puede extraerse. Muestra cada fragmento a medida que llega, para que la burbuja de diálogo se llene mientras el jugador mira.

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://nokeep.ai/v1",
    api_key=os.environ["NOKEEP_API_KEY"],
)

persona = "You are Brannoc, the blacksmith of Hollowmere: gruff, superstitious, owes the thieves guild money. The player has the quest \"Missing ore\" and has not yet found the mine. Speak only as Brannoc, in one to three short sentences. Never mention game mechanics."

stream = client.chat.completions.create(
    model="deepseek-v4.1-flash-uncensored",
    messages=[
        {"role": "system", "content": persona},
        {"role": "user", "content": "Have you seen any ore carts come through town?"},
    ],
    stream=True,
    max_tokens=120,
    temperature=0.8,
)
for chunk in stream:
    if chunk.choices:
        print(chunk.choices[0].delta.content or "", end="", flush=True)

Una frase que tu juego puede usar

Cuando la respuesta del NPC debe cambiar el juego, pide JSON en lugar de prosa en streaming: la frase a mostrar, un estado de ánimo para la animación y una acción para tu código. Describe también esa forma en el prompt.

import json

reply = client.chat.completions.create(
    model="deepseek-v4.1-flash-uncensored",
    max_tokens=200,
    response_format={"type": "json_object"},
    messages=[
        {"role": "system", "content": persona + ' Answer as JSON: {"line": string, "mood": "calm" | "angry" | "afraid", "action": "none" | "give_map" | "attack"}.'},
        {"role": "user", "content": "Tell me where the mine is or I tell the guild you skipped town."},
    ],
)
npc = json.loads(reply.choices[0].message.content)
print(npc["line"], npc["mood"], npc["action"])

Muchos jugadores a la vez

• Cada clave admite 120 solicitudes por minuto, y una cuenta puede tener 10 claves. Después de un 429, el encabezado Retry-After indica cuánto esperar. Límites de frecuencia.
• Da a cada entorno su propia clave con tope diario: un error que haga un bucle en los diálogos se detiene en el tope, no en tu saldo. Claves y topes.
• Mantén las personalidades cortas y fijas. Una personalidad de unos 1,000 tokens o más que se repite de una llamada a otra se lee de la caché a una fracción del precio.
• Escribe una frase de respaldo para cuando una llamada falle, para que un momento de carga nunca congele una escena. Un 503 busy no cuesta nada.

Qué modelo usar

Usa deepseek-v4.1-flash-uncensored para las frases habladas: responde sin razonar primero, acepta los muestreadores y devuelve JSON. glm-5.3-flash-uncensored es más barato por token ($0.20 de entrada y $0.65 de salida por millón, frente a $0.45 y $1.75), pero razona brevemente antes de cada respuesta, así que sirve para trabajo por el que el jugador no está esperando, como escribir los chismes del pueblo de mañana. Compáralos.

Lo que guardamos de las palabras de los jugadores

Una fila por llamada: la hora, la clave, el modelo, los conteos de tokens, los créditos y el estado, guardada 30 días. Nunca lo que escribió el jugador, nunca la frase del NPC. No se añade nada a tu prompt de personalidad. Lo que guardamos.