Agentes, contexto y costo

Volvemos a la pila. Ya vimos empresa y modelo. Ahora: agentes, contexto y costo. ¿Qué hace un agente que un chat no? ¿Por qué el modelo “olvida” todo? ¿Por qué las sesiones largas cuestan más?

La misma tarea, dos formas. Con un chat, ustedes llevan el código a Rhino, traen el error de vuelta, lo pegan otra vez: cuatro viajes, y el chat nunca toca Rhino. Es el consultor que responde y se va. Con un agente, piden una vez: el agente lee las capas, ejecuta, ve el error, corrige y termina. Es el asistente con su checklist. En un chat, tú eres el ciclo; en un agente, el ciclo es parte del programa. Lo que lo hace posible: herramientas, un ciclo y verificación.

Agente

Un modelo dentro de un programa que le da herramientas y un ciclo: decide un paso, lo ejecuta, lee el resultado y sigue hasta terminar la tarea.

Cuatro piezas y un cable. El modelo decide el siguiente paso, la herramienta actúa, el resultado vuelve y el modelo lo observa. Vuelta uno: pide la lista de capas. Vuelta dos: ejecuta el script y falla; el error también es información, vuelve al modelo. Vuelta tres: corrige, funciona, y como ya terminó, sale con la respuesta. Lo importante: el modelo nunca ejecuta nada, solo escribe texto pidiendo una herramienta. Quien la ejecuta es el arnés, el programa que lo envuelve. ¿Qué hay dentro del arnés? Eso sigue.

Herramienta (tool)

Una acción que el agente puede pedir: leer un archivo, ejecutar un script, consultar Rhino. El modelo la pide por escrito; el arnés la ejecuta.

Abrimos el arnés. Memoria: notas que sobreviven entre sesiones, como la bitácora del proyecto; el modelo no recuerda nada. Instrucciones: las reglas fijas de antes de cada tarea, el manual de estándares de la oficina. Workspace: la carpeta que le entregas; lo que no está ahí no existe para él. Herramientas: las acciones que puede pedir; el modelo las pide por escrito y el arnés las ejecuta. Skills: instrucciones empaquetadas; solo ve el título de cada una y abre la que necesita, como el índice de una carpeta de procedimientos. MCP: un enchufe estándar para conectar más herramientas, lo vemos en la Parte 3. La calidad de un agente depende tanto del arnés como del modelo: ChatGPT y Lattice pueden usar el mismo modelo, pero solo uno tiene herramientas que tocan tu archivo de Rhino.

Memoria

Notas que el arnés guarda y vuelve a leer entre sesiones. El modelo por sí mismo no recuerda nada.

Instrucciones del sistema

Reglas fijas que el agente recibe antes de cada tarea: su papel, su estilo y lo que nunca debe hacer.

Workspace (espacio de trabajo)

Los archivos y carpetas que un agente puede ver y cambiar.

Skill

Un paquete de instrucciones para un trabajo concreto. El agente solo ve su título y lo abre cuando la tarea lo necesita.

El modelo no recuerda nada entre mensajes. En cada vuelta, el arnés arma un paquete con todo: las instrucciones, la lista de herramientas, cada mensaje anterior, cada respuesta y cada resultado, y se lo manda completo. El modelo lo lee, escribe una respuesta y lo olvida. Es un colega con amnesia total que relee el expediente completo antes de cada frase. Por eso cada vuelta cuesta más que la anterior. Cuando el paquete ya no cabe en la ventana de contexto, el arnés resume o recorta lo viejo, y algo se pierde. Para ustedes: las sesiones largas cuestan más, el desorden empeora el resultado, y conviene abrir una sesión nueva para cada tarea, con instrucciones cortas, archivos en lugar de muros de texto y solo las herramientas necesarias. Tamaños y precio ilustrativos.

Escriban cualquier frase y vean cómo se parte en tokens. Es una aproximación: cada modelo tiene su propia forma de cortar el texto. El español suele usar más tokens por palabra que el inglés, así que el mismo trabajo cuesta un poco más. El código también son tokens: cada símbolo cuenta. Y entrada y salida se cobran por separado: lo que envían, incluido todo el contexto, es barato; lo que el modelo escribe, incluido su razonamiento, cuesta unas cinco veces más. Regla rápida: un token es unos tres cuartos de palabra en inglés, y mil tokens son más o menos una página.

Tokens de entrada y de salida

Entrada: todo lo que se envía al modelo, incluido el contexto. Salida: lo que el modelo escribe. La salida cuesta varias veces más por token.