Agentes empresariales: autonomía con supervisión

1. Una tarea, un objetivo

Define exactamente qué debe lograr el agente y qué queda fuera de su alcance. Un asistente de consultas internas necesita límites diferentes a un agente que modifica pedidos.

2. Conocimiento y herramientas

Distingue las fuentes que puede consultar de las acciones que puede ejecutar. RAG permite recuperar información de fuentes propias; una API conecta sistemas; MCP facilita conectar agentes con herramientas compatibles.

3. Permisos mínimos

Limita el acceso a los datos y acciones necesarios. Las operaciones sensibles deben requerir autorización y quedar registradas. Diseña qué hacer si faltan datos o una herramienta falla.

4. Escalamiento a una persona

Define cuándo detenerse: información contradictoria, solicitudes fuera de alcance o una decisión con consecuencias relevantes. La derivación humana forma parte del diseño.

5. Pruebas antes de operar

Evalúa casos habituales, excepciones y solicitudes maliciosas. Revisa exactitud, permisos y trazabilidad antes de ampliar el alcance del agente.