Agentes empresariales: autonomía con supervisión

1. Una tarea, un objetivo

Defina exactamente qué debe lograr el agente y qué queda fuera de su alcance. Un asistente de consultas internas necesita límites diferentes a un agente que modifica pedidos.

2. Conocimiento y herramientas

Distinga las fuentes que puede consultar de las acciones que puede ejecutar. RAG permite recuperar información de fuentes propias; una API conecta sistemas; MCP facilita conectar agentes con herramientas compatibles.

3. Permisos mínimos

Limite el acceso a los datos y acciones necesarios. Las operaciones sensibles deben requerir autorización y quedar registradas. Diseñe qué hacer si faltan datos o una herramienta falla.

4. Escalamiento a una persona

Defina cuándo detenerse: información contradictoria, solicitudes fuera de alcance o una decisión con consecuencias relevantes. La derivación humana forma parte del diseño.

5. Pruebas antes de operar

Evalúe casos habituales, excepciones y solicitudes maliciosas. Revise exactitud, permisos y trazabilidad antes de ampliar el alcance del agente.