Autonomy
How far a system acts without human involvement — a dial, not a switch.
La autonomía va desde sugerir, a actuar con aprobación, a actuar e informar, a actuar en silencio. Es la decisión de diseño más importante en un producto con agentes, porque define quién responde cuando algo sale mal. La definición de sistema de IA del EU AI Act gira explícitamente en torno a operar con distintos niveles de autonomía.
En la práctica: Redactar la respuesta (baja) frente a enviar la respuesta (alta) — el mismo modelo, un riesgo muy distinto.