Cuanto más capaces sean la IA y los agentes, más importante será separar lo que un sistema puede hacer de aquello para lo que está autorizado.
La capacidad es una propiedad técnica
Un modelo puede resumir un contrato, un agente puede llamar a una API y un sistema de seguridad puede desactivar una cuenta. Ninguna de esas capacidades responde automáticamente a si la acción es legítima, proporcionada o autorizada en el contexto concreto.
La autoridad es una propiedad de gobernanza
La autoridad procede de personas, roles, reglas, mandatos y aprobaciones trazables. Depende del contexto. Por eso LHINOS separa Capability Check de Authority Check.
El Human Gate no es un botón decorativo
Cuando existen efectos externos relevantes, Human Approval debe ser más que un elemento de UX. La decisión tiene que prepararse de forma comprensible: ¿qué sabemos?, ¿qué inferimos?, ¿qué opciones existen?, ¿qué consecuencias son reversibles?, ¿quién está autorizado para aprobar?
Por qué importa para los agentes
A medida que crece la capacidad de los agentes, el riesgo se desplaza de respuestas incorrectas a acciones incorrectas. La gobernanza debe evaluar no solo contenido, sino también cadenas de acción, permisos y aprobaciones.
Human Sovereignty como constante
Intelligence may grow. Human sovereignty remains constant. Esto no significa bloquear toda automatización. Significa definir expresamente sus límites y no delegar silenciosamente la responsabilidad en la capacidad técnica.
Intelligence may grow. Human sovereignty remains constant.
