Je leistungsfähiger KI und Agenten werden, desto wichtiger wird die Trennung zwischen dem, was ein System kann, und dem, wozu es legitimiert ist.
Fähigkeit ist eine technische Eigenschaft
Ein Modell kann einen Vertrag zusammenfassen, ein Agent kann eine API ansprechen, ein Security-System kann einen Account sperren. Keine dieser Fähigkeiten beantwortet automatisch die Frage, ob die Handlung im konkreten Kontext legitim, verhältnismäßig oder überhaupt autorisiert ist.
Authority ist eine Governance-Eigenschaft
Autorität entsteht durch Menschen, Rollen, Regeln, Mandate und nachvollziehbare Freigaben. Sie ist kontextabhängig. In LHINOS wird deshalb zwischen Capability Check und Authority Check unterschieden.
Der Human Gate ist kein dekorativer Button
Bei relevanten externen Wirkungen muss Human Approval mehr sein als ein UX-Element. Die Entscheidung muss verständlich vorbereitet werden: Was wissen wir? Was vermuten wir? Welche Optionen gibt es? Welche Folgen sind reversibel? Wer darf freigeben?
Warum das für Agenten wichtig wird
Mit wachsender Agentenfähigkeit verschiebt sich das Risiko von falschen Antworten zu falschen Handlungen. Ein Governance-System muss deshalb nicht nur Inhalte bewerten, sondern auch Handlungsketten, Berechtigungen und Freigaben kontrollieren.
Human Sovereignty als konstante Größe
Intelligence may grow. Human sovereignty remains constant. Das bedeutet nicht, jede Automation zu blockieren. Es bedeutet, Automationsgrenzen ausdrücklich zu definieren — und Verantwortung nicht stillschweigend an technische Fähigkeit zu delegieren.
Intelligence may grow. Human sovereignty remains constant.
