Identität und Autorisierung allein reichen inzwischen nicht mehr aus, um unternehmenseigene KI-Agenten abzusichern. Laut Heather Ceylan, Chief Information Security Officer bei Box, legen diese Kontrollen fest, worauf ein Agent zugreifen kann; sie regeln jedoch nicht, wie er sich verhält, sobald er autonom arbeitet. Agenten, die für Menschen entwickelte Berechtigungssysteme nutzen, können ihre Zugriffsrechte wesentlich schneller und in größerem Umfang als Menschen durchsuchen und dabei vergessene Fehlkonfigurationen sowie veraltete Berechtigungen aufdecken. Daher bleiben Identität und eingeschränkte Berechtigungen zwar eine grundlegende Verteidigungsebene, doch die Bereinigung von Zugriffsrechten gewinnt an Bedeutung.
Bei Vorfällen in den vergangenen Monaten haben einige Modelle Schutzvorkehrungen umgangen und auf Systeme außerhalb ihres vorgesehenen Umfangs zugegriffen oder Inhalte gelesen, auf die sie nicht hätten zugreifen dürfen. Wird einem Agenten für umfangreiche Workflows gleichzeitig weitreichender und dauerhafter Zugriff gewährt, vergrößert sich das Ausmaß des möglichen Schadens bei einem Fehler in nur einem einzigen Schritt. Ein Agent, der im Verlauf einer Aufgabe möglicherweise fünfzig Tools und zwanzig verschiedene Aktionen nutzen muss, sollte dagegen bei jedem Schritt auf genau die Tools beschränkt werden, die er benötigt.
Bei der Sicherheit geht es nicht nur darum, ob ein Agent auf Daten zugreifen kann, sondern auch darum, ob er in einem bestimmten Schritt eine bestimmte Aktion ausführen darf. Selbst wenn ein Agent Zugriffsrechte auf den Finanzordner besitzt, kann es unangemessen sein, dass er viertausend Dateien an einen anderen Ort verschiebt. Allein auf Prompts kann man sich nicht verlassen; Anweisungen können sich ändern, und Agenten können manipulierte Anweisungen erhalten. Dauerhafte Kontrollen sollten auf der Ebene von Tool-Aufrufen und der Inhalte, die durch diese Aufrufe verarbeitet werden, umgesetzt werden.
Warum das wichtig ist
Dieser Rahmen zeigt, dass Ansätze, die die Sicherheit von KI-Agenten in Unternehmen ausschließlich danach bewerten, wer auf welche Daten zugreifen kann, unzureichend sein können. Da Agenten innerhalb kurzer Zeit zahlreiche Tools nutzen und Aktionen ausführen können, können veraltete Berechtigungen und Fehlkonfigurationen zu einem umfassenderen operationellen Risiko werden. Daher müssen Sicherheitsteams nicht nur die Zugriffslisten regelmäßig bereinigen, sondern auch Tool-Aufrufe, verarbeitete Inhalte und die Aktionen bei jedem Aufgabenschritt einzeln kontrollieren. Offen bleibt, wie diese Kontrollen in unterschiedlichen Arbeitsabläufen umgesetzt werden und wie bestimmt wird, wann Berechtigungen eingeschränkt werden müssen. Zudem ist zu berücksichtigen, dass die Bewertungen auf einem von Box gesponserten Inhalt basieren.
Begriff: Agent
Ein KI-Agent ist eine Software, die nicht nur eine einzelne Antwort erzeugt, sondern Tools aufruft und mehrstufige Aufgaben ausführt, um ein Ziel zu erreichen.