Mit dem zunehmenden Zugriff von KI-Agenten auf Unternehmenssysteme und das Internet entsteht eine neue Softwarelieferkette aus den von diesen Agenten genutzten Fähigkeiten, Plug-ins, MCP-Servern und anderen Werkzeugen. Das Cybersicherheits-Start-up AIR, das von den ehemaligen Angehörigen der israelischen Nachrichtendiensteinheit Unit 8200 Yair Saban und Niv Hoffman gegründet wurde, trat aus dem Verborgenen hervor und sammelte in zwei Seed-Finanzierungsrunden insgesamt $50 Millionen ein. Die erste Runde über $10 Millionen wurde von Sequoia angeführt, die zweite über $40 Millionen von Greenoaks. An den Runden beteiligten sich außerdem Swish, Netz, Zach Frankel, Yinon Costica, Ofir Ehrlich, Anne Neuberger, Omer Adam, Varun Anand und weitere Angel-Investoren.
Die Plattform von AIR identifiziert unternehmensinterne Agenten und überprüft fortlaufend die von ihnen verwendeten Fähigkeiten, Werkzeuge und Komponenten; Interaktionen mit Software oder externen Ressourcen, die die Sicherheitskriterien nicht erfüllen, werden blockiert. Das System stellt außerdem fest, ob Beschäftigte KI-Werkzeuge oder persönliche Konten verwenden, die nicht von den IT-Abteilungen genehmigt wurden. Es verfügt über eine Durchsetzungsebene, die Vorgänge wie die Installation von Plug-ins durch Agenten oder das Abrufen von Inhalten aus dem Internet analysiert. Das Unternehmen gleicht die Werkzeuge und die Software, die Agenten nutzen wollen, mit seiner eigenen Positivliste ab und bewertet im Internet verfügbare Fähigkeiten und Plug-ins erneut auf Veränderungen und bösartiges Verhalten. AIR gibt an, rund 27 % der online gefundenen Plug-ins und Fähigkeiten herauszufiltern.
Saban zufolge könnte die autonomere Arbeit der Agenten in Datenbanken und Unternehmenssystemen Angreifern ermöglichen, nicht den Agenten direkt anzugreifen, sondern die von ihm konsumierten Inhalte zu vergiften. AIR hat mehr als 20 Kunden, und etwa ein Viertel davon sind Großunternehmen. Die stärkste Nachfrage kommt aus stark regulierten Branchen, insbesondere von Finanzdienstleistern und Pharmaunternehmen.
Auch Noma Security, Zenity, Astrix Security und Operant AI bieten ähnliche Produkte auf dem Markt an. Zenity erhielt im August eine Series-C-Finanzierung in Höhe von $125 Millionen, Noma im vergangenen Jahr eine Series-B-Finanzierung in Höhe von $100 Millionen. Saban zufolge liegt der Unterschied von AIR in seiner Fähigkeit zur kontinuierlichen erneuten Validierung. Das Unternehmen beschäftigt rund 40 Mitarbeiter; das neue Kapital soll für die Einstellung von Forschern und die Markterschließung in den USA und Europa verwendet werden.
Warum wichtig
Dass KI-Agenten innerhalb von Unternehmen unabhängiger handeln, erweitert die Sicherheitsgrenzen über das Modell selbst hinaus auf die von ihm verwendeten Plug-ins, Fähigkeiten und externen Quellen. Daher geht es insbesondere in regulierten Branchen wie Finanzdienstleistungen und Pharmaunternehmen unmittelbar darum, wie der Einsatz nicht genehmigter Werkzeuge durch Beschäftigte und die Inhalte, die Agenten aus dem Internet beziehen, kontrolliert werden sollen. Die Angabe von AIR, etwa 27 % der online verfügbaren Komponenten zu filtern, deutet darauf hin, dass Sicherheitsbewertungen in diesem Ökosystem kontinuierlich durchgeführt werden müssen. Unklar bleibt jedoch, in welchem Umfang sich der Ansatz des Unternehmens von dem seiner Wettbewerber unterscheidet und wie sich die vorgenommenen Blockierungen auf den täglichen Arbeitsablauf von Unternehmen auswirken werden. Dieser Bereich entwickelt sich für Unternehmen mit zunehmenden Zugriffsberechtigungen der Agenten zu einem neuen Schwerpunkt der Lieferkettenkontrolle.
Begriff: Agent
Ein KI-Agent ist eine Software, die statt nur eine einzelne Antwort zu erzeugen, Tools aufruft und mehrstufige Aufgaben ausführt, um ein Ziel zu erreichen.