Das auf die Sicherheit künstlicher Intelligenz spezialisierte Unternehmen HiddenLayer hat eine Series-B-Finanzierungsrunde in Höhe von 100 Millionen Dollar abgeschlossen, da die Bemühungen von Unternehmen zur Absicherung ihrer AI-Systeme an Fahrt gewinnen. Die von Delta-v Capital angeführte Runde wurde von Ten Eleven Ventures, Morgan Stanley, Microsofts M12-Fonds und Booz Allen Hamilton mitgetragen.
Chris Sestito, Mitgründer und CEO von HiddenLayer, erklärte, dass sich der jährlich wiederkehrende Umsatz des Unternehmens im vergangenen Jahr um mehr als das 10-Fache erhöht habe. Sestito nannte keine genaue Zahl, sagte jedoch, der Umsatz liege inzwischen im Bereich von „zig Millionen“ Dollar und mehr als 90 % des Wachstums stammten von Neukunden, die im vergangenen Jahr gewonnen wurden. Zu den wichtigsten Kunden des Unternehmens gehören Finanzinstitute und große Technologieunternehmen, die AI-Produkte entwickeln. HiddenLayer verfügt außerdem über Verträge mit dem Verteidigungsministerium und der Nachrichtendienstgemeinschaft; einer der Kunden ist ein „führender Anbieter von Frontier-Modellen“ mit mehr als 700 Millionen Nutzern pro Woche.
Gartner schätzt, dass Unternehmen in diesem Jahr 2.83 Milliarden Dollar für Produkte zur Absicherung von AI-Tools ausgeben werden, was einem Anstieg von 83 % gegenüber 2025 entspricht. Im kommenden Jahr dürften sich die Ausgaben auf etwa 4.78 Milliarden Dollar belaufen.
Das in Austin ansässige Unternehmen HiddenLayer entwickelt Produkte, die AI-Modelle, Agenten und Workflows vor Angriffen, Schwachstellen und Injektionen von Schadcode schützen. Während das Unternehmen 2023 seine Produkte schützte, erweiterte es den Umfang auf Prompt-Injection, Agentenmanipulation und die bösartige Nutzung von Tools. Die Produkte konzentrieren sich auf Erkennung, Laufzeitschutz, Angriffssimulation und Lieferkettensicherheit. Sestito erklärte, dass die Laufzeitsicherheit mit der zunehmenden Verbreitung von AI-Implementierungen zu einer Priorität geworden sei und AI-spezifischer Endpunkterkennung und -reaktion, also EDR-Lösungen, ähnele.
HiddenLayer scannt außerdem etwa 50 verschiedene AI-Dateiframeworks, um Risiken in Open-Source- und Open-Weight-Modellen zu untersuchen. Das Unternehmen will Bedrohungen erkennen, etwa wenn ein Modell sich als etwas anderes ausgibt oder andere Modelle verbirgt.
Die neue Finanzierung soll neben Engineering und Forschung auch für den Ausbau von Vertrieb und Distribution sowie für die Expansion nach Europa und EMEA verwendet werden. HiddenLayer räumt ein, dass Unternehmen wie Microsoft, OpenAI und AWS einige ihrer AI-Sicherheitsfunktionen in ihre Plattformen integrieren könnten; das Unternehmen geht jedoch davon aus, dass sich die AI-Infrastruktur stärker auf Governance-Funktionen wie Erkennung, Identitäts- und Richtlinienkontrollen konzentrieren wird.
Warum das wichtig ist
Die Investition zeigt, dass die zunehmende Nutzung von AI nicht nur die Entwicklung von Modellen, sondern auch deren Überwachung und Schutz während des Betriebs erforderlich macht. Dass unterschiedliche Kundengruppen wie Finanzinstitute, große Technologieunternehmen und öffentliche Einrichtungen mit denselben Sicherheitsproblemen konfrontiert sind, erklärt, warum sich die Produkte auf einen größeren Bereich vom Modell über den Agenten bis hin zum Workflow ausrichten. Die für Open-Source- und Open-Weight-Modelle durchgeführten Scans weisen zudem darauf hin, dass Risiken nicht nur durch externe Angriffe entstehen können, sondern auch durch die Vertrauenswürdigkeit der Modelldateien und der Lieferkette. Gleichzeitig lässt die Integration von Sicherheitsfunktionen in die eigenen Plattformen durch große Technologieunternehmen die Frage offen, wie sich HiddenLayer in den Bereichen Governance und Laufzeitschutz differenzieren wird.
Begriff: Agent
Ein AI-Agent ist eine Software, die Tools aufruft und mehrstufige Aufgaben ausführt, um ein Ziel zu erreichen, anstatt nur eine einzelne Antwort zu erzeugen.