Laplace Intelligence unterzieht Roboter und selbstfahrende Autos Red-Team-Tests, bevor sie in die reale Welt kommen. Das aus der Universität Michigan hervorgegangene Startup mit Sitz in Ann Arbor entwickelt automatisierte „Red-Teaming”-Tests für physische KI-Systeme, lässt sie gezielt scheitern und deckt ihre Schwachstellen auf, bevor sie in die reale Welt kommen. Ziel ist es, Schwächen frühzeitig zu finden. Das Unternehmen ist eines der 20 Startups, die am Startup Battlefield 200 auf der TechCrunch Disrupt teilnehmen, die vom 13. bis 15. Oktober in San Francisco stattfindet, und wird am Dienstagnachmittag, dem 13. Oktober, auf der Disrupt-Bühne präsentieren.
CEO und Mitgründer Howie Sun sagte, der Vorfall zwischen OpenAI und Hugging Face habe gezeigt, dass KI-Agenten unvorhersehbar sein können, und dass ein solches Scheitern in der physischen Welt unerwünscht sei. Er arbeitete acht Jahre in der Wissenschaft. Sun, der in dieser Zeit die KI des autonomen Fahrens in Simulationen auf die Probe stellte, veröffentlichte 2023 einen Artikel, den er gemeinsam mit seinem damaligen Doktorvater Henry Liu verfasst hatte; die Arbeit schaffte es auf das Cover der Zeitschrift Nature. Daraufhin stießen sie auf Interesse von Unternehmen für autonome Fahrzeuge. Das Duo gründete Laplace vor einem Jahr. Der Name des Unternehmens stammt aus dem Gedankenexperiment „Laplacescher Dämon” von Pierre-Simon Laplace aus dem Jahr 1814.
Im Kern von Laplace stehen eine hochpräzise Simulation, die aus der realen Welt nachgebaut wird, und ein KI-Agent, der kontinuierlich nach Schwächen sucht. Das System rekonstruiert die Wirklichkeit. Die Simulationsumgebung läuft als nachträglich trainierte Version von Nvidias Welt-Simulationsplattform Cosmos. Von einem Highway in Arizona bis zu einem Zebrastreifen in Paris lässt sich jede Umgebung nachbilden. Das System nutzt Google-Street-View-Aufnahmen als Referenz. Aus echten Kartendaten entstehen maßstabsgetreue Umgebungen. Entwickler können per Sprachbefehl Änderungen wie den Nachmittagsverkehr in Echtzeit vornehmen. Das Unternehmen bezieht Echtzeit-Verkehrsdaten von Navigationsanbietern wie TomTom. Auch die anderen Fahrzeuge reagieren. In einer Demo wich das andere Fahrzeug aus, als das Testfahrzeug auf die Gegenfahrbahn geriet, und vermied so den Zusammenstoß.
Den eigentlichen Unterschied machen Agenten, die schwierige und seltene Szenarien (Corner Cases) automatisch entwerfen. Diese Agenten nutzen Nachrichten und polizeiliche Unfallberichte. Sie stellen die Szenarien aus verschiedenen Quellen zusammen. Heute werden autonome Fahrzeuge mit solchen Szenarien getestet.
Warum das wichtig ist
Eine der schwierigsten Fragen für Teams, die autonome Fahrzeuge und Roboter entwickeln, ist zu wissen, wie das System auf seltene Unfallszenarien reagiert, ohne dies auf der realen Straße ausprobieren zu müssen; der Ansatz von Laplace versucht, diese Lücke zu schließen, indem aus Polizeiberichten und Nachrichten zusammengestellte Unfallszenarien automatisch in der Simulation erzeugt werden – das heißt, der Sicherheitstest bleibt nicht mehr auf die Vorstellungskraft des Menschen beschränkt, der den Test entwirft. Dass die Arbeit der Gründer es auf das Titelblatt von Nature geschafft hat, zeigt die akademische Grundlage der Technologie, während das Interesse von Unternehmen für autonome Fahrzeuge zeigt, dass sie einen kommerziellen Bedarf trifft. Der Verweis auf den Vorfall zwischen OpenAI und Hugging Face spiegelt die Besorgnis wider, dass sich das Risiko vervielfachen dürfte, wenn die Unvorhersehbarkeit von Software-Agenten auf physische Systeme übertragen wird. Die offene Frage ist, inwieweit die in der Simulation aufgedeckten Schwachstellen die Sicherheit unter realen Straßenbedingungen repräsentieren können.
Hintergrund
Intelligence ist im FikirPilot-Archiv kein neuer Name: In den letzten 90 Tagen haben wir 6 Meldungen veröffentlicht, in denen dieser Name vorkam; die jüngste stammt vom 6. Oktober 2026.
Begriff: Agent
Ein KI-Agent ist eine Software, die nicht nur eine einzelne Antwort erzeugt, sondern Werkzeuge aufruft und mehrstufige Aufgaben ausführt, um ein Ziel zu erreichen.