Auf der TechCrunch Disrupt 2026 werden Führungskräfte von Shield AI, Waabi und General Motors darüber diskutieren, wann AI-Systeme, die Aufgaben in der physischen Welt erfüllen, bereit für einen sicheren Einsatz sind. In der Sitzung mit dem Titel „AI-Systeme entwickeln, wenn Scheitern keine Option ist“ geht es um Sicherheitskultur, Test- und Validierungsprozesse, regulatorische Hürden und das Vertrauen der Nutzer.
Nathan Michael, Chief Technology Officer von Shield AI, leitet die Entwicklung der plattformunabhängigen Missionsautonomiesoftware Hivemind des Unternehmens. Hivemind wurde im Februar als Anbieter der Autonomiefunktionen für das Collaborative Combat Aircraft drone prototype program der U.S. Air Force ausgewählt. Shield AI gab im März bekannt, eine Series-G-Investition in Höhe von 1,5 Milliarden US-Dollar erhalten zu haben und eine Post-Money-Bewertung von 12,7 Milliarden US-Dollar erreicht zu haben.
Raquel Urtasun, Gründerin und CEO von Waabi, arbeitet seit 25 Jahren an künstlicher Intelligenz und autonomen Fahrzeugen. Das Unternehmen erhielt im Januar eine Investition in Höhe von 1 Milliarde US-Dollar und gab eine Partnerschaft mit Uber bekannt, die auf den Einsatz von 25.000 oder mehr Robotaxis mit Unterstützung durch Waabi Driver abzielt. Tests und Validierung nehmen in Waabis Ansatz einen wichtigen Stellenwert ein. Der Waabi-World-Simulator wird eingesetzt, um Waabi Driver in einer virtuellen Umgebung zu trainieren, zu testen und Belastungsproben zu unterziehen. Urtasun erklärt, dass die autonomen Lastwagen des Unternehmens vollständig validiert werden müssen, bevor sie fahrerlos eingesetzt werden.
General Motors Director of Robotics Strategy Mikell Taylor leitet die Robotikstrategie im Autonomous Robotics Center des Unternehmens. Taylor, der zuvor den Bereich des Amazon-Robotics-Teams leitete, der Amazons ersten autonomen mobilen Roboter Proteus entwickelte, arbeitete außerdem an autonomen Unterwasserfahrzeugen und industriellen Robotiksystemen. Es wird erwartet, dass seine Erfahrung verdeutlicht, dass die Fähigkeit von Robotern zur Zusammenarbeit mit Menschen sowie die Nutzererfahrung und die Akzeptanz von Beginn der Produktentwicklung und Einsatzplanung an berücksichtigt werden müssen.
Die Veranstaltung findet vom 13. bis 15. Oktober im Moscone West in San Francisco statt. Das Programm umfasst 200+ Programmpunkte auf sechs Branchenbühnen sowie in Diskussionsrunden und Arbeitssitzungen; erwartet werden 250+ Redner, 300+ ausstellende Startups und mehr als 10.000 Teilnehmer. Bis zum 25. September um 11:59 p.m. PT gelten Preisnachlässe von bis zu 200 US-Dollar auf Tickets sowie 50 % Rabatt auf ein zweites Ticket bei ausgewählten Ticketarten.
Warum das wichtig ist
Die Sitzung rückt die Frage in den Mittelpunkt, dass AI, die in der physischen Welt Entscheidungen trifft, nicht allein anhand ihrer technischen Leistung bewertet werden kann und dass Sicherheit im Fehlerfall, Validierung und die Akzeptanz des Systems durch die Nutzer gemeinsam betrachtet werden müssen. Dass unterschiedliche Bereiche wie militärische Autonomie, fahrerloser Transport und mit Menschen zusammenarbeitende Roboter in derselben Diskussion zusammenkommen, zeigt, dass die Risiken je nach Anwendungskontext variieren. Daher betrifft das Thema neben den Unternehmen, die diese Systeme entwickeln, auch Regulierungsbehörden, Beschäftigte und Nutzer, die in ihrem Alltag autonomen Fahrzeugen begegnen werden. Die zentrale offene Frage lautet, wie das durch Simulationen und Tests gewonnene Vertrauen unter den komplexen Bedingungen der realen Welt bestätigt werden kann und inwieweit regulatorische Rahmenbedingungen diesen Prozessen gerecht werden.
Hintergrund
Disrupt ist im FikirPilot-Archiv kein neuer Name: In den vergangenen 90 Tagen haben wir 13 Nachrichten veröffentlicht, in denen dieser Name erwähnt wurde; die jüngste stammt vom 24. September 2026.