Drei junge Menschen, die auf den Mount Shasta in California stiegen, nutzten bei der Planung den KI-Chatbot Gemini von Google. Die Gruppe begann ihren Aufstieg um 03.00 Uhr, erreichte den Gipfel jedoch erst um 19.00 Uhr und bat um Hilfe, nachdem sie beim Abstieg in der Dunkelheit die Orientierung verloren hatte. Die Bergsteiger verbrachten die Nacht im Mud Creek Canyon und wurden am nächsten Morgen von Einsatzkräften des Forest Service und Freiwilligen gerettet. Das Sheriffbüro von Siskiyou County erklärte, die Gruppe habe nicht ausreichend Nahrung und Wasser mitgeführt, da der Aufstieg, der eigentlich etwa 8 Stunden dauern sollte, mehrere Tage in Anspruch nahm. Die Behörden riefen dazu auf, sich bei der Ausarbeitung von Ausflugsplänen nicht ausschließlich auf KI zu verlassen und aktuelle Informationen bei der örtlichen Rangerstation einzuholen.
Warum das wichtig ist
Der Vorfall macht konkret deutlich, dass KI-gestützte Ausflugsplanung bei Aktivitäten in der Natur keinen eigenständigen Sicherheitsplan ersetzen kann. Der Unterschied zwischen der prognostizierten Dauer von acht Stunden und einem Verlauf, der sich über mehrere Tage erstreckte, zeigt, dass eine Fehleinschätzung der benötigten Zeit auch andere Vorbereitungen wie die Planung von Nahrung, Wasser und der Rückkehrzeit unmittelbar beeinflussen kann. Dies betrifft nicht nur Bergsteiger, sondern auch Menschen, die bei der Reiseplanung Chatbots nutzen, sowie lokale Rettungseinheiten, die auf Hilferufe reagieren. Der Hinweis der Behörden auf die Rangerstation rückt den Unterschied zwischen den Informationen des Chatbots und lokalen Quellen in den Vordergrund, die über die aktuellen Bedingungen vor Ort Bescheid wissen. Da nicht bekannt ist, welche Angaben zu Route, Dauer und Sicherheit Gemini der Gruppe gemacht hat, bleibt jedoch unklar, ob das Problem auf die Antwort des Tools oder auf die Art und Weise zurückzuführen ist, wie diese Antwort umgesetzt wurde.
Hintergrund
Gemini ist im FikirPilot-Archiv kein neuer Name: In den vergangenen 90 Tagen haben wir 8 Nachrichten veröffentlicht, in denen dieser Name vorkam; die jüngste davon datiert vom 5. September 2026.