Drei Wanderer vertrauten auf Gemini und mussten gerettet werden

Der Vorfall auf dem Mount Shasta liest sich wie eine dramatische Wendung in einem Survival-Film. Drei junge Männer entschlossen sich zu einer Wanderung auf den 4.322 Meter hohen Vulkan in Kalifornien. Doch statt der geplanten achtstündigen Tour wurde der Aufstieg zum mehrtägigen Überlebensdrama.

Was passiert war? Die Gruppe hatte ihre Tour mit Googles KI-Chatbot Gemini geplant und die Ratschläge des Systems befolgt. Laut dem Sheriffsbüro von Siskiyou County riet Gemini den Wanderern, deutlich weniger Nahrung und Wasser mitzunehmen, als ihre Gruppe tatsächlich benötigte.

Die Wanderer begannen ihren Aufstieg um 3 Uhr morgens. Für erfahrene Bergsteiger ist das ein durchaus üblicher Startpunkt, um den Gipfel bei Tageslicht zu erreichen. Doch auf dem Mount Shasta traf die Gruppe auf Bedingungen, die ihre Planung schnell zunichtemachten.

Erst um 19 Uhr erreichten sie den Gipfel, 16 Stunden nach dem Start statt der kalkulierten acht. Zu diesem Zeitpunkt war die Situation bereits kritisch. Wanderern wird auf dem Mount Shasta dringend empfohlen, spätestens um mittags umzukehren, wenn sie den Gipfel nicht rechtzeitig erreicht haben. Die Gruppe hatte diesen Zeitpunkt längst verpasst.

🟨 DER ABSTIEG WIRD ZUR NACHTFAHRT

Der Abstieg im Dunkeln gestaltete sich schwieriger als erwartet. Die Gruppe verlor die Orientierung und befand sich in einer Lage, die ohne fremde Hilfe gefährlich werden konnte. Die Wanderer setzten einen Notruf beim Sheriffsbüro ab und schilderten ihre Situation.

Was folgte, war eine weitere Nacht im Freien, diesmal im Mud Creek Canyon. Ohne ausreichend Nahrung und Wasser, bei Temperaturen, die in der Nacht in höheren Lagen deutlich fallen können. Erst am nächsten Morgen konnten Ranger der Waldbehörde und freiwillige Helfer die Gruppe aus ihrer misslichen Lage befreien. Einer der Wanderer hatte sich in der Nacht bei einem Sturz eine Knieverletzung zugezogen und wurde am Morgen von den Rangern medizinisch versorgt.

Das Sheriffsbüro macht in seiner Stellungnahme klar, wo es das Hauptproblem sieht. Gemini habe die Wanderer beraten und dabei falsche Angaben gemacht, konkret bei der Menge an Nahrung und Wasser, die für die geplante Tour nötig gewesen wäre. Eine Fehleinschätzung, die im schlimmsten Fall lebensbedrohlich hätte enden können.

Der Mount Shasta ist kein einfacher Wanderweg. Er verlangt Erfahrung, passende Ausrüstung und eine realistische Einschätzung der eigenen Fähigkeiten. Ein KI-Chatbot kennt diese Anforderungen nur aus Texten im Internet, nicht aus tatsächlicher Erfahrung im Gelände.

🟨 WAS GEMINI HIER NICHT KONNTE

Gemini ist ein Konversations-KI, entwickelt für Dialoge, Textverständnis und das Zusammenfassen von Informationen. Das System kann auf Fragen antworten, Informationen aus verschiedenen Quellen kombinieren und scheinbar plausibel klingende Empfehlungen formulieren. Für eine Wanderung auf einen hohen Berg reicht das nicht. Chatbots wie Gemini haben keine eigene Wahrnehmung der Umwelt, kein Gespür für Wetterbedingungen, keine Erfahrung mit dem Gelände und keine Möglichkeit, die Zuverlässigkeit ihrer Aussagen für den konkreten Einzelfall zu prüfen.

Das Problem ist nicht nur, dass KI halluzinieren kann, also falsche Informationen mit hoher Sicherheit präsentiert. Es ist auch, dass die Gewichtung von Informationen oft nicht dem entspricht, was in einer realen Situation wichtig wäre. Für eine Wanderberatung müsste ein System nicht nur die theoretische Länge eines Weges kennen, sondern auch Steilheit, aktuelle Witterungsbedingungen, die Kondition der Wanderer und die Ausrüstung, die tatsächlich vorhanden ist. Ein Chatbot weiß nicht, ob ein Wanderer erfahren ist oder zum ersten Mal auf einem Berg steht.

Zur konkreten Beratungsqualität von Gemini in diesem Fall liegen keine unabhängigen Messungen vor. Es gibt keine offizielle Analyse von Google, die zeigt, was das System den Wanderern genau empfohlen hat. Fest steht nur: Das Sheriffsbüro macht das KI-System für die Fehleinschätzung verantwortlich, und die Wanderer folgten den Ratschlägen, die sie von Gemini erhalten hatten.

Ob das System falsche Zahlen lieferte, Sicherheitsmargen unterschlug oder den Schwierigkeitsgrad verharmloste, geht aus den verfügbaren Berichten nicht im Detail hervor.

🟨 WARUM DIESER FALL ÜBER DAS EINZELSCHICKSAL HINAUSREICHT

Drei Wanderer mussten gerettet werden, weil sie einem KI-Chatbot vertrauten. Das ist die nüchterne Tatsache. Doch der Vorfall wirft ein Schlaglicht auf einen größeren Trend. Immer mehr Menschen nutzen KI-Assistenten für Entscheidungen, die früher erfahrenen Menschen oder spezialisierten Diensten überlassen wurden.

Gesundheitsfragen, Finanzanlagen, Reiserouten, rechtliche Fragen: Die Bandbreite ist groß, und die Hemmschwelle, einen Chatbot zu fragen, ist niedriger als die, einen Experten zu konsultieren. Das Problem dabei: KI-Systeme haben keine Haftung für ihre Empfehlungen. Wenn ein Arzt falsch berät, gibt es Konsequenzen. Wenn ein Chatbot einen falschen Tipp gibt, steht der Nutzer allein da.

Studien zeigen, dass viele Nutzer die Grenzen von Chatbots nicht realistisch einschätzen. Die Systeme klingen selbstbewusst, sind grammatikalisch einwandfrei und liefern Antworten in Sekunden. Das erzeugt einen Eindruck von Kompetenz, der nicht immer der Realität entspricht.

Bei sicherheitsrelevanten Fragen, und eine Bergwanderung gehört definitiv dazu, ist das besonders problematisch. Die Konsequenzen einer Fehleinschätzung trägt nicht der Chatbot, sondern der Mensch, der ihm vertraut hat.

Im Fall des Mount Shasta kam noch ein weiterer Faktor hinzu. Die Wanderer verbrachten eine Nacht im Freien und wurden am nächsten Morgen von Rangern und Freiwilligen gerettet. Solche Rettungseinsätze binden Ressourcen, die an anderer Stelle fehlen können.

In den USA sind Bergrettungseinsätze häufig ehrenamtlich organisiert oder werden von unterfinanzierten Behörden getragen. Die Frage, ob eine vermeidbare Fehlentscheidung, getroffen auf Basis einer KI-Empfehlung, solche Einsätze rechtfertigt, ist berechtigt, auch wenn sie moralisch komplex ist.

🟨 WIE MIT KI-TOOLS UMGEHEN, DIE NICHT FÜR SOLCHE FÄLLE ENTWICKELT WURDEN

KI-Tools können nützlich sein, keine Frage. Sie können Informationen zusammenfassen, die Recherche beschleunigen und als Ausgangspunkt für eigene Überlegungen dienen. Doch sie ersetzen kein Urteilsvermögen und keine Erfahrung. Für spezialisierte Aufgaben gibt es spezialisierte Werkzeuge.

Wer eine Bergwanderung plant, greift idealerweise auf etablierte Routenführer, lokale Informationen und erfahrene Bergsteiger zurück. Eine KI, die grundsätzlich jede Frage beantworten kann, ist dafür nicht der richtige Ansatz.

Das bedeutet nicht, dass KI generell abzulehnen ist. Es bedeutet nur, dass die Werkzeuge ihren Fähigkeiten entsprechend eingesetzt werden sollten. Ein Chatbot kann vielleicht die ungefähre Länge eines Weges nennen, aber nicht einschätzen, ob dieser Weg bei aktuellen Bedingungen sinnvoll ist.

Er kann Nährwertangaben machen, aber nicht wissen, wie sich eine bestimmte Diät auf die Leistungsfähigkeit beim Wandern auswirkt. Er kann theoretische Fakten präsentieren, aber nicht die Intuition vermitteln, die aus jahrelanger Erfahrung im Gebirge entsteht.

Die Verantwortung liegt letztlich beim Nutzer. Wer wichtige Entscheidungen trifft, sei es eine Bergtour, eine medizinische Entscheidung oder eine finanzielle Investition, sollte sich nicht allein auf ein KI-System verlassen. Die Technologie ist ein Werkzeug, kein Ersatz für kritisches Denken.

Im Fall der drei Wanderer auf dem Mount Shasta endete die Geschichte glimpflich. Andere könnten weniger Glück haben.

🟨 KEIN EINZELFALL, SONDERN MUSTER

Der Mount-Shasta-Vorfall steht nicht isoliert. In den vergangenen Jahren gab es mehrere Berichte über Menschen, die Chatbots für sicherheitsrelevante Entscheidungen nutzten und damit scheiterten. KI-Chatbots werden zunehmend für Gesundheitsfragen konsultiert, für die Einschätzung von Symptomen oder die Wahl von Behandlungen.

Sie werden für Finanzentscheidungen genutzt, für die Bewertung von Investments oder die Planung von Renteneinkommen. Und sie werden für Reiseentscheidungen eingesetzt, von der Wahl des Reiseziels bis zur Planung konkreter Touren. Die Grenzen dieser Nutzung werden dabei selten klar kommuniziert.

Google selbst warnt in seinen offiziellen Hinweisen zu Gemini davor, Antworten des Assistenten als medizinische, rechtliche, finanzielle oder andere professionelle Beratung zu nutzen. Doch diese Hinweise sind oft versteckt, klein gedruckt und leicht zu übersehen. Die Benutzeroberflächen sind so gestaltet, dass sie zur Interaktion einladen, nicht zur Vorsicht mahnen.

Ein Chatbot, der jede Frage beantwortet, vermittelt den Eindruck, dass er für jede Frage kompetent ist. Dieser Eindruck ist falsch, aber er ist menschlich nachvollziehbar.

Die Frage, wie KI-Unternehmen ihre Systeme besser absichern können, ist berechtigt. Soll ein Chatbot bei Bergwanderungen warnen? Soll er pauschal davon abraten, ihn für Sicherheitsfragen zu nutzen? Solche Einschränkungen könnten helfen, sind aber nur ein Teil der Lösung.

Der wichtigere Teil liegt bei den Nutzern selbst: der Bereitschaft, die Grenzen von KI-Tools zu erkennen und im Zweifel auf spezialisierte Expertise zu setzen.