Wenn ChatGPT bei Allergien falsch liegt: Servicekräfte kämpfen gegen KI-Halluzinationen am Tisch

🟨 WENN CHATGPT DEM PERSONAL WIDERSPRICHT

Eine Kellnerin kennt die Zutaten eines Gerichts, doch ein Gast vertraut lieber der Antwort eines Chatbots. Ein Ranger erklärt eine Route anhand seiner Karte, während Besucher auf ihrem KI-Reiseplan bestehen. Eine Betreuerin beobachtet ein müdes Kind, aber die Eltern berufen sich auf einen automatisch erstellten Schlafplan. Ein Bericht von Gaby Del Valle, den The Verge am 2. Oktober 2026 veröffentlichte, beschreibt solche Konflikte aus dem Arbeitsalltag verschiedener Dienstleister.

Im Mittelpunkt steht eine zusätzliche Aufgabe für Menschen, die beraten, betreuen oder organisieren: Sie müssen Angaben prüfen und korrigieren, die Kunden bereits für zuverlässig halten. Die Beispiele zeigen, wie falsche oder unpassende KI-Auskünfte Gespräche erschweren können. Sie liefern allerdings keine repräsentativen Zahlen darüber, wie häufig das passiert. Aus den geschilderten Erfahrungen lässt sich deshalb ein Problem beschreiben, aber kein flächendeckender Trend beweisen.

🟨 ZUTATEN KENNT DIE KÜCHE

Madison, eine Kellnerin aus New York, berichtet von einem Gast mit Schalentierallergie. Sie habe ihn darauf hingewiesen, dass das gewünschte Gericht eine Brühe auf Schalentierbasis enthalte. Der Gast habe trotzdem bestellen wollen und sich auf ChatGPT berufen, das ihm das Gericht als unbedenklich empfohlen habe. Der Konflikt entsteht hier zwischen einer konkreten Auskunft über die Zubereitung und einer Antwort, deren Informationsgrundlage unklar bleibt.

Auch bei Weinempfehlungen erlebt Madison nach ihrer Schilderung ähnliche Situationen. Gäste konsultieren einen Chatbot, statt sich beraten zu lassen, und verlangen anschließend Flaschen, die das Restaurant nicht führt oder die möglicherweise gar nicht existieren. Das Personal muss dann erklären, weshalb eine überzeugend formulierte Empfehlung vor Ort nicht umgesetzt werden kann. Eine allgemeine Auskunft über Wein ersetzt eben keine Kenntnis des tatsächlich verfügbaren Sortiments.

Für einen Chatbot macht es einen Unterschied, ob er eine Speisekarte sieht oder verlässliche Angaben zur aktuellen Zubereitung erhält. Eine auf dem Menü nicht genannte Zutat kann dennoch Bestandteil eines Gerichts sein. Daraus folgt für die Einordnung des Beispiels: Die KI-Antwort bietet keine Grundlage, einen ausdrücklichen Hinweis des Personals auf enthaltene Allergene zu übergehen. Wie die konkrete Situation ausging, bleibt in der vorliegenden Schilderung offen.

🟨 EIN REISEPLAN MUSS ZUR LANDSCHAFT PASSEN

Jason arbeitet als River Ranger im Westen der USA. Er schildert Gruppen, die mit KI-generierten Reiseplänen ankommen, deren Campingplätze oder Etappen nicht zu den örtlichen Gegebenheiten passen. Manche Routen würden nach seiner Darstellung erfordern, gegen die Strömung zu rudern, obwohl das auf den betreffenden Abschnitten nicht praktikabel sei. Karten und Hinweise des Rangers hätten die Besucher nicht immer überzeugt.

Fehlerhafte Reiseinformationen gab es auch vor generativer KI. Der Unterschied in diesen Schilderungen liegt darin, dass ein individuell formulierter Plan offenbar besonders glaubwürdig wirkt. Eine sauber gegliederte Tagesroute kann jedoch falsche Ortsangaben oder unpassende Annahmen enthalten. Entscheidend bleibt, ob die Etappen mit aktuellen Karten, den Bedingungen vor Ort und den Möglichkeiten der Reisenden übereinstimmen.

🟨 BEOBACHTUNGEN LASSEN SICH NICHT WEGPROMPTEN

Casey arbeitet in einem Nachmittagsbetreuungsprogramm in New York und wird im Verge-Bericht unter einem Pseudonym genannt. Sie berichtet, dass Eltern und andere Betreuungspersonen ChatGPT oder Claude zu Fragen der kindlichen Entwicklung konsultieren. In einem Fall habe eine Familie einen Schlafplan mit ChatGPT erstellt. Nach Caseys eigener Einschätzung hätte das von ihr betreute Kind zwei bis drei Stunden mehr Schlaf pro Nacht gebraucht, während die Eltern auf den Plan vertrauten.

Diese Einschätzung ist eine Beobachtung der Betreuerin, keine im Bericht nachgewiesene medizinische Diagnose. Wie alt das Kind war, welche Informationen in die KI-Anfrage eingingen und ob der Plan fachlich geprüft wurde, ist aus dem hier vorliegenden Material nicht ausreichend ersichtlich. Der Fall illustriert deshalb vor allem einen Kommunikationskonflikt. Eine KI-Antwort kann ein Gespräch vorbereiten, sollte aber konkrete Beobachtungen zum Kind nicht automatisch entwerten.

🟨 EINE UNGEWÖHNLICHE ANFRAGE IST NOCH KEIN KI-AGENT

Restaurantmanagerin Lauren Wilford aus Providence schildert kurzfristige Wünsche nach Podesten, AV-Technik und zusätzlicher Ausstattung vor einer Veranstaltung. Als die Kunden am nächsten Tag eintrafen, hätten sie die vorherige Anfrage nicht erwähnt. Wilford vermutete deshalb, dass ein KI-Agent daran beteiligt gewesen sein könnte. Ein Nachweis dafür liegt in der beschriebenen Geschichte nicht vor.

Daraus lässt sich weder schließen, dass der Kunde erfunden war, noch dass hinter der Anfrage kein Mensch stand. Auch ein automatisiertes System könnte im Auftrag einer realen Person handeln. Die Geschichte trägt deshalb keine allgemeine Behauptung darüber, dass KI-Agenten bereits solche Konflikte verursachen. Für Dienstleister bleibt unabhängig vom Absender wichtig, zusätzliche Leistungen, Termine und Zuständigkeiten ausdrücklich bestätigen zu lassen.

🟨 DIE ZUSÄTZLICHE ARBEIT BLEIBT BEIM MENSCHEN

Die geschilderten Fälle verbindet, dass Beschäftigte zunächst die Informationsgrundlage eines Kunden klären müssen. Welche Zutaten wurden dem Chatbot genannt, welche Karte verwendete er und auf welchen Beobachtungen beruht seine Empfehlung? Ohne diesen Kontext können beide Seiten über unterschiedliche Voraussetzungen sprechen. Die Korrektur kostet Zeit, die in der eigentlichen Beratung oder Betreuung fehlt.

Hilfreich wäre deshalb ein Gespräch über überprüfbare Angaben statt ein Wettbewerb zwischen Mensch und Maschine. Das Personal kann auf Zutaten, verfügbare Produkte, Karten oder konkrete Beobachtungen verweisen. Nutzer können nachfragen, worauf die KI ihre Antwort stützt und ob diese Grundlage zur aktuellen Situation passt. Für Betriebe wäre es sinnvoll, ihren Mitarbeitern klare Zuständigkeiten für solche Rückfragen und strittigen Wünsche zu geben.

🟨 WAS DAS MIT KREATIVER ARBEIT ZU TUN HAT

Für Musiker und andere Kreative lässt sich aus diesen Beispielen eine praktische Frage ableiten: Welche Informationen braucht ein Werkzeug, damit seine Vorschläge zur eigenen Arbeit passen? Eine Empfehlung zur Bearbeitung einer Stimme hängt von der Aufnahme und dem gewünschten Ergebnis ab. Ein Plan für einen Auftritt muss zur vorhandenen Technik und zum Veranstaltungsort passen. Diese Beispiele sind eine redaktionelle Übertragung auf kreative Arbeit, keine zusätzlichen Fälle aus dem Verge-Bericht.

Wer KI nutzt, muss deshalb weiterhin beurteilen, ob ein Vorschlag mit den tatsächlichen Bedingungen übereinstimmt. Das verlangt keine grundsätzliche Ablehnung der Technik. Es verlangt die Bereitschaft, eine selbstsichere Antwort zu korrigieren, wenn überprüfbare Angaben dagegen sprechen. Die Verantwortung für die Entscheidung bleibt bei den Menschen, die den Vorschlag übernehmen und umsetzen.