„Der Chatbot war’s" zieht nicht mehr
Das OLG Hamm hat entschieden, dass Unternehmen für die Aussagen ihres KI-Chatbots haften. Was jetzt hilft und was nicht.

In shortKurz gesagt
Das Oberlandesgericht Hamm hat am 12. Mai 2026 entschieden, dass Unternehmen für die Aussagen ihres KI-Chatbots haften. Das gilt auch dann, wenn die KI halluziniert und niemand die Falschaussage so eingegeben hat. Rechtlich ist der Chatbot kein eigenständiger Dritter, sondern ein Werkzeug des Unternehmens. Das Urteil ist rechtskräftig. Was der Bot sagt, sagt also das Unternehmen. Damit wird die Frage „Was darf unser Bot eigentlich behaupten?” zur Chefsache, technisch, gestalterisch und organisatorisch.
Worum ging es in dem Urteil?
Der Fall ist schnell erzählt und lehrreich. Die Verbraucherzentrale NRW hatte gegen einen Anbieter von Schönheitsbehandlungen geklagt. Auf dessen Website beantwortete ein KI-Chatbot Fragen von Interessent:innen und bot nach jeder Antwort einen Termin an. Auf die Frage, ob die beiden Geschäftsführer Fachärzte für plastische und ästhetische Chirurgie seien, antwortete der Bot mit Ja. Diese Qualifikation hatten sie nicht. Bei weiteren Fragen nannte der Bot zusätzlich die Titel „Facharzt für ästhetische Medizin” und „Facharzt für ästhetische Behandlungen”. Beide gibt es gar nicht.
Das Unternehmen verteidigte sich mit einem Argument, das auf den ersten Blick einleuchtet. Der Bot habe nur auf eine Vektordatenbank mit eigenen Website-Texten und FAQs zugegriffen, und darin stand nichts Falsches. Die Falschaussagen gingen auf das autonome, statistische Verhalten der KI zurück und seien dem Unternehmen deshalb nicht zuzurechnen.
Das Gericht sah das anders. Es gab der Unterlassungsklage vollständig statt, gestützt auf das Verbot irreführender geschäftlicher Handlungen nach § 5 UWG (Az. 4 UKl 3/25, Volltext bei der NRW-Justiz).
Was hat das Gericht konkret entschieden?
Im Kern geht es um die Frage, wem die Aussagen des Bots zuzurechnen sind. Die Antwort betrifft jedes Unternehmen mit einem Chatbot im Kundenkontakt.
Das OLG Hamm stellte klar, dass ein KI-Chatbot kein eigenständiger Dritter ist, sondern ein technisches Mittel, das das Unternehmen für die Kommunikation mit Kund:innen einsetzt. Seine Aussagen gelten deshalb als eigene geschäftliche Handlung des Betreibers.
Vier Punkte aus der Begründung sind besonders wichtig.
- „Die KI ist eine Blackbox” ist keine Entschuldigung. Dass man von außen nicht nachvollziehen kann, wie die KI zu einer Antwort kommt, ändert nichts. Entscheidend ist laut Gericht, dass der Betreiber festlegt, wofür der Bot zuständig ist, und genug Einfluss auf das System hat.
- Gerade die Korrektur wurde dem Unternehmen zum Verhängnis. Nach der Abmahnung baute der Anbieter eine Prompt-Anweisung und einen Keyword-Filter ein, und der Bot machte keine Falschangaben mehr. Für das Gericht war das der Beleg, dass das Unternehmen den Bot steuern kann.
- Die Vorsorge hätte vor dem Launch passieren müssen. Dass Interessent:innen nach dem Facharzttitel fragen, war vorhersehbar. Und die Abwehr war offensichtlich leicht. Deshalb wäre es zumutbar gewesen, sie vor der ersten Inbetriebnahme einzubauen. Saubere Quelldaten allein reichten dafür nicht.
- „Jeder weiß doch, dass KI Fehler macht” zählt nicht. Das Unternehmen argumentierte, Nutzer:innen würden KI-Antworten ohnehin nachprüfen. Das Gericht hielt dagegen, dass viele Menschen computergenerierten Antworten sogar besonders vertrauen, weil sie Maschinen für weniger fehleranfällig halten als Menschen.
Das Gericht zog dabei eine Parallele zu einem BGH-Urteil von 2021 über einen softwarebasierten Vertragsgenerator. Auch dort hatte der Bundesgerichtshof die Ergebnisse der Software dem Anbieter zugerechnet. Neu ist die Richtung also nicht. Sie wird jetzt auf generative KI übertragen.
Offen gelassen hat das Gericht, wie es aussieht, wenn Nutzer:innen falsche Antworten mit suggestiven Fragen gezielt provozieren. Im Fall aus Hamm waren die Fragen neutral.
Warum ist Chatbot-Haftung ein Design- und Governance-Thema?
Diesen Punkt übersehen viele. Die naheliegende Reaktion auf so ein Urteil ist, die Rechtsabteilung zu fragen und einen Disclaimer ans Chatfenster zu setzen. Beides greift zu kurz.
Ein Disclaimer ist keine Lösung. Zu Disclaimern hat sich das Gericht nicht direkt geäußert. Es hat aber das Argument verworfen, dass Nutzer:innen um die Fehler von KI wüssten und Antworten deshalb nachprüften. Ein Hinweis wie „KI kann Fehler machen” baut genau auf dieses Argument. Die Wettbewerbszentrale geht deshalb davon aus, dass solche generischen Hinweise nicht zuverlässig vor Haftung schützen. Und ganz praktisch: Wenn der Bot einer Kundin sagt, ihr Vertrag decke einen bestimmten Schaden ab, und sie sich darauf verlässt, hilft ihr das Kleingedruckte im Chatfenster wenig.
Damit landet das Problem dort, wo es hingehört: in der Architektur und im Design des Systems. Ein Bot, der rechtssicher arbeitet, entsteht durch technische und gestalterische Entscheidungen. Juristische Formulierungen allein reichen dafür nicht. Die entscheidenden Fragen sind:
- Zu welchen Themen darf der Bot frei formulieren, und wo antwortet er nur mit geprüften, festen Texten?
- Woher bezieht er seine Fakten? Ein System, das an geprüfte Quellen gebunden ist, halluziniert seltener. Wie das funktioniert, erklären wir im Artikel RAG einfach erklärt.
- Was passiert, wenn der Bot unsicher ist? Rät er, oder übergibt er an einen Menschen?
Der Fall aus Hamm zeigt aber auch die Grenze von geprüften Quellen. Der Bot dort griff laut Unternehmen nur auf eigene, korrekte Inhalte zu und hat trotzdem halluziniert. Geprüfte Quellen sind notwendig, reichen allein aber nicht. Erst eine technische Grenze wie die spätere Prompt-Anweisung mit Keyword-Filter hat die Falschaussagen tatsächlich unterbunden.
Deshalb sind Halluzinationen auch kein abstraktes Technikproblem, sondern ein konkretes Geschäftsrisiko. Warum Sprachmodelle immer halluzinieren werden und wie Systeme trotzdem verlässlich bleiben, haben wir ausführlich beschrieben.
Die Haftungsfrage ist am Ende eine Frage an das Conversation Design. Wer festlegt, was der Bot sagen darf und was nicht, legt auch das Haftungsrisiko fest. Wie sehr fehlende Grenzen KI-Projekte ausbremsen, zeigt auch eine aktuelle Studie: Warum 74 % der Unternehmen ihre KI-Agenten wieder abschalten.
Checkliste: Was Unternehmen jetzt tun sollten
Aus dem Urteil und der fachlichen Einordnung ergibt sich eine praktische Liste. Sie ersetzt keine Rechtsberatung, zeigt aber, wo Design und Governance ansetzen.
- Themengrenzen festlegen. Bestimmt, welche Fragen der Bot beantworten darf und welche nicht. Bei sensiblen Themen wie Qualifikationen, Zusagen oder rechtlich und medizinisch relevanten Auskünften gehören feste, geprüfte Abläufe hin statt frei formulierter KI-Antworten.
- Nur geprüfte Quellen zulassen. Der Bot sollte seine Antworten aus geprüften Informationen ableiten und nicht frei aus dem Sprachmodell. Das senkt das Risiko erfundener Aussagen.
- Eskalation gestalten. Wird ein Anliegen zu komplex, unklar oder sensibel, muss die Übergabe an einen Menschen sauber funktionieren. Sie ist dann ein bewusster Teil des Dialogs und keine Sackgasse.
- Monitoring einrichten. Erkennt Falschaussagen früh und stellt sie schnell ab. Das Gericht geht ohnehin davon aus, dass ihr euren Bot steuern könnt. Dann solltet ihr das auch tun, bevor ein Schaden entsteht.
- Nicht auf Disclaimer verlassen. Ein Hinweis wie „KI kann Fehler machen” ersetzt keinen der Punkte oben. Das Gericht hat das Argument, Nutzer:innen würden KI-Antworten ohnehin prüfen, ausdrücklich verworfen.
- Alles dokumentieren. Haltet fest, welche Schutzmaßnahmen ihr vor dem Launch getroffen habt und wie ihr sie laufend kontrolliert. So könnt ihr Fehler nachvollziehen und zeigen, dass ihr Verantwortung ernst nehmt.
Was heißt das für regulierte Branchen?
Für Telekommunikation, Banken, Versicherungen und Gesundheitswesen ist das Urteil kein Randthema. Gerade dort geben Chatbots Auskünfte, auf die sich Menschen verlassen, etwa zu Tarifen, Konditionen, Deckungen und Ansprüchen. Nach der Logik des OLG Hamm ist jede dieser Auskünfte eine Aussage des Unternehmens.
Das Gericht betont dabei, dass im Gesundheitswesen besonders strenge Maßstäbe gelten. Wie streng andere Gerichte in anderen Branchen urteilen, ist offen. Die Logik der Zurechnung hängt aber nicht an der Branche. Wer in Finanzen, Versicherungen oder Telekommunikation verbindliche Auskünfte per Bot gibt, sollte vom gleichen Maßstab ausgehen.
Das ist keine schlechte Nachricht. Das Urteil schafft Klarheit und schiebt den Markt in eine gesunde Richtung, weg von schnell zusammengeklickten Bots und hin zu Systemen mit klaren Grenzen, geprüften Quellen und sauberer Eskalation. Ein Bot, der weiß, was er nicht sagen darf, ist in einer regulierten Branche mehr wert als einer, der auf jede Frage eine elegante Antwort hat.
Dazu kommt die KI-Verordnung der EU. Seit dem 2. August 2026 gelten ihre Transparenzpflichten nach Art. 50. Wer einen Chatbot betreibt, muss Nutzer:innen seitdem klar sagen, dass sie mit einer KI sprechen. Die Richtung ist eindeutig. Verantwortung lässt sich nicht an die Maschine abgeben.
Fazit: Verantwortung lässt sich nicht an die Maschine abgeben
„Der Chatbot war’s” funktioniert als Verteidigung nicht mehr, und seit das Urteil rechtskräftig ist, steht das auch fest. Wer Kund:innen eine KI vorsetzt, ist für das verantwortlich, was sie sagt, genau wie für jede andere Aussage des Unternehmens. Das klingt nach Risiko, ist aber vor allem eine Gestaltungsaufgabe. Ein Chatbot mit klaren Grenzen, geprüften Quellen und einem ehrlichen Weg zum Menschen ist rechtlich sicherer. Und er ist der bessere Chatbot.
Solche Systeme bauen wir. Wir legen mit euch fest, was der Bot sagen darf, binden ihn an eure geprüften Quellen an und gestalten die Übergabe an euer Team gleich mit. Ihr setzt einen Bot in einem Bereich ein, in dem Falschauskünfte teuer werden?
FAQ: Chatbot-Haftung
Haften Unternehmen für die Aussagen ihres KI-Chatbots?
Ja, nach dem rechtskräftigen Urteil des OLG Hamm vom 12. Mai 2026 (Az. 4 UKl 3/25). Das Gericht rechnet die Aussagen eines KI-Chatbots dem Unternehmen als eigene geschäftliche Handlung zu, auch bei Halluzinationen.
Schützt ein Disclaimer am Chatfenster vor der Haftung?
Darauf solltet ihr euch nicht verlassen. Das Gericht hat das Argument verworfen, Nutzer:innen wüssten um die Fehler von KI und prüften Antworten nach. Viele vertrauen Maschinen sogar mehr als Menschen. Ein generischer Hinweis wie „KI kann Fehler machen” ändert daran wenig. Nötig sind konkrete technische und organisatorische Maßnahmen.
Kann sich ein Unternehmen darauf berufen, dass die KI von selbst halluziniert hat?
Nein. Für das Gericht ist der Chatbot ein Werkzeug des Unternehmens und kein eigenständiger Dritter. Auch dass der Bot nur auf korrekte eigene Inhalte zugriff, ließ das Gericht nicht gelten. Die Falschaussage war vorhersehbar und leicht zu verhindern, deshalb hätte das Unternehmen vor dem Launch vorsorgen müssen.
Gilt das nur für die Gesundheitsbranche?
Nein. Der Fall betraf eine Schönheitsklinik, und im Gesundheitswesen gelten besonders strenge Maßstäbe. Die Logik dahinter gilt aber für alle Branchen. Besonders relevant ist sie überall dort, wo Bots verbindliche Auskünfte geben, etwa bei Finanzen, Versicherungen, Telekommunikation und Recht.
Was sollten Unternehmen jetzt konkret tun?
Themengrenzen für den Bot festlegen, nur geprüfte Quellen zulassen, eine saubere Übergabe an Menschen gestalten, das Verhalten des Bots laufend überwachen und alle Schutzmaßnahmen dokumentieren. Der Schwerpunkt liegt auf Design und Governance. Juristische Formulierungen allein reichen nicht.
Ist das Urteil schon endgültig?
Ja. Die Revision zum Bundesgerichtshof war zugelassen, das Urteil ist aber rechtskräftig geworden. Ein BGH-Urteil zur Frage gibt es damit nicht. Andere Gerichte sind an die Entscheidung nicht gebunden, sie ist aber ein deutliches Signal.
QuoteZitat