Ein Sprachmodell errechnet Wörter, es prüft keine Fakten.
Ein Sprachmodell errechnet zu einem Text das nächste wahrscheinlichste Wort. Was daraus folgt, wo es scheitert und was die KI-Verordnung dazu sagt.
Oliver Leifken
InhaltWie funktioniert ein Sprachmodell?Warum erfindet ein Sprachmodell Dinge?Was sagt die KI-Verordnung zu Sprachmodellen?Was heißt das für deinen Betrieb?Womit fängst du an?Häufige FragenQuellen
Ein großes Sprachmodell, englisch Large Language Model, ist ein Programm, das zu einem Text immer wieder das nächste wahrscheinlichste Wort errechnet, bis ein Abbruchkriterium erfüllt ist1. So beschreibt es die Datenschutzkonferenz in ihrer Orientierungshilfe von Oktober 20251. Es erzeugt damit sprachlich einwandfreie Texte, prüft dabei aber nicht, ob der Inhalt auch stimmt1.
Wenn bei dir jemand ChatGPT, Copilot oder Gemini öffnet, arbeitet er mit genau so einem Programm. Was es kann und woran es scheitert, lässt sich in zehn Minuten verstehen, und danach fällt jede Entscheidung darüber leichter.
Wie funktioniert ein Sprachmodell?
Es rechnet, es sucht nicht. Die Datenschutzkonferenz beschreibt den Vorgang so, dass das Modell die Anfrage und den bisherigen Text entgegennimmt und daraus das nächste wahrscheinlichste Wort erzeugt1. Das wiederholt sich Wort für Wort, bis ein Abbruchkriterium greift und die Antwort damit endet1.
Anthropic beschreibt das Training desselben Verfahrens als Vorhersage des nächsten Wortes aus dem vorangegangenen Zusammenhang im Dokument2. Es gibt keine Datenbank im Hintergrund, in der jemand nachschlägt. Es gibt nur sehr viele gesehene Texte und daraus errechnete Wahrscheinlichkeiten.
Der Vergleich, der im Alltag trägt, ist die Wortvorhersage auf dem Handy. Tippst du „Sehr geehrte“, schlägt das Handy „Damen“ vor. Es weiß nicht, an wen du schreibst. Es weiß nur, was nach diesen Wörtern meistens kommt. Ein Sprachmodell macht dasselbe, nur über ganze Absätze und mit einem sehr viel größeren Gedächtnis.
Genau darin liegt der Unterschied zur Handytastatur. Bei drei Wörtern merkst du sofort, wenn der Vorschlag nicht passt. Bei drei Absätzen in tadellosem Deutsch merkst du es nicht mehr.
Kernaussage
Ein Sprachmodell erzeugt das nächste wahrscheinlichste Wort, bis ein Abbruchkriterium erfüllt ist1. Es prüft dabei nicht, ob der Inhalt richtig ist. Artikel 3 Nummer 1 der Verordnung (EU) 2024/1689 zählt es damit zu den KI-Systemen3.
Warum erfindet ein Sprachmodell Dinge?
Weil Richtigkeit kein Teil der Rechnung ist. Die Datenschutzkonferenz nennt das Halluzinieren und beschreibt es als Beeinträchtigung der Richtigkeit der Ausgabe1. Dazu kommt ein zweiter Grund: Modelle werden in der Regel mit Daten bis zu einem bestimmten Datum trainiert1. Danach endet ihr Wissen.
Fragen zu Ereignissen nach diesem Stichtag führen deshalb regelmäßig zu falschen Antworten1. Das Modell sagt dann nicht, dass es etwas nicht weiß. Es errechnet weiter, weil das seine einzige Arbeitsweise ist.
Wie ein Modell zu diesem Verhalten kommt, gehört in die Technik und nicht in eine Entscheidungsvorlage. Für dich zählt die Folge: Alles, was eine Zahl, ein Datum, einen Namen oder einen Paragrafen enthält, wird geprüft, bevor es das Haus verlässt.
Was sagt die KI-Verordnung zu Sprachmodellen?
Sie kennt den Begriff Sprachmodell nicht, dafür den Begriff KI-System. Artikel 3 Nummer 1 der Verordnung (EU) 2024/1689 beschreibt es als maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und aus Eingaben Ausgaben ableitet3.
Genannt werden als Ausgaben ausdrücklich Vorhersagen, Inhalte, Empfehlungen und Entscheidungen, die physische oder virtuelle Umgebungen beeinflussen können3. Ein Sprachmodell im Arbeitsalltag fällt eindeutig darunter. Wer es im Betrieb einsetzt, ist damit Betreiber im Sinne der Verordnung.
Das ist keine Formalie, sondern der Anknüpfungspunkt für alle weiteren Pflichten. Welche das sind, steht im Beitrag zur Schulungspflicht nach Artikel 4 KI-Verordnung.
Was heißt das für deinen Betrieb?
Drei Dinge folgen daraus, und sie entscheiden über jeden ersten Anwendungsfall. Der erste sinnvolle Einsatz ist fast nie eine offene Frage an die KI, sondern eine Aufgabe an einem Text, den du schon hast. Zusammenfassen, umformulieren, übersetzen, sortieren. Alles vier spart sofort Zeit.
- Lege fest, wer ein Ergebnis prüft, bevor es zu einem Kunden oder in eine Akte geht. Diese Frage wird sonst erst nach dem ersten Fehler gestellt.
- Behandle jede Zahl, jedes Datum und jeden Namen aus der Ausgabe als unbestätigt, bis jemand sie gegen eine Quelle gehalten hat.
- Nimm für Standardaufgaben das kleinere Modell. Anthropic nennt in der Anleitung zur Modellwahl zwei Wege und beschreibt den Start mit dem schnelleren, günstigeren Modell für viele Anwendungen als besten Weg4.
Wo genau solche Vorhaben in der Praxis hängen bleiben, steht im Beitrag Warum KI-Piloten im Mittelstand stecken bleiben. Wie ein Modell trotzdem mit euren eigenen Unterlagen arbeitet, steht im Beitrag RAG erklärt. Deinen Stand ordnet der KI-Reifegrad-Check in wenigen Minuten ein.
Meine Empfehlung aus Erfahrung
Meine Einschätzung: Der größte Gewinn im ersten Halbjahr entsteht nicht durch bessere Technik, sondern dadurch, dass alle im Haus dasselbe Bild vom Werkzeug haben. Ich erlebe regelmäßig zwei Lager: die einen halten es für eine Suchmaschine, die anderen für einen Kollegen. Beides führt zu Fehlern. Eine Stunde gemeinsam, in der ihr das Modell absichtlich einmal etwas Falsches sagen lasst, wirkt stärker als jede Präsentation.
Womit fängst du an?
Nimm einen Text, den ihr ohnehin jede Woche schreibt, und lass ihn einmal entwerfen. Vergleiche das Ergebnis mit eurer eigenen Fassung, und schreibe auf, was fehlte. Diese Liste ist wertvoller als jede Schulungsunterlage, weil sie aus deinem Haus stammt. Sie kostet dich eine halbe Stunde.
Wenn dabei Kundendaten oder Personaldaten auftauchen, halte an und lies zuerst den Beitrag Kundendaten in ChatGPT eingeben. Danach entscheidest du, was in das Werkzeug hineindarf und was nicht.
Häufige Fragen
Sucht ein Sprachmodell im Internet nach der Antwort?
Nein, nicht von sich aus. Die Datenschutzkonferenz beschreibt das Verfahren als Erzeugung des nächsten wahrscheinlichsten Wortes, nicht als Nachschlagen[1]. Es gibt keine Datenbank, in der geprüft wird. Manche Anwendungen kombinieren ein Modell zusätzlich mit einer Suche, das ist dann ein zweiter Baustein.
Warum klingt eine falsche Antwort trotzdem so überzeugend?
Das Modell errechnet die wahrscheinlichste Formulierung, nicht die richtige Angabe[1]. Sprache und Wahrheit sind darin zwei getrennte Dinge. Die Datenschutzkonferenz nennt das Halluzinieren und benennt es als Beeinträchtigung der Richtigkeit der Ausgabe[1]. Der Satz stimmt sprachlich, der Inhalt muss geprüft werden.
Sind wir ein Anbieter von KI, wenn wir ChatGPT nutzen?
Nein, ihr seid Betreiber. Artikel 3 Nummer 1 der Verordnung (EU) 2024/1689 definiert das KI-System, und wer es im eigenen Betrieb einsetzt, fällt als Betreiber darunter[3]. Daraus folgen Pflichten, aber andere als für den Hersteller des Modells.
Braucht man für gute Ergebnisse immer das teuerste Modell?
Meist nicht. Die Preisunterschiede zwischen dem größten und dem kleinsten Modell eines Anbieters sind erheblich, die Unterschiede im Ergebnis bei Standardaufgaben oft klein. Ich rate deshalb, mit dem kleineren Modell zu beginnen und nur dann zu wechseln, wenn eine Aufgabe es erkennbar verlangt.
Quellen
- Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder: Orientierungshilfe zu datenschutzrechtlichen Besonderheiten generativer KI-Systeme mit RAG-Methode, Version 1.0 (2025), abgerufen am 11. September 2026
- Anthropic: Glossary, Abschnitte LLM, Pretraining, Tokens und Context window, abgerufen am 11. September 2026
- Amtsblatt der Europäischen Union: Verordnung (EU) 2024/1689 (KI-Verordnung), Artikel 3 Nummer 1 (2024), abgerufen am 11. September 2026
- Anthropic: Choosing the right model, Abschnitt Choose the best model to start with, Option 1, abgerufen am 12. September 2026
Stand 20. Mai 2026 · geprüft am 12. September 2026
Oliver LeifkenZertifizierter KI-Strategieberater. Über zehn Jahre Projekte in der Banken-IT, heute Beratung und Umsetzung für den Mittelstand.Über mich
Weiterlesen
Drei Beiträge, die dazu passen
Und bei dir?
Verstanden, was es tut. Und was macht ihr damit?
Der Check ordnet euren Stand in fünf Minuten einer der fünf Stufen zu und nennt den nächsten sinnvollen Schritt.
Jetzt deinen KI-Reifegrad prüfen Kostenfrei, ohne Termin. Ergebnis sofort, auf Wunsch per E-Mail.