Was ist ein Large Language Model (LLM)? Definition, Funktionsweise und Anwendungen

Was ist ein Large Language Model (LLM)?

Ein Large Language Model (LLM) ist ein KI-System, das auf riesigen Mengen an Textdaten trainiert wurde. Es versteht menschliche Sprache und erzeugt sinnvollen, kontextuellen Text. Hinter Tools wie ChatGPT, Claude und Gemini steckt jeweils ein solches Modell.

Das Wort „large“ beschreibt dabei zwei Dinge gleichzeitig: den Umfang der Trainingsdaten und die Größe des Modells selbst. Trainingsdaten für führende LLMs umfassen Hunderte von Milliarden Wörtern aus Webseiten, Büchern, wissenschaftlichen Publikationen und Quellcode. Gemessen wird die Modellgröße in Parametern, also in den numerischen Gewichten, die das Modell während des Trainings anpasst. GPT-3, veröffentlicht von OpenAI im Jahr 2020, verfügt über 175 Milliarden solcher Parameter. Neuere Frontier-Modelle sind deutlich größer, auch wenn die genauen Zahlen nicht mehr öffentlich kommuniziert werden.

Was diese Modelle so leistungsfähig macht, ist nicht nur die schiere Datenmenge. Entscheidend ist das Zusammenspiel aus Datenbreite und Modellgröße. Trainiert auf 570 GB gefilterten Texten, darunter Webseiten, Bücher, wissenschaftliche Artikel und Code, entwickelt ein Modell ein breites implizites Weltwissen. Regeln werden dabei nicht explizit programmiert; stattdessen lernt das System durch statistische Muster über Milliarden von Textbeispielen.

Die technische Grundlage bildet die Transformer-Architektur. Vorgestellt wurde sie 2017 im Forschungspapier „Attention Is All You Need“ von Vaswani et al. bei Google. Ihr zentrales Element ist der sogenannte Self-Attention-Mechanismus: Er erlaubt es dem Modell, die Bedeutung jedes einzelnen Tokens im Kontext aller anderen Tokens einer Sequenz gleichzeitig zu gewichten. Dadurch können LLMs Zusammenhänge über lange Textpassagen hinweg verstehen. Klassische rekurrente Netze mussten einen Text Wort für Wort von links nach rechts abarbeiten. Der Transformer verarbeitet alle Positionen parallel und erfasst dabei auch weitreichende Abhängigkeiten zwischen weit entfernten Textstellen. Dieser Unterschied ist fundamental. Er macht LLMs zu einem qualitativ anderen Werkzeug als alles, was NLP zuvor hervorgebracht hatte.

Von klassischem NLP (Natural Language Processing), das auf regelbasierten Systemen und statistischen Methoden aufbaut, unterscheiden sich LLMs vor allem durch Skalierung und Flexibilität. Ein klassisches NLP-Modell für Sentimentanalyse konnte genau das und nichts anderes. Ein modernes LLM dagegen analysiert Sentiment, übersetzt, schreibt Code und fasst Verträge zusammen, ohne für jede dieser Aufgaben neu trainiert werden zu müssen.

Wie funktioniert ein Large Language Model?

Schritt für Schritt sagt ein LLM das wahrscheinlichste nächste Token voraus, also die kleinste Texteinheit wie ein Wort, eine Silbe oder ein Satzzeichen. Grammatik, Faktenwissen, Stilmuster und logische Zusammenhänge lernt das Modell dabei nicht durch explizite Regeln, sondern durch das milliardenfache Wiederholen dieser Vorhersageaufgabe über unterschiedlichste Textquellen. Jede Anfrage durchläuft dabei drei Phasen: Tokenisierung, Verarbeitung im Transformer-Netz und schließlich die Token-für-Token-Ausgabe.

Tokenisierung

Bevor ein LLM mit einem Text arbeiten kann, zerlegt es ihn in Tokens. Ein Token entspricht ungefähr einem kurzen Wort oder einer Silbe. Das Wort „Datenschutzgrundverordnung“ wird beispielsweise in mehrere Tokens aufgeteilt, weil es für das Modell effizienter ist, häufige Zeichenfolgen gemeinsam zu kodieren. Kürzere, häufige Wörter wie „der“ oder „und“ sind oft genau ein Token. Im Durchschnitt entsprechen 100 Tokens etwa 75 deutschen Wörtern.

Dieser erste Schritt jeder LLM-Anfrage übersetzt den eingegebenen Text in eine Folge von Token-IDs, die das Modell dann weiterverarbeitet. Das erklärt auch, warum LLMs bei ungewöhnlichen Schreibweisen oder Neologismen manchmal stolpern: Diese Zeichenfolgen kommen im Trainingsvokabular selten vor.

Praktisch relevant ist Tokenisierung auch bei der Frage des Kontextfensters, also wie viel Text ein Modell in einer einzigen Anfrage verarbeiten kann. Wer ein 50-seitiges Dokument einreicht, schöpft dabei schnell das Limit aus. Das Kontextfenster von GPT-4o liegt bei 128.000 Tokens, was etwa 90.000 deutschen Wörtern oder rund 350 Seiten Text entspricht. Gemini 1.5 Pro schafft über eine Million Tokens und kann damit ein ganzes Buch in einer einzigen Anfrage verarbeiten.

Training und Pretraining

Das Pretraining ist die rechenintensivste Phase beim Aufbau eines LLM. Trainiert wird auf einem riesigen Textkorpus, mit dem einzigen Ziel, das nächste Token einer Sequenz vorherzusagen. GPT-3 wurde auf etwa 570 GB gefiltertem Text vortrainiert: Daten aus Common Crawl (über 50 Milliarden Webseiten), Wikipedia, Buchkorpora und Codedatenbanken.

Das Besondere daran liegt im Lernprinzip. Explizite Antworten oder Beschriftungen gibt es nicht. Das Modell passt seine Milliarden interner Gewichte so lange an, bis seine Vorhersagen immer besser werden. Durch diese massenhafte Wiederholung über verschiedenste Textquellen erwirbt es ein breites Wissen über Sprache, Fakten, logische Zusammenhänge und Stilmuster. Am Ende verfügt das Modell über allgemeine Sprachkompetenz, ist aber noch auf keine konkrete Aufgabe ausgerichtet.

Fine-tuning und RLHF

Nach dem Pretraining folgt das Fine-tuning: Das vortrainierte Modell wird auf einem kleineren, aufgabenspezifischen Datensatz weitertrainiert. Ein Modell, das für Kundensupport-Anfragen feinabgestimmt wurde, verhält sich grundlegend anders als eines für Code-Generierung, obwohl beide vom gleichen Basismodell ausgehen. Unternehmen können eigene Feinabstimmungen vornehmen, ohne ein neues Modell von Grund auf zu trainieren.

Noch wichtiger ist Reinforcement Learning from Human Feedback (RLHF). Dabei bewerten menschliche Prüfer verschiedene Modellausgaben und ordnen sie nach Qualität. Anschließend wird das Modell darauf trainiert, jene Antworten zu bevorzugen, die höher eingestuft wurden. Genau hier liegt der Grund, warum sich moderne LLMs eher wie hilfreiche Gesprächspartner anfühlen als wie reine Textvervollständigungsmaschinen. Sowohl OpenAI (ChatGPT) als auch Anthropic (Claude) setzen RLHF als zentrales Alignment-Verfahren ein. Das Verfahren macht Modelle nicht nur nützlicher, sondern reduziert auch schädliche Ausgaben und verbessert die Fähigkeit, komplexe Anweisungen korrekt umzusetzen.

Die wichtigsten Large Language Models im Überblick

GPT-4o von OpenAI, Claude 3.5 Sonnet von Anthropic, Gemini 1.5 Pro von Google sowie die Open-Source-Modelle LLaMA 3 von Meta und Mistral von Mistral AI zählen zu den bekanntesten Large Language Models. Sie unterscheiden sich erheblich in Kontextfenstergröße, Lizenzmodell und Stärkenprofil.

Modell	Anbieter	Typ	Kontextfenster	Stärken
GPT-4o	OpenAI	Proprietär	128.000 Tokens	Allgemeine Aufgaben und multimodale Eingabe
Claude 3.5 Sonnet	Anthropic	Proprietär	200.000 Tokens	Lange Dokumente und präzises Schreiben
Gemini 1.5 Pro	Google	Proprietär	1.000.000 Tokens	Sehr große Kontexte und multimodal
LLaMA 3 70B	Meta	Open Source	8.000 Tokens	Lokale Deployments und Datenschutz
Mistral Large	Mistral AI	Teils offen	128.000 Tokens	Mehrsprachige Aufgaben und Effizienz

Proprietäre LLMs

GPT-4o, Claude 3.5 Sonnet und Gemini 1.5 Pro sind die drei am häufigsten genutzten kommerziellen Modelle. Zugänglich sind sie ausschließlich über API oder die jeweiligen Web-Interfaces; den Quellcode und die genaue Parameterzahl geben die Anbieter nicht heraus.

OpenAIs GPT-4o ist das am weitesten verbreitete Modell. Es überzeugt durch breite Aufgabenabdeckung und multimodale Eingabe, also die Fähigkeit, neben Text auch Bilder zu verarbeiten. Claude 3.5 Sonnet von Anthropic gilt als besonders zuverlässig bei Schreibaufgaben, bei denen präzise Instruktionen befolgt werden müssen. Geminis besonderer Vorzug liegt im Kontextfenster von einer Million Tokens.

Besonders auffällig ist die Entwicklung bei diesen Kontextfenstern. Frühe GPT-3.5-Versionen konnten lediglich rund 4.000 Tokens gleichzeitig verarbeiten. Gemini 1.5 Pro unterstützt heute über eine Million Tokens, genug für ein komplettes Buch in einer einzigen Eingabe. Claude 3.5 Sonnet kommt auf 200.000 Tokens und ist damit eine gute Wahl für die Analyse langer Verträge, Berichte oder Forschungsdokumente.

Open-Source-LLMs

Meta LLaMA 3 und Mistral sind die bekanntesten Open-Source-Alternativen. Heruntergeladen und auf eigener Infrastruktur betrieben, bieten sie vollständige Datenkontrolle ohne externe API-Abhängigkeit. Das ist besonders für Unternehmen relevant, die sensible Daten verarbeiten oder harte DSGVO-Anforderungen erfüllen müssen.

LLaMA 3 steht in verschiedenen Größen zur Verfügung. Die 70-Milliarden-Parameter-Variante ist dabei das stärkste frei verfügbare Basismodell. Mistral bietet ebenfalls mehrere Modellvarianten an und ist für seine Effizienz bei mehrsprachigen Aufgaben bekannt, wozu auch Deutsch gehört. Falcon, ein weiteres Open-Source-Modell aus dem Technology Innovation Institute in Abu Dhabi, ergänzt das Feld. Enorme Fortschritte hat die Open-Source-Community in den vergangenen zwei Jahren gemacht: Kleinere Modelle mit 7 oder 13 Milliarden Parametern können heute für viele Standardaufgaben mit proprietären Modellen aus 2022 mithalten.

Anwendungsgebiete von Large Language Models

Texterstellung, Übersetzung, Code-Generierung, Dokumentenanalyse, Chatbots und Wissensmanagement: Überall dort, wo Sprache verarbeitet, verstanden oder erzeugt werden muss, kommen LLMs heute zum Einsatz. Kein anderes KI-Werkzeug hat sich in so kurzer Zeit in so viele Berufsfelder integriert, von der Redaktion über die Softwareentwicklung bis hin zur juristischen Due Diligence.

Konkrete Einsatzfelder im Unternehmensalltag:

• Texterstellung: Artikel, E-Mails, Produktbeschreibungen, Social-Media-Posts und Werbetexte auf Basis einfacher Prompts
• Zusammenfassung: Kondensierung langer Berichte, Verträge oder Forschungsarbeiten auf das Wesentliche
• Übersetzung: Hochwertige Übersetzungen zwischen Dutzenden Sprachpaaren mit kontextsensitiver Genauigkeit
• Frage-Antwort-Systeme: Abruf und Synthese von Informationen aus bereitgestellten Dokumenten oder Wissensdatenbanken
• Klassifikation und Sentimentanalyse: Kategorisierung von Texten, Tonalitätserkennung und Labeling im großen Maßstab
• Konversations-KI: Mehrfach-Dialog-fähige Chatbots für Kundensupport, virtuelle Assistenten und KI-Agenten
• Dokumentenanalyse: Extraktion strukturierter Informationen aus Verträgen, Rechnungen oder Formularen

Laut einer McKinsey-Erhebung aus dem Jahr 2023 zählen das Erstellen von Textentwürfen (54 Prozent der befragten Enterprise-Nutzer), das Zusammenfassen langer Dokumente (52 Prozent) und das Beantworten interner Wissensfragen (49 Prozent) zu den häufigsten unternehmerischen KI-Anwendungen. Für 2025 und 2026 dürften diese Zahlen deutlich höher liegen, da die Modellqualität stark gestiegen ist und die Nutzung über alle Branchen hinweg zunimmt.

Softwareentwicklung und Code

Eines der produktivsten Anwendungsfelder ist die Softwareentwicklung. In Sprachen wie Python, JavaScript, TypeScript, SQL oder Rust können LLMs Code schreiben, vervollständigen und debuggen. GitHub Copilot, das auf GPT-Modellen von OpenAI basiert, ist das prominenteste Beispiel: Direkt im Editor schlägt es kontextbezogene Code-Ergänzungen vor und hat sich für viele Teams als erhebliche Produktivitätssteigerung erwiesen.

Darüber hinaus helfen LLMs beim Verstehen unbekannten Codes, beim Schreiben von Unit-Tests und beim Erklären komplexer Algorithmen in natürlicher Sprache. Der Wissenstransfer innerhalb von Entwicklungsteams wird damit deutlich erleichtert. Auch das Review von Pull Requests oder das Aufspüren von Sicherheitslücken in bestehendem Code gehören mittlerweile zum Repertoire der eingesetzten Werkzeuge.

Für Content-Teams und Agenturen ist die Kombination aus Texterstellung und Prozessautomatisierung besonders attraktiv. Nicht nur Artikelentwürfe lassen sich erstellen, sondern auch SEO-Briefings auswerten, Keyword-Cluster analysieren, Metadaten vorschlagen und ganze Redaktionsprozesse als KI-Agenten koordinieren. Fließend ist dabei der Übergang vom Textgenerator zum autonomen Arbeitsassistenten. Entscheidend bleibt dennoch die menschliche Qualitätssicherung: LLM-generierte Inhalte sollten stets von einer Fachkraft geprüft werden, bevor sie veröffentlicht oder an Kunden übermittelt werden.

Grenzen und Risiken von Large Language Models

Falsche Informationen mit hoher Überzeugungskraft, verzerrte Trainingsdaten, veraltetes Wissen nach dem Trainingsschnitt, enormer Rechenbedarf: Diese vier Einschränkungen sollte jeder kennen, der LLMs professionell einsetzt. Wer sie ignoriert, riskiert fehlerhafte Inhalte, Datenschutzverstöße oder Entscheidungen auf Basis veralteter Informationen.

Halluzinationen

Das gravierendste Problem für professionelle Anwender sind Halluzinationen. Text wird dabei so generiert, dass er plausibel klingt, nicht indem Fakten gegen eine zuverlässige Quelle geprüft werden. Fehlt dem Modell ein ausreichend starkes Trainingssignal für eine konkrete Anfrage, produziert es unter Umständen selbstsicher klingende, aber faktisch falsche Ausgaben. Dazu zählen erfundene Studien, falsch zugeordnete Zitate oder gänzlich fiktive Firmennamen.

Zwischen 3 und 27 Prozent der Ausgaben waren laut einer Analyse aus dem Jahr 2023 halluziniert, je nach Modell und Aufgabentyp. Für redaktionelle oder juristische Kontexte heißt das: Jede faktische Aussage aus einem LLM-Output sollte vor der Veröffentlichung gegengeprüft werden. Neuere Modelle und Techniken wie Retrieval-Augmented Generation (RAG), bei der relevante Belege vor der Antwort aus einer Datenbank abgerufen werden, reduzieren Halluzinationen deutlich, eliminieren sie aber nicht vollständig.

Ein weiteres Problem ist der Trainings-Cutoff. Klar formuliert: Nach dem Abschluss des Trainings kennen LLMs keine neuen Ereignisse mehr. Wer ein Modell mit Cutoff Ende 2024 nach dem aktuellen Zinssatz der EZB fragt, erhält veraltete oder erfundene Zahlen. Ohne ein angebundenes Retrieval-System sind LLMs für zeitkritische Informationen ungeeignet.

Datenschutz und DSGVO

Wer personenbezogene Daten in externe LLM-APIs eingibt, riskiert DSGVO-Verstöße. Besonders relevant ist das in Deutschland und der EU, da Artikel 6 DSGVO eine Rechtsgrundlage für jede Verarbeitung personenbezogener Daten voraussetzt. Das gilt auch dann, wenn die Daten nur vorübergehend durch ein Modell verarbeitet werden. Kundendaten, Mitarbeiterinformationen oder Patientenakten sollten daher niemals unverschlüsselt an externe Dienste übertragen werden.

> Achtung: Wann kein LLM einsetzen

>

> – Wenn ungesicherte personenbezogene Daten (Namen, Adressen, Gesundheitsdaten) verarbeitet werden sollen und kein EU-Auftragsverarbeitungsvertrag mit dem Anbieter besteht

> – Wenn aktuelle, zeitkritische Informationen benötigt werden und kein Retrieval-System (RAG) eingebunden ist

> – Wenn das Ergebnis ohne menschliche Prüfung direkt in rechtlich oder medizinisch verbindlichen Kontexten verwendet wird

Large Language Models und DSGVO: Was Unternehmen in Deutschland beachten müssen

Für deutsche Unternehmen gilt eine klare Regel: Der Einsatz von LLM-APIs, die Daten auf Servern außerhalb der EU verarbeiten, ist nur dann DSGVO-konform, wenn eine Rechtsgrundlage nach Artikel 6 DSGVO vorliegt und ein Auftragsverarbeitungsvertrag mit dem Anbieter abgeschlossen wurde. Personenbezogene Daten dürfen nicht unverschlüsselt an externe Schnittstellen übergeben werden. Für viele mittelständische Unternehmen ist das der wichtigste rechtliche Aspekt beim Einstieg in den LLM-Einsatz.

Vier Punkte, die Unternehmen vor dem Produktivbetrieb klären sollten:

• Rechtsgrundlage prüfen: Auf welcher Grundlage nach Art. 6 DSGVO werden die Daten verarbeitet? Einwilligung, berechtigtes Interesse oder Vertragserfüllung?
• Auftragsverarbeitungsvertrag (AVV) abschließen: OpenAI, Anthropic und Google bieten AVVs an; ohne diesen Vertrag ist der Einsatz für personenbezogene Daten nicht zulässig.
• Datenminimierung einhalten: Nur die Daten übergeben, die für die konkrete Aufgabe tatsächlich notwendig sind. Identifizierende Merkmale nach Möglichkeit pseudonymisieren.
• Serverstandort und Drittlandtransfer beachten: Bei Anbietern mit Hauptsitz in den USA greift das EU-U.S. Data Privacy Framework, das seit 2023 gilt, aber juristisch weiterhin angefochten wird.

Hinzu kommt die Frage der Trainingsdaten. Einige LLM-Anbieter behalten sich das Recht vor, Eingaben für das weitere Modelltraining zu verwenden. Wer das verhindern möchte, sollte die Datenschutzeinstellungen des jeweiligen Dienstes überprüfen und gegebenenfalls den Enterprise-Plan mit deaktiviertem Training buchen.

Wer diese Unsicherheiten vollständig vermeiden möchte, kann auf europäische Alternativen ausweichen. Mistral AI mit Sitz in Frankreich betreibt Infrastruktur in der EU und bietet lokale Deployments an. Aleph Alpha aus Heidelberg ist ein weiterer europäischer Anbieter mit DSGVO-fokussiertem Betriebsmodell, der vor allem in der öffentlichen Verwaltung und im Gesundheitswesen eingesetzt wird. Beide Optionen erlauben es, Modelle auf eigenen Servern zu betreiben, was Datenabfluss an Dritte ausschließt.

Für einfache Anwendungsfälle ohne personenbezogene Daten, etwa das Erstellen allgemeiner Marketingtexte oder das Übersetzen öffentlicher Dokumente, sind die DSGVO-Anforderungen deutlich weniger streng. Wer LLMs auf solche Aufgaben beschränkt, kann in der Regel ohne aufwendige rechtliche Absicherung starten. Sinnvoll ist es dennoch, intern eine kurze Richtlinie zu erstellen, die festlegt, welche Daten an externe LLM-Dienste weitergegeben werden dürfen und welche nicht. Das schafft Klarheit für alle Mitarbeitenden und reduziert das Risiko versehentlicher Compliance-Verstöße erheblich.

Häufige Fragen zu Large Language Models

Frage: Was ist der Unterschied zwischen einem LLM und ChatGPT?

Antwort: Das LLM ist das technische Modell, ChatGPT ist das Produkt. ChatGPT ist eine Webanwendung, die auf dem LLM GPT-4o von OpenAI aufbaut. Das Modell ist der Motor, ChatGPT die Benutzeroberfläche darüber. Genauso verhält es sich bei Claude.ai (basiert auf Claude 3.5 Sonnet von Anthropic) oder Gemini (basiert auf Gemini 1.5 Pro von Google). Alle diese Chatbots nutzen ein LLM im Hintergrund, sind aber selbst keine Modelle, sondern Anwendungen. Einfach ausgedrückt: Das LLM ist der Verbrennungsmotor, ChatGPT das fertige Auto.

Frage: Welches Large Language Model ist am besten für Einsteiger?

Antwort: Für die meisten Einsteiger ist ChatGPT (GPT-4o) der einfachste Einstieg, weil die Webanwendung direkt ohne technisches Vorwissen genutzt werden kann. Wer längere Texte analysieren oder präzise Schreibaufgaben erledigen möchte, findet in Claude.ai eine starke Alternative. Beide bieten kostenlose Testzugänge an. Wer aus Datenschutzgründen nichts an externe Server senden möchte, kann LLaMA 3 lokal installieren, was allerdings etwas technisches Grundwissen voraussetzt.

Frage: Was kosten Large Language Models?

Antwort: Die Kosten variieren je nach Zugangsmodell. ChatGPT und Claude.ai sind in einer kostenlosen Basisversion verfügbar; erweiterte Funktionen und höhere Nutzungslimits kosten jeweils etwa 20 Euro pro Monat. Für die API-Nutzung wird nach Tokenvolumen abgerechnet: Bei GPT-4o kostet die Verarbeitung von einer Million Input-Tokens derzeit etwa 5 US-Dollar, bei Claude 3.5 Sonnet rund 3 US-Dollar. Günstiger sind kleinere Modelle wie GPT-4o mini oder Mistral Small, die nur einen Bruchteil davon kosten und sich gut für automatisierte Pipelines mit hohem Volumen eignen. Open-Source-Modelle wie LLaMA 3 sind kostenlos, erfordern aber eigene Hardware oder Cloud-Infrastruktur.

Frage: Was bedeutet Halluzination bei einem LLM?

Antwort: Halluzination bezeichnet das Phänomen, dass ein LLM faktisch falsche Informationen produziert, obwohl es sie mit hoher sprachlicher Überzeugungskraft präsentiert. Das Modell erfindet zum Beispiel Studien, die nicht existieren, schreibt Zitate falschen Personen zu oder nennt Produktnamen, die es nicht gibt. Der Grund: Optimiert wird auf sprachliche Plausibilität, nicht auf faktische Korrektheit. Halluzinationsraten lagen 2023 je nach Modell und Aufgabe zwischen 3 und 27 Prozent. Deshalb gilt als Grundregel: Faktische Aussagen aus LLM-Outputs immer gegenchecken, bevor sie veröffentlicht oder weitergegeben werden.

Frage: Kann ich ein LLM lokal auf meinem Computer betreiben?

Antwort: Ja, das ist mit Open-Source-Modellen wie LLaMA 3 oder Mistral möglich. Für kleinere Modellvarianten mit 7 oder 13 Milliarden Parametern reicht ein moderner Laptop mit dedizierter Grafikkarte aus. Leistungsfähigere Varianten mit 70 Milliarden Parametern benötigen deutlich mehr VRAM, was in der Praxis professionelle Workstations oder mehrere GPUs bedeutet. Tools wie Ollama vereinfachen die lokale Installation erheblich: Ein einziger Befehl in der Konsole genügt, um ein Modell herunterzuladen und lokal zu starten. Über eine einfache Web-Oberfläche wie Open WebUI lässt sich das Modell dann ähnlich komfortabel wie ChatGPT bedienen. Lokale Deployments bieten vollständige Datenkontrolle und keine laufenden API-Kosten, erfordern aber initiales technisches Setup und regelmäßige Pflege der Modellversionen.