# Large Language Model (LLM): Definition und Bedeutung für Unternehmen

> Ein Large Language Model (LLM) ist ein mit sehr viel Text trainiertes Sprachmodell, das zu einer Eingabe die wahrscheinlich passende Fortsetzung berechnet. Es schreibt, fasst zusammen und beantwortet Fragen, handelt aber nicht selbst. Dafür braucht es einen KI-Agenten mit Werkzeugen.

Kanonische URL: https://www.ruebstudio.de/de/lexikon/large-language-model-llm  
Autor: Dr.-Ing. Marcus Rüb, CEO  
Veröffentlicht: 2026-10-21

Ein Large Language Model (LLM) ist ein Sprachmodell mit sehr vielen Parametern, das auf großen Textmengen trainiert wurde und zu einem gegebenen Text die wahrscheinlichste Fortsetzung berechnet. Aus dieser einen Fähigkeit entstehen Schreiben, Zusammenfassen, Übersetzen und Beantworten von Fragen. Für Unternehmen ist das LLM der Baustein, auf dem Assistenten, Chatbots und [KI-Agenten](https://www.ruebstudio.de/de/ki-agenten) aufsetzen.

## Wie funktioniert ein Large Language Model?

Ein LLM zerlegt Text in kleine Einheiten, sogenannte Token, und sagt Token für Token voraus, was als Nächstes kommt. Gelernt hat es das im Vortraining auf großen Textsammlungen; danach wird es mit Feinabstimmung und menschlichem Feedback zu einem Assistenten geformt, der Anweisungen befolgt.

Die drei Schritte im Einzelnen:

- **Vortraining:** Laut [Anthropic-Glossar](https://platform.claude.com/docs/en/about-claude/glossary) wird das Modell zunächst darauf trainiert, das nächste Wort aus dem vorherigen Text vorherzusagen. Ein so trainiertes Modell kann noch keine Fragen zuverlässig beantworten.
- **Feinabstimmung und RLHF:** Menschen bewerten Antworten, und das Modell lernt, die besser bewerteten zu bevorzugen. Erst dadurch entsteht das Verhalten eines hilfreichen Assistenten.
- **Architektur:** Heutige LLMs bauen in der Regel auf dem Transformer auf, den Vaswani et al. 2017 in [Attention Is All You Need](https://arxiv.org/abs/1706.03762) vorgestellt haben. Wie stark Größe zählt, zeigte 2020 GPT-3 mit 175 Milliarden Parametern ([Brown et al.](https://arxiv.org/abs/2005.14165)).

Was das Modell in einer Anfrage berücksichtigen kann, begrenzt das Kontextfenster, eine Art Arbeitsgedächtnis. Alles außerhalb des Trainings und außerhalb dieses Fensters kennt es nicht, also auch nicht Ihre Preisliste oder das letzte Kundenprojekt.

## Abgrenzung: LLM, Chatbot, KI-Agent und Suchmaschine

Das LLM ist der Motor, nicht das Fahrzeug. Ein Chatbot ist eine Oberfläche, die ein LLM im Gespräch nutzt. Ein KI-Agent gibt dem Modell Werkzeuge und lässt es Aufgaben in mehreren Schritten selbst erledigen. Eine Suchmaschine findet vorhandene Dokumente, während ein LLM neuen Text erzeugt.

- **LLM:** erzeugt Text aus Text. Es ruft von sich aus kein System auf und schreibt nichts ins ERP.
- **Chatbot:** Gesprächsoberfläche um ein LLM, oft mit festem Themenrahmen.
- **[KI-Agent](https://www.ruebstudio.de/de/lexikon/ki-agent):** Modell plus Werkzeuge, Anweisungen und Gedächtnis; liest etwa ein Ticket, sucht im Handbuch und legt einen Antwortentwurf an.
- **Suchmaschine:** liefert Fundstellen mit Quelle, erfindet aber nichts hinzu.

Wer ein Sprachmodell im Unternehmen auswählt, vergleicht konkrete Produkte, etwa im Überblick [Claude im Unternehmen](https://www.ruebstudio.de/de/wissen/ki-tools-und-plattformen/claude-im-unternehmen).

## Worauf sollten Unternehmen achten?

Ein LLM formuliert flüssig, auch wenn es falsch liegt. Diese sogenannten Halluzinationen lassen sich verringern, aber nicht ausschließen. Für Geschäftsprozesse heißt das: Antworten an Quellen binden, Unsicherheit zulassen und wichtige Ergebnisse von Menschen prüfen lassen.

[Anthropic empfiehlt](https://platform.claude.com/docs/en/test-and-evaluate/strengthen-guardrails/reduce-hallucinations), dem Modell ausdrücklich zu erlauben, „Ich weiß es nicht“ zu sagen, Antworten auf wörtliche Zitate aus den mitgegebenen Dokumenten zu stützen und jede Aussage mit einer Fundstelle zu belegen. In unserem eigenen Betrieb hat sich bewährt, dem Modell nur die Dokumente zu geben, die für die Aufgabe nötig sind, statt auf sein Allgemeinwissen zu vertrauen.

Ein LLM passt nicht, wenn eine Aufgabe exakt und immer gleich ablaufen muss, etwa eine Rechnung buchen oder einen Preis berechnen. Dafür ist klassische Software zuverlässiger; das Modell kann sie höchstens als Werkzeug aufrufen.

## Häufige Fragen

### Ist ChatGPT oder Claude ein LLM?

Beide sind Anwendungen, die auf einem großen Sprachmodell aufbauen. Das Modell selbst ist der Kern, das Produkt ergänzt Oberfläche, Verlauf, Dateiupload und oft Werkzeuge wie die Websuche.

### Weiß ein LLM, was in unseren Firmendaten steht?

Nein, nicht von sich aus. Firmenwissen muss bei jeder Anfrage in den Kontext gegeben werden, etwa über eine Dokumentensuche, die passende Abschnitte mitliefert.

### Kann ein LLM auf eigenen Servern laufen?

Ja, Modelle mit offenen Gewichten lassen sich auf eigener Hardware mit ausreichend Grafikspeicher betreiben. Kleinere Modelle sind dann günstiger im Betrieb, liefern bei komplexen Aufgaben aber oft schwächere Ergebnisse.

### Warum gibt ein LLM auf dieselbe Frage unterschiedliche Antworten?

Bei der Erzeugung wird aus mehreren wahrscheinlichen Fortsetzungen ausgewählt. Der Parameter Temperatur steuert, wie stark diese Auswahl streut; selbst bei Temperatur null sind die Ergebnisse laut Anthropic nicht vollständig identisch.

## Quellen

- [Anthropic: Glossary (LLM, Pretraining, RLHF, Temperature, Context window)](https://platform.claude.com/docs/en/about-claude/glossary)
- [Vaswani et al.: Attention Is All You Need (12. Juni 2017)](https://arxiv.org/abs/1706.03762)
- [Brown et al.: Language Models are Few-Shot Learners (28. Mai 2020)](https://arxiv.org/abs/2005.14165)
- [Anthropic: Reduce hallucinations](https://platform.claude.com/docs/en/test-and-evaluate/strengthen-guardrails/reduce-hallucinations)
