LLMs – Glossar: Die wichtigsten Begriffe zu Large Language Models

Große Sprachmodelle (Large Language Models, LLMs) sind die Technologie hinter ChatGPT, Claude, Gemini – und hinter dem KI-Telefonassistenten von hey-listen.ai. Doch die Fachbegriffe rund um LLMs können verwirrend sein. Dieses Glossar erklärt die wichtigsten Konzepte verständlich – ohne Fachjargon.

Grundbegriffe

Large Language Model (LLM)

Ein LLM ist ein KI-Modell, das auf enormen Mengen von Textdaten trainiert wurde und dadurch in der Lage ist, menschliche Sprache zu verstehen und zu generieren. „Large" bezieht sich auf die Anzahl der Parameter – moderne LLMs haben Milliarden bis Billionen von Parametern. Bekannte Beispiele: GPT-4 (OpenAI), Claude (Anthropic), Gemini (Google), Llama (Meta).

Parameter

Parameter sind die internen Gewichtungen eines neuronalen Netzes, die beim Training angepasst werden. Je mehr Parameter ein Modell hat, desto mehr Wissen und Zusammenhänge kann es potenziell speichern. GPT-4 hat schätzungsweise über 1 Billion Parameter – zum Vergleich: das menschliche Gehirn hat etwa 100 Billionen Synapsen.

Token

LLMs verarbeiten Text nicht Zeichen für Zeichen, sondern in Tokens – Einheiten, die Wörter, Wortteile oder Satzzeichen sein können. Das Wort „Telefonassistent" könnte z.B. in 3–4 Tokens zerlegt werden. Die Anzahl der Tokens, die ein Modell gleichzeitig verarbeiten kann (Context Window), bestimmt, wie lange Texte es verstehen kann.

Context Window

Das Context Window ist die maximale Anzahl von Tokens, die ein LLM in einem Gespräch gleichzeitig „im Gedächtnis" behalten kann. Ältere Modelle hatten Context Windows von 4.000 Tokens, moderne Modelle können 100.000 Tokens oder mehr verarbeiten – das entspricht einem ganzen Buch.

Trainingskonzepte

Pre-Training

Pre-Training ist die erste Phase des LLM-Trainings: Das Modell lernt auf riesigen Textmengen (oft Teile des gesamten Internets), Sprachmuster, Fakten und Zusammenhänge zu erkennen. Dieser Schritt ist extrem rechenintensiv und kostet Millionen von Euro.

Fine-Tuning

Fine-Tuning ist die zweite Phase: Das vortrainierte Modell wird auf spezifische Aufgaben oder Domänen spezialisiert. hey-listen.ai nutzt Fine-Tuning, um das Basismodell auf gastronomische, pflegerische und immobilienwirtschaftliche Anfragen zu spezialisieren – das verbessert die Genauigkeit erheblich.

RLHF (Reinforcement Learning from Human Feedback)

RLHF ist eine Methode, bei der menschliche Bewerter die Antworten des Modells bewerten und das Modell daraus lernt, bessere Antworten zu geben. Diese Methode wurde von OpenAI für ChatGPT populär gemacht und ist heute Standard bei der Entwicklung hilfreicher und sicherer LLMs.

Prompt Engineering

Prompt Engineering bezeichnet die Kunst, Eingaben (Prompts) so zu formulieren, dass ein LLM optimale Ausgaben produziert. Ein gut formulierter Prompt kann die Qualität der Antworten erheblich verbessern. Für KI-Telefonassistenten ist Prompt Engineering entscheidend für die Qualität der Gespräche.

Architekturen und Methoden

Transformer

Die Transformer-Architektur, 2017 von Google in dem Paper „Attention is All You Need" vorgestellt, ist die Grundlage aller modernen LLMs. Transformer können Beziehungen zwischen Wörtern in einem Text ganzheitlich analysieren – unabhängig davon, wie weit sie voneinander entfernt sind. Das ermöglicht ein tiefes Verständnis von Kontext und Bedeutung.

Attention-Mechanismus

Der Attention-Mechanismus ist das Herzstück der Transformer-Architektur. Er ermöglicht es dem Modell, beim Verarbeiten eines Wortes alle anderen Wörter im Kontext zu berücksichtigen und zu gewichten – ähnlich wie ein Mensch beim Lesen eines Satzes den Kontext des gesamten Satzes im Blick behält.

RAG (Retrieval-Augmented Generation)

RAG ist eine Methode, bei der ein LLM mit einer externen Wissensdatenbank kombiniert wird. Statt alle Informationen im Modell zu speichern, kann das System bei Bedarf aktuelle Informationen abrufen. hey-listen.ai nutzt RAG, um Echtzeit-Informationen wie Tischverfügbarkeiten oder Bestellstatus in Gespräche einzubinden.

Zero-Shot und Few-Shot Learning

Zero-Shot Learning bezeichnet die Fähigkeit eines LLMs, Aufgaben zu lösen, für die es nicht explizit trainiert wurde – nur auf Basis des allgemeinen Sprachverständnisses. Few-Shot Learning bedeutet, dass das Modell mit wenigen Beispielen im Prompt eine neue Aufgabe erlernen kann. Beide Methoden sind entscheidend für die Flexibilität moderner KI-Systeme.

Sicherheit und Ethik

Halluzination

Halluzination bezeichnet das Phänomen, dass LLMs plausibel klingende, aber faktisch falsche Informationen generieren. Das ist eine der größten Herausforderungen beim LLM-Einsatz. hey-listen.ai begegnet diesem Problem durch RAG (Echtzeit-Datenabruf statt Modellgedächtnis) und klare Grenzen für die Wissensbasis des Assistenten.

Guardrails

Guardrails sind Sicherheitsmechanismen, die verhindern, dass ein LLM schädliche, diskriminierende oder unangemessene Inhalte generiert. Sie können auf Prompt-Ebene (Systemanweisungen), Modell-Ebene (RLHF) oder Output-Ebene (Filterung) implementiert werden.

LLMs bei hey-listen.ai

hey-listen.ai nutzt speziell für den deutschen Sprachraum optimierte LLMs als Kern des KI-Telefonassistenten. Die Modelle werden durch Fine-Tuning auf branchenspezifische Anfragen spezialisiert und durch RAG mit Echtzeit-Daten aus integrierten Systemen angereichert. Guardrails stellen sicher, dass der Assistent immer professionell und DSGVO-konform kommuniziert.