Ein Large Language Model (LLM) ist ein grosses neuronales Sprachmodell, das anhand umfangreicher Textdaten trainiert wird. Es verarbeitet Eingaben als Tokens und erzeugt Ausgaben schrittweise, indem es jeweils eine wahrscheinliche Fortsetzung berechnet. Beispiele für LLM-Familien sind GPT, Gemini, Claude, Llama und Mistral.
Was bedeutet Large Language Model?
Language Model bedeutet Sprachmodell: Es modelliert statistische Beziehungen in Sprache. Large verweist auf die grosse Zahl trainierbarer Parameter, die umfangreichen Trainingsdaten und den erheblichen Rechenaufwand moderner Modelle. Die genaue Grenze, ab wann ein Modell als „large“ gilt, ist nicht einheitlich.
Ein LLM ist nicht dasselbe wie ein Chatbot. Der Chatbot ist die Anwendung mit Benutzeroberfläche, Systemregeln, Tools, Speicher und Sicherheitslogik. Das LLM ist eine generative Komponente innerhalb dieser Anwendung.
Wie funktioniert ein Large Language Model?
Tokens statt ganzer Wörter
Text wird in Tokens zerlegt. Ein Token kann ein Wort, Wortteil, Satzzeichen oder anderes Zeichenmuster sein. Das Modell verarbeitet Tokenfolgen und erzeugt daraus weitere Tokens.
Transformer und Aufmerksamkeit
Moderne LLMs basieren überwiegend auf Transformer-Architekturen. Attention-Mechanismen gewichten, welche Teile einer Eingabe für die aktuelle Berechnung relevant sind. Dadurch kann das Modell Beziehungen über längere Textpassagen berücksichtigen.
Training und Inferenz
Im Training werden Modellparameter anhand sehr vieler Beispiele angepasst. Bei der späteren Nutzung – der Inferenz – verändert eine normale Anfrage diese Parameter nicht. Die Eingabe wird verarbeitet und Token für Token fortgesetzt.
Kontextfenster
Das Kontextfenster begrenzt, wie viele Tokens das Modell in einer Anfrage berücksichtigen kann. Ein grösseres Fenster ermöglicht mehr Material, garantiert jedoch nicht, dass jede Information gleich gut genutzt oder korrekt priorisiert wird.
Was kann ein LLM?
Text erzeugen
Entwürfe, Zusammenfassungen, Übersetzungen und strukturierte Antworten formulieren.
Information extrahieren
Entitäten, Kategorien oder Felder aus unstrukturiertem Text ableiten.
Code unterstützen
Code erklären, Beispiele erzeugen und mögliche Fehlerstellen diskutieren.
Fragen beantworten
Auf Basis von Training, Prompt, bereitgestelltem Kontext und Tools antworten.
Werkzeuge aufrufen
In einer kontrollierten Anwendung APIs oder Funktionen zur Ausführung vorschlagen.
Sprache strukturieren
Inhalte klassifizieren, umformulieren oder in definierte Ausgabeformate bringen.
Welche Grenzen haben Large Language Models?
- Halluzinationen: Plausibel klingende Ausgaben können faktisch falsch sein.
- Veraltetes Wissen: Training bildet keinen garantiert aktuellen Wissensstand ab.
- Fehlende interne Daten: Unternehmenswissen ist ohne Kontext oder Integration unbekannt.
- Wahrscheinlichkeit statt Gewissheit: Eine flüssige Antwort ist kein Beweis für Richtigkeit.
- Kontextgrenzen: Sehr grosse oder widersprüchliche Eingaben können die Qualität verschlechtern.
- Sicherheitsrisiken: Prompt Injection, Datenabfluss und unkontrollierte Tool-Aufrufe brauchen Schutz.
Wie hängen LLM und Retrieval-Augmented Generation zusammen?
Retrieval-Augmented Generation ergänzt ein LLM um Informationssuche. Das RAG-System findet externe Inhalte und stellt ausgewählte Textpassagen in den Kontext. Das LLM formuliert daraus die Antwort.
| Komponente | Aufgabe |
|---|---|
| LLM | Sprache verstehen, transformieren und generieren |
| Retriever | Relevante Informationen aus Datenquellen finden |
| RAG-Pipeline | Frage, Retrieval, Kontext und Generierung koordinieren |
| Guardrails | Eingaben, Berechtigungen und Ausgaben kontrollieren |
| Evaluation | Retrieval- und Antwortqualität reproduzierbar messen |
Vom Sprachmodell zum Wissensassistenten
Lesen Sie als Nächstes, wie RAG externe Quellen integriert oder wie Spring AI den Ablauf in Java strukturiert.