LLM-Basics ohne Bullshit: Kontextfenster, Tokens, Halluzinationen

Wenn du mit LLMs arbeitest, brauchst du keine 80 Slides Theorie. Drei Dinge reichen am Anfang: Tokens, Kontextfenster und Halluzinationen.

1) Tokens sind dein echtes Budget

Ein Modell denkt nicht in Wörtern, sondern in Token-Stücken. Je mehr Token du reinschiebst (Prompt + Anhänge + Verlauf), desto teurer und langsamer wird es.

  • Kurzer, klarer Prompt > langer Labertext
  • Irrelevanten Chat-Verlauf regelmäßig kürzen
  • Bei langen Inputs lieber zusammenfassen und dann weiterarbeiten

2) Kontextfenster ist endlich

Das Kontextfenster ist der Arbeitsbereich des Modells. Ist er voll, gehen ältere Infos verloren oder werden schlecht gewichtet.

  • Gib dem Modell zuerst Ziel + Rolle + Outputformat
  • Danach nur die Daten, die es wirklich braucht
  • Wichtige Regeln am Ende nochmal kompakt wiederholen

3) Halluzinationen sind kein Bug, sondern Verhalten

LLMs füllen Lücken „plausibel“ auf. Das klingt oft überzeugend, kann aber falsch sein.

  1. Verlange Quellen oder Unsicherheits-Flags
  2. Lass kritische Aussagen gegenchecken
  3. Nutze feste Antwortstruktur (z. B. „Fakt / Annahme / Risiko“)

Mini-Template für saubere Prompts

Ziel: [Was genau soll rauskommen?]
Kontext: [Nur relevante Fakten]
Grenzen: [Was NICHT angenommen werden darf]
Output: [Format, Länge, Sprache]
Qualitätscheck: [Welche Punkte müssen verifiziert sein]

Fazit

Wenn du Tokens, Kontext und Halluzinationen im Griff hast, steigt die Qualität sofort – ohne Magie, ohne Buzzword-Bingo.


Nächster sinnvoller Artikel:
Prompt Injection in der Praxis: 7 Angriffswege + Gegenmaßnahmen

Passend dazu: Wenn du tiefer einsteigen willst, schau in unsere LLM News und in den Artikel-Hub.

Comments

Leave a Reply

Your email address will not be published. Required fields are marked *