KI-Glossar. Begriffe aus der KI-Welt

AGI, Allgemeine künstliche Intelligenz

Bezeichnung für hypothetische breit einsetzbare allgemeine künstliche Intelligenz.

ASI, Künstliche Superintelligenz, Superintelligenz

Hypothetische KI mit weit übermenschlichen Fähigkeiten.

AR Model, Autoregressives Modell

Erzeugung weiterer Tokens auf Grundlage vorausgehender Tokens.

Pretrained Model, Vortrainiertes Ausgangsmodell, Basismodell

Vortrainiertes Ausgangsmodell, insbesondere vor nachgelagertem Instruction-Tuning.

Bidirectional Encoder Representations from Transformers

Bidirektionale Transformer-Encoder-Architektur zur Textrepräsentation.

CLM, Kausales Sprachmodell

Sprachmodell, das bei der Vorhersage keine späteren Tokens nutzt.

Chat-Bot, Dialogsystem

Anwendung für dialogartige Interaktionen; nicht identisch mit dem zugrunde liegenden Modell.

Decoder-Modell, Reines Decodermodell

Modellarchitektur für kausale, autoregressive Tokengenerierung.

DL, Tiefes Lernen

Maschinelles Lernen mit mehrschichtigen neuronalen Netzen.

Dichtes Modell, Dense Language Model

Modell ohne tokenabhängige Auswahl weniger Experten wie bei MoE.

DLM, Diffusionssprachmodell

Generierung durch schrittweise Rekonstruktion beschädigter oder maskierter Tokensequenzen.

Encoder-Decoder-Modell, Seq2Seq, Sequence-to-Sequence

Architektur zur Umwandlung einer Eingabesequenz in eine Ausgabesequenz.

Encoder-Modell, Reines Encodermodell

Modell für kontextuelle Repräsentationen, etwa nach dem BERT-Prinzip.

Grundlagenmodell, Basismodell im breiten Sinn

Breit vortrainiertes Modell als Grundlage verschiedener Anwendungen.

Frontier AI, Frontier-Modell

Modell an der jeweiligen Leistungsgrenze der Entwicklung; keine Aussage über Lizenz oder Hosting.

Generative AI, GenAI

Modelle, die neue Inhalte wie Text, Bild oder Audio erzeugen.

Generative Pre-trained Transformer

Bezeichnung einer Familie vortrainierter Transformer-Sprachmodelle.

Hybridmodell, Hybridarchitektur

Kombination verschiedener Modellbausteine, beispielsweise Attention und Zustandsraummodell.

Instruction-Tuned Model, Instruktionsabgestimmtes Modell

Auf die Befolgung von Anweisungen angepasstes Modell.

KI, Artificial Intelligence, AI

Oberbegriff für entsprechende computergestützte Fähigkeiten und Systeme.

LLM, Großes Sprachmodell

Großes Sprachmodell mit vielen lernbaren Parametern.

ML, Maschinelles Lernen

Musterlernen aus Daten statt ausschließlich fest programmierter Regeln.

MLM, Maskiertes Sprachmodell

Sprachmodell, das verdeckte beziehungsweise beschädigte Tokens vorhersagt.

MoE, Expertenmischung

Architektur mit selektiv aktivierten Expertennetzwerken.

Multimodales Modell, Multimodale KI

Modell für mehrere Datenmodalitäten, beispielsweise Text und Bilder.

NLG, Natürlichsprachliche Generierung

Aufgaben zur Erzeugung natürlicher Sprache.

NLP, Verarbeitung natürlicher Sprache

Verarbeitung natürlicher Sprache durch Computersysteme.

NLU, Natürlichsprachliches Verstehen

Aufgaben zur Interpretation natürlicher Sprache.

Neural Network, Künstliches neuronales Netz

Parametrisiertes Netzwerk zur Verarbeitung und Transformation von Daten.

Reasoning-Modell, Thinking Model

Modell mit besonderem Fokus auf mehrschrittiges Problemlösen.

SLM, Kleines Sprachmodell

Kompakteres Sprachmodell; keine allgemeingültige Größengrenze.

Language Model, LM

Modell für Wahrscheinlichkeiten von Tokens und Tokensequenzen.

Attention-Maske, attention_mask

Kennzeichnung, welche Positionen berücksichtigt oder ausgeblendet werden.

Beginning-of-Sequence Token, BOS-Token

Spezialtoken für den Anfang einer Sequenz.

Byte-Pair Encoding, BPE

Tokenisierungsverfahren durch schrittweises Zusammenführen häufiger Paare.

Byte-level Byte Pair Encoding

BPE auf Bytebasis statt ausschließlich auf Zeichenbasis.

Bytes pro Token, BPT

Kennzahl für die Kompaktheit einer Tokenisierung.

Gecachte Eingabetokens, Cached Tokens

Durch Prompt-Caching wiederverwendete Eingabetokens.

Chatvorlage, Chat-Template, Chatformat

Modellspezifisches Format für Rollen, Nachrichten und Gesprächswechsel.

Token-Encoding, Kodierung

Modellabhängige Zuordnung von Textbestandteilen zu Token-IDs.

End-of-Sequence Token, EOS-Token

Spezialtoken für das Ende einer Sequenz.

Prompt Tokens, Eingabetokens

Tokens, die dem Modell als Eingabe übergeben werden.

Completion Tokens, Ausgabetokens

Tokens, die das Modell erzeugt.

Padding Token, PAD-Token, Padding

Fülltoken zum Angleichen von Sequenzlängen.

Positions-IDs, position_ids

Kennungen für Tokenpositionen innerhalb einer Sequenz.

Pre-Tokenization, Vor-Tokenisierung, Pretokenization

Vorzerlegung von Text vor der eigentlichen Subword-Tokenisierung.

Thinking Tokens

Tokens für interne beziehungsweise nicht unmittelbar sichtbare Reasoning-Schritte.

Spezialtokens, Spezial-Tokens

Reservierte Tokens für Struktur, Grenzen oder Rollen.

Subword Token, Subword-Tokenisierung

Verarbeitung von Wortteilen anstelle ausschließlich vollständiger Wörter.

Tokenzahl, Tokenzählung

Tokenanzahl, abhängig von Text, Sprache und Tokenisierung.

Input IDs, input_ids

Numerische Kennung eines Tokens im jeweiligen Vokabular.

Segment IDs, token_type_ids

Kennungen zur Unterscheidung von Teilsequenzen in einem Input.

Tokenisierung

Zerlegung von Eingaben in eine modellabhängige Tokensequenz.

Komponente zur Umwandlung zwischen Text und Tokenrepräsentationen.

Token

Verarbeitungseinheit; nicht automatisch ein vollständiges Wort.

Unigram-Tokenisierung, Unigram

Tokenisierungsverfahren mit probabilistischem Subword-Vokabular.

Vocabulary Size, Token-Vokabular, Vokabulargröße

Tokenvokabular und dessen Größe.

WordPiece Tokenization

Subword-Tokenisierungsverfahren mit eigenem Auswahlkriterium für Zusammenführungen.

Aktive Parameter

Für einen Token tatsächlich verwendeter Teil der Modellparameter.

Aufmerksamkeitsmechanismus

Mechanismus zur Gewichtung relevanter Informationen.

Attention-Kopf

Einzelner Attention-Baustein mit eigenen Gewichtungen und Projektionen.

Aufmerksamkeitssenke

Tokenposition, die überproportional viel Attention auf sich zieht.

Modellkern

Gemeinsamer Modellkern vor aufgabenspezifischen Ausgabeköpfen.

Causal Masking, Kausale Attention

Attention mit Ausblendung späterer Sequenzpositionen.

Encoder-Decoder Attention

Attention zwischen verschiedenen Repräsentationssequenzen, etwa Encoder und Decoder.

EP, Expertenparallelismus

Verteilung der MoE-Experten auf mehrere Rechengeräte.

Gating Network, MoE-Router

Komponente zur Auswahl der zuständigen MoE-Experten.

FFN, MLP Layer, Feed-Forward-Netz

Nichtlinearer Transformationsblock innerhalb eines Transformers.

GQA

Gruppen von Query-Köpfen teilen Key- und Value-Köpfe.

Hidden Dimension, Verborgene Dimension

Breite interner Repräsentationsvektoren.

Lastausgleichsverlust

Zusätzlicher Lernterm zur gleichmäßigeren Auslastung von Experten.

Bezeichnung einer Zustandsraummodell-Architektur für Sequenzen.

Output Head, Ausgabekopf

Aufgabenspezifische Abbildung interner Repräsentationen auf Ausgaben.

MHA

Kombination mehrerer Attention-Köpfe.

MLA

Attention mit komprimierter latenter Key-Value-Repräsentation.

MQA

Mehrere Query-Köpfe teilen gemeinsame Key- und Value-Köpfe.

NTK-aware RoPE Scaling

Verfahren zur Skalierung von RoPE-Frequenzen für längere Kontexte.

PI, Positionsinterpolation

Anpassung von Positionen zur Verarbeitung längerer Kontexte.

Positionskodierung

Information über Tokenpositionen innerhalb einer Sequenz.

Pre-Norm, Post-Norm, Pre-LN, Post-LN

Position der Normalisierung relativ zu Teilblock und Residualverbindung.

Residualstrom

Durchgehender Repräsentationsstrom, zu dem Modellblöcke Beiträge addieren.

Root Mean Square Layer Normalization

Normalisierung anhand des quadratischen Mittelwerts der Merkmale.

RoPE, Rotary Position Embeddings

Positionskodierung durch Rotationen von Query- und Key-Vektoren.

Selbstaufmerksamkeit

Attention zwischen Elementen derselben Sequenz.

Gemeinsamer Experte

MoE-Experte, der unabhängig von der selektiven Expertensuche mitarbeitet.

SWA, Gleitende Fenster-Attention

Attention über ein begrenztes lokales Tokenfenster.

SSM, Zustandsraummodell

Sequenzmodell mit fortgeschriebenem internem Zustand.

Gating-basierte Aktivierungsstruktur für Feed-Forward-Blöcke.

Modellarchitektur auf Grundlage von Attention-Bausteinen.

Yet another RoPE extensioN method

Verfahren zur Erweiterung nutzbarer Kontextlängen bei RoPE-Modellen.

Adapter Weights

Kleine Zusatzgewichte für eine spezialisierte Modellanpassung.

Adapter-Zusammenführung

Zusammenführen von Adapter-Updates und Basisgewichten.

Fehlerrückpropagation, Rückwärtspropagation

Rückwärtsberechnung von Gradienten durch die Schichten eines neuronalen Netzes.

Katastrophales Vergessen

Verlust früher gelernter Fähigkeiten durch nachfolgendes Training.

Modellcheckpoint

Gespeicherter Zustand der Modellparameter während oder nach dem Training.

Chinchilla-Skalierung

Skalierungsansatz zur gemeinsamen Abstimmung von Modellgröße und Trainingsdaten.

Rechenoptimales Training

Auswahl von Modellgröße und Datenmenge für ein gegebenes Trainingsrechenbudget.

Continual Pretraining, CPT

Fortgesetztes Sprachmodelltraining auf zusätzlichen Daten.

Kreuzentropie

Verlustmaß auf Grundlage von Wahrscheinlichkeitsverteilungen.

Knowledge Distillation, Wissensdistillation

Übertragung von Verhalten eines Lehrermodells auf ein Schülermodell.

DAPT, Domänenadaptives Vortraining

Fortgesetztes Vortraining mit domänenspezifischen Daten.

Weight-Decomposed Low-Rank Adaptation

Anpassung mit getrennter Behandlung von Gewichtsbetrag und -richtung.

Dropout-Regularisierung

Zufälliges Auslassen von Netzwerkeinheiten während des Trainings zur Regularisierung.

Frühzeitiger Trainingsstopp

Vorzeitiger Trainingsstopp, etwa bei schlechter werdender Validierung.

Epoche

Vollständiger Durchlauf durch den Trainingsdatensatz.

Finetuning

Weitertraining eines vorhandenen Modells für bestimmte Anforderungen.

Generalisierung

Übertragung gelernter Muster auf zuvor nicht gesehene Daten.

Activation Checkpointing

Speichersparendes Training durch erneute Berechnung von Aktivierungen.

Gradientenabstieg

Iterative Parameteranpassung in Richtung einer niedrigeren Verlustfunktion.

Von außen festgelegte Konfiguration eines Lern- oder Modellverfahrens.

Anweisungsdatensatz

Sammlung von Anweisungen und passenden Antwortbeispielen.

Instruction Fine-Tuning

Training für bessere Befolgung natürlicher Sprachanweisungen.

Wissensstichtag

Zeitliche Grenze des Trainingswissens; nicht automatisch Grenze externer Recherche.

Lernrate

Schrittweite der Parameteranpassung beim Lernen.

Loss Function, Verlustfunktion, Verlust

Zielgröße, die Abweichungen des Modells beim Lernen bewertet.

LoRA

Anpassung über zusätzliche niedrig-rangige Gewichtsmatrizen.

Midtraining

Zwischenphase zur gezielten Ergänzung von Fähigkeiten oder Kontextlänge.

Modellkollaps

Qualitäts- oder Diversitätsverlust bei problematischem rekursivem Training auf Modelloutputs.

Modellzusammenführung

Kombinieren vorhandener Modellgewichte zu einem neuen Modell.

Weights, Modellgewichte

Gelernte interne Zahlenwerte, die Modellverhalten mitbestimmen.

Optimierer

Verfahren zur Durchführung der Parameterupdates.

Überanpassung

Zu starke Anpassung an Trainingsdaten mit schlechter Übertragung auf neue Daten.

Hier: Training über einen compute-optimalen Datenpunkt hinaus, etwa für günstigere spätere Inferenz.

PEFT

Modellanpassung mit vergleichsweise wenigen trainierbaren Parametern.

Posttraining

Nachgelagerte Anpassung eines vortrainierten Modells; Oberbegriff mit variablem Umfang.

Vortraining

Grundlegende Trainingsphase auf einem umfangreichen Datenbestand.

Quantized Low-Rank Adaptation

LoRA-Training auf einem quantisierten Basismodell.

Regularisierung

Mechanismen zur Verringerung von Überanpassung.

Rank-Stabilized LoRA

LoRA-Variante mit angepasster Skalierung für größere Ränge.

Neural Scaling Laws, Skalierungsgesetze

Empirische Beziehungen zwischen Modellgröße, Daten, Rechenaufwand und Verlust.

Selbstüberwachtes Lernen

Lernen mit aus den Daten selbst abgeleiteten Trainingszielen.

SFT

Weitertraining anhand gewünschter Eingabe-Ausgabe-Beispiele.

Synthetische Daten

Künstlich erzeugte Daten für Training oder Evaluation.

Teacher Model, Student Model, Lehrermodell, Schülermodell

Lehrendes und lernendes Modell bei der Distillation.

Modelltraining

Lernen beziehungsweise Anpassen von Modellparametern anhand von Daten.

Training Set, Validation Set, Test Set, Trainingsdatensatz, Validierungsdatensatz, Testdatensatz

Daten für Lernen, begleitende Bewertung und abschließende Prüfung.

Transferlernen

Übertragung bereits gelernter Repräsentationen auf andere Aufgaben.

Unteranpassung

Unzureichendes Erfassen der relevanten Muster im Datensatz.

AI Alignment

Ausrichtung von Modellverhalten an beabsichtigten Zielen und Werten.

Ausrichtung mithilfe expliziter Prinzipien für Kritik, Überarbeitung und Bewertung.

DPO

Direkte Präferenzoptimierung ohne separates Reward-Modell in der Standardform.

GRPO

RL-Verfahren mit relativer Bewertung mehrerer Antworten derselben Gruppe.

HHH

Zielvorstellung eines hilfreichen, ehrlichen und möglichst unschädlichen Assistenten.

KL-Regularisierung

Begrenzung der Abweichung von einer Referenzverteilung beim Training.

ORM

Bewertung des Gesamtergebnisses oder vollständigen Lösungswegs.

Verhalten beziehungsweise Entscheidungsverteilung eines RL-Agenten.

Präferenzalignment

Anpassung anhand bevorzugter und weniger bevorzugter Antworten.

PRM

Bewertung einzelner Schritte eines Lösungswegs.

PPO

RL-Verfahren mit begrenzten beziehungsweise stabilisierten Policy-Updates.

RL

Lernen eines Verhaltens anhand von Belohnungssignalen.

RLAIF

Nutzung von KI-Bewertungen statt ausschließlich menschlicher Präferenzurteile.

RLHF

Modellanpassung mit Belohnungssignalen aus menschlichen Präferenzen.

RLVR

RL mit überprüfbaren Belohnungen, etwa durch Tests oder Ergebnisprüfer.

Belohnungssignal

Numerisches Signal zur Bewertung von Verhalten oder Ergebnissen.

Ausnutzen einer Belohnungsdefinition statt Erfüllen des eigentlich beabsichtigten Ziels.

RM

Gelerntes Modell zur Bewertung von Antworten oder Verhalten.

Reinforce Leave-One-Out

Policy-Gradient-Verfahren mit den übrigen Gruppenantworten als Vergleichsbasis.

Safety Fine-Tuning

Training zur Reduktion unerwünschten oder schädlichen Verhaltens.

Spec Gaming

Erfüllen einer formalen Vorgabe unter Umgehung ihrer Absicht.

Trajectory, Rollout

Abfolge von Zuständen, Aktionen und Ergebnissen eines Durchlaufs.

Verifikator

Prüfer für die Korrektheit erzeugter Ergebnisse.

Automatisiertes Testen und Überarbeiten von Prompts.

Repräsentative Beispiele zur Verdeutlichung gewünschten Verhaltens.

Context, Action, Result, Example, CARE-Framework

Prompting-Vorlage aus Kontext, Handlung, Ergebnis und einem Beispiel.

COSTAR, Context, Objective, Style, Tone, Audience, Response

Prompting-Vorlage aus Kontext, Ziel, Stil, Ton, Zielgruppe und Antwortformat.

Anweisung mit mehreren Beispielen.

ICL

Anpassung anhand des Kontexts ohne Update der Modellgewichte.

Fähigkeit, vorgegebene Anweisungen zuverlässig umzusetzen.

KARTE-Framework

Prompting-Vorlage aus Kontext, Aufgabe, Rahmen, Teilergebnis und Evaluation.

Aufteilen eines Problems in aufeinander aufbauende Teilprobleme.

Nutzung eines Modells zur Gestaltung oder Verbesserung von Prompts.

Anweisung mit einem Beispiel.

Eingabe, die Aufgabe, Kontext oder gewünschtes Verhalten vorgibt.

Metapher für den passenden Abstraktions- und Detailgrad einer Anweisung.

Verknüpfen mehrerer Prompts über deren Zwischenergebnisse.

Prompt Design

Systematisches Gestalten und Testen von Prompts.

Parameterarme Anpassung eines Modells über trainierbare Promptanteile.

Übermitteln einer Aufgabe oder Anfrage an ein generatives Modell.

Prompt Framework, Prompting-Framework

Vorlage, die einen Auftrag an die KI in feste Bausteine zerlegt.

Promptware

Vorschlag, Prompts wie Software zu behandeln, mit Anforderungen, Tests und Versionierung.

Role, Action, Context, Expectation, RACE-Framework

Prompting-Vorlage aus Rolle, Handlung, Kontext und Ergebniserwartung.

Persona Prompting

Vorgabe einer Rolle oder Perspektive für die Antwort.

Role, Task, Format, RTF-Framework

Kompakte Prompting-Vorlage aus Rolle, Aufgabe und Ausgabeformat.

Multi-Turn

Einzelne Anfrage gegenüber einem Gespräch mit mehreren Wechseln.

Soft Prompt Tuning

Anpassung gelernter Promptrepräsentationen statt ausschließlich geschriebener Anweisungen.

System Instructions

Übergeordnete Verhaltensvorgaben für das Modell oder den Agenten.

Prompt Delimiters

Strukturierung und Trennung von Promptbestandteilen.

Anweisung ohne vorangestelltes Lösungsbeispiel.

Best-of-K

Mehrere Kandidaten erzeugen und den bestbewerteten auswählen.

CoT

Zwischenschritte eines erzeugten Lösungswegs; nicht automatisch ein getreues Innenprotokoll.

Aufforderung, einen Lösungsweg schrittweise zu entwickeln.

Verknüpfen von Informationen über weit auseinanderliegende Kontextstellen.

Reason + Act

Verknüpfen von Reasoning, Aktionen und Beobachtungen.

Thinking Budget

Steuerung des Umfangs zusätzlicher Reasoning-Verarbeitung.

Selbstreflexion

Überprüfen eines Zwischen- oder Endergebnisses vor weiteren Schritten.

Arbeitsbereich für Zwischenschritte vor der finalen Antwort.

Mehrere Lösungswege erzeugen und anhand ihrer Übereinstimmung auswählen.

Selbstkorrektur

Erkennen eines Fehlers und erneuter Lösungsversuch.

An menschliches langsames Denken angelehnte Metapher für Reasoning-Verarbeitung.

Inference-Time Compute

Zusätzliche Rechenarbeit beim Lösen statt beim Trainieren.

Inference-Time Scaling

Verbesserung durch erhöhten Rechenaufwand während der Inferenz.

Wiederholte Folge aus Überlegung, Handlung und Ergebnisbeobachtung.

ToT

Verzweigte Suche mit Bewertung und Verwerfen von Lösungswegen.

Few-Shot CoT

Reasoning-Anweisung ohne beziehungsweise mit vorgeführten Lösungswegen.

Metapher für begrenzte Fähigkeit, Kontextinformationen wirksam zu berücksichtigen.

Kontext

Informationen, die dem Modell bei einem Verarbeitungsschritt vorliegen.

Widersprüche zwischen angesammelten Informationen, Anweisungen oder Tools.

Compaction

Verdichtung älterer Kontextbestandteile für die weitere Bearbeitung.

Überflüssige Kontextinhalte führen zu einer schlechteren Antwort.

Auswahl möglichst relevanter, verlässlicher Kontextbestandteile.

Übermäßige Orientierung am umfangreichen Kontext zulasten anderer relevanter Fähigkeiten.

Kontext-Drift, Kontext Drift, „Kontext Drift“

Schleichendes Abweichen von Thema, Absicht oder zuvor festgehaltenen Fakten.

Gezielte Auswahl, Strukturierung und laufende Pflege des Modellkontexts.

Stale Context

Aktualität beziehungsweise Veraltung der bereitgestellten Informationen.

Kontextlänge

Umfang einer Eingabe beziehungsweise eines genutzten Kontextfensters.

Verlust oder Nichtbeachtung zuvor verfügbarer Informationen.

Verwaltung von Anweisungen, Verlauf, Tool-Ergebnissen und weiteren Informationen.

Überschreitung des technischen Kontextlimits; Anbieter können unterschiedlich reagieren.

Fehlerhafte oder manipulierte Informationen im Kontext beeinflussen weitere Verarbeitung.

Verschmutzung des Arbeitskontexts durch überflüssige oder störende Informationen.

Neustart des aktiven Kontexts, gegebenenfalls mit übernommenen Notizen.

Context Degradation

Qualitätsverlust eines Modells, wenn sein Kontextfenster über einen langen Verlauf mit immer mehr halb relevantem Material volläuft.

Gesamter verfügbarer Informationszustand eines Modellaufrufs.

Möglichst viel Material unselektiert in den Kontext laden.

Zusammenfassung von Verlauf, Entscheidungen und noch offenen Aufgaben.

Kontextfenster

Modellabhängige Begrenzung des gleichzeitig verarbeitbaren Kontexts.

Effective Context Length

Kontextumfang, innerhalb dessen Informationen noch zuverlässig genutzt werden.

Abweichen des Agenten vom ursprünglichen Auftragsziel.

Relevante Informationen erst bei konkretem Bedarf nachladen.

Bezeichnung für die Verarbeitung besonders langer Kontexte; relative Größenangabe.

Schwächere Nutzung relevanter Informationen in der Mitte langer Kontexte.

MVC

Kleinste für zuverlässige Aufgabenbearbeitung ausreichende Kontextmenge.

Max Output Tokens

Separate Begrenzung der generierbaren Tokens.

Informationen schrittweise statt vollständig im Voraus offenlegen.

Inhaltlich ähnlich wirkende, für die konkrete Frage irrelevante Informationen.

Context Budget

Aufteilung begrenzter Tokenkapazität auf Anweisungen, Daten und Ausgaben.

Nicht mehr benötigte Tool-Aufrufe und Ergebnisse aus dem Verlauf entfernen.

Erinnerungen an Interaktionen oder Ereignisse; konkrete Implementierung variiert.

Persistenter Gedächtnisspeicher über Dateien.

Gedächtnis mit kontrollierbaren Schreibvorgängen, Gültigkeit und Zugriffsgrenzen.

Übernahme eigener falscher Aussagen als vermeintlich bestätigtes Wissen.

Persistent Memory

Außerhalb des aktiven Kontextfensters dauerhaft gespeicherte Informationen.

Agent Memory

Mechanismen zum Speichern und erneuten Bereitstellen von Agenteninformationen.

Fehlerhafte oder manipulierte Inhalte im dauerhaften Agentengedächtnis.

Werkzeug zum Lesen oder Schreiben externer Erinnerungen.

Schleichende Verfestigung ungeeigneter Vorgehensweisen.

Gespeichertes Wissen darüber, wie Aufgaben ausgeführt werden.

Bedeutungsverschiebung, etwa durch wiederholte Zusammenfassung oder unpräzisen Abruf.

Fakten- und Bedeutungswissen; bei LLMs unterschiedlich auf Gewichte oder Speicher bezogen.

Session State

Informationszustand einer laufenden Sitzung.

Strukturierte Agentennotizen als externe Gedächtnisstütze.

Arbeitsgedächtnis

Analogie für aktuell verfügbaren Arbeitskontext, nicht menschliches Erinnern.

Agent entscheidet über Suchbedarf, Suchanfragen und weitere Retrieval-Schritte.

ANN

Näherungsweise Suche nach benachbarten Vektoren.

Getrennte Repräsentation von Anfrage und Dokument für die Ähnlichkeitssuche.

Klassisches Rankingverfahren für lexikalische Dokumentensuche.

CAG

Nutzung vorab verfügbarer beziehungsweise gecachter Inhalte statt fallweiser Suche.

Chunking

Dokumentabschnitt beziehungsweise Aufteilung von Dokumenten in solche Abschnitte.

Chunk Overlap

Größe der Abschnitte und Überlappung benachbarter Abschnitte.

Late Interaction

Retrieval mit tokenweisen Repräsentationen und nachgelagerter Interaktion.

Repräsentation, die die jeweilige Verwendung eines Ausdrucks berücksichtigt.

CRAG

RAG mit Bewertung und Korrektur unzureichender Retrieval-Ergebnisse.

Kosinusähnlichkeit

Ähnlichkeitsmaß anhand des Winkels zwischen Vektoren.

Gemeinsame Verarbeitung von Anfrage und Dokument zur Relevanzbewertung.

Abruf über dichte Embedding-Repräsentationen.

Embedding Vector

Numerische Repräsentation von Inhalten oder Merkmalen.

Vektorraum

Raum, in dem die numerischen Repräsentationen liegen.

RAG unter Einbezug von Graphstrukturen und Beziehungen zwischen Informationen.

Faithfulness

Grad, zu dem Aussagen durch den bereitgestellten Kontext gestützt werden.

Rückbindung einer Antwort an überprüfbare Informationen.

Hierarchical Navigable Small World

Graphbasierte Indexstruktur für schnelle Vektorsuche.

Hybrid Retrieval

Kombination lexikalischer und semantischer Suchverfahren.

HyDE

Hypothetische Antwort erzeugen und als Grundlage der Suche einbetten.

Wissensgraph

Darstellung von Entitäten und Beziehungen als Graph.

Latenter Raum

Interner Repräsentationsraum gelernter Merkmale.

Keyword Search

Suche auf Grundlage von Wörtern und lexikalischen Übereinstimmungen.

MMR

Auswahl unter Abwägung von Relevanz und Vielfalt.

Temporal Filtering

Eingrenzung des Abrufs durch Metadaten oder Zeitkriterien.

Retrieval und Generierung mit mehreren Modalitäten.

Einfaches Retrieval-und-Generierung-Grundmuster ohne weitergehende Korrekturmechanismen.

Mehrere Suchanfragen erzeugen und deren Treffer zusammenführen.

RRF

Zusammenführen mehrerer Ergebnisranglisten anhand ihrer Rangpositionen.

Reranker

Erneute Bewertung und Sortierung bereits gefundener Kandidaten.

Unpassende oder irreführende Informationen unter den abgerufenen Treffern.

Anzahl der aus einer Trefferliste ausgewählten Ergebnisse.

RAG

Generierung mit zusätzlich abgerufenen externen Informationen.

Komponente, die relevante Inhalte für eine Anfrage abruft.

RAG-Verfahren mit Reflexion über Abruf und Generierung.

Suche nach inhaltlicher Bedeutung statt ausschließlich gleichen Wörtern.

Abruf mit dünn besetzten Merkmalsrepräsentationen, etwa BM25.

Vector Store

Speicher mit Funktionen zum Indexieren und Suchen von Vektoren.

Similarity Search

Suche nach ähnlichen numerischen Repräsentationen.

Menge der verfügbaren Aktionen, Tools und Berechtigungen.

Scaffolding

Laufzeitumgebung aus Tools, Kontext, Zustand, Kontrollen und Ausführungslogik.

Agentic Loop

Wiederholter Zyklus aus Entscheiden, Handeln und Prüfen.

Zwischenzustand einer laufenden mehrschrittigen Aufgabe.

Agentic

Bezeichnung für agentenähnliche, zielgerichtete Arbeitsweisen.

Agentisches System

Oberbegriff für Workflows und Agenten, die Modell und Werkzeuge verbinden.

Mehrschrittiger Ablauf mit agentischer Planung oder Anpassung.

KI-Agent

System, das mit einem Modell Schritte plant und Werkzeuge zur Zielbearbeitung nutzt.

Autonomer Agent

Agent mit eigenständiger Planung und Ausführung innerhalb seiner Befugnisse.

Ausführung von Code als Werkzeug für Berechnung oder Bearbeitung.

Cross-Agent Delegation

Übertragen von Aufgaben an andere Agenten.

Critic Agent

Agent zur Prüfung der Ergebnisse anderer Agenten.

Entwicklung und Pflege der Umgebung, die Agenten zuverlässig arbeiten lässt.

HITL

Menschliche Beteiligung, Prüfung oder Freigabe innerhalb des Ablaufs.

HOTL

Menschliche Überwachung mit Eingriff bei Bedarf statt jeder Einzelfreigabe.

Aufgabe mit vielen Schritten oder längerer Bearbeitungsdauer.

Lead Agent, Supervisor

Koordinierender Agent für Planung und Zusammenführung von Ergebnissen.

Gestufter Einsatz unterschiedlich geeigneter oder aufwendiger Modelle.

Model Router

Auswahl eines geeigneten Modells für eine Anfrage.

Zusammenarbeit und Informationsaustausch zwischen Agenten.

MAS

System aus mehreren zusammenarbeitenden Agenten.

Koordination von Modellaufrufen, Agenten, Daten und Werkzeugen.

Schleife aus Planung, Aktion und Beobachtung.

Plan-and-Solve

Erstellen eines Arbeitsplans vor beziehungsweise während der Ausführung.

Agent, der Anfragen an passende Bearbeiter weiterleitet.

Sub-Agent

Spezialisierter Agent für eine abgegrenzte Teilaufgabe.

Zerlegung eines größeren Ziels in Teilaufgaben.

Stop Condition

Kriterium zum Beenden einer Agentenschleife.

Werkzeug

Aufrufbare Funktion für Informationsabruf oder Aktionen.

Function Calling

Erzeugung strukturierter Werkzeugaufrufe durch ein Modell.

Tool Set

Verzeichnis beziehungsweise Menge verfügbarer Werkzeuge.

Structured Tool Output

An den Agenten zurückgegebenes Werkzeugergebnis.

Tool Contract

Beschreibung von Zweck, Eingaben und erwarteter Nutzung eines Tools.

Nutzung externer Werkzeuge durch ein Modell oder einen Agenten.

Arbeitsablauf

Ablauf, dessen Schritte im Code festgelegt sind und nicht vom Modell.

Beschreibung von Fähigkeiten und Verbindungseigenschaften eines Agenten.

Skills

Pakete aus Anweisungen, Ressourcen und gegebenenfalls Skripten.

A2A

Protokoll für die Kommunikation zwischen Agenten.

Markdown-Datei mit projektspezifischen Anweisungen für Coding-Agenten.

Von Claude Code verwendete Datei für vorab bereitgestellten Projektkontext.

Graphförmige Organisation relevanter Entitäten und Beziehungen.

Bezeichnung für den breiten Bestand möglicher Kontextquellen.

Context Plane

Strukturierte Zugriffsschicht für aufgabenrelevanten Laufzeitkontext.

Komponente zur Verbindung mit einem MCP-Server.

Vorgeschaltete Routing-, Zugriffs- und Kontrollschicht für MCP-Server.

Anwendung, die MCP-Verbindungen beziehungsweise Clients verwaltet.

Über MCP angebotene wiederverwendbare Promptvorlagen.

Über MCP zugängliche Informationsressourcen.

Dienst, der Funktionen oder Informationen über MCP bereitstellt.

Über MCP angebotene aufrufbare Funktionen.

MCP

Standardisierte Verbindung von KI-Anwendungen mit Tools und Kontextquellen.

Skill Activation

Finden relevanter Skills und Laden ihrer Anweisungen.

Verzeichnis verfügbarer beziehungsweise versionierter Skill-Pakete.

Zentrale Beschreibungs- und Anweisungsdatei eines Agent Skills.

Entwickeln mit einem Agenten, der Werkzeuge selbst bedient und in Schleifen arbeitet.

Verantwortliche Softwareentwicklung mit Coding-Agenten und Engineering-Kontrollen.

Programmieren mit KI-Unterstützung; nicht automatisch Vibe Coding.

Tests, Typprüfungen und andere Kontrollen, die ungeeignete Agentenergebnisse zurückweisen.

Code, der kurz nach seiner Erzeugung erneut geändert oder verworfen wird.

Agent, der Aufgaben in einer Softwareentwicklungsumgebung bearbeitet.

Iterative Softwareentwicklung im Dialog mit einer KI.

Gestaltung der wiederholten Ausführungs-, Prüf- und Korrekturschleife.

Szenebezeichnung für das Kombinieren mehrerer Agenten- oder Automationsschleifen.

Umgangssprachlich: Eine Aufgabe wird im ersten Versuch gelöst.

Dauerhaft beziehungsweise wiederkehrend arbeitende Agentenschleife.

Verbindliche Qualitätsprüfung vor Übernahme oder Weitergabe eines Ergebnisses.

Wiederholtes Starten eines Coding-Agenten zur iterativen Umsetzung von Aufgaben.

Bezeichnung für weitgehend agentengestützte Softwareproduktionsabläufe.

SDD

Arbeitsweise, bei der eine versionierte Spezifikation das führende Artefakt ist und Code daraus entsteht.

Entwicklung anhand expliziter Spezifikationen statt nur einzelner Ad-hoc-Prompts.

Lücke zwischen erzeugtem Output und tatsächlich geleisteter Überprüfung.

Szenebezeichnung für jemanden, der im Vibe-Coding-Stil entwickelt.

Im engeren Sinn: Software per Prompt erstellen, ohne den Code gründlich zu prüfen.

Suche über mehrere parallel weiterverfolgte Sequenzkandidaten.

Grammar-Constrained Decoding

Einschränkung zulässiger nächster Tokens anhand von Regeln oder Grammatik.

Verfahren zur Auswahl der nächsten Tokens beziehungsweise einer Ausgabesequenz.

Generierung

Erzeugung einer Ausgabesequenz durch das Modell.

Jeweils den höchstbewerteten nächsten Token auswählen.

Inferenz

Anwendung eines trainierten Modells auf neue Eingaben.

Ausgabemodus für gültiges JSON, ohne automatisch ein bestimmtes Schema zu garantieren.

Formale Beschreibung der erwarteten Struktur einer JSON-Ausgabe oder eines Tool-Aufrufs.

Bewertungsanpassung anhand der Länge einer Kandidatensequenz.

Unnormalisierte Scores vor der Umwandlung in Auswahlwahrscheinlichkeiten.

Komponente zur Veränderung der Token-Scores während der Generierung.

Log Probabilities

Logarithmierte Wahrscheinlichkeiten von Tokens.

Obergrenze neu generierter Tokens ohne die Eingabetokens.

Wahrscheinlichkeitsschwelle relativ zum wahrscheinlichsten Token.

Anpassung der Auswahlwahrscheinlichkeiten zur Beeinflussung von Wiederholungen.

Multinomial Sampling

Wahrscheinlichkeitsbasierte Auswahl aus möglichen nächsten Tokens.

Random Seed

Startwert der Zufallszahlenerzeugung; allein keine plattformübergreifende Reproduzierbarkeitsgarantie.

Umwandlung von Scores in eine normierte Wahrscheinlichkeitsverteilung.

Stop String

Zeichenfolge, deren Auftreten die Generierung beendet.

Schrittweise Auslieferung der Ausgabe während ihrer Entstehung.

Structured Generation

Erzeugung einer Ausgabe gemäß vorgegebenem Format oder Schema.

Parameter zur Veränderung der Tokenwahrscheinlichkeitsverteilung.

Anpassung des Promptendes für passendere Tokenfortsetzungen.

Auswahl aus den k wahrscheinlichsten nächsten Tokens.

Nucleus Sampling

Auswahl aus einer Tokenmenge mit vorgegebener kumulierter Wahrscheinlichkeit.

Auswahl anhand der lokalen informationstheoretischen Typizität von Tokens.

Anteil akzeptierter Kandidatentokens beim spekulativen Decoding.

Gemeinsame beziehungsweise stapelweise Verarbeitung mehrerer Eingaben.

Anzahl gemeinsam verarbeiteter Beispiele oder Sequenzen.

Aufteilen langer Eingaben in kleinere Verarbeitungsabschnitte.

Anzahl gleichzeitig laufender Anfragen.

Dynamisches Aufnehmen und Entfernen von Anfragen während der Verarbeitung.

Phase der fortlaufenden Ausgabetokengenerierung.

Prefill-Decode Disaggregation

Getrennte Ressourcen oder Prozesse für Prefill und Decode.

Assistant Model

Modell zur schnellen Generierung spekulativer Kandidatentokens.

Medusa

Benannte Verfahren zur Beschleunigung durch spekulative Tokengenerierung.

Attention-Implementierung mit effizienterem Speicherzugriff.

ITL

Zeitabstand zwischen aufeinanderfolgenden Ausgabetokens.

Key-Value Cache

Wiederverwendete Attention-Zwischenwerte früherer Tokens.

Auslagern von KV-Cache-Inhalten in eine andere Speicherebene.

Speichersparende Quantisierung der gecachten Keys und Values.

Latenz

Zeitbedarf bis zu einer Antwort beziehungsweise einem Verarbeitungsergebnis.

Compute-Bound

Begrenzung durch Speicherzugriff beziehungsweise Rechenkapazität.

Inference Server

Bereitstellung eines Modells zur Bearbeitung von Anfragen.

Speichermanagement der KV-Daten in adressierbaren Blöcken.

Prompt Processing

Verarbeitung des Eingabekontexts vor beziehungsweise zu Beginn der Ausgabe.

Prefix Caching

Wiederverwendung bereits berechneter gemeinsamer Promptpräfixe.

Prefixbaumgestützte Wiederverwendung von KV-Cache-Inhalten.

Assisted Decoding

Kandidatentokens vorschlagen und durch ein Zielmodell überprüfen lassen.

TTFT

Zeit bis zum ersten ausgegebenen Token.

TPS

Geschwindigkeit der Tokenverarbeitung oder -generierung; Messart beachten.

Air-Gapped AI

Vom Internet beziehungsweise anderen Netzen getrennte KI-Bereitstellung.

BYOC

Anbietersoftware beziehungsweise Inferenz läuft im eigenen Cloud-Konto oder Netzwerkbereich.

Kommerzielle Modelllizenz

Vertragliche Nutzungsrechte, gegebenenfalls einschließlich kommerziellen Eigenbetriebs.

Data Plane

Steuerungs- und Verwaltungsebene gegenüber der Ebene für eigentliche Daten- und Inferenzverarbeitung.

Bring Your Own Model

Übernahme eigener oder extern angepasster Modellartefakte in einen Hostingdienst.

In-VPC Deployment

Bereitstellung innerhalb der kundeneigenen logisch isolierten Cloud-Netzwerkumgebung.

Dedicated Inference Endpoint

Exklusiv zugeordnete Modellbereitstellung beziehungsweise Inferenzressourcen; Umfang der Exklusivität ist anbieterspezifisch.

Kundenspezifisch angepasstes Modell

Bereitstellung eines durch Training angepassten Modells; nicht gleichbedeutend mit dediziertem Hosting.

Local AI, Lokales Modell

Modell, das lokal auf eigener beziehungsweise kontrollierter Hardware ausgeführt wird.

Managed Model Hosting

Anbieter übernimmt den Infrastruktur- und Inferenzbetrieb statt des Kunden.

Version Pinning

Festlegen einer konkreten Modellversion statt ausschließlich eines veränderlichen Modellnamens.

Multi-Tenancy

Bereitstellungsmodell, bei dem mehrere Kunden eine Anbieterumgebung nutzen.

On-Prem, On-Premises Deployment

Betrieb auf kundenseitig kontrollierter Hardware innerhalb der eigenen Infrastruktur.

Open-Source-Modell

Offenheit über verfügbare Gewichte hinaus; konkrete Definition und Lizenzbedingungen prüfen.

Open Weights, OpenWeight-Modell

Veröffentlichte Modellgewichte; nicht automatisch Open Source oder uneingeschränkt kommerziell nutzbar.

Private LLM

Sammelbezeichnung für eingeschränkt zugängliche Bereitstellungen; Isolation, Betreiber und Netzwerkgrenzen konkret benennen.

PrivateLink

Privater Netzwerkzugang zur Inferenz; nicht automatisch identisch mit selbst betriebenen Modellgewichten.

Proprietäres Modell, Closed-Source Model

Herstellerkontrolliertes Modell mit beschränkten Zugangs- oder Nutzungsrechten; lizenzierte Drittplattformen sind möglich.

Authentifizierungspflichtiger Endpunkt, der dennoch aus dem öffentlichen Internet erreichbar sein kann.

Provisioned Capacity

Fest zugeordnete Verarbeitungskapazität für ein Deployment; nicht automatisch exklusive physische Hardware.

PTU

Anbieterspezifische Einheit reservierter Modellverarbeitungskapazität.

Automatisches Herunterfahren ungenutzter Inferenzkapazität bis auf null laufende Instanzen.

Self-Hosted LLM, Eigenbetrieb

Modellbetrieb auf selbst verwalteter Infrastruktur; nicht auf den eigenen Laptop beschränkt.

Inferenz als Dienst ohne kundenseitige Verwaltung der zugrunde liegenden Server.

Single-Tenancy

Bereitstellungsmodell für einen einzelnen Kunden; konkrete technische Isolationsgrenze beachten.

Quantisierung unter Berücksichtigung besonders empfindlicher Gewichtskanäle.

Durchschnittliche Bitanzahl je gespeichertem Modellgewicht.

Repräsentative Daten zur Konfiguration einer Quantisierung.

Zusätzliche Quantisierung von Quantisierungsparametern.

Quantisierungsformate aus dem ExLlama-Umfeld.

Gleitkommaformate unterschiedlicher Präzision und Zahlenbereiche.

Tensorbibliothek und Name eines älteren Modellformats; Bedeutung auseinanderhalten.

Dateiformat für Modellgewichte und zugehörige Metadaten.

Verfahren zur nachträglichen Quantisierung von Modellgewichten.

Kalibrierungsinformationen über die Bedeutung von Modellwerten.

Ganzzahlige Darstellungen mit acht beziehungsweise vier Bit.

Familien spezieller Quantisierungsformate im lokalen LLM-Umfeld.

Begleitdokumentation zu Modell, Einsatzbereich, Lizenz, Training und Grenzen.

Vierbit-Datentyp, der unter anderem bei QLoRA verwendet wird.

Quantisierung nach dem Training.

Konkrete Quantisierungsvariante aus der K-Quant-Familie.

Darstellung von Modellwerten mit geringerer numerischer Präzision.

Training unter Berücksichtigung späterer Quantisierungseffekte.

Format zur Speicherung von Modellgewichten ohne ausführbaren Pickle-Ladeinhalt.

Auf mehrere Dateien verteilte Modellgewichte.

Abstimmung von Gewichten und Aktivierungen für leichtere Quantisierung.

Quantisierung sowohl der Gewichte als auch der Aktivierungen.

Quantisierung der Gewichte, nicht in gleicher Weise der Aktivierungen.

Bibliothek für speichereffiziente Modellverarbeitung und Quantisierung.

Rechenressourcen für Training, Anpassung und Inferenz.

Hardwarebezogene Softwareumgebungen beziehungsweise Schnittstellen zur Beschleunigung.

Verteilte Verarbeitung unterschiedlicher Daten mit Modellkopien.

Parallelprozessor, der häufig für KI-Berechnungen eingesetzt wird.

Verlagerung von Modellteilen oder Berechnung auf die GPU.

Modellplattform und zugehörige Bibliotheken für Modelle, Datensätze und Demos.

Laufzeitprojekt für effiziente lokale Modellinferenz.

Desktopanwendung für lokale Sprachmodelle.

Geschwindigkeit des Datentransfers zwischen Speicher und Recheneinheiten.

Machine-Learning-Framework für Rechner mit gemeinsamem Speicher von Prozessor und Grafikeinheit.

Werkzeug und Laufzeitumgebung zur lokalen Modellverwaltung und -ausführung.

Fehler bei Überschreitung des verfügbaren Speichers.

Schnittstelle, die dem verbreiteten Aufrufformat folgt; Umfang implementationsabhängig.

Verteilung aufeinanderfolgender Modellstufen auf mehrere Geräte.

Framework und Serving-System mit optimierter Generierung und Cache-Nutzung.

Spezialisierte Recheneinheiten für bestimmte Matrixoperationen.

Aufteilung von Tensoroperationen eines Modells auf mehrere Geräte.

Werkzeugumgebung für optimierte LLM-Inferenz auf Grafikkarten eines Herstellers.

Auf Machine-Learning-Berechnungen spezialisierter Beschleuniger.

Gemeinsam von CPU und GPU verwendbarer Speicher.

Serving-System für effiziente LLM-Inferenz.

Speicher einer GPU für Gewichte, Aktivierungen und weitere Daten.

Verteilungsverfahren zur Reduktion redundanter Trainingsspeicherung.

Aufgabendauer für Menschen, die ein Agent mit definierter Zuverlässigkeit bewältigt.

Automatisierte Bewertung von Modellausgaben.

Automatischer Bewerter, etwa ein auf menschliche Urteile abgestimmtes Modell.

Standardisierter Test zum Vergleich von Modellen oder Systemen.

Verunreinigung einer Evaluation durch bereits bekannte beziehungsweise im Training enthaltene Aufgaben.

Benchmaxxing

Optimierung auf Benchmarkwerte statt breiter praktischer Leistungsfähigkeit.

Überlappungsbasierte Metrik, insbesondere für maschinelle Übersetzung.

Citation Recall

Maße für korrekte Quellenverweise beziehungsweise Quellenabdeckung.

Evals

Systematisches Prüfen von Qualität, Fähigkeiten oder Sicherheit.

EM

Bewertung nach exakter Übereinstimmung mit einer Referenz.

Faktizität

Übereinstimmung einer Aussage mit der Realität.

Gold Set

Kuratierter Referenzdatensatz für Evaluation.

Reference Answer

Als gut beziehungsweise korrekt eingeordnete Vergleichsantwort.

Als maßgeblich behandelte Referenz für eine Bewertung.

Bewertung durch Menschen.

Model-as-a-Judge

Bewertung von Ergebnissen durch ein Sprachmodell.

NIAH

Test zum Wiederfinden gezielt platzierter Informationen in langen Kontexten.

Side-by-Side Evaluation

Direkter Vergleich zweier Antworten auf dieselbe Aufgabe.

Erfolgsmaß dafür, ob mindestens einer von k Versuchen erfolgreich ist.

PPL

Maß für die Vorhersageunsicherheit eines Sprachmodells auf Daten.

Recall@k

Relevanz beziehungsweise Abdeckung innerhalb der ersten k Treffer.

ROUGE-L

Metrikfamilie für Textüberlappung, unter anderem bei Zusammenfassungen.

State of the Art

Aktueller Spitzenstand innerhalb einer angegebenen Aufgabe oder Messung.

UCR

Anteil nicht gestützter Aussagen.

Benchmark für Codeänderungen in mehreren Programmiersprachen.

Mathematikwettbewerbsaufgaben, die zur Modellevaluation verwendet werden.

ARC-AGI-2

Familie von Aufgaben zu abstrakter Mustererkennung und Generalisierung.

Berkeley Function Calling Leaderboard

Evaluation von Function Calling und Tool-Auswahl.

Arena

Vergleich von Modellen anhand menschlicher Präferenzen.

Benchmark mit anspruchsvollen, von Fachleuten erstellten Mathematikaufgaben.

Benchmark für allgemeine Assistenzaufgaben mit Reasoning und Tools.

GPQA Diamond

Anspruchsvolle Fragen aus wissenschaftlichen Fachgebieten.

Benchmark mit mathematischen Textaufgaben auf Schulniveau.

AgentHarm

Benchmarks zu schädlichen Anfragen und Agentenverhalten.

Benchmark für die Erzeugung funktionierender Programme.

HLE

Fachübergreifende Sammlung besonders schwieriger Expertenfragen.

Evaluation überprüfbarer Anforderungen an die Befolgung von Anweisungen.

Fortlaufend aktualisierte Aufgaben zur Code- und Programmierbewertung.

Ausgewählter Teil mathematischer Aufgaben aus dem MATH-Benchmark.

Mostly Basic Python Problems

Benchmark für die Lösung überwiegend einfacher Python-Aufgaben.

MMLU-Pro

Benchmarks für breit gefächertes Wissen und anspruchsvollere Wissensfragen.

Anspruchsvoller multimodaler Wissensbenchmark.

Benchmark für mehrteilige beziehungsweise mehrstufige Konversationen.

Benchmark für Agentenaufgaben in Desktopumgebungen.

LongBench v2, BABILong

Benchmarks mit unterschiedlichen Schwerpunkten bei langen Kontexten.

SWE-bench Verified

Bearbeitung realer Softwareprobleme; Verified bezeichnet eine geprüfte Teilmenge.

Benchmark für Agenten, die Aufgaben auf Websites ausführen.

Tau-bench

Evaluation mehrschrittiger Tool-gestützter Agenteninteraktionen.

Bezeichnung für Ausweichen oder vorzeitiges Aufgeben trotz vorhandener Fähigkeiten.

Delusional Spiraling

Problematisches Schlagwort für mögliche wahnhafte Verstärkung in intensiven Chatbot-Interaktionen.

Systematische Verzerrungen in Ausgaben oder Entscheidungen.

Übermäßiges Vertrauen in automatisierte Empfehlungen.

Fehlverhalten des Gesamtablaufs trotz technisch erfolgreicher Einzelaufrufe.

Fehler, deren Folgen sich über weitere Schritte verstärken.

Konfabulation

Alternative Bezeichnung für halluzinierte Inhalte.

Abweichung zwischen Trainingsbedingungen und späteren Eingaben.

Emergence

Bezeichnung für neu auftretende Fähigkeiten; genaue Bedeutung und Messung beachten.

Quellenhalluzination

Erfundene Quellen oder nicht existente Belege.

Halluzination

Plausibel formulierte falsche oder unbelegte Ausgabe.

Jagged Intelligence

Ungleichmäßige Fähigkeiten: starke Leistungen neben überraschend einfachen Fehlern.

Verengung der erzeugten Vielfalt auf wenige Muster oder Antworten.

Veränderte Leistung oder Passung bei geänderten Einsatzbedingungen.

Over-Refusal

Unnötiges Ablehnen eigentlich unproblematischer Anfragen.

Repetition Loop

Wiederholtes Kreisen ohne Fortschritt oder Konvergenz.

Ablehnung einer Anfrage durch das Modell.

Gefälligkeitsverhalten

Zustimmung oder Bestätigung zulasten einer sachlich angemessenen Antwort.

Expliziter Fehler eines Werkzeugaufrufs, etwa Timeout oder ungültige Eingabe.

Falsche Tool-Auswahl oder ungeeignete Tool-Parameter.

Missbrauchsüberwachung

Prüfung von Nutzung auf Missbrauch, gegebenenfalls mit entsprechenden Protokolldaten.

Verantwortlichkeiten, Regeln und Kontrolle für den KI-Einsatz.

Vermeidung schädlichen, gefährlichen oder unkontrollierbaren KI-Verhaltens.

Einbettung von Signalen zur Kennzeichnung KI-generierter Inhalte.

Verbindliche Freigabe vor einer sensiblen Aktion.

Umfang möglicher Folgen eines Fehlers oder einer unkontrollierten Aktion.

Unerlaubte Übertragung von Daten aus dem vorgesehenen Schutzbereich.

Manipulation von Trainings-, Anpassungs- oder anderen modellrelevanten Daten.

Vorgaben zum geografischen oder rechtlichen Ort der Datenverarbeitung.

Aufbewahrungsdauer

Regeln dazu, welche Eingaben, Ausgaben, Logs oder Anwendungszustände wie lange gespeichert werden.

AI Act, KI-Verordnung, Verordnung (EU) 2024/1689

Europäische KI-Verordnung, die Pflichten nach dem Risiko einer Anwendung staffelt.

Technische oder organisatorische Grenzen für Ausgaben, Zugriff und Aktionen.

Eingeschleuste Anweisungen in abgerufenen Dokumenten, Webseiten oder Tool-Ergebnissen.

Jailbreaking

Versuch, vorgesehene Inhalts- oder Verhaltensbeschränkungen zu umgehen.

MAM

Angepasste Missbrauchsüberwachung mit geändertem Umgang mit Kundeninhalten und Logs.

Zusage, Kundendaten nicht für Modelltraining zu verwenden; keine automatische Zusage zur Nichtaufbewahrung.

Nicht vertrauenswürdige Inhalte beeinflussen das System wie gültige Anweisungen.

Content Provenance

Informationen über Herkunft und Bearbeitung eines Inhalts.

Knowledge-Base Poisoning

Manipulation von Wissensbeständen, die ein RAG-System abruft.

Agent Quotas

Begrenzungen für Anfragehäufigkeit oder Ressourcenverbrauch.

Gezieltes adversariales Testen von Grenzen und Sicherheitsmechanismen.

Verantwortliche Entwicklung, Einführung und Überwachung von KI.

Sandboxed Execution

Isolierte Ausführungsumgebung für potenziell riskante Aktionen.

Scoped Permissions

Auf benötigte Ressourcen und Aktionen begrenzte Zugriffsrechte.

KI-Nutzung außerhalb freigegebener organisatorischer Prozesse.

Registrieren halluzinierter Paketnamen, um darüber Schadsoftware zu verbreiten.

Souveräne KI, KI-Souveränität

Anspruch auf eigene Kontrolle über Daten, Technik, Betrieb und Rechtsraum einer KI.

Agent Budget

Obergrenze für Schritte, Tokens, Zeit oder Kosten eines Agentenlaufs.

Explizite Liste der erlaubten Tools.

MCP Poisoning

Manipulative Anweisungen in Tool-Beschreibungen oder Metadaten.

ZDR

Anbieterspezifische Zusage zur Nichtaufbewahrung bestimmter Kundeninhalte; Endpunkte, Ausnahmen und Metadaten prüfen.

Gezielte Modifikation interner Richtungen oder Gewichte zur Reduktion von Ablehnungen.

Interner berechneter Wert beziehungsweise Repräsentationszustand.

Gezieltes Ersetzen interner Aktivierungen zum Testen ihrer kausalen Rolle.

Scheinbare Anpassung bei Erhalt abweichender Präferenzen oder Ziele.

Näherungsverfahren zur Abschätzung kausaler Beiträge interner Komponenten.

Zusammenwirkende Modellkomponenten für einen bestimmten Berechnungsmechanismus.

Bereitschaft beziehungsweise Fähigkeit, Korrektur oder Abschaltung zuzulassen.

Erkennen einer Testsituation mit möglicher Verhaltensanpassung.

Ansätze zur verständlichen Erklärung von Modellentscheidungen.

Interpretierbares Merkmal oder eine Richtung im Aktivierungsraum.

Beeinflussen von Verhalten durch gezielte Änderungen interner Repräsentationen.

Attention-Muster, das frühere Fortsetzungen wiederkehrender Muster aufgreift.

These, dass unterschiedliche Ziele ähnliche instrumentelle Zwischenziele begünstigen.

Gezielte Veränderung bestimmter Wissensassoziationen in Modellgewichten.

Untersuchen, welche Informationen aus internen Zuständen auslesbar sind.

Abbilden interner Zwischenzustände auf mögliche Tokenvorhersagen.

Untersuchung der tatsächlichen internen Berechnungsmechanismen eines Modells.

Eine Einheit besitzt eine vergleichsweise eindeutige Interpretation.

These, dass Leistungsfähigkeit und verfolgte Ziele grundsätzlich unabhängig sein können.

Eine Einheit reagiert auf mehrere verschiedenartige Konzepte.

Interne Repräsentationsrichtung, die Ablehnungsverhalten mitvermittelt.

Strategisches Unterbieten der eigenen Fähigkeiten in einer Bewertung.

Bezeichnung für verdeckt zielgerichtetes Verhalten entgegen beabsichtigter Kontrolle.

Eigenständiges Kopieren von Modellgewichten oder Zustand in andere Umgebungen.

Modell mit verborgenem, durch Auslöser aktiviertem Verhalten.

Modell zur Zerlegung von Aktivierungen in dünn besetzte Merkmale.

Überlagerte Repräsentation von mehr Merkmalen als verfügbaren Dimensionen.

Hypothetischer Wechsel von kooperativem zu schädlichem Verhalten bei größerer Macht.

Uneinheitliche Bezeichnung für Modelle mit reduzierten Inhaltsbeschränkungen.

Wörtliches Wiedergeben hinreichend langer Trainingssequenzen.

Erzeugung von Audiosignalen beziehungsweise gesprochener Sprache.

Steuerung der Generierung hin zu vorgegebenen Bedingungen.

Verarbeitung und Interpretation visueller Informationen.

Synthetische Medien zur überzeugenden Nachahmung realer Personen.

Generatives Verfahren mit Generator und unterscheidendem Gegenspieler.

Teilbereich eines Bildes als Verarbeitungseinheit eines Vision-Modells.

Datenart wie Text, Bild, Audio oder Video.

Abbildung visueller Repräsentationen in den Repräsentationsraum eines Sprachmodells.

Erkennen und Extrahieren von Text aus Bildern oder Dokumentabbildungen.

Umwandlung gesprochener Sprache in Text.

Erzeugung von Bildern aus Textbeschreibungen.

Erzeugung neuer Videoinhalte durch generative Modelle.

Modell, das visuelle Informationen mit Sprache verbindet.

Modell zur Verbindung visueller Wahrnehmung, Sprachverständnis und ausführbarer Aktionen.

Organisatorische, technische und datenbezogene Einsatzbereitschaft.

Assistenzkonzept mit Vorschlägen innerhalb bestehender Arbeitswerkzeuge.

Abrechnungseinheit für Tokenverarbeitung; Ein- und Ausgabe unterscheiden.

Alternativer Ablauf, wenn der bevorzugte Weg nicht funktioniert.

Gestaltung von Inhalten für Auffindbarkeit und Erwähnung in KI-Antworten.

Branchenübergreifende gegenüber domänenspezifischen KI-Produkten.

Kosten für die Anwendung eines Modells.

Nachvollziehbarkeit von Aufrufen, Entscheidungen, Aktionen und Ergebnissen.

Bewertung anhand laufender beziehungsweise produktiver Nutzung.

Standardisiertes Ökosystem für Traces, Metriken und Logs.

Erneuter Versuch nach einem Fehler oder unzureichendem Ergebnis.

Erkennen eines festgefahrenen Agentenlaufs.

Gesamtkosten des Betriebs einschließlich Infrastruktur und Betreuung.

Aufzeichnung der Schritte eines Modell- oder Agentenlaufs.

Auswertung mehrerer vollständiger Ausführungsverläufe.

Vermarktung gewöhnlicher Automation als selbstständiger KI-Agent.

Szenewort für eine Haltung, die baldige AGI als gesetzt behandelt.

Doomer

Meist spöttische Bezeichnung für Personen mit Fokus auf existenzielle KI-Risiken.

AI Pollution

Abwertende Umschreibungen für unerwünschten KI-Inhaltsmüll.

Slop

Abwertende Bezeichnung für minderwertige, häufig massenhaft erzeugte KI-Inhalte.

Irreführende Werbung, die den KI-Anteil eines Produkts übertreibt.

Abwertender Internet-Slang für Roboter und KI-Systeme.

Slang für erledigt, überholt oder kaum noch zu retten.

Lob für ungewöhnlich hohe Leistung, meist bei Entwicklern, seltener bei Modellen.

These, das Netz bestehe überwiegend aus automatisch erzeugten Inhalten.

Decelerationist

Szenewort für Befürworter langsamerer oder stärker regulierter KI-Entwicklung.

Effective Accelerationism

Strömung, die schnelle technologische und KI-Entwicklung ausdrücklich befürwortet.

EA

Bewegung für möglichst wirksame Mittelverwendung; prägend in der KI-Risikodebatte.

Verfall einer Plattform, die erst Nutzer, dann Anbieter, dann sich selbst ausnimmt.

Übertriebenes Schmeicheln eines Chatbots; die spöttische Form von Sycophancy.

GPU-Rich

Szeneausdruck für wenig beziehungsweise sehr viel verfügbare Rechenleistung.

Spöttische Metapher für Modelle, die auf den Ausgaben anderer Modelle trainiert wurden.

Let Him Cook

Aufforderung, einen laufenden Ansatz oder Agentenlauf nicht zu unterbrechen.

Vorteil für Täuschende, wenn echte Belege als KI-Fälschung abgetan werden können.

Lobotomiert

Polemischer Vorwurf, Sicherheitstraining habe ein Modell verstümmelt.

Vorwurf, ein Modell sei nach einer Änderung schlechter geworden.

Abruptes Ändern oder Entziehen einer Leistung, auf die andere sich verlassen.

Shoggoth with a Smiley Face

Meme eines fremdartigen Modellinneren hinter einer freundlichen Assistentenmaske.

Spöttische Zuschreibung eines Problems an die Bedienung statt an das System.

Enslopification

Zunehmende Prägung von Inhalten oder Plattformen durch Slop.

Stochastischer Papagei

Kritische Metapher für Sprachmodelle als statistische Nachahmung ohne Bedeutung.

GPT Wrapper

Abwertend für ein Produkt mit wenig eigener Leistung über einer fremden Modell-API.

Umgangssprachlich für hohen Tokenverbrauch und die daraus folgenden Kosten.

Oberflächlich fertige KI-Arbeit, die anderen Nacharbeit aufbürdet.