TL;DR: Dieses Glossar erklärt 20 Begriffe aus KI-Projekten im Mittelstand, von Agent über MCP und RAG bis Zero Data Retention. Jede Definition passt in drei bis vier Sätze und sagt, was der Begriff für die Praxis bedeutet, nicht nur was er wörtlich heißt. Alle Angaben sind auf dem Stand vom September 2026.
Die 20 Begriffe im Überblick
Ein KI-Agent erledigt eine Aufgabe in mehreren Schritten selbstständig, statt nur eine Frage zu beantworten. Er plant, ruft Werkzeuge auf, prüft Zwischenergebnisse und liefert am Ende ein fertiges Ergebnis. Im Unternehmen lohnt sich das dort, wo ein Ablauf klar beschreibbar ist und oft genug vorkommt.
Artifacts sind eigene Arbeitsfenster neben dem Chat, in denen Claude längere Ergebnisse ablegt: Dokumente, Tabellen, Code oder kleine Anwendungen. Der Vorteil gegenüber reinem Chat ist, dass du am Ergebnis weiterarbeitest, statt es aus dem Gesprächsverlauf herauszukopieren.
Der AVV regelt nach Artikel 28 DSGVO, wie ein Dienstleister personenbezogene Daten im Auftrag verarbeitet. Für KI-Werkzeuge im Unternehmen ist er Pflicht, sobald Beschäftigten- oder Kundendaten hineingehen. Anthropic, OpenAI und Google stellen ihn bereit, meist automatisch Teil der Geschäftsbedingungen. Keine Rechtsberatung im Sinne des RDG.
Cowork ist Anthropics Oberfläche für Wissens- und Büroarbeit in der Claude-Desktop-App. Sie nutzt dieselbe Technik wie Claude Code, aber ohne Terminal. Ergebnis sind Dokumente, Tabellen mit funktionierenden Formeln, Präsentationen und Recherchen. Verfügbar ab dem Pro-Plan.
Deep Research ist ein Modus, in dem das Modell über mehrere Minuten selbstständig recherchiert, Quellen liest, vergleicht und einen belegten Bericht schreibt. Er ersetzt keine Fachrecherche, spart aber die erste Sichtung. Wichtig: Quellen immer stichprobenartig nachprüfen.
Digital Omnibus heißt das EU-Vorhaben, mehrere Digitalgesetze zu bündeln und Fristen anzupassen. Für die KI-Verordnung wurde damit unter anderem der Stichtag für Hochrisiko-Systeme nach Anhang III auf den 2. Dezember 2027 verschoben. Für Betreiber heißt das: mehr Zeit, aber keine Entwarnung.
Das Effort-Level steuert, wie viel Rechenaufwand ein Modell in eine Antwort steckt. Claude Fable 5.1 kennt fünf Stufen von low bis max. Höhere Stufen liefern bessere Ergebnisse bei komplexen Aufgaben, kosten aber deutlich mehr Tokens. Für Routineaufgaben ist die niedrigste passende Stufe die wirtschaftlichste.
Von Halluzination spricht man, wenn ein Sprachmodell etwas erfindet und überzeugend als Tatsache darstellt: erfundene Quellen, falsche Zahlen, nicht existierende Paragrafen. Das Risiko sinkt mit klaren Prompts, mitgeliefertem Kontext und Websuche, verschwindet aber nie. Deshalb gehört zu jedem produktiven Einsatz eine Prüfschleife.
Hochrisiko-KI ist eine Einstufung der EU-KI-Verordnung für Systeme, die Menschen erheblich beeinträchtigen können, etwa bei Personalauswahl, Kreditvergabe oder kritischer Infrastruktur. Sie bringt umfangreiche Pflichten mit sich. Die meisten Werkzeuge im Mittelstand fallen nicht darunter, die Einordnung sollte aber dokumentiert sein.
Artikel 4 der KI-Verordnung verpflichtet Anbieter und Betreiber seit dem 2. Februar 2025, für ausreichende KI-Kompetenz ihrer Beschäftigten zu sorgen. Einen eigenen Bußgeldtatbestand gibt es dafür nicht, organisatorisch und haftungsrechtlich ist die Pflicht trotzdem relevant. Nachweisbar wird sie durch dokumentierte Schulungen.
Das Kontextfenster ist die Menge an Text, die ein Modell in einer Anfrage gleichzeitig berücksichtigen kann, gemessen in Tokens. Aktuelle Spitzenmodelle liegen bei rund 1 Million Tokens, das entspricht mehreren tausend Seiten. Größer ist nicht automatisch besser: Sehr lange Kontexte kosten mehr und lenken das Modell ab.
MCP ist ein offener Standard, über den KI-Werkzeuge auf externe Systeme zugreifen: Dateien, Datenbanken, Ticketsysteme, interne APIs. Statt für jedes Modell eine eigene Anbindung zu bauen, wird der Server einmal geschrieben und von allen Clients genutzt. Für Unternehmen ist das der saubere Weg zu eigenen Daten.
Ein Prompt ist die Anweisung an ein Sprachmodell. Gute Prompts enthalten Rolle, Aufgabe, Kontext, Format und Abgrenzung. Der größte Hebel liegt selten in Formulierungstricks, sondern darin, dass jemand die Aufgabe vorher klar durchdacht hat. Wiederkehrende Prompts gehören als Vorlage ins Team, nicht in den Kopf einzelner Personen.
Bei RAG durchsucht das System zuerst eigene Dokumente und gibt die passenden Stellen zusammen mit der Frage an das Modell. Die Antwort stützt sich damit auf echte Quellen statt auf Trainingswissen. Das senkt Halluzinationen und macht Antworten belegbar. Voraussetzung ist eine gepflegte Dokumentenbasis.
Shadow AI bezeichnet die KI-Nutzung im Unternehmen, von der die Leitung nichts weiß: private Accounts, eigene Abos, Firmendaten in Consumer-Werkzeugen. Das ist der Normalfall, nicht die Ausnahme. Das Risiko liegt weniger im Werkzeug als darin, dass niemand weiß, welche Daten wohin fließen.
Skills sind wiederverwendbare Anleitungen, die einem KI-Werkzeug beibringen, wie eine bestimmte Aufgabe erledigt wird: Markenstimme, Angebotsvorlage, Reporting-Format. Seit dem 18. Dezember 2025 sind sie ein offener Standard und laufen über Anbieter hinweg. Sie werden erst geladen, wenn sie gebraucht werden, und belasten den Kontext nicht dauerhaft.
Ein Token ist die kleinste Verarbeitungseinheit eines Sprachmodells, grob ein Wortteil. Ungefähr vier Zeichen ergeben ein Token. Abgerechnet wird pro Million Tokens, getrennt nach Eingabe und Ausgabe. Für die Kostenschätzung genügt die Faustregel: 750 Wörter sind rund 1.000 Tokens.
Seit dem 2. August 2026 müssen Betreiber kennzeichnen, wenn Menschen mit einem KI-System interagieren oder wenn Inhalte künstlich erzeugt oder verändert wurden. Für Altbestände läuft eine Nachfrist bis zum 2. Dezember 2026. Betroffen sind in der Praxis vor allem Chatbots und KI-generierte Bilder und Texte.
Usage Credits sind ein nutzungsbasiertes Guthaben zusätzlich zum Abo. Sie kommen ins Spiel, wenn ein Modell nicht im Plan-Kontingent enthalten ist, etwa Claude Fable 5.1 im Pro-Plan. Abgerechnet wird zu Standard-API-Preisen. Wer regelmäßig das Spitzenmodell nutzt, fährt mit dem größeren Plan meist günstiger.
Zero Data Retention bedeutet, dass ein Anbieter Eingaben und Ausgaben nicht speichert. Es ist keine Standardeinstellung, sondern muss vertraglich vereinbart werden, und gilt nicht für jedes Modell: Für die Mythos-Klasse von Anthropic ist eine Aufbewahrung von 30 Tagen verpflichtend. Für regulierte Prozesse ist das ein Prüfpunkt.
Vom Begriff zur Praxis
Begriffe zu kennen ist der einfache Teil. Der schwierige ist herauszufinden, welche davon im eigenen Betrieb überhaupt eine Rolle spielen. Der Shadow-AI-Check macht in einer Woche sichtbar, wer welche Werkzeuge nutzt, welche Daten wohin fließen und wo das Risiko liegt. 990 € Festpreis zzgl. MwSt., Ergebnis nach 7 Tagen.
Shadow-AI-Check ansehenHäufige Fragen zu KI-Begriffen
Was ist der Unterschied zwischen einem Prompt und einem Skill?
Ein Prompt ist eine einzelne Anweisung für einen konkreten Fall. Ein Skill ist eine wiederverwendbare Anleitung, die das Werkzeug dauerhaft lernt und bei passenden Aufgaben von selbst anwendet. Faustregel: Was du dreimal gleich getippt hast, gehört als Skill hinterlegt.
Wie viele Tokens sind eine DIN-A4-Seite?
Eine gut gefüllte A4-Seite hat rund 500 Wörter, das sind etwa 650 bis 700 Tokens. Für die Kostenschätzung reicht die Faustregel 750 Wörter gleich 1.000 Tokens. Bei den aktuellen Modellen kostet eine Million Input-Tokens zwischen 0,75 und 10 Dollar, je nach Modell.
Brauchen wir für KI im Unternehmen einen AVV?
Sobald personenbezogene Daten ins Werkzeug gehen, also Kunden-, Bewerber- oder Beschäftigtendaten, ja. Bei Anthropic, OpenAI und Google ist der Auftragsverarbeitungsvertrag Teil der kommerziellen Bedingungen und muss nicht separat unterschrieben werden. Private Accounts haben keinen. Keine Rechtsberatung im Sinne des RDG.
Was ist der Unterschied zwischen RAG und einem großen Kontextfenster?
Beim großen Kontextfenster schickst du alle Dokumente bei jeder Anfrage mit, das kostet jedes Mal. Bei RAG sucht das System vorher die passenden Stellen heraus und schickt nur die mit. RAG ist günstiger und präziser, braucht aber Aufbau und gepflegte Dokumente.
Ist Shadow AI wirklich ein Problem?
Nicht die Nutzung ist das Problem, sondern die fehlende Sichtbarkeit. Wenn niemand weiß, welche Daten in welchem Werkzeug landen, lassen sich weder Datenschutz noch Qualität steuern. Der übliche erste Schritt ist eine Bestandsaufnahme, kein Verbot.
Welche Begriffe braucht die Geschäftsführung wirklich?
Fünf reichen für den Anfang: Token, weil daran die Kosten hängen. Kontextfenster, weil daran die Möglichkeiten hängen. Halluzination, weil daran die Prüfpflicht hängt. Shadow AI, weil das der Ausgangszustand ist. Und KI-Kompetenz nach Artikel 4, weil das die einzige Pflicht ist, die seit Februar 2025 unmittelbar gilt.
Wenn das Team mitkommen soll
Ein Glossar ersetzt keine gemeinsame Arbeitsgrundlage. Im Team-Workshop bauen alle Teilnehmenden an eigenen Aufgaben, mit gemeinsamen Prompts, klaren Datenregeln und einem Schulungsnachweis nach Artikel 4 KI-VO. Ab 3.490 € für 1 bis 2 Tage und 5 bis 30 Personen.
KI-Workshop ansehenWo du tiefer einsteigst
Ich begleite Geschäftsführungen und Teams dabei, KI vom Einzelexperiment in einen belastbaren Betrieb zu überführen. Schwerpunkt: Prozesse zuerst, Werkzeuge danach. Seit 2023 über 50 Teams begleitet, unter anderem für Hamburg Tourismus, Hamburg Marketing und XING.