Wie funktioniert eine KI? Einfach erklärt

Version 2.0 · Stand: 3. August 2026
Alle technischen Angaben wurden gegen die im Quellenverzeichnis genannten Originalarbeiten geprüft.
Nächste geplante Aktualisierung: Februar 2027.

Wie funktioniert eine KI? Die kurze Antwort

Eine KI ist ein Programm, das seine Regeln nicht vorgeschrieben bekommt, sondern sie aus Beispielen selbst ableitet. Bei einem Sprachmodell besteht die gelernte Aufgabe darin, den wahrscheinlichsten nächsten Textbaustein vorherzusagen. Das Ergebnis des Lernens sind Milliarden von Zahlen, die Gewichte. In ihnen ist kein einziger Satz gespeichert, sondern nur das Muster, das aus sehr vielen Sätzen übrig geblieben ist.

Jede Antwort entsteht in derselben Schleife: Text wird in Bausteine zerlegt, jeder Baustein wird zu einer Zahlenreihe, diese Zahlen laufen durch dutzende Rechenschichten, am Ende steht eine Wahrscheinlichkeit für jeden möglichen nächsten Baustein. Einer davon wird ausgewählt, angehängt, und der Vorgang beginnt von vorn.

Der Ablauf ist bei jedem Sprachmodell derselbe, unabhängig vom Anbieter. Unterschiede liegen in Größe, Trainingsdaten und Feinschliff, nicht im Prinzip.

Die zehn Kernaussagen auf einen Blick

Wer nur diese zehn Sätze mitnimmt, hat die Funktionsweise einer KI im Wesentlichen verstanden.

• 1. Eine KI wird trainiert, nicht programmiert. Niemand hat einem Modell beigebracht, was eine Katze ist. Es hat aus Millionen Beispielen ein statistisches Muster abgeleitet.
• 2. Ein Modell besteht ausschließlich aus Zahlen. Diese Zahlen heißen Parameter oder Gewichte. Aktuelle Sprachmodelle haben zwischen einigen Milliarden und mehreren hundert Milliarden davon.
• 3. Text wird vor der Verarbeitung in Token zerlegt. Ein Token ist die kleinste Einheit, die ein Sprachmodell verarbeitet. Es entspricht einem Wort, einer Silbe oder einem Satzzeichen. Ein Modell sieht niemals einzelne Buchstaben.
• 4. Bedeutung ist im Modell eine Position, keine Definition. Jedes Token wird in eine Zahlenreihe übersetzt, das Embedding. Wörter mit ähnlicher Verwendung landen an ähnlichen Positionen.
• 5. Der Kern der Architektur heißt Attention. Die Transformer-Architektur wurde 2017 von einem Team bei Google in der Arbeit „Attention Is All You Need“ vorgestellt. Sie erlaubt es dem Modell, für jedes Wort neu zu gewichten, welche anderen Wörter im Text relevant sind.
• 6. Gelernt wird über einen Lückentext. Das Modell sagt das nächste Token voraus, vergleicht mit dem echten und verschiebt jedes Gewicht minimal in Richtung der besseren Vorhersage. Dieses Verfahren heißt Backpropagation und wurde 1986 in der Zeitschrift Nature beschrieben.
• 7. Eine Antwort entsteht Token für Token. Das Modell erzeugt nie einen ganzen Satz auf einmal. Für jedes einzelne Token läuft die gesamte Rechnung erneut ab.
• 8. Die Auswahl des nächsten Tokens enthält Zufall. Deshalb liefert dieselbe Frage zweimal unterschiedliche Antworten. Der Grad des Zufalls ist über den Parameter Temperatur einstellbar.
• 9. Ein Sprachmodell hat kein Gedächtnis. Es ist zwischen zwei Anfragen zustandslos. Alles, was berücksichtigt werden soll, muss bei jeder einzelnen Anfrage erneut in das Kontextfenster geschrieben werden.
• 10. Erfundene Ausgaben sind eine Folge des Prinzips, kein Defekt. Das Modell optimiert auf Plausibilität, nicht auf Wahrheit. Es besitzt intern keine Unterscheidung zwischen einer erinnerten und einer erfundenen Angabe.

Was der Begriff KI genau bezeichnet

Fünf Begriffe werden ständig synonym verwendet, obwohl sie sauber ineinander liegen. Hier ist jeder in einem Satz definiert.

• Künstliche Intelligenz (KI). Oberbegriff für Systeme, die Aufgaben lösen, für die beim Menschen Intelligenz nötig wäre. Der Begriff entstand 1956 auf der Dartmouth-Konferenz.
• Maschinelles Lernen. Der Teilbereich der KI, in dem ein System seine Regeln aus Daten ableitet, statt sie vorgeschrieben zu bekommen.
• Deep Learning. Maschinelles Lernen mit neuronalen Netzen aus vielen hintereinandergeschalteten Schichten. „Tief“ beschreibt die Anzahl der Schichten, nicht die Qualität.
• Generative KI. KI, die neue Inhalte erzeugt, statt vorhandene nur einzuordnen. Ein Spamfilter ordnet ein, ein Bildgenerator erzeugt.
• Großes Sprachmodell (Large Language Model, LLM). Generative KI für Text, trainiert auf sehr großen Textmengen. ChatGPT, Claude, Gemini und Copilot sind Anwendungen, die auf solchen Modellen aufsetzen.

Die Begriffe sind keine Synonyme, sondern Teilmengen. Wenn im Alltag von KI gesprochen wird, ist fast immer die innerste Ebene gemeint.

Was eine KI nicht ist

Vier Abgrenzungen ersparen die häufigsten Missverständnisse.

• Keine Suchmaschine. Ein Sprachmodell durchsucht ohne ausdrückliches Suchwerkzeug nichts. Es erzeugt Text aus seinen Gewichten.
• Keine Datenbank. Im Modell liegt kein Dokument und kein Satz aus den Trainingsdaten. Es liegt nur das daraus abgeleitete Muster vor.
• Kein Nachbau eines Gehirns. Der Begriff „neuronales Netz“ ist eine historische Anleihe. Ein künstliches Neuron ist eine Multiplikation mit anschließender Addition.
• Kein Programm mit Absichten. Ein Modell verfolgt keine Ziele. Es berechnet Wahrscheinlichkeiten.

Das Grundprinzip: Regeln werden gefunden, nicht geschrieben

Klassische Software folgt Regeln, die ein Mensch aufgeschrieben hat. Das funktioniert, solange sich diese Regeln formulieren lassen. Bei vielen Aufgaben gelingt das nicht. Jeder erkennt auf einem Foto eine Katze, aber niemand kann in Worte fassen, woran genau.

Maschinelles Lernen dreht die Richtung um:

• Klassische Programmierung. Regeln + Daten → Ergebnis
• Maschinelles Lernen. Daten + Ergebnisse → Regeln

Man zeigt dem System zehntausende Beispiele mit der jeweils richtigen Antwort und überlässt ihm, die Unterscheidung selbst zu finden. Was dabei entsteht, heißt Modell.

Ein Modell ist eine Zahlentabelle, die niemand lesen kann. Ein Modell mit 175 Milliarden Parametern würde, mit 5.000 Zahlen pro Seite ausgedruckt, 35 Millionen Blatt Papier füllen. Der Stapel wäre etwa dreieinhalb Kilometer hoch. In keinem dieser Blätter stünde ein lesbarer Satz.

Etappe 1: Wie eine KI Sprache in Zahlen übersetzt

Ein neuronales Netz rechnet. Buchstaben kann es nicht verarbeiten. Vor jeder Verarbeitung steht deshalb eine Übersetzung in zwei Etappen.

Tokenisierung: Text wird in Bausteine zerlegt

Ein Token ist die kleinste Texteinheit, die ein Sprachmodell verarbeitet. Häufige Wörter bilden ein eigenes Token. Seltene und zusammengesetzte Wörter werden in mehrere zerlegt. Jedes Token hat eine feste Nummer in einem Vokabular, das je nach Modell 50.000 bis über 200.000 Einträge umfasst.

Das Modell liest nicht wie ein Mensch, sondern wie jemand, der eine Sprache ausschließlich über Silbenkarten gelernt hat.

Aus dieser Zerlegung folgen drei Dinge, die im Umgang mit KI immer wieder auffallen.

• Deutsche Texte erzeugen mehr Token als englische. Umlaute und zusammengesetzte Wörter werden häufiger zerlegt. Als Orientierung entsprechen 1.000 Token etwa 600 bis 700 deutschen oder rund 750 englischen Wörtern.
• Buchstabenaufgaben scheitern. Die Frage, wie viele „r“ in „Erdbeere“ stecken, ist für ein Sprachmodell nicht direkt beantwortbar, weil es das Wort nur als zwei oder drei Bausteine sieht und nicht als Buchstabenfolge.
• Abgerechnet wird pro Token. Jeder Baustein kostet Rechenzeit, für Eingabe und Ausgabe getrennt.

Embeddings: Bedeutung wird zu einer Position

Eine Nummer allein trägt keine Bedeutung. Deshalb bekommt jedes Token zusätzlich eine lange Zahlenreihe, das Embedding. Je nach Modell besteht sie aus einigen hundert bis über zehntausend Werten. Technisch ist das eine Koordinate in einem hochdimensionalen Raum.

Diese Koordinaten werden im Training so eingestellt, dass Wörter mit ähnlicher Verwendung nah beieinander liegen. Bereits 2013 zeigte das Verfahren word2vec, dass sich mit diesen Vektoren rechnen lässt: Zieht man vom Vektor für „König“ den für „Mann“ ab und addiert den für „Frau“, landet man in der Nähe von „Königin“.

Bedeutung ist im Modell keine Definition, sondern eine Adresse. Nähe im Raum bedeutet ähnliche Verwendung in echten Texten.

Das erklärt eine oft missverstandene Eigenschaft. Ein Modell „weiß“ nicht, dass eine Katze ein Säugetier ist. Es hat gelernt, dass das Wort Katze dort auftaucht, wo auch Fell, schnurren, Tierarzt und Hund auftauchen. Aus dieser statistischen Nachbarschaft entsteht etwas, das sich in der Anwendung wie Wissen verhält.

Etappe 2: Wie das neuronale Netz einer KI aufgebaut ist

Ein künstliches Neuron ist keine Nachbildung einer Nervenzelle, sondern eine Rechenvorschrift aus drei Schritten:

1. Alle eingehenden Zahlen entgegennehmen.
2. Jede mit ihrem Gewicht multiplizieren und alles addieren.
3. Das Ergebnis durch eine Aktivierungsfunktion schicken, die bestimmt, wie stark das Neuron weitergibt.

Ein einzelnes Neuron kann fast nichts. Wirksam wird die Anordnung erst in Schichten. Frühe Schichten erkennen einfache Muster, spätere kombinieren diese zu komplexeren. Bei der Bilderkennung ist diese Staffelung gut untersucht: zuerst Kanten, dann Formen, dann Augen und Schnurrhaare, dann Katze.

Die Leistung steckt nicht im einzelnen Baustein, sondern in der Anzahl der Verbindungen und in der Einstellung ihrer Gewichte.

Was ein Durchlauf tatsächlich kostet

Jedes Gewicht wird bei jedem Durchlauf einmal für eine Multiplikation und einmal für eine Addition gebraucht. Daraus ergibt sich eine belastbare Faustregel: Ein Sprachmodell benötigt pro erzeugtem Token ungefähr zwei Rechenoperationen je Parameter.

Für ein Modell mit 100 Milliarden Parametern sind das rund 200 Milliarden Operationen für ein einziges Token. Eine Antwort von 300 Wörtern entspricht etwa 450 Token und damit in der Größenordnung von 90 Billionen Operationen. Das ist der Grund, warum KI-Antworten in Rechenzentren mit Spezialchips entstehen und nicht auf einem Bürorechner.

Etappe 3: Wie eine KI trainiert wird

Zu Beginn sind alle Gewichte zufällig. Das Modell erzeugt zu diesem Zeitpunkt Buchstabensalat. Training bedeutet, diese Zahlen so lange zu korrigieren, bis sinnvoller Text entsteht.

Die Aufgabe dabei ist ein Lückentext. Man nimmt einen echten Satz, verdeckt das nächste Token und lässt das Modell raten. Weil die Lösung bereits im Text steht, braucht es keine menschliche Beschriftung. Fachlich heißt das selbstüberwachtes Lernen, und es ist der Grund, warum sich diese Modelle auf beliebig große Textmengen skalieren lassen.

Der gesamte Lernvorgang besteht aus dieser einen Schleife. Der Fehlerwert ist die einzige Rückmeldung, die jemals in das Modell hineingelangt.

Die Korrektur läuft in zwei Schritten. Zuerst wird berechnet, wie weit die Vorhersage danebenlag; diese Abweichung heißt Loss. Anschließend verteilt das Verfahren Backpropagation den Fehler rückwärts durch alle Schichten, und jedes Gewicht wird ein winziges Stück in die Richtung verschoben, die den Fehler verkleinert hätte. Dieser zweite Schritt heißt Gradientenabstieg.

Eine tragfähige Vorstellung ist ein Mischpult mit Milliarden Reglern. Nach jedem Durchgang wird jeder Regler ein Haar in die Richtung gedreht, die das Ergebnis minimal verbessert. Kein einzelner Regler bedeutet für sich etwas. Erst nach sehr vielen Durchgängen steht das Pult so, dass ein brauchbares Ergebnis herauskommt.

Seit 2020 ist zudem gut belegt, dass die Leistung recht vorhersagbar mit Modellgröße, Datenmenge und Rechenaufwand wächst. Eine Untersuchung von DeepMind aus dem Jahr 2022 korrigierte dabei eine verbreitete Annahme: Viele Modelle waren nicht zu klein, sondern mit zu wenig Text trainiert. Größe allein genügt nicht.

Die drei Phasen, die ein Modell durchläuft

Ein frisch vortrainiertes Modell ist noch kein Assistent. Auf die Frage „Was ist die Hauptstadt von Frankreich?“ antwortet es möglicherweise mit weiteren Prüfungsfragen, weil das in den Trainingsdaten die wahrscheinlichere Fortsetzung war. Bis daraus ein nutzbares Produkt wird, folgen zwei weitere Phasen.

Verhalten und Ton eines Modells sind trainierte Eigenschaften. Sie erklären, warum sich Modelle bei technisch fast identischem Aufbau so unterschiedlich anfühlen.

Phase 3 trägt den Namen RLHF, Reinforcement Learning from Human Feedback. Menschen bekommen mehrere Antworten des Modells vorgelegt und markieren die bessere. Aus diesen Urteilen entsteht ein Bewertungsmodell, an dem sich das Sprachmodell anschließend ausrichtet. Der Ansatz wurde 2017 beschrieben und 2022 in der Arbeit zu InstructGPT auf Sprachmodelle übertragen. Anthropic ergänzt ihn um ein schriftlich fixiertes Regelwerk, an dem sich das Modell selbst überprüft, und nennt das Constitutional AI.

Etappe 4: Attention, der Mechanismus hinter jeder modernen KI

Bis 2017 lasen Sprachmodelle Text Wort für Wort und mussten alles Vorherige in einem begrenzten Zwischenspeicher behalten. Bei langen Sätzen ging der Anfang verloren. Das war die technische Grenze.

Die 2017 veröffentlichte Arbeit „Attention Is All You Need“ führte die Transformer-Architektur ein. Statt sequenziell zu lesen, betrachtet ein Transformer alle Token gleichzeitig und berechnet für jedes, wie stark es auf jedes andere achten soll.

Attention ist der Grund, warum ein Modell Bezüge über lange Passagen hinweg auflöst. Das „T“ in GPT steht für Transformer.

Query, Key und Value in einem Satz erklärt

Der Mechanismus arbeitet mit drei Größen, die jedes Token aus seinem Vektor erzeugt. Am einfachsten lässt er sich als Suchvorgang innerhalb des Satzes beschreiben:

• Query (Anfrage). Die Frage, die ein Token an alle anderen stellt. Das Wort „sie“ fragt sinngemäß: Wer im bisherigen Text kommt als Bezug infrage?
• Key (Schlüssel). Das Namensschild, das jedes Token trägt. Es beschreibt, wofür dieses Token als Antwort taugt.
• Value (Inhalt). Die Information, die weitergereicht wird, wenn das Namensschild zur Anfrage passt.

Das Modell vergleicht jede Anfrage mit allen Namensschildern, gewichtet die Treffer und mischt die zugehörigen Inhalte in den Vektor des fragenden Tokens. Nach diesem Schritt trägt das Wort „sie“ einen Teil der Bedeutung von „Katze“ in sich. Der Vorgang wiederholt sich in jeder Schicht, mit jeweils neuen Anfragen.

Zwei Folgen machten diese Architektur zum Durchbruch. Erstens werden Bezüge über weite Distanzen aufgelöst, auch über mehrere Absätze. Zweitens lässt sich die Berechnung parallelisieren, weil nicht mehr Wort für Wort nacheinander gelesen wird. Erst diese Parallelisierbarkeit machte Training in heutiger Größenordnung möglich.

Etappe 5: Wie eine KI ihre Antwort erzeugt

Ein Sprachmodell beantwortet streng genommen keine Frage. Es setzt Text fort. Am Ende jedes Durchlaufs steht eine Wahrscheinlichkeit für jedes Token des Vokabulars.

Jede Antwort entsteht als Kette einzelner Entscheidungen. Das Modell schlägt nichts nach, es berechnet Verteilungen.

Aus diesem Schritt folgen drei Eigenschaften, die im Alltag ständig sichtbar werden.

Autoregression: das Modell kann nichts zurücknehmen

Jedes erzeugte Token wird Teil der Eingabe für das nächste. Ein Modell schreibt seine Antwort deshalb so, wie jemand spricht, der nie zurücknehmen kann, was er gerade gesagt hat. Ein früher Fehler verschwindet nicht, sondern wird zur Grundlage aller folgenden Token. Das erklärt, warum sich Fehler innerhalb einer Antwort manchmal aufschaukeln.

Temperatur: der Regler für den Zufall

Bei der Einstellung Temperatur 0 wird immer das wahrscheinlichste Token gewählt, und die Antwort ist reproduzierbar. Bei höheren Werten wird unter den vorderen Kandidaten gewürfelt. Der Regler entscheidet nicht, wie kreativ ein Modell denkt, sondern wie oft es die zweitbeste Möglichkeit nimmt.

Warum daraus überhaupt etwas Sinnvolles entsteht

Die Aufgabe ist nur scheinbar simpel. Wer den nächsten Satz eines Fachartikels zuverlässig vorhersagen will, muss Grammatik beherrschen, Fachbegriffe kennen und dem Argumentationsgang folgen. Wer das letzte Wort eines Krimis raten will, muss den Täter kennen. Die Vorhersageaufgabe zwingt das Modell, all das nebenbei mitzulernen.

Die Formulierung „es sagt nur das nächste Wort voraus“ ist technisch richtig, aber irreführend, wenn man daraus „es rechnet blind“ macht. Interpretierbarkeitsforschung von Anthropic zeigte 2025, dass Modelle intern vorausplanen können, etwa beim Reimen ein passendes Zielwort bereits am Zeilenanfang festlegen. Was in diesen Zwischenschritten genau geschieht, ist Gegenstand aktueller Forschung und in weiten Teilen offen.

Das Kontextfenster: das Arbeitsgedächtnis einer KI

Das Kontextfenster ist die maximale Menge an Token, die ein Modell bei einer Anfrage gleichzeitig berücksichtigen kann. Hinein müssen die Anweisungen des Anbieters, der bisherige Gesprächsverlauf, die aktuelle Frage, angehängte Dokumente und die Antwort, die gerade entsteht.

Der gesamte Ablauf wiederholt sich bei jeder einzelnen Nachricht. Deshalb erscheint eine Antwort Wort für Wort und nicht auf einen Schlag.

Ein Kontextfenster von 200.000 Token entspricht etwa 130.000 deutschen Wörtern und damit rund 500 Buchseiten. Ist das Fenster voll, fällt der Anfang weg.

Das erklärt eine häufige Beobachtung: In sehr langen Gesprächen „vergisst“ ein Modell plötzlich, was am Anfang vereinbart wurde. Es hat nichts vergessen, denn es hat nie etwas gespeichert. Die Information war schlicht nicht mehr im Fenster.

Warum ein Modell das Gespräch von gestern nicht kennt

Ein Sprachmodell ist zwischen zwei Anfragen zustandslos. Erkennt eine Anwendung euch dennoch wieder, liegt das an einer Gedächtnisfunktion drumherum: Das Programm speichert Notizen in einer Datenbank und legt sie bei der nächsten Anfrage unsichtbar mit ins Kontextfenster. Das Modell selbst bleibt dabei unverändert. Eine Eingabe verändert die Gewichte eines Modells nicht.

Was Reasoning-Modelle anders machen

Seit 2024 gibt es Modelle, die vor der eigentlichen Antwort zusätzliche Token erzeugen und darin den Lösungsweg ausformulieren. Dieser Zwischentext wird oft ausgeblendet, verbessert aber messbar die Ergebnisse bei mehrstufigen Aufgaben. Das Prinzip geht auf die Beobachtung zurück, dass Modelle besser abschneiden, wenn man sie zum schrittweisen Vorgehen auffordert. Der Mechanismus bleibt derselbe. Es ist weiterhin Vorhersage von Token, nur mehr davon.

Warum eine KI Dinge erfindet

Wenn ein Sprachmodell eine Quelle erfindet, eine Jahreszahl frei erzeugt oder ein Zitat falsch zuordnet, spricht man von Halluzination. Aus dem bisher Beschriebenen folgt, warum das kein reparierbarer Fehler ist.

• Das Trainingsziel ist Plausibilität, nicht Wahrheit. Trainiert wurde auf die Frage, welches Token hier wahrscheinlich folgt. Eine erfundene, aber typisch aussehende Quellenangabe erfüllt dieses Ziel ebenso gut wie eine echte.
• Es gibt keine interne Trennung zwischen Wissen und Vermutung. Im Modell existiert kein Vermerk „das habe ich oft gesehen“ oder „das ist geraten“. Beides entsteht im selben Rechenvorgang und kommt im selben Tonfall heraus.
• Alles wird erzeugt, nichts abgerufen. Auch bei Angaben, die ein Modell zuverlässig beherrscht, wird die Antwort Token für Token neu berechnet. Bei seltenen Details ist die statistische Grundlage dünn, das Ergebnis klingt aber genauso sicher.

Die wirksamste Gegenmaßnahme besteht darin, dem Modell die richtige Information mitzugeben, statt sich auf seine Gewichte zu verlassen. Das Verfahren heißt Retrieval Augmented Generation (RAG) und wurde 2020 beschrieben.

Mit Anbindung steht die richtige Information im Kontextfenster, bevor das Modell zu formulieren beginnt.

Technisch werden Dokumente in Abschnitte zerlegt, jeder Abschnitt bekommt ein Embedding und wandert in eine Vektordatenbank. Trifft eine Frage ein, wird auch sie zu einem Vektor, und das System sucht die inhaltlich nächstgelegenen Abschnitte. Diese Auszüge landen zusammen mit der Frage im Kontextfenster.

Der entscheidende Satz dazu lautet: Im Modell gibt es keinen Unterschied zwischen Erinnern und Erfinden. Beides ist derselbe Rechenvorgang. RAG beseitigt das nicht, aber es stellt der Rechnung überprüfbares Material zur Seite.

Wie eine KI Bilder erzeugt

Bildmodelle arbeiten nach einem anderen Prinzip als Sprachmodelle. Das gängige Verfahren heißt Diffusion und wurde 2020 beschrieben, in praxistauglicher Form 2022 als latente Diffusion.

Im Training nimmt man echte Bilder und schüttet schrittweise Rauschen darüber, bis nur noch Grieß übrig ist. Das Modell lernt, jeden dieser Schritte umzukehren. Bei der Erzeugung startet es mit reinem Zufallsrauschen und entfernt dieses Schritt für Schritt. Der Textprompt ist dabei die Lenkung: Er bestimmt in jedem Schritt, in welche Richtung entrauscht wird.

Ein Bildmodell malt nicht, es räumt auf. Weil das Startrauschen jedes Mal anders ist, ergibt derselbe Prompt nie zweimal dasselbe Bild.

Daraus erklären sich auch die typischen Schwächen. Hände, Text im Bild und exakte Zahlen brauchen feine Struktur, die beim Entrauschen leicht verloren geht.

Bei Audio und Video sind die Verfahren verwandt. Bei Video kommt die Anforderung hinzu, dass aufeinanderfolgende Einzelbilder zusammenpassen müssen, was den Rechenaufwand vervielfacht.

Moderne Modelle sind zunehmend multimodal: Sie verarbeiten Text, Bild und Ton im selben Zahlenraum. Wird einem Modell ein Foto übergeben, wird es in dieselbe Art von Vektoren übersetzt wie Text. Für das Modell ist ein Bild nur eine ungewöhnlich lange Zahlenreihe.

Wie eine KI Werkzeuge benutzt

Ein Sprachmodell kann ausschließlich Text erzeugen. Es kann nicht rechnen, nichts abschicken und keine Datenbank abfragen. Dass Produkte all das trotzdem tun, liegt an einem schlichten Mechanismus namens Function Calling.

Im Kontext wird beschrieben, welche Werkzeuge zur Verfügung stehen. Braucht das Modell eines, erzeugt es keinen normalen Antworttext, sondern eine strukturierte Anweisung wie „rufe Taschenrechner auf mit 4823 mal 219″. Das umgebende Programm erkennt diese Anweisung, führt die Aktion tatsächlich aus und schreibt das Ergebnis zurück in das Kontextfenster. Erst danach formuliert das Modell die Antwort.

Ein KI-Agent ist im Kern diese Schleife, mehrfach hintereinander ausgeführt. Das Modell plant, ruft ein Werkzeug auf, bewertet das Ergebnis und ruft das nächste auf. Das erklärt beides: warum Agenten mehrstufige Aufgaben bearbeiten können, und warum sich ein Fehler im dritten Schritt durch alle folgenden zieht.

Was eine KI systembedingt nicht kann

Jede der folgenden Grenzen lässt sich direkt aus der Funktionsweise ableiten.

• Exakt rechnen und zählen. Ein Sprachmodell schätzt Ergebnisse, statt sie auszurechnen. Zahlen sind für das Modell Token wie jedes andere Wort. Verlässlich wird es erst, wenn im Hintergrund ein echter Rechner aufgerufen wird.
• Buchstaben in einem Wort zählen. Ein Modell sieht Token, keine Buchstabenfolgen. Die Frage nach der Anzahl bestimmter Buchstaben in einem Wort ist deshalb strukturell schwierig.
• Aktuelle Ereignisse kennen. Ein Modell kennt nur, was bis zu seinem Trainingsstichtag in den Daten stand. Alles Spätere kommt ausschließlich über ein Suchwerkzeug oder ein übergebenes Dokument hinein.
• Quellen belegen ohne Anbindung. Ohne Suchzugriff sind Literaturangaben und Links nachgebildete Muster, keine Nachweise. Sie sehen korrekt aus, weil das Format gelernt wurde, nicht der Inhalt.
• Reproduzierbar antworten. Ohne feste Einstellungen liefert dieselbe Frage unterschiedliche Antworten, weil die Tokenauswahl Zufall enthält.
• Die eigene Sicherheit einschätzen. Die geäußerte Sicherheit einer Antwort sagt wenig über ihre Richtigkeit. „Ich bin mir sicher“ ist ein gelerntes Sprachmuster, keine Messung.
• Im Gespräch dazulernen. Die Gewichte eines Modells liegen nach dem Training fest. Was innerhalb eines Gesprächs entsteht, wirkt nur im Kontextfenster und ist danach verschwunden.

Zahlen und Größenordnungen im Überblick

Alle Angaben beziehen sich auf gängige große Sprachmodelle, Stand August 2026. Die Anbieter veröffentlichen die genauen Werte ihrer aktuellen Spitzenmodelle überwiegend nicht mehr, deshalb sind Bereiche angegeben.

• Token je Wort (Deutsch). Etwa 1,4 bis 1,6. 1.000 Token entsprechen rund 600 bis 700 deutschen Wörtern.
• Token je Wort (Englisch). Etwa 1,3. 1.000 Token entsprechen rund 750 englischen Wörtern.
• Vokabulargröße. 50.000 bis über 200.000 verschiedene Token.
• Länge eines Embeddings. Einige hundert bis über 12.000 Zahlen je Token.
• Anzahl der Schichten. Von unter zehn bei kleinen Modellen bis über hundert bei großen.
• Parameterzahl. Von einigen Milliarden bis in den Bereich mehrerer hundert Milliarden.
• Speicherbedarf. Etwa zwei Byte je Parameter. Ein Modell mit 100 Milliarden Parametern belegt rund 200 Gigabyte.
• Rechenaufwand je erzeugtem Token. Ungefähr zwei Operationen je Parameter.
• Trainingsdatenmenge. Mehrere Billionen Token.
• Trainingsdauer. Wochen bis Monate auf tausenden Spezialchips.
• Kontextfenster. Von einigen zehntausend bis über eine Million Token.

Sieben verbreitete Irrtümer über die Funktionsweise von KI

• „Die KI durchsucht das Internet.“ Nur, wenn ein Suchwerkzeug angebunden ist und tatsächlich aufgerufen wird. Ohne dieses Werkzeug erzeugt das Modell den Text ausschließlich aus seinen Gewichten.
• „Die KI hat meine Eingaben gespeichert.“ Das Modell nicht. Es ist zustandslos und verändert sich durch eine Eingabe nicht. Gespeichert wird gegebenenfalls in der Anwendung drumherum.
• „Die KI liest Buchstaben.“ Ein Modell sieht Token. Buchstaben existieren für es nur, wenn ein Token zufällig genau einem Buchstaben entspricht.
• „Die KI weiß, wann sie falsch liegt.“ Es gibt keinen internen Wahrheitsmarker. Erinnern und Erfinden sind derselbe Rechenvorgang.
• „Größere Modelle sind immer besser.“ Die 2022 veröffentlichte Chinchilla-Untersuchung zeigte, dass viele Modelle nicht zu klein, sondern mit zu wenig Text trainiert waren. Größe und Datenmenge müssen zusammenpassen.
• „Neuronale Netze funktionieren wie das menschliche Gehirn.“ Die Ähnlichkeit besteht im Namen und in einer sehr groben Anleihe. Ein künstliches Neuron ist eine gewichtete Summe mit anschließender Aktivierungsfunktion.
• „Die KI lernt aus unserem Gespräch.“ Innerhalb eines Gesprächs verändert sich nichts am Modell. Was wie Lernen aussieht, ist der Inhalt des Kontextfensters.

Glossar: die wichtigsten Begriffe in je einem Satz

• Token. Die kleinste Texteinheit, die ein Sprachmodell verarbeitet, entweder ein Wort, eine Silbe oder ein Satzzeichen.
• Embedding. Die Übersetzung eines Tokens in eine lange Zahlenreihe, deren Position im Raum die Verwendung des Wortes abbildet.
• Parameter (Gewichte). Die im Training eingestellten Zahlen im Inneren eines Modells; sie sind das gelernte Muster.
• Neuronales Netz. Eine Anordnung vieler einfacher Recheneinheiten in hintereinandergeschalteten Schichten.
• Backpropagation. Das Verfahren, mit dem der Vorhersagefehler rückwärts durch alle Schichten verteilt wird, um die Gewichte zu korrigieren.
• Transformer. Die 2017 vorgestellte Architektur, die über Attention Bezüge im gesamten Text gleichzeitig berechnet.
• Attention. Der Mechanismus, mit dem ein Token gewichtet, wie stark es auf jedes andere Token achtet.
• Kontextfenster. Die maximale Menge an Token, die ein Modell bei einer Anfrage gleichzeitig berücksichtigen kann.
• Prompt. Der Text, den ein Modell fortsetzen soll; im Alltag die Eingabe der nutzenden Person.
• Systemprompt. Unsichtbare Anweisungen, die vor jedem Gespräch in das Kontextfenster gelegt werden.
• Inferenz. Der Betrieb eines fertig trainierten Modells, also alles, was bei einer Anfrage geschieht.
• Temperatur. Der Einstellwert, der bestimmt, wie stark die Auswahl des nächsten Tokens vom wahrscheinlichsten Kandidaten abweichen darf.
• Halluzination. Eine erfundene, aber plausibel formulierte Ausgabe eines Modells.
• RAG. Retrieval Augmented Generation; das Verfahren, vor der Antwort passende Textstellen zu suchen und dem Modell mitzugeben.
• Finetuning. Das Nachtrainieren eines fertigen Modells für einen bestimmten Zweck oder Stil.
• RLHF. Reinforcement Learning from Human Feedback; das Ausrichten eines Modells an menschlichen Bewertungen seiner Antworten.
• Multimodal. Die Eigenschaft eines Modells, Text, Bild und Ton im selben Zahlenraum zu verarbeiten.
• Diffusion. Das Verfahren zur Bilderzeugung, bei dem aus Zufallsrauschen schrittweise ein Bild entsteht.

Häufig gestellte Fragen zur Funktionsweise von KI

Wie funktioniert eine KI einfach erklärt?

Eine KI leitet ihre Regeln selbst aus Beispielen ab, statt sie vorgeschrieben zu bekommen. Bei einem Sprachmodell lautet die gelernte Aufgabe, den wahrscheinlichsten nächsten Textbaustein vorherzusagen. Aus dieser einen Fähigkeit, milliardenfach geübt, entsteht alles Weitere. Das Ergebnis des Lernens sind Milliarden von Zahlen im Inneren des Modells, keine Sammlung gespeicherter Fakten.

Wie funktioniert künstliche Intelligenz?

Künstliche Intelligenz umfasst mehr als Sprachmodelle, doch alle heute gebräuchlichen Systeme teilen dasselbe Grundprinzip: Sie leiten ihre Regeln aus Daten ab. Ein Bilderkennungssystem lernt aus beschrifteten Fotos, ein Empfehlungssystem aus vergangenem Verhalten, ein Sprachmodell aus Text. Unterschiedlich sind Datenart und Aufgabe, nicht der Mechanismus: gewichtete Verbindungen in einem neuronalen Netz, die über einen Fehlerwert schrittweise korrigiert werden.

Was ist der Unterschied zwischen KI, maschinellem Lernen und Deep Learning?

Die Begriffe liegen ineinander. Künstliche Intelligenz ist der Oberbegriff. Maschinelles Lernen ist der Ansatz, Regeln aus Daten abzuleiten. Deep Learning ist maschinelles Lernen mit vielschichtigen neuronalen Netzen. Generative KI erzeugt neue Inhalte, und ein großes Sprachmodell ist generative KI für Text.

Wie lernt eine KI?

Eine KI lernt über eine Schleife aus Raten und Korrigieren. Das Modell sagt das nächste Token voraus, vergleicht mit dem tatsächlichen und verschiebt jedes seiner Gewichte ein winziges Stück in die Richtung, die den Fehler verkleinert hätte. Das Verfahren heißt Backpropagation in Verbindung mit Gradientenabstieg und wird über Billionen von Token wiederholt.

Was ist ein Token bei einer KI?

Ein Token ist die kleinste Texteinheit, die eine KI verarbeitet. Es kann ein ganzes Wort sein, eine Silbe oder ein Satzzeichen. Ein Sprachmodell sieht niemals einzelne Buchstaben, sondern ausschließlich diese Bausteine und ihre Nummern im Vokabular. 1.000 Token entsprechen etwa 600 bis 700 deutschen Wörtern.

Denkt eine KI wirklich?

Nicht im menschlichen Sinne. Eine KI hat kein Bewusstsein, keine Absicht und kein Erleben. Mechanisch handelt es sich um die Vorhersage von Token. Gleichzeitig zeigt die Interpretierbarkeitsforschung, dass in den Zwischenschichten strukturierte Rechenschritte stattfinden, teilweise auch vorausschauende Planung. Was dort genau geschieht, ist bislang nur in Ansätzen verstanden.

Warum erfindet eine KI manchmal Dinge?

Weil eine KI auf Plausibilität optimiert wurde und nicht auf Wahrheit. Sie unterscheidet intern nicht zwischen einer belegten und einer geratenen Angabe; beides entsteht im selben Rechenvorgang. Eine erfundene Quellenangabe erfüllt die gelernte Aufgabe ebenso gut wie eine echte, solange sie typisch aussieht.

Warum gibt eine KI auf dieselbe Frage unterschiedliche Antworten?

Weil die Auswahl des nächsten Tokens einen Zufallsanteil enthält. Das Modell berechnet eine Wahrscheinlichkeitsverteilung über alle möglichen Token und zieht daraus. Wie stark gestreut wird, bestimmt der Einstellwert Temperatur. Bei Temperatur 0 wird immer der wahrscheinlichste Kandidat gewählt, und die Antwort wird reproduzierbar.

Kann eine KI rechnen?

Ein Sprachmodell rechnet nicht, es schätzt. Zahlen sind für eine KI Token wie jedes andere Wort, und das Ergebnis einer Multiplikation wird als wahrscheinliche Zeichenfolge vorhergesagt. Zuverlässig wird es erst, wenn die Anwendung im Hintergrund einen echten Rechner aufruft und das Ergebnis zurückgibt.

Woher kommen die Daten, mit denen eine KI trainiert wird?

Überwiegend aus dem öffentlichen Web, dazu Bücher, Programmcode, Fachtexte und lizenzierte Datenbestände. Die genaue Zusammensetzung veröffentlichen die großen Anbieter nicht mehr vollständig. Der Umfang liegt bei mehreren Billionen Token.

Wie funktioniert die Bildgenerierung einer KI?

Über Diffusion. Die KI hat gelernt, verrauschte Bilder schrittweise zu entrauschen. Bei der Erzeugung startet sie mit reinem Zufallsrauschen und entfernt dieses in vielen Durchgängen, wobei der Textprompt in jedem Schritt die Richtung vorgibt. Weil das Startrauschen jedes Mal anders ist, liefert derselbe Prompt nie zweimal dasselbe Bild.

Speichert eine KI meine Eingaben?

Das Modell selbst nicht. Eine KI ist zwischen zwei Anfragen zustandslos, und eine Eingabe verändert ihre Gewichte nicht. Speicherung findet gegebenenfalls in der Anwendung statt, etwa in Gesprächsverläufen, Protokollen oder Gedächtnisfunktionen.

Was ist ein Kontextfenster?

Das Kontextfenster ist die maximale Menge an Token, die eine KI bei einer Anfrage gleichzeitig berücksichtigen kann. Es umfasst Systemanweisungen, Gesprächsverlauf, Frage, angehängte Dokumente und die entstehende Antwort. Ist es voll, fällt der Anfang weg. 200.000 Token entsprechen etwa 500 Buchseiten.

Fazit

Wer die Funktionsweise einmal durchgeht, verliert zwei Vorstellungen gleichzeitig. Die eine ist das denkende Gegenüber, das nachschlägt und Bescheid weiß. Die andere ist die Abwertung als „bloße Statistik“, die übersieht, wie viel Struktur eine Vorhersageaufgabe erzwingt.

Dazwischen liegt die nüchterne Beschreibung: Eine KI ist ein sehr fein eingestelltes Vorhersagegerät für Muster. Sie ist stark bei Formulierung, Umformung, Struktur und Zusammenfassung. Sie ist unzuverlässig bei exakten Fakten, Aktualität und Nachweisen, solange man ihr diese nicht mitgibt.

Jede der zehn Kernaussagen am Anfang lässt sich aus diesem einen Prinzip herleiten. Wer sie im Kopf hat, muss sich die Eigenheiten von KI-Systemen nicht mehr merken. Er kann sie ableiten.

Wie dieser Beitrag entstanden ist

Transparenz zur Entstehung gehört zur Nachprüfbarkeit, deshalb steht sie hier und nicht im Kleingedruckten.

• Recherche: KI gestützt, anschließend vollständig gegen die im Quellenverzeichnis genannten Originalarbeiten geprüft. Sekundärliteratur wurde nicht als Beleg verwendet.
• Zahlen: Alle Größenordnungen sind als Bereiche angegeben, weil die Anbieter die exakten Kennzahlen aktueller Spitzenmodelle überwiegend nicht veröffentlichen. Rechenbeispiele im Text sind aus den genannten Ausgangswerten nachvollziehbar abgeleitet.
• Offene Fragen: Wo Forschung noch keine gesicherte Antwort hat, insbesondere zu den inneren Rechenschritten großer Modelle, ist das im Text ausdrücklich gekennzeichnet.
• Redaktionelle Verantwortung: onlinewachsen. Stand der Fassung: 3. August 2026. Nächste geplante Prüfung: Februar 2027.
• Korrekturen: Hinweise auf Fehler nehmen wir jederzeit entgegen und dokumentieren Änderungen im Versionsvermerk am Seitenanfang.

Wenn ihr wissen wollt, wie KI-Systeme eure eigene Marke beschreiben und in welchen Antworten sie überhaupt auftaucht, zeigt das unser KI Sichtbarkeits Check.

Quellen

Alle technischen Aussagen dieses Beitrags stützen sich auf die folgenden Originalarbeiten. Bei jeder Angabe stehen Autorenschaft, Jahr und Veröffentlichungsort, damit einzelne Aussagen einzeln nachprüfbar sind.

Architektur und Grundlagen

• Vaswani et al. (2017): Attention Is All You Need. Einführung der Transformer-Architektur und des Attention-Mechanismus.
• Rumelhart, Hinton und Williams (1986): Learning representations by back-propagating errors, Nature 323. Grundlage der Backpropagation.
• LeCun, Bengio und Hinton (2015): Deep Learning, Nature 521. Übersichtsarbeit zur Schichtenlogik neuronaler Netze.
• Mikolov et al. (2013): Efficient Estimation of Word Representations in Vector Space. Grundlage der Embeddings, einschließlich der Rechenbeispiele mit Wortvektoren.
• Sennrich, Haddow und Birch (2016): Neural Machine Translation of Rare Words with Subword Units. Das Verfahren hinter der Tokenisierung.

Training, Skalierung und Ausrichtung

• Brown et al. (2020): Language Models are Few-Shot Learners. Die GPT-3-Arbeit, Referenz für Parameter- und Embeddinggrößen.
• Kaplan et al. (2020): Scaling Laws for Neural Language Models.
• Hoffmann et al. (2022): Training Compute-Optimal Large Language Models. Die Chinchilla-Arbeit zum Verhältnis von Modellgröße und Datenmenge.
• Christiano et al. (2017): Deep Reinforcement Learning from Human Preferences. Ursprung von RLHF.
• Ouyang et al. (2022): Training language models to follow instructions with human feedback. Übertragung auf Sprachmodelle.
• Bai et al. (2022): Constitutional AI, Anthropic.
• Wei et al. (2022): Chain-of-Thought Prompting Elicits Reasoning in Large Language Models.

Grenzen, Halluzination und Interpretierbarkeit

• Ji et al. (2023): Survey of Hallucination in Natural Language Generation, ACM Computing Surveys.
• Lewis et al. (2020): Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. Grundlage von RAG.
• Anthropic (2025): Tracing the thoughts of a large language model. Belege für vorausschauende Planung in Zwischenschichten.
• Templeton et al. (2024): Scaling Monosemanticity. Interpretierbare Merkmale in einem großen Modell.
• Bender et al. (2021): On the Dangers of Stochastic Parrots. Die einflussreichste kritische Gegenposition.
• Turing (1950): Computing Machinery and Intelligence, Mind LIX. Ursprung der Frage, ob Maschinen denken können.

Bilderzeugung

• Ho, Jain und Abbeel (2020): Denoising Diffusion Probabilistic Models.
• Rombach et al. (2022): High-Resolution Image Synthesis with Latent Diffusion Models. Grundlage der heute verbreiteten Bildmodelle.

Weiterführende Einstiege

• Elements of AI: Kostenloser deutschsprachiger Onlinekurs der Universität Helsinki.
• Stanford HAI: AI Index Report. Jährliche Datensammlung zu Leistung, Kosten und Verbreitung.
• Bundeszentrale für politische Bildung: Dossier Künstliche Intelligenz.