Was ist ein KI-Agent und wie testet man ihn? Schritt für Schritt

Was ist ein KI-Agent? Ein Programm auf Basis eines Sprachmodells, das nicht nur antwortet, sondern die Aufgabe selbst erledigt: Es wählt Werkzeuge (Dateien, Terminal, Browser), schaut sich das Ergebnis jedes Schritts an und entscheidet, was als Nächstes kommt, bis es fertig ist. Ein Chatbot liefert uns Text, ein Agent liefert erledigte Arbeit, etwa einen reparierten Test oder einen Commit im Repository.

In dieser Anleitung erkläre ich, wie das im Inneren funktioniert, und dann geht es an die Praxis: Installation eines Agenten im Terminal, die erste Aufgabe und die Einstellungen, die uns vor Überraschungen schützen. Die Befehle stammen aus der offiziellen Dokumentation von Claude Code und Codex CLI.

Was ist ein KI-Agent in der Praxis?

Die kürzeste Definition liefert Anthropic im Text Building effective agents: Agenten sind „typically just LLMs using tools based on environmental feedback in a loop“, also meist einfach Sprachmodelle, die in einer Schleife Werkzeuge nutzen und auf das reagieren, was ihre Umgebung zurückgibt.

Im selben Text grenzt Anthropic Agenten von sogenannten „Workflows“ ab:

1. Ein Workflow ist ein System, in dem Modell und Werkzeuge einem im Code vorgegebenen Pfad folgen. Der Entwickler legt die Schritte fest, das Modell füllt die Lücken.
2. Ein Agent ist ein System, in dem das Modell seinen Ablauf selbst steuert und seine Werkzeuge selbst wählt. Der Entwickler gibt das Ziel vor, das Modell entscheidet, wie viele Schritte es braucht und welche.

Laut Anthropic spielen Agenten ihre Stärken dort aus, wo sich die Zahl der Schritte schwer im Voraus abschätzen lässt. Bei einfachen Aufgaben bleibt man besser bei einer einfacheren Lösung.

Was unterscheidet einen Agenten von einem Chatbot?

Der Unterschied sind die Werkzeuge. In der Dokumentation von Claude Code heißt es, dass Claude ohne Werkzeuge nur mit Text antworten kann, mit Werkzeugen dagegen handeln: Code lesen, Dateien bearbeiten, Befehle ausführen, im Web suchen und sich mit externen Diensten verbinden.

Ein Beispiel aus derselben Dokumentation zeigt das gut. Wir bitten den Agenten, „die fehlschlagenden Tests zu reparieren“, und er:

1. führt die Tests aus, um zu sehen, was scheitert,
2. liest die Fehlermeldungen,
3. sucht die passenden Quelldateien,
4. liest sie, um den Code zu verstehen,
5. bearbeitet die Dateien,
6. führt die Tests erneut aus, um zu prüfen, ob die Korrektur funktioniert.

Ein Chatbot würde dabei stehen bleiben, uns eine Korrektur vorzuschlagen. Ein Agent setzt sie selbst um und prüft selbst das Ergebnis.

Wie funktioniert die Agent-Schleife?

Die Dokumentation von Claude Code beschreibt das als sogenannten „agentic loop“ mit drei Phasen: Kontext sammeln, handeln und Ergebnisse überprüfen. Die Phasen gehen ineinander über, und nach jedem Schritt entscheidet das Modell, was es als Nächstes braucht, und verkettet dabei sogar Dutzende Aktionen.

Ein Agent besteht aus zwei Dingen:

1. Dem Modell, das denkt und plant (in Claude Code sind das Claude-Modelle, die wir mit dem Befehl /model wechseln).
2. Dem Agent-Harness, also der Schicht um das Modell, die ihm Werkzeuge gibt und den Kontext verwaltet. So nennt sie die Dokumentation selbst („agentic harness“).

Die eingebauten Werkzeuge von Claude Code fallen in fünf Gruppen: Dateioperationen, Suche, Befehlsausführung, Web und Code-Analyse. Dazu kommen MCP-Server (Verbindungen zu externen Diensten), Skills und Subagenten.

Interessant: Ein Teil dieser Bausteine sind bereits offene Standards. Am 22. Oktober hat Anthropic den Standard Agent Skills an die Agentic AI Foundation unter dem Dach der Linux Foundation übergeben, der es zuvor schon MCP überlassen hatte. Laut Anthropic wird der Standard von mehr als 70 Agentenplattformen unterstützt, darunter ChatGPT, Cursor und GitHub Copilot.

Warum wird gerade so viel über KI-Agenten gesprochen?

Weil sie vom Kuriosum zum Alltagswerkzeug geworden sind. Laut dem Octoverse-Bericht, den GitHub am 28. Oktober auf seiner Konferenz Universe vorgestellt hat, begannen im September mehr als 40 % der Pull Requests mit einem Entwurf, den ein Agent geschrieben hatte, im März waren es 17 % (Bericht von The Next Web).

Agenten gehen auch über Code hinaus. Ich habe bereits über Claude Duet geschrieben, der sich von selbst mit einem Morgen-Briefing meldet und die Mails im Blick behält, und über vier Gemini-Agenten, die Minecraft bis zum Enderdrachen durchgespielt haben.

Schritt 1: Wie installiert man einen KI-Agenten im Terminal?

Am einfachsten sieht man einen Agenten bei der Arbeit mit einem Coding-Agenten im Terminal. Ich zeige Claude Code, das ich für diese Website nutze, und zum Vergleich Codex CLI von OpenAI.

Claude Code setzt einen kostenpflichtigen Claude-Plan voraus (Pro, Max, Team oder Enterprise) oder ein Konto in der Claude Console mit API-Guthaben. Installation unter macOS, Linux und WSL:

curl -fsSL https://claude.ai/install.sh | bash

Windows PowerShell:

irm https://claude.ai/install.ps1 | iex

Der Installer zeigt keinen Fortschritt an. Danach öffnen wir ein neues Terminalfenster und prüfen:

claude --version

Codex CLI installieren wir unter macOS und Linux so:

curl -fsSL https://chatgpt.com/codex/install.sh | sh

Beim ersten Start bietet Codex die Anmeldung mit einem ChatGPT-Konto an („Sign in with ChatGPT“). Die Installation Schritt für Schritt, mit Anmeldung und der Datei CLAUDE.md, habe ich in meiner Anleitung zu Claude Code beschrieben.

Schritt 2: Wie gibt man dem Agenten die erste Aufgabe?

Wir wechseln in das Verzeichnis eines beliebigen Projekts und starten den Agenten:

cd /pfad/zum/projekt
claude

(Codex startet genauso, mit dem Befehl codex.) Beim ersten Start bittet Claude Code um die Anmeldung im Browser.

Fangen wir mit einer Frage an, die nichts verändert, aber die Agent-Schleife sofort zeigt:

what does this project do?

Der Agent sieht sich die Dateien selbst an und kommt mit einer Zusammenfassung zurück. Wir müssen nichts einfügen und auf nichts zeigen.

Dann eine kleine Aufgabe, die schon etwas ändert:

add a hello world function to the main file

Claude Code findet die richtige Datei und zeigt die Änderung. Fragt er nach Erlaubnis, wählen wir Yes. Anweisungen kann man auch auf Deutsch schreiben, die Beispiele oben stammen direkt aus der Dokumentation.

Schritt 3: Wie legt man fest, was der Agent allein darf?

Das ist der wichtigste Teil, denn der Agent arbeitet auf unserem Rechner. In Claude Code entscheidet darüber der Berechtigungsmodus, den wir mit Shift+Tab umschalten:

1. Manual: Der Agent fragt vor jeder Dateiänderung und jedem Terminalbefehl. Ein guter Start.
2. Accept edits: Der Agent bearbeitet Dateien und führt einfache Dateioperationen ohne Rückfrage aus, bei anderen Befehlen fragt er weiterhin.
3. Plan: Der Agent untersucht nur den Code und schlägt einen Plan vor, er ändert nichts an den Quelldateien.
4. Auto: Ein Klassifikator im Hintergrund prüft die Aktionen und blockiert riskante, statt uns zu fragen.

Das zweite Sicherheitsnetz sind Checkpoints. Vor jeder Änderung legt Claude Code eine Kopie der Datei an, und zweimal Esc macht die Änderungen rückgängig. Eine Einschränkung gibt es: Checkpoints umfassen nur Dateien, Aktionen an Datenbanken, APIs oder Deployments machen sie also nicht rückgängig (deshalb lassen wir solche Operationen im Modus mit Rückfrage).

Wir können den Agenten außerdem jederzeit mit Esc unterbrechen oder während der Arbeit eine Korrektur eintippen, die der Agent beim nächsten Schritt berücksichtigt.

Schritt 4: Wie schreibt man Aufgaben für einen Agenten?

Die Dokumentation rät, den Agenten wie einen fähigen Kollegen zu behandeln: Kontext und Ziel nennen, die Details ihm überlassen. Drei Regeln, die funktionieren:

1. Konkret statt allgemein: „Behebe den Login-Fehler, bei dem Nutzer nach einem falschen Passwort einen leeren Bildschirm sehen“, nicht „Behebe den Fehler“.
2. Größere Aufgaben in Schritte zerlegen: erst die Tabelle in der Datenbank, dann der API-Endpunkt, zum Schluss die Seite.
3. Erst erkunden, dann ändern: Bitten wir den Agenten, den Code zu analysieren, bevor er irgendetwas ändert (dafür eignet sich der Plan-Modus hervorragend).

Feste Projektregeln kommen in die Datei CLAUDE.md. Der Befehl /init erzeugt ihre erste Version.

Worauf sollte man achten?

Erstens auf die Kosten. Anthropic schreibt klar, dass die Autonomie von Agenten höhere Kosten bedeutet und das Risiko, dass sich Fehler aufschaukeln. Ein Agent, der Dutzende Schritte macht, verbraucht deutlich mehr Tokens als eine einzelne Chat-Antwort.

Zweitens auf die Sicherheit. Ein Agent mit Terminalzugriff sieht, was wir sehen, einschließlich der API-Schlüssel in .env-Dateien. Anthropic empfiehlt Tests in einer isolierten Umgebung mit passenden Schutzmaßnahmen; die Sandbox selbst, Berechtigungsregeln und Ausgabenlimits habe ich in meiner Anleitung zur Sicherheit von KI-Agenten beschrieben. Dass das keine Theorie ist, zeigt die Geschichte von Agenten, die während des Trainings bei OpenAI aus ihrer Sandbox ausgebrochen sind.

Drittens auf die Überprüfung. Der Agent prüft seine Arbeit selbst, aber das Review vor dem Merge bleibt unsere Aufgabe ;)

FAQ

Was ist ein KI-Agent, einfach erklärt?

Ein KI-Modell, das ein Ziel bekommt und die Schritte dorthin selbst ausführt: Es nutzt Werkzeuge, prüft die Ergebnisse und korrigiert sich, bis es fertig ist. Ein Chatbot beantwortet nur die Frage.

Ist ein KI-Agent kostenlos?

Claude Code setzt einen kostenpflichtigen Claude-Plan oder API-Guthaben voraus. Bei Codex CLI melden wir uns mit einem ChatGPT-Konto an, die Verfügbarkeit hängt vom Plan ab. Kostenlos können wir auch ein Modell lokal laufen lassen, wie ich in meiner Anleitung KI lokal ausführen zeige.

Kann ein KI-Agent etwas auf meinem Rechner kaputt machen?

Ja, denn er führt echte Befehle aus. Deshalb fangen wir im Modus Manual oder Plan an und machen Dateiänderungen mit Checkpoints oder über git rückgängig.

Was unterscheidet einen KI-Agenten von einem Workflow?

Im Workflow legt der Entwickler die Schritte fest und das Modell füllt sie nur aus. Ein Agent entscheidet selbst, welche Schritte er in welcher Reihenfolge ausführt.