Call-bot.ai

KI-Agenten & agentische Automatisierung10 Min. Lesezeit

Was ist ein KI-Agent? Agentische KI einfach erklärt

Ein KI-Agent ist ein System, in dem ein KI-Modell, meist ein Sprachmodell, selbst entscheidet, welche Schritte und Werkzeuge es für eine Aufgabe einsetzt, statt nur auf eine Frage zu antworten. Der Text vergleicht Definitionen von Anthropic, OpenAI, Google Cloud und IBM, nennt dokumentierte Einsätze und Risiken und fasst die Rechtslage in Deutschland zusammen.

Eine Hand zeichnet mit einem roten Stift ein Flussdiagramm auf ein Whiteboard

Foto: Christina Morillo · Pexels

Der Begriff „KI-Agent“ wird für sehr Verschiedenes verwendet. Anthropic schreibt selbst, „Agent“ lasse sich auf mehrere Arten definieren: Manche Kunden verstünden darunter vollständig autonome Systeme, andere eher vorgegebene Abläufe. Wer prüfen will, ob ein Produkt ein Agent ist oder nur so heißt, braucht deshalb Kriterien aus den Herstellerdokumenten und einen Blick ins Recht: Die KI-Verordnung kennt den „KI-Agenten“ nicht als eigenen Begriff.

Dieser Text vergleicht Definitionen, grenzt den Agenten von Chatbot, Assistent und Automatisierung ab, nennt dokumentierte Einsatzfelder und Risiken und fasst zusammen, was in Deutschland rechtlich gilt. Stand aller Angaben ist der 21.10.2026.

Definition: Was ein KI-Agent ist

Vier Quellen, ein gemeinsamer Kern:

  • Anthropic (Dezember 2024) trennt Workflows, in denen Sprachmodelle und Werkzeuge über vorab festgelegte Codepfade gesteuert werden, von Agenten, in denen das Sprachmodell seinen Ablauf und Werkzeugeinsatz dynamisch selbst steuert. Beides zusammen nennt Anthropic „agentische Systeme“.
  • OpenAI (Leitfaden, laut Dateimetadaten vom April 2025): Agenten sind Systeme, die Aufgaben eigenständig in Ihrem Auftrag erledigen. Ein Agent besteht aus Modell, Werkzeugen und Anweisungen.
  • Google Cloud: Softwaresysteme, die KI nutzen, um Ziele zu verfolgen und Aufgaben im Auftrag von Nutzern zu erledigen; sie zeigen Schlussfolgern, Planen und Gedächtnis und haben ein gewisses Maß an Autonomie.
  • IBM: ein System, das Aufgaben autonom erledigt, indem es Abläufe mit verfügbaren Werkzeugen entwirft.

Der gemeinsame Nenner: Ein KI-System, meist ein Sprachmodell, steuert den Ablauf, greift über Werkzeuge auf andere Systeme zu und handelt innerhalb von Vorgaben. Der Begriff „agentische KI“ wird nicht einheitlich verwendet; Anthropic etwa nennt auch Workflows mit vorab festgelegten Codepfaden „agentische Systeme“.

Den typischen Ablauf beschreibt Anthropic so: Der Agent beginnt mit einem Auftrag oder einem Gespräch mit der Nutzerin oder dem Nutzer, plant und arbeitet dann selbstständig. Bei jedem Schritt holt er sich Rückmeldungen aus der Umgebung, etwa Ergebnisse von Werkzeugaufrufen, und kann an Kontrollpunkten oder bei Hindernissen innehalten, um Menschen um Rat oder Entscheidung zu bitten. Werkzeuge sind dabei externe Funktionen oder Schnittstellen, über die der Agent handelt (OpenAI).

Abgrenzung: Chatbot, Assistent, Automatisierung

Typ Wer steuert den Ablauf? Quelle
Bot, Chatbot ohne Werkzeuge Vorgegebene Regeln oder reine Antworten auf Eingaben; plant nicht voraus Google Cloud, IBM
KI-Assistent Die Nutzerin oder der Nutzer entscheidet; der Assistent kann Aktionen empfehlen. Google Cloud zählt Assistenten selbst zu den KI-Agenten Google Cloud
Workflow, RPA Vorab festgelegte Pfade und Prozesse Anthropic, IBM
KI-Agent Das Sprachmodell wählt Schritte und Werkzeuge selbst Anthropic, OpenAI

OpenAI zieht die Grenze deutlich: Anwendungen, die ein Sprachmodell nicht zur Steuerung eines Ablaufs nutzen, etwa einfache Chatbots oder Klassifikatoren, sind keine Agenten. Agenten lohnen sich laut OpenAI bei komplexen Entscheidungen, schwer wartbaren Regelwerken und vielen unstrukturierten Daten; sonst könne eine deterministische Lösung genügen. Anthropic rät, die einfachste Lösung zu wählen und die Komplexität nur bei Bedarf zu erhöhen. IBM beschreibt RPA als regelbasiert: Die Bots folgen nur Prozessen, die Anwender festgelegt haben.

Beispiele aus der Praxis

Belegt sind Einsatzfelder, keine pauschalen Wirkungen:

  • Kundenservice: Anthropic nennt Support-Dialoge mit Werkzeugzugriff als vielversprechendes Feld: Kundendaten und Bestellverlauf abrufen, Rückerstattungen auslösen, Tickets aktualisieren. Der Erfolg lasse sich an gelösten Anliegen messen.
  • Telefon: sipgate beschreibt, dass sein Telefonassistent sona Termine bucht und Bestellungen prüft; ab dem Tarif Starter bietet er eine Live-Anbindung per MCP und API an CRM- und Shopsysteme (Preisseite, 21.10.2026). Riverty nennt für seinen mit Parloa entwickelten Voicebot, den das Unternehmen als verbessertes IVR-Erlebnis beschreibt und nicht als Agenten bezeichnet, erste automatisierte Prozesse wie Ratenzahlungsvereinbarungen und Kontoauszüge (Pressemitteilung vom 20.03.2025). Die Technik erklärt Was ist ein Voicebot?.
  • Software und Finanzen: In der KI-Sicherheitsstudie 2026 von BSI und TÜV-Verband (veröffentlicht am 07.10.2026; forsa, 505 Unternehmen ab 20 Mitarbeitenden, Befragung vom 22.06. bis 31.07.2026) nennen die 34 befragten Unternehmen, die KI-Agenten einsetzen oder planen, Finanz- und Rechnungswesen sowie Softwareentwicklung am häufigsten (je 61 Prozent), danach operative Geschäftsprozesse (57 Prozent). Wegen der geringen Fallzahl weist die Studie diese Werte selbst nur als Tendenzangaben aus.
  • Verbreitung: Laut derselben Studie verwenden 5 Prozent der Unternehmen, die KI nutzen, KI-Agenten; weitere 8 Prozent dieser Unternehmen planen den Einsatz.

Grenzen und Risiken

  • Kosten und Fehler: Die Autonomie bedeute höhere Kosten und das Risiko sich fortpflanzender Fehler, so Anthropic; empfohlen seien umfangreiche Tests in Sandbox-Umgebungen und Leitplanken. IBM nennt Endlosschleifen, in denen ein Agent immer wieder dieselben Werkzeuge aufruft.
  • Zu viele Rechte: OWASP beschreibt „Excessive Agency“ als Schwachstelle, die schädliche Aktionen bei unerwarteten, mehrdeutigen oder manipulierten Modellausgaben ermöglicht. Ursachen sind zu viele Funktionen, zu viele Berechtigungen und zu viel Autonomie. Gegenmittel sind möglichst wenige Werkzeuge und Rechte sowie die Freigabe folgenreicher Aktionen durch Menschen.
  • Menschliche Aufsicht: OpenAI empfiehlt, Menschen einzuschalten, wenn ein Agent Fehlerschwellen überschreitet oder heikle, nicht umkehrbare oder folgenschwere Aktionen ausführen will, etwa Bestellungen stornieren, große Erstattungen freigeben oder Zahlungen auslösen, und zwar so lange, bis das Vertrauen in die Zuverlässigkeit des Agenten gewachsen ist. IBM nennt Massen-E-Mails und Finanzhandel als Aktionen, die eine menschliche Bestätigung brauchen.
  • Sorgen der Unternehmen: In der BSI/TÜV-Studie schätzen 84 Prozent aller 505 befragten Unternehmen es als sehr großes oder eher großes Risiko ein, dass KI-Agenten auf Grundlage falscher oder erfundener Erkenntnisse falsche Entscheidungen treffen; 74 Prozent sehen ein solches Risiko darin, dass unklar ist, wer für Fehler verantwortlich ist und dafür haftet.

Recht in Kürze

Dieser Abschnitt fasst Normtexte zusammen und ist keine Rechtsberatung.

  • KI-Verordnung: Die Kommission behandelt KI-Agenten als „KI-Systeme“ im Sinn von Art. 3 Nr. 1: ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und aus Eingaben ableitet, wie Ausgaben erstellt werden, die Umgebungen beeinflussen können. Im ursprünglichen Verordnungstext kommt „Agent“ nicht vor; die Digital-Omnibus-Verordnung (EU) 2026/1744 (seit 27.07.2026 in Kraft) erwähnt „agentische KI“ einmal, als Beispiel in einer Auffangkategorie für neue KI-Technologien (Code AIH 0401) eines Codeverzeichnisses für notifizierte Stellen (Anhang XIV). Die Hochrisiko-Vorschriften für Systeme nach Anhang III gelten erst ab dem 02.12.2027, nicht ab dem 02.08.2026.
  • Transparenz (Art. 50): Seit dem 02.08.2026 gilt Art. 50. Die Kommission hat am 20.07.2026 den Inhalt eines Entwurfs von Leitlinien zu Art. 50 gebilligt (C(2026) 5054). Danach fallen KI-Agenten unter Abs. 1, wenn sie bei der Aufgabenerledigung mit Personen interagieren können, etwa bei Buchungen, Korrespondenz, Verhandlungen oder Käufen, und müssen so konzipiert sein, dass sie ihre künstliche Natur und die Person offenlegen, in deren Namen sie handeln; diese Offenlegung der Person steht nicht im Wortlaut von Abs. 1, der grundsätzlich verlangt, dass natürliche Personen informiert werden, dass sie mit einem KI-System interagieren. Die Leitlinien sind nicht verbindlich; förmlich angenommen und anwendbar werden sie laut Kommission erst, wenn alle Sprachfassungen vorliegen.
  • KI-Kompetenz (Art. 4): In der durch die Omnibus-Verordnung geänderten Fassung müssen Anbieter und Betreiber Maßnahmen ergreifen, um die KI-Kompetenz ihres Personals zu unterstützen; ein bestimmtes Niveau müssen sie nicht garantieren.
  • DSGVO: Art. 22 Abs. 1 gibt Betroffenen das Recht, nicht einer ausschließlich automatisierten Entscheidung mit rechtlicher Wirkung oder erheblicher Beeinträchtigung unterworfen zu werden. Nach der Datenschutzkonferenz dürfen Entscheidungen mit Rechtswirkung grundsätzlich nur Menschen treffen; eine bloß formelle Beteiligung genügt nicht. Externe Anbieter sind häufig Auftragsverarbeiter (Art. 28), und eine Folgenabschätzung ist bei KI-Anwendungen „vielfach“ erforderlich.
  • Aufsicht: Marktüberwachungsbehörde ist in Deutschland grundsätzlich die Bundesnetzagentur (KI-MIG, seit 29.07.2026).

Einstieg für Unternehmen

  1. Prozess wählen: mit klaren Erfolgskriterien. Anthropic nennt Kundensupport und Programmierung, weil sich dort Erfolg messen lässt.
  2. Bedarf prüfen: Genügt eine feste Regel oder ein einzelner Modellaufruf, ist ein Agent unnötig (Anthropic, OpenAI).
  3. Rechte klein halten: nur die Werkzeuge und Berechtigungen, die die Aufgabe braucht (OWASP).
  4. Menschen einbinden: Freigabe bei folgenreichen Aktionen, Übergabe bei Fehlern (OpenAI, OWASP).
  5. Testen und protokollieren: mit eigenen Fällen und einem Protokoll der Agentenaktionen (IBM). Unser Prüfvorgehen: Testmethodik.
  6. Recht klären: Rechtsgrundlage, Auftragsverarbeitungsvertrag, KI-Hinweis, Schulung des Personals.

Ob ein Telefonassistent ein Agent im Sinn dieses Textes ist, hängt davon ab, ob das Modell Schritte und Werkzeuge selbst wählt oder einem festen Ablauf folgt; Preise und Anbieter stehen im Ratgeber KI-Telefonassistent.

Häufig gestellte Fragen

Was ist ein KI-Agent in einfachen Worten?

Ein Programm, in dem ein KI-Modell, meist ein Sprachmodell, selbst entscheidet, welche Schritte und Werkzeuge es für eine Aufgabe einsetzt. Ein Chatbot, der nur antwortet, ist nach OpenAI kein Agent.

Was bedeutet agentische KI?

Anthropic fasst Workflows und Agenten als „agentische Systeme“ zusammen. IBM verbindet den Begriff mit Technik, die über Werkzeugaufrufe selbstständig Teilaufgaben anlegt; Anthropic zählt dagegen auch Workflows mit vorab festgelegten Codepfaden dazu. Eine einheitliche Definition gibt es nicht.

Kennt die KI-Verordnung den KI-Agenten?

Nicht als eigenen Begriff. Agenten fallen als KI-Systeme unter die Verordnung, und die Kommission wendet in ihrem am 20.07.2026 gebilligten Leitlinienentwurf die Transparenzpflicht des Art. 50 Abs. 1 ausdrücklich auf Agenten an, die mit Personen interagieren können.

Wie viele Unternehmen setzen KI-Agenten ein?

Laut BSI/TÜV-Studie 2026 verwenden 5 Prozent der KI-nutzenden Unternehmen KI-Agenten, weitere 8 Prozent planen den Einsatz. Die Basis ist begrenzt: 505 befragte Unternehmen ab 20 Mitarbeitenden, von denen laut Studie 49 Prozent KI einsetzen (246 Unternehmen); die Zahl ist eine Momentaufnahme von Juni bis Juli 2026.

Braucht ein KI-Agent immer einen Menschen als Kontrolle?

Für folgenreiche Aktionen empfiehlt OpenAI menschliche Aufsicht; OWASP und IBM empfehlen eine menschliche Freigabe. Rechtlich schränkt Art. 22 DSGVO ausschließlich automatisierte Entscheidungen mit rechtlicher Wirkung oder ähnlich erheblicher Beeinträchtigung ein; Ausnahmen regelt Absatz 2.

Kurz gefasst

Ein KI-Agent ist ein System, in dem ein KI-Modell, meist ein Sprachmodell, Ablauf und Werkzeugeinsatz selbst steuert; nach den zitierten Herstellerquellen unterscheiden sich Chatbots, Assistenten und regelbasierte Automatisierung darin, wer den Ablauf bestimmt, doch einheitlich gezogen werden diese Grenzen nicht. Dokumentiert sind Einsätze in Kundenservice, Telefonie, Finanzwesen und Softwareentwicklung, bislang bei einer Minderheit der Unternehmen. Je mehr Autonomie, desto wichtiger sind knapp bemessene Rechte, Tests und menschliche Freigaben. Rechtlich behandelt die Kommission Agenten als KI-Systeme, mit Pflichten aus der KI-Verordnung und der DSGVO. Wenn Sie ein Projekt prüfen, sprechen Sie uns an.

Quellen

Projekt besprechen