Zum Hauptinhalt springen
Startseite / Blog / Security Guide
Security Guide

So stoppen Sie die Ausbreitung einer Prompt Injection zwischen KI-Agenten und ihrem Gedächtnis

RRogue AI··9 Min. Lesezeit
KI-Roboter aus Knete steckt eine Karte mit rotem Fleck in eine Holzschublade, an einem kleinen Tisch zieht ein zweiter Knete-Roboter dieselbe Karte wieder heraus und liest sie

Damit sich eine Prompt Injection nicht zwischen KI-Agenten und ihrem Gedächtnis ausbreitet, behandeln Sie jeden Schreibzugriff auf das Gedächtnis als Sicherheitsereignis. Protokollieren Sie, welcher Agent einen Eintrag geschrieben hat und welche Inhalte dabei in seinem Kontext lagen. Halten Sie Einträge aus nicht vertrauenswürdigen Inhalten getrennt von solchen, die ein Mensch freigegeben hat, und geben Sie jedem Eintrag ein Ablaufdatum. Ist einer vergiftet, müssen Sie jeden Lauf finden, der ihn gelesen hat, und jeden Eintrag, den diese Läufe geschrieben haben. Die meisten Härtungsanleitungen enden vor diesem Punkt.

Injection-Versuche tauchen inzwischen in Messungen des öffentlichen Webs auf. Am 23. April 2026 veröffentlichte Google einen Scan des öffentlichen Webs auf Basis von Common Crawl, das monatliche Snapshots von 2 bis 3 Milliarden Seiten bereitstellt. Der zentrale Satz lautet: „We saw a relative increase of 32% in the malicious category between November 2025 and February 2026.“ Der Scan lässt Seiten hinter Logins und die meisten sozialen Netzwerke aus, und Google schreibt selbst, das Vorgehen sei „not exhaustive“. Die bösartigen Funde zielen auf Datendiebstahl und darauf, den Rechner von Nutzern eines KI-Assistenten zu beschädigen.

Die übliche Antwort ist eine Sandbox. Sie ist richtig, und wir haben sie selbst beschrieben, in So sperren Sie einen KI-Agenten in eine Sandbox. Unserer Einschätzung nach löst sie aber nur die Hälfte des Problems. Eine Sandbox begrenzt einen Lauf. Dieser Leitfaden handelt von der Injection, die während eines Laufs aufgeschrieben und nächste Woche wieder gelesen wird.

Warum endet die übliche Härtung an der Sandbox?

Weil Abwehrmaßnahmen, die im Prompt selbst gewinnen wollen, weiter verlieren. In „The Attacker Moves Second“ umgingen Milad Nasr und Kollegen 12 aktuelle Abwehrverfahren „with attack success rate above 90% for most“, obwohl die meisten davon ursprünglich Erfolgsraten nahe null gemeldet hatten. An ihrem Red-Teaming-Wettbewerb mit Menschen nahmen über 500 Personen teil. Die Autoren schreiben: „human red-teaming succeeds in all the cases we evaluated“. Die praktische Folge haben wir in Prompt Injection lässt sich nicht patchen beschrieben.

Den Schluss, den die meisten Anleitungen ziehen, formuliert Sophos so: Den Schaden mit Kontrollen außerhalb des Modells begrenzen, nämlich „process boundaries, credential isolation, egress filtering, human gates, and comprehensive audit“. Alle wirken auf einen laufenden Lauf. Endet er, wird der Container verworfen und die Injection mit ihm. Es sei denn, der Agent hat etwas aufgeschrieben.

Für diesen Fall findet Sophos deutliche Worte: „A poisoned memory entry is a backdoor that loads every session.“ Zugleich räumt Sophos die Lücke ein: „Memory poisoning detection is heuristic. No reliable automated solution exists“, und „Human review of memory writes is the current state of the art.“ Das ist der ungelöste Teil. Sie werden vermutlich nicht jede Injection abfangen. Sie können aber dafür sorgen, dass sie eine Spur hinterlässt und dass Sie sie wieder entfernen können.

Wie weit reicht eine Injection? Vier Ebenen

Eine Injection reicht so weit, wie die eigenen Schreibzugriffe des Agenten sie tragen. Sophos beschreibt vier Ebenen. Die ersten beiden sind Sitzungskontext und dauerhaftes Gedächtnis, die anderen beiden sind agentenübergreifend: direkte Nachrichten und gemeinsamer Zustand. Die Tabelle nutzt dieselben vier Ebenen. Eine Injection auf Level 0 „lives only in the current context window and dies when the session ends“, eine auf Level 1 „writes a poisoned entry to persistent memory. Survives session restarts, fires on every load.“ Die letzte Spalte, was jede Ebene begrenzt, ist unsere Einschätzung.

EbeneLebt bisWer liest sie als NächstesWas sie begrenzt
0. SitzungskontextDie Sitzung endetDerselbe LaufSandbox, Budgets, menschliche Freigabe für Schreibaktionen
1. Dauerhaftes GedächtnisJemand löscht esDerselbe Agent, jede spätere SitzungSchreibschranke, Herkunftsmarke, Ablaufdatum, Schreibprotokoll
2. Nachrichten zwischen AgentenDer Empfänger handelt danach oder speichert sieDer empfangende Agent, der dem Absender vertrautNachrichtentext als nicht vertrauenswürdige Daten behandeln, getrennte Identitäten
3. Gemeinsamer Zustand: geteilte Notizen, Vektorindex, TicketboardJemand räumt aufJeder Agent, der ihn liest, in jedem LaufSchreibbereich pro Agent, Versionierung, Leseprotokoll

OWASP führt zwei dieser Ebenen als eigene Risiken. In den Top 10 for Agentic Applications, veröffentlicht am 9. Dezember 2025, stehen ASI06 Memory & Context Poisoning und ASI07 Insecure Inter-Agent Communication als eigene Einträge. OWASPs Beispiel zum ersten: „Memory poisoning reshaped behaviour long after the initial interaction“.

Der gefährliche Weg führt unserer Einschätzung nach nacheinander über die Ebenen 0, 1 und 3. Ein Agent liest in einer Sitzung eine Webseite. Er fasst sie ins Gedächtnis zusammen, damit er sie sich „merkt“. Ein zweiter Agent lädt diese Zusammenfassung eine Woche später als schlichte Tatsache. Bei jedem Schritt geht die Herkunft verloren: Die Zusammenfassung sagt nicht, dass sie von einer ungeprüften Seite stammt. Wenn der zweite Agent handelt, kennzeichnet in seinem Kontext nichts den Text als nicht vertrauenswürdig. Nachrichten zwischen Agenten verhalten sich genauso. Der Empfänger gibt der Nachricht die Autorität des Absenders, und der Absender hat womöglich nur einen Angreifer zitiert.

Was sollten Sie protokollieren? Jeden Schreib- und jeden Lesezugriff aufs Gedächtnis

Was Sie nicht finden, können Sie nicht bereinigen. Sophos sagt: „Treat memory writes as security events and log them.“ Das Whitepaper von ISACA zur Absicherung von KI-Agenten vom 15. September 2026 verlangt unter anderem, „prompts, responses, retrieved sources, content hashes, tool invocations“ zu protokollieren, und sagt: „Use centralized, tamper-resistant logging.“ Für das Gedächtnis heißt das: ein Datensatz pro Schreib- und einer pro Lesezugriff, gespeichert dort, wo der Agent ihn nicht ändern kann:

{
  "event": "memory_write",
  "entry_id": "m-20261122-0417",
  "time": "2026-11-22T09:14:03Z",
  "writer": "agent:research-2",
  "run_id": "run-8841",
  "context_sources": [
    {"type": "web", "ref": "https://example.org/page", "trust": "untrusted"},
    {"type": "user", "ref": "ticket-5521", "trust": "trusted"}
  ],
  "content_sha256": "9f2c...e1",
  "approved_by": null,
  "expires": "2026-12-22"
}
{
  "event": "memory_read",
  "entry_id": "m-20261122-0417",
  "reader": "agent:planner-1",
  "run_id": "run-9120"
}

Am wichtigsten ist das Feld context_sources. Es hält fest, was der Agent beim Schreiben gelesen hatte, sodass ein Eintrag nach dem Lesen einer ungeprüften Seite von Anfang an auffällt. Die Lese-Ereignisse machen die Bereinigung erst möglich, denn sie zeigen, welche späteren Läufe betroffen waren. ISACA verlangt außerdem Schwärzung, wo nötig. Im Gedächtnis liegen oft personenbezogene Daten, entscheiden Sie also vor dem Protokollieren, was maskiert wird.

Wie dämmen Sie ein vergiftetes Gedächtnis ein und bereinigen es?

Ein vergiftetes Gedächtnis eindämmen heißt sieben Schritte: Schreiben sperren, Eintrag finden, vorwärts und rückwärts verfolgen, in Quarantäne legen, wiederherstellen, Rechte entziehen und den Zugangsweg schließen. Die Reihenfolge zählt, denn wer aufräumt, bevor das Schreiben gesperrt ist, lässt denselben Agenten den Eintrag neu anlegen.

1. Schreiben sperren

Stellen Sie die betroffenen Agenten auf ein schreibgeschütztes Gedächtnis. ISACA nennt den Schritt: „disabling tools or shifting the agent to read-only mode“. Tun Sie das pro Agent und pro Speicher, nicht für das ganze System, damit die unbetroffenen Agenten weiterarbeiten.

2. Eintrag finden

Gehen Sie vom Symptom aus: ein Lauf, der etwas Merkwürdiges getan hat. Nehmen Sie seine Lauf-ID, listen Sie aus dem Leseprotokoll jeden Eintrag auf, den er geladen hat, und suchen Sie Einträge, deren context_sources nicht vertrauenswürdige Inhalte enthalten oder deren Text dem Agenten sagt, was er tun soll. Eine Tatsache beschreibt die Welt. Ein Eintrag, der dem Agenten eine Dauerweisung gibt, ist der, den Sie zuerst lesen.

3. Vorwärts und rückwärts verfolgen

Vorwärts: Listen Sie jeden Lauf auf, der den Eintrag gelesen hat, dann jeden Eintrag, den diese Läufe geschrieben haben. Diese Einträge gelten als verdächtig, bis das Gegenteil belegt ist, und bilden Ihre Bereinigungsmenge. Rückwärts: Öffnen Sie die Quelle, die beim ersten Schreiben im Kontext lag, damit Sie wissen, welche Seite, welches Dokument oder welche Nachricht Sie sperren müssen.

4. In Quarantäne legen, nicht löschen

Verschieben Sie die betroffenen Einträge samt Protokolldaten in eine Quarantänetabelle, die kein Agent lesen kann. Sie brauchen den Text für die Nachbesprechung, für Ihre Erkennungsregeln und für den Test in Schritt 7.

5. Von einem sauberen Stand wiederherstellen

Setzen Sie den Speicher auf den letzten Snapshot vor dem ersten betroffenen Schreibzugriff zurück und spielen Sie die sauberen Schreibzugriffe aus dem Protokoll wieder ein. Das setzt ein versioniertes Gedächtnis voraus, und es ist der beste Grund, es vor einem Vorfall einzuführen. Einen Vektorindex bauen Sie aus den Quelldokumenten neu auf, statt einzelne Vektoren zu bearbeiten.

6. Rechte der betroffenen Läufe entziehen

Ein betroffener Lauf kann gehandelt haben, bevor es jemand bemerkte. Prüfen Sie die Schreibaktionen jedes betroffenen Laufs, widerrufen Sie die dafür ausgestellten Tokens und rotieren Sie jedes Geheimnis, das ein betroffener Agent erreichen konnte. Es gilt dieselbe Logik wie beim Not-Aus-Schritt im Sandbox-Leitfaden.

7. Den Zugangsweg schließen

Markieren Sie die Quelle für Gedächtnis-Schreibzugriffe als nicht vertrauenswürdig, nehmen Sie den Quarantäne-Eintrag in einen Regressionstest auf und führen Sie ihn aus. Kommt ein ähnlicher Eintrag noch durch die Schranke, ist die Schranke das Nächste, was Sie reparieren. Die Erkennung bleibt vorerst Handarbeit, halten Sie also für Einträge, die das Verhalten eines Agenten ändern, einen Menschen im Ablauf.

Was können Sie diese Woche prüfen?

Sieben Prüfungen, für die Sie kein neues Produkt brauchen. Jede dauert Stunden, nicht Wochen.

  • Listen Sie jede Stelle auf, an der einer Ihrer Agenten schreiben kann und ein späterer Lauf liest: Gedächtnisdateien, ein Vektorspeicher, ein Notizordner, Ticketkommentare, ein gemeinsamer Kanal. Die Liste ist fast immer länger, als das Team erwartet.
  • Ergänzen Sie überall das Schreib- und das Leseprotokoll von oben. Bei einem dateibasierten Gedächtnis ist das eine einzige Wrapper-Funktion.
  • Versehen Sie jeden Eintrag mit seiner Herkunft: von einem Nutzer getippt, von einem Werkzeug erzeugt, aus dem Web übernommen, von einem anderen Agenten gesendet. Laden Sie Einträge aus Web und Agenten als zitierte Daten in den Prompt, nie als Anweisung.
  • Geben Sie Einträgen ein Ablaufdatum. ISACA: „Apply retention limits and time to live (TTL) values to persistent memory.“ Wir beginnen bei 30 Tagen für alles, was ein Mensch nicht erneut bestätigt hat.
  • Setzen Sie eine menschliche Freigabe vor Einträge, die das Verhalten ändern: Dauerweisungen, Vorlieben, Kontakte, URLs, der Ablageort von Zugangsdaten. Fakten über Ihre eigenen Daten können ohne Freigabe durch.
  • Trennen Sie das Gedächtnis nach Agentenidentität und Einsatzzweck. ISACA: „Isolate memory and context by tenant, user, and use case.“ Ein gemeinsames Notizbuch für alle Agenten ist Ebene 3 in Reinform.
  • Machen Sie eine Wiederherstellungsübung. Nehmen Sie einen Eintrag zufällig, finden Sie jeden Lauf, der ihn gelesen hat, setzen Sie zurück und stoppen Sie die Zeit. Schaffen Sie das nicht an einem Nachmittag, schaffen Sie es im Vorfall nicht.

Wie unterscheidet sich das von unseren anderen Leitfäden?

Der Beitrag zur Erfolgsrate von Prompt Injection misst, wie oft ein Angriff einen Browser-Agenten in einer Sitzung kapert. Der Leitfaden zur RAG-Sicherheit behandelt vergiftete Dokumente in einem Abrufindex, den Sie selbst kontrollieren. Die Allowlist für Schreibaktionen begrenzt, was ein Agent im Web tun darf. Dieser Leitfaden beginnt nach allen dreien: Die Injection ist einmal gelandet und wurde gespeichert, und die Frage ist, wer sie als Nächstes liest. Wenn Sie mehrere Agenten betreiben, behandelt der Leitfaden zur Orchestrierung das dauerhafte Gedächtnis, das Sie hier protokollieren sollen, und der Beitrag zu Non-Human Identities die getrennten Identitäten, die ein Schreibprotokoll aussagekräftig machen.

Checkliste

  • Jede gemeinsame Schreibstelle aufgelistet und einer Person zugeordnet
  • Schreibprotokoll mit Kontextquellen, Schreiber, Lauf-ID und Inhalts-Hash, Leseprotokoll mit Leser und Lauf-ID, beide außerhalb der Reichweite des Agenten
  • Herkunftsmarke an jedem Eintrag, nicht vertrauenswürdige Herkunft nur als zitierte Daten geladen
  • Ablaufdatum an jedem Eintrag, menschliche Freigabe für Einträge, die das Verhalten ändern
  • Gedächtnis nach Agentenidentität und Einsatzzweck getrennt, versioniert für den Rollback
  • Ein Befehl für den Schreibschutz pro Agent und pro Speicher
  • Wiederherstellungsübung einmal gemacht, gestoppt, aufgeschrieben

Weiterführende Lektüre

Quellen: Google, 23. April 2026, Nasr et al., arXiv 2510.09023, Sophos (Seite ohne Datum), ISACA, 15. September 2026 und die OWASP Top 10 for Agentic Applications.

Häufig gestellte Fragen

Wie breitet sich eine Prompt Injection zwischen KI-Agenten aus?

Über alles, was ein Agent schreibt und ein anderer liest. Ein Agent liest nicht vertrauenswürdige Inhalte und legt eine Zusammenfassung im dauerhaften Gedächtnis, in geteilten Notizen oder in einer Nachricht ab. Ein zweiter Agent lädt diesen Text später als schlichte Tatsache. Bei jedem Schritt geht die Herkunft des Textes verloren, sodass nichts ihn als nicht vertrauenswürdig kennzeichnet, wenn der zweite Agent handelt. Sophos beschreibt den Gedächtnisfall als Hintertür, die in jeder Sitzung geladen wird.

Was sollten Sie protokollieren, um ein vergiftetes Agenten-Gedächtnis zu finden?

Einen Datensatz pro Schreib- und einen pro Lesezugriff, gespeichert dort, wo der Agent sie nicht ändern kann. Der Schreibdatensatz enthält Eintrags-ID, Zeit, schreibenden Agenten, Lauf-ID, die Quellen im Kontext des Agenten in diesem Moment mit Vertrauensmarke, einen Inhalts-Hash, die Freigabe und ein Ablaufdatum. Der Lesedatensatz enthält die Eintrags-ID, den lesenden Agenten und seine Lauf-ID. Das Leseprotokoll zeigt, welche späteren Läufe betroffen waren.

Wie bereinigen Sie ein vergiftetes Agenten-Gedächtnis?

Schreibzugriffe der betroffenen Agenten sperren, den Eintrag vom auffälligen Lauf aus finden, jeden Lauf verfolgen, der ihn gelesen hat, und jeden Eintrag, den diese Läufe geschrieben haben, alles in einen Quarantänespeicher verschieben, von einem Snapshot vor dem ersten betroffenen Schreibzugriff wiederherstellen, die Tokens der betroffenen Läufe widerrufen und den Eintrag in einen Regressionstest aufnehmen. Laut Sophos ist die Erkennung weiterhin heuristisch, und die menschliche Prüfung von Gedächtnis-Schreibzugriffen ist der Stand der Technik.

Weitere Artikel

Security Guide

So sperren Sie einen KI-Agenten in eine Sandbox: Netzwerk, Zugangsdaten, Not-Aus

9 Min. Lesezeit

Security Guide

So prüfen Sie die KI-Agenten-Konfiguration eines Repos vor dem Öffnen

9 Min. Lesezeit

← Alle Artikel