GuidesOneMux

Einen datenschutzbewussten LangGraph-Agenten mit Tool-Freigabe und Wiederherstellung entwickeln

Ein praxisnahes Muster für menschliche Prüfung in LangGraph, Checkpointing, begrenzte Ausführung und Tools, die Zugangsdaten schützen – für Agenten, die mit sensiblen Daten arbeiten.

AI

Zusammenfassung · TL;DR

Mit LangGraphs Human-in-the-Loop-Middleware lassen sich sensible Tool-Aufrufe anhalten, prüfen oder ablehnen und anschließend anhand eines Checkpoints fortsetzen. Kombinieren Sie diesen Ablauf mit klar begrenzten Tools, isolierten Zugangsdaten und einem Ausführungslimit.

Kernaussagen

  • Halten Sie Zugangsdaten in den Tool-Implementierungen und übergeben Sie dem Modell nur die minimal erforderlichen Argumente.
  • Verlangen Sie für sensible Schreibvorgänge oder Abfragen eine menschliche Prüfung, während sichere Lesezugriffe ausgeführt werden können.
  • Verwenden Sie einen persistenten Checkpointer und eine stabile Thread-ID, um unterbrochene Arbeit fortzusetzen.
  • Begrenzen Sie die Graph-Ausführung und gestalten Sie Tools idempotent oder unabhängig davon sicher wiederholbar.
  • Behandeln Sie den gespeicherten Zustand in Checkpoints und Interrupt-Payloads als sensible Daten.
Auf dieser Seite (5)

Ein datenschutzbewusster Agent sollte sich nicht darauf verlassen, dass das Modell selbst entscheidet, ob ein Tool-Aufruf sicher ist. Halten Sie Zugangsdaten aus der Konversation heraus, beschränken Sie die Möglichkeiten jedes Tools und halten Sie sensible Aktionen zur menschlichen Prüfung an. LangGraphs Human-in-the-Loop-Middleware ermöglicht das Anhalten und Fortsetzen; für den Umgang mit Daten, die Autorisierung und Ausführungsgrenzen ist weiterhin Ihre Anwendung zuständig.

In dieser Anleitung erstellen wir ein kleines Muster für einen Agenten, der Kundendatensätze lesen und eine Datenbankänderung anfordern kann. Der Code dient der Veranschaulichung und wurde hier nicht getestet. Prüfen Sie vor der Bereitstellung, ob Paketversionen und Tool-Signaturen zu Ihrer Umgebung passen.

1. Modellkontext und Zugangsdaten voneinander trennen

Fügen Sie keine Passwörter, API-Schlüssel, Sitzungscookies oder uneingeschränkten Datenbankzugangsdaten in Prompts oder Tool-Argumente ein. Geben Sie Tools stattdessen klar begrenzte Funktionen und lassen Sie sie die Zugangsdaten erst bei der Ausführung über den Secret-Management-Mechanismus Ihrer Anwendung abrufen. Das Modell sollte nur die Daten sehen, die es für die Auswahl einer Aktion benötigt.

Bevorzugen Sie beispielsweise ein Tool wie find_customer_record(customer_id) gegenüber einem universell einsetzbaren Tool, das beliebiges SQL und Verbindungsdaten entgegennimmt. Prüfen Sie die Berechtigung direkt im Tool: Die Anfrage eines Nutzers beweist nicht, dass er auf den angeforderten Datensatz zugreifen darf.

Die menschliche Prüfung ist eine zusätzliche Schutzmaßnahme, aber kein Autorisierungssystem. Prüfer sollten genug Informationen für eine Entscheidung sehen, jedoch sollten unnötige personenbezogene Daten oder Geheimnisse nicht in Prüfoberflächen und Protokollen angezeigt werden.

2. Prüfung für sensible Aktionen konfigurieren

Die bereitgestellte Dokumentation zu Human-in-the-Loop in LangChain beschreibt Middleware, die Tool-Aufrufe anhand einer Richtlinie prüft. Bei passenden Aufrufen kann die Ausführung unterbrochen werden; ein Checkpointer speichert den Graph-Zustand, damit der Lauf später fortgesetzt werden kann. Zu den dokumentierten Entscheidungen gehören Genehmigung, Bearbeitung von Argumenten, Ablehnung mit Feedback und die Beantwortung einer Frage, die ein Tool an den Nutzer richtet.

Hier eine beispielhafte Konfiguration. Ersetzen Sie die Platzhalter-Tools durch Implementierungen, die die Zugriffsregeln und die Eingabevalidierung Ihrer Anwendung durchsetzen.

from langchain.agents import create_agent
from langchain.agents.middleware import HumanInTheLoopMiddleware
from langgraph.checkpoint.memory import InMemorySaver

agent = create_agent(
    model="YOUR_CONFIGURED_MODEL",
    tools=[read_customer_record, update_customer_record],
    middleware=[
        HumanInTheLoopMiddleware(
            interrupt_on={
                "read_customer_record": False,
                "update_customer_record": {
                    "allowed_decisions": ["approve", "edit", "reject"]
                },
            },
            description_prefix="Review requested customer-data change",
        ),
    ],
    # For production, use a persistent checkpointer appropriate to your stack.
    checkpointer=InMemorySaver(),
)

InMemorySaver eignet sich für Prototypen, bietet aber keine dauerhafte Wiederherstellung nach einem Prozessneustart. Laut Dokumentation ist für Unterbrechungen zur menschlichen Prüfung ein Checkpointer erforderlich; als persistente Optionen werden unter anderem AsyncPostgresSaver und MongoDBSaver genannt. Wählen Sie einen Speicher mit Zugriffskontrollen, Aufbewahrungsregeln und Verschlüsselung, die den von Ihnen gespeicherten Daten angemessen sind. Ein Checkpoint kann Nachrichten und Tool-Argumente enthalten und somit sensible Nutzerdaten speichern, auch wenn Zugangsdaten ausgeschlossen sind.

Wenn nur bestimmte Aufrufe geprüft werden müssen, unterstützt die Dokumentation für bedingte Unterbrechungen auch ein when-Prädikat (erfordert langchain>=1.3.3). Sie könnten beispielsweise einen Schreibvorgang außerhalb eines genehmigten Arbeitsbereichs oder eine Abfrage anhalten, die nicht schreibgeschützt ist. Eine Prüfung anhand eines Zeichenpräfixes ist keine vollständige SQL-Sicherheitsrichtlinie. Setzen Sie sichere Operationen zusätzlich auf Datenbank- und Tool-Ebene durch.

3. Denselben Lauf anhalten, prüfen und fortsetzen

Verwenden Sie eine stabile Thread-ID, damit die Anwendung die ausstehende Prüfung der richtigen Konversation zuordnen kann. Schützen Sie diese ID und die Prüfoberfläche: Allein der Besitz einer Thread-ID darf nicht dazu berechtigen, eine Aktion zu genehmigen.

from langgraph.types import Command

config = {"configurable": {"thread_id": "conversation-123"}}

result = agent.invoke(
    {"messages": [{"role": "user", "content": "Update this customer's address"}]},
    config=config,
    version="v2",
)

if result.interrupts:
    # Present the requested action to an authenticated reviewer.
    # Resume only after recording that reviewer's decision.
    result = agent.invoke(
        Command(resume={"decisions": [{"type": "reject", "message": "Verify the request first."}]}),
        config=config,
        version="v2",
    )

Bei mehreren angehaltenen Tool-Aufrufen muss die Reihenfolge der Entscheidungen mit der Reihenfolge der Aktionen in der Interrupt-Anfrage übereinstimmen. Verwenden Sie reject, um eine Aktion mit Nebenwirkungen abzulehnen. Laut Dokumentation liefert respond ein synthetisches Tool-Ergebnis; diese Option ist für die Beantwortung einer Frage durch ein Tool im Stil von „ask user“ vorgesehen, nicht für die Ablehnung eines Schreibvorgangs.

4. Ausführung begrenzen und Wiederherstellung einplanen

Eine Prüfunterbrechung allein verhindert nicht, dass ein Modell wiederholt Tools anfordert. Legen Sie für Aufrufe ein Rekursionslimit für den Graphen fest und behandeln Sie den dadurch ausgelösten Limitfehler als kontrollierten Stopp. Das passende Limit hängt von der jeweiligen Arbeitslast ab. Wählen Sie es anhand der maximal sinnvollen Abfolge von Modell- und Tool-Schritten und testen Sie das Verhalten an der Grenze.

config = {
    "configurable": {"thread_id": "conversation-123"},
    "recursion_limit": 12,
}

Diese beispielhafte Einstellung begrenzt die Graph-Schritte; sie bietet keine Garantie gegen langsame Tools, umfangreiche Ausgaben oder wiederholte externe Nebenwirkungen. Setzen Sie Zeitlimits für Netzwerk- und Datenbankaufrufe, begrenzen Sie Tool-Ausgaben und validieren Sie Eingaben. Verwenden Sie bei wiederholbaren Vorgängen Idempotenzkontrollen oder prüfen Sie vor einer Änderung den aktuellen Zustand. Schlägt ein Lauf fehl, nachdem ein Tool erfolgreich war, der Agent das Ergebnis aber noch nicht gespeichert hat, könnte eine blinde Wiederholung den Vorgang doppelt ausführen.

Setzen Sie bei der Wiederherstellung den Checkpoint desselben Threads erst fort, nachdem Sie geprüft haben, ob die ausstehende Aktion und ihre Autorisierung weiterhin gültig sind. Haben sich während der Prüfung die Berechtigungen des Nutzers oder der zugrunde liegende Datensatz geändert, lehnen Sie die Aktion ab oder prüfen Sie sie erneut, statt veraltete Argumente auszuführen.

5. Checkliste zu Datenschutz und Fehlerfällen

Prüfen Sie vor dem Produktiveinsatz, ob Folgendes sichergestellt ist:

  • Tool-Implementierungen rufen Zugangsdaten vertraulich ab und geben sie weder in Tool-Ergebnissen noch in Fehlermeldungen zurück.
  • Jedes Tool setzt die Nutzerautorisierung durch und akzeptiert nur die engstmöglichen sinnvollen Argumente.
  • Für Checkpoints, Interrupt-Payloads, Protokolle und Prüfoberflächen sind Zugriffs- und Aufbewahrungskontrollen festgelegt.
  • Prüfer können Ziel und Folgen erkennen, ohne nicht zugehörige personenbezogene Daten sehen zu müssen.
  • Bei Ablehnungen wird das Tool nicht ausgeführt, und Wiederholungen können keine Nebenwirkungen verdoppeln.
  • Für Läufe gibt es Schrittlimits, Tool-Zeitlimits, Ausgabelimits und einen klaren Weg, unterbrochene oder fehlgeschlagene Arbeit zu melden.

Entscheidend ist, die menschliche Genehmigung als einen Kontrollpunkt in einem abgesicherten Ablauf zu behandeln – nicht als Ersatz für das Prinzip der geringsten Berechtigungen, Datenminimierung oder Validierung auf Tool-Ebene.

FAQ

Speichert die Human-in-the-Loop-Middleware von LangGraph den angehaltenen Agentenzustand?

Sie verwendet die Persistenz von LangGraph, um den Zustand über eine Unterbrechung hinweg zu speichern. Ein Checkpointer ist erforderlich. Für Produktivsysteme sollten Sie persistenten Speicher wählen und geeignete Zugriffs- und Aufbewahrungskontrollen anwenden.

Sollte ich die Entscheidung `respond` verwenden, um einen sensiblen Tool-Aufruf abzulehnen?

Nein. Laut dokumentiertem Verhalten liefert `respond` ein synthetisches erfolgreiches Tool-Ergebnis und ist für Fälle wie die Beantwortung einer Frage durch ein Tool im Stil von „ask user“ gedacht. Verwenden Sie `reject`, um eine Aktion mit Nebenwirkungen abzulehnen.

Wie halte ich Zugangsdaten in einem LangGraph-Agenten vertraulich?

Speichern Sie Zugangsdaten in der Ausführungsumgebung des Tools oder in der Secret-Management-Schicht. Fügen Sie sie weder in Prompts noch in für das Modell sichtbare Tool-Argumente, Tool-Ergebnisse, Interrupt-Nachrichten oder Protokolle ein.

Verhindert eine menschliche Genehmigung, dass ein Agent unbegrenzt weiterläuft?

Nein. Die Genehmigungs-Middleware übernimmt die Prüfung konfigurierter Tool-Aufrufe. Ergänzen Sie separat ein Ausführungslimit, Tool-Zeitlimits, Ausgabelimits und sicheres Verhalten bei Wiederholungen.

Ähnliche Artikel