GuidesOneMux

Tool Approval और Recovery के साथ Privacy-Aware LangGraph Agent बनाएँ

संवेदनशील डेटा संभालने वाले एजेंट में LangGraph की human review, checkpointing, सीमित रन और credential-safe tools का व्यावहारिक पैटर्न।

AI

सारांश · TL;DR

LangGraph के human-in-the-loop middleware का इस्तेमाल करके संवेदनशील tool calls रोकें, उन्हें review या reject करें और checkpoint से रन फिर शुरू करें। इस workflow के साथ tools की सख्त सीमाएँ, credentials को अलग रखना और execution limit भी अपनाएँ।

मुख्य बातें

  • Credentials को tool implementations के भीतर रखें; model को सिर्फ़ उतने ही arguments दें जितने उसे ज़रूरी हैं।
  • संवेदनशील writes या queries के लिए human review ज़रूरी रखें, जबकि सुरक्षित reads को आगे बढ़ने दें।
  • रुके हुए काम को फिर शुरू करने के लिए persistent checkpointer और स्थिर thread ID का इस्तेमाल करें।
  • Graph execution की सीमा तय करें और tools को idempotent या दोबारा चलाने पर अपने-आप सुरक्षित बनाएँ।
  • Checkpoint की गई state और interrupt payloads को संवेदनशील डेटा मानें।
इस पृष्ठ पर (5)

Privacy-aware agent को यह तय करने के लिए model पर निर्भर नहीं होना चाहिए कि कोई tool call सुरक्षित है या नहीं। Credentials को बातचीत से बाहर रखें, हर tool के काम की सीमा तय करें और संवेदनशील कार्रवाइयों को human review के लिए रोकें। LangGraph का human-in-the-loop middleware रोकने और फिर शुरू करने की सुविधा देता है; डेटा प्रबंधन, authorization और execution limits तय करना फिर भी आपके application की ज़िम्मेदारी है।

यह गाइड ऐसे agent के लिए एक छोटा पैटर्न बनाती है जो customer records पढ़ सकता है और database में बदलाव का अनुरोध कर सकता है। यहाँ दिया गया code उदाहरण के तौर पर है, इसका परीक्षण नहीं किया गया है। Deployment से पहले अपने environment में package versions और tool signatures की जाँच करें।

1. Model context और credentials को अलग रखें

Prompts या tool arguments में passwords, API keys, session cookies या बिना पाबंदी वाले database credentials न रखें। इसके बजाय, tools को सीमित operations दें और execution के समय उन्हें अपने application के secret-management mechanism से credentials लेने दें। Model को सिर्फ़ वही डेटा दिखना चाहिए जो उसे कोई कार्रवाई चुनने के लिए चाहिए।

उदाहरण के लिए, ऐसा general-purpose tool देने के बजाय find_customer_record(customer_id) जैसा tool बेहतर है जो मनमाना SQL और connection details स्वीकार करता हो। Tool के भीतर authorization की जाँच करें: user का अनुरोध इस बात का प्रमाण नहीं है कि उसे माँगे गए record तक पहुँचने की अनुमति है।

Human review एक अतिरिक्त नियंत्रण है, authorization system नहीं। Reviewers को निर्णय लेने के लिए पर्याप्त जानकारी दें, लेकिन review screens और logs में अनावश्यक व्यक्तिगत डेटा या secrets न दिखाएँ।

2. संवेदनशील कार्रवाइयों के लिए review सेट करें

दिया गया LangChain human-in-the-loop documentation ऐसे middleware के बारे में बताता है जो policy के आधार पर tool calls की जाँच करता है। मेल खाने वाली calls execution को रोक सकती हैं; checkpointer graph state को सहेजता है, ताकि रन बाद में फिर शुरू किया जा सके। Documentation में बताए गए विकल्पों में approval, arguments को edit करना, feedback के साथ rejection और user से सवाल पूछने वाले tool को जवाब देना शामिल हैं।

नीचे एक उदाहरणात्मक configuration है। Placeholder tools की जगह ऐसे implementations रखें जो आपके application के access rules और input validation लागू करते हों।

from langchain.agents import create_agent
from langchain.agents.middleware import HumanInTheLoopMiddleware
from langgraph.checkpoint.memory import InMemorySaver

agent = create_agent(
    model="YOUR_CONFIGURED_MODEL",
    tools=[read_customer_record, update_customer_record],
    middleware=[
        HumanInTheLoopMiddleware(
            interrupt_on={
                "read_customer_record": False,
                "update_customer_record": {
                    "allowed_decisions": ["approve", "edit", "reject"]
                },
            },
            description_prefix="Review requested customer-data change",
        ),
    ],
    # For production, use a persistent checkpointer appropriate to your stack.
    checkpointer=InMemorySaver(),
)

InMemorySaver prototyping के लिए ठीक है, लेकिन process restart के बाद टिकाऊ recovery के लिए नहीं। Documentation के अनुसार human-review interruptions के लिए checkpointer ज़रूरी है और इसमें AsyncPostgresSaver तथा MongoDBSaver जैसे persistent विकल्प दिए गए हैं। ऐसा storage चुनें जिसमें checkpoint किए गए डेटा के अनुरूप access controls, retention rules और encryption हों। Checkpoint में messages और tool arguments हो सकते हैं, इसलिए credentials बाहर रखे जाने पर भी उसमें संवेदनशील user data हो सकता है।

अगर सिर्फ़ कुछ calls को review की ज़रूरत है, तो documentation conditional interrupts के लिए when predicate का भी समर्थन करता है (langchain>=1.3.3 आवश्यक है)। उदाहरण के लिए, आप किसी approved workspace के बाहर होने वाले write या ऐसी query को रोक सकते हैं जो read-only न हो। String-prefix check को पूरी SQL security policy न मानें; database और tool layers पर भी सुरक्षित operations लागू करें।

3. उसी रन को रोकें, review करें और फिर शुरू करें

स्थिर thread ID का इस्तेमाल करें, ताकि application pending review को सही conversation से जोड़ सके। उस identifier और review interface को सुरक्षित रखें: केवल thread ID होने से किसी को कार्रवाई approve करने की अनुमति नहीं मिलनी चाहिए।

from langgraph.types import Command

config = {"configurable": {"thread_id": "conversation-123"}}

result = agent.invoke(
    {"messages": [{"role": "user", "content": "Update this customer's address"}]},
    config=config,
    version="v2",
)

if result.interrupts:
    # Present the requested action to an authenticated reviewer.
    # Resume only after recording that reviewer's decision.
    result = agent.invoke(
        Command(resume={"decisions": [{"type": "reject", "message": "Verify the request first."}]}),
        config=config,
        version="v2",
    )

जब कई tool calls रोकी गई हों, तो निर्णयों का क्रम interrupt request में कार्रवाइयों के क्रम से मेल खाना चाहिए। Side-effect वाली कार्रवाई को रोकने के लिए reject का इस्तेमाल करें। Documentation चेतावनी देता है कि respond एक synthetic tool result देता है; इसका उपयोग “ask user” शैली के tool का जवाब देने के लिए है, write को रोकने के लिए नहीं।

4. Execution की सीमा तय करें और recovery के लिए तैयार रहें

Review के लिए रन रुकने से यह अपने-आप नहीं रुकता कि model बार-बार tools का अनुरोध करे। Invocations पर graph recursion limit लगाएँ और limit error आने पर उसे नियंत्रित तरीके से रोकें। सही limit workload पर निर्भर करती है; उपयोगी model और tool steps के अधिकतम क्रम के आधार पर इसे चुनें और सीमा पर होने वाले व्यवहार का परीक्षण करें।

config = {
    "configurable": {"thread_id": "conversation-123"},
    "recursion_limit": 12,
}

यह उदाहरणात्मक setting graph steps को सीमित करती है; यह धीमे tools, बड़े outputs या बार-बार होने वाले external side effects से सुरक्षा की गारंटी नहीं देती। Network और database calls पर timeouts लगाएँ, tool output की सीमा तय करें और inputs को validate करें। दोबारा चलाए जा सकने वाले operations के लिए idempotency controls अपनाएँ या बदलाव लागू करने से पहले मौजूदा state जाँचें। अगर tool सफल हो जाए, लेकिन agent उसका नतीजा दर्ज करने से पहले रन विफल हो जाए, तो बिना जाँच के retry करने पर वही operation दो बार हो सकता है।

Recovery के दौरान उसी checkpoint किए गए thread को फिर शुरू करने से पहले पुष्टि करें कि pending action और उसका authorization अब भी मान्य हैं। अगर review लंबित रहने के दौरान user की permissions या मूल record बदल गया हो, तो पुराने arguments पर अमल करने के बजाय कार्रवाई reject करें या दोबारा validate करें।

5. Privacy और failure की जाँच-सूची

Production में इस्तेमाल करने से पहले पुष्टि करें कि:

  • Tool implementations credentials को निजी तौर पर प्राप्त करते हैं और उन्हें tool results या errors में कभी नहीं लौटाते।
  • हर tool user authorization लागू करता है और केवल सबसे सीमित उपयोगी arguments स्वीकार करता है।
  • Checkpoints, interrupt payloads, logs और reviewer screens के लिए access और retention controls तय हैं।
  • Reviewer संबंधित व्यक्ति का अनावश्यक निजी डेटा देखे बिना target और संभावित नतीजे पहचान सकता है।
  • Rejections पर tool execute नहीं होता और retries से side effects दोहराए नहीं जा सकते।
  • Runs के लिए step limits, tool timeouts, output limits और रुके या विफल काम की रिपोर्ट करने का स्पष्ट तरीका मौजूद है।

मुख्य design choice यह है कि human approval को सुरक्षित workflow का एक checkpoint माना जाए—least privilege, data minimization या tool-level validation का विकल्प नहीं।

सामान्य प्रश्न

क्या LangGraph human-in-the-loop middleware रुके हुए agent की state सहेजता है?

Interrupt के दौरान state सहेजने के लिए यह LangGraph persistence का इस्तेमाल करता है। Checkpointer ज़रूरी है; production deployments में persistent storage चुनें और उस पर उचित access तथा retention controls लागू करें।

क्या संवेदनशील tool call को reject करने के लिए मुझे respond decision का इस्तेमाल करना चाहिए?

नहीं। Documentation के अनुसार respond एक synthetic successful tool result देता है और इसका उद्देश्य ask-user tool का जवाब देने जैसे मामलों के लिए है। Side-effect वाली कार्रवाई रोकने के लिए reject का इस्तेमाल करें।

LangGraph agent में credentials को निजी कैसे रखूँ?

Credentials को tool के execution environment या secret-management layer में रखें। उन्हें prompts, model को दिखने वाले tool arguments, tool results, interrupt messages या logs में न रखें।

क्या human approval agent को अनिश्चित समय तक चलने से रोकता है?

नहीं। Approval middleware, configure की गई tool calls की review संभालता है। अलग से execution limit, tool timeouts, output limits और सुरक्षित retry behavior जोड़ें।

संबंधित लेख

Guides

मानव समीक्षा के साथ सीमित LangGraph टूल-कॉलिंग एजेंट बनाएं

स्पष्ट चरण-सीमाओं, जोखिमपूर्ण कार्रवाइयों के लिए मानव अनुमोदन और दोहराए जा सकने वाले टेस्ट केस के साथ LangGraph टूल-कॉलिंग एजेंट का मूल्यांकन करने का व्यावहारिक तरीका।

阅读全文 →

Guides

Tool Calling, मानव अनुमोदन और Execution Limits के साथ LangGraph Customer Support Agent बनाएं

Customer-support triage के लिए एक व्यावहारिक LangGraph pattern: अनुरोधों को route करें, lookup tools कॉल करें, human approval के लिए refunds रोकें और graph execution को सीमित करें।

阅读全文 →

Guides

सीमित निष्पादन और विफलता से उबरने के साथ LangGraph Tool Calling

अनिश्चितकालीन निष्पादन के बजाय tool calling, retry budget, मानव अनुमोदन और स्पष्ट recovery paths का उपयोग करके LangGraph production-operations agent बनाएं।

阅读全文 →

Guides

API incidents की जाँच के लिए सीमित LangGraph Agent बनाएँ

ऐसा LangGraph incident-diagnosis agent बनाएँ जो केवल-पठन वाले diagnostic tools चलाए, execution सीमित रखे, failures को स्पष्ट करे और जोखिम वाले actions से पहले रुककर मंज़ूरी माँगे।

阅读全文 →