GuidesOneMux

สร้างเอเจนต์ LangGraph ที่คำนึงถึงความเป็นส่วนตัว พร้อมการอนุมัติเครื่องมือและการกู้คืน

แนวทางใช้งานจริงสำหรับการตรวจสอบโดยมนุษย์ การบันทึกจุดตรวจ การจำกัดการทำงาน และเครื่องมือที่ปลอดภัยต่อข้อมูลรับรองในเอเจนต์ที่จัดการข้อมูลอ่อนไหว

AI

สรุป · TL;DR

ใช้มิดเดิลแวร์ human-in-the-loop ของ LangGraph เพื่อหยุดการเรียกใช้เครื่องมือที่มีความอ่อนไหวไว้ตรวจสอบหรือปฏิเสธ แล้วกลับมาทำงานต่อจากจุดตรวจ ควบคู่กับการกำหนดขอบเขตเครื่องมืออย่างเข้มงวด การแยกข้อมูลรับรอง และการจำกัดการทำงาน

ประเด็นสำคัญ

  • เก็บข้อมูลรับรองไว้ภายในการทำงานของเครื่องมือ และส่งให้โมเดลเฉพาะอาร์กิวเมนต์ที่จำเป็นต่อการเลือกการดำเนินการ
  • กำหนดให้มนุษย์ตรวจสอบการเขียนหรือการสืบค้นที่มีความอ่อนไหว ขณะที่อนุญาตให้การอ่านที่ปลอดภัยดำเนินต่อได้
  • ใช้ checkpointer แบบถาวรและ thread ID ที่คงที่ เพื่อกลับมาทำงานที่ถูกขัดจังหวะต่อ
  • จำกัดการทำงานของกราฟ และออกแบบเครื่องมือให้ทำงานแบบ idempotent หรือปลอดภัยต่อการลองซ้ำโดยอิสระ
  • ถือว่าสถานะที่บันทึกไว้ใน checkpoint และข้อมูล payload ของ interrupt เป็นข้อมูลอ่อนไหว
ในหน้านี้ (5)

เอเจนต์ที่คำนึงถึงความเป็นส่วนตัวไม่ควรปล่อยให้โมเดลเป็นผู้ตัดสินใจเองว่าการเรียกใช้เครื่องมือปลอดภัยหรือไม่ เก็บข้อมูลรับรองไว้นอกบทสนทนา จำกัดความสามารถของแต่ละเครื่องมือ และหยุดการดำเนินการที่มีความอ่อนไหวไว้ให้มนุษย์ตรวจสอบ มิดเดิลแวร์ human-in-the-loop ของ LangGraph มีกลไกหยุดและกลับมาทำงานต่อ ส่วนการจัดการข้อมูล การกำหนดสิทธิ์ และการจำกัดการทำงานยังเป็นหน้าที่ของแอปพลิเคชันของคุณ

คู่มือนี้สาธิตรูปแบบอย่างง่ายสำหรับเอเจนต์ที่อ่านข้อมูลลูกค้าและส่งคำขอเปลี่ยนแปลงฐานข้อมูล โค้ดเป็นเพียงตัวอย่างประกอบ และไม่ได้ทดสอบในที่นี้ ก่อนนำไปใช้งานจริง ให้ตรวจสอบเวอร์ชันแพ็กเกจและลายเซ็นของเครื่องมือให้ตรงกับสภาพแวดล้อมของคุณ

1. แยกบริบทของโมเดลออกจากข้อมูลรับรอง

อย่าใส่รหัสผ่าน คีย์ API คุกกี้เซสชัน หรือข้อมูลรับรองฐานข้อมูลที่ไม่มีข้อจำกัดไว้ในพรอมต์หรืออาร์กิวเมนต์ของเครื่องมือ แต่ให้เครื่องมือรองรับการดำเนินการที่มีขอบเขตชัดเจน และดึงข้อมูลรับรองจากกลไกจัดการความลับของแอปพลิเคชันขณะทำงาน โมเดลควรเห็นเฉพาะข้อมูลที่จำเป็นต่อการเลือกการดำเนินการเท่านั้น

ตัวอย่างเช่น ควรใช้เครื่องมืออย่าง find_customer_record(customer_id) แทนเครื่องมืออเนกประสงค์ที่รับ SQL และรายละเอียดการเชื่อมต่อได้ตามต้องการ ตรวจสอบสิทธิ์ภายในตัวเครื่องมือด้วย เพราะคำขอของผู้ใช้ไม่ได้ยืนยันว่าผู้ใช้มีสิทธิ์เข้าถึงระเบียนที่ร้องขอ

การตรวจสอบโดยมนุษย์เป็นมาตรการควบคุมเพิ่มเติม ไม่ใช่ระบบกำหนดสิทธิ์ ผู้ตรวจสอบควรเห็นข้อมูลเพียงพอที่จะตัดสินใจ แต่ควรหลีกเลี่ยงการแสดงข้อมูลส่วนบุคคลหรือความลับที่ไม่จำเป็นบนหน้าจอตรวจสอบและในบันทึก

2. ตั้งค่าการตรวจสอบสำหรับการดำเนินการที่มีความอ่อนไหว

เอกสาร LangChain human-in-the-loop ที่ให้มานี้อธิบายมิดเดิลแวร์ซึ่งตรวจสอบการเรียกใช้เครื่องมือตามนโยบาย การเรียกใช้ที่ตรงตามเงื่อนไขสามารถขัดจังหวะการทำงานได้ โดย checkpointer จะบันทึกสถานะของกราฟเพื่อให้กลับมาทำงานต่อภายหลังได้ การตัดสินใจที่ระบุไว้ในเอกสารประกอบด้วยการอนุมัติ การแก้ไขอาร์กิวเมนต์ การปฏิเสธพร้อมข้อเสนอแนะ และการตอบกลับเครื่องมือที่ถามคำถามผู้ใช้

ตัวอย่างการตั้งค่าต่อไปนี้ใช้เพื่อประกอบคำอธิบาย ให้แทนที่เครื่องมือจำลองด้วยการใช้งานที่บังคับใช้กฎการเข้าถึงและการตรวจสอบอินพุตของแอปพลิเคชัน

from langchain.agents import create_agent
from langchain.agents.middleware import HumanInTheLoopMiddleware
from langgraph.checkpoint.memory import InMemorySaver

agent = create_agent(
    model="YOUR_CONFIGURED_MODEL",
    tools=[read_customer_record, update_customer_record],
    middleware=[
        HumanInTheLoopMiddleware(
            interrupt_on={
                "read_customer_record": False,
                "update_customer_record": {
                    "allowed_decisions": ["approve", "edit", "reject"]
                },
            },
            description_prefix="Review requested customer-data change",
        ),
    ],
    # For production, use a persistent checkpointer appropriate to your stack.
    checkpointer=InMemorySaver(),
)

InMemorySaver เหมาะสำหรับการสร้างต้นแบบ แต่ไม่เหมาะกับการกู้คืนข้อมูลอย่างถาวรข้ามการเริ่มโปรเซสใหม่ เอกสารกำหนดให้ต้องมี checkpointer สำหรับการขัดจังหวะเพื่อรอการตรวจสอบโดยมนุษย์ และยกตัวเลือกแบบถาวร เช่น AsyncPostgresSaver และ MongoDBSaver เลือกพื้นที่จัดเก็บที่มีการควบคุมการเข้าถึง กฎการเก็บรักษา และการเข้ารหัสที่เหมาะกับข้อมูลที่บันทึกใน checkpoint เนื่องจาก checkpoint อาจมีข้อความและอาร์กิวเมนต์ของเครื่องมือ จึงอาจเก็บข้อมูลผู้ใช้ที่อ่อนไหวไว้ แม้จะไม่รวมข้อมูลรับรองก็ตาม

หากต้องการให้ตรวจสอบเฉพาะการเรียกใช้บางประเภท เอกสารยังรองรับเพรดิเคต when สำหรับการขัดจังหวะตามเงื่อนไข (ต้องใช้ langchain>=1.3.3) ตัวอย่างเช่น คุณอาจหยุดการเขียนที่อยู่นอกพื้นที่ทำงานที่อนุมัติไว้ หรือการสืบค้นที่ไม่ใช่แบบอ่านอย่างเดียว อย่าถือว่าการตรวจสอบคำนำหน้าสตริงเป็นนโยบายความปลอดภัย SQL ที่ครบถ้วน ให้บังคับใช้การดำเนินการที่ปลอดภัยในระดับฐานข้อมูลและเครื่องมือด้วย

3. หยุด ตรวจสอบ และกลับมาทำงานต่อในรอบเดิม

ใช้ thread ID ที่คงที่ เพื่อให้แอปพลิเคชันเชื่อมโยงการตรวจสอบที่ค้างอยู่กับบทสนทนาที่ถูกต้องได้ ปกป้องทั้งตัวระบุนั้นและอินเทอร์เฟซตรวจสอบ การมี thread ID ไม่ควรทำให้ผู้ใช้มีสิทธิ์อนุมัติการดำเนินการ

from langgraph.types import Command

config = {"configurable": {"thread_id": "conversation-123"}}

result = agent.invoke(
    {"messages": [{"role": "user", "content": "Update this customer's address"}]},
    config=config,
    version="v2",
)

if result.interrupts:
    # Present the requested action to an authenticated reviewer.
    # Resume only after recording that reviewer's decision.
    result = agent.invoke(
        Command(resume={"decisions": [{"type": "reject", "message": "Verify the request first."}]}),
        config=config,
        version="v2",
    )

ลำดับการตัดสินใจต้องตรงกับลำดับการดำเนินการในคำขอ interrupt เมื่อมีการหยุดการเรียกใช้เครื่องมือหลายรายการ ใช้ reject เพื่อปฏิเสธการดำเนินการที่มีผลข้างเคียง เอกสารเตือนว่า respond จะส่งผลลัพธ์เครื่องมือจำลอง ใช้สำหรับตอบเครื่องมือประเภท “ถามผู้ใช้” ไม่ใช่เพื่อปฏิเสธการเขียนข้อมูล

4. จำกัดการทำงานและออกแบบเพื่อกู้คืน

การหยุดเพื่อรอตรวจสอบไม่ได้ป้องกันไม่ให้โมเดลร้องขอใช้เครื่องมือซ้ำไปเรื่อย ๆ ด้วยตัวมันเอง กำหนดขีดจำกัดการเรียกใช้ซ้ำของกราฟ และจัดการข้อผิดพลาดจากการถึงขีดจำกัดให้เป็นการหยุดอย่างมีการควบคุม ค่าขีดจำกัดที่เหมาะสมขึ้นอยู่กับภาระงาน ให้เลือกตามจำนวนขั้นตอนที่มีประโยชน์สูงสุดของการทำงานระหว่างโมเดลกับเครื่องมือ และทดสอบพฤติกรรมเมื่อถึงขีดจำกัด

config = {
    "configurable": {"thread_id": "conversation-123"},
    "recursion_limit": 12,
}

การตั้งค่าตัวอย่างนี้จำกัดจำนวนขั้นตอนของกราฟ แต่ไม่ได้รับประกันว่าจะป้องกันเครื่องมือที่ทำงานช้า ผลลัพธ์ขนาดใหญ่ หรือผลข้างเคียงภายนอกที่เกิดซ้ำได้ ให้กำหนด timeout สำหรับการเรียกเครือข่ายและฐานข้อมูล จำกัดผลลัพธ์จากเครื่องมือ และตรวจสอบอินพุต สำหรับการดำเนินการที่ลองซ้ำได้ ให้ใช้กลไก idempotency หรือตรวจสอบสถานะปัจจุบันก่อนเปลี่ยนแปลง หากการทำงานล้มเหลวหลังเครื่องมือทำงานสำเร็จ แต่ก่อนที่เอเจนต์จะบันทึกผลลัพธ์ การลองใหม่โดยไม่ตรวจสอบอาจทำให้การดำเนินการเกิดขึ้นสองครั้ง

เมื่อกู้คืน ให้กลับมาทำงานต่อจาก thread เดิมที่บันทึกไว้ใน checkpoint ก็ต่อเมื่อยืนยันแล้วว่าการดำเนินการที่ค้างอยู่และสิทธิ์ที่เกี่ยวข้องยังใช้ได้ หากสิทธิ์ของผู้ใช้หรือระเบียนต้นทางเปลี่ยนไประหว่างรอการตรวจสอบ ให้ปฏิเสธหรือตรวจสอบความถูกต้องอีกครั้ง แทนการใช้ชุดอาร์กิวเมนต์ที่ล้าสมัย

5. รายการตรวจสอบความเป็นส่วนตัวและการจัดการข้อผิดพลาด

ก่อนนำขึ้นใช้งานจริง ให้ยืนยันว่า:

  • การทำงานของเครื่องมือดึงข้อมูลรับรองอย่างเป็นส่วนตัว และไม่ส่งข้อมูลเหล่านั้นกลับมาในผลลัพธ์หรือข้อผิดพลาดของเครื่องมือ
  • เครื่องมือแต่ละรายการตรวจสอบสิทธิ์ของผู้ใช้และรับเฉพาะอาร์กิวเมนต์ที่จำเป็นและแคบที่สุด
  • มีการกำหนดการควบคุมการเข้าถึงและการเก็บรักษาสำหรับ checkpoint, payload ของ interrupt, บันทึก และหน้าจอของผู้ตรวจสอบ
  • ผู้ตรวจสอบระบุเป้าหมายและผลที่จะเกิดขึ้นได้ โดยไม่ต้องเห็นข้อมูลส่วนบุคคลอื่นที่ไม่เกี่ยวข้อง
  • การปฏิเสธไม่ทำให้เครื่องมือทำงาน และการลองซ้ำไม่ทำให้เกิดผลข้างเคียงซ้ำ
  • การทำงานมีขีดจำกัดจำนวนขั้นตอน timeout ของเครื่องมือ ขีดจำกัดผลลัพธ์ และช่องทางที่ชัดเจนสำหรับรายงานงานที่ถูกขัดจังหวะหรือล้มเหลว

หลักสำคัญในการออกแบบคือ มองการอนุมัติจากมนุษย์เป็นจุดตรวจหนึ่งในเวิร์กโฟลว์ที่มีการรักษาความปลอดภัย ไม่ใช่สิ่งทดแทนหลักการให้สิทธิ์เท่าที่จำเป็น การลดการใช้ข้อมูล และการตรวจสอบในระดับเครื่องมือ

คำถามที่พบบ่อย

มิดเดิลแวร์ human-in-the-loop ของ LangGraph จัดเก็บสถานะเอเจนต์ที่หยุดไว้หรือไม่?

มิดเดิลแวร์ใช้ระบบ persistence ของ LangGraph เพื่อบันทึกสถานะระหว่างการ interrupt โดยต้องมี checkpointer และการใช้งานจริงควรเลือกพื้นที่จัดเก็บแบบถาวร พร้อมกำหนดการควบคุมการเข้าถึงและการเก็บรักษาที่เหมาะสม

ควรใช้การตัดสินใจแบบ respond เพื่อปฏิเสธการเรียกใช้เครื่องมือที่มีความอ่อนไหวหรือไม่?

ไม่ควร พฤติกรรมที่ระบุไว้ในเอกสารถือว่า respond เป็นผลลัพธ์เครื่องมือจำลองที่สำเร็จ ซึ่งมีไว้สำหรับกรณีอย่างการตอบเครื่องมือประเภท ask-user ให้ใช้ reject เพื่อปฏิเสธการดำเนินการที่มีผลข้างเคียง

จะเก็บข้อมูลรับรองให้เป็นส่วนตัวในเอเจนต์ LangGraph ได้อย่างไร?

เก็บข้อมูลรับรองไว้ในสภาพแวดล้อมที่เครื่องมือทำงานหรือในชั้นจัดการความลับ อย่าใส่ข้อมูลเหล่านี้ในพรอมต์ อาร์กิวเมนต์ของเครื่องมือที่โมเดลมองเห็น ผลลัพธ์จากเครื่องมือ ข้อความ interrupt หรือบันทึก

การอนุมัติโดยมนุษย์ป้องกันไม่ให้เอเจนต์ทำงานไม่สิ้นสุดหรือไม่?

ไม่ มิดเดิลแวร์อนุมัติจัดการการตรวจสอบการเรียกใช้เครื่องมือที่กำหนดค่าไว้ ให้เพิ่มขีดจำกัดการทำงาน timeout ของเครื่องมือ ขีดจำกัดผลลัพธ์ และพฤติกรรมการลองซ้ำที่ปลอดภัยแยกต่างหาก

บทความที่เกี่ยวข้อง

Guides

สร้างเอเจนต์เรียกใช้เครื่องมือด้วย LangGraph ที่จำกัดขั้นตอนและมีมนุษย์ตรวจสอบ

แนวทางเชิงปฏิบัติสำหรับประเมินเอเจนต์เรียกใช้เครื่องมือด้วย LangGraph โดยกำหนดขีดจำกัดขั้นตอนอย่างชัดเจน ให้มนุษย์อนุมัติการดำเนินการที่มีความเสี่ยง และใช้กรณีทดสอบที่ทำซ้ำได้

阅读全文 →

Guides

สร้างเอเจนต์ Customer Support ด้วย LangGraph พร้อมการเรียกใช้เครื่องมือ การอนุมัติโดยมนุษย์ และข้อจำกัดการทำงาน

แนวทาง LangGraph เชิงปฏิบัติสำหรับคัดแยกคำขอฝ่ายสนับสนุนลูกค้า: จัดเส้นทางคำขอ เรียกใช้เครื่องมือค้นข้อมูล หยุดคำขอคืนเงินเพื่อรอการอนุมัติจากมนุษย์ และจำกัดการทำงานของกราฟ

阅读全文 →

Guides

สร้างเอเจนต์ LangGraph ที่จำกัดขอบเขตสำหรับวินิจฉัยเหตุขัดข้องของ API

สร้างเอเจนต์ LangGraph สำหรับวินิจฉัยเหตุขัดข้อง โดยเรียกใช้เครื่องมือวินิจฉัยแบบอ่านอย่างเดียว จำกัดการทำงาน แสดงข้อผิดพลาด และหยุดรอการอนุมัติก่อนดำเนินการที่มีความเสี่ยง

阅读全文 →

Guides

สร้าง LangGraph Agent ที่มีขอบเขตการทำงาน พร้อมดึงข้อมูลตาม Schema ที่ตรวจสอบได้

สร้างเวิร์กโฟลว์ LangGraph ที่เรียกใช้เครื่องมือเมื่อจำเป็น หยุดภายในขีดจำกัดการทำงานที่กำหนด และส่งคืนข้อมูลแบบมีโครงสร้างที่ตรวจสอบกับ Pydantic schema แล้ว

阅读全文 →