สร้างเอเจนต์ LangGraph ที่คำนึงถึงความเป็นส่วนตัว พร้อมการอนุมัติเครื่องมือและการกู้คืน
แนวทางใช้งานจริงสำหรับการตรวจสอบโดยมนุษย์ การบันทึกจุดตรวจ การจำกัดการทำงาน และเครื่องมือที่ปลอดภัยต่อข้อมูลรับรองในเอเจนต์ที่จัดการข้อมูลอ่อนไหว
สรุป · TL;DR
ใช้มิดเดิลแวร์ human-in-the-loop ของ LangGraph เพื่อหยุดการเรียกใช้เครื่องมือที่มีความอ่อนไหวไว้ตรวจสอบหรือปฏิเสธ แล้วกลับมาทำงานต่อจากจุดตรวจ ควบคู่กับการกำหนดขอบเขตเครื่องมืออย่างเข้มงวด การแยกข้อมูลรับรอง และการจำกัดการทำงาน
ประเด็นสำคัญ
- เก็บข้อมูลรับรองไว้ภายในการทำงานของเครื่องมือ และส่งให้โมเดลเฉพาะอาร์กิวเมนต์ที่จำเป็นต่อการเลือกการดำเนินการ
- กำหนดให้มนุษย์ตรวจสอบการเขียนหรือการสืบค้นที่มีความอ่อนไหว ขณะที่อนุญาตให้การอ่านที่ปลอดภัยดำเนินต่อได้
- ใช้ checkpointer แบบถาวรและ thread ID ที่คงที่ เพื่อกลับมาทำงานที่ถูกขัดจังหวะต่อ
- จำกัดการทำงานของกราฟ และออกแบบเครื่องมือให้ทำงานแบบ idempotent หรือปลอดภัยต่อการลองซ้ำโดยอิสระ
- ถือว่าสถานะที่บันทึกไว้ใน checkpoint และข้อมูล payload ของ interrupt เป็นข้อมูลอ่อนไหว
ในหน้านี้ (5)
เอเจนต์ที่คำนึงถึงความเป็นส่วนตัวไม่ควรปล่อยให้โมเดลเป็นผู้ตัดสินใจเองว่าการเรียกใช้เครื่องมือปลอดภัยหรือไม่ เก็บข้อมูลรับรองไว้นอกบทสนทนา จำกัดความสามารถของแต่ละเครื่องมือ และหยุดการดำเนินการที่มีความอ่อนไหวไว้ให้มนุษย์ตรวจสอบ มิดเดิลแวร์ human-in-the-loop ของ LangGraph มีกลไกหยุดและกลับมาทำงานต่อ ส่วนการจัดการข้อมูล การกำหนดสิทธิ์ และการจำกัดการทำงานยังเป็นหน้าที่ของแอปพลิเคชันของคุณ
คู่มือนี้สาธิตรูปแบบอย่างง่ายสำหรับเอเจนต์ที่อ่านข้อมูลลูกค้าและส่งคำขอเปลี่ยนแปลงฐานข้อมูล โค้ดเป็นเพียงตัวอย่างประกอบ และไม่ได้ทดสอบในที่นี้ ก่อนนำไปใช้งานจริง ให้ตรวจสอบเวอร์ชันแพ็กเกจและลายเซ็นของเครื่องมือให้ตรงกับสภาพแวดล้อมของคุณ
1. แยกบริบทของโมเดลออกจากข้อมูลรับรอง
อย่าใส่รหัสผ่าน คีย์ API คุกกี้เซสชัน หรือข้อมูลรับรองฐานข้อมูลที่ไม่มีข้อจำกัดไว้ในพรอมต์หรืออาร์กิวเมนต์ของเครื่องมือ แต่ให้เครื่องมือรองรับการดำเนินการที่มีขอบเขตชัดเจน และดึงข้อมูลรับรองจากกลไกจัดการความลับของแอปพลิเคชันขณะทำงาน โมเดลควรเห็นเฉพาะข้อมูลที่จำเป็นต่อการเลือกการดำเนินการเท่านั้น
ตัวอย่างเช่น ควรใช้เครื่องมืออย่าง find_customer_record(customer_id) แทนเครื่องมืออเนกประสงค์ที่รับ SQL และรายละเอียดการเชื่อมต่อได้ตามต้องการ ตรวจสอบสิทธิ์ภายในตัวเครื่องมือด้วย เพราะคำขอของผู้ใช้ไม่ได้ยืนยันว่าผู้ใช้มีสิทธิ์เข้าถึงระเบียนที่ร้องขอ
การตรวจสอบโดยมนุษย์เป็นมาตรการควบคุมเพิ่มเติม ไม่ใช่ระบบกำหนดสิทธิ์ ผู้ตรวจสอบควรเห็นข้อมูลเพียงพอที่จะตัดสินใจ แต่ควรหลีกเลี่ยงการแสดงข้อมูลส่วนบุคคลหรือความลับที่ไม่จำเป็นบนหน้าจอตรวจสอบและในบันทึก
2. ตั้งค่าการตรวจสอบสำหรับการดำเนินการที่มีความอ่อนไหว
เอกสาร LangChain human-in-the-loop ที่ให้มานี้อธิบายมิดเดิลแวร์ซึ่งตรวจสอบการเรียกใช้เครื่องมือตามนโยบาย การเรียกใช้ที่ตรงตามเงื่อนไขสามารถขัดจังหวะการทำงานได้ โดย checkpointer จะบันทึกสถานะของกราฟเพื่อให้กลับมาทำงานต่อภายหลังได้ การตัดสินใจที่ระบุไว้ในเอกสารประกอบด้วยการอนุมัติ การแก้ไขอาร์กิวเมนต์ การปฏิเสธพร้อมข้อเสนอแนะ และการตอบกลับเครื่องมือที่ถามคำถามผู้ใช้
ตัวอย่างการตั้งค่าต่อไปนี้ใช้เพื่อประกอบคำอธิบาย ให้แทนที่เครื่องมือจำลองด้วยการใช้งานที่บังคับใช้กฎการเข้าถึงและการตรวจสอบอินพุตของแอปพลิเคชัน
from langchain.agents import create_agent
from langchain.agents.middleware import HumanInTheLoopMiddleware
from langgraph.checkpoint.memory import InMemorySaver
agent = create_agent(
model="YOUR_CONFIGURED_MODEL",
tools=[read_customer_record, update_customer_record],
middleware=[
HumanInTheLoopMiddleware(
interrupt_on={
"read_customer_record": False,
"update_customer_record": {
"allowed_decisions": ["approve", "edit", "reject"]
},
},
description_prefix="Review requested customer-data change",
),
],
# For production, use a persistent checkpointer appropriate to your stack.
checkpointer=InMemorySaver(),
)
InMemorySaver เหมาะสำหรับการสร้างต้นแบบ แต่ไม่เหมาะกับการกู้คืนข้อมูลอย่างถาวรข้ามการเริ่มโปรเซสใหม่ เอกสารกำหนดให้ต้องมี checkpointer สำหรับการขัดจังหวะเพื่อรอการตรวจสอบโดยมนุษย์ และยกตัวเลือกแบบถาวร เช่น AsyncPostgresSaver และ MongoDBSaver เลือกพื้นที่จัดเก็บที่มีการควบคุมการเข้าถึง กฎการเก็บรักษา และการเข้ารหัสที่เหมาะกับข้อมูลที่บันทึกใน checkpoint เนื่องจาก checkpoint อาจมีข้อความและอาร์กิวเมนต์ของเครื่องมือ จึงอาจเก็บข้อมูลผู้ใช้ที่อ่อนไหวไว้ แม้จะไม่รวมข้อมูลรับรองก็ตาม
หากต้องการให้ตรวจสอบเฉพาะการเรียกใช้บางประเภท เอกสารยังรองรับเพรดิเคต when สำหรับการขัดจังหวะตามเงื่อนไข (ต้องใช้ langchain>=1.3.3) ตัวอย่างเช่น คุณอาจหยุดการเขียนที่อยู่นอกพื้นที่ทำงานที่อนุมัติไว้ หรือการสืบค้นที่ไม่ใช่แบบอ่านอย่างเดียว อย่าถือว่าการตรวจสอบคำนำหน้าสตริงเป็นนโยบายความปลอดภัย SQL ที่ครบถ้วน ให้บังคับใช้การดำเนินการที่ปลอดภัยในระดับฐานข้อมูลและเครื่องมือด้วย
3. หยุด ตรวจสอบ และกลับมาทำงานต่อในรอบเดิม
ใช้ thread ID ที่คงที่ เพื่อให้แอปพลิเคชันเชื่อมโยงการตรวจสอบที่ค้างอยู่กับบทสนทนาที่ถูกต้องได้ ปกป้องทั้งตัวระบุนั้นและอินเทอร์เฟซตรวจสอบ การมี thread ID ไม่ควรทำให้ผู้ใช้มีสิทธิ์อนุมัติการดำเนินการ
from langgraph.types import Command
config = {"configurable": {"thread_id": "conversation-123"}}
result = agent.invoke(
{"messages": [{"role": "user", "content": "Update this customer's address"}]},
config=config,
version="v2",
)
if result.interrupts:
# Present the requested action to an authenticated reviewer.
# Resume only after recording that reviewer's decision.
result = agent.invoke(
Command(resume={"decisions": [{"type": "reject", "message": "Verify the request first."}]}),
config=config,
version="v2",
)
ลำดับการตัดสินใจต้องตรงกับลำดับการดำเนินการในคำขอ interrupt เมื่อมีการหยุดการเรียกใช้เครื่องมือหลายรายการ ใช้ reject เพื่อปฏิเสธการดำเนินการที่มีผลข้างเคียง เอกสารเตือนว่า respond จะส่งผลลัพธ์เครื่องมือจำลอง ใช้สำหรับตอบเครื่องมือประเภท “ถามผู้ใช้” ไม่ใช่เพื่อปฏิเสธการเขียนข้อมูล
4. จำกัดการทำงานและออกแบบเพื่อกู้คืน
การหยุดเพื่อรอตรวจสอบไม่ได้ป้องกันไม่ให้โมเดลร้องขอใช้เครื่องมือซ้ำไปเรื่อย ๆ ด้วยตัวมันเอง กำหนดขีดจำกัดการเรียกใช้ซ้ำของกราฟ และจัดการข้อผิดพลาดจากการถึงขีดจำกัดให้เป็นการหยุดอย่างมีการควบคุม ค่าขีดจำกัดที่เหมาะสมขึ้นอยู่กับภาระงาน ให้เลือกตามจำนวนขั้นตอนที่มีประโยชน์สูงสุดของการทำงานระหว่างโมเดลกับเครื่องมือ และทดสอบพฤติกรรมเมื่อถึงขีดจำกัด
config = {
"configurable": {"thread_id": "conversation-123"},
"recursion_limit": 12,
}
การตั้งค่าตัวอย่างนี้จำกัดจำนวนขั้นตอนของกราฟ แต่ไม่ได้รับประกันว่าจะป้องกันเครื่องมือที่ทำงานช้า ผลลัพธ์ขนาดใหญ่ หรือผลข้างเคียงภายนอกที่เกิดซ้ำได้ ให้กำหนด timeout สำหรับการเรียกเครือข่ายและฐานข้อมูล จำกัดผลลัพธ์จากเครื่องมือ และตรวจสอบอินพุต สำหรับการดำเนินการที่ลองซ้ำได้ ให้ใช้กลไก idempotency หรือตรวจสอบสถานะปัจจุบันก่อนเปลี่ยนแปลง หากการทำงานล้มเหลวหลังเครื่องมือทำงานสำเร็จ แต่ก่อนที่เอเจนต์จะบันทึกผลลัพธ์ การลองใหม่โดยไม่ตรวจสอบอาจทำให้การดำเนินการเกิดขึ้นสองครั้ง
เมื่อกู้คืน ให้กลับมาทำงานต่อจาก thread เดิมที่บันทึกไว้ใน checkpoint ก็ต่อเมื่อยืนยันแล้วว่าการดำเนินการที่ค้างอยู่และสิทธิ์ที่เกี่ยวข้องยังใช้ได้ หากสิทธิ์ของผู้ใช้หรือระเบียนต้นทางเปลี่ยนไประหว่างรอการตรวจสอบ ให้ปฏิเสธหรือตรวจสอบความถูกต้องอีกครั้ง แทนการใช้ชุดอาร์กิวเมนต์ที่ล้าสมัย
5. รายการตรวจสอบความเป็นส่วนตัวและการจัดการข้อผิดพลาด
ก่อนนำขึ้นใช้งานจริง ให้ยืนยันว่า:
- การทำงานของเครื่องมือดึงข้อมูลรับรองอย่างเป็นส่วนตัว และไม่ส่งข้อมูลเหล่านั้นกลับมาในผลลัพธ์หรือข้อผิดพลาดของเครื่องมือ
- เครื่องมือแต่ละรายการตรวจสอบสิทธิ์ของผู้ใช้และรับเฉพาะอาร์กิวเมนต์ที่จำเป็นและแคบที่สุด
- มีการกำหนดการควบคุมการเข้าถึงและการเก็บรักษาสำหรับ checkpoint, payload ของ interrupt, บันทึก และหน้าจอของผู้ตรวจสอบ
- ผู้ตรวจสอบระบุเป้าหมายและผลที่จะเกิดขึ้นได้ โดยไม่ต้องเห็นข้อมูลส่วนบุคคลอื่นที่ไม่เกี่ยวข้อง
- การปฏิเสธไม่ทำให้เครื่องมือทำงาน และการลองซ้ำไม่ทำให้เกิดผลข้างเคียงซ้ำ
- การทำงานมีขีดจำกัดจำนวนขั้นตอน timeout ของเครื่องมือ ขีดจำกัดผลลัพธ์ และช่องทางที่ชัดเจนสำหรับรายงานงานที่ถูกขัดจังหวะหรือล้มเหลว
หลักสำคัญในการออกแบบคือ มองการอนุมัติจากมนุษย์เป็นจุดตรวจหนึ่งในเวิร์กโฟลว์ที่มีการรักษาความปลอดภัย ไม่ใช่สิ่งทดแทนหลักการให้สิทธิ์เท่าที่จำเป็น การลดการใช้ข้อมูล และการตรวจสอบในระดับเครื่องมือ
คำถามที่พบบ่อย
มิดเดิลแวร์ human-in-the-loop ของ LangGraph จัดเก็บสถานะเอเจนต์ที่หยุดไว้หรือไม่?
มิดเดิลแวร์ใช้ระบบ persistence ของ LangGraph เพื่อบันทึกสถานะระหว่างการ interrupt โดยต้องมี checkpointer และการใช้งานจริงควรเลือกพื้นที่จัดเก็บแบบถาวร พร้อมกำหนดการควบคุมการเข้าถึงและการเก็บรักษาที่เหมาะสม
ควรใช้การตัดสินใจแบบ respond เพื่อปฏิเสธการเรียกใช้เครื่องมือที่มีความอ่อนไหวหรือไม่?
ไม่ควร พฤติกรรมที่ระบุไว้ในเอกสารถือว่า respond เป็นผลลัพธ์เครื่องมือจำลองที่สำเร็จ ซึ่งมีไว้สำหรับกรณีอย่างการตอบเครื่องมือประเภท ask-user ให้ใช้ reject เพื่อปฏิเสธการดำเนินการที่มีผลข้างเคียง
จะเก็บข้อมูลรับรองให้เป็นส่วนตัวในเอเจนต์ LangGraph ได้อย่างไร?
เก็บข้อมูลรับรองไว้ในสภาพแวดล้อมที่เครื่องมือทำงานหรือในชั้นจัดการความลับ อย่าใส่ข้อมูลเหล่านี้ในพรอมต์ อาร์กิวเมนต์ของเครื่องมือที่โมเดลมองเห็น ผลลัพธ์จากเครื่องมือ ข้อความ interrupt หรือบันทึก
การอนุมัติโดยมนุษย์ป้องกันไม่ให้เอเจนต์ทำงานไม่สิ้นสุดหรือไม่?
ไม่ มิดเดิลแวร์อนุมัติจัดการการตรวจสอบการเรียกใช้เครื่องมือที่กำหนดค่าไว้ ให้เพิ่มขีดจำกัดการทำงาน timeout ของเครื่องมือ ขีดจำกัดผลลัพธ์ และพฤติกรรมการลองซ้ำที่ปลอดภัยแยกต่างหาก
บทความที่เกี่ยวข้อง
Guides
สร้างเอเจนต์เรียกใช้เครื่องมือด้วย LangGraph ที่จำกัดขั้นตอนและมีมนุษย์ตรวจสอบ
แนวทางเชิงปฏิบัติสำหรับประเมินเอเจนต์เรียกใช้เครื่องมือด้วย LangGraph โดยกำหนดขีดจำกัดขั้นตอนอย่างชัดเจน ให้มนุษย์อนุมัติการดำเนินการที่มีความเสี่ยง และใช้กรณีทดสอบที่ทำซ้ำได้
Guides
สร้างเอเจนต์ Customer Support ด้วย LangGraph พร้อมการเรียกใช้เครื่องมือ การอนุมัติโดยมนุษย์ และข้อจำกัดการทำงาน
แนวทาง LangGraph เชิงปฏิบัติสำหรับคัดแยกคำขอฝ่ายสนับสนุนลูกค้า: จัดเส้นทางคำขอ เรียกใช้เครื่องมือค้นข้อมูล หยุดคำขอคืนเงินเพื่อรอการอนุมัติจากมนุษย์ และจำกัดการทำงานของกราฟ
Guides
สร้างเอเจนต์ LangGraph ที่จำกัดขอบเขตสำหรับวินิจฉัยเหตุขัดข้องของ API
สร้างเอเจนต์ LangGraph สำหรับวินิจฉัยเหตุขัดข้อง โดยเรียกใช้เครื่องมือวินิจฉัยแบบอ่านอย่างเดียว จำกัดการทำงาน แสดงข้อผิดพลาด และหยุดรอการอนุมัติก่อนดำเนินการที่มีความเสี่ยง
Guides
สร้าง LangGraph Agent ที่มีขอบเขตการทำงาน พร้อมดึงข้อมูลตาม Schema ที่ตรวจสอบได้
สร้างเวิร์กโฟลว์ LangGraph ที่เรียกใช้เครื่องมือเมื่อจำเป็น หยุดภายในขีดจำกัดการทำงานที่กำหนด และส่งคืนข้อมูลแบบมีโครงสร้างที่ตรวจสอบกับ Pydantic schema แล้ว