ปกป้อง OpenAI API Keys สำหรับการคัดแยกคำร้องฝ่ายบริการลูกค้า
แนวทางรักษาความปลอดภัยเชิงปฏิบัติสำหรับใช้ OpenAI ในการคัดแยกคำร้องฝ่ายบริการลูกค้า: ปกป้อง API keys ปกปิดข้อมูลในล็อก จำกัดสิทธิ์ หมุนเวียนข้อมูลรับรอง และกำหนดให้มนุษย์อนุมัติ
สรุป · TL;DR
สำหรับการคัดแยกคำร้องฝ่ายบริการลูกค้า ให้เก็บ application key ของ OpenAI ไว้ในคอมโพเนนต์ฝั่งเซิร์ฟเวอร์ที่เชื่อถือได้ ส่งเฉพาะรายละเอียดเคสที่จำเป็นและปกปิดข้อมูลแล้ว บันทึกการตัดสินใจแทนการเก็บความลับหรือบทสนทนาทั้งหมด และกำหนดให้มนุษย์อนุมัติการดำเนินการที่ส่งผลต่อลูกค้า ใช้ข้อมูลรับรองที่แยกกันและมีสิทธิ์เท่าที่จำเป็นสำหรับงานแต่ละประเภท พร้อมจัดทำขั้นตอนหมุนเวียนหรือเพิกถอนข้อมูลรับรอง
ประเด็นสำคัญ
- ห้ามใส่ application API key ในโค้ดที่ agent สร้าง ในเบราว์เซอร์ อิมเมจคอนเทนเนอร์ source control หรือ logs
- ปกปิดข้อมูลส่วนบุคคลและข้อมูลลับก่อนส่งเคสให้โมเดล และลดข้อมูลที่เก็บไว้ภายหลังด้วย
- ให้โมเดลเสนอหมวดหมู่ ระดับความเร่งด่วน และร่างข้อความเท่านั้น ห้ามปิดเคส ออกเงินคืน หรือส่งคำตอบโดยไม่มีมนุษย์อนุมัติ
- แยกข้อมูลรับรองตามประเภทงาน ให้สิทธิ์เฉพาะ API ที่จำเป็น และซักซ้อมขั้นตอนหมุนเวียนหรือเพิกถอนคีย์
ในหน้านี้ (7)
แนวทางที่ปลอดภัยที่สุด: ให้โมเดลช่วยแนะนำ ไม่ใช่ลงมือทำ
สำหรับการคัดแยกคำร้องฝ่ายบริการลูกค้า จุดเริ่มต้นที่มีประโยชน์มักเป็นการจัดหมวดหมู่และสรุปข้อมูล ไม่ใช่การแก้ปัญหาโดยอัตโนมัติ โมเดลสามารถเสนอคิว ระดับความเร่งด่วน และร่างสรุปสั้น ๆ ให้เจ้าหน้าที่ฝ่ายบริการลูกค้าตรวจสอบหลักฐานและตัดสินใจขั้นต่อไป
เก็บ application key ของ OpenAI ไว้ในบริการฝั่งเซิร์ฟเวอร์ที่เชื่อถือได้ ซึ่งเป็นผู้ส่งคำขอ API อย่าเปิดเผยคีย์ให้เบราว์เซอร์ของลูกค้าหรือโค้ดที่ทำงานในสภาพแวดล้อมของ agent คู่มือความปลอดภัยของ OpenAI sandbox เตือนว่าโค้ดที่ agent สร้างอาจเข้าถึงไฟล์ ข้อมูลรับรอง และทรัพยากรเครือข่ายที่มีอยู่ในสภาพแวดล้อมได้ คู่มือแนะนำให้เก็บ application key ไว้นอกสภาพแวดล้อมดังกล่าว และไม่ฝังคีย์ไว้ใน source code, images หรือ logs คำแนะนำด้านความปลอดภัยของ OpenAI sandbox
ตัวอย่างด้านล่างเป็นเพียงภาพประกอบ ไม่ใช่การตั้งค่าที่ผ่านการทดสอบ ปรับให้เหมาะกับ API client ข้อกำหนดด้านความเป็นส่วนตัว และระบบฝ่ายบริการลูกค้าของคุณ
ขั้นตอนคัดแยกคำร้องแบบย่อ
- ระบบฝ่ายบริการลูกค้ารับเคสและนำฟิลด์ที่ไม่จำเป็นต่อการคัดแยกออก
- แบ็กเอนด์ที่เชื่อถือได้ปกปิดข้อมูลละเอียดอ่อน แล้วส่งข้อความส่วนที่เหลือให้ OpenAI โดยใช้ข้อมูลรับรองฝั่งเซิร์ฟเวอร์
- โมเดลส่งหมวดหมู่ ระดับความสำคัญ และสรุปสั้น ๆ ที่เสนอไว้กลับมา
- แอปพลิเคชันแสดงข้อเสนอให้เจ้าหน้าที่ฝ่ายบริการลูกค้าที่ได้รับอนุญาต เจ้าหน้าที่อนุมัติหรือแก้ไขการดำเนินการถัดไป
- ระบบบันทึกการตัดสินใจและข้อมูลกำกับการตรวจสอบที่จำเป็น โดยไม่เก็บข้อมูลลับหรือทำสำเนาบทสนทนาทั้งหมดโดยไม่จำเป็น
ตัวอย่างเช่น แบ็กเอนด์อาจส่งพรอมป์ต์ที่กำหนดขอบเขตไว้อย่างชัดเจน พร้อมเคสที่ปกปิดข้อมูลแล้ว หลีกเลี่ยงการใส่รหัสผ่าน ข้อมูลบัตรชำระเงิน โทเคนยืนยันตัวตน หรือประวัติบัญชีที่ไม่เกี่ยวข้อง ควรใช้กฎปกปิดข้อมูลก่อนส่งคำขอ ไม่ใช่รอจนถึงขั้นเขียน logs
# Illustrative pseudocode: provide an already-redacted case to your API client.
# Keep credential loading and the API call in a trusted backend service.
def propose_triage(api_client, redacted_case):
response = api_client.create_response(
instructions=(
"Suggest a support category, priority, and concise summary. "
"Do not claim to have resolved the case or send a reply. "
"If information is insufficient, say what is missing."
),
input=redacted_case,
)
return response
ตัวอย่างนี้ไม่ใช่ตัวอย่าง OpenAI SDK ที่นำไปใช้ได้ทันที ชื่อเมธอดและฟิลด์ในคำขอขึ้นอยู่กับ client และ API endpoint ที่คุณใช้ ตรวจสอบเอกสารอ้างอิง API ฉบับปัจจุบันเกี่ยวกับ endpoint พารามิเตอร์ที่รองรับ และรูปแบบคำตอบก่อนนำไปใช้งาน อย่าถือว่าผลลัพธ์จากโมเดลเป็นการอนุญาตให้ดำเนินการด้านบริการลูกค้า
แยกคีย์และสิทธิ์ออกจากกัน
หากทำได้ ให้ใช้ข้อมูลรับรองแยกกันสำหรับแอปพลิเคชันหรืองานแต่ละประเภท วิธีนี้ช่วยจำกัดผลกระทบจากความผิดพลาด และทำให้เพิกถอนข้อมูลรับรองหนึ่งรายการได้ง่ายขึ้นโดยไม่กระทบกับบริการอื่น จำกัดการเข้าถึงไว้เฉพาะระบบที่จำเป็นต้องใช้คีย์ จัดเก็บคีย์ใน secrets store ที่มีการจัดการ หรือระบบฝั่งเซิร์ฟเวอร์ที่ได้รับการปกป้องในลักษณะเทียบเท่า และส่งคีย์ให้เฉพาะคอมโพเนนต์ที่เชื่อถือได้ซึ่งเป็นผู้ส่งคำขอเท่านั้น
สำหรับ Agents API environment ที่อธิบายไว้ในคำแนะนำของ OpenAI application key ต้องมี api.agents.read และ api.agents.write สำหรับ sessions รวมถึง api.responses.write สำหรับ inference การจัดการ Vault ต้องใช้ api.vaults.read และ api.vaults.write คู่มือแยก environment key ออกจาก application key โดย environment key อนุญาตให้เชื่อมต่อ environments และไม่สามารถอนุมัติการดำเนินการ API อื่นได้ ให้ใช้สิทธิ์ตามที่ฟีเจอร์ API ที่คุณใช้งานจริงต้องการ อย่าให้สิทธิ์ vault แก่บริการคัดแยกคำร้องที่ไม่ได้จัดการ vaults
หากมี agent environment หรือ sandbox เข้ามาเกี่ยวข้อง ให้ถือว่าสิ่งใดก็ตามที่โค้ดเข้าถึงได้ย่อมเปิดให้โค้ดที่ agent สร้างเข้าถึงได้ด้วย สำหรับข้อมูลรับรองของบุคคลที่สาม คำแนะนำเสนอให้เก็บไว้นอก environment และใช้ trusted proxy หรือแนวทางที่อาศัย vault ตามความเหมาะสม ข้อมูลลับที่ส่งเข้า environment ยังคงเข้าถึงได้โดยโค้ดที่ทำงานอยู่ในนั้น
ปกปิดข้อมูลใน logs โดยยังคงคุณค่าต่อการตรวจสอบ
Logs ช่วยตรวจสอบการจัดหมวดหมู่ผิด ปัญหาการเข้าถึง และเหตุการณ์ด้านความปลอดภัย แต่ไม่ควรกลายเป็นสำเนากล่องข้อความฝ่ายบริการลูกค้าอีกชุดหนึ่ง หลีกเลี่ยงการบันทึก API keys, authorization headers, พรอมป์ต์ฉบับเต็ม ข้อความดิบจากลูกค้า หรือคำตอบจากโมเดลที่อาจมีรายละเอียดละเอียดอ่อนซ้ำอยู่
เลือกบันทึกข้อมูลแบบมีโครงสร้างและจำกัดขอบเขต เช่น หมายเลขอ้างอิงเคสภายใน เวลาที่ส่งคำขอ ตัวระบุโมเดลหรือ endpoint สถานะการปกปิดข้อมูล หมวดหมู่ที่เสนอ การตัดสินใจของมนุษย์ และประเภทข้อผิดพลาด กำหนดสิทธิ์การเข้าถึงและระยะเวลาเก็บรักษาข้อมูลเหล่านี้ หากผู้ตรวจสอบต้องใช้บทสนทนาตัวอย่างเพื่อตรวจคุณภาพ ให้สร้างชุดข้อมูลที่ลดปริมาณข้อมูลและมีแนวทางกำกับดูแลแยกต่างหาก แทนการเก็บ payload จากระบบจริงไว้อย่างเงียบ ๆ
การปกปิดข้อมูลอาจผิดพลาดเมื่อรายละเอียดส่วนบุคคลปรากฏในข้อความอิสระ อีเมลที่ยกข้อความเก่ามาแนบ ไฟล์แนบ หรือรูปแบบที่ไม่คุ้นเคย ทดสอบกฎกับเคสที่สมจริง ตรวจสอบข้อมูลที่จะออกจากระบบ และเตรียมทางเลือกที่ปลอดภัยเมื่อบริการไม่สามารถลบข้อมูลละเอียดอ่อนได้อย่างมั่นใจ
กำหนดขั้นตอนหมุนเวียนและเพิกถอนคีย์
แผนการหมุนเวียนคีย์ควรระบุผู้รับผิดชอบ ตำแหน่งจัดเก็บข้อมูลรับรอง บริการที่ใช้งาน ผู้ที่เปลี่ยนคีย์ได้ และวิธีตรวจสอบว่าการเปลี่ยนแปลงสำเร็จ ขั้นตอนที่นำไปปฏิบัติได้มีดังนี้:
- สร้างข้อมูลรับรองใหม่โดยให้เฉพาะสิทธิ์ที่จำเป็น
- อัปเดต secret store ของบริการที่เชื่อถือได้ แล้ว deploy หรือ reload ผ่านกระบวนการเปลี่ยนแปลงตามปกติ
- ตรวจสอบว่าคำขอคัดแยกที่ไม่ก่อผลกระทบทำงานสำเร็จ โดยไม่มีการเปิดเผยข้อมูลรับรองใน diagnostics
- เพิกถอนข้อมูลรับรองเดิม และยืนยันว่าบริการไม่ต้องพึ่งพาข้อมูลรับรองนั้นอีก
- บันทึกวันที่ ผู้รับผิดชอบ ประเภทงานที่ได้รับผลกระทบ และผลลัพธ์ โดยห้ามบันทึกค่าความลับ
กำหนดรอบทบทวนเป็นประจำให้เหมาะกับความเสี่ยงและข้อกำหนดด้านการปฏิบัติงานขององค์กร เพิกถอนคีย์ทันทีหากสงสัยว่าถูกเปิดเผย อย่ารอให้ถึงรอบหมุนเวียนตามกำหนด คำแนะนำของ OpenAI ระบุชัดเจนให้หมุนเวียนหรือเพิกถอนคีย์เมื่อจำเป็น และให้เพิกถอนข้อมูลรับรองทันทีหากสงสัยว่าถูกเปิดเผย
การอนุมัติโดยมนุษย์และการจัดการเมื่อเกิดข้อผิดพลาด
กำหนดให้ต้องอนุมัติเป็นกฎของระบบ ไม่ใช่แค่คำสั่งในพรอมป์ต์ ในขั้นตอนนี้ โมเดลไม่ควรเข้าถึงเครื่องมือที่ใช้ส่งข้อความถึงลูกค้า เปลี่ยนสถานะบัญชี หรือออกเงินคืนโดยตรง แสดงข้อเสนอของโมเดลในฐานะคำแนะนำ พร้อมหลักฐานที่เกี่ยวข้องและปกปิดข้อมูลแล้ว และกำหนดให้ผู้มีอำนาจยืนยันการดำเนินการที่มีผลกระทบทุกครั้ง
หาก API ใช้งานไม่ได้ คำตอบมีรูปแบบผิด หรือการปกปิดข้อมูลล้มเหลว ให้ส่งเคสเข้าสู่คิวดำเนินการด้วยตนเองที่มีอยู่ อย่าเปลี่ยนการจัดหมวดหมู่ที่ยังไม่แน่นอนให้เป็นการดำเนินการอัตโนมัติโดยไม่แจ้งให้ทราบ
รายการตรวจสอบ
- เก็บ application key ไว้ในแบ็กเอนด์ที่เชื่อถือได้ ไม่ใช่ในเบราว์เซอร์หรือ agent environment
- แยกข้อมูลรับรองตามประเภทงานและจำกัดสิทธิ์เท่าที่จำเป็น
- นำฟิลด์ละเอียดอ่อนออกก่อน inference และไม่บันทึกลง logs ตามปกติ
- ใช้ผลลัพธ์การคัดแยกเป็นคำแนะนำ และให้มนุษย์อนุมัติการดำเนินการที่มีผลต่อลูกค้าหรือเปลี่ยนแปลงบัญชี
- มีผู้รับผิดชอบที่ระบุชื่อซึ่งเปลี่ยนหรือเพิกถอนข้อมูลรับรองได้ และได้ซักซ้อมขั้นตอนแล้ว
- ส่งกรณีที่เกิดข้อผิดพลาดหรือมีผลลัพธ์ไม่แน่นอนกลับเข้าสู่กระบวนการด้วยตนเองที่ปลอดภัย
การตัดสินใจสำคัญในการออกแบบคือเก็บข้อมูลรับรองและการดำเนินการที่มีผลกระทบไว้ให้พ้นจากการเข้าถึงของโมเดล ใช้โมเดลช่วยจัดระเบียบงานบริการลูกค้า ลดข้อมูลที่โมเดลได้รับ และกำหนดให้มนุษย์อนุมัติเป็นด่านสุดท้าย
คำถามที่พบบ่อย
ใส่ OpenAI API key ใน agent sandbox ได้ไหม?
หลีกเลี่ยงการใส่ application key ไว้ใน agent environment คำแนะนำด้านความปลอดภัยของ OpenAI sandbox ระบุว่าโค้ดที่ agent สร้างอาจเข้าถึงไฟล์ ข้อมูลรับรอง และเครือข่ายของ environment ได้ และแนะนำให้เก็บ application key ไว้นอก environment ใช้แบ็กเอนด์ที่เชื่อถือได้ส่งคำขอ API
ควรบันทึกข้อมูลอะไรใน logs สำหรับการคัดแยกคำร้องฝ่ายบริการลูกค้า?
เก็บเฉพาะข้อมูลกำกับที่จำเป็นต่อการปฏิบัติงานและการตรวจสอบ เช่น หมายเลขอ้างอิงเคสภายใน เวลา สถานะการปกปิดข้อมูล หมวดหมู่ที่เสนอ การตัดสินใจของมนุษย์ และประเภทข้อผิดพลาด หลีกเลี่ยงการบันทึก API keys, authorization headers, ข้อความฉบับเต็มจากลูกค้า และผลลัพธ์จากโมเดลที่มีข้อมูลละเอียดอ่อน
ควรให้โมเดลส่งคำตอบฝ่ายบริการลูกค้าโดยอัตโนมัติหรือไม่?
ไม่ควร สำหรับขั้นตอนคัดแยกที่มนุษย์อนุมัติ ให้ใช้ผลลัพธ์จากโมเดลเป็นข้อเสนอแนะ และกำหนดให้เจ้าหน้าที่ฝ่ายบริการลูกค้าที่ได้รับอนุญาตตรวจสอบและอนุมัติการดำเนินการที่ส่งผลต่อลูกค้าหรือเปลี่ยนแปลงบัญชี
ควรหมุนเวียน OpenAI API key เมื่อใด?
กำหนดรอบทบทวนเป็นประจำให้เหมาะกับความเสี่ยงและข้อกำหนดด้านการปฏิบัติงาน และหมุนเวียนข้อมูลรับรองเมื่อจำเป็น หากสงสัยว่าคีย์ถูกเปิดเผย ให้เพิกถอนทันทีและดำเนินการตามขั้นตอนเปลี่ยนคีย์และตรวจสอบ
บทความที่เกี่ยวข้อง
Guides
วินิจฉัยเหตุขัดข้องของ OpenAI API โดยไม่เปิดเผยข้อมูลรับรอง
คู่มือภาคปฏิบัติสำหรับวินิจฉัยปัญหา OpenAI API ด้วยสัญญาณที่เป็นประโยชน์ พร้อมปกป้อง API key จำกัดสิทธิ์ และวางแผนหมุนเวียนข้อมูลรับรอง
Guides
วิธีวิเคราะห์ข้อผิดพลาด OpenAI API ด้านการยืนยันตัวตน การจำกัดอัตรา คำขอหมดเวลา และการตอบกลับผิดรูปแบบอย่างปลอดภัย
คู่มือเชิงปฏิบัติที่คำนึงถึงความเป็นส่วนตัว สำหรับวิเคราะห์ข้อผิดพลาดด้านการยืนยันตัวตน การจำกัดอัตรา คำขอหมดเวลา และการตอบกลับผิดรูปแบบของ OpenAI API โดยไม่เปิดเผยข้อมูลรับรองหรือข้อมูลผู้ใช้
Guides
การย้ายระบบ Node.js OpenAI SDK: Base URL, การสตรีม และระบบคัดกรองเคสด้วย Human-in-the-Loop
เรียนรู้วิธีย้ายระบบ Node.js ที่ใช้ OpenAI SDK เดิมไปสู่เกตเวย์ที่รองรับมาตรฐาน OpenAI เช่น OneMux พร้อมจัดการการสตรีม วินิจฉัยข้อผิดพลาด และสร้างเวิร์กโฟลว์คัดกรองเคสสนับสนุนลูกค้าที่มีขั้นตอนอนุมัติโดยมนุษย์
Guides
GPT-5.6 Sol สำหรับฝ่ายสนับสนุนลูกค้า: เลือกโมเดล OpenAI API ให้เหมาะสม
เรียนรู้ว่า GPT-5.6 Sol เหมาะกับงานอัตโนมัติด้านสนับสนุนลูกค้าอย่างไร ราคาเท่าไร และวิธีเข้าถึงผ่าน OneMux API ที่เข้ากันได้กับ OpenAI