Cline กับผู้ให้บริการที่เข้ากันได้กับ OpenAI สำหรับคัดแยกคำขอฝ่ายสนับสนุนโดยมีมนุษย์อนุมัติ

แนวทางตัดสินใจ: ทำระบบคัดแยกให้เป็นอัตโนมัติ แต่ไม่ทำการดำเนินการที่มีผลต่อลูกค้า

แม้ Cline มักถูกอธิบายว่าเป็น coding agent แต่ชั้นผู้ให้บริการของ Cline ก็มีประโยชน์เมื่อคุณต้องการให้ agent ตรวจสอบข้อมูลที่มีโครงสร้างและสร้างคำแนะนำเชิงปฏิบัติการ สำหรับงานสนับสนุนลูกค้า การนำไปใช้งานครั้งแรกที่ปลอดภัยกว่าคือ เวิร์กโฟลว์คัดแยกและสร้างร่างคำตอบ:

1. รวบรวมทิกเก็ตใหม่และบริบทบัญชีที่เกี่ยวข้อง
2. ขอให้ Cline จัดประเภทความเร่งด่วน หัวข้อ และขั้นตอนถัดไปที่เป็นไปได้
3. สร้างเหตุผลประกอบภายในและร่างคำตอบที่เสนอ
4. ให้เจ้าหน้าที่ฝ่ายสนับสนุนอนุมัติ แก้ไข หรือปฏิเสธคำแนะนำ
5. จากนั้นจึงอัปเดตทิกเก็ตหรือส่งคำตอบผ่านระบบสนับสนุนที่มีอยู่

เอกสารของ Cline อธิบายข้อมูลรับรองของผู้ให้บริการ, model ID, base URL, การเข้าถึงเกตเวย์, เมทาดาทา และการรายงานการใช้งาน แต่ไม่ได้ระบุการเชื่อมต่อระบบทิกเก็ตแบบเนทีฟหรือคิวอนุมัติจากมนุษย์ในตัว ให้ถือว่าชั้นการอนุมัติเป็นโค้ดของแอปพลิเคชันที่ทำงานรอบ Cline

ดูการกำหนดค่าผู้ให้บริการได้ที่ เอกสารผู้ให้บริการโมเดลของ Cline

ข้อกำหนดเบื้องต้น

ก่อนเขียนการเชื่อมต่อ ให้ตรวจสอบรายการต่อไปนี้:

• โปรเจกต์ Cline SDK ที่ติดตั้ง @cline/agents, @cline/core และแพ็กเกจผู้ให้บริการที่เกี่ยวข้องตามคำแนะนำการตั้งค่าปัจจุบันของ Cline
• API key สำหรับบริการที่เข้ากันได้กับ OpenAI ที่คุณต้องการใช้
• base URL และ model ID ที่บริการดังกล่าวระบุไว้ในเอกสาร
• เพย์โหลดทิกเก็ตฝ่ายสนับสนุนที่ตัดข้อมูลส่วนบุคคลหรือข้อมูลสำคัญที่ไม่จำเป็นออก
• กลไกการอนุมัติ เช่น คิวตรวจสอบ แดชบอร์ดภายใน หรือการเปลี่ยนสถานะทิกเก็ต
• นโยบายการส่งต่อที่ชัดเจน โดยเฉพาะกรณีเหตุการณ์ด้านความปลอดภัย การคืนเงิน คำขอทางกฎหมาย การเข้าถึงบัญชี และการข่มขู่ว่าจะทำร้าย

OneMux ให้เข้าถึงโมเดล AI ชั้นนำผ่าน API เดียวที่เข้ากันได้กับ OpenAI และมุ่งเน้นด้านการเข้าถึงโมเดล การกำหนดเส้นทาง คีย์ การมองเห็นค่าใช้จ่าย การเติมเครดิต และการใช้งานแบบจ่ายตามการใช้งาน คุณสามารถดู แค็ตตาล็อกโมเดลของ OneMux แล้วตรวจสอบ endpoint ปัจจุบันและพารามิเตอร์ที่รองรับใน เอกสาร OneMux การเชื่อมต่อกับ OneMux ในบทความนี้ไม่ได้อ้างว่าได้รับการทดสอบแล้ว ความเข้ากันได้ขึ้นอยู่กับ endpoint และพารามิเตอร์ที่เอกสารของทั้งสองบริการระบุไว้

กำหนดค่าผู้ให้บริการ OpenAI-compatible ของ Cline

การกำหนดค่าที่ Cline ระบุไว้ใช้ providerId: "openai-compatible" พร้อม model ID, API key และ base URL ตัวอย่างต่อไปนี้เก็บค่าที่ขึ้นอยู่กับการติดตั้งใช้งานไว้เป็นตัวแทนค่า:

import { Agent } from "@cline/agents"

const agent = new Agent({
  providerId: "openai-compatible",
  modelId: process.env.SUPPORT_MODEL_ID,
  apiKey: process.env.PROVIDER_API_KEY,
  baseUrl: process.env.PROVIDER_BASE_URL,
})

ตั้งค่า PROVIDER_BASE_URL เป็น base URL ของ API ที่บริการซึ่งเข้ากันได้กับ OpenAI ระบุไว้ในเอกสาร ไม่ใช่เว็บไซต์การตลาดของผู้ให้บริการโดยอัตโนมัติ หากใช้ OneMux ให้รับ endpoint API ปัจจุบันและตัวระบุโมเดลจาก คู่มือเริ่มต้นใช้งาน OneMux หรือเอกสารที่เกี่ยวข้อง แทนการคัดลอก path ที่คาดเดาเอง

สรุปซอร์สของ Cline ยังระบุว่าการกำหนดค่าผู้ให้บริการสามารถรวม headers และการตั้งค่าเฉพาะผู้ให้บริการผ่านประเภทการกำหนดค่า core/provider ได้ อย่าเพิ่ม headers หรือพารามิเตอร์คำขอแบบกำหนดเองจนกว่าจะยืนยันว่าปลายทางที่เลือกนั้นรองรับ และ Cline ส่งต่อค่าเหล่านั้นตามที่คาดไว้

model ID มีความสำคัญไม่แพ้กัน your-model-name ในตัวอย่างของ Cline เป็นเพียงตัวแทนค่า โมเดลที่แสดงในแค็ตตาล็อกของผู้ให้บริการอาจใช้ deployment ID อื่นที่ endpoint ของ API หาก ID ไม่ถูกต้อง คำขออาจล้มเหลวก่อนที่ตรรกะของเวิร์กโฟลว์ฝ่ายสนับสนุนจะทำงาน

สร้างขั้นตอนคัดแยกที่ต้องผ่านการอนุมัติจากมนุษย์

พรอมต์แรกที่มีประโยชน์ควรจำกัดรูปแบบผลลัพธ์ของ agent ขอให้สร้างคำแนะนำที่เครื่องอ่านได้ แต่ให้การดำเนินการสุดท้ายอยู่นอกการเรียกโมเดล:

const ticket = {
  id: "ticket-123",
  subject: "Unable to access our workspace",
  message: "Our team is receiving an authorization error after signing in.",
  customerTier: "standard",
}

const result = await agent.run(`
Classify this support ticket for internal review.

Return JSON with these fields:
- category: one of access, billing, bug, how_to, security, or other
- urgency: low, medium, high, or critical
- summary: one short sentence
- suggestedNextStep: one concrete internal action
- replyDraft: a cautious draft for a support agent to edit
- requiresHumanEscalation: true or false

Never claim that an action was completed. Do not send a message, change account data,
or promise a refund. Escalate security, access-control, legal, and payment issues.

Ticket:
${JSON.stringify(ticket)}
`)

console.log(result)

แอปพลิเคชันของคุณควรตรวจสอบโครงสร้างที่ส่งคืนก่อนแสดงให้ผู้ตรวจสอบเห็น มนุษย์ควรดูทิกเก็ตต้นฉบับ การจัดประเภท เหตุผลหรือสรุป และร่างคำตอบที่เสนอได้ในที่เดียว การดำเนินการอนุมัติควรชัดเจน ได้แก่ อนุมัติ แก้ไขและอนุมัติ ปฏิเสธ หรือส่งต่อ

อย่าตีความ requiresHumanEscalation: false ว่าเป็นการอนุญาตให้ส่งโดยอัตโนมัติ ค่านี้เป็นเพียงคำแนะนำจากโมเดล แอปพลิเคชันของคุณควรบังคับใช้นโยบายของตนเองสำหรับหมวดหมู่ความเสี่ยงสูง โดยไม่ขึ้นกับผลลัพธ์ของโมเดล

เพิ่มการมองเห็นการใช้งานและมาตรการควบคุมการปฏิบัติงาน

ซอร์สของ Cline ระบุข้อมูลการใช้งานในผลลัพธ์ของ agent ซึ่งรวมถึง input tokens, output tokens, total tokens และ total cost การวินิจฉัยอย่างง่ายช่วยให้คุณระบุพรอมต์ที่มีขนาดใหญ่ผิดปกติได้:

console.log({
  inputTokens: result.usage?.inputTokens,
  outputTokens: result.usage?.outputTokens,
  totalCost: result.usage?.totalCost,
})

ควรตรวจสอบความพร้อมใช้งานและฟิลด์การใช้งานที่แน่นอนกับเวอร์ชัน Cline ที่ติดตั้ง เก็บบริบททิกเก็ตให้กระชับ ลบข้อมูลลับ และหลีกเลี่ยงการแนบประวัติการสนทนาทั้งหมดซ้ำหลายครั้งเมื่อใช้สรุปสั้น ๆ ได้ สำหรับข้อมูลการใช้งานและราคาปัจจุบันของ OneMux โปรดดู หน้าราคา OneMux อย่าสมมติว่าระดับแคชที่ไม่มีราคาแสดงไว้หรือไม่รองรับนั้นใช้งานได้ฟรีหรือมีให้ใช้

การควบคุมที่มีประโยชน์ ได้แก่:

• จำกัดความยาวอินพุตสูงสุดสำหรับประวัติทิกเก็ต
• นโยบาย timeout และ retry ที่ไม่ทำให้การดำเนินการอนุมัติซ้ำ
• บันทึกพรอมต์, model ID, เส้นทางผู้ให้บริการ, ผลลัพธ์, การตัดสินใจของผู้ตรวจสอบ และเวลา
• บล็อกการดำเนินการอัตโนมัติสำหรับการคืนเงิน การเปลี่ยนแปลงบัญชี การรีเซ็ตข้อมูลรับรอง และเหตุการณ์ด้านความปลอดภัย
• คิวสำรองเมื่อผู้ให้บริการปฏิเสธพารามิเตอร์หรือส่งผลลัพธ์ที่มีรูปแบบไม่ถูกต้อง

แก้ไขปัญหาการกำหนดค่า OpenAI-compatible

ข้อผิดพลาดด้านการยืนยันตัวตน

ตรวจสอบว่าโปรเซสสามารถเข้าถึง API key ได้ และคีย์นั้นเป็นของผู้ให้บริการที่กำหนดค่าไว้ หลีกเลี่ยงการบันทึกคีย์ลงในล็อก หากผู้ให้บริการต้องใช้ส่วนหัวการยืนยันตัวตนแบบกำหนดเอง ให้ตรวจสอบว่าการกำหนดค่าผู้ให้บริการที่ Cline รองรับยอมรับรูปแบบส่วนหัวดังกล่าวหรือไม่ เอกสารที่ให้มายืนยันว่า headers เป็นพื้นที่การกำหนดค่าที่เป็นไปได้ แต่ไม่ได้กำหนดข้อกำหนดของผู้ให้บริการแต่ละรายไว้ทั้งหมด

การตอบกลับ 404 หรือไม่พบโมเดล

ตรวจสอบ base URL และ model ID ทั้งหมด ชื่อผู้ให้บริการที่ถูกต้องไม่ได้รับประกันว่า model ID ใดโมเดลหนึ่งจะพร้อมใช้งานผ่าน endpoint ที่เลือก ใช้เอกสารโมเดลปัจจุบันของผู้ให้บริการ และหากเหมาะสม ให้ใช้วิธีค้นหาเกตเวย์ของ Cline เช่น listProviders() หรือ helper ของแค็ตตาล็อกโมเดล

ข้อผิดพลาดพารามิเตอร์ที่ไม่รองรับ

OpenAI-compatible ไม่ได้หมายความว่าจะเหมือนกันทั้งหมด ผู้ให้บริการอาจแตกต่างกันในพารามิเตอร์ที่รองรับ รูปแบบการตอบกลับ ขีดจำกัดบริบท และพฤติกรรมของเครื่องมือ ให้ลบพารามิเตอร์เสริมออกก่อน แล้วค่อยเพิ่มกลับเมื่อยืนยันการรองรับแล้ว ซอร์สของ Cline ที่ให้มาอธิบายเมทาดาทาของโมเดล เช่น context windows, maximum tokens, pricing และ capabilities แต่ไม่ได้ยืนยันว่าผู้ให้บริการทุกรายมีความสามารถครอบคลุมเหมือนกัน

ผลลัพธ์การคัดแยกไม่น่าเชื่อถือหรือไม่ครบถ้วน

ให้มองว่านี่เป็นปัญหาของเวิร์กโฟลว์ ไม่ใช่หลักฐานว่าผู้ให้บริการมีข้อบกพร่อง ปรับ schema ของผลลัพธ์ให้เข้มงวดขึ้น เพิ่มตัวอย่างที่เป็นตัวแทน ลดบริบทที่ไม่เกี่ยวข้อง และส่งกรณีที่ไม่แน่ใจให้มนุษย์ตรวจสอบ อย่าอ้างว่าความแม่นยำ เวลาแฝง หรือค่าใช้จ่ายดีขึ้น หากยังไม่มีการประเมินด้วยข้อมูลฝ่ายสนับสนุนของคุณเองที่ได้รับอนุมัติ

บทสรุป

Cline สามารถทำหน้าที่เป็นชั้น agent สำหรับเวิร์กโฟลว์คัดแยกคำขอฝ่ายสนับสนุนที่ใช้งานได้จริง เมื่อกำหนดผู้ให้บริการ openai-compatible ให้ชี้ไปยัง endpoint ที่เข้ากันได้และมีเอกสารอ้างอิง OneMux เป็นเส้นทางเข้าถึงที่เป็นไปได้เนื่องจากให้บริการ API ที่เข้ากันได้กับ OpenAI แต่ต้องยืนยันความเข้ากันได้ของ endpoint, model, การยืนยันตัวตน และพารามิเตอร์ แทนการสมมติ

การออกแบบที่ยั่งยืนควรจำกัดขอบเขตอย่างตั้งใจ: Cline จัดประเภททิกเก็ตและสร้างร่างคำตอบ แอปพลิเคชันของคุณตรวจสอบผลลัพธ์ และผู้เชี่ยวชาญฝ่ายสนับสนุนอนุมัติการดำเนินการถัดไป ขอบเขตนี้ช่วยให้ผู้ปฏิบัติงานมีเส้นทางสู่ระบบอัตโนมัติที่ใช้งานได้ โดยไม่เปลี่ยนคำแนะนำจากโมเดลที่ยังไม่ได้ตรวจสอบให้กลายเป็นการดำเนินการที่มีผลต่อลูกค้าโดยไม่มีผู้ดูแล

แหล่งข้อมูล

• Cline: Model Providers — การกำหนดค่าผู้ให้บริการ การตั้งค่า OpenAI-compatible การเข้าถึงเกตเวย์ เมทาดาทาโมเดล และการรายงานการใช้งาน
• OneMux — ภาพรวมผลิตภัณฑ์และการนำเสนอ API ที่เข้ากันได้กับ OpenAI
• เอกสาร OneMux — โปรดดูรายละเอียดปัจจุบันเกี่ยวกับ endpoint, การยืนยันตัวตน, โมเดล และพารามิเตอร์