ตั้งค่า Provider ที่เข้ากันได้กับ OpenAI ใน Cline สำหรับถามตอบเอกสารพร้อมระบุแหล่งอ้างอิง

ตั้งค่า Cline สำหรับถามตอบเอกสาร ไม่ใช่แค่เข้าถึงโมเดล

หากต้องการให้เอเจนต์เขียนโค้ดตอบคำถามเกี่ยวกับเอกสารของโปรเจกต์พร้อมแสดงที่มาของแต่ละคำตอบ คุณต้องทำสองส่วนแยกกัน ได้แก่ เชื่อมต่อ Cline กับ Endpoint ของโมเดล แล้วสร้างเวิร์กโฟลว์ค้นคืนข้อมูลและระบุแหล่งอ้างอิงโดยใช้การเชื่อมต่อนั้น เอกสาร Cline SDK ครอบคลุมข้อมูลรับรองของ Provider, Model ID และ LLM gateway แต่ไม่ได้ระบุว่ามีฟีเจอร์ค้นหาเอกสารหรืออ้างอิงแหล่งที่มาในตัว อ่านเอกสาร Model Provider ของ Cline

ขั้นตอนด้านล่างมีไว้สำหรับนักพัฒนาที่ใช้ Cline SDK ไม่ใช่คู่มือตั้งค่าแบบทีละขั้นตอนสำหรับส่วนขยาย Cline บนเดสก์ท็อปหรืออินเทอร์เฟซอื่น เพราะแหล่งข้อมูลที่ให้มาไม่ได้ระบุการตั้งค่าเหล่านั้น สำหรับ SDK นั้น Cline ระบุ Provider แบบ openai-compatible ที่ใช้ API key, Base URL และ Model ID ส่วน OneMux อาจเป็นทางเลือกที่ใช้งานได้จริงสำหรับเข้าถึงโมเดลผ่าน API ที่เข้ากันได้กับ OpenAI แต่ความเข้ากันได้กับเวิร์กโฟลว์ Cline แบบใดแบบหนึ่งขึ้นอยู่กับ Endpoint และฟีเจอร์ของคำขอที่คุณใช้

สิ่งที่ต้องเตรียม

ก่อนตั้งค่าเอเจนต์ ให้เตรียมสิ่งต่อไปนี้:

• โปรเจกต์ Cline SDK ที่ใช้แพ็กเกจ @cline/agents และ Provider ที่เกี่ยวข้อง โดย Cline ระบุว่า @cline/agents และ @cline/core ใช้ LLM layer ภายใน โปรดดูเอกสารแพ็กเกจสำหรับ import และรูปแบบ constructor ที่ตรงกับเวอร์ชันของคุณ
• API key ของผู้ให้บริการที่ต้องการใช้ โดยจัดเก็บไว้นอกระบบควบคุมเวอร์ชัน
• Base URL ที่เข้ากันได้กับ OpenAI ของผู้ให้บริการ และ Model ID ที่ Endpoint นั้นยอมรับอย่างตรงตัว
• เอกสารที่แอปพลิเคชันเข้าถึงได้ พร้อมวิธีค้นคืนที่ค้นหาข้อความส่วนที่เกี่ยวข้องและเก็บข้อมูลเมตาของแหล่งที่มาไว้ได้

สำหรับการตั้งค่าบัญชีและ API ของ OneMux ให้เริ่มที่ คู่มือเริ่มต้น OneMux และ เอกสาร API ตรวจสอบ Endpoint และตัวระบุโมเดลล่าสุดในเอกสารก่อนใช้งาน บทความนี้ไม่ได้ยืนยันว่ามีการทดสอบโมเดล Endpoint หรือการเชื่อมต่อ Cline ใดโดยเฉพาะแล้ว

ตั้งค่า Provider ที่เข้ากันได้กับ OpenAI

รูปแบบการตั้งค่า Provider ที่ระบุในเอกสาร Cline มีดังนี้:

const agent = new Agent({
  providerId: "openai-compatible",
  modelId: process.env.MODEL_ID,
  apiKey: process.env.PROVIDER_API_KEY,
  baseUrl: process.env.PROVIDER_BASE_URL,
})

ตัวอย่างนี้ละสัญลักษณ์ Agent และการ import แพ็กเกจไว้ เนื่องจากเอกสารอ้างอิง Provider ที่ให้มาไม่ได้ระบุรายละเอียดดังกล่าว ให้ใช้ import และตัวเลือกเพิ่มเติมที่จำเป็นตามเอกสารของเวอร์ชันที่ติดตั้งในโปรเจกต์ ตั้งค่า MODEL_ID, PROVIDER_API_KEY และ PROVIDER_BASE_URL ใน environment ภายในเครื่องหรือ secret manager ของคุณ ชื่อเหล่านี้เป็นตัวอย่างชื่อตัวแปร environment ของแอปพลิเคชัน ไม่ใช่ชื่อตัวแปรที่ Cline กำหนด ตัวแปรทั่วไปที่ Cline ระบุไว้สำหรับ OpenAI และผู้ให้บริการรายอื่นที่ระบุชื่อ ไม่ได้กำหนดชื่อตัวแปรมาตรฐานสำหรับทุกบริการที่เข้ากันได้กับ OpenAI

หากตั้งค่าโดยใช้ OneMux ให้ดู Base URL, key และ Model ID ล่าสุดจาก เอกสาร API ของ OneMux แล้วใส่ค่าในช่องที่ตรงกัน อย่าคิดว่า Endpoint ทุกแห่งที่เข้ากันได้กับ OpenAI จะยอมรับทุกพารามิเตอร์หรือฟีเจอร์เสริม ให้ตรวจสอบรูปแบบคำขอ วิธีตรวจสอบสิทธิ์ และโมเดลที่พร้อมใช้งานตามเอกสารของ Endpoint โดยเฉพาะอย่างยิ่ง ความเข้ากันได้ขึ้นอยู่กับว่าผู้ให้บริการรองรับพารามิเตอร์ที่เอเจนต์ของคุณส่งหรือไม่

เพิ่มการระบุแหล่งอ้างอิงในคำตอบจากเอกสาร

การเชื่อมต่อโมเดลไม่ได้ทำให้โมเดลค้นหาไฟล์หรืออ้างอิงไฟล์เหล่านั้นโดยอัตโนมัติ คุณต้องสร้างการทำงานนี้ในระดับแอปพลิเคชัน:

1. จัดทำดัชนีเอกสารด้วยตัวระบุที่คงที่ จัดเก็บ ID ของแหล่งที่มา ชื่อเอกสาร และหน้ากระดาษ ส่วน หรือข้อมูลตำแหน่งอื่นสำหรับข้อความแต่ละส่วนที่ค้นคืนได้ โดยเก็บข้อมูลเมตาไว้คู่กับข้อความ
2. ค้นคืนข้อมูลก่อนถาม ค้นหาข้อความที่เกี่ยวข้องกับคำถามของผู้ใช้ แล้วส่งผลลัพธ์จำนวนเล็กน้อยเป็นบริบท การพัฒนาระบบค้นหาและแหล่งจัดเก็บเอกสารอยู่นอกเหนือการตั้งค่า Provider ที่อธิบายไว้ในแหล่งข้อมูลของ Cline
3. กำหนดให้คำตอบมีข้อมูลอ้างอิง ขอให้โมเดลตอบโดยอิงเฉพาะข้อความที่ให้ไป และส่งข้อมูลอ้างอิงกลับมาโดยใช้ ID และตำแหน่งที่คุณระบุ เช่น ขอคำตอบสั้น ๆ พร้อมรายการ ID ของแหล่งอ้างอิง
4. ตรวจสอบการอ้างอิงในโค้ด ตรวจว่า ID ทุกตัวที่ส่งกลับมาอยู่ในชุดข้อมูลที่ค้นคืนได้ และแสดงลิงก์หรือป้ายกำกับจากข้อมูลเมตาของคุณเอง หากไม่มีข้อความใดรองรับคำตอบ ให้เวิร์กโฟลว์ระบุว่าเอกสารไม่ได้ยืนยันคำตอบนั้น แทนที่จะนำเสนอข้ออ้างโดยไม่มีแหล่งอ้างอิง

ตัวอย่าง prompt สำหรับขั้นตอนค้นคืนข้อมูล:

Answer the question using only the supplied document passages.
For each factual claim, cite the passage ID and location in brackets.
If the passages do not support an answer, say so.

Question: {{question}}
Passages:
{{retrieved_passages_with_ids_and_locations}}

นี่เป็นรูปแบบการทำงานระดับแอปพลิเคชัน ไม่ใช่ API สำหรับอ้างอิงแหล่งที่มาของ Cline ที่มีระบุไว้ในเอกสาร โมเดลอาจสร้างข้อมูลอ้างอิงที่ดูน่าเชื่อถือแต่ไม่ถูกต้อง จึงควรตรวจสอบกับข้อมูลเมตาที่ค้นคืนมา และตรวจสอบข้อความที่อ้างถึงเมื่อจำเป็น สำหรับคำตอบที่มีความสำคัญสูง ควรให้คนตรวจทานทั้งคำตอบและข้อความที่ใช้สนับสนุน

สิ่งที่ควรตรวจสอบและวิธีแก้ปัญหา

ตรวจสอบสิทธิ์ไม่ผ่าน: ตรวจว่า key อยู่ใน environment ของโปรเซส เป็น key ของบริการที่ตั้งค่าไว้ และ Endpoint คาดหวังวิธีตรวจสอบสิทธิ์ที่ไคลเอนต์ของคุณใช้ หลีกเลี่ยงการพิมพ์ข้อมูลลับลงใน log

ไม่พบโมเดล: ตรวจสอบ Model ID ที่ถูกต้องกับผู้ให้บริการ เอกสารอ้างอิงของ Cline ใช้ Model ID เฉพาะของผู้ให้บริการ และไม่ได้รับประกันว่า ID ใด ID หนึ่งจะพร้อมใช้งานผ่านทุกบริการที่เข้ากันได้

คำขอล้มเหลวแม้ระบุว่าเข้ากันได้กับ OpenAI: ตรวจสอบ Base URL รวมถึงดูว่าผู้ให้บริการต้องการ version path เช่น /v1 หรือไม่ จากนั้นเปรียบเทียบพารามิเตอร์ของคำขอและรูปแบบการตอบกลับที่ Cline เวอร์ชันที่ติดตั้งใช้กับสิ่งที่เอกสารของ Endpoint ระบุว่ารองรับ แหล่งข้อมูล Cline ที่ให้มาไม่ได้ระบุชุดพารามิเตอร์สากลที่ Endpoint ของบุคคลที่สามรองรับ

คำตอบไม่มีแหล่งอ้างอิงที่เชื่อถือได้: ตรวจว่าการค้นคืนส่งข้อความที่เกี่ยวข้องกลับมา ข้อความแต่ละส่วนมีตัวระบุและตำแหน่งที่คงที่ และแอปพลิเคชันตรวจสอบข้อมูลอ้างอิงที่ส่งกลับมา การตั้งค่า Provider เพียงอย่างเดียวไม่สามารถแก้ข้อมูลเมตาการค้นคืนที่ขาดหายหรือไม่ถูกต้องได้

Model-provider layer ของ Cline ยังเปิดให้ใช้งาน gateway และข้อมูลเมตาของโมเดล รวมถึงฟิลด์อย่าง context window, maximum tokens, pricing และ capabilities แหล่งข้อมูลระบุว่าการใช้โทเคนและค่าใช้จ่ายอาจปรากฏในผลลัพธ์ของเอเจนต์และ usage events แต่ไม่ได้ยืนยันว่าผู้ให้บริการที่เข้ากันได้ทุกรายเปิดเผยข้อมูลเมตาครบทุกฟิลด์ ดูรายละเอียด gateway ที่มีระบุไว้ได้ใน เอกสารอ้างอิง Provider ของ Cline

การตั้งค่านี้เหมาะกับคุณหรือไม่?

ใช้แนวทางนี้เมื่อเอเจนต์เขียนโค้ดของคุณต้องค้นหาข้อมูลในเอกสารของโปรเจกต์ และคุณสามารถสร้างระบบค้นคืนข้อมูลและตรวจสอบการอ้างอิงในแอปพลิเคชันของตนเองได้ แนวทางนี้แยกการเข้าถึงโมเดลออกจากส่วนที่ทำให้ตรวจสอบคำตอบได้ ทั้งนี้ ไม่ใช่ฟีเจอร์ถามตอบเอกสารสำเร็จรูป และหน้าเอกสาร Cline ที่อ้างอิงไม่ได้ยืนยันการเชื่อมต่อเฉพาะกับ OneMux หรือพฤติกรรมการอ้างอิงเอกสาร

ขั้นตอนถัดไปที่ทำได้จริงคือ ตั้งค่า Endpoint ด้วยค่าตามเอกสารของผู้ให้บริการ ทดสอบคำขอแบบง่าย แล้วจึงเพิ่มการค้นคืนข้อมูลและการตรวจสอบการอ้างอิงเป็นขั้นตอนแยกกัน คุณสามารถดูตัวเลือกที่มีได้ใน หน้าโมเดลของ OneMux และดูค่าใช้จ่ายบัญชีปัจจุบันได้ที่ ราคาของ OneMux โดยบทความนี้ไม่ได้เปรียบเทียบราคาหรือประสิทธิภาพ

คำถามที่พบบ่อย

Provider ที่เข้ากันได้กับ OpenAI ของ Cline อ้างอิงเอกสารโดยอัตโนมัติหรือไม่?

เอกสาร Provider ของ Cline ที่ให้มาไม่ได้ยืนยันว่ามีฟีเจอร์ดังกล่าว โดยเอกสารอธิบายการตั้งค่า Provider และความสามารถของ gateway แอปพลิเคชันของคุณต้องค้นคืนเอกสาร ส่งข้อมูลเมตาของแหล่งที่มา ขอข้อมูลอ้างอิง และตรวจสอบข้อมูลเหล่านั้นเอง

ใช้ OneMux กับ Cline ได้หรือไม่?

เอกสาร Cline SDK อธิบาย Provider แบบ openai-compatible ส่วน OneMux ให้บริการเข้าถึงโมเดลผ่าน API เดียวที่เข้ากันได้กับ OpenAI การตั้งค่าใดจะใช้งานได้หรือไม่นั้นขึ้นอยู่กับ Endpoint, Model ID, การตรวจสอบสิทธิ์ และพารามิเตอร์ของคำขอในปัจจุบัน บทความนี้ไม่ได้อ้างว่ามีการทดสอบการเชื่อมต่อแล้ว

การตั้งค่านี้ใช้กับส่วนขยาย Cline ในเอดิเตอร์หรือไม่?

แหล่งข้อมูลที่อ้างอิงเป็นเรื่อง Model Provider ของ Cline SDK ไม่ได้ระบุวิธีตั้งค่า Provider ในส่วนขยาย Cline สำหรับเอดิเตอร์หรืออินเทอร์เฟซอื่น ให้ทำตามเอกสารของผลิตภัณฑ์ Cline และเวอร์ชันที่คุณใช้โดยเฉพาะ

เอเจนต์ควรตอบอย่างไรเมื่อไม่มีแหล่งข้อมูลใดรองรับคำตอบ?

สั่งให้เอเจนต์ระบุว่าเอกสารที่ให้มาไม่ได้ยืนยันคำตอบ และตรวจสอบการอ้างอิงกับข้อความที่แอปพลิเคชันค้นคืนมา อย่าถือว่าการอ้างอิงที่โมเดลสร้างขึ้นเป็นหลักฐานว่าเนื้อหาที่อ้างถึงรองรับข้อกล่าวอ้างนั้น

แหล่งข้อมูล

• Cline SDK: Model Providers — การตั้งค่า Provider, การตั้งค่าแบบเข้ากันได้กับ OpenAI, gateway, ข้อมูลเมตาของโมเดล และข้อมูลการใช้งาน