在 Cline 設定 OpenAI 相容供應商,打造附來源引用的文件問答
透過 SDK 設定 Cline 的 OpenAI 相容供應商,並建立能提供可驗證來源引用的文件問答工作流程。
文章目錄
設定 Cline 進行文件問答,而不只是連接模型
如果你希望程式碼代理能回答專案文件相關問題,並指出每個答案的出處,就必須分開處理兩件事:先將 Cline 連接到模型端點,再以此連線為基礎建立檢索與來源引用工作流程。Cline 的 SDK 文件涵蓋供應商憑證、模型 ID 和 LLM gateway,但沒有說明內建的文件搜尋或引用功能。閱讀 Cline 模型供應商文件。
以下設定適用於使用 Cline SDK 的開發者。這不是 Cline 桌面擴充功能或其他介面的逐步設定指南;提供的來源未說明這些介面的設定方式。針對 SDK,Cline 文件說明可使用 openai-compatible 供應商,並設定 API 金鑰、base URL 和模型 ID。OneMux 可作為透過 OpenAI 相容 API 存取模型的實用方式之一,但能否搭配特定 Cline 工作流程使用,取決於端點和你採用的請求功能。
事前準備
設定代理之前,請先準備:
- 使用相關
@cline/agents和供應商套件的 Cline SDK 專案。Cline 表示,@cline/agents和@cline/core在內部使用其 LLM 層;實際匯入方式與建構函式格式,請參閱你所用版本的套件文件。 - 預計使用的供應商 API 金鑰,並將金鑰存放在原始碼控制以外的位置。
- 供應商的 OpenAI 相容 base URL,以及該服務接受的確切模型 ID。
- 應用程式可存取的文件,以及能找出相關段落並保留來源中繼資料的檢索方式。
如需 OneMux 帳戶與 API 設定資訊,請先參閱 OneMux 快速入門和 API 文件。使用前請確認目前的端點和模型識別碼;本文不表示任何特定模型、端點或 Cline 整合已經過測試。
設定 OpenAI 相容供應商
Cline 文件中所述的供應商設定模式如下:
const agent = new Agent({
providerId: "openai-compatible",
modelId: process.env.MODEL_ID,
apiKey: process.env.PROVIDER_API_KEY,
baseUrl: process.env.PROVIDER_BASE_URL,
})
由於提供的供應商參考文件未指定 Agent 符號及套件匯入方式,因此此處省略。請依照專案所安裝版本的文件,使用對應的匯入方式及其他必要選項。在本機環境或密鑰管理工具中設定 MODEL_ID、PROVIDER_API_KEY 和 PROVIDER_BASE_URL;這些是應用程式環境變數的範例名稱,不是 Cline 規定的變數名稱。Cline 文件列出的 OpenAI 和其他具名供應商常見變數,並未表示所有 OpenAI 相容服務都使用相同的標準變數名稱。
若要使用 OneMux 設定,請從 OneMux 的 API 文件取得目前的 base URL、金鑰和模型 ID,並填入相應欄位。不要假設每個 OpenAI 相容端點都支援所有選用參數或功能。請確認端點文件所述的請求格式、驗證方式和模型供應情況。尤其要注意,是否相容取決於供應商是否支援代理程式送出的參數。
為文件答案加入來源引用
連接模型並不會讓它自動搜尋檔案或引用來源。請在應用程式層實作這些功能:
- 為文件建立索引並設定穩定識別碼。 為每個可檢索段落儲存來源 ID、文件標題,以及頁碼、章節或其他位置資訊。請將這些中繼資料與文字一併保存。
- 先檢索,再提問。 搜尋與使用者問題相關的段落,然後將少量結果作為上下文提供給模型。搜尋機制和文件儲存庫不屬於 Cline 來源所述的供應商設定範圍。
- 要求回覆附上引用。 請模型只根據提供的段落作答,並使用你提供的 ID 和位置資訊回傳引用。例如,要求模型提供簡潔答案和引用 ID 清單。
- 在程式碼中驗證引用。 確認每個回傳的 ID 都存在於檢索結果中,並使用你自己的中繼資料呈現連結或標籤。如果沒有段落能支持答案,應讓工作流程說明文件無法證實此事,而不是呈現沒有引用的主張。
檢索步驟可採用以下提示:
Answer the question using only the supplied document passages.
For each factual claim, cite the passage ID and location in brackets.
If the passages do not support an answer, say so.
Question: {{question}}
Passages:
{{retrieved_passages_with_ids_and_locations}}
這是應用程式層的做法,不是 Cline 文件所述的引用 API。模型可能產生看似合理但不正確的引用,因此請依照檢索到的中繼資料,以及必要時的引用文字進行驗證。若答案涉及重大風險,請安排人員檢視答案及其佐證段落。
應確認的事項與疑難排解
驗證失敗: 確認金鑰已存在於程序環境中、金鑰屬於所設定的服務,且端點接受用戶端所使用的驗證方式。避免在記錄檔中輸出機密資訊。
找不到模型: 向供應商確認確切的模型 ID。Cline 參考文件使用的是供應商指定的模型 ID,並未保證每個相容服務都提供特定 ID。
端點標示為 OpenAI 相容,但請求仍失敗: 檢查 base URL,包括供應商是否要求加入 /v1 等版本路徑。接著比對你所安裝 Cline 版本使用的請求參數與回應格式,以及端點文件列出的支援項目。提供的 Cline 來源並未列出第三方端點通用的支援參數清單。
答案缺乏可靠來源: 確認檢索結果包含相關段落、每個段落都有穩定的識別碼和位置資訊,且應用程式會驗證回傳的引用。只設定供應商無法修正遺漏或錯誤的檢索中繼資料。
Cline 的模型供應商層也提供 gateway 和模型中繼資料,包括 context window、最大 token 數、定價和功能等欄位。來源指出,token 使用量和成本可能會出現在代理結果和使用事件中,但未表示每個相容供應商都會提供所有中繼資料欄位。如需 gateway 的文件說明,請參閱 Cline 供應商參考文件。
這種設定適合你嗎?
如果你的程式碼代理需要查詢專案文件,而且你能在自己的應用程式中實作檢索和引用檢查,這種做法就適合。它能將模型存取與確保答案可稽核的功能分開處理。這不是開箱即用的文件問答功能,而引用的 Cline 頁面也沒有驗證 OneMux 專屬整合或文件引用行為。
建議的下一步是使用供應商文件所列的值設定端點,先測試簡單請求,再將檢索與引用驗證設為獨立步驟。你可以在 OneMux 模型頁面查看可用選項,並參閱 OneMux 定價了解目前帳戶費用;本教學不比較價格或效能。
常見問題
Cline 的 OpenAI 相容供應商會自動引用文件嗎?
提供的 Cline 供應商文件並未說明這項功能。文件描述的是供應商設定和 gateway 功能。你必須在應用程式中自行檢索文件、提供來源中繼資料、要求模型回傳引用,並驗證引用是否正確。
可以在 Cline 中使用 OneMux 嗎?
Cline SDK 文件說明了 openai-compatible 供應商。OneMux 則透過 OpenAI 相容 API 提供模型存取。特定設定能否運作,取決於目前的端點、模型 ID、驗證方式和請求參數;本文並未宣稱此整合已經過測試。
這是 Cline 編輯器擴充功能的設定方式嗎?
引用的來源介紹的是 Cline SDK 模型供應商,並未說明如何在 Cline 編輯器擴充功能或其他介面中設定供應商。請依照你所使用的 Cline 產品和版本查閱相關文件。
如果沒有來源能支持答案,代理應如何回應?
請指示代理說明提供的文件無法證實答案,並依照應用程式檢索到的段落驗證引用。不要將模型生成的引用視為該來源確實支持主張的證據。
來源
- Cline SDK:模型供應商 — 供應商設定、OpenAI 相容設定、gateway、模型中繼資料和使用資訊。
常見問題
Cline 的 OpenAI 相容供應商會自動引用文件嗎?
不會。提供的 Cline 供應商文件說明的是模型存取和 gateway 功能,並未提及內建文件檢索或引用。請在應用程式中實作檢索、來源中繼資料和引用驗證。
可以在 Cline 中使用 OneMux 嗎?
Cline 文件說明了 openai-compatible 供應商,而 OneMux 提供 OpenAI 相容 API。特定設定能否運作,取決於目前的端點、模型 ID、驗證方式和請求參數支援情況;本文並未宣稱此整合已經過測試。
這是 Cline 編輯器擴充功能的設定方式嗎?
不是。引用的來源說明的是 Cline SDK 模型供應商,並未提供編輯器擴充功能的設定方式。
如果沒有來源能支持答案,代理應如何回應?
請讓工作流程說明提供的文件無法證實答案,並依照檢索到的段落和中繼資料驗證每一則引用。
相關文章
指南
使用人工核准與 OpenAI 相容 API 建立 n8n 文件問答工作流程
實用的 n8n 設計指南:打造具備來源標註、選擇性人工核准功能,並視相容情況連接 OneMux OpenAI 風格模型端點的文件問答流程。
指南
如何設定 Cline 搭配 OpenAI 相容提供者,以驗證儲存庫變更
設定 Cline 搭配 OpenAI 相容提供者,將其連接至程式碼工作流程,並透過測試驗證儲存庫變更。內容涵蓋先決條件、TypeScript 設定、限制與疑難排解。
指南
建立具備人工核准與測試驗證的 n8n 程式碼變更工作流程
設計 n8n 工作流程,提出程式碼儲存庫變更、請人工核准寫入,並以測試驗證產生的提交。
指南
使用 OpenAI-Compatible Provider 的 Cline:需人工核准的支援分流
設定 Cline 搭配 OpenAI-compatible provider 與 OneMux,用於客戶支援分流,同時確保所有面向客戶的操作都必須經過人工核准。