指南OneMux

保護客服分流流程中的 OpenAI API 金鑰

實用的客服分流安全流程:保護 API 金鑰、遮蔽記錄、限制權限、輪替憑證,並要求人工核准。

AI

摘要 · TL;DR

進行客服分流時,應將 OpenAI 應用程式金鑰保存在可信任的伺服器端元件,只傳送經精簡與遮蔽的案件資訊,記錄決策而非機密或完整對話,並要求人工核准面向客戶的操作。不同工作負載應使用各自獨立且遵循最小權限原則的憑證,並制定憑證輪替或撤銷流程。

重點

  • 不要將應用程式 API 金鑰放入代理程式產生的程式碼、瀏覽器、容器映像、原始碼控制系統或記錄中。
  • 傳送客服案件給模型前,先遮蔽個人資訊與機密;後續也應盡量減少保留的資料。
  • 讓模型提出類別、優先順序和草稿,不要讓它未經人工核准就結案、退款或發送回覆。
  • 依工作負載區分憑證,只授予必要的 API 權限,並預先演練金鑰輪替與撤銷流程。
文章目錄 (7)

最安全的做法:讓模型提供建議,而非採取行動

客服分流通常應先進行分類與摘要,而不是由模型自主處理案件。模型可以建議案件佇列、緊急程度與摘要草稿,再由客服人員核對依據並決定後續處理方式。

請將 OpenAI 應用程式金鑰保存在可信任的伺服器端服務中,由該服務發出 API 請求。不要讓客戶的瀏覽器或代理程式環境中的程式碼接觸金鑰。OpenAI 沙箱安全指南提醒,代理程式產生的程式碼可能存取其執行環境可用的檔案、憑證與網路資源。指南建議將應用程式金鑰保存在該環境之外,且不要將金鑰嵌入原始碼、映像或記錄中。OpenAI 沙箱安全指南

以下範例僅供說明,並非經測試的設定。請依所用的 API 用戶端、隱私要求與客服系統調整。

精簡的分流流程

  1. 客服系統收到案件後,移除分流不需要的欄位。
  2. 可信任的後端遮蔽敏感值,並使用伺服器端憑證將剩餘文字傳送給 OpenAI。
  3. 模型回傳建議的類別、優先順序與簡短摘要。
  4. 應用程式向獲授權的客服人員顯示建議,由人員核准或修改後續處理方式。
  5. 系統記錄決策與必要的稽核中繼資料,不保留機密,也不在沒有必要時重複保存完整對話。

例如,後端可以傳送刻意限縮的提示詞與已遮蔽的案件內容。避免納入密碼、支付卡資料、驗證權杖或無關的帳戶歷史。遮蔽規則應在發出請求前套用,而不應只在事後寫入記錄時才處理。

# Illustrative pseudocode: provide an already-redacted case to your API client.
# Keep credential loading and the API call in a trusted backend service.

def propose_triage(api_client, redacted_case):
    response = api_client.create_response(
        instructions=(
            "Suggest a support category, priority, and concise summary. "
            "Do not claim to have resolved the case or send a reply. "
            "If information is insufficient, say what is missing."
        ),
        input=redacted_case,
    )
    return response

此範例並非可直接套用的 OpenAI SDK 範例:方法名稱與請求欄位會因使用的用戶端和 API 端點而異。實作前請查閱最新的 API 參考文件,確認端點、支援的參數與回應格式。不要把模型輸出視為執行客服操作的授權。

分開管理金鑰與權限

在可行的情況下,為不同應用程式或工作負載使用不同憑證。這能限制出錯時的影響範圍,也讓你可以撤銷單一憑證,而不影響其他無關服務。限制只有需要金鑰的系統才能存取;將金鑰保存在受管理的密鑰儲存庫或同等安全的伺服器端設施中,並僅注入負責發出請求的可信任元件。

針對 OpenAI 指南所述的 Agents API 環境,應用程式金鑰需要 api.agents.read 和 api.agents.write 權限才能處理工作階段,進行推論則需要 api.responses.write。管理 Vault 需要 api.vaults.read 和 api.vaults.write。指南區分了環境金鑰與應用程式金鑰:環境金鑰可用於連接環境,不能授權其他 API 操作。請依實際使用的 API 功能授予所需權限;不管理 Vault 的分流服務不應取得 Vault 權限。

如果涉及代理程式環境或沙箱,請將該環境中的程式碼可存取的任何內容都視為代理程式產生的程式碼也能存取。對於第三方憑證,指南建議將其保存在環境之外,並視情況使用可信任的代理伺服器或以 Vault 為基礎的方式。注入環境的機密仍可被在該環境中執行的程式碼存取。

遮蔽記錄,同時保留稽核價值

記錄有助於調查分類錯誤、存取問題與事故,但不應成為客服收件匣的另一份副本。避免記錄 API 金鑰、授權標頭、完整提示詞、客戶原始訊息,或可能重複包含敏感資訊的模型回應。

建議只保留精簡的結構化記錄,例如內部案件參照編號、請求時間、模型或端點識別碼、遮蔽狀態、建議類別、人工決策與錯誤類別。請為這些記錄設定存取控制與保留期限。如果審查人員需要對話範例進行品質檢查,請建立另行管理且經過精簡的資料集,不要在未告知的情況下保留正式環境的請求內容。

個人資訊可能出現在自由文字、引用的電子郵件串、附件或非典型格式中,因此遮蔽可能失敗。請使用符合實際情況的案件測試規則、檢查哪些資料會離開系統,並在服務無法確定已移除敏感資訊時,提供安全的備援流程。

制定輪替與撤銷流程

輪替計畫應指定負責人,並說明憑證的存放位置、使用該憑證的服務、能替換憑證的人員,以及如何確認變更成功。實用的流程如下:

  1. 建立僅具備必要權限的替代憑證。
  2. 更新可信任服務的密鑰儲存庫,並依照平常的變更流程部署或重新載入。
  3. 確認一般的分流請求能成功完成,且診斷資訊不會洩露憑證。
  4. 撤銷舊憑證,並確認服務不再依賴該憑證。
  5. 記錄日期、負責人、受影響的工作負載與結果,但絕不記錄機密值。

請依組織的風險與營運需求訂定定期審查頻率。若懷疑憑證已外洩,應立即撤銷,不要等到下次預定輪替。OpenAI 指南明確建議在必要時輪替或撤銷金鑰,並在懷疑憑證外洩時立即撤銷。

人工核准與故障處理

應將核准設為系統規則,而不只是提示詞中的指示。在此工作流程中,模型不應直接存取可發送客戶訊息、變更帳戶狀態或退款的工具。請將模型建議以提案形式呈現,提供相關且已遮蔽的依據,並要求獲授權的人員確認任何會造成重大影響的操作。

如果 API 無法使用、回應格式錯誤,或遮蔽失敗,請將案件送回既有的人工處理佇列。不要把不確定的分類悄悄轉成自動操作。

檢查清單

  • 應用程式金鑰保存在可信任的後端,不放在瀏覽器或代理程式環境中。
  • 依工作負載區分憑證,並限制為所需權限。
  • 推論前移除敏感欄位,且不在一般記錄中保留這些資料。
  • 分流輸出僅供參考;面向客戶或會變更帳戶的操作須經人工核准。
  • 指定負責人可替換或撤銷憑證,且已演練相關流程。
  • 發生故障或輸出不確定時,案件會回到安全的人工處理流程。

關鍵的設計決策,是讓憑證與會造成重大影響的操作不在模型可及範圍內。運用模型整理客服工作、盡量減少它能看到的資料,並以人工核准作為最後一道關卡。

常見問題

可以把 OpenAI API 金鑰放在代理程式沙箱中嗎?

避免將應用程式金鑰放進代理程式環境。OpenAI 沙箱安全指南指出,代理程式產生的程式碼可能存取環境中的檔案、憑證與網路,並建議將應用程式金鑰保存在該環境之外。請使用可信任的後端發出 API 請求。

客服分流記錄應包含哪些內容?

只保留營運與稽核所需的中繼資料,例如內部案件參照編號、時間戳記、遮蔽狀態、建議類別、人工決策與錯誤類別。避免記錄 API 金鑰、授權標頭、完整客戶訊息,以及含有敏感資訊的模型輸出。

模型應該自動發送客服回覆嗎?

在人工作核准的分流流程中,不應如此。模型輸出應作為建議,並要求獲授權的客服人員審核及核准面向客戶或會變更帳戶的操作。

何時應輪替 OpenAI API 金鑰?

請依風險與營運需求設定定期審查頻率,並在必要時輪替憑證。若懷疑憑證外洩,請立即撤銷,並依照替換與驗證流程處理。

相關文章