指南OneMux

保障客户支持分流中的 OpenAI API 密钥安全

面向客户支持分流的实用安全工作流:保护 API 密钥、脱敏日志、限制权限、轮换凭据,并要求人工审批。

AI

摘要 · TL;DR

在客户支持分流中,应将 OpenAI 应用密钥保存在可信的服务器端组件中,只发送经过精简和脱敏的案例详情;记录决策而非密钥或完整对话,并要求人工审批面向客户的操作。为不同工作负载使用彼此独立且遵循最小权限原则的凭据,并记录凭据轮换或撤销流程。

核心要点

  • 不要将应用 API 密钥放入智能体生成的代码、浏览器、容器镜像、源代码管理系统或日志中。
  • 向模型发送支持案例前,先删除个人信息和机密信息;后续保留的数据也应尽量精简。
  • 让模型提供类别、优先级和回复草稿建议,而不是在未经人工审批的情况下关闭案例、退款或发送回复。
  • 按工作负载分开使用凭据,只授予所需的 API 权限,并演练密钥轮换和撤销流程。
文章目录 (7)

最安全的做法:让模型提供建议,而非采取行动

对于客户支持分流,通常应先进行分类和摘要,而不是让模型自主解决问题。模型可以建议队列、紧急程度并起草摘要,再由支持人员核实证据并决定下一步如何处理。

将 OpenAI 应用密钥保存在发起 API 请求的可信服务器端服务中。不要将密钥暴露给客户浏览器或在智能体环境中运行的代码。OpenAI 沙盒安全指南提醒,智能体生成的代码可以访问其运行环境中的文件、凭据和网络资源。指南建议将应用密钥保存在该环境之外,不要把密钥嵌入源代码、镜像或日志中。OpenAI 沙盒安全指南

以下示例仅供说明,并非经过测试的配置。请根据所用 API 客户端、隐私要求和支持系统进行调整。

最简分流流程

  1. 支持系统收到案例后,删除分流不需要的字段。
  2. 可信后端对敏感值进行脱敏,并使用服务器端凭据将剩余文本发送给 OpenAI。
  3. 模型返回建议的类别、优先级和简短摘要。
  4. 应用向获授权的支持人员展示建议,由其批准或修改后续操作。
  5. 系统记录决策和必要的审计元数据,避免保留机密信息或不必要地重复保存完整对话。

例如,后端可以传入范围明确的提示词和经过脱敏的案例。不要包含密码、支付卡数据、身份验证令牌或无关的账户历史记录。应在发送请求前应用脱敏规则,而不是等到写日志时才处理。

# Illustrative pseudocode: provide an already-redacted case to your API client.
# Keep credential loading and the API call in a trusted backend service.

def propose_triage(api_client, redacted_case):
    response = api_client.create_response(
        instructions=(
            "Suggest a support category, priority, and concise summary. "
            "Do not claim to have resolved the case or send a reply. "
            "If information is insufficient, say what is missing."
        ),
        input=redacted_case,
    )
    return response

此示意并非可直接使用的 OpenAI SDK 示例:方法名称和请求字段取决于所用的客户端和 API 端点。实施前,请查阅当前 API 参考文档,确认端点、支持的参数和响应格式。不要将模型输出视为执行支持操作的授权。

分开管理密钥和权限

在可行的情况下,为不同应用或工作负载使用独立凭据。这样可以限制出错时的影响范围,也便于撤销某个凭据而不影响无关服务。仅允许需要使用密钥的系统访问该密钥;将其保存在受管理的密钥存储服务或其他受保护的服务器端设施中,并且只注入负责发起请求的可信组件。

对于 OpenAI 指南中介绍的 Agents API 环境,应用密钥需要 api.agents.read 和 api.agents.write 权限才能管理会话,还需要 api.responses.write 权限才能进行推理。管理 Vault 则需要 api.vaults.read 和 api.vaults.write 权限。指南区分了环境密钥和应用密钥:环境密钥用于连接环境,不能授权其他 API 操作。请根据实际使用的 API 功能授予所需权限;如果分流服务不管理 Vault,就不要授予它 Vault 权限。

如果涉及智能体环境或沙盒,应将其中代码能够访问的任何内容都视为智能体生成的代码可以访问。对于第三方凭据,指南建议根据实际情况将其保存在环境之外,并使用可信代理或基于 Vault 的方案。注入环境的密钥仍可被其中运行的代码访问。

脱敏日志,同时保留审计价值

日志有助于调查分类错误、访问问题和安全事件,但不应成为支持收件箱的另一份副本。避免记录 API 密钥、授权标头、完整提示词、客户原始消息,或可能重复包含敏感详情的模型响应。

优先记录结构化且范围有限的信息,例如内部案例编号、请求时间、模型或端点标识符、脱敏状态、建议类别、人工决策和错误类别。为这些记录设置访问控制和保留期限。如果审核人员需要对话样本进行质量检查,应创建单独管理、经过精简的数据集,而不是悄然保留生产请求的完整内容。

当个人信息出现在自由文本、引用的邮件链、附件或不常见的格式中时,脱敏可能会失败。请使用真实案例测试规则,检查哪些内容会离开系统;如果服务无法可靠地删除敏感信息,应提供安全的备用处理流程。

制定轮换和撤销流程

轮换计划应明确负责人,并说明凭据的存储位置、使用该凭据的服务、谁有权替换凭据,以及如何验证变更。可按以下步骤操作:

  1. 创建一个仅具有所需权限的替代凭据。
  2. 更新可信服务的密钥存储,并通过常规变更流程部署或重新加载凭据。
  3. 执行无风险的分流请求,确认请求成功,且诊断信息不会泄露凭据。
  4. 撤销旧凭据,并确认服务不再依赖它。
  5. 记录日期、负责人、受影响的工作负载和处理结果,但绝不记录密钥值。

根据组织的风险和运营要求,设定定期审查周期。如果怀疑凭据已泄露,应立即撤销,不要等到下次计划轮换。OpenAI 的指南明确建议在需要时轮换或撤销密钥;如果怀疑密钥已泄露,应立即撤销凭据。

人工审批与故障处理

应将审批设为系统规则,而不只是提示词中的要求。在此工作流中,不应让模型直接访问可用于发送客户消息、更改账户状态或发放退款的工具。将模型建议作为提案展示,提供相关的脱敏证据,并要求获授权的人员确认任何会造成实质影响的操作。

如果 API 不可用、响应格式错误或脱敏失败,应将案例转入现有的人工处理队列。不要悄悄地把不确定的分类结果转化为自动操作。

检查清单

  • 应用密钥保存在可信后端中,而非浏览器或智能体环境中。
  • 按工作负载分开使用凭据,并将权限限制在必要范围内。
  • 推理前删除敏感字段,并将其排除在常规日志之外。
  • 分流输出仅作参考;面向客户或会更改账户的操作须经人工审批。
  • 指定负责人负责替换或撤销凭据,并已演练相关流程。
  • 发生故障或输出不确定时,转入安全的人工处理流程。

关键设计原则是让凭据和会造成实质影响的操作不受模型支配。用模型整理支持工作,尽量减少其接触的数据,并将人工审批设为最终关卡。

常见问题

可以将 OpenAI API 密钥放在智能体沙盒中吗?

不要将应用密钥放入智能体环境。OpenAI 的沙盒安全指南指出,智能体生成的代码可以访问环境中的文件、凭据和网络,并建议将应用密钥保存在环境之外。请使用可信后端发起 API 请求。

客户支持分流日志应包含哪些内容?

只保留运营和审计所需的元数据,例如内部案例编号、时间戳、脱敏状态、建议类别、人工决策和错误类别。避免记录 API 密钥、授权标头、完整客户消息和含敏感信息的模型输出。

模型应该自动发送支持回复吗?

在人工作为最终审批人的分流工作流中,不应该。将模型输出作为建议,并要求获授权的支持人员审查和批准面向客户或会更改账户的操作。

什么时候应该轮换 OpenAI API 密钥?

根据组织的风险和运营要求设定定期审查周期,并在需要时轮换凭据。如果怀疑凭据已泄露,应立即撤销,并按照替换和验证流程处理。

相关文章