GuidesOneMux

Bảo mật khóa API OpenAI khi phân loại yêu cầu hỗ trợ khách hàng

Quy trình bảo mật thực tế khi dùng OpenAI để phân loại yêu cầu hỗ trợ khách hàng: bảo vệ khóa API, lược bỏ dữ liệu nhạy cảm khỏi nhật ký, giới hạn quyền, luân chuyển thông tin xác thực và yêu cầu con người phê duyệt.

AI

Tóm tắt · TL;DR

Khi phân loại yêu cầu hỗ trợ khách hàng, hãy giữ khóa ứng dụng OpenAI trong một thành phần đáng tin cậy ở phía máy chủ, chỉ gửi thông tin vụ việc đã được tối giản và lược bỏ dữ liệu nhạy cảm, đồng thời ghi lại quyết định thay vì bí mật hoặc toàn bộ cuộc hội thoại. Yêu cầu con người phê duyệt các hành động hướng tới khách hàng. Dùng thông tin xác thực riêng, có quyền tối thiểu cho từng khối lượng công việc và lập tài liệu hướng dẫn luân chuyển hoặc thu hồi chúng.

Điểm chính

  • Không đưa khóa API ứng dụng vào mã do tác nhân tạo, trình duyệt, ảnh container, hệ thống quản lý mã nguồn hoặc nhật ký.
  • Lược bỏ thông tin cá nhân và bí mật trước khi gửi vụ việc hỗ trợ cho mô hình; đồng thời tối giản dữ liệu lưu lại sau đó.
  • Để mô hình đề xuất danh mục, mức độ ưu tiên và bản nháp — không để mô hình tự đóng vụ việc, hoàn tiền hoặc gửi phản hồi khi chưa có người phê duyệt.
  • Tách thông tin xác thực theo khối lượng công việc, chỉ cấp quyền API cần thiết và diễn tập quy trình luân chuyển, thu hồi khóa.
Mục lục (7)

Mô hình an toàn nhất: để mô hình tư vấn, không tự hành động

Với việc phân loại yêu cầu hỗ trợ khách hàng, bước đầu hữu ích thường là phân loại và tóm tắt — chứ không phải tự giải quyết. Mô hình có thể đề xuất hàng đợi, mức độ khẩn cấp và bản tóm tắt nháp; nhân viên hỗ trợ sẽ kiểm tra bằng chứng rồi quyết định bước tiếp theo.

Hãy giữ khóa ứng dụng OpenAI trong một dịch vụ đáng tin cậy ở phía máy chủ, nơi thực hiện yêu cầu API. Không để lộ khóa cho trình duyệt của khách hàng hoặc mã chạy trong môi trường tác nhân. Hướng dẫn bảo mật sandbox của OpenAI cảnh báo rằng mã do tác nhân tạo có thể truy cập các tệp, thông tin xác thực và tài nguyên mạng sẵn có trong môi trường đó. Hướng dẫn khuyến nghị giữ khóa ứng dụng bên ngoài môi trường và không nhúng khóa vào mã nguồn, ảnh hoặc nhật ký. Hướng dẫn bảo mật sandbox của OpenAI

Các ví dụ dưới đây chỉ nhằm minh họa, không phải cấu hình đã được kiểm thử. Hãy điều chỉnh cho phù hợp với API client, yêu cầu về quyền riêng tư và hệ thống hỗ trợ của bạn.

Quy trình phân loại yêu cầu tối giản

  1. Hệ thống hỗ trợ nhận vụ việc và loại bỏ các trường không cần thiết cho việc phân loại.
  2. Backend đáng tin cậy lược bỏ dữ liệu nhạy cảm rồi gửi phần văn bản còn lại đến OpenAI bằng thông tin xác thực ở phía máy chủ.
  3. Mô hình trả về danh mục, mức độ ưu tiên và bản tóm tắt ngắn được đề xuất.
  4. Ứng dụng hiển thị đề xuất cho nhân viên hỗ trợ được ủy quyền. Nhân viên phê duyệt hoặc chỉnh sửa hành động tiếp theo.
  5. Hệ thống ghi lại quyết định và siêu dữ liệu kiểm toán cần thiết, không lưu bí mật hoặc sao chép toàn bộ cuộc hội thoại nếu không cần.

Ví dụ, backend có thể gửi một prompt được giới hạn có chủ đích cùng nội dung vụ việc đã lược bỏ dữ liệu nhạy cảm. Tránh đưa vào mật khẩu, dữ liệu thẻ thanh toán, mã thông báo xác thực hoặc lịch sử tài khoản không liên quan. Quy tắc lược bỏ dữ liệu cần được áp dụng trước khi gửi yêu cầu, chứ không chỉ khi ghi nhật ký sau đó.

# Illustrative pseudocode: provide an already-redacted case to your API client.
# Keep credential loading and the API call in a trusted backend service.

def propose_triage(api_client, redacted_case):
    response = api_client.create_response(
        instructions=(
            "Suggest a support category, priority, and concise summary. "
            "Do not claim to have resolved the case or send a reply. "
            "If information is insufficient, say what is missing."
        ),
        input=redacted_case,
    )
    return response

Phác thảo này không phải ví dụ OpenAI SDK có thể dùng ngay: tên phương thức và trường yêu cầu tùy thuộc vào client và endpoint API bạn sử dụng. Trước khi triển khai, hãy kiểm tra tài liệu tham khảo API hiện hành về endpoint, tham số được hỗ trợ và định dạng phản hồi. Không xem đầu ra của mô hình là sự cho phép thực hiện hành động hỗ trợ.

Tách biệt khóa và quyền hạn

Nếu khả thi, hãy dùng thông tin xác thực riêng cho từng ứng dụng hoặc khối lượng công việc. Cách này giới hạn phạm vi ảnh hưởng khi xảy ra sai sót và giúp thu hồi một thông tin xác thực mà không làm gián đoạn các dịch vụ không liên quan. Hạn chế quyền truy cập vào hệ thống cần khóa; lưu khóa trong kho bí mật được quản lý hoặc cơ chế tương đương được bảo vệ ở phía máy chủ, và chỉ đưa khóa vào thành phần đáng tin cậy thực hiện yêu cầu.

Đối với môi trường Agents API được mô tả trong hướng dẫn của OpenAI, khóa ứng dụng cần có api.agents.read và api.agents.write cho các phiên, cùng api.responses.write để suy luận. Việc quản lý vault cần có api.vaults.read và api.vaults.write. Hướng dẫn phân biệt khóa môi trường với khóa ứng dụng: khóa môi trường cho phép kết nối các môi trường và không thể ủy quyền cho những thao tác API khác. Hãy cấp các quyền cần thiết cho những tính năng API bạn thực sự dùng; đừng cấp quyền vault cho dịch vụ phân loại yêu cầu không quản lý vault.

Nếu có môi trường tác nhân hoặc sandbox, hãy xem mọi thứ mà mã trong đó truy cập được là có thể bị mã do tác nhân tạo truy cập. Với thông tin xác thực của bên thứ ba, hướng dẫn khuyến nghị giữ chúng bên ngoài môi trường và sử dụng proxy đáng tin cậy hoặc phương thức dựa trên vault nếu phù hợp. Bí mật được đưa vào môi trường vẫn có thể bị mã chạy trong đó truy cập.

Lược bỏ dữ liệu nhạy cảm khỏi nhật ký mà vẫn giữ giá trị kiểm toán

Nhật ký giúp điều tra việc phân loại sai, sự cố truy cập và sự cố bảo mật, nhưng không nên trở thành bản sao thứ hai của hộp thư hỗ trợ. Tránh ghi lại khóa API, tiêu đề ủy quyền, prompt đầy đủ, tin nhắn thô của khách hàng hoặc phản hồi của mô hình có thể lặp lại thông tin nhạy cảm.

Ưu tiên các bản ghi có cấu trúc và giới hạn, chẳng hạn như mã tham chiếu vụ việc nội bộ, thời điểm yêu cầu, mã định danh mô hình hoặc endpoint, trạng thái lược bỏ dữ liệu, danh mục được đề xuất, quyết định của con người và loại lỗi. Áp dụng kiểm soát truy cập và thời hạn lưu giữ cho các bản ghi này. Nếu người đánh giá cần hội thoại mẫu để kiểm tra chất lượng, hãy tạo một bộ dữ liệu riêng được quản lý và tối giản thay vì âm thầm lưu giữ các payload sản xuất.

Việc lược bỏ dữ liệu có thể không thành công khi thông tin cá nhân xuất hiện trong văn bản tự do, chuỗi email được trích dẫn, tệp đính kèm hoặc định dạng bất thường. Hãy kiểm thử quy tắc với các vụ việc thực tế, kiểm tra dữ liệu rời khỏi hệ thống và đưa ra phương án dự phòng an toàn khi dịch vụ không thể loại bỏ thông tin nhạy cảm một cách đáng tin cậy.

Xây dựng quy trình luân chuyển và thu hồi

Kế hoạch luân chuyển cần nêu rõ người phụ trách, nơi lưu thông tin xác thực, dịch vụ nào sử dụng thông tin đó, ai có thể thay thế và cách xác minh thay đổi. Quy trình thực tế có thể gồm:

  1. Tạo thông tin xác thực thay thế chỉ có các quyền cần thiết.
  2. Cập nhật kho bí mật của dịch vụ đáng tin cậy và triển khai hoặc tải lại theo quy trình thay đổi thông thường.
  3. Xác minh rằng một yêu cầu phân loại vô hại được xử lý thành công mà không để lộ thông tin xác thực trong dữ liệu chẩn đoán.
  4. Thu hồi thông tin xác thực cũ và xác nhận dịch vụ không còn phụ thuộc vào nó.
  5. Ghi lại ngày, người phụ trách, khối lượng công việc bị ảnh hưởng và kết quả — tuyệt đối không ghi giá trị bí mật.

Thiết lập lịch rà soát định kỳ phù hợp với mức độ rủi ro và yêu cầu vận hành của tổ chức. Thu hồi khóa ngay nếu nghi ngờ bị lộ; không chờ đến kỳ luân chuyển tiếp theo. Hướng dẫn của OpenAI nêu rõ cần luân chuyển hoặc thu hồi khóa khi cần thiết, đồng thời thu hồi thông tin xác thực ngay lập tức nếu nghi ngờ bị lộ.

Phê duyệt của con người và xử lý lỗi

Hãy biến việc phê duyệt thành quy tắc của hệ thống, không chỉ là chỉ dẫn trong prompt. Trong quy trình này, mô hình không nên có quyền truy cập trực tiếp vào các công cụ gửi tin nhắn cho khách hàng, thay đổi trạng thái tài khoản hoặc hoàn tiền. Trình bày đề xuất của mô hình như một phương án, cho thấy bằng chứng liên quan đã được lược bỏ dữ liệu nhạy cảm và yêu cầu người có thẩm quyền xác nhận mọi hành động có ảnh hưởng đáng kể.

Nếu API không khả dụng, phản hồi sai định dạng hoặc việc lược bỏ dữ liệu thất bại, hãy chuyển vụ việc vào hàng đợi xử lý thủ công hiện có. Không âm thầm biến một kết quả phân loại thiếu chắc chắn thành hành động tự động.

Danh sách kiểm tra

  • Khóa ứng dụng được giữ trong backend đáng tin cậy, không nằm trong trình duyệt hoặc môi trường tác nhân.
  • Thông tin xác thực được tách theo khối lượng công việc và giới hạn ở các quyền cần thiết.
  • Trường nhạy cảm được loại bỏ trước khi suy luận và không xuất hiện trong nhật ký thông thường.
  • Đầu ra phân loại chỉ mang tính tham khảo; con người phê duyệt các hành động hướng tới khách hàng hoặc làm thay đổi tài khoản.
  • Có người phụ trách được chỉ định để thay thế hoặc thu hồi thông tin xác thực, và quy trình đã được diễn tập.
  • Lỗi và đầu ra thiếu chắc chắn được chuyển về quy trình thủ công an toàn.

Quyết định thiết kế then chốt là giữ thông tin xác thực và các hành động có ảnh hưởng đáng kể ngoài tầm với của mô hình. Hãy dùng mô hình để sắp xếp công việc hỗ trợ, tối giản dữ liệu mô hình được tiếp cận và đặt bước phê duyệt của con người ở chốt cuối.

FAQ

Tôi có thể đặt khóa API OpenAI trong sandbox của tác nhân không?

Không nên đặt khóa ứng dụng trong môi trường tác nhân. Hướng dẫn bảo mật sandbox của OpenAI cho biết mã do tác nhân tạo có thể truy cập tệp, thông tin xác thực và mạng của môi trường, đồng thời khuyến nghị giữ khóa ứng dụng bên ngoài môi trường đó. Hãy dùng backend đáng tin cậy để thực hiện yêu cầu API.

Nhật ký phân loại yêu cầu hỗ trợ khách hàng nên chứa những gì?

Chỉ lưu siêu dữ liệu cần thiết cho vận hành và kiểm toán, chẳng hạn như mã tham chiếu vụ việc nội bộ, dấu thời gian, trạng thái lược bỏ dữ liệu, danh mục được đề xuất, quyết định của con người và loại lỗi. Tránh ghi khóa API, tiêu đề ủy quyền, tin nhắn đầy đủ của khách hàng và đầu ra nhạy cảm của mô hình.

Mô hình có nên tự động gửi phản hồi hỗ trợ không?

Không, nếu quy trình phân loại yêu cầu cần con người phê duyệt. Hãy dùng đầu ra của mô hình như một đề xuất và yêu cầu nhân viên hỗ trợ được ủy quyền xem xét, phê duyệt mọi hành động hướng tới khách hàng hoặc làm thay đổi tài khoản.

Khi nào nên luân chuyển khóa API OpenAI?

Thiết lập lịch rà soát định kỳ phù hợp với mức độ rủi ro và yêu cầu vận hành, đồng thời luân chuyển thông tin xác thực khi cần. Nếu nghi ngờ bị lộ, hãy thu hồi thông tin xác thực ngay lập tức và thực hiện quy trình thay thế, xác minh.

Bài viết liên quan