GuidesOneMux

Как защитить ключи OpenAI API при сортировке обращений в поддержку

Практическая схема безопасного использования OpenAI для сортировки обращений: защита ключей API, редактирование журналов, ограничение прав, ротация учетных данных и обязательное одобрение действий человеком.

AI

Кратко · TL;DR

Для сортировки обращений в поддержку храните ключ приложения OpenAI в доверенном серверном компоненте, передавайте модели только сокращенные и очищенные от чувствительных данных сведения о случае, а в журналах фиксируйте решения, а не секреты или переписку целиком. Требуйте, чтобы действия, затрагивающие клиентов, одобрял человек. Используйте отдельные учетные данные с минимальными правами для разных задач и заранее опишите порядок их замены или отзыва.

Главное

  • Не помещайте ключ API приложения в код, созданный агентом, браузер, образ контейнера, систему контроля версий или журналы.
  • Удаляйте личные и секретные сведения перед отправкой обращения модели и ограничивайте данные, которые сохраняете после обработки.
  • Пусть модель предлагает категорию, приоритет и черновик, но не закрывает обращения, не оформляет возвраты и не отправляет ответы без одобрения человека.
  • Разделяйте учетные данные по задачам, предоставляйте только необходимые разрешения и отрабатывайте процедуры ротации и отзыва ключей.
В этой статье (7)

Самый безопасный подход: модель советует, но не действует

При сортировке обращений в поддержку обычно полезнее сначала классифицировать и обобщить их, а не поручать модели автономно решать проблему. Модель может предложить очередь, срочность и краткое описание, после чего сотрудник поддержки проверит факты и решит, что делать дальше.

Храните ключ приложения OpenAI в доверенном серверном сервисе, который отправляет запрос к API. Не раскрывайте его в браузере клиента и не передавайте коду, выполняемому в среде агента. В руководстве OpenAI по безопасности песочниц предупреждается, что созданный агентом код может получить доступ к файлам, учетным данным и сетевым ресурсам, доступным в его среде. В руководстве рекомендуется хранить ключ приложения вне этой среды и не встраивать ключи в исходный код, образы или журналы. Рекомендации OpenAI по безопасности песочниц

Примеры ниже служат иллюстрацией и не являются проверенной конфигурацией. Адаптируйте их к используемому API-клиенту, требованиям к конфиденциальности и системе поддержки.

Минимальный процесс сортировки обращений

  1. Система поддержки получает обращение и удаляет поля, не нужные для сортировки.
  2. Доверенная серверная часть очищает конфиденциальные данные и отправляет оставшийся текст в OpenAI, используя серверные учетные данные.
  3. Модель возвращает предлагаемую категорию, приоритет и краткое описание.
  4. Приложение показывает предложение уполномоченному сотруднику поддержки. Сотрудник одобряет или корректирует следующее действие.
  5. Система фиксирует решение и необходимые данные для аудита, не сохраняя секреты и не дублируя без необходимости всю переписку.

Например, серверная часть может передать намеренно узкий промпт и очищенное от чувствительных данных обращение. Не включайте пароли, данные платежных карт, токены аутентификации и не относящуюся к делу историю учетной записи. Правила очистки данных следует применять до отправки запроса, а не только при последующей записи журналов.

# Illustrative pseudocode: provide an already-redacted case to your API client.
# Keep credential loading and the API call in a trusted backend service.

def propose_triage(api_client, redacted_case):
    response = api_client.create_response(
        instructions=(
            "Suggest a support category, priority, and concise summary. "
            "Do not claim to have resolved the case or send a reply. "
            "If information is insufficient, say what is missing."
        ),
        input=redacted_case,
    )
    return response

Этот пример не является готовым фрагментом для OpenAI SDK: названия методов и поля запроса зависят от используемого клиента и конечной точки API. Перед реализацией сверяйтесь с актуальной документацией API по конечной точке, поддерживаемым параметрам и формату ответа. Не воспринимайте вывод модели как разрешение выполнить действие в рамках поддержки.

Разделяйте ключи и разрешения

По возможности используйте отдельные учетные данные для разных приложений и задач. Это ограничивает последствия ошибки и упрощает отзыв одного ключа без нарушения работы не связанных с ним сервисов. Ограничьте доступ к системе, которой нужен ключ: храните его в управляемом хранилище секретов или в аналогичном защищенном серверном средстве и передавайте только доверенному компоненту, который отправляет запрос.

Для описанной в рекомендациях OpenAI среды Agents API ключу приложения нужны разрешения api.agents.read и api.agents.write для сессий, а для инференса — api.responses.write. Для управления Vault требуются api.vaults.read и api.vaults.write. В руководстве средовой ключ отличается от ключа приложения: он позволяет подключать среды, но не дает права выполнять другие действия через API. Предоставляйте разрешения, необходимые для используемых вами функций API; не выдавайте сервису сортировки разрешения для Vault, если он ими не управляет.

Если используется среда агента или песочница, считайте, что все доступное ее коду может стать доступным и коду, созданному агентом. Для учетных данных сторонних сервисов руководство рекомендует хранить их вне среды и, в зависимости от ситуации, использовать доверенный прокси или подход на основе Vault. Секрет, внедренный в среду, остается доступен выполняемому там коду.

Редактируйте журналы, сохраняя их ценность для аудита

Журналы помогают расследовать ошибки классификации, проблемы с доступом и инциденты, но не должны становиться второй копией очереди поддержки. Не записывайте в них ключи API, заголовки авторизации, полные промпты, исходные сообщения клиентов или ответы модели, в которых могут повторяться конфиденциальные сведения.

Предпочтительны структурированные записи с ограниченным набором данных: внутренняя ссылка на обращение, время запроса, идентификатор модели или конечной точки, статус очистки данных, предлагаемая категория, решение сотрудника и класс ошибки. Настройте контроль доступа и сроки хранения таких записей. Если проверяющим нужны примеры переписки для контроля качества, создайте отдельный регулируемый набор данных, сведя сохраняемую информацию к минимуму, а не храните незаметно производственные запросы и ответы.

Очистка может не сработать, если личные данные встречаются в произвольном тексте, цитируемых цепочках писем, вложениях или нестандартных форматах. Проверяйте правила на реалистичных обращениях, выясняйте, какие данные покидают вашу систему, и предусмотрите безопасный резервный процесс на случай, если сервис не может надежно удалить чувствительную информацию.

Определите порядок ротации и отзыва ключей

В плане ротации укажите ответственного, место хранения учетных данных, сервисы, которые их используют, тех, кто может их заменить, и порядок проверки изменений. Практический порядок действий:

  1. Создайте заменяющие учетные данные, предоставив только необходимые разрешения.
  2. Обновите секрет в хранилище доверенного сервиса и разверните его или перезагрузите согласно обычному процессу внесения изменений.
  3. Убедитесь, что безопасный тестовый запрос на сортировку обращений выполняется успешно и учетные данные не раскрываются в диагностических данных.
  4. Отзовите старые учетные данные и проверьте, что сервис больше от них не зависит.
  5. Зафиксируйте дату, ответственного, затронутую задачу и результат — но не значение секрета.

Установите регулярный график проверок с учетом рисков и операционных требований вашей организации. Если есть подозрение на утечку, незамедлительно отзовите ключ, не дожидаясь плановой ротации. В рекомендациях OpenAI прямо говорится о необходимости менять или отзывать ключи при необходимости и немедленно отзывать учетные данные при подозрении на утечку.

Одобрение действий человеком и обработка сбоев

Сделайте одобрение системным правилом, а не просто инструкцией в промпте. В этом процессе у модели не должно быть прямого доступа к инструментам, которые отправляют сообщения клиентам, меняют статус учетной записи или оформляют возвраты. Показывайте ее результат как предложение, предоставляйте относящиеся к делу очищенные от чувствительных данных сведения и требуйте, чтобы уполномоченный сотрудник подтвердил любое значимое действие.

Если API недоступен, ответ имеет неверный формат или очистка данных не сработала, направляйте обращение в существующую очередь для ручной обработки. Не превращайте неопределенную классификацию в автоматическое действие без уведомления.

Контрольный список

  • Ключ приложения хранится в доверенной серверной части, а не в браузере или среде агента.
  • Учетные данные разделены по задачам и ограничены необходимыми разрешениями.
  • Чувствительные поля удаляются до инференса и не попадают в обычные журналы.
  • Результат сортировки носит рекомендательный характер; действия для клиентов и изменения учетных записей одобряет человек.
  • Назначен ответственный, который может заменить или отозвать учетные данные, а процедура отработана заранее.
  • При сбоях и неопределенных результатах используется безопасный ручной процесс.

Главное при проектировании — не допускать, чтобы модель получала доступ к учетным данным и могла выполнять значимые действия. Используйте модель для упорядочивания работы поддержки, минимизируйте объем передаваемых ей данных и оставьте окончательное одобрение за человеком.

Вопросы

Можно ли поместить ключ OpenAI API в песочницу агента?

Не помещайте ключ приложения в среду агента. В рекомендациях OpenAI по безопасности песочниц говорится, что созданный агентом код может получить доступ к файлам, учетным данным и сети среды; там же рекомендуется хранить ключ приложения вне нее. Отправляйте запросы к API через доверенную серверную часть.

Какие данные следует включать в журналы сортировки обращений в поддержку?

Сохраняйте только метаданные, необходимые для работы и аудита, например внутреннюю ссылку на обращение, временную метку, статус очистки данных, предлагаемую категорию, решение сотрудника и класс ошибки. Не записывайте ключи API, заголовки авторизации, полные сообщения клиентов и вывод модели с конфиденциальными данными.

Должна ли модель автоматически отправлять ответ клиенту?

Нет, если процесс сортировки предусматривает одобрение человеком. Используйте вывод модели как рекомендацию и требуйте, чтобы уполномоченный сотрудник поддержки проверил и одобрил действия, затрагивающие клиента или его учетную запись.

Когда следует менять ключ OpenAI API?

Установите регулярный график проверок с учетом рисков и операционных требований и меняйте учетные данные при необходимости. При подозрении на утечку немедленно отзовите их и выполните предусмотренную процедуру замены и проверки.

Похожие статьи

Guides

Как диагностировать сбои OpenAI API, не раскрывая учетные данные

Практическое руководство по диагностике сбоев OpenAI API: полезные сигналы, защита API-ключей, ограничение разрешений и планирование ротации учетных данных.

阅读全文 →

Guides

Диагностика ошибок OpenAI API при сортировке обращений с подтверждением специалиста

Практическое руководство по обработке ошибок аутентификации, ограничений частоты, тайм-аутов и некорректных ответов модели, которое поможет не допустить передачи клиентам результатов неудачной сортировки обращений.

阅读全文 →

Guides

Как защитить ключи OpenAI API в системе вопросов и ответов по документам

Практический подход к защите ключей OpenAI API в приложении для вопросов и ответов по документам: разделяйте учетные данные, ограничивайте права доступа, маскируйте данные в журналах и безопасно меняйте ключи, сохраняя ссылки на источники.

阅读全文 →

Guides

Как безопасно диагностировать ошибки аутентификации, лимитов запросов, тайм-аутов и некорректных ответов OpenAI API

Практическое руководство с учетом конфиденциальности: как диагностировать ошибки аутентификации, ограничения частоты запросов, тайм-ауты и некорректные ответы OpenAI API, не раскрывая учетные данные и данные пользователей.

阅读全文 →