Трое сотрудников Samsung слили конфиденциальные данные в ChatGPT

На первый взгляд, ChatGPT может выглядеть как универсальный инструмент для решения множества рабочих задач. Но прежде чем вы попросите чат-бота обобщить важные заметки или проверить свою работу на наличие ошибок, стоит помнить: все это может использоваться для обучения системы и даже всплывать в ее ответах другим пользователям. Об этом, вероятно, следовало помнить и сотрудникам Samsung, которые, как сообщается, передали чат-боту конфиденциальную информацию.


Вскоре после того, как полупроводниковое подразделение Samsung разрешило инженерам использовать ChatGPT, работники, по крайней мере, трижды передавали ему секретную информацию. Сообщается, что один сотрудник попросил чат-бота проверить исходный код конфиденциальной базы данных на наличие ошибок, другой запросил оптимизацию кода, а третий отправил запись встречи в ChatGPT и попросил ее сгенерировать протокол.

Отчеты предполагают, что, узнав об ошибках в системе безопасности, Samsung попыталась ограничить потенциальный масштаб будущих инцидентов, ограничив длину подсказок ChatGPT для сотрудников до килобайта или 1024 символов текста. Также сообщается, что компания проводит расследование в отношении трех рассматриваемых сотрудников и работает над созданием собственного чат-бота для предотвращения подобных ситуаций.

Политика данных ChatGPT гласит, что, если пользователи явно не отказываются от этого, он разрешает использовать диалог с собой для обучения моделей ИИ. Владелец чат-бота OpenAI призывает пользователей не делиться секретной информацией с ChatGPT в разговорах, поскольку бот не может удалить отдельные диалоговые ветки из своей истории. Единственный существующий на данный момент способ избавиться от личной информации в ChatGPT — это удалить свою учетную запись — процесс, который может занять до четырех недель.