Менеджер вставляет в чат-бота выгрузку клиентов, чтобы быстро написать поздравления. Через минуту текст готов, а таблица с телефонами уже лежит на чужом сервере. Так выглядит большинство утечек через нейросети в малом бизнесе: без взлома и злого умысла. Разбираем, где риск выше всего и какие простые меры его снижают.
Что считать утечкой через нейросеть
Утечка через нейросеть это ситуация, когда данные компании или её клиентов попадают в сервис, который компания не контролирует и с которым не договорилась о правилах обработки. Чаще всего это публичный чат-бот, куда сотрудник вставляет текст или загружает файл.
Проблема не обязательно в том, что данные кто-то сразу прочитает. Проблема в том, что компания перестаёт знать, где они хранятся, сколько, кто имеет к ним доступ и используются ли они для обучения модели. Для персональных данных это ещё и вопрос закона: компания отвечает за то, кому их передаёт.
- Сотрудник копирует в публичный сервис персональные данные клиентов: имена, телефоны, адреса
- В нейросеть загружают договор, счёт или внутренний регламент с коммерческой информацией
- Подрядчик подключает ИИ к CRM, и модель получает доступ к большему числу полей, чем нужно для задачи
- Сотрудник работает с ИИ через личный аккаунт, и диалоги остаются у него после увольнения
Руководитель часто не знает, что сотрудники уже пользуются нейросетями. Это не повод искать виноватых: люди решают рабочие задачи быстрее. Задача компании сделать так, чтобы это было безопасно.
Как это выглядит в разных бизнесах
Ниже четыре типовых сценария. Они составлены для статьи и показывают, где риск возникает в обычной работе.
Розница. Маркетолог выгружает базу программы лояльности и просит нейросеть разделить покупателей на группы для рассылки. В файле имена, телефоны, дни рождения и суммы покупок. Задачу можно было решить без единого персонального поля: по номеру карты и суммам.
Логистика. Диспетчер вставляет в чат список доставок на день, чтобы построить порядок объезда. В списке адреса получателей, телефоны и комментарии вроде «код домофона». Для маршрута хватило бы адресов без имён и телефонов.
Автосервис. Администратор просит нейросеть составить напоминания о ТО и вставляет таблицу: имя, телефон, госномер, марка, пробег. Связка телефона и госномера позволяет однозначно определить человека.
B2B. Юрист или менеджер загружает договор с контрагентом, чтобы найти рискованные пункты. В тексте реквизиты, условия оплаты, цены. Это не всегда персональные данные, но почти всегда коммерческая тайна.
Что настроить: пять мер
Запрет пользоваться нейросетями обычно не работает: сотрудники продолжают, но с личных телефонов. Надёжнее договориться о правилах и дать удобный разрешённый инструмент.
Для малого бизнеса не нужны отдельный отдел безопасности и дорогие системы. Большая часть риска закрывается организационными мерами, которые можно ввести за неделю.
- Правила для сотрудников. Одна страница: какие сервисы можно использовать, для каких задач, с какого аккаунта. Без юридического языка, с примерами
- Список данных, которые нельзя вставлять в публичные сервисы: телефоны, адреса, паспортные данные, госномера в связке с именем, договоры, финансовая отчётность
- Минимум полей. Перед тем как отдавать данные в любой ИИ, уберите всё, что не нужно для задачи. Для сегментации не нужны имена, для маршрута не нужны телефоны
- Доступы. Рабочие аккаунты вместо личных, отдельные права для разных ролей, отключение доступа при увольнении
- Проверка подрядчика. Если ИИ подключают к вашим системам, вы должны знать, какие данные он получает, где они хранятся и кто к ним имеет доступ
Вопросы подрядчику до подключения ИИ
Готово 0 из 7
Ответы стоит получить письменно и до начала пилота, а не после запуска. Если подрядчик не может ответить на часть вопросов, например не знает, где хранятся диалоги у используемой модели, это повод остановиться и разобраться до подключения к вашим системам.
Как с данными работает ИИ-ассистент ocutech
Мы проектируем ассистентов так, чтобы они получали минимум данных, нужный для задачи. ИИ-администратор автосервиса собирает то, что нужно для записи: автомобиль, услугу, удобное время, контакт. Он не получает доступ ко всей базе клиентов.
Действия в системах клиента ассистент выполняет только через разрешённые операции: например, проверить расписание и создать запись. Результат он подтверждает после ответа системы. Сложные вопросы передаёт сотруднику вместе с историей диалога, чтобы данные не приходилось пересылать отдельно.
В ассистентах по базе знаний права доступа учитываются уже при поиске: сотрудник не получит фрагмент документа, который ему недоступен.
Где именно будут храниться данные и какая модель будет обрабатывать запросы, зависит от проекта и требований клиента. Эту схему мы описываем и согласуем до начала пилота.
Цена ошибки: что говорит закон
В России обработку персональных данных регулирует закон № 152-ФЗ «О персональных данных». Компания, которая собирает данные клиентов, считается оператором и отвечает за то, кому и на каких основаниях их передаёт, в том числе за передачу за рубеж (статья 12 закона).
Ответственность за нарушения установлена статьёй 13.11 КоАП РФ. По тексту статьи на КонсультантПлюс: за обработку персональных данных в случаях, не предусмотренных законом, юрлицу грозит штраф от 150 до 300 тысяч рублей. За действия или бездействие, повлёкшие неправомерную передачу персональных данных, штраф зависит от масштаба: от 3 до 5 млн рублей, если затронуто от 1 до 10 тысяч субъектов, и выше при большем числе. При повторном нарушении штраф считается от выручки.
Для малого бизнеса важен вывод: даже небольшая база клиентов попадает под закон, а вставить её в публичный сервис можно за секунду.
Помимо штрафов есть и менее заметные последствия. Клиенты, чьи телефоны оказались в чужих руках, получают звонки мошенников и связывают это с вашей компанией. Контрагент, чей договор утёк, может пересмотреть отношения. Восстановить доверие обычно дороже, чем заранее ввести простые правила.
Раздел описывает нормы в общем виде по редакции на дату подготовки статьи и не является юридической консультацией. Применимость к вашей ситуации нужно проверить у юриста.
Что проверить в компании за один день
Готово 0 из 5
Итог
Большинство утечек через нейросети в малом бизнесе случается не из-за хакеров, а из-за удобства. Поэтому защищает не запрет, а понятные правила, минимум полей и подрядчик, который заранее отвечает, где лежат данные.
