ИИ-инструменты в бизнес-процессах: что должна контролировать DLP-система?

С 2024 года мы наблюдаем, как наши клиенты все активнее внедряют ИИ-инструменты в бизнес-процессы — преимущества нейросетей слишком заметны, чтобы их игнорировать. Но чем активнее компания использует ИИ, тем острее встает вопрос: как контролировать данные, которые сотрудники доверяют таким сервисам?

В этом материале мы кратко рассмотрим, как контролировать использование ИИ-инструментов в компании с помощью DLP-систем.

Когда эффективный помощник превращается в канал утечки данных?

Можно вложить большие средства в систему защиты информации, но она будет бессильна, если сотрудники своими руками передают данные во внешние ИИ-сервисы. Как показывает наш опыт, главный источник проблем здесь — так называемые «бесплатные» модели. Обычные пользователи часто не знают, что плата за безграничные возможности нейросетей — это загружаемые данные. В большинстве случаев те идут на обучение модели и могут попасть в открытый доступ, если кто-либо из пользователей введет соответствующий промпт. Хрестоматийный пример: в 2023 году инженеры Samsung загружали в ChatGPT фрагменты проприетарного кода — и внутренние данные компании оказались в обучающей выборке модели. Так, уже после огласки Samsung запретила использование внешних ИИ-сервисов для всех сотрудников.

Параллельно существует фактор «теневого ИИ»: большинство случаев использования ИИ на работе приходится на личные аккаунты. Это неочевидный канал утечки. Сотрудник загружает данные в офисе под видом анализа, а дома, войдя в ту же учетную запись, копирует их на личный компьютер. Утечка свершилась — без единого подозрительного письма и без внешнего злоумышленника.

Еще один неочевидный вектор — ИИ-функции, встроенные в обычный коммерческий софт. Приставка «AI-» или «Нейро-» к названию продукта сегодня — великолепная маркетинговая фишка, которая привлекает внимание. Однако поспешное внедрение без тестирования на уязвимости нередко заканчивается инцидентами.

Подводя итог: можно поощрять использование ИИ или запрещать — но контролировать работу с такими сервисами придется в любом случае.

Первые шаги к контролируемому и безопасному использованию нейросетей

Нейросети развиваются быстрее, чем успевает адаптироваться законодательство. Да, регулирование активно дорабатывается, но на практике компании уже сталкиваются с ситуациями, для которых пока нет однозначных ответов. Например, если сотрудник какой-либо организации загрузит в публичную LLM-систему персональные данные клиентов и произойдет утечка — кто понесет ответственность? Сам сотрудник, его организация или компания-разработчик нейросети? На практике ответственность почти всегда ложится на организацию, которая должна была обеспечить сохранность конфиденциальных данных, но передала их вовне, ведь ИИ-сервисы априори должны работать со всеми данными, которые им поступают.

Чтобы избежать возникновения таких ситуаций, компании нужен понятный внутренний регламент использования ИИ-инструментов. В нем должно быть зафиксировано:

• разрешены ли внешние ИИ-сервисы в принципе;
• какие именно сервисы разрешены;
• допустимо ли использовать личные аккаунты;
• кому разрешено работать с внешними моделями, а кому — нет.

Эти правила должны быть написаны простым и понятным языком, согласованы с руководством и подписаны сотрудниками. Более того, эти правила нужно регулярно пересматривать по мере возникновения новых моделей, изменения законодательства и так далее. Специалисты рекомендуют пересматривать регламенты в области кибербезопасности в среднем раз в полгода.

Что нужно понимать? Важен баланс. Вы не сможете корректно настроить политики безопасности, если в компании не установлено, какие действия считаются нарушением, а какие — нормой. С другой стороны, чрезмерное количество запретов и правил даст каскад ложных инцидентов и ненужных блокировок бизнес-процессов.

Нельзя не упомянуть нюанс, который часто недооценивают. Если компания планирует доказывать факт нарушения — в рамках внутреннего расследования или в суде, — регламент становится юридической основой. Без подписанного «Положения о коммерческой тайне», «Политики информационной безопасности» и соответствующего пункта в трудовом договоре доказать что-либо будет крайне сложно. Без выполнения этих условий все последующие действия становятся практически бесполезными с юридической точки зрения. Цифровые следы могут быть идеально исследованы, доказательства собраны, но по итогу дело все равно рассыплется, т.к. нежелательные действия не были оформлены как запрещенные и не были обозначены последствия.

Что делать дальше?

Если компания хочет использовать нейросети с минимальными рисками, разумно рассмотреть размещение изолированной от интернета ИИ-инфраструктуры внутри корпоративного периметра. В таком случае данные не покидают контур организации, а использование нейросети можно разрешить официально. Но и здесь есть свои нюансы — раздавать доступы к модели всем подряд все же не стоит. Внутренние модели нередко обучаются на корпоративных данных, включая конфиденциальные. А значит, сотрудник без нужного уровня доступа теоретически может попытаться получить такую информацию через специально сформированные промпты. Это важный риск, о котором часто забывают.

Что еще?

Мониторьте посещение официальных сайтов ИИ-сервисов и установку приложений. Это базовый шаг независимо от того, одобряют в компании использование нейросетей или нет. Например, для сотрудников, чья работа не предполагает использования ИИ, можно настроить полный запрет доступа. Уместно настроить оповещения при посещении ИИ-платформ. Имеет смысл отслеживать не только конкретные домены, но и любые сайты, в адресе которых есть «ai», «neiro» и другие подобные маркеры, ведь перечень внешних ИИ-сервисов растет очень быстро.

Контролируйте мессенджеры и приложения. Канал утечки — это не только веб-ресурсы. Telegram с чат-ботами, настольные приложения, плагины браузеров — все это потенциальные точки выхода информации. Агент на конечном устройстве должен видеть не только веб-трафик, но и то, какие приложения и мессенджеры устанавливали сотрудники.

Некоторые DLP-системы уже включают готовые политики для контроля использования ИИ-инструментов, включая сценарии их полной или частичной блокировки.

В исключительных ситуациях можно настроить блокировку буфера обмена. Мера жесткая, но иногда оправданная. Можно применять для сотрудников с высоким уровнем доступа или как временную меру, пока более гибкие механизмы еще не настроены.

Анализируйте изменения в активности персонала на рабочих станциях. На основе данных, которые собирают DLP, есть возможность регулярно получать актуальную картину активности сотрудников и это позволяет оптимизировать действующие политики безопасности. Новые ИИ-инструменты появляются без преувеличения каждый месяц, меняются паттерны поведения сотрудников, разработчики внедряют в софт AI-модули — это и многое другое нужно учитывать, чтобы не пропустить появления нового канала утечки данных из организации.

На практике это означает ревизию политик каждые несколько месяцев.

Отдельный вопрос, который часто задают: что, если сотрудник использует ИИ со своего телефона? Контролировать личное устройство нельзя по юридическим нормам. Единственный инструмент здесь — регламент и последствия за его нарушение. Именно поэтому подписанное соглашение о коммерческой тайне сегодня так же важно, как софт для защиты от утечек.

Что делать, если инцидент уже случился?

Если данные все же ушли — важно не паниковать и не предпринимать непродуманных действий на рабочей станции нарушителя. Поспешные действия могут уничтожить следы нарушения и поставить под сомнение найденные доказательства.

Для этого компьютер нарушителя в срочном порядке изымается и опечатывается, а затем процесс расследования фиксируется на видео или протоколируется другими способами.

Современные DLP-системы позволяют контролировать множество каналов передачи информации, а перехваченные данные могут использоваться в качестве доказательной базы, в том числе в суде. Причем доказательную силу способны получить даже простые данные — например, скриншоты, если они должным образом оформлены, например, заверены нотариально.

Обучение основам кибербезопасности должно быть основательным и непрерывным

Генеративные модели ИИ развиваются очень стремительно. Поэтому регламенты и технический контроль — меры необходимые, но недостаточные. Без регулярного обучения сотрудники все равно будут принимать решения интуитивно — особенно под давлением скорости и необходимости соблюдения дедлайнов.

Пишите понятные инструкции, делайте короткие методички, разбирайте реальные инциденты в вебинарах для сотрудников своей компании. Важно не формально донести правила, а научить людей их применять: отличать фишинговые страницы от легитимных сервисов, понимать, какие данные нельзя вставлять в чат-бот и почему.

Обновлять материалы для такого обучения нужно регулярно — примерно раз в несколько месяцев. Это не только про защиту бизнеса, но и про заботу о людях. Далеко не все понимают, как работать с ИИ-инструментами безопасно. И компания может помочь им в этом.

Заключение

Генеративный ИИ уже стал частью корпоративной среды — независимо от того, успели ли компании подготовиться к этому или нет. Запретить нейросети полностью не получится, игнорировать — тем более. Поэтому задача бизнеса сегодня не в том, чтобы бороться с использованием ИИ, а в том, чтобы реализовать свои собственные сервисы ИИ внутри компании и выстроить понятные правила безопасного использования внешних сервисов.

В ближайшие годы выиграют не те организации, которые быстрее всех внедрят ИИ, а те, которые сделают это безопасно и системно. В таких условиях DLP-системы становятся еще более значимыми, ведь они являются не только инструментом контроля, но и средством, позволяющим обеспечить управление процессами: понимать, какие данные покидают периметр компании, кто и зачем использует внешние сервисы, где возникают реальные риски и при необходимости блокировать нежелательные действия.