Сотрудники тайно используют ИИ. Почему так происходит и чем рискует бизнес

О теневом ИИ в компаниях рассказал эксперт по цифровой трансформации и ИИ-обучению Валерий Ляшенко.

Многие сотрудники уже не представляют свой рабочий день без применения нейросетей. Однако компании не всегда готовы внедрять такие инструменты открыто. Так возникает проблема, с которой столкнулись уже тысячи организаций по всему миру, — теневой ИИ (Shadow AI).

В этой статье для редакции «Управление» Skillbox Media рассказываю:

• что такое теневой ИИ и почему сотрудники к нему прибегают;
• чем это грозит;
• как бизнесу обезопасить себя, не отказываясь от прогресса.

Что такое теневой ИИ и почему сотрудники скрывают использование ИИ от руководства

Теневым ИИ называют практику, при которой сотрудники используют AI-сервисы для рабочих задач неофициально, без согласования с IT-отделом или службой информационной безопасности компании.

Одна из главных причин использования ИИ на рабочем месте — желание ускорить выполнение задач. Если сотрудники делают это без ведома руководства, чаще всего так происходит по следующим причинам:

• Боятся осуждения или наказания. 34% россиян, использующих нейросети, опасаются, что руководство усомнится в их профессионализме, если узнает об этом. Ещё 13% боятся увольнения.
• Не хотят делиться «лайфхаками». 58% скрывающих факт использования ИИ не хотят раскрывать свои методы, потому что это может помочь оптимизировать работу их коллегам. Цифровой инструмент становится личным конкурентным преимуществом.
• Не знают правил компании. Иногда сотрудники просто не в курсе, что внутренняя политика запрещает или ограничивает использование ИИ.

При этом неофициальное использование ИИ создаёт риски не только для самих сотрудников, но и для компании. В следующем разделе расскажу об этом подробнее.

Читайте также:

Нейросети неидеальны. Разбираем 5 нюансов, которые точно нужно знать

Почему теневой ИИ опасен для бизнеса

Несанкционированное использование ИИ создаёт для компании серьёзные риски, которые могут привести к финансовым потерям и другим негативным последствиям. Давайте разбираться.

Утечка конфиденциальных данных и потеря интеллектуальной собственности. Используя публичные нейросети, сотрудники часто загружают в них внутренние документы, фрагменты кода, коммерческие данные и другую конфиденциальную информацию. При этом многие не знают или забывают, что такие данные могут сохраняться на серверах провайдера, использоваться для дообучения ИИ‑моделей и в некоторых случаях становиться доступными другим пользователям.

Юридические риски и несоблюдение нормативных требований. Бесконтрольное использование ИИ может привести к нарушению требований законодательства. Например, если сотрудники загружают в нейросети персональные данные или другую защищённую информацию, это может стать причиной претензий со стороны клиентов, судебных разбирательств и репутационных потерь.

Читайте также:

Что такое информационная безопасность и для чего она нужна

Финансовые последствия. Теневое использование ИИ может увеличить стоимость утечки данных. Если сотрудники передают конфиденциальную информацию в публичные ИИ-сервисы без согласования с компанией, последствия инцидента могут обойтись значительно дороже: придётся не только устранять утечку, но и нести расходы на юридическую защиту, уплату штрафов, восстановление репутации и так далее.

Отсутствие контроля качества и стандартов. Результаты, созданные с помощью теневого ИИ, могут содержать ошибки, неточности или выдуманные данные. Если в компании нет единых правил использования ИИ и проверки его результатов, она не может гарантировать качество и достоверность таких материалов. Кроме того, без контроля сложно определить, кому принадлежат права на созданный контент и можно ли использовать его в работе — это создаёт дополнительные риски для интеллектуальной собственности.

Как сделать использование ИИ в компании официальным

Останавливать прогресс запретами бессмысленно — сотрудники всё равно найдут способ обойти ограничения. Вместо этого компаниям следует выстроить системный подход, который позволит сотрудникам пользоваться преимуществами ИИ без рисков для бизнеса. Вот что я рекомендую для этого делать.

Разработайте политику использования ИИ. Создайте внутренний регламент, который чётко ответит на такие вопросы: какие AI-инструменты можно использовать в работе, какие задачи можно с их помощью решать, какие данные запрещено загружать и кто отвечает за проверку результата. Можно отдельно определить правила работы с персональными данными, коммерческой информацией, кодом и другими объектами.

Важно не просто разработать правила, а донести их до всех сотрудников: разместить их в доступном месте, объяснить и регулярно напоминать о них.

Обучайте сотрудников безопасной работе с ИИ. Проводите тренинги: рассказывайте о принципах работы нейросетей, возможных ошибках, правилах проверки результатов и защите конфиденциальной информации. Это поможет сотрудникам использовать ИИ эффективнее и ответственнее.

Внедряйте безопасные корпоративные решения. Вместо публичных сервисов предоставьте сотрудникам официальные корпоративные ИИ-инструменты. Такие решения позволяют настроить права доступа, контролировать использование нейросетей и снизить риск утечки конфиденциальных данных.

Формируйте позитивную культуру использования ИИ. Пользование нейросетями не должно считаться «преступлением», за которое наказывают. Создайте культуру, в которой автоматизация процессов поощряется, а сотрудники могут делиться своими «лайфхаками» без страха.

Искусственный интеллект может стать серьёзным конкурентным преимуществом для компании, если использовать его системно. Задача руководителей — не бороться с прогрессом, а создать условия, при которых сотрудники смогут применять технологии безопасно и эффективно.