Искусственный интеллект меняет инструменты атакующих и возможности специалистов по информационной безопасности. Злоумышленники используют его, чтобы быстрее готовить убедительные фишинговые письма, подделывать голос и видео, анализировать открытые данные о компании и автоматизировать отдельные этапы атак. Специалистам по ИБ эти технологии помогают обрабатывать события безопасности, обнаруживать аномальное поведение пользователей и находить потенциальные инциденты среди большого количества обычных действий.
В большинстве случаев ИИ усиливает уже существующие сценарии: социальную инженерию проще персонализировать, мошеннические сообщения — масштабировать, а технические действия — автоматизировать. В защите он сокращает время на первичную проверку событий и сбор информации об угрозе. Поэтому бизнесу необходимо учитывать новые возможности атакующих и оценивать, где ИИ может повысить эффективность собственной защиты.
Как меняются привычные атаки
Раньше подозрительное письмо нередко выдавали плохой перевод, ошибки или неестественные формулировки. ИИ снижает этот барьер: злоумышленнику больше не нужно вручную готовить каждое сообщение. Он может быстро создать несколько вариантов для конкретной отрасли, должности или ситуации — запрос от руководителя, уведомление ИТ-службы, письмо контрагента или потенциального клиента.
Особенно опасен целевой фишинг. Сведения с сайта компании, из вакансий и социальных сетей позволяют добавить детали, которые делают сообщение правдоподобнее. Например, сотрудник получает письмо: «Мы вчера обсуждали новый договор с поставщиком. Посмотри финальную версию по ссылке, нужно согласовать до 15:00». Ссылка ведет на поддельную страницу корпоративной авторизации, где пользователя просят ввести учетные данные.
Сама схема существует давно, но ИИ упрощает подготовку персонализированных сообщений. Поэтому обучать сотрудников только поиску ошибок уже недостаточно. Нужно проверять контекст запроса, адрес отправителя и ссылку, особенно если письмо требует срочно предоставить доступ, передать данные или выполнить финансовую операцию.
Похожая проблема возникает с подделкой голоса, изображения и видео. Знакомый голос руководителя по телефону больше нельзя считать достаточным подтверждением личности. Сотрудник может получить звонок с просьбой срочно оплатить счет, изменить реквизиты, отправить конфиденциальный документ или выдать доступ.
Защита от таких сценариев требует изменения процедуры согласования критичных операций. Для финансовых переводов, изменения платежных реквизитов, выдачи привилегированного доступа и передачи чувствительных данных нужен независимый канал подтверждения. Это может быть обратный звонок по заранее известному номеру, согласование через корпоративную систему или проверка вторым ответственным сотрудником. Голос, изображение или видео не должны быть единственным основанием для выполнения запроса.
При этом представлять ИИ как инструмент, который самостоятельно проходит весь путь от выбора компании до захвата ее инфраструктуры, было бы упрощением. На отдельных этапах он помогает обработать открытые сведения, подготовить сценарий социальной инженерии, создать или изменить скрипт, проанализировать техническую информацию. Но для успешной атаки необходимо получить первоначальный доступ, разобраться в среде компании, расширить права и добраться до нужных систем, обходя средства обнаружения.
Для бизнеса существеннее то, что часть действий, ранее требовавших ручной работы и квалификации, становится проще автоматизировать. Это потенциально снижает порог входа для атакующих и увеличивает объем активности, с которым приходится работать специалистам по защите.
Как ИИ помогает обнаруживать угрозы
Корпоративная почта, серверы, рабочие станции, приложения, сетевое оборудование и средства защиты ежедневно формируют большое количество событий. Проверять каждое вручную невозможно, а подозрительное действие не всегда выглядит опасным само по себе.
Например, сотрудник обычно входит в корпоративные системы утром с рабочего устройства и работает с несколькими десятками документов. Ночью его учетная запись авторизуется с нового устройства, обращается к необычному ресурсу и начинает массово скачивать файлы. Каждое действие может быть разрешено, но их последовательность заметно отличается от привычного поведения пользователя. Анализ связей между событиями помогает выделить такую активность для проверки.
В центре мониторинга информационной безопасности — SOC — события обычно поступают в SIEM, систему сбора и анализа событий безопасности. Она объединяет данные из разных источников и сопоставляет их по правилам корреляции, чтобы обнаруживать признаки атаки. Однако даже после этой обработки срабатываний может быть слишком много для ручного разбора.
Аналитику необходимо выяснить, к какой системе относится событие, кто использовал учетную запись, что происходило до и после срабатывания и есть ли основания считать его инцидентом. ИИ помогает автоматизировать часть этой работы: группировать похожие предупреждения, собирать контекст, выявлять отклонения и предлагать приоритет проверки. Например, он может подготовить последовательность действий учетной записи, чтобы специалист быстрее увидел связанные события.
Эти возможности зависят от конкретного решения и качества данных. Перед внедрением необходимо проверить на реальных сценариях, сокращает ли ИИ время разбора и сколько значимых событий пропускает. Его выводы также требуют проверки: необычная выгрузка может оказаться подготовкой квартального отчета, а вход с нового устройства — обычной заменой ноутбука. Система выделяет отклонение и собирает контекст, после чего аналитик оценивает ситуацию и принимает решение о реагировании.
Похожий подход применяется в системах предотвращения утечек данных — DLP. Они контролируют передачу информации по заданным правилам: ищут персональные данные, реквизиты, определенные типы документов и другие признаки защищаемой информации. Поведенческий анализ дополняет этот контроль сведениями о действиях пользователя.
Если менеджер ежедневно работает с клиентской базой, открытие карточек клиентов не вызывает подозрений. Но когда он за короткое время выгружает значительно больше данных, чем обычно, создает архив и пытается отправить его во внешний канал, совокупность действий требует проверки. Анализ поведения помогает учитывать и содержание передаваемой информации, и обстоятельства ее передачи.
Какие риски создает использование ИИ внутри компании
Утечка может произойти и без кибератаки. Компания ограничивает внешние накопители и контролирует корпоративную почту, но сотрудник копирует рабочий документ в публичный ИИ-сервис, чтобы перевести текст, подготовить резюме или проанализировать таблицу.
Так за пределами корпоративной инфраструктуры могут оказаться персональные данные, договоры, финансовые показатели, клиентские базы, исходный код и конфигурации систем. Сотрудник обычно пытается быстрее выполнить задачу, не оценивая последствия передачи информации внешнему сервису.
Поэтому компании нужны понятные правила использования ИИ и доступные инструменты для разрешенных задач. В регламентах необходимо определить, какими сервисами можно пользоваться, какие данные допустимо передавать на обработку и кто проверяет результаты. Отдельно следует установить, какие действия ИИ может выполнять автоматически, а какие требуют согласования специалиста.
Если сервис обрабатывает персональные данные или конфиденциальную информацию, требования к их обработке и защите сохраняются. Перед подключением внешнего решения нужно проверить условия хранения и использования данных, доступ к ним со стороны поставщика и допустимость передачи информации с учетом законодательства, договоров и внутренних политик.
Защита нужна и самой ИИ-системе. Необходимо ограничивать доступ к модели, ее настройкам, источникам данных и подключенным инструментам, защищать ключи доступа, обновлять программные компоненты и регистрировать действия. Корпоративный помощник должен получать только те документы и права, которые необходимы для выполнения его задачи.
Есть и специфический риск: злоумышленник может поместить в документ или сообщение инструкции, побуждающие ИИ раскрыть данные или выполнить нежелательное действие. Поэтому содержимое загруженного документа нельзя воспринимать как доверенную команду, а доступ к критичным операциям необходимо ограничивать.
Например, помощнику SOC можно разрешить читать события и готовить рекомендации, а блокировку учетных записей или изменение правил межсетевого экрана оставить под контролем специалиста. Размещение модели внутри компании также требует этих мер защиты.
С чего начать проверку
Сначала стоит выяснить, используют ли сотрудники публичные ИИ-сервисы, для каких задач и какие данные туда передают. Затем проверить, утверждены ли правила работы с ИИ, назначены ли ответственные за оценку результатов и ограничены ли права корпоративных помощников.
Одновременно необходимо оценить базовые механизмы защиты: многофакторную аутентификацию для критичных систем, обнаружение необычной активности учетных записей, контроль массовых выгрузок и внешних каналов передачи информации. Для финансовых операций и других чувствительных запросов должна действовать независимая процедура подтверждения. Сотрудникам важно знать, что убедительное письмо, знакомый голос или видео руководителя сами по себе не подтверждают подлинность запроса.
Такая проверка помогает определить, где требуется техническое решение, а где достаточно изменить рабочую процедуру. Например, защиту от мошеннической смены реквизитов можно начать с обязательного подтверждения по заранее известному контакту.
ИИ повышает эффективность защиты, когда встроен в работающие процессы управления доступом, мониторинга, предотвращения утечек, устранения уязвимостей и подготовки сотрудников. Если события не собираются, права не пересматриваются, а срабатывания остаются без внимания, внедрение ИИ не устранит эти недостатки. При выстроенных процессах он помогает быстрее находить отклонения и сокращать объем ручного анализа.
Как может помочь «АйТиАнгел»
«АйТиАнгел» помогает оценить защищенность ИТ-инфраструктуры и определить необходимые меры: от настройки базовых механизмов защиты до внедрения DLP, SIEM и организации мониторинга событий.
Работа начинается с конкретных рисков и задач: какие данные необходимо защищать, какие события нужно обнаруживать, где находятся критичные доступы и как компания будет реагировать на инцидент. На этой основе можно оценить, где применение ИИ сократит время анализа и поможет специалистам принимать решения.
