Security Vision: зачем автоматизировать мониторинг киберугроз ИИ

Искусственный интеллект меняет подход к кибербезопасности: он ускоряет обработку инцидентов, снижает долю рутины и повышает эффективность экспертов, но одновременно упрощает работу киберпреступников. Для российских компаний защитным решением может стать использование локальных моделей ИИ внутри периметра, чтобы исключить утечку чувствительных данных во внешние облачные сервисы.

В свою очередь, регулятор фокусируется на требованиях к использованию ИИ, изоляции моделей и контроле их доступа к критичной информации, учитывая риск атак на сами модели и попыток извлечения конфиденциальных данных. Security Vision предлагает автоматизацию мониторинга и обработки инцидентов на базе ИИ при условии, что у заказчика выстроены процессы и он закладывает в свои решения ограниченный и понятный перечень действий моделей для безопасного использования.

Подробнее об этом — в интервью с Николаем Гончаровым, Директором департамента мониторинга кибербезопасности Security Vision

— С 26 по 30 октября в Москве пройдет российская неделя кибербезопасности, центральным событием которой станет 12-й СОК-форум, главная площадка для диалога о киберугрозах. В преддверии форума мы встретились с Николаем Гончаровым, директором департамента мониторинга кибербезопасности Security Vision, чтобы обсудить, как изменились требования к защите инфраструктуры от киберугроз и какие актуальные решения сегодня есть на рынке.

Сегодня искусственный интеллект действительно проникает во все сферы не только нашей повседневной жизни, но и жизни корпоративной, внедряется в том числе он в инфраструктуры и продукты кибербезопасности.

Скажите, какую ситуацию сейчас вы видите на рынке, насколько действительно активно идет внедрение и почему он полезен компаниям?

— Технология позволяет ускорить нашу работу, делает задачи быстрее и оптимизирует львиную часть рутинных операций. Мы видим, что этими технологиями начинают пользоваться злоумышленники. Естественно, проявляется большой интерес и со стороны защиты с точки зрения кибербезопасности, поскольку эта технология обоюдно ускоряет обе стороны. Мы можем ускорить все свои операции и помочь экспертам выявлять потенциальную киберугрозу с большей скоростью и наилучшим результатом.

— Николай, давайте попробуем более предметно: как за последний год изменились требования российских компаний к системе кибербезопасности и инфраструктуры и какую роль в этом играет искусственный интеллект?

— С появлением технологии искусственного интеллекта мы видим, что ландшафт самих киберугроз не меняется. Однако меняется сам подход злоумышленников к их реализации. Мы видим, что снижается порог для киберпреступности, создаются криминальные сервисы, которые позволяют преступникам быстрее совершать свои атаки.

Компании тоже все это понимают. И чтобы действовать с опережением, активно начинают внедряться технологии в области кибербезопасности: автоматизация своей работы, ускорение рутинных операций, высвобождение экспертных знаний для более профильной задачи. У людей становится больше времени на творческую работу, которая позволит им более качественно выстроить средства защиты периметра. Отмечу, это не замена принятия решений за специалистов. Это ускорение самой процедуры, которая позволяет быстро отреагировать на угрозу и принять все необходимые меры по ее сдерживанию.

— Почему для российского рынка принципиальна именно локальная инфраструктура, локальная архитектура искусственного интеллекта?

— Надо понимать, что, когда мы общаемся с привычными нам моделями через диалоговое окно, обработка этих запросов происходит где-то на стороне на чужом сервере. Вводя различного рода информацию, мы по факту делимся ей с владельцем конкретного чужого сервиса.

Здесь для обеспечения безопасности и сохранности этих данных нельзя использовать внешние модели, которые нам не подконтрольны. Поэтому внутренние сервисы здесь очень хорошо подходят под более емкие, более быстрые локальные модели, которые позволяют обрабатывать информацию внутри периметра, и мы можем понимать, что информация точно не уйдет никуда за пределы периметра нашего защищенного контура.

— А какова позиция регулятора? Мы знаем, что ФСТЭК впервые официально признала ИИ источником киберугроз для критической инфраструктуры. Насколько сегодня актуальны эти риски и как технологии Security Vision помогают от них защищаться?

— Технологии есть. Тут надо разделять два больших вектора. Вектор, когда злоумышленники совершают атаки на периметр организации или еще каким-то образом. Сама технология генеративных моделей тоже несет в себе некие риски, поскольку они начинают накапливать большие объемы данных. И различного рода атаки на сами модели, попытки вытащить из них конфиденциальную информацию тоже являются критичными.

Здесь задача регулятора заключается в том, чтобы выстроить требования: какие модели можно использовать, какие ограничения, как изолировать эти модели от внешнего периметра, а также понимать, какие параметры и разрешения доступны конкретной модели в зависимости от той критичности информации, которая имеет место.

Мы в своей работе придерживаемся методов того, что модели должны иметь понятный перечень допустимых действий. Разрабатывая свои подходы и свои модели, мы уже заранее учитываем возможные риски и делаем использование моделей безопасным для своих клиентов.

— Николай, а с чего начать компании, которая только внедряет интеллектуальный мониторинг, и как ваши технологии встраиваются в существующую инфраструктуру?

— Любая технология ИИ — это некая угроза автоматизации действий, операций и тому подобное. Любая автоматизация, если у нас нет четко выстроенных процессов, автоматизирует хаос, а это выходит себе дороже. Поэтому надо понять, что у тебя этого хаоса не существует.

Наша технология позволяет как раз автоматизировать различного рода операции и рутинные процессы. Наши продукты помогают эту оптимизацию внедрить внутри той или иной организации, которая решила повысить свой уровень кибербезопасности и повысить свою эффективность при обработке, в частности, инцидентов кибербезопасности.