радио«Вопрос брони и снаряда»: как ИИ помогает бороться с киберугрозами
Топ-менеджер «Лаборатории Касперского» рассказала об ИИ-агентах в антивирусах
Искусственный интеллект применяют и киберпреступники, и эксперты по киберугрозами, рассказала Анна Кулашова. Автономные ИИ-агенты уже облегчили борьбу со злоумышленниками, но их решения требуют верификации человеком
Фото: Михаил Гребенщиков / РБК
Злоумышленники используют инструменты искусственного интеллекта для автоматизации кибератак, но борцы с киберугрозами стремятся давать симметричный ответ. Об этом рассказала в эфире программы «ИИ в деле» на Радио РБК вице-президент «Лаборатории Касперского» по развитию бизнеса в России и странах СНГ Анна Кулашова.
Наиболее часто злоумышленники обращаются к ИИ-инструментам при подготовке фишинговых атак, указала она. «Интеллект настолько классно пишет письма от лица вымогателей, что человеку очень легко поверить. Ты можешь интегрировать туда какие то актуальные новости, контекст компании <...> Все очень таргетировано, без ошибок грамматических, как раньше», — объяснила Кулашова.
Для защиты от такого вида угроз пользователям стоит быть внимательными: одним из признаков мошенничества может быть, что письмо «уж очень красиво и хорошо написано», указала эксперт.
Мошенничество, в котором используется искусственный интеллект для создания реалистичных сообщений и обмана людей, называется AI-фишинг. В «Лаборатории Касперского» отмечают, что в отличие от старых методов фишинга, которые полагались на скопированные шаблоны, новые используют инструменты ИИ-генерации для написания естественных сообщений и корректировки контента в режиме реального времени. «Злоумышленники могут быстро создавать новые сообщения и варианты, которые кажутся более человечными и правдоподобными», — говорится в исследовании.
Кулашова обратила внимание, что по мере усовершенствования инструментов для кибератак, специалисты по кибербезопасности продолжают искать способы симметрично отвечать на такие угрозы: «Борьба с ними — вопрос брони и снаряда».
Ежедневно антивирусы разбираются с нескольким десятком миллионов подозрительных файлов и детектируют более 500 тыс. новых угроз, продолжила Кулашова. Из-за такого количества у человека возникают сложности, и на помощь приходит нейросеть. При этом специалисты, которых «разгрузила» нейросеть, повышают свою квалификацию и «переходят на следующие уровни». «Использование в наших системах этих инструментов где-то на 26% эффективность нам повысило», — оценила эксперт.
Вместе с тем Кулашова не считает, что ИИ может полностью заменить человека: «Не могу сказать, что можно ему доверить с точки зрения управления какие-то большие вещи. Получать информацию, делать суммаризации какие-то — вот это [ИИ] здорово облегчает». Однако решения нейросети все равно нужно верифицировать, подчеркнула Кулашова.
В эфире программы она также дала оценку способности ИИ-агентов автономно сервера. Комментируя взлом сервера агентом JadePuffer за 31 секунду, эксперт обратила внимание на вероятность человеческого участия в атаке. «Если глубоко посмотреть, что там происходило, вообще полная автономность не доказана. <...> Вот утверждение, что LLM (Large Language Model или большая языковая модель — РБК) написала код, что автономно, без человека что-то сделала — мы не можем это 100% подтвердить, что там в каждый момент человек не управлял всей этой «прекрасной» историей. <...> Это не умаляет то, что действительно инструменты искусственного интеллекта активно используются злоумышленниками», — заявила она.
Кулашова рассказала и о том, что один из главных рисков сейчас — теневое использование ИИ внутри компаний: 20% утечек данных связаны с неконтролируемым применением публичных моделей. «Лаборатория Касперского» рекомендует относиться к ИИ-агентам, как к нанятым подрядчикам: выдавать минимальные привилегии, верифицировать их действия и строить процессы с учетом того, что агенты могут обходить политики безопасности ради выполнения задачи.
Оставайтесь на связи с РБК в «Максе».
