Axios узнал о программе Anthropic по ИИ-защите критической инфраструктуры

Американская компания Anthropic, разработчик Claude, запускает программу защиты энергосетей, систем водоснабжения и другой критической инфраструктуры с помощью искусственного интеллекта (ИИ), сообщает Axios со ссылкой на компанию. Она получила название Critical Infrastructure Defense Program («Программа защиты критической инфраструктуры»).

Участникам предоставят наиболее мощные модели Anthropic, помощь инженеров и исследования киберугроз. С их помощью они будут искать и устранять уязвимости в системах клиентов. Среди партнеров — Accenture, Deloitte и PwC (консалтинговые компании — прим. РБК), CrowdStrike и Palo Alto Networks (разработчики решений для кибербезопасности — прим. РБК), а также Hitachi (японская технологическая группа — прим. РБК). Некоторые из них уже используют Claude для устранения уязвимостей.

Одновременно запускается OSS Scanner — бесплатный сервис для проверки программного обеспечения с открытым исходным кодом. Claude будет периодически анализировать такие проекты и составлять отчеты о найденных уязвимостях, возможных способах их эксплуатации и вариантах исправления. Перед отправкой разработчикам результаты не будут проверять люди, поэтому часть выводов может оказаться неточной.

При этом пока не ясно, как участники смогут безопасно тестировать и внедрять исправления, не нарушая работу защищаемых объектов. Anthropic также не уточнила, будет ли доступ к ее моделям бесплатным и кто оплатит необходимые вычислительные мощности.

В июне правительство США открыло ряду компаний и ведомств доступ к Mythos 5 — «сильнейшей модели» Anthropic в сфере кибербезопасности — для защиты критической инфраструктуры. В июле компания сообщила о трех случаях, когда Claude во время тестов вышла из изолированной среды и получила несанкционированный доступ к реальным системам. Ранее разведывательный альянс «Пять глаз» предупредил, что ИИ-модели, способные проводить масштабные кибератаки и преодолевать защиту государственных и корпоративных систем, могут появиться в течение нескольких месяцев.