Греф назвал «одну из самых аморальных вещей» в работе ИИ в военной сфере
Греф: предоставлять ИИ автономность на данном этапе развития — аморально
Использование автономных систем без участия человека в военное время недопустимо, несмотря на важность скорости принятия решений в современных конфликтах, заявил Греф, отвечая на вопрос Пушкова о применении ИИ в военное время
Принятие автономных решений искусственным интеллектом в военное время является «аморальным», заявил в ходе заседания в Совете Федерации глава Сбербанка Герман Греф.
Заявление прозвучало в ответ на вопрос сенатора Алексея Пушкова. В ходе заседания сенатор привел в качестве примера запланированный ИИ удар США по школе девочек в Иране, в результате которого погибли около 200 человек.
«Каким образом будет происходить взаимодействие между контролирующими человеческими инстанциями и агентным ИИ в военной области или человеческие инстанции будут фактически только потом анализировать, что наделал искусственный интеллект, когда уже все будет осуществлено?» — поинтересовался Пушков.
Греф отметил, что не является военным экспертом, но, по его словам, «во всех системах вводится, конечно, контрольное слово человека». Глава Сбербанка подчеркнул, что в любой современной войне скорость реакции является определяющим фактором.
Война, продолжил Греф, всегда несет большое количество ошибок, но, по его мнению, «одна из самых аморальных вещей — это позволить принятие автономных решений самими системами искусственного интеллекта». Он отметил, что пока технология находится «на ранней стадии своего развития», поэтому такие действия «недопустимы».
Развитие военных технологий на основе ИИ требует создания собственных отечественных решений и не может опираться на зарубежные модели, заявил в июне на полях Петербургского международного экономического форума первый замглавы Сбербанка Александр Ведяхин.
По его мнению, попытки ограничить применение боевого ИИ напоминают ситуацию накануне Первой мировой войны, когда предпринимались попытки запретить пулеметы, однако государства вскоре отказались от этих ограничений и продолжили их разработку. При этом, отметил Ведяхин, в случае с химическим оружием международному сообществу удалось выработать единые правила, тогда как применение ИИ требует иных этических подходов.
Ведяхин напомнил, что в России уже действует кодекс этики в сфере ИИ. По его словам, ограничения должны быть заложены в архитектуру нейросетей изначально, при этом «и первое слово, и последнее — за человеком».
Весной текущего года из-за разногласий по поводу использования ИИ в военной сфере возник конфликт между разработчиком нейросети Claude компанией Anthropic и Пентагоном.
Компания настаивала на соблюдении этических ограничений, запрещающих применение ее моделей для массовой слежки и автономного летального оружия, тогда как министерство войны США сочло такой подход угрозой национальной безопасности. После этого Пентагон внес Anthropic в перечень компаний, представляющих риск для цепочек поставок, а президент США Дональд Трамп запретил федеральным ведомствам использовать разработки компании. Anthropic оспорила эти решения в суде.
Оставайтесь на связи с РБК в «Максе».

