«Цифровое рабовладение» или свобода: что значит новый указ Путина

Фото: сайт администрации президента

Президент РФ Владимир Путин подписал указ «О развитии искусственного интеллекта (ИИ) в РФ», который утверждает Национальную стратегию развития искусственного интеллекта до 2030 года. «Согласно прогнозам долгосрочного социально-экономического развития России в случае недостаточного развития и использования конкурентоспособных технологий искусственного интеллекта реализация приоритетных направлений научно-технологического развития страны замедлится, что впоследствии повлечет за собой ее экономическое и технологическое отставание», — говорится в документе.

Опрошенные РБК Петербург эксперты объяснили, почему этот указ критически важен для страны в целом (и бизнеса в частности) и как технология ИИ может повлиять на переосмысление концепция государства, демократии и свободы в России.

Арсений Майоров, член Совета по развитию цифровой экономики при Совете Федерации РФ и председатель экспертной группы Ленинградской областной торгово-промышленной палаты:

«Посредством публикации национальной стратегии развития ИИ окончательно определены цели и задачи адресного бюджетного субсидирования данного направления, без чего системная работа по развитию ИИ различных государственных институтов и коммерческих организаций в нашей стране испытывала значительные затруднения.

Впервые дано определение ИИ в государственном документе. Это важный шаг, поскольку отныне вся будущая экспертная и правительственная дискуссия о развитии ИИ в России будет иметь четкий фрейм.

По определению понятия «искусственный интеллект», приведенному в «Стратегии», видно, что ИИ имеет двоякую природу: здесь объединяются техническое начало («комплекс технологических решений») и начало природное («имитация когнитивных функций человека»). Интерес вызывает то, что минимальной планкой развития ИИ указаны «результаты интеллектуальной деятельности человека», что демонстрирует взгляд государства на этапы развития ИИ: сначала «слабый» ИИ, потом «сильный» ИИ, который сможет превосходить возможности человеческого мозга. Государство проецирует образ и возможности нашего интеллекта на искусственный интеллект, при этом подчеркивая, что перспективы роста возможностей данной технологии огромны.

Ключевыми разделами «Стратегии» являются «Кадры» и «Наука». В связи с этим можно предположить, что нас ожидает серьезный всплеск грантовой и иных форм поддержки сферы исследований и разработок в сфере ИИ. Для вузов же приоритетной становится задача создания новых образовательных программ по всем уровням подготовки и формирования исследовательской инфраструктуры, которая позволит им включиться в процесс реализации «Стратегии».

Чего, на мой взгляд, не хватает в этом документе, так это перечисления конкретных угроз, с которыми может столкнуться государство (понимаемое как совокупность институтов) и общество. В частности, отсутствует описание тех рисков развития ИИ, о которых сегодня очень много говорят ученые в западных странах. При этом в тексте «Стратегии» мы находим определение «сильного» искусственного интеллекта как «сложной научно-технической проблемы, решение которой находится на пересечении различных сфер научного знания — естественно-научной, технической и социально-гуманитарной». Указывается, что «решение этой проблемы может привести не только к позитивным изменениям в ключевых сферах жизнедеятельности, но и к негативным последствиям, вызванным социальными и технологическими изменениями». И действительно, в дискуссиях об ИИ данную технологию порой называют «цивилизационным вызовом», с чем я полностью согласен, поскольку в будущем она может повлиять не только на финансовые и трудовые рынки, но и оказать огромное влияние на переосмысление таких, казалось бы, устоявшихся концепций как «государство», «демократия», «свобода» и т.д.

Из текста «Стратегии» следует, что государство в принципе осознает, что в будущем могут возникнуть такие риски, которые будут касаться не только сферы финансов и экономики в целом, но и области социальных отношений (к слову, нигде при этом не упоминается «политика»). В то же время, в перечисленных в пункте 25 «Стратегии» необходимых для решения поставленных задач шагов наличествуют такие формулировки как «создание рабочих мест», «обеспечение материального вознаграждения», «привлечение специалистов», «поддержка экспорта», «создание стимулов для инвестиций», «формирование системы безопасности» и т.д. Мы видим, что экономически детерминированный взгляд находится на первом месте».

Александр Крайнов, руководитель Лаборатории машинного интеллекта компании «Яндекс» (докладчик VI Digital City Forum РБК):

«Эта «Стратегия» появилась в результате большой работы многих специалистов. Сейчас сложилась ситуация, когда уже абсолютно очевидно, что технологии ИИ могут приносить существенную пользу в самых разных областях. При этом подготовка кадров, сбор данных, законодательная база, готовность к внедрениям и т.д. довольно сильно отстали от стремительного мирового развития технологии ИИ. «Стратегия» направлена на то, чтоб убрать этот разрыв.

Надо сказать, что подобные стратегии прияты во многих странах мира. В принятии «Стратегии» нет чего-то сильно специфичного для России. Это довольно очевидный и логичный шаг, чтоб двигаться вместе с остальным миром.

«Стратегия» в ее нынешнем виде меня вполне устраивает. Нужно понимать, что государственный документ редко получается полностью таким, каким хочется его видеть отдельным специалистам. Слишком много самых разных групп людей, чьи интересы и мнения учитываются.

Тормозом развития ИИ данная «Стратегия» не будет, а будет ли достаточной поддержка, зависит от реализации. Потому что принять стратегию — это, пожалуй, самое простое. Вся сложность будет в ее реализации».

Петр Скобелев, президент / Генеральный конструктор НАО «Группа компаний «Генезис знаний» (докладчик VI Digital City Forum РБК):

«Очень важно, что «Стратегия ИИ» вообще появилась — какой бы ни возник сейчас поток самой резкой и справедливой критики «Стратегии», но это важнейшее событие для признания актуальности и значимости проблемы и лучшего понимания властью, бизнесом и обществом сути возникающих вызовов, зарождающейся новой ИИ индустрии и грядущих тектонических сдвигов в экономике и промышленности, транспорте и связи, социальной сфере, здравоохранении, военном деле и т.д.

Вместе с тем, при чтении текста «Стратегии» видна ее сырость, есть очевидные пробелы и противоречия, что рождает вопросы, замечания и предложения по дополнениям, прежде всего, по существу.

Для начала, в «Стратегии» надо постулировать, какое общество мы строим, и для чего там будет нужен ИИ? Мы хотим построить прогрессивное общество творчески развивающихся свободных людей, или новое цифровое «рабовладение», или же общество собирателей «цифровых» кореньев? Для ответа на этот вопрос я предложил бы включить в «Стратегию» перспективное видение «Общества 5.0», о котором сейчас в каждой развитой стране начали говорить.

В «Стратегии» упоминается «сильный ИИ» и этому разделу требуется больше внимания, т.к. модели ИИ в мире пока ещё нет, и это сейчас самый главный вызов — на какие «движках» будет ИИ летать. Одна из перспективных концепций — «Эмерджентного интеллекта», спонтанно возникающего, адаптивного и проактивного, недерминированного, движимого к смыслам через коллективное принятие решений в консенсусе, переговоры и разборы конфликтов. Но такого рода работы находятся еще пока в эмбриональном состоянии и нужны фундаментальные, междисциплинарные и полипредметные исследования, в том числе, с профильными зарубежными организациями, которые позволят выстроить наше видение ИИ будущего. Такого рода исследований, как мне представляется, пока нет ни в нашей Академии наук, ни в вузах, равно как нет и инструментов финансирования такого рода программ и проектов.

Большим упущением в «Стратегии» ИИ, на мой взгляд, является отсутствие ключевого раздела про формализацию знаний разных предметных областей и создание баз знаний на основе принципов Semantic Web и предметных онтологий окружающего мира. Результатом должно стать создание инструментов работы со знаниями и обширных формализованных описаний моделей знаний предметной области, играющих роль «толковых словарей» для компьютерных систем. Например, для любой промышленности, и в особенности для госзаказа, очень востребованы «классификаторы» задач на основе семантических сетей классов понятий и отношений, которые позволят разрабатывать прозрачные и сопоставимые планы проектов, считать их себестоимость, исключать приписки и т.д.

Кроме того, в «Стратегии», на мой взгляд, должны быть более детально прописаны приоритетные цели и задачи для бизнеса, промышленности, здравоохранения и других сфер, которые должны быть решены с помощью ИИ, и какой эффект мы ожидаем получить. Это дало бы сигнал для разработок всем заинтересованным участникам рынка, позволило бы начать генерировать идеи и предложения, формировать проекты, находить финансирование и т.д.

Отдельный раздел в «Стратегии» должны получить модели и методы коллективного принятия решений и рассуждения разных типов, включая обучение из разных источников, а также автономные системы для управления бизнесом, кибер-физические системы, мультиагентные технологии, цифровые двойники, умный интернет вещей, людей и документов (интернет агентов) и др. Это инструменты ИИ, без которых нельзя построить практические внедрения. К сожалению, в нашей стране число команд, которые занимаются разработкой такого инструментария, можно пересчитать по пальцам.

Наконец, было бы разумно предусмотреть в «Стратегии» создание единой открытой Национальной цифровой платформы и эко-системы ИИ моделей, методов и средств, допускающую конкуренцию и кооперацию решений, где также можно было бы изучать, тестировать, выбирать и сравнивать разные модели и методы ИИ на принципах Open Source. Это, кстати сказать, один из выводов одной из «Дорожной карты по ИИ» в США (вышла в августе 2019), которой предусматривается создание сети ИИ центров и ИИ лабораторий по всей стране, создающих отдельные сервисы и конкретные прикладные решения для разных отраслей, наполняющие эту платформу своими разработками. Открытая единая платформа нужна потому, что частные ИИ компании вряд ли будут отдавать кому-то свои результаты. Нужны другие формы партнерств, причем с независимыми Open Source модулями, которые люди могут брать и использовать бесплатно, например, до получения коммерческого результата — тут много новых форм сотрудничества, популярность которых нарастает во всем мире».

Мнения спикеров могут не совпадать с позицией редакции