Моральный тормоз: что остановит разбег искусственного интеллекта

Фото: Страница Группы ЦРТ в социальной сети Facebook

В некоторых отраслях отечественной экономики технологии искусственного интеллекта (ИИ) внедряется быстрее, чем на Западе, утверждают эксперты РБК Петербург. Применение таких технологий значительно удешевило разработку продуктов в самых разных сферах, а в некоторых случаях позволило решать задачи, которые раньше считались нерешаемыми. Компании, «оседлавшие» ИИ, таким образом смогли создать новые сферы деятельности — и увеличить свои доходы в несколько раз. Однако получат ли эти бизнесы долгосрочную коммерческую отдачу — во многом зависит от ответов на этические вопросы.

Недорого. Возможно

Помимо серьезного повышения качества продукта, использование ИИ в ряде случаев приводит к заметному его удешевлению. «В 2005-2010 годах для наших систем видеонаблюдения надо было закупать довольно дорогие, от 60 тысяч до 200 тысяч рублей, камеры «машинного зрения» и очень мощные серверы, — приводит пример Андрей Хрулев, директор по бизнес-развитию направления биометрических систем петербургской группы компаний «ЦРТ», крупнейшего разработчика систем интеллектуальных речевых технологий, голосовой биометрии и распознавания лиц. — А искусственный интеллект сильно понизил требования к оборудованию — теперь вполне годятся камеры за 10-30 тысяч и обычные серверы». «В результате стоимость систем распознавания снизилась на порядок, — резюмирует эксперт, — притом что качество распознавания значительно выросло».

По его словам, это сделало биометрию доступной тем сферам бизнеса, которые раньше не могли себе ее позволить: «Раньше ритейлеры даже не смотрели в сторону биометрии, поскольку затраты на ее внедрение не окупались; сейчас они все более активно используют биометрию с ИИ».

По словам экспертов, активнее всего ИИ сейчас применяется при разработке технологий для сферы финансов, ритейла, транспорта, при машинном анализе текстов и их переводе. В биометрии ИИ больше всего востребован в системах безопасности — в аэропортах, на ж/д вокзалах, стадионах, при реализации проектов «Безопасный город», в банках. Также ИИ используется для определения потребностей клиентов с целью формулировки им предложений — как в тех же банках, так в последнее время и в ритейле. Правда, ритейл, по словам Андрея Хрулева, применяет биометрию очень осторожно, поскольку маржинальность этого бизнеса, как правило, невелика (в сравнении, например, с банками), а значит, риски относительно высоки.

Руководитель департамента разработки беспилотных транспортных средств группы компаний Cognitive Technologies Юрий Минкин уточняет: ритейл использует ИИ не только в системах биометрии, но и в других технологиях, помогающих определять предпочтения клиентов и регулировать стратегию продаж, оптимизировать маркетинг (с помощью так называемой «таргетированной» рекламы) и др. Вообще, структура отраслей экономики, предъявляющих основной спрос на технологии с использованием ИИ, в России мало отличается от мировой — различия в основном количественные, утверждают эксперты.

Юрий Минкин приводит пример: системы активной помощи водителям российские автопроизводители используют в гораздо меньшем объеме, чем мировые автоконцерны. Это объясняется экономически — чтобы окупить такие системы, машины должны быть достаточно дорогими и выпускаться большими тиражами. Большим рынком дорогой технологически сложной продукции Россия похвастаться не может.

В то же время в ряде отраслей российский бизнес погрузился в ИИ-технологии даже глубже среднестатистического западного уровня. «Наши относительно молодые рынки финансовых услуг, телекоммуникаций и ритейла «проскочили» этап первых технологий с ИИ и сразу стали внедрять уже самые последние разработки. Их западные коллеги продолжали использовать устаревшие технологии, чтобы окупить свои затраты, — говорит Юрий Минкин. — В результате решения в этих сферах у нас сейчас зачастую более продвинутые».

Россияне все активнее используют ИИ не только потому, что он позволяет при уже доступном уровне затрат на внедрение эффективнее работать и лучше продавать. Есть еще одна причина: многие операции без ИИ попросту невозможны.

Основа новых бизнесов

Только ИИ, как утверждает Юрий Минкин, с его способностью «понимать» контекст, позволяет создавать беспилотные транспортные средства 4-го и 5-го уровней автономности, способные ориентироваться в сложной ситуации — при плохой погоде, слабой видимости, невнятных дорожных знаках и разметке и т.д.

Именно эта способность позволила компании Cognitive Technologies значительно увеличить объемы продаж своих продуктов. Разработанная с использованием ИИ система «Агродроид C2-A2» «умеет», как утверждают в компании, превращать в беспилотник любую сельскохозяйственную технику — трактор, комбайн, опрыскиватель. На испытаниях в Белгородской области беспилотная техника самостоятельно прошла более 200 км и обработала более 60 га земли в сложных условиях — с сильным запылением, в темное время суток. В результате объем заказов компании вырос на 37% по сравнению с прошлым годом. Сейчас Cognitive Technologies, благодаря обладающему ИИ «Агродроиду», получила предзаказы из Китая, Бразилии и Аргентины. В 2019 году она планирует выпустить 870 агродроидов стоимостью от $3 тыс. до $10 тыс.

Биометрический дивизион группы компаний ЦРТ начиная с 2014 года, благодаря внедрению ИИ, увеличил объем продаж более чем в 10 раз. Биометрическими продуктами ЦРТ заинтересовались в Европе, Латинской Америке, на Ближнем Востоке. Выросли продажи и в России: только лицевая биометрия (система распознавания лиц) работает более чем на 10 стадионах и ледовых аренах, на 24 транспортных объектах, в 5 городах в рамках реализации концепции smart city. Используемые в этих заказах решения не работают без ИИ, говорят представители ЦРТ.

Применение ИИ в его традиционном понимании увеличило продажи петербургской группы компаний «Геоскан» примерно на 20%. В то же время, если ИИ трактовать более широко (как технологию, работающую аналогично человеческому мозгу, в частности при реконструкции 3D-изображения из двухмерной картины), то, по словам главы ГК «Геоскан» Алексея Семенова, бизнес компании целиком, на 100%, основан на применении ИИ.

«Это технология для решения таких задач, без которой их решить невозможно, — утверждает генеральный директор медицинской компании «АйБрейн» Константин Сонькин. — ИИ может выявить закономерности, которые мы не увидим невооруженным глазом». Вслед за Алексеем Семеновым он утверждает, что для его компании, разрабатывающей системы реабилитации пострадавших от инсульта и восстановления спортсменов после травм, ИИ — основа бизнеса. «Для нас ИИ — единственный доступный инструмент для создания нового решения», — говорит Сонькин.

На одном из круглых столов недавно прошедшего в Петербурге Scienсe Fest 2019 руководитель Лаборатории машинного интеллекта «Яндекса» Александр Крайнов заявил: «Без ИИ не могут существовать, например, поисковые системы. Если вынуть оттуда ИИ, то поиск вообще перестанет работать. То же самое — в банковском деле. Если из системы скоринга убрать технологию машинного обучения, современные банки просто развалятся».

ИИ произвел революцию в сфере анализа и перевода текстов, сделав рынок машинного перевода масштабным и быстрорастущим. «Раньше программы переводили только отдельные слова. Нейронные сети, составляющие основу технологий ИИ, «запоминают» всю подаваемую им информацию и потому способны «обучаться», «понимать» контекст. В результате возникает возможность переводить текст не отдельными словами, а целыми фразами, с учетом контекста», — говорит Юрий Минкин.

«Современный машинный перевод на основе нейронных сетей — это без преувеличения революционный подход к переводу с помощью компьютера, — утверждает Юлия Епифанцева, директор по развитию бизнеса компании ПРОМТ, одного из лидирующих российских разработчиков программ для машинного перевода. — В основе технологии — алгоритмы глубокого обучения (Deep learning) и значительные по объему корпуса параллельных текстов. По сравнению с традиционными методами, статистическими и основанными на правилах, новая технология позволяет получить более точный и гладкий текст, во многих случаях не требующий редактирования человеком».

По оценкам специалистов ПРОМТ, ИИ ускоряет процесс подготовки технической документации (для промышленных компаний, использующих иностранное оборудование) и сокращает расходы на перевод на 30-40%. По данным Global Market Insights Inc., рынок машинного перевода к 2024 году должен составить более 1,5 млрд долларов США. Годовой прирост оценивается в 14,6%.

Анализ текстов с помощью ИИ применяется в том числе в медицине. По словам Ирины Алисовой, помощника ректора Санкт-Петербургского химико-фармацевтического университета, поисковая система Reaxys компании Elsevier S&T, использующая самообучающиеся нейросети, способна по контексту анализировать сложные медицинские тексты. «Система значительно сокращает время на поиск нужной информации по материалам биохимических, доклинических и клинических исследований, — рассказала она. — Это, например, позволяет разработчику нового лекарства довольно точно предсказать, насколько конкретная молекула, которую он хочет использовать, является безопасной — ИИ находит отчеты соответствующих исследований».

Горизонты и препятствия

Мировым лидером как в разработке, так и в применении биометрии с ИИ Андрей Хрулев называет Китай. Он объясняет это пониженной чувствительностью китайцев к вопросам этики. У американцев такая чувствительность, наоборот, крайне высока, что проявилось в недавнем законодательном запрете на использование биометрических систем наблюдения в нательных камерах полицейских Калифорнии и аналогичном запрете для дорожных камер в Сан-Франциско. По словам Андрея Хрулева, это сильно тормозит развитие современной биометрии в США. По этой же причине в Китае развитие технологий ИИ идет чрезвычайно быстро. В России ситуация промежуточная.

«В силу специфики российского общества интерес к этическим аспектам использования ИИ здесь будет слабее, чем в ряде западноевропейских стран, в ментальности которых вопросы этики вообще занимают несколько большее место, чем у нас, — считает председатель Ассоциации электронных денег Виктор Достов. — Но интерес неизбежно будет повышаться и у россиян. Ряд применений ИИ, например способность обрабатывать большие массивы персональных данных, конечно, пугает».

Этические и связанные с ними законодательные ограничения в сборе и обработке персональных данных мешают ИИ развиваться в буквальном смысле: он учится на большом объеме информации. По словам совладельца IT-компании Tvori Инги Петряевской, глубина «понимания» контекста, от которой зависит уровень автономности беспилотного автомобиля — да и вообще качество распознавания объектов и образов, — определяется качеством «обучения» нейронных сетей. А это качество прямо зависит от объема передаваемых сетям знаний. Для беспилотных авто — от количества данных, предварительно собранных с датчиков, установленных на дорогах России. Сбор этих данных — отдельная большая работа, которая требует времени и определенных усилий.

Александр Крайнов называет вопрос накопления эмпирических данных для обучения нейросетей ключевой проблемой нынешнего этапа развития ИИ в стране. Он утверждает, что без накопления достаточного объема данных эффективное применение ИИ невозможно. Именно по этой причине в медицине, в образовании и других сферах ИИ до сих пор не применяется в полном объеме, утверждает эксперт. «Самое важное сейчас — собирать данные, потому что одна из главных причин нашего бессилия в ряде случаев — это их отсутствие», — утверждает Александр Крайнов.

Многолетние усилия петербургской компании CompMechLab® по сбору эмпирических данных в сфере промышленности позволили ей, как утверждает ее глава Алексей Боровков, создать эффективную цифровую фабрику — и она способна использовать возможности ИИ при реализации технологии цифрового двойника для создания промышленных продуктов. Наоборот, отсутствие накопленных данных привело к неуспеху целого ряда похожих проектов.

При всем том даже наиболее активные сторонники развития ИИ не призывают «задвинуть» на задний план этические вопросы, указывая на реально существующие риски. Так, достигнутое с помощью ИИ повышение качества биометрии и ее радикальное удешевление (практически до уровня бытового потребления) открыло ящик Пандоры, говорят в ЦРТ. «Появилась возможность довольно легко манипулировать данными, — объясняет Андрей Хрулев. — Например, с помощью технологий синтеза можно взять лицо клиента банка и перенести его в видеопотоке на свое лицо. В реальности снимать деньги со счета или в банкомате будете вы, а в цифровом образе (в системе видеонаблюдения) это будет делать клиент банка. Таким же способом можно сфабриковать видеофайл, где очень важное лицо (высокопоставленный чиновник, президент страны и т.д.) якобы сделает заявление, которое может реально обрушить фондовые рынки. Понятно, какие огромные риски при этом возникают».

Такой спуфинг (подмена изображения или голоса) подобен компьютерным вирусам, защититься от которого можно специальными «антиспуфинговыми» программами, распознающими подделки. «Сейчас каждая биометрическая система обязательно содержит антиспуфинговую программу, — утверждает Андрей Хрулев. — Заметного удорожания системы при этом не происходит. Однако, как все время появляются новые вирусы, так и создатели спуфинговых программ периодически разрабатывают новые технологии подмены образов».

«Когда мощности ИИ качественно возрастут, станут весьма актуальными вопросы этичности его применения, связанные с анализом и возможностью контроля человеческого поведения, с возможностью принятия ИИ неких самостоятельных решений, которые мы не понимаем, но которые будут влиять на наши судьбы, — развивает тему Виктор Достов. — Споры будет вызывать, например, глубокий анализ финансового поведения людей и опасность манипулирования. Или глубокий анализ медицинских данных человека, позволяющий предсказывать его жизненный паттерн, его физическое или психологическое состояние».

В период до пяти лет, как полагает Достов, этические проблемы не будут серьезно влиять ни на развитие самих технологий ИИ, ни на инвестиционную привлекательность сегментов, их активно применяющих. «Но через пять лет нам придется определиться с возможными злоупотреблениями и границами допустимого использования искусственного интеллекта, — прогнозирует эксперт. — Тогда вопросы этики и правовые вопросы станут влиять на окупаемость инвестпроектов; на возвратность средств, вложенных в такие технологии».

Тем не менее, процесс инвестирования в основанные на ИИ новые бизнесы уже пошел и набирает обороты, утверждает Виктор Достов. «На мой взгляд, перспективны для инвестиций такие области применения ИИ, как поисковые системы в интернете, биометрия, беспилотники, трансляционная и персонифицированная медицина, финтех, анализ текстов и ряд других новых технологических областей», — полагает он.

Баскетбольный мяч в сравнении с планетой: чем искусственный интеллект отличается от обычного

Руководитель Лаборатории машинного интеллекта компании «Яндекс» Александр Крайнов:

«Человеческий интеллект пока превосходит машинный, главным образом, по двум параметрам. Во-первых, по способности собирать информацию. Человек ее собирает в непрерывном контакте с окружающей средой с помощью разных органов чувств, а у машины набор разных датчиков гораздо скромнее и качество инструментов ниже.

По этой причине искусственный интеллект не может работать без человеческих знаний. Нейросеть надо обучить на примерах музыки, изображений, текстов. Всегда нужны будут люди, которые учат нейронную сеть. Такие люди должны быть высококвалифицированными, и по мере совершенствования нейросетей требования к квалификации специалистов будут возрастать.

Во-вторых, наши с нейросетью интеллекты различаются по информационной емкости. Там разница колоссальная — просто пропасть; как баскетбольный мяч в сравнении с планетой Земля, по количеству битов информации. Количество базовых элементов в биологическом «чипе» человеческого мозга, нейронов, на много порядков больше, чем у электронного компьютерного чипа. Самый мощный искусственный интеллект — это лягушка в сравнении с человеком. Это главное различие, и оно пока совершенно непреодолимо.

Третье различие — в разных способах развития. Нейросеть легко воспроизводит один экземпляр и максимально эффективно решает одну узкую задачу. В этом смысле машинный интеллект превосходит человека, который крайне плохо воспроизводится, у нас все время происходят разные мутации мышления, мы гораздо хуже решаем одну конкретную задачу.

Нейросети всегда будут обыгрывать человека в решении узкой конкретной задачи в четко заданных условиях. При решении неясной, нечетко сформулированной задачи в изменяющихся условиях нейросети крайне слабы. Мы архитектурно настолько разные с машиной, что вряд ли когда-нибудь машина приблизится к нам.

При этом ИИ способен к творчеству. Он уже может рисовать картины, сочинять музыку и даже стихи — некоторые образцы творчества нейросетей люди оценивают достаточно высоко. Но машине не дается проза. Стихи, музыку и картину можно создать случайно, методом имитации — а прозу нет, ее нельзя сымитировать. Для сочинения в прозе надо держать очень длинный смысловой контекст — а это у машины не получается. И главное — необходимы знания, причем разнообразные, в широком диапазоне. У машины такого объема информации нет.

Но это не значит, что ИИ бесполезен для «настоящего» творчества. Я уверен, что человек, вооруженный нейронными сетями, будет творить более продуктивно и у него будет больше шансов сотворить что-то новое».