Перейти к основному контенту
Санкт-Петербург и область ,  
0 

Представитель «Яндекса» — о потере приватности: «Дальше будет больше»

Руководитель лаборатории машинного обучения компании «Яндекс» Александр Крайнов рассказал о преимуществах и угрозах искусственного интеллекта для общества
Руководитель лаборатории машинного обучения компании «Яндекс» Александр Крайнов
Руководитель лаборатории машинного обучения компании «Яндекс» Александр Крайнов (Фото: Антон Кузнецов/РБК Петербург)

«Существует образ: в подвале сидит искусственный интеллект, который становится все умнее, решает все более сложные задачи и со временем неизбежно захватит мир. Это полная ересь», — сказал руководитель лаборатории машинного обучения компании «Яндекс» Александр Крайнов на public talk в рамках Digital Forum РБК Петербург. И все же, по его словам, развитие подобных технологий несет определенную угрозу. Связана она не с тем, что бездушные математические алгоритмы начнут уничтожать человечество, а с тем, что они радикально перекраивают привычную нам среду обитания. Быть успешными в новой реальности смогут далеко не все. Впрочем, как объяснил Крайнов в разговоре с РБК Петербург, попытки отсрочить эту новую реальность опасны намного больше, чем она сама.

ПУТЬ ХОЛЕСТЕРИНА

— Есть такое ощущение, что искусственный интеллект неожиданно стал играть стержневую роль в технологическом развитии — с какого момента это произошло?

— Это во многом вопрос терминологии. На самом деле, он появился довольно давно. Десятки лет развивались такие вещи как компьютерное зрение, распознавание речи, машинный перевод. Люди делали беспилотные автомобили, анализировали данные, и все это не называлось термином «искусственный интеллект». Биометрией, распознаванием лиц и голосов — этим тоже люди занимались очень давно. Это был относительно узкий круг специалистов, которые спокойно сидели и не вызывали у широкой общественности особого интереса. До поры до времени.

— И что произошло? Почему эта тема вдруг ворвалась в медиа пространство?

— Компьютер выиграл у человека в го. Это произошло в 2016 году. Вы спросите, что это изменило. Для людей, которые занимались машинным обучением, это не стало сюрпризом. К тому моменту уже появились сверточные нейронные сети, и было вполне ожидаемо, что они отлично проявят в этой игре. Но для тех, кто был далек от машинного обучения, победа компьютера стала шоком.

— Почему? В шахматы, например, компьютер периодически выигрывал у человека и раньше.

— Го отличается от шахмат примерно так же, как шахматы от крестиков-ноликов. В го число вариантов больше, чем число атомов во вселенной. Там, в отличие от шахмат, невозможно выиграть только благодаря просчету вариантов. По идее это лишает компьютер его главного козыря. Игроки в го, выбирая следующий ход или гипотезу хода, мыслят терминами «это гармонично», «это красиво», «здесь у меня будет переконцентрация, а здесь не будет» — понимаете?

— То есть никакой арифметики?

— Для выбора основных гипотез первого хода — да. Чистая интуиция. Получается так, что дерево возможных вариантов уменьшается до просчитываемого за счет интуитивного выбора следующих возможных ходов. Интуицию всегда считали уникальным свойством человека. А тут ничего себе — ее научилась проявлять машина. Фактически, все, что научилась делать машина, — это предсказывать следующий ход на основе ранее проанализированных партий. Именно так действует человек. Например, когда думает, в какое место в комнате лучше всего повесить картину. Чтобы выбрать, ему нужно подойти и приложить картину туда или сюда. А вот выбор первого места — это вроде бы случайный вариант. Однако он не совсем случайный, потому что человек в действительности ориентируется на прошлый опыт. Примерно так машина начала предсказывать ходы.

«Интуицию всегда считали уникальным свойством человека. А тут ничего себе — ее научилась проявлять машина»

Программа развития РБК Pro Освойте 52 навыка за год
Программа развития — удобный инструмент непрерывного обучения новым навыкам для успешной карьеры

Впрочем, и это сражение человека с компьютером в го осталась бы незамеченным широкой общественностью, если бы журналисты хором не начали говорить: «Искусственный интеллект обыграл человека». Не машинное обучение, а именно искусственный интеллект. По сути, это одно и то же, но ИИ звучит, согласитесь, более эффектно. Этот термин стала использовать компания DeepMind, разработчик AlphaGo. И, например, Facebook заявил: «Мы же то же самое делаем, у нас тоже ИИ», и остальные.

Александр Крайнов
Александр Крайнов

Знаете, есть такая шутка, что если кто-нибудь в первый раз на пачке геркулеса напишет «без асбеста», то все остальные тоже будут вынуждены писать так. Именно это произошло с холестерином на растительном масле — абсурдно ведь писать, что его там нет, но кто-то начал — и теперь все производители вынуждены это указывать. А теперь то же самое происходит с ИИ. Любопытно то, что внутри компаний термин ИИ никто не употребляет — говорят «машинное обучение».

ЧТО С ЭТИМ ДЕЛАТЬ

— Ну хорошо. Теперь о существовании ИИ (как его ни называй) знают все. Следующий вопрос — как этим знанием распорядиться. В разных странах, насколько нам известно, по-разному на этот вопрос отвечают.

— Действительно, вся эта история не могла пройти мимо государств. И государства разделились на две категории. Одни заявили: мы не понимаем, что это такое, поэтому давайте всех защитим — нужно срочно издать указ, который что-то регулирует и запрещает. Таким путем пошли страны Европы. Их позиция: давайте подумаем, как запретить и как все зарегулировать и сделать так, чтобы никто нигде не навредил, используя ИИ. Мы не понимаем, что это, но это что-то страшное.

«Если кто-нибудь в первый раз на пачке геркулеса напишет «без асбеста», то все остальные тоже будут вынуждены писать так. Теперь то же самое происходит с ИИ»

Другие говорят: у нас появились прекрасные возможности. Например, Китай. Это не та страна, которая упускает хоть какие-нибудь возможности. Это люди, готовые на многое за процент роста, а тут много процентов. Поэтому Китай это все внедряет максимально быстро.

Многие страны занимают промежуточную позицию. Отдельно я бы выделил Канаду, которая пошла очень умным путем. Она присутствует на всех топовых конференциях по ИИ, приглашает к себе ученых, стартапы. Кроме того, в Канаде изначально были очень сильные в университеты, они стали одним из лидеров этого направления. Для относительно небольшой по численности страны это отличный результат.

Александр Крайнов
Александр Крайнов

— А какова позиция российского государства?

— Наше государство тоже не могло оставаться в стороне, и совсем недавно президент утвердил нашу национальную стратегию развития ИИ. Наша национальная стратегия, на мой взгляд, получилась на удивление нормальной и взвешенной. Обычно, если вам нужно сделать что-нибудь, в чем вы мало понимаете, вы находите в своем окружении того, кто понимает и того, кто больше всех хочет результата. В случае национальной стратегии этим человеком для нашего государства оказался Герман Греф, поэтому стратегию российского ИИ было предложено разработать Сбербанку. Сбербанк разрабатывал стратегию совместно со множеством участников со стороны бизнеса, науки и государства.

«Мы не понимаем, что это такое, поэтому давайте всех защитим — нужно срочно издать указ, который что-то регулирует и запрещает»

— Стратегий в России написаны тысячи, но мало какие из них реализуются. Какое практическое значение будет иметь стратегия в сфере ИИ?

— Очевидно, что государством будут выделяться серьезные деньги на реализацию программы, которая будет призвана обеспечить эту стратегию. Какие-то серьезные деньги пойдут в образование, потому что на рынке кадровый голод, нехватка специалистов. Какие-то деньги пойдут на обеспечение внедрений. И здесь любому бизнесу нужно понимать, что можно в той или иной форме рассчитывать на поддержку государства. Т.е. если вы сами делаете технологии ИИ, значит, высока вероятность того, что государственная компания с большим удовольствием, нежели раньше, будет это внедрять. Это всегда полезно — если действия бизнеса попадают в KPI чиновников.

БЕГ С ПРЕПЯТСТВИЯМИ

— Можно ли уже сейчас говорить о каких-то результатах? Как Россия в этом смысле выглядит на фоне других стран?

— Существует ряд ключевых параметров, по которым можно оценивать успешность развития технологии ИИ в той или иной стране. Пункт первый — это наука. Это нечто, вокруг которого все пляшет. С точки зрения науки, мы, конечно, в абсолютно невыгодной позиции по отношению ко многим другим странам, потому что доля российских публикаций на топовых мировых конференциях весьма невелика. Ситуация в науке примерно такая же как, например, в футболе. У нас может быть свой чемпионат, много команд, но уровень футбола в стране оценивается по числу ее игроков в лучших клубах мира. Или по ее достижениям на мировых чемпионатах.

Если говорить о науке, то по этому параметру мы даже в двадцатку не попадаем и очень сильно проигрываем Китаю, Америке. У нас университеты и коммерческие компании, которые что-то публикуют на тему ИИ на типовых конференциях, можно пересчитать по пальцам двух рук. На последней прошедшей конференции NeurIPS от нашей страны было принято 10 работ российских исследователей (из них 6 от Яндекса). А всего на конференции было больше тысячи работ.

Следующий момент — это кадры, и здесь ситуация тоже печальная. В наших вузах нет специальности «машинное обучение», ИИ. Если мы посмотрим, где более-менее массово готовят специалистов — в Москве есть Вышка (факультет компьютерных наук), есть МГУ, Физтех, что еще… по большому счету всё. Поэтому, если вы меня спросите, где взять сильных специалистов, то у меня для вас плохие новости — я не знаю, где вы их возьмете. За них на рынке огромная конкуренция. На зарплаты их тяжело сманить — они везде неплохо кормятся. Сильные специалисты идут работать туда, где уже есть другие сильные специалисты. Существует такое правило: если вдруг оказывается, что в комнате ты самый умный — время поменять комнату. Есть центры притяжения — большие компании, где уже работают сильные специалисты, и другие специалисты идут туда. Поэтому очень сложно построить у себя команду с нуля.

«Если вы меня спросите, где взять сильных специалистов, то у меня для вас плохие новости — я не знаю, где вы их возьмете»

— Какие еще существуют помехи внедрению ИИ в России?

— Их много. Но одно из главных, пожалуй, — это общественное мнение. Как люди в массе своей представляют ИИ? Существует образ: в подвале сидит некий ИИ, типа биоробота, который становится все умнее, решает все более сложные задачи и со временем неизбежно захватит мир. И это мнение укрепляется. Если выйти на улицу и опросить людей, что они думают про ИИ, это будет полная ересь. Люди не понимают, что это просто набор методов. Отсюда страхи, фобии и вопросы в духе что будет, когда ИИ попытается захватить мир. И общественное мнение — это один из самых серьезных барьеров на пути внедрения ИИ.

Антон Крайнов
Антон Крайнов

ВСЕ УЖЕ ДАВНО СЛУЧИЛОСЬ

— Про страхи и фобии. Вы действительно считаете, что бояться совсем нечего? А как же, например, государство, вооруженное искусственным интеллектом? Не станут ли тогда реальностью кошмары, описанные Оруэллом?

— С одной стороны, страх оправдан. Государство всегда вооружено лучше, чем гражданин. Превратится ли оно в такого монстра, который будет контролировать каждый наш шаг? Да, это произойдет — нас начнут контролировать и каждый наш шаг будет известен системе. Это неизбежность. С другой стороны, бояться нечего, потому что отчасти все это уже произошло.

«Приватность мы понемногу теряем уже долгие годы. Дальше — больше. И избежать этого нельзя, потому что это эффективно»

— То есть?

— Сначала у людей появились фамилии — это произошло относительно недавно. И приватность несколько уменьшилась. Потом появились записи в уездных книгах. Потом общие базы данных. Потом мы стали платить за покупки банковскими картами. А потом у нас появились смартфоны — о какой тут приватности можно говорить? Различные системы отслеживают наши перемещения, знают все о наших покупках… То есть приватность мы понемногу теряем уже долгие годы. А теперь нас будут еще и узнавать по лицу. Дальше — больше. И избежать этого нельзя, потому что это эффективно для государства, для общества.

Хотя персонально многим (и мне, например) это не нравится. Я вырос в других условиях, где есть приватность, есть ощущение защищенной частной жизни, и оно важно. Но наши дети растут уже в других условиях — для них такая ситуация будет привычна.

Полная версия public talk «Столбовой путь прогресса или технологический тупик» опубликована на сайте VI Digital City Forum РБК Петербург

Прямой эфир
Ошибка воспроизведения видео. Пожалуйста, обновите ваш браузер.

  

Лента новостей
Курс евро на 28 марта
EUR ЦБ: 100,27 (-0,14)
Инвестиции, 27 мар, 17:15
Курс доллара на 28 марта
USD ЦБ: 92,59 (+0,02)
Инвестиции, 27 мар, 17:15
Акции «Магнита» подорожали до максимума с конца октября 2017 года Инвестиции, 14:11
В Новой Москве загорелся магазин «Дикси» Общество, 14:04
Сливко и Гараничев выиграли одиночную смешанную эстафету на ЧР Спорт, 13:57
Квартиры с отделкой, которые сдадут уже в этом году РБК и ПИК, 13:55
Шойгу вручил медаль «Золотая звезда» командующему группировкой «Центр» Политика, 13:54
Эмин Агаларов допустил передачу нового залога по кредиту вместо «Крокуса» Финансы, 13:47
МВД объявило в розыск украинца, склонявшего российских детей к терактам Политика, 13:47
Здоровый сон: как легче засыпать и просыпаться
Интенсив РБК Pro поможет улучшить качество сна и восстановить режим
Подробнее
Астана стала одним из городов для редомициляции. Как «перевезти» фирму Pro, 13:46
Банк России включил «Тинькофф» в реестр операторов по выпуску ЦФА Крипто, 13:39
Пугачева после теракта заявила о скорби «в душе, а не в Instagram» Общество, 13:38
Бой между двумя россиянами и поединок Чимаева возглавят турнир UFC в июне Спорт, 13:37
В России хотят запустить жилищные вклады: зачем они и насколько выгодны Недвижимость, 13:36
Песков сообщил о работе из-за проблем с оплатой за нефть в Китай и Турцию Экономика, 13:29
Первый фигурант дела о теракте в «Крокусе» обжаловал свой арест Политика, 13:28