Тема public talk — «Столбовой путь прогресса или технологический тупик». Может быть, есть альтернативы широкого применения искусственного интеллекта? Сегодня мы это обсуждаем.

Я хотел сделать обзор, что происходит с ИИ в России и в мире в целом. Для этого отойдём назад. Как все начиналось. Довольно давно, десятки лет развивались такие вещи как компьютерное зрение, распознавание речи, машинный перевод. Люди делали беспилотные автомобили, анализировали данные и все это не называлось словом ИИ. Всему этому много времени. Вот поиск, который я упоминал — у нас была в «Яндексе» такая история. Ровно 10 лет назад мы оказались в какой-то страшной беде, и был вопрос, выживем ли мы вообще. Google тогда начал активно работать в России. И мы начали стремительно терять долю в поиске. А поиск знаете, чем характерен… Вот поднимите руку, кому не очень нравится его мобильный оператор и он думает, не поменять ли его? А кому не нравится банк? А почтовая система? А знаете, почему вы не меняете? Потому что это проблема. Потому что надо пойти, открыть счет в другом банке. С мобильными вроде сейчас отменили мобильное рабство, но это все равно процесс. Что нужно, чтобы поменять поисковую систему? Вообще ничего. И в поиске любой минимальный проигрыш по качеству сразу приводит к оттоку людей.

И когда Google сюда пришел, мы сразу начали проигрывать по качеству, это была катастрофа. Мы теряли рынок быстро. Тогда (это было ровно 10 лет назад) был поиск по машинному обучению, мы внедрили MatrixNet, что резко повысило качество поиска, и тренд поменялся. Мы стали отыгрывать потерянную долю. Мы стали искать лучше, и люди вернулись.

Вот чтобы понять, насколько это важная история. Сейчас эта формула ранжирования занимает примерно 1 гб и она подбирается каждый день. Представляете размер такой формулы? Это если ее в книгах записывать — это 10 тысяч книг. Это размер формулы ранжирования поиска. И так надо, потому что, если мы не будем ее обучать, мы проиграем рынок.

Ну, Ок. Биометрией, распознаванием по лицу, по голосу людей тоже бог знает сколько времени занимались. И вот люди все это делают — и речь распознают, машинный перевод, сидят спокойно, никто их не трогает. Узкая ниша специалистов, никому они неинтересны. Что произошло? Бабахнуло вот что — когда компьютер обыграл в го человека. А что в этот момент поменялось? Люди, которые занимались машинным обучением — мы да, мы так и ожидали. Как раз появились сверхточные нейронные сети, как раз было логично, что они на этой игре себя проявят. Люди, которые были далеки от этого, те слегка прибалдели. В чем разница между го и шахматами? В го количество вариантов больше, чем атомов во вселенной. Го отличается от шахмат примерно так же, как шахматы от крестиков-ноликов. Там очень мало возможностей для просчета. Там люди, которые играют, они мыслят категориями выбирая следующий ход или гипотезу хода — они мыслят терминами — вот это гармонично, это красиво, здесь у меня будет переконцентрация, а здесь нет. Вот какие-то такие восточные темы. Они проявляют интуицию. А тут ничего себе — машина научилась проявлять интуицию. Фактически, все, что научилась делать машина, она научилась предсказывать следующий ход на основе ранее проанализированных партий. Вот знаете, когда мы думаем, в какое место в комнате лучше повесить картину, нам нужно подойти и приложить вот сюда или сюда, но вот выбор первого места — это случайный вариант. Однако он не совсем случайный. Мы ориентируемся на прошлый опыт. Вот примерно так машина начала предсказывать ходы. Кроме того это была последняя оставшаяся в мире игра с полной информацией, где нет случайного элемента, где человек уверенно обыгрывал компьютер. А тут надо же — компьютер выиграл. Но дело даже не в событии, оно прошло бы незамеченным. Если бы в этот момент кто-то из журналистов или все не начали говорить — ИИ обыграл человека. Не машинное обучение, а ИИ. И дальше компания Дип Майнд, разработчик ИИ, обыграла человека. Facebook, который в этот момент делал свой го. «Мы же то же самое делаем, у нас тоже ИИ», -сказали их пиарщики.

Искусственный интеллект. И тут, в этот момент началось. Знаете, есть такая шутка, что если кто-нибудь в первый раз на пачке геркулеса напишет «без асбеста», то все остальные тоже будут писать так. Именно так произошло с холестерином на растительном масле. Так вот теперь все стали вынуждены говорить про ИИ. При этом парадокс — внутри любых компаний слова ИИ никто не употребляет, говорят «машинное обучение». А наружу произносят ИИ. И, казалось бы, в чем разница? Просто термин «машинное обучение» не вызывал никакого хайпа, и он был неинтересен никому, а ИИ — прямо стало жутко всем интересно.

Но. Здесь в колонке процент упоминания в новостях. Что круче бокс или ИИ? Бокс пока держится, ИИ почти догнал его. Мы придаём такую большую важность понятию ИИ, чтобы вы понимали все-таки, какую часть вы занимали в жизни людей — не очень большую. Последний взлет бокса — это истории с Хабибом. А вот это сравнение с Ольгой Бузовой, которую я не знаю. Почему — я отказываюсь это комментировать — почему она шла вровень с ИИ? Нет идей. Но в какой момент резко вырвалась вперед и даже обогнала бокс. И чтобы понять, что действительно интересует людей, где это все вместе — и бокс, и Бузова, и ИИ. Это вот эти зеленые линии — это котики. Это все новости про кошек. А темы, которые мы обсуждаем — они вот здесь. Доля самоиронии всегда будет полезна. Хорошо.

И все это хозяйство не могло пройти мимо государств. Все такие: «Ничего себе. Сейчас же такой ИИ появился, это же прямо что-то очень важное и непонятное». Государства разделились на 2 категории. Одна категория заявила: мы не понимаем, что это такое, поэтому давайте всех защитим, нужно срочно издать указ, который что-то регулирует и запрещает. А другие говорят: у нас появились прекрасные возможности. Это Китай. Это станы, которые начали активно принимать собственные стратегии развития ИИ. Там довольно много общих фраз. Все эти стратегии похожи, но с некоторыми отличиями. Европейская история — это давайте подумаем, как запретить и как все зарегулировать и сделать так, чтобы никто нигде ИИ не использовал. Мы не понимаем, что это, но это что-то страшное. Китай — это же возможности. А Китай — это не та страна, которая упускает хоть какие-нибудь возможности, это люди, которые удавятся за процент роста, а тут его много. И Китай это все внедрит. Ну и остальные страны занимают промежуточную позицию. Я бы выделил отдельно Канаду. Которая пошла очень умным путем, и она присутствует на всех топовых конференциях по ИИ прямо вот как страна. Она приглашает к себе ученых, стартапы. Они из ничего стали вот этими лидерами.

Наше государство тоже не могло оставаться я в стороне, и совсем недавно президент утвердил нашу национальную стратегию развития ИИ, которая в целом лежит в рамках развития цифровой экономики. Хотя и выделена в отдельный раздел, которая приводит к цифровой трансформации. К улучшению ключевых показателей, к росту валового продукта. И я могу долго продолжать речь, и наша национальная стратегия облипла всеми многочисленными формулировками, но если вот это все немного очистить и убрать, то можно узнать следующее. Национальная стратегия получилась на удивление нормальной и взвешенной. Она делалась таким образом: если вам нужно сделать что-нибудь, в чем вы вообще ничего не понимаете, что вы делаете? Вы находите в своем окружении кого-то, кто понимает. Этим человеком оказался Греф, поэтому стратегию российского ИИ было предложено разработать Сбербанку. Но когда человек в чем-то понимает, он очень хорошо знает границы собственной компетенции. И Сбербанк постарался собрать с рынков всех людей, которые хоть что-то знают, собрать на совет и вместе подумать. Что-то получилось, потому что часть ученых заняли такую позицию — мне не надо, мне и так нормально. Тем не менее, какое-то количество специалистов над стратегией потрудилось, она получилась разумная, вменяемая, хорошая.

К сожалению, в процессе ее принятия и в процессе перевода на такой язык государственный, в том виде, в котором она вообще могла быть принята, там чего-то ушло, что-то добавилось. Туда добавились пункты, которые специалисты вообще не хотели туда включать, не думали, что это нужно. Про то, что давайте защитим права человека, я так не понимаю, чем они ущемляются. Стратегия у нас есть, и неплохая. За нее нестыдно. Что это означает? Очевидно, государством будут выделяться серьезные деньги на реализацию программы, которая будет призвана обеспечить эту стратегию. Какие-то серьезные деньги пойдут в образование, потому что на рынке кадровый голод, нехватка специалистов. Какие-то деньги пойдут на обеспечение внедрений. И здесь любому бизнесу нужно понимать, что можно в той или иной форме можно рассчитывать на поддержку государства, когда речь идет о каких-то внедрениях. Т. е. если вы сами делаете технологии ИИ, значит, высока вероятность того, что государственная компания с большим удовольствием, нежели раньше, будет это внедрять. И тоже немаловажный момент — если мы просто занимаемся внедрением чего-нибудь, каких-то технологий в свой продукт, даже не в рамках стратегии, то в этот момент мы начинаем выполнять KPI государства. Потому что коль написано в стратегии, что должно быть больше внедрений, то откуда-то же они должны браться. Значит, мы выполняем KPI государства, значит, какой-то конкретный чиновник отчитается, что внедрение произошло. Это всегда полезно, если действие бизнеса попадают в KPI чиновника. Это хорошо. Это лишний аргумент, чтобы подумать, что это все нужно внедрять.

И что со всем этим происходит сейчас? Есть семь ключевых пунктов — по которым вообще оценивают состояние с ИИ, что там происходит.

Пункт 1. Наука. Это нечто самое передовое, вокруг которого все пляшет. Наука в этом случае очень отличается от других наук. Дело в том, что ИИ — это математика, это некоторая частная история, относящаяся к математике. Что такое открытие к математике? Это формула или последовательность их. Если есть формула, значит, с ее помощью можно что-то посчитать. И дальше мы посчитали одной формулой — получили одну ошибку, посчитали другой формулой, получили ошибку меньше. Мы знаем, что новая формула лучше. В области ИИ, чтобы сравнивать вообще свои результаты, ученые используют одни и те же наборы данных. На одном и том же наборе данных применили свой метод, сказали — вот смотрите методы остальных, вот мой, получилось лучше. Для пущей убедительности, что метод действительно работает и он настоящий, он выкладывается не только в виде исходной статьи, но и в виде исходного кода. Все передовые достижения науки ИИ доступны в виде исходного кода, который можно взять, скачать, и воспроизвести у себя тут же. А почему так происходит? Потому что на серьезную научную конференцию не возьмут ни одну статью, если она не обладает свойством воспроизводимости результатов. Если результат нельзя воспроизвести, эта работа никому не интересна. И дальше есть в мире несколько топовых — десяток наберется — конференций по машинному обучению, ИИ, и все, что там публикуется, все в открытом доступе. Оно все доступно всем. Нет какого-то достижения, которое есть у кого-то одного, а больше ни у кого нет.

С точки зрения науки, мы, конечно в абсолютно невыгодной позиции по отношению ко многим другим странам, потому что доля российских публикаций на топовых конференциях — это примерно как чемпионат мира по футболу. Ты можешь проводить свой локальный чемпионат, говорить, у меня много команд, но уровень развития твоего футбола можно оценивать по тому, сколько статьей у тебя на публикации. А точнее даже так. Там вообще иногда нельзя понять, чья это статья, она одновременно университетами разных стран делается. А сколько ученых из твоей страны там представлено? Сколько игроков из своей страны там играет? И вот тут у нас мало. Мы в двадцатку не попадаем и очень сильно проигрываем Китаю, Америке. Разница огромная. У нас университетов и коммерческих компаний, которые что-то публикуют, по пальцам двух рук пересчитать — и все. А там объективная история. Все лучшие статьи попадают ровно туда. И там очень жесткая и объективная система, которую не обмануть. И это ситуация с наукой. Но бонус в том, что данные доступны, и мы тоже как-то представлены.

Следующий момент — это кадры. С кадрами ситуация печальная. Кадры нужны очень, а у нас нет специальности «машинное обучение», ИИ, вообще нет. Это не значит, что нет вузов, которые готовят специалистов, это скорее случайные процессы, сейчас идет перестройка, но медленная. Если мы посмотрим, где готовят специалистов — в Москве есть вышка, факультет компьютерных наук, есть МГУ, физтех, что еще… по большому счету все. Это не значит, что больше нигде не могут вырастить специалистов, есть прекрасный абсолютно Сколтех. Это в Сколково, это университет, в котором постдипломное образование. Он один из самых сильных с точки зрения науки. В Петербурге ИТМО. Есть Лобачевского в Нижнем Новгороде, но там уже уровень слабее. Есть Новосибирск, есть в Екатеринбурге УРФУ. Все остальное, друзья, — это очень мало. В год получаются единицы сильных специалистов. Тут еще важная вещь — где я возьму сильного специалиста. У меня для вас плохая новость. Не знаю, где вы возьмете. За них на рынке драка. На зарплаты их тяжело сманить, они везде неплохо кормятся. Но сильные специалисты идут работать туда, где уже есть сильные специалисты. Есть такое правило — если вдруг оказывается, что в комнате ты самый умный — время поменять комнату. Поэтому есть центры притяжения, есть большие компании, где уже работают сильные специалисты, и другие специалисты идут туда. Просто двух хороших ребят найти очень тяжело. Их можно соблазнить на что-нибудь типа красивых названий должностей — внутренний стартап и все такое. Но битва за них очень серьезная. Кадровый голод сейчас просто огромный в этой области.

Что касается разработки. Как устроена современная разработка. Все статьи есть в открытом доступе, поэтому все выглядит так, что для множества задач достаточно группы из трех-четырех толковых студентов. Они могут взять и разработать какое-то решение, которое будет конкурентоспособно на мировом уровне. Вот прямо могут. И продукты такие периодически появляются. Во многих местах недостаточно реализации научных статей. Нужны хорошие архитектурные решения и — самое главное в машинном обучении — нужны огромные массивы данных, на которых нужно учиться. Вот это серьезнейший барьер, это есть не у всех компаний, и часто выигрывают те, которые собирают большие массивы данных. Это место, где три толковых студента, которые могут организовать научную статью, проигрывают большим компаниям. Но в целом здесь ситуация более-менее выровнена, и с точки зрения именно разработки в России ситуация хорошая. Я могу долго про нас хвастать, но не только мы — есть в России очень сильные компании в биометрии — в распознавании лиц, и рекомендательные системы многие делают. И то, что Mail.ru существует и нормально у него все с соцсетями, и во ВКонтакте сидит людей не меньше чем в Facebook в России это в том числе, потому что машинное обучение.

И в промышленности нормально. Вот в Петербурге очень сильна Газпром нефть с точки зрения применения технологий ИИ в промышленности. Тут у нас все более-менее хорошо.

Что касается железа. Это важная часть. Для работы всего этого ИИ требуется местами очень большие вычислительные мощности. Специальные процессоры, на которых все считается быстро. Одна из причин бума этих технологий, это появление видеокарт, которые оказались прямо очень хороши с точки зрения перемножения матриц — это одна из основных математических операций. И с железом ситуация тревожная, потому что есть сейчас фактически одна компания, которая не имеет конкурентов — это Nvidia, которая выпускает эти видеокарты, и она диктует рынку свои условия. Очень сильно этим делом обеспокоен Китай. Китай после всей истории с Huawei теперь понимает, что в любой момент могут что угодно запретить, поэтому сейчас там куча сил тратится на создание альтернатив. И я думаю, что они появятся очень быстро. И Huawei анонсировал — уже в следующем году в марте они выпустят собственные процессоры для обучения нейронных сетей, которые, как они говорят, будут не хуже процессоров не уступающих процессорам Nvidia. У нас что-то собираются делать на эту тему, но пока мы очень далеки. Потому что очень долго отставали и не очень сильно волновались, хоть это и имело смысл.

Дальше что касается внедрений. Есть компании типа Яндекса которые всю жизнь этим занимались, нам вообще не надо думать о внедрении — мы не можем без внедрений. Но во многих местах, где это не является строго обязательным, внедрения идут довольно тяжело. По причине того, что плохо понимают, как работают эти технологии, что нужно для внедрения. Дорого иногда внедрять. Иногда для внедрений нужны специалисты, которые сидят внутри, которые хорошо понимают процесс, и тогда будет это дело эффективным. Выясняется, что если мы будем это постоянно у себя использовать, то давайте мы не будем зависеть от мелкого поставщика, а возьмем к себе. А к себе взять не получается, и это тоже задерживает внедрение. Иногда, чтобы внедрить и начать получать прибыль, требуется очень много времени. И начальство начинает спрашивать: а когда мы что с этого получим? Иногда внедрение по три года занимает — чтобы что-то договориться делать. И это проблема для рынка. Более или менее идет дело хорошо в больших компаниях, которые решили, вырастить команды и внедрять сделанное своим руками. Но с точки зрения что-то купить на рынке и внедрить — с этим пока плохо. Биометрия еще ничего работает, понимание смысла речи, текста, а в остальных местах все идет гораздо медленнее.

Законодательная база. Тут тоже местами есть довольно серьезные отставания. Вот беспилотный автомобиль. У нас беспилотный автомобиль этой зимой в Лас-Вегасе на выставке катал людей в беспилотном режиме — там инженер сидел на пассажирском сидении, а за рулем никого не было. И катал легко пассажиров. Почему это произошло там, а не в Петербурге? Потому что мы здесь не можем это сделать по закону. Потому что там мы сертифицировали автомобиль, получили номера, собрали там и запустили — все вместе заняло три недели. Здесь на сертификацию одной машины уходит примерно месяц, чтобы она с инженером могла ездить. А инженер без руля нам только в двух местах разрешали и то там пока невыяснено, можно будет дальше или нет. Одно место — это в Сколково, а другое — в Инополисе в Казани. И беспилотные автомобили поедут не там, где их сделают в первую очередь, а там, где их разрешат. А машина должна хотя бы в тестовом режиме очень много в каком-то конкретном месте накатать, чтобы научиться там ездить. Если человек всю жизнь ездил в Европе, ему приехать в Москву будет непросто. То же самое и здесь.

Медицина тоже отстает сейчас потому что очень много законодательных ограничений, связанных со сбором и обработкой персональных данных. И тоже там законодательство должно поменяться. Важный момент. Это не значит, что у нас плохие чиновники, гаишики, что им хочется только запрещать — нет. Они все на удивление согласны и понимают, что что-то надо менять в законах и как-то делать так, чтобы беспилотные автомобили поехали быстрее. Но представьте, какая на них лежит ответственность, и какие серьезные там изменения. Насколько там непросто все это прописать в законах. Это объективная сложность — законодательные базы меняются очень медленно. Есть такая история, она касается юриспруденции. Можно было бы сделать, чтобы большое число типовых решений в судах принимались автоматически. Но требуется интерпретировать решения — объяснять, почему вердикт вынесен именно такой. А здесь всегда есть баланс: интерпретированность решений — чем проще можно объяснить, почему решение именно такое, тем менее точными будут решения. И если мы будем требовать 100% интерпретированности решений от машинно обученной системы, то мы получим от нее довольно низкую точность и внедрять ее местами не будет даже смысла.

И последняя важная штука — общественное мнение. Общественное мнение по ИИ просто ужасно с точки зрения несоответствия тому, что такое ИИ. И я вам приведу пример. Это картинки — специально взял несколько поисковых систем, по запросу ИИ. Это отлично отражает представления людей. В основном это такая пластмассовая женщина андроидооподобная. И все видят его вот так. И когда люди научились летать в космос, не все понимали принципы строения ракет и всего остального, но чем больше информации на эту тему публиковалось, тем лучше они начинали понимать. Здесь все вообще не так. Чем больше публикуется, тем хуже люди понимают, что это такое. Потому что никто же не напишет, что применение методов ИИ помогло компании икс на 3% увеличить показатель игрек. Нет. Такой заголовок никто не прочитает. Напишут так — ИИ, разработанные в компании икс теперь научился решать задачу игрек. Ничего не наврали. Но в результате — образ: в подвале сидит ИИ, который становится все умнее, и начинает решать все более сложные задачи. И это мнение укрепляется. И нет противостояния. Если выйти на улицу и опросить людей, что они думают про ИИ, это будет полная ересь. Непонимание того, что это просто набор методов. И что если научились решать одну задачу, это не значит, что научились решать другую. Что нет какого-то супер мозга или еще чего-нибудь. Отсюда страхи и фобии, вопросы, что будет, когда он попытается захватить мир. Я часто на эту тему говорю, и по вопросам из зала можно судить, насколько растет понимание вопроса. Оно не растет. Проходит время, и у людей только укрепляются неверные представления. Потому что у них нет другого сигнала. Тот сигнал, который транслируется — он такой ужасный. Про И И, который что-то сделал, совершил. И штампы, которыми оперируют журналисты, они закрепляются, и они автоматически начинают писать такое. Ты же не напишешь нормальную формулировку. Вышла новая модель телефона с ИИ. Вот хорошая формулировка. И теперь страшный телефон с ИИ. И это проблема… потому что дальше — вот беспилотный автомобиль. Знаете, какой самый частный вопрос? А кого он будет защищать — пассажира своего или другого человека на улице, если нужно сбить или увести машину в дерево? Был такой анекдот показательный, когда инструктор спрашивает ученика: вот идет пожилая женщина и молодая, вот ты едешь, кого ты будешь давить. Он пытается выбрать. А инструктор говорит: дурак, давить нужно педаль тормоза. Вот И И будет давить педаль тормоза. Он алгоритм, он обучается минимизировать вероятность происшествия. Там дальше не разбирается происшествие, просто минимизируется. И это еще не все. У нас тут автомобиль-беспилотник проехал, отмечали юбилей миллион километров — куча машин, но софт один. Аварий не было. Редко какой человек может похвастать таким результатом. Дальше будут десятки и сотни миллионов километров, но рано или поздно авария случится и беспилотный автомобиль задавит человека. Что будет говорить общество? ИИ убивает людей — напишет первый журналист. Вы запомните эту формулировку, она будет. И общественное мнение всколыхнется: вот, говорили же нам, пришли эти терминаторы, началось все, людей убивают. А то, что перед этим этот алгоритм спас кучу людей, и спасет потом, что статистически ожидание аварий меньше. Мы об этом думать не приучены. И общественное мнение — это один из самых серьезных барьеров на пути внедрения ИИ. Что будет дальше. Есть какое-то количество низко висящих фруктов — все сейчас начнут срывать. Всем надо сказать — во смотрите, мы делаем ИИ.

Биометрия, это вот то, что нас везде начнут узнавать по лицу. Мы в банкоматах будем просто снимать деньги. Это надежнее. Индустрия развлечений скоро поменяется радикально. Уже сейчас можно заменить в любом фильме актеров на себя. Скоро вы сами будете кастинг проводить и смотреть, как Иннокентий Смоктуновский сыграет в «Игре престолов». Там довольно много изменений произойдет. Продюсеры всегда мучаются, что актер, сыгравший в первом сезоне потом говорит: я не буду больше играть или платите мне больше, а люди к нему привыкли. Вы застали «Санта-Барбару», там 20 раз актер менялся. Там реальный актер сыграл, а мимика перешла на вымышленного персонажа. И пропадет такое понятие как селебрити. Они будут ненастоящими, что выгодно кинопродюсерам. И существуют области, в которых все есть давно, осталось только объявить. Компьютерное зрение, которое есть уже давно. Любое распознавание чего угодно, начиная от штрих-кодов и номеров машин. И в Алисе можно что угодно сфотографировать и все распознается. Распознавание речи, машинный перевод, который стремится к переводу человеческому. Поиск… все, что было до этого этапа, когда появился ИИ, все это остается, только теперь это получает больше внимания, хайпа, потому что мы это все переименовали в ИИ. Беспилотные автомобили, анализ данных, рекомендательные системы. Вот современные контентные вещи типа сервисов по стримингу музыки, или видео. Они работают нормально только те, где есть рекомендации хорошие. Даже нормальные интернет-магазины существуют за счет рекомендаций. Есть вещи, которые не столь очевидны, но за них уже надо браться — персональные ассистенты, очень тяжелая тема, но заходит здорово. Про медицину говорил. Беспилотный транспорт, чтобы он был совсем беспилотный, это большой вызов. Много интересного в ретейле, особенно учитывая, что мы по лицу можем распознавать покупателя. И можно экономить много алгоритмов машинного обучения. Туда это уже пришло и понятно, что там ставка очень большая. Контроль и анализ ситуаций на производстве — огромный мир, есть уже большие внедрения. Вся история, связанная с логистикой, перемещением чего-нибудь, оптимизация транспортных потоков — это классическая задача. И есть ряд областей, которые добавляют в список, но где все не так просто. Вот если говорить про темы — медицина, безопасность, что следующее? Образование? А вот я не уверен в этом. Мы во всех случаях, когда говорим про ИИ, мы говорим, что было много примеров и мы научились. С людьми не так. Все очень уникальные, все меняется во времени, среда меняется, и поэтому предсказание, как, кого и чему учить… Я сильно сомневаюсь, что здесь методы машинного обучения смогут принести серьезный профит. В общем, есть некоторое количество мест — образование, сельское хозяйство, туда тоже что-то придет, но я не уверен, что там можно ждать значимого прорыва. Это те области, где применение ИИ не то, что невозможно… Просто ожидания от применения сильно завышены. Судопроизводство. Все думают, что будут автоматические суды, но я думаю, что необходимость интерпретировать судебные решения все погубит.

Или вот про спорт думают: давайте сделаем систему, которая будет разрабатывать программы индивидуальные для спортсменов. Если бы машинное обучение умело делать такие штуки, то давно бы создали системы, которая могла бы делать правильные ставки, предсказывать результаты. Но предсказания в долгую не очень работают — слишком большое количество разных факторов. Есть области, где применение ИИ не столь очевидно.

Спасибо. У меня три вопроса. Правильно ли я понимаю, что у этой ветки технологий нет альтернатив? И нет настоящих рисков — не надуманных? И третий — надо ли бояться государства, вооруженного ИИ?

Нет альтернатив. Вернее, они всегда есть. Просто есть ряд решений более элегантных или использование прежних, традиционных решений. Вот беспилотный автомобиль — есть альтернатива в виде пилотных автомобилей, где сидит таксист, но он будет менее эффективен. Альтернативы есть, но они хуже. Появление И И таким образом неизбежно.

Риски есть. Они везде свои в разных областях. При грамотном построении системы эти риски убираются. Но они всегда есть, о них нельзя забывать. Например, в систему принятия решений довольно несложно внести закладку на этапе создания, просто подтасовав данные для обучения. Мы делаем систему, которая выносит вердикт в суде. И вот она работает, никто не может заметить ошибку. Но в обучающую выборку было внесено 100 примеров разных дел, где некий гражданин Сидоров (рост 175, город Тамбов) всегда оказывался невиноват. И это тот самый разработчик. И когда система будет в его случае выносить вердикт она вынесет его, основываясь на том, что этот гражданин обладает тем набором факторов и признаков, которые объясняют то или иное решение. Исказить выборку всегда можно. Способ обойти довольно легкий, очевидный. Когда делаются две независимые системы разными поставщиками и учатся на разных наборах данных и дают сильно несогласованный вердикт, это требует дополнительной человеческой проверки. Либо на этапе внедрения систем часто делают так: мы решаем, что система не будет принимать решения, она будет просто помогать человеку. Вот это вообще не работает. Опустим. Мне рассказывали врачи, которые занимаются глаукомой, что сейчас аппарат, который делает снимок, он выводит некоторые числовые показатели, по которым можно прикинуть. И врачу предлагают посмотреть глазами на снимок сначала, но он может смотреть на цифры. И люди перестают смотреть на снимок. Потому что в 99,99% случаев эти цифры достаточно информативны. А мы же всегда минимизируем собственные усилия. Мы так устроены. И если ты привыкаешь смотреть на цифры, пропускаешь снимок. В беспилотных автомобилях тоже говорят — сначала это будет система, которая помогает водителю, потом они смогут ездить без водителя. Он перехватит управление, если человек начинает газету читать. У в Google инженер-испытатель, он не то с газетой, не то со смартфоном едет. Он привыкает, что без аварий ездит. Опасность излишнего доверия — это риск. Но это не проблема системы, это проблема человека.

И третий вопрос. Ну нужно ли бояться государства. Государство всегда вооружено лучше, чем гражданин. И все-таки… Технологии только приходят в государство. В Китае все быстро, социальные рейтинги, остальное. Государство же не что-то отдельное, это же мы, мы его делаем таким. Нужно ли бояться, что мы породим такого монстра, который будет нас контролировать и все такое? Это произойдет — то, что нас начнут контролировать и наш шаг будет известен системе. Это неизбежность. Мы к этому шли долго. У людей фамилии появились не очень давно. Потом записи в уездных книгах, потом карточками стали платить. Когда у нас появились телефоны — о какой приватности мы говорим? Мы же перемещения отслеживаем. Теперь еще по лицу будут узнавать. И будет социальный рейтинг. Так будет происходить. Этого избежать нельзя, потому что это эффективно для государства, для общества, это случится. Персонально мне это не нравится. Я вырос в других условиях, где есть ощущение куска частной жизни. Но наши дети — для них такая ситуация будет привычна.

Спасибо, Александр. Тебе предлагают лекарство — оно эффективно, но побочные эффекты тоже есть, и возможно, тяжелые. И у тебя есть выбор. Многие скажут: я останусь с этой патологией, я не хочу выбирать побочные эффекты. И эта развилка — применять эффективное небезопасное лекарство или остаться при своем, условно, насморке, отказавшись от эффективного лекарства — про нее можно подумать. Если эффекты социальные от применения ИИ вдруг нам не очень нравятся, может, мы выберем другой технологический путь? Может, мы медленнее придем к технологическим вершинам, но не получим всей этой побочной истории. Это вопрос.

Вопрос с другого ракурса. Взаимодействие вашей лаборатории и государства — как строится? Вы же пишете в своей лаборатории правила жизни всего общества сейчас. Так кто их пишет — Яндекс или правительство страны?

Мы не пишем ничего. Яндекс в целом с государством не взаимодействует, разве что образовательные программы у нас есть для государственных университетов. Но это сути не меняет, есть организации, которые взаимодействуют. Мы действуем в любом случае в рамках закона. Где-то мы регламентируемся здравым смыслом и какими-то представлениями о нормах морали и этики. Мы не регулируем. С точки зрения регулирования мы можем вносить инициативы в закон, либо договариваться. Здесь очень важно, что самое ценное, что есть у любой публичной компании — это репутация. А так как мы компания, которая ориентирована на конченого пользователя, для нас репутация вдвойне важна. И поэтому любое нашей действие прогоняется через фильтр, насколько мы можем понести репутационные издержки. Это вопрос не только этики, это вопрос бизнес целесообразности. Грубо говоря, мы зарабатываем деньги на репутации. Вначале у нас сложились нормальные нормы морали и этики в компании, которые позволили нам стать большими, или это было наоборот — мы становились большими, упрочняя правила и законы. Но если выбор стоит между тем, чтобы сделать что-то такое, что будет не очень здорово воспринято в обществе, но принесет прибыль в моменте, или не делать этого, мы этого делать не будем. Потому что мы играем в долгую, там репутация важнее всего.

Расскажите поподробнее, как Яндекс интегрирует ИИ в AR-сервисы и какие есть перспективы?

С дополненной реальностью мы долго думали, и у нас пока не находится понятного для нас сценария применения, мы не можем придумать. Ребята сделали приложение «Слой», там есть элементы дополненной реальности, но мы нес могли пока придумать… Я знаю массу мест, где дополненная реальность прямо отлично живет и все. У нас просто нет. В других местах есть. В Газпром Нефти они показывали, когда они проектируют вышки, конструкции, они делают модель дополненной реальности, когда человек может походить, посмотреть, и это помогает вскрыть недостатки. Отличный кейс. Я знаю команду, которая делает систему дополненной реальности для продажи дорогой недвижимости, чтобы покупатель мог посмотреть объект нормально. Хороший бизнес. Но мы не делаем всех вещей в мире.

Я спорю. У меня есть три антитезиса, которые я хотел бы предложить до доклада обсудить. Первый. Мне кажется, что вы сейчас блистательно рассказали — это взгляд математика на жизнь. И у меня есть беспокойство, что многообразие нашей жизни можно уложить в одну формулу, пусть и огромную. Мне кажется, что это традиция, которая сейчас в философии уже 500 лет — традиция редукционизма. Мы берем сложное явление, отбрасываем то, где наши методы не работают, и его применяем. Там, где это работает — хорошо, но надо думать, как будет в других случаях, когда не применимы методы и средства, которые мы разрабатываем. Эта традиция со времен Аристотеля. Но был еще Платон. Помимо формализации он говорил о диалогах для понимания смысла.

Так в чем тезис?

Жизнь многообразнее, чем формула. Второй. Есть некоторое видение — большие корпорации, продукты, данные. Но на моей жизни из больших государств стали образовываться маленькие… спутники сейчас. Вместо одного большого — много маленьких, рой. Это течение также не очень здесь в каком-то виде учтено. Или как-то надо об этом подумать. И третье. Мы даже в разговоре — вы говорите ИИ, машинное обучение. Все-таки ИИ равно машинное обучение, или машинное обучение — некоторый набор… не панацея. Или панацея? Если да, то что тогда? Мы же учим ее. А если у нас неполные выборки данных. А если жизнь изменилась — кто поймет, что жизнь изменилась и будет переобучать? В какой момент? Кто будет проверять? Объяснять?

С третьего вопроса. Нормальные системы проектируются таким образом, что данные примеры для обучения добираются каждый раз и формула переобучается регулярно. Даже наша формула поиска переобучается ежедневно. Потому что меняется мир. Все это обновляется постоянно. Есть задачи, для которых не так часто нужно что-то менять, есть задачи, для которых нужно менять постоянно. Постоянный майнинг негативных примеров, добавление их в обучающую выборку и обучение их снова. По поводу того, что у меня взгляд на мир математика. Вы меня упрекаете, что я смотрю на мир глазами математика и не учитываю много факторов — да. И мне так нравится. Про большие данные и маленькие компании. Наличие больших данных является местами невероятно серьезным барьером. В некоторых задачах. Например, в задачах поиска, потому что нужно получать огромный сигнал обратной связи от пользователя. Но есть множество задач, где группа из трех студентов сделает продукт, который не хуже, чем у огромной компании. Наличие и быстрый взлет большого количества стартапов это подтверждает. И здесь, чтобы быть практичным, часто в бизнесы приходят небольшие компании — давайте мы сделаем вам хорошо, купите нас, мы ловкие и умелые. В этой области даже если это 3 студента — это может быть. Есть некоторое количество критериев, по которым можно отличать проходимцев от нормальных людей. Если люди говорят, что у нас есть уникальное, не имеющее аналогов на рынке решение — это тревожный сигнал. Либо они сделали ненужное, либо они не смотрят по сторонам. А наоборот — хорошо: аналогичное нашему решению есть у такой-то компании, но посмотрите табличку характеристик — мы тут лучше. Их можно вот брать. А если к вам люди пришли, что мы пока молодые студенты, взяли такую вот статью с методами реализовали, добавив свои данные, и получили лучшее решение на рынке — не надо с ними разговаривать. Просто передайте мне их контакты.

Я хотел немного рассказать о новом направлении — эмерджентный интеллект, который в каком-то смысле противостоит тому, о чем рассказывал Александр. Но крайности сходятся, и рано или поздно эта конвергенция начнется. Это новый взгляд, который не так широко известен, которым мы начали заниматься некоторое время назад. И путем довольно сложных трансформаций добрались до первых промышленных внедрений. Я хочу начать с картины европейского художника — Жизнь. На ней много разного калибра организмов, которые двигаются — с разной скоростью, в разных направлениях, у них свои цели, ограничения, предпочтения. Можем ли мы управлять таким разнообразным, динамичным, неопределенным сообществом организмов? Или еще какого-то рода задачи. Это где угодно. И наш ответ на это — нет. Потому что если мы строим большую, централизованную, монолитную последовательную систему, которая управляет этими движениями, за время, которое она будет принимать решения, уже кто-то уползет, кто-то убежит и улетит. Это органично. И вот направление наше — оно на одном экране. Мы пытаемся построить распределенную систему изначально. В ней у каждого есть свои интересы и непрерывно идут конфликты между ними, и эти сущности получают свои маленькие программные системы — агенты. Которые обнаруживают конфликты и пытаются их решить. В интересах как самих себя, так и окружающего общего целого. И когда-то, когда нас спрашивали, чем вы занимаетесь, мы говорили: мультиагентными технологиями. Последние годы я понял, что мы занимаемся модельными методами алгоритмов коллективного принятия согласованных решений. Одним словом — консенсусом. Как надо уметь уступать друг другу, чтобы добиваться консенсуса. Но это пролог.

Вычисление, как взаимодействие, интерекшн — это девиз мультиагентных технологий. Не надо строить один большой умный алгоритм, дайте маленьким договариваться, выстраивая алгоритм на ходу. Как система может выстраивать сама алгоритмы? Просто для понимания: в каких областях мы двигаем. Мы начали с грузовиком, потом стали строить здания для рабочих, потом мобильные бригады, потом железные дороги, потом космос. Сейчас рой спутников. Но главное — прирост эффективности использования ресурсов за счет перехода к принятию решений реального времени. Когда от момента зависит все. И пример с деньгами. Система смарт-сервиса — это грузовики, служба 004 газа, 27 регионов обслуживается. Когда что-то — запах газа, мы туда звоним. И раньше в этой компании региональный оператор не знал, что машины делают. И когда приходит новый заказ, очень важно, что диспетчер должен обзвонить ближайших, понять, кто из них имеет оборудование то, которое нужно под заявку, перепланировать хвост операций. Это десятки минут. А бригада, которая приступила, она не хочет менять планы. Мы сделали систему, у которой хвост плана за день, смена суточного задания, непрерывно меняется по мере того, как приходят новые заказы.

Эффект. Вместо 7 заказов в день в среднем — они делают 12. Это 40% прироста эффективности только за счет интеллектуальной системы, которая вместо диспетчера решает, куда поедет. Это и есть ИИ. Иногда на фоне того, как люди называют простые алгоритмы машинного обучения интеллектом, мы просто в недоумении. Потому что мы делаем систему, которая реагирует на событие, перестраивает свои планы. И контролирует их исполнение. Вот есть некоторая эволюция, мы ее проходим сами. Начиная с понимания, какие есть сложные задачи, которые не решаются классическими методами, и понимание, что что-то у нас не так с этим редукционизмом. Где методы моделей алгоритмов, которые поддерживают сложные процессы и явления? Клетка. Человеческий организм. Зарождение вихрей. Есть вообще математика на этот предмет? Уже некоторое движение в этом направлении появляется. И мы, таким образом, вышли на мультиагентные технологии. Что такое эмерджентный интеллект? Это когда не один большой за всех решает, а когда много маленьких договариваются между собой о результате. В науке стали какие изменения происходить? Как ни странно Нобелевскую премию в 1977 году, не так давно, получил бельгийский ученый Илья Пригожин, который открыл явление химии энтропических реакций. Которые потом объяснили математические модели того, что происходит в лазерах, в атомных бомбах, в социальных революциях. Первый шаг к описанию сложных явлений. Параллельно в психологии сообщество мысли, это мозг, который разбит на множество мыслей, которые непрерывно кооперируют друг с другом. И пойду ли я сейчас налево или направо будет зависеть от того, кто возьмет верх. Это биология. Это многоуровневые сети биоценоза и пр. это прямой путь к цифровым экосистемам. И автономные вещи.

Теперь в бизнес. Это ему надо? Совсем недавно вышел обзор IBM — тысячи директоров крупнейших предприятий опрашивались — что больше всего их сейчас волнует в бизнесе. Они все волнуются о двух вещах. Растет сложность принятия решений, все со всем связано, больше индивидуализма, люди соглашаются, потом отказываются, меняются предпочтения. И усиливается динамика. Эти два тренда жестко противостоят сейчас большинству спектра машинного обучения. Потому что они не могут, они по-другому устроены. Они пакетные, их нужно научить потом. Эта особенность, которая вызывает пересмотр всей парадигмы. В области управления ресурсами. Мы приходим к тому, что управление предприятием — это сложные задачи, где критерии меняются на ходу. А что у нас на рынке? Десятки систем великих компаний, а что под капотом — линейное программирование. Оно исходит из того, что мы задачу сложную должны редуцировать до простой. И все заказы и ресурсы у нас известны наперед. Потом мы посчитаем, выдадим людям план и поехали. А за это время уже тысячи событий случились. Новые заказы придут. Старые поменяются, машина сломается, все вверх дном. Что же можно здесь делать? И огромная проблема, потому что все это надо учитывать. И вот посмотрите, какие тенденции в той же математике стали происходить. Во время и после Великой отечественной войны у нас огромный был скачок с классическими оптимизаторами и планировщиками, но это принятие решений в условиях консонанс-ценностей. Как Госплан. Который за нас с вами решал, в каких валенках мы будем ходить. А потом картина начала меняться. Картина жизни расширилась. И родилась теория игр. Которая тоже бурно пошла решать гамму проблем, где каждый за себя. Потом появились кооперативы. И только сейчас начала появляться теория согласованного, коллективного принятия решений, где мы хотим между разными нащупать консенсус. Кто кому должен уступить, ради чего. Вам не кажется, что даже применительно к обществу это выглядит продуктивно? А мы говорим про те самые алгоритмы под капотом. Посмотрим со стороны IT. RPK — прямая дорога через семантик-веб в интернет вещей. Это будет. Но все пишу — почему не людей, документов, абстрактных понятий. И появился термин интернет всего. Следующий шаг — дать им цели, и они будут следовать ей. Это многие понимают, но не понимают вторую сторону — что, если этого не понимать, наша продуктивность вот так пойдет, потому что уже сейчас мы получаем 150 email-сообщений в день. Берем проект, когда начнут, кого берем в команду? А что в биологии. В биологии — это колонии муравьев и рой пчел. 50 миллионов лет этим сущностям. Отработан досконально механизм. Рой пчел победить невозможно, но при этом нет мозгового центра одного, который дает всем команды, куда им идти. А что если бы еще муравьи умели бы не косвенно общаться, а напрямую — иметь какие-то вещи для накопления знаний? Это было бы непобедимое совсем. И тут появились мультиагентыне технологии, когда вместо одной большой централизованной программы появляется возможность писать множество маленьких, которые взаимодействуют друг с другом. И ключевым словом становится самоорганизация. Что такое программный агент — это следующий шаг в объектном программировании. Это тот же самый программный объект. Только теперь его нельзя вызвать как подпрограмму. Его можно только попросить — что ты хочешь сделать. А он, глядя на обязательства, которые он дал другим программным агентам, скажет: берется или нет. Или даст следующее предложение. Это сдвиг в область самоорганизующейся системы. Наша миссия — мы пытаемся начать строить системы, в которых модель метода самоорганизации применяется для решения задач в разных областях. Пока только в ресурсах, но уже первые есть пробы в понимании текстов, проектировании, распознавания образов. Мы придумали концепцию потребностей и возможностей, некий виртуальный рынок, на котором агенты заказов ищут агентов ресурсов и наоборот. И расписание строится не как один последовательный алгоритм… Решение задачи достигается в момент так называемого конкурентного равновесия. Когда ни один больше не может улучшить свои целевые показатели. Тогда мы считаем это динамической остановкой, тормозим и отдаем клиенту решение. Как ни странно, в 2010-м году в Кембридже вышли две книги, которые с удивлением обнаружили этот класс алгоритмов, вообще новый, который пригождается для решения сложных задач. Принцип простой — метод компенсации. Смотрите: я новый заказ. Я прихожу в башмачную мастерскую, там сидит человек, который ремонтирует башмаки, он занят. Мне надо срочно. Он может что сделать — может не реагировать, а может сказать, что занят. Тогда я спрошу — поговори с другими клиентами, которым ты что-то пообещал, может кто-то из них согласится мне уступить, а я доплачу, чтобы дать компенсацию. Этот принцип простой — из русских сказок, концепция добра как разменной монеты. Иван-царевич спрашивает у печки: перевезешь меня? А та отвечает, да если ты съешь мой пирожок. У печки свои KPI были, свои установки. Но они смогли договориться, и она его перевезла. Математика, которая позволяет по функции удовлетворенности и бонусов-штрафов понять, кто кому должен уступить. Никакой магии нет. Но зато, смотрите. Теперь планировщики цеха может быть построены как агенты диспетчера, продукта, станка, материала, работы. У каждого свои интересы. Но они должны договориться. Но это должны сделать их программные агенты, а люди только утвердят. Или подправить и получается. Что мы строим систему, в которой крутится цикл Деминга — реагируй на события, планируй, выполняй, проверяй, действуй. Получается, маленький гугл-мобиль для бизнеса, который управляет людьми, которые в этот бизнес вовлечены. Грузовики, фабрики, цепочки поставок. И конечно это следующий шаг — база знаний. Кто сказал, что мы только имеем данные? Мы имеем с вами сокровища виде книг, в которых собраны предметные знания. Огромные тома. Маленький пример для Иркутска, где мы сейчас работаем, — это семантическая сеть. Это классы объектов и отношений. А это экземпляр — рабочие. Эта сеть построена для описания объектов, процессов, свойств, отношений одного цеха. А как без этого планировать, где мы возьмем знания. Смотрите эффект. Это классические оптимизаторы, они не реагируют на события, они это чувствуют. План нельзя перестроить — только руками. Вся серая площадь — выигрыш. Это ведет к революции в предметных областях, потому что вместо оптимизаторов — поиск компромиссов. И, как мы видим, как дальше это будет в области управления ресурсами развиваться. Мы в целом где-то на этапе 50%. Система планирует примерно половину раз. Где-то нужна корректировка, где-то меньше. Это зависит от того, насколько формализованы знания и насколько удается вот эту логику довести до результата. Решение все более сложных проблем и в реальном времени.

Вами представлена технологическая альтернатива ИИ?

Да. Мы все думаем, что интеллект — это когда, как на конвейере ВАЗа, — понимание речи, слуха. Дедукция, индукция, и у вас практически ИИ. Нам кажется, это заблуждение, ошибка. Это фундаментальное несоответствие с тем, что происходит в реальной жизни. И нужны новые модели, которые будут эту концепцию поддерживать.

Защитят ли они от рисков и угроз?

Каждый агент может в себя включить технологию машинного обучения. Почему нет? И наоборот, результат агентной системы может быть проанализирован системой Яндекса. Это в принципе взаимодополняющие всё технологии. Но нам кажется, что любые, кроме машинного обучения, возможности из нашей замечательной стратегии ИИ выпали как класс.

Нужно ли бояться государства, вооруженного ИИ?

Это вопрос абсолютно в корень. Потому что сейчас мы видим, как в феодальном обществе зарождался капитализм. Сейчас в нашей индустрии 3.0, 4.0. появляются элементы пятого уклада. Это же ужас, как быстро. И в этом вся суть индустрии 5.0 — когда ИИ в виде колонии разговаривают друг с другом, а в обществе 5.0, где приоритет отдан не организациям, а людям, талантливым, акторам, вокруг этих акторов начинает складываться и строиться вся экономика. Ну, на всю экономику мы руку не поднимаем. С несколькими организациями мы начали работать, особенно в военной и ракетно-космической промышленности. Огромная корпорация, 15 уровней иерархии, президент, начальник отдела, до уровня группы. И инженеру талантливому, чтобы поднять на 5 тысяч зарплату нужно сделать его начальником. Перевели его сюда, потеряли инженера, получили плохого начальника. Почему плохо. Он творческий парень был. И все сидят в клетках. Они ограничивают волю, энергию. Какой выход? По оценкам мы сейчас используем меньше 10% от того человеческого капитала, которым мы располагаем. Это что такое — просто люди приходят на работу, пьют чай, играют. А давайте сделаем так. Если мы делаем мультиагентные технологии, то позволим им с их элементами самоорганизации выплеснуться как тесто из кастрюли в жизнь. И придумаем, как например, приходит новый заказ, сшибем все стены, сделаем Uber внутри корпорации, и дадим возможность, чтобы… получился виртуальный рынок. И какой-то парень, который сидит в одном отделе и чихает просто от скуки, он готов день и ночь работать, почему он не может выйти на рынок, сняв деспотизм начальника. Начальники начинают трансформироваться в центр знаний и могут получать с каждой головой свой процент. Который могут либо пропить, либо могут новые книги купить, тренинги организовать, и от этого больше получат. Начинают меняться те роли, к которым мы с детства привыкли, и мы думаем, что так будет до бесконечности. ИИ будет высвобождать. Речь о том, чтобы раскрепостить людей — особенно у нас. У нас уже и строй поменялся — а управление феодальное.

Вот начальник — что сказал, то и надо делать. А где инициатива людей?

Настоящий ИИ может помочь сформировать совсем другое общество, общество 5.0, построенное на постоянном взаимодействии разных инициатив и нахождении консенсуса между ними.