Ваш браузер использует блокировщик рекламы
Он мешает корректной работе сайта.
Добавьте www.rbc.ru в белый список. Как это сделать.
Лента новостей
Стала известна дата похорон вокалистки The Cranberries 06:18, Общество Казахстан предложил перенести переговоры по Донбассу в Астану 05:30, Политика Twitter проверит использование российской пропаганды пользователями 04:30, Политика В США заявили о намерении продать партию истребителей F-35 Бельгии 03:26, Политика Отвечавший за блокчейн топ-менеджер покинула Сбербанк 03:25, Бизнес В Санкт-Петербурге загорелось здание старейшего военно-морского института 02:28, Общество СК начал проверку информации об избиении врача скорой в Твери 01:48, Общество В МИД Украины анонсировали встречу Порошенко с Трампом в Давосе 00:50, Политика В Подмосковье пьяный водитель попытался выстрелить полицейскому в голову 00:23, Общество Полиция задержала двух участников шествия в память Маркелова и Бабуровой 19 янв, 23:59, Политика Кадыров наградил главу «Ночных волков» высшей наградой Чечни 19 янв, 23:41, Общество В ДТП в Омской области погибли пять человек 19 янв, 23:30, Общество В больнице умер раненный во время перестрелки в Одессе полицейский 19 янв, 23:03, Общество МОК отказал 111 россиянам в участии в Олимпиаде 19 янв, 22:48, Общество Представитель Пеле опроверг госпитализацию футболиста 19 янв, 22:41, Общество Неожиданный госзаказ: каковы последствия превращения ПСБ в оборонный банк 19 янв, 22:39, Финансы Лавров рассказал о роли канала связи между Россией и США в победе над ИГ 19 янв, 22:21, Политика Два российских фигуриста стали призерами чемпионата Европы 19 янв, 22:14, Спорт Технологии коммуникации: как big data помогает удержать клиентов 19 янв, 21:58, РБК и МегаФон Лавров прокомментировал сообщения о выводе российских войск из Африна 19 янв, 21:51, Политика В ожидании чисток: с чем связано задержание мэра Махачкалы 19 янв, 21:50, Политика Кузнецова призвала развивать «положительный контент» после атак в школах 19 янв, 21:49, Общество Причиной гибели 52 человек при пожаре автобуса стала паяльная лампа 19 янв, 21:35, Общество Лавров назвал закон о Донбассе перечеркивающим минские соглашения 19 янв, 21:28, Политика СКА выиграл регулярный чемпионат КХЛ 19 янв, 21:24, Спорт Лавров назвал характерные черты американской дипломатии 19 янв, 21:17, Политика Дело о нападении на экологов в Краснодаре переквалифицировали на разбой 19 янв, 20:40, Общество МИД обвинил США в искажении позиции Москвы по химоружию в Сирии 19 янв, 20:32, Политика
Неограниченная рациональность: как роботы будут заключать сделки
Бизнес, 16 ноя, 2017 14:09
0
Юрий Нефедов Неограниченная рациональность: как роботы будут заключать сделки
Очень скоро глобальная экономика начнет зависеть от решений, принимаемых компьютерами. Поэтому разработка этического кодекса для искусственного интеллекта должна стать ключевой проблемой и для государств, и для ИT-сектора

Собственно, все уже началось. Сделки, заключаемые роботами на финансовых рынках, не новость, как и штрафы, автоматически выставляемые системой, подключенной к дорожным камерам. При этом быстро стали привычными массовые ошибочные штрафы. Зампред ЦБ Сергей Швецов предупреждает, что, если роботы-консультанты вдруг начнут давать одинаковые советы множеству инвесторов, это вызовет нестабильность на рынке и может привести к катастрофе.

Уникальность ситуации в том, что современные роботы становятся полноценными экономическими субъектами и от их решений скоро будет зависеть ситуация не только в отдельном домохозяйстве или на предприятии, но и в мировой экономике.

Современная экономическая теория исходит из ограниченной рациональности человека, которая заставляет его совершать ошибки при формировании спроса, предоставлении информации, оценке рисков и непосредственно при заключении сделок. Важную роль в экономической активности играет доверие, формируемое с помощью специфических и достаточно древних нейронных схем. Поэтому человек, как правило, не уволит своего старого друга ради экономии 1 тыс. руб. в месяц за счет передачи его работы на аутсорсинг. А вот робот, скорее всего, решит иначе. И подобных примеров очень много.

Как же будет происходить замена ограниченной рациональности неограниченной?

Роботы-агенты

Вероятно, первым классом роботов, заключающих сделки в интересах своего владельца, станут роботы-агенты. Действуя автономно, агенты уже сейчас имеют возможности для базовой коммуникации, позволяющей приходить к соглашению, регистрируя его либо на специализированном ресурсе, либо посредством смарт-контракта. Пока смарт-контракты уязвимы и мало подходят для крупных сделок, но это вопрос времени. Для повседневных покупок физических лиц они уже применимы.

Агенты будут заключать сделки самых разных форм, например объединяясь для увеличения спроса. Сегодня в Сети существует масса площадок для совместных покупок, где желающие, если им нужны похожие товары от одного поставщика, могут покупать их по оптовой цене с небольшой комиссией для организатора. Роботы позволят упростить эту схему, участникам таких покупок уже необязательно будет знать друг о друге.

Ясно, что изменятся платформы для пиринговых сделок. Работая по своему протоколу, агенты смогут искать друг друга непосредственно и сразу заключать сделки, например по вызову такси или эвакуатора. Вполне возможно, что из-за агентов перевернется рынок интернет-рекламы и за ее просмотр будет получать комиссию сам потенциальный клиент. Действительно, если агент продавца получит запрос на просмотр предложения от агента лица, соответствующего критериям целевой аудитории, почему бы им не заключить сделку на просмотр рекламы?

Для роботов появится своя инфраструктура. Сегодня сайты пытаются «отфильтровать» роботов с помощью, например, captcha-подтверждений. Но если речь идет о покупках, где важно каждое мгновение, например о бронировании билета на рейс лоукостера, то людям это неудобно. Выход — создание специальных шлюзов для роботов, в которых происходит управление очередью. Кроме того, возникнет большое количество аукционных площадок для самых разных рынков, где агенты будут вести поиск в режиме 24/7 и устраивать аукционы до тех пор, пока не достигнут нужных условий.

Степень свободы

Поначалу роботы будут действовать только по прямому поручению человека, но в дальнейшем степень их автономности возрастет. Видимо, она будет определяться способностью алгоритма обеспечить себя ресурсами, перед тем как их расходовать, то есть от его способности удерживать в равновесии экономическую систему.

Поэтому над роботом-агентом будет стоять робот-управляющий, которому делегированы возможности изменения правил сбыта, смены контрагента или тарифа, по которому осуществляются закупки. Сначала, скорее всего, роботы-управляющие будут отвечать за микропредприятия вроде небольшой вендинговой сети, где специфика переговоров незначительна. Но важен будет факт появления автономного бизнеса.

Здесь самое время вспомнить основоположника неоинституционализма Рональда Коуза с его знаменитым определением: «Фирма — это совокупность контрактов». В результате решений роботов постоянные контракты, скорее всего, будут активно замещаться срочными, предполагающими разовую, часовую занятость. Сегодня этого не происходит, поскольку работодатель не успеет с ходу рассчитать новую экономическую модель на ближайшую неделю или месяц — та самая ограниченная рациональность. Но робот успеет. А значит, постоянная занятость будет уходить в прошлое все быстрее. Трудовые отношения постепенно станут подобны биржевым, когда агенты работодателей находятся в постоянном поиске исполнителей, и цена контракта каждый раз может быть новой. Поэтому неизвестно, что ударит больнее: роботы, которые отнимают у человека работу по решению другого человека, или робот, сам расторгающий договор с человеком.

Экономические последствия повышения автономности роботов на рынках трудно прогнозировать. Их неограниченные рациональность и работоспособность станут причиной постоянных изменений, которые будут накапливаться с возрастающей скоростью, и в конце концов роботы смогут перехватить у людей инициативу. Да, они будут действовать в соответствии с целями, критериями и ограничениями, заданными людьми. Но это отнюдь не гарантия безопасности.

Превосходство машин

Нужно иметь мужество признать, что машины (некоторые уже, а некоторые вот-вот) субъекты и обратного хода нет. Перестройка отношений между людьми и роботами — ключевой момент современности.

Сложность организации машин сильно выросла. Уже сегодня мы не можем объяснить, как работают каскады нейронных сетей, где они начинают обучать друг друга. Важен результат: совсем недавно пал последний бастион превосходства человека над компьютером в области настольных игр — игра го, число ходов в которой больше числа атомов во Вселенной.

В 1999 году Билл Гейтс опубликовал свою знаменитую книгу «Бизнес со скоростью мысли», отстаивая в ней идею быстрой адаптации предприятия к изменениям бизнес-среды. Учитывая, что роботы будут вести бизнес со скоростью в несколько раз выше скорости мысли, человек уже не сможет адаптироваться к переменам.

Проблемы регулирования

Многие исследователи и предприниматели уже обращали внимание на неготовность человечества предложить для искусственного интеллекта (ИИ) четкий этический кодекс, который стал бы, в частности, основой и для безопасного развития цифровой экономики.

Вспоминается, например, настройка одного из американских интернет-магазинов, где цена на товар менялась в зависимости от того, из какого района города поступал запрос. Для запросов из центра цена ставилась выше. В данном случае машина никого не обманывала: субъектом решения оставался человек, задавший четкий алгоритм. Но в том-то и дело, что с ИИ мы не будем задавать алгоритмы, а только цели и критерии. И если мы хотим купить вещь как можно дешевле, вероятно, можно будет установить критерий законности, а можно будет не устанавливать. И куда зайдут алгоритмы, выискивая оптимальное решение, предсказать невозможно.

В человеческом обществе существует институт совершеннолетия, при наступлении которого права и обязанности личности существенно меняются. При этом важную роль играют личные данные человека и подтверждающие их документы. Если продолжить эту аналогию, то в целях безопасности сделок роботу тоже потребуется собственный уникальный идентификатор.

Доверие к роботу начинается с доверия к его коду. И здесь идеальное решение, чтобы этический кодекс создали и воплотили все крупнейшие разработчики. Проблема в том, что пока не существует организации, которой была бы посильна подобная задача. Такая организация должна иметь возможность влиять на крупнейшие ИТ-корпорации. Возможно, это некий аналог ООН, только не для стран, а для разработчиков. Но опять-таки вмешивается ограниченная рациональность. Люди подвержены оппортунизму — они готовы жертвовать большим для достижения сиюминутных целей. Поэтому на скорое решение этой проблемы рассчитывать не приходится.

Впрочем, главным вопросом регулирования сделок, совершенных роботами, является, по всей видимости, оспаривание совершенной сделки или анализ сделанной роботом ошибки.

Уже не первую сотню лет проблемы доверия так или иначе решаются путем сертификации, и в данном случае это остается наиболее вероятным способом. Если появляются смарт-контракты, почему не появиться смарт-сертификатам? Здесь сегодня просматриваются как минимум два актуальных аспекта: аспект выгодоприобретателя и аспект технологического наследования. Получив от пользователя цели, критерии и ограничения, а также доступ к данным о своих предпочтениях, типовой робот-агент становится уникальным и может быть сертифицирован как дееспособный субъект: «Я, уникальный алгоритм SR-VA71, действуя от имени такого-то выгодоприобретателя и на основании гарантий таких-то алгоритмов, выступаю покупателем (продавцом) …» Подобно цепочке блокчейна, записи о сделках могли бы иметь более сложную структуру, позволяющую при необходимости не только найти ответственного, но и источник произошедшей ошибки.

В случае с подобными сертификатами возможно было бы правовое, таможенное и иное регулирование, за которое будут бороться национальные правительства. Впрочем, само это регулирование тоже, по всей видимости, будет совсем не тем, к которому мы привыкли.

Об авторах
Юрий Нефедов доцент Российского экономического университета им. Плеханова, кандидат экономических наук
Точка зрения авторов, статьи которых публикуются в разделе «Мнения», может не совпадать с мнением редакции.
×
Ваш браузер устарел
Пожалуйста, обновите его или установите новый.
Ваш браузер не обновлялся уже несколько лет. За это время некоторые сайты стали использовать новые технологии, которые он не поддерживает и не может корректно отобразить страницу. Чтобы это исправить, попробуйте установить новый браузер.