Лента новостей
Жертвами пожара в Иркутской области стали пять человек 07:25, Общество Проработавший меньше года мэр города Свободный ушел в отставку 06:36, Политика Простой способ экономии на транспортных расходах для компаний 06:34, РБК и «Шелл» «Яндекс» получил разрешение на устройство для «умного дома» 06:03, Технологии и медиа Четыре человека погибли в результате новой волны протестов в Никарагуа 05:35, Общество Трамп обвинил СМИ в занижении значения его встречи с Путиным 05:21, Политика На Кубе более 100 человек эвакуировали при пожаре в институте онкологии 04:46, Общество «Коммерсантъ» узнал о новых требованиях ФСБ к перевозке рыбной продукции 04:11, Бизнес Технологический скачок: когда дроны отнимут рабочие места у людей 03:58, Партнерский материал Три человека погибли при падении двух самолетов летной школы во Флориде 03:57, Общество СМИ узнали о возможном возобновлении работы торгпредства Франции в Москве 03:34, Бизнес Роскомнадзор призвал Сбербанк и ВТБ объяснить ситуацию с утечкой данных 03:07, Общество Посольство пожаловалось на недопуск к задержанной в США россиянке 02:18, Политика Журналист Рабинер не стал заявлять в полицию на экс-тренера «Арсенала» 01:33, Общество Деньги с полей: как устроен футбольный бизнес 01:21, РБК и Sony Bravia Глава Пентагона решил провести первые за три года переговоры с Шойгу 01:20, Политика Чемпион Олимпиады-88 заявил о планах отказаться от гражданства Украины 01:03, Общество Daily Mail назвала шесть человек причастными к отравлению Скрипалей 00:55, Общество Во Всемирном банке заявили о 25% живущих за чертой бедности на Украине 00:54, Экономика Умер сыгравший в «Улицах разбитых фонарей» Владислав Жуковский 00:18, Общество Россия выбыла из числа крупнейших держателей казначейских бумаг США 00:04, Экономика Крупнейший бойцовский чемпионат UFC откроет в России дочернюю компанию 00:02, Общество Эксперты назвали 12 не поддержавших публично пенсионную реформу регионов 00:00, Политика В Белом доме погас свет после слов Трампа о доверии американской разведке 17 июл, 23:51, Политика СМИ узнали о предложениях Счетной палаты по доработке пенсионной реформы 17 июл, 23:39, Общество Трамп согласился с выводами разведки о вмешательстве России в выборы 17 июл, 23:28, Политика Биопринтеры: что мешает напечатать человека полностью 17 июл, 22:51, РБК и Ингосстрах «Спорт-Экспресс» обвинил Кирьякова в нападении на журналиста Рабинера 17 июл, 22:49, Спорт
Неограниченная рациональность: как роботы будут заключать сделки
Бизнес, 16 ноя 2017, 14:09
0
Юрий Нефедов Неограниченная рациональность: как роботы будут заключать сделки
Очень скоро глобальная экономика начнет зависеть от решений, принимаемых компьютерами. Поэтому разработка этического кодекса для искусственного интеллекта должна стать ключевой проблемой и для государств, и для ИT-сектора

Собственно, все уже началось. Сделки, заключаемые роботами на финансовых рынках, не новость, как и штрафы, автоматически выставляемые системой, подключенной к дорожным камерам. При этом быстро стали привычными массовые ошибочные штрафы. Зампред ЦБ Сергей Швецов предупреждает, что, если роботы-консультанты вдруг начнут давать одинаковые советы множеству инвесторов, это вызовет нестабильность на рынке и может привести к катастрофе.

Уникальность ситуации в том, что современные роботы становятся полноценными экономическими субъектами и от их решений скоро будет зависеть ситуация не только в отдельном домохозяйстве или на предприятии, но и в мировой экономике.

Современная экономическая теория исходит из ограниченной рациональности человека, которая заставляет его совершать ошибки при формировании спроса, предоставлении информации, оценке рисков и непосредственно при заключении сделок. Важную роль в экономической активности играет доверие, формируемое с помощью специфических и достаточно древних нейронных схем. Поэтому человек, как правило, не уволит своего старого друга ради экономии 1 тыс. руб. в месяц за счет передачи его работы на аутсорсинг. А вот робот, скорее всего, решит иначе. И подобных примеров очень много.

Как же будет происходить замена ограниченной рациональности неограниченной?

Роботы-агенты

Вероятно, первым классом роботов, заключающих сделки в интересах своего владельца, станут роботы-агенты. Действуя автономно, агенты уже сейчас имеют возможности для базовой коммуникации, позволяющей приходить к соглашению, регистрируя его либо на специализированном ресурсе, либо посредством смарт-контракта. Пока смарт-контракты уязвимы и мало подходят для крупных сделок, но это вопрос времени. Для повседневных покупок физических лиц они уже применимы.

Агенты будут заключать сделки самых разных форм, например объединяясь для увеличения спроса. Сегодня в Сети существует масса площадок для совместных покупок, где желающие, если им нужны похожие товары от одного поставщика, могут покупать их по оптовой цене с небольшой комиссией для организатора. Роботы позволят упростить эту схему, участникам таких покупок уже необязательно будет знать друг о друге.

Ясно, что изменятся платформы для пиринговых сделок. Работая по своему протоколу, агенты смогут искать друг друга непосредственно и сразу заключать сделки, например по вызову такси или эвакуатора. Вполне возможно, что из-за агентов перевернется рынок интернет-рекламы и за ее просмотр будет получать комиссию сам потенциальный клиент. Действительно, если агент продавца получит запрос на просмотр предложения от агента лица, соответствующего критериям целевой аудитории, почему бы им не заключить сделку на просмотр рекламы?

Для роботов появится своя инфраструктура. Сегодня сайты пытаются «отфильтровать» роботов с помощью, например, captcha-подтверждений. Но если речь идет о покупках, где важно каждое мгновение, например о бронировании билета на рейс лоукостера, то людям это неудобно. Выход — создание специальных шлюзов для роботов, в которых происходит управление очередью. Кроме того, возникнет большое количество аукционных площадок для самых разных рынков, где агенты будут вести поиск в режиме 24/7 и устраивать аукционы до тех пор, пока не достигнут нужных условий.

Степень свободы

Поначалу роботы будут действовать только по прямому поручению человека, но в дальнейшем степень их автономности возрастет. Видимо, она будет определяться способностью алгоритма обеспечить себя ресурсами, перед тем как их расходовать, то есть от его способности удерживать в равновесии экономическую систему.

Поэтому над роботом-агентом будет стоять робот-управляющий, которому делегированы возможности изменения правил сбыта, смены контрагента или тарифа, по которому осуществляются закупки. Сначала, скорее всего, роботы-управляющие будут отвечать за микропредприятия вроде небольшой вендинговой сети, где специфика переговоров незначительна. Но важен будет факт появления автономного бизнеса.

Здесь самое время вспомнить основоположника неоинституционализма Рональда Коуза с его знаменитым определением: «Фирма — это совокупность контрактов». В результате решений роботов постоянные контракты, скорее всего, будут активно замещаться срочными, предполагающими разовую, часовую занятость. Сегодня этого не происходит, поскольку работодатель не успеет с ходу рассчитать новую экономическую модель на ближайшую неделю или месяц — та самая ограниченная рациональность. Но робот успеет. А значит, постоянная занятость будет уходить в прошлое все быстрее. Трудовые отношения постепенно станут подобны биржевым, когда агенты работодателей находятся в постоянном поиске исполнителей, и цена контракта каждый раз может быть новой. Поэтому неизвестно, что ударит больнее: роботы, которые отнимают у человека работу по решению другого человека, или робот, сам расторгающий договор с человеком.

Экономические последствия повышения автономности роботов на рынках трудно прогнозировать. Их неограниченные рациональность и работоспособность станут причиной постоянных изменений, которые будут накапливаться с возрастающей скоростью, и в конце концов роботы смогут перехватить у людей инициативу. Да, они будут действовать в соответствии с целями, критериями и ограничениями, заданными людьми. Но это отнюдь не гарантия безопасности.

Превосходство машин

Нужно иметь мужество признать, что машины (некоторые уже, а некоторые вот-вот) субъекты и обратного хода нет. Перестройка отношений между людьми и роботами — ключевой момент современности.

Сложность организации машин сильно выросла. Уже сегодня мы не можем объяснить, как работают каскады нейронных сетей, где они начинают обучать друг друга. Важен результат: совсем недавно пал последний бастион превосходства человека над компьютером в области настольных игр — игра го, число ходов в которой больше числа атомов во Вселенной.

В 1999 году Билл Гейтс опубликовал свою знаменитую книгу «Бизнес со скоростью мысли», отстаивая в ней идею быстрой адаптации предприятия к изменениям бизнес-среды. Учитывая, что роботы будут вести бизнес со скоростью в несколько раз выше скорости мысли, человек уже не сможет адаптироваться к переменам.

Проблемы регулирования

Многие исследователи и предприниматели уже обращали внимание на неготовность человечества предложить для искусственного интеллекта (ИИ) четкий этический кодекс, который стал бы, в частности, основой и для безопасного развития цифровой экономики.

Вспоминается, например, настройка одного из американских интернет-магазинов, где цена на товар менялась в зависимости от того, из какого района города поступал запрос. Для запросов из центра цена ставилась выше. В данном случае машина никого не обманывала: субъектом решения оставался человек, задавший четкий алгоритм. Но в том-то и дело, что с ИИ мы не будем задавать алгоритмы, а только цели и критерии. И если мы хотим купить вещь как можно дешевле, вероятно, можно будет установить критерий законности, а можно будет не устанавливать. И куда зайдут алгоритмы, выискивая оптимальное решение, предсказать невозможно.

В человеческом обществе существует институт совершеннолетия, при наступлении которого права и обязанности личности существенно меняются. При этом важную роль играют личные данные человека и подтверждающие их документы. Если продолжить эту аналогию, то в целях безопасности сделок роботу тоже потребуется собственный уникальный идентификатор.

Доверие к роботу начинается с доверия к его коду. И здесь идеальное решение, чтобы этический кодекс создали и воплотили все крупнейшие разработчики. Проблема в том, что пока не существует организации, которой была бы посильна подобная задача. Такая организация должна иметь возможность влиять на крупнейшие ИТ-корпорации. Возможно, это некий аналог ООН, только не для стран, а для разработчиков. Но опять-таки вмешивается ограниченная рациональность. Люди подвержены оппортунизму — они готовы жертвовать большим для достижения сиюминутных целей. Поэтому на скорое решение этой проблемы рассчитывать не приходится.

Впрочем, главным вопросом регулирования сделок, совершенных роботами, является, по всей видимости, оспаривание совершенной сделки или анализ сделанной роботом ошибки.

Уже не первую сотню лет проблемы доверия так или иначе решаются путем сертификации, и в данном случае это остается наиболее вероятным способом. Если появляются смарт-контракты, почему не появиться смарт-сертификатам? Здесь сегодня просматриваются как минимум два актуальных аспекта: аспект выгодоприобретателя и аспект технологического наследования. Получив от пользователя цели, критерии и ограничения, а также доступ к данным о своих предпочтениях, типовой робот-агент становится уникальным и может быть сертифицирован как дееспособный субъект: «Я, уникальный алгоритм SR-VA71, действуя от имени такого-то выгодоприобретателя и на основании гарантий таких-то алгоритмов, выступаю покупателем (продавцом) …» Подобно цепочке блокчейна, записи о сделках могли бы иметь более сложную структуру, позволяющую при необходимости не только найти ответственного, но и источник произошедшей ошибки.

В случае с подобными сертификатами возможно было бы правовое, таможенное и иное регулирование, за которое будут бороться национальные правительства. Впрочем, само это регулирование тоже, по всей видимости, будет совсем не тем, к которому мы привыкли.

Об авторах
Юрий Нефедов доцент Российского экономического университета им. Плеханова, кандидат экономических наук
Точка зрения авторов, статьи которых публикуются в разделе «Мнения», может не совпадать с мнением редакции.