Семь раз отмерь
Аналитики Сбербанка в ежегодном обзоре робототехники за 2019 год рассмотрели основные нормативно-правовые и этические проблемы роботизации.
Прежде всего, надо понять, что такое робот. Аналитики компании предлагают подход, основанный на трех критериях:
- восприятие окружающего мира;
- интерпретация полученной информации;
- дальнейшее воздействие на физический мир.
Это нужно, чтобы в понятие «робот» не попали слишком простые механизмы вроде кофемашин или голосовых помощников.
Кроме того, необходимо понять, как определять ответственного за причинение вреда роботом и разработать законы, регулирующие права на интеллектуальную собственность. Например, если робот создает музыку, картину или текст, кому принадлежат на них права?
Искусственный разум
С каждым днем ИИ становится все более совершенным. Представьте себе мир, в котором люди живут бок о бок с существами, которые обладают разумом, мыслями, чувствами, самосознанием и способностью выполнять целенаправленные действия — правда, в отличие от людей, они имеют механические тела, которые можно включать и выключать. В этом дивном новом мире возникло бы много проблем. Вопрос о нашем «моральном долге» перед высокими технологиями остается открытым. Как мы должны вести себя с коллегами-роботами? Какие у нас будут моральные обязанности перед ними? И какими правами будут обладать разумные роботы? Допустимо ли пытаться помешать их появлению или мы обязаны совершенствовать их?
Пожалуйста, не умирай
Ученые из Университета Южной Калифорнии пришли к выводу, что «в динамичном и непредсказуемом мире у искусственного интеллекта должен быть инстинкт самосохранения». В экстремальных ситуациях люди вынуждены принимать сложные решения, которые иногда могут приводить к тяжелым последствиям. Эксперты уверены, что моделирование подобного «режима» в роботах может сделать их более эмпатичными и эмоциональными. Машина, которая понимает возможные риски и осознает угрозу, будет принимать более осознанные решения в сфере услуг, социальной сфере, промышленности и других областях.
Законы писаны
Стремительное развитие технологий вынуждает общество действовать наперед, разрабатывая законы и правила автоматизации, чтобы в будущем роботы не привели человечество к катастрофе. В интервью РБК правовед Виктор Наумов рассказал, как в России и мире создается юридическое поле для искусственного интеллекта и робототехники.
Битва титанов
В Конвенции о рабстве сейчас говорится только о людях. Но если роботы станут такими же умными, как и мы, ООН придется задуматься о том, чтобы включить в документ и защиту прав машин. Как общество будет взаимодействовать с различными уровнями ИИ? Можно ли считать умные машины инструментом и эксплуатировать их, не спрашивая разрешения? И что произойдет, когда ИИ сможет постоять за себя?
… не освобождает от ответственности
Развитие новых технологий требует от инженеров и юристов четко определиться с тем, что собой представляет искусственный интеллект, что ему можно, а что нельзя и почему. Трех законов робототехники Айзека Азимова тут уже недостаточно: в суды по всему миру уже пошли первые жалобы на искусственный разум по конкретным жизненным ситуациям. Как вопрос решается и будет решаться в России и мире?