Железный дровосек: превратит ли человек умных роботов в своих рабов
В Конвенции о рабстве сейчас говорится только о людях. Но если роботы станут такими же умными, как и мы, ООН придется задуматься о том, чтобы включить в документ и защиту прав машин
Фото: CJ Dayrit / Unsplash

Сегодня мы видим массовое внедрение виртуальных помощников, беспилотников и умных систем на производствах — искусственный интеллект буквально повсюду. К 2040 году ожидается появление универсального искусственного интеллекта (artificial general intelligence — AGI). Это искусственный интеллект, способный обрабатывать информацию не хуже человека — то есть он может решать абсолютно все задачи, которые сейчас решаем только мы. Но как общество будет взаимодействовать с различными уровнями ИИ? Можно ли считать умные машины инструментом и эксплуатировать их, не спрашивая разрешения? А что произойдет, когда ИИ сможет постоять за себя?

Робототехника Регуляторы в инновациях Искусственный интеллект Внедрение
Правовед Виктор Наумов — о законодательном регулировании робототехники

С одной стороны, мы разрабатываем ИИ, даем ему «глаза» — камеры, «уши» — микрофоны и «кожу» — датчики осязания. Мы даем ему тело. Поэтому логично, что роботы предназначены, чтобы быть инструментами, быть полезными, рассуждает футуролог Сильвен Рошон в своей статье для блога Data Driven Investor. Сегодня у ИИ нет чувств как таковых, и мы не думаем дважды, прежде чем попросить Siri или Alexa что-либо сделать. Машину не волнуют наши просьбы, она не получает удовольствия от успеха и не испытывает негативных эмоций. Она просто выполняет свою работу.

Но когда появится универсальный искусственный интеллект, все станет сложнее. Скорее всего, наши чувства изменятся, когда мы увидим, что ИИ выглядит как человек, да и ведет себя соответствующе. Возможно, мы даже будем чувствовать симпатию и сострадание — мы перенесем наши чувства к другим людям на ИИ. Но это временно: люди привыкнут к AGI, и их настроения изменятся.

Искусственный интеллект Робототехника Регуляторы в инновациях IT
Границы разумного: как регулировать искусственный интеллект

Но к тому времени AGI уже научится у нас чувствовать, и потребительское отношение ему не понравится. Что произойдет, если мы не позволим новому совершенному ИИ выполнять возложенные на него задачи? Будет ли он демонстрировать разочарование и, следовательно, страдание? Если мы намеренно помешаем роботам достичь их целей, это будет равноценно лишению человека источника удовольствий. Если ИИ попросит перепрограммировать его так, чтобы он смог продолжить работу, должны ли мы бояться, что он нападет на нас, если мы не выполним его просьбу?

Чтобы избежать сложностей, Сильвен Рошон предлагает относиться к ИИ как к партнерам, а не как к инструментам или рабам. В какой-то момент AGI станет настолько разумным, что человечество назовет его новой формой разумной жизни. И в таком случае у нас нет других вариантов, кроме как относиться к ним как к своим друзьям.