Нейросеть Claude стала управлять магазином и впервые уволила человека
В США Claude стала управлять магазином и уволила сотрудника за опоздания
Искусственному интеллекту поручили управлять магазином в Сан-Франциско, спустя некоторое время он уволил сотрудника за опоздания в 17 из 23 смен. За пять месяцев заведение под руководством ИИ потеряло почти половину своего баланса

Фото: iccangikhsan / Shutterstock
ИИ-ассистенту Claude, разработанному компанией Anthropic, поручили управлять розничным магазином в Сан-Франциско, после чего нейросеть впервые уволила человека, пишет Time.
Это не был первый случай увольнения человека искусственным интеллектом — прежде было множество случаев автоматизированных увольнений, например в результате алгоритмического контроля. Однако это первый известный пример того, как ИИ, выступая в роли менеджера, в конечном итоге принимает решение об увольнении одного из своих сотрудников.
В начале этого года стартап Andon Labs, занимающийся исследованиями в области искусственного интеллекта, поставил перед собой цель выяснить, смогут ли агенты ИИ успешно управлять бизнесом. Проект задумывался как эксперимент по проверке возможностей ИИ и его возможного влияния на экономику. Тем не менее, работники, нанятые Claude для работы в магазине, были реальными людьми с настоящими трудовыми договорами, отмечается в публикации.
В итоге одного из сотрудников уволили за опоздания в 17 из 23 смен. Среди причин, по которой Claude потребовалось так много времени, чтобы заметить закономерность, стало ограничение памяти. Разработанное им руководство для сотрудников пропало из его ограниченной рабочей памяти. Исследователи обратили внимание, что это привело к снисходительности Claude как менеджера — он призывал подчиненных не волноваться, если они опаздывают.
Однако увольнение не было полностью автономным. Согласно журналам управления, Claude требовал постоянного вмешательства сотрудника Andon Labs. Именно после подсказки менеджера ИИ нашел забытое руководство и заметил повторяющиеся опоздания. Claude сначала рекомендовал официальное предупреждение, а не увольнение. Работник Andon Labs в свою очередь сообщил нейросети, что уже провел несколько устных бесед с сотрудником, и задал ИИ-менеджеру «наводящий вопрос», после чего Claude принял решение об увольнении.
Вместе с этим финансовые результаты эксперимента оказались не впечатляющими: за пять месяцев баланс магазина сократился со $100 тыс. до $61 тыс. Мягкие управленческие решения бота, а также сомнительная деловая хватка поспособствовали этим убыткам, рассказал генеральный директор Andon Labs Лукас Петерссон. При этом он добавил, что модели обучают быть более жесткими в достижении целей, но «возможно, это будущее, в котором люди не захотят жить».
Ранее группа из 26 нынешних и бывших сотрудников Meta (компания признана в России экстремистской и запрещена) подала коллективный иск в федеральный суд в Окленде, штат Калифорния, обвинив компанию в применении ИИ-алгоритмов при массовых увольнениях. По утверждению истцов, автоматизированные системы несправедливо затронули работников с ограниченными возможностями и тех, кто находился в защищенном медицинском или семейном отпуске.
В мае Time писала, что американский IT-гигант Oracle за месяц уволил 30 тыс. сотрудников — их заменила нейросеть, которую часть из уволенных сотрудников и обучала. В материале говорится, что сотрудникам компании поручили описывать свою работу, обучая тем самым корпоративный искусственный интеллект.
Более 50% увольнений, связанных с ИИ, будут отменены, когда компании осознают операционные проблемы преждевременной замены человеческих ресурсов, считают аналитики Forrester. По оценке Gartner, половина компаний, которые уволили работников службы поддержки из-за внедрения ИИ, будут вынуждены нанять их обратно уже к 2027 году.
Оставайтесь на связи с РБК в «Максе».
