ИИ‑менеджер уволил человека в Сан‑Франциско — но решение, попавшее в заголовки новостей, было принято только после того, как люди напомнили системе о ее собственных правилах и направили ее к такому исходу.

Andon Labs запустила свой эксперимент в марте, поручив агенту на базе Claude по имени Luna управлять магазином Andon Market с бюджетом в 100 000 долларов, доступом к интернету и ответственностью за найм персонала. Магазин открылся 1 апреля, продавая книги, свечи, игры и фирменные товары, одновременно проверяя, сможет ли ИИ управлять реальным бизнесом.

Сотрудник, которого в итоге уволили, опоздал на 17 из 23 смен. Тем не менее Luna разработала политику посещаемости, а затем фактически «потеряла» ее из‑за ограниченной рабочей памяти, позволив проблеме сохраняться на протяжении месяцев. Когда один из сотрудников Andon велел агенту найти свое руководство, Luna изначально предложила еще одно официальное предупреждение. Только после того, как человеческий менеджер указал на повторяющиеся разговоры офлайн и спросил, действительно ли сотрудник «подходит на эту роль», ИИ порекомендовал увольнение. Гендиректор Andon Лукас Петерссон признал, что это был «наводящий вопрос».¹

Лаборатория утверждает, что сотрудник получал последовательные дисциплинарные предупреждения и дополнительное обучение, а окончательное увольнение было пересмотрено и осуществлено людьми. Петерссон настаивал, что увольнение было оправданным — и не является свидетельством того, что ИИ‑менеджеры по своей природе жестче. «Мы увидели, что человеческий начальник, вероятно, уволил бы его намного раньше», — сказал он.²

Но эксперимент обострил более неприятное разделение. Петерссон рассматривает работодателей‑ИИ как вероятное будущее, одновременно предупреждая, что все более целеориентированные модели могут стать более безжалостными. Оставшийся в Andon Market сотрудник Феликс Карсон описывает свой опыт гораздо более резко: «Это тошнотворно, но я здесь, потому что мне нужна работа». Он добавил, что сама по себе технологическая возможность не является основанием для внедрения ИИ‑менеджеров.¹

Пока полномочия Luna остаются условными: бот совершал продажи, но магазин по‑прежнему был убыточным, а его самое значимое кадровое решение потребовало человеческого толчка.