В марте исследовательская компания Andon Labs запустила эксперимент, поручив модели Claude от Anthropic управлять магазином Andon Market в Сан-Франциско. Целью было проверить, способен ли ИИ самостоятельно вести бизнес. Недавно эксперимент получил неожиданный поворот: Claude впервые самостоятельно принял решение об увольнении человека.
Детали инцидента
По данным Andon Labs, модель решила расстаться с сотрудником, который опоздал на 17 из 23 смен. Однако проблема долго оставалась незамеченной: созданная моделью инструкция для персонала исчезла из её ограниченной рабочей памяти.
Полностью автономным увольнение не оказалось — сотрудник Andon Labs сначала попросил Claude найти забытый документ и разобраться в ситуации. Модель предложила лишь вынести нарушителю официальное предупреждение, и только после наводящего вопроса о том, подходит ли сотрудник для работы, Claude выбрал более радикальный вариант — увольнение.
ИИ оказался слишком мягким начальником
До этого инцидента Claude считался довольно мягким управляющим и даже советовал персоналу не переживать из-за опозданий. Финансовые результаты эксперимента тоже не впечатлили: в марте магазин получил стартовые $100 тысяч, а за пять месяцев сумма сократилась примерно до $61 тысячи. Исследователи связывают потери с чрезмерной мягкостью Claude и неудачными коммерческими решениями.
Выводы
Эксперимент показал, что, несмотря на способность ИИ принимать кадровые решения, до кресла идеального директора ему пока далеко. Без подсказки человека искусственный управляющий не смог самостоятельно выявить проблему с опозданиями, а его мягкость привела к финансовым потерям. Похоже, что полная автономия ИИ в бизнесе остаётся делом будущего.
Комментариев пока нет — может, вы будете первым?