Как сообщает издание Time, искусственный интеллект Claude, созданный компанией Anthropic, был использован для управления розничной точкой в Сан-Франциско. Впервые в истории эта нейросеть приняла решение об увольнении сотрудника.
Несмотря на то что уже были случаи автоматизированных сокращений, которые проводились с помощью алгоритмического контроля, этот случай является уникальным. ИИ принял кадровое решение, выступая в роли менеджера.
Эксперимент был организован стартапом Andon Labs с целью изучения потенциала интеллектуальных агентов в управлении бизнес-процессами и их влияния на экономику. Следует подчеркнуть, что персонал магазина состоял из официально трудоустроенных сотрудников.
В процессе работы нейросеть обнаружила систематические опоздания одного из работников – 17 случаев из 23 смен. Задержка в принятии решения об увольнении была вызвана ограничениями оперативной памяти модели, из-за чего ранее составленное руководство для персонала оказалось утраченным. Это привело к тому, что ИИ-менеджер проявлял чрезмерную лояльность к нарушителю.
Однако процесс принятия решений не был полностью автоматизирован: системе требовалось вмешательство человека из Andon Labs. После получения подсказки и восстановления доступа к правилам нейросеть сначала предложила дисциплинарное предупреждение. Однако после уточнения информации о предыдущих устных беседах, она приняла решение об увольнении.
Результаты эксперимента оказались неудовлетворительными: за пять месяцев баланс магазина снизился со 100 тысяч до 61 тысячи долларов. Генеральный директор Andon Labs Лукас Петерссон связывает эти убытки с мягкостью управленческих решений, которые принимал бот, и с отсутствием решительности в достижении целей. Он подчёркивает, как сложно найти баланс между эффективностью искусственного интеллекта и человеческим фактором.
Этот инцидент происходит на фоне растущего числа судебных разбирательств и корпоративных изменений, связанных с использованием технологий. Например, группа бывших сотрудников Meta (признана экстремистской организацией и запрещена в РФ) подала иск против компании за использование алгоритмов при массовых сокращениях. По их словам, эти сокращения несправедливо затронули лиц с ограниченными возможностями и тех, кто находился в отпуске. Кроме того, сообщалось об увольнении 30 тысяч сотрудников Oracle с целью замены их функциями нейросетей, обучение которых частично осуществляли сами работники.
Однако аналитики Forrester предсказывают, что более половины случаев увольнения сотрудников из-за внедрения ИИ будут отменены, поскольку компании осознают, насколько сложно заменить людей искусственным интеллектом.
По оценкам Gartner, к 2027 году около половины компаний, заменивших сотрудников службы поддержки искусственным интеллектом, могут быть вынуждены восстановить эти рабочие места из-за технических или качественных проблем, которые были выявлены.