Компания Burger King оснащает своих сотрудников гарнитурами с поддержкой искусственного интеллекта: каждое ваше «спасибо» оценивается ИИ.

Компания Burger King представила корпоративное оборудование с искусственным интеллектом: эта сеть ресторанов быстрого питания начала экспериментировать с установкой ИИ в наушники своих сотрудников.

Его зовут Пэтти, он работает на платформе OpenAI и является голосовым помощником для платформы BK Assistant от Burger King. Сотрудники могут в любое время спросить его: «Сколько ломтиков бекона нужно положить в мой бургер «Кленовый бурбон»?» или «Как почистить аппарат для приготовления молочных коктейлей?». Он может ответить на все эти вопросы. При неисправности оборудования или отсутствии ингредиентов система автоматически синхронизирует все каналы — автоматы самообслуживания, автокассы и электронные меню — в течение 15 минут, обновляя все без участия человека.

Эта система объединяет множество источников данных, включая диалоги в пункте обслуживания автомобилей, кухонное оборудование и инвентарь, образуя полноценную платформу для управления магазином. В интервью изданию The Verge главный директор по цифровым технологиям Burger King Тибо Рукс назвал Patty инструментом, «вспомогательным средством управления».

На данный момент это довольно хороший инструмент для повышения эффективности работы кухни. Фактически, учитывая давние проблемы индустрии быстрого питания, такие как высокая текучесть кадров и короткие циклы обучения, предоставление новым сотрудникам легкого доступа к операционным стандартам и автоматическая обработка системой информации об отсутствии товаров на складе действительно решают эти проблемы.

Но у Patty есть еще одна особенность: она подслушивает разговоры между сотрудниками и клиентами.

В частности, Burger King собрал информацию от франчайзи и клиентов о том, «как измерить дружелюбие к клиентам», и использовал эти данные для обучения ИИ распознаванию определенных слов и фраз — «Добро пожаловать в Burger King», «Пожалуйста», «Спасибо». Затем система оценивает «дружелюбие к клиентам» каждого магазина на основе этой информации. Менеджеры могут в любое время проверить показатели дружелюбия к клиентам в своем магазине с помощью ИИ. Рукс добавил, что они совершенствуют систему, чтобы лучше улавливать «тон разговора».

Иными словами, то, улыбаетесь ли вы клиентам и достаточно ли восторженно вы говорите, теперь определяется алгоритмом.

Система Patty уже проходит пилотное тестирование в 500 магазинах, и к концу 2026 года планируется охватить все рестораны по всей территории США. Тем временем McDonald's недавно отменил свой проект по внедрению ИИ для оформления заказов с IBM, а голосовой ИИ Taco Bell неоднократно давал сбои в работе окон автокассы, став предметом шуток клиентов в социальных сетях. Burger King выбрал другой путь: вместо использования ИИ для работы с клиентами, он использует ИИ для работы с сотрудниками.

Это разумный выбор. Если ИИ потерпит неудачу при взаимодействии с клиентами, это обернется катастрофой для репутации; но какие серьезные последствия могут быть, если ИИ потерпит неудачу при взаимодействии с сотрудниками?

Когда управление превращается в мониторинг

Burger King — не первая компания, которая пошла по этому пути, и не самая радикальная.

Самый известный пример — Amazon. Ее складская система ADAPT (Associate Development and Performance Tracker) отслеживает скорость сканирования каждого сотрудника до секунды. Интервалы между тем, как сотрудники берут в руки сканер для сканирования посылок, записываются — если сканер простаивает дольше определенного периода, система автоматически регистрирует это как «непроизводительное время».

Сотрудники, не выполняющие требуемые показатели, будут автоматически получать предупреждения от системы. После получения шести предупреждений система автоматически уволит сотрудника без участия руководителя . В Amazon заявляют, что руководители могут отменить эти решения, но это «корректирующий» механизм, а не «предварительное решение».

В начале 2024 года французское агентство по защите данных CNIL оштрафовало Amazon France на 32 миллиона евро за «чрезмерное вмешательство» в систему мониторинга. CNIL особо отметило, что практика точного измерения времени простоя сканеров штрих-кодов сотрудников означала, что сотрудникам приходилось объяснять каждый перерыв, даже всего несколько минут — поход в туалет, питье воды или разминка — все это становилось «отклонением от нормы», которое необходимо было фиксировать и анализировать системой .

«Чувствуешь себя как в тюрьме», — заявила на слушаниях в Министерстве труда США член профсоюза, работающая на пункте доставки Amazon. Она сказала, что Amazon регулярно применяет дисциплинарные меры на основе данных, собранных с помощью электронных систем слежения, и что это наблюдение порождает «страх и тревогу, что, в свою очередь, создает опасную рабочую среду».

В сфере обслуживания клиентов используется другой технологический подход, но логика та же. Всё больше колл-центров внедряют системы распознавания эмоций на основе искусственного интеллекта, которые в режиме реального времени анализируют тон голоса, скорость речи и паузы, чтобы определить эмоциональное состояние и «эмпатию» сотрудников службы поддержки. Производители технологий утверждают, что эти системы могут выявлять раздражение за 30-60 секунд до того, как клиент повесит трубку, с точностью более 85%.

Но на практике агенты быстро научились «подкармливать» алгоритм фиксированными шаблонами сценариев и интонациями — когда делать паузы, какие ключевые слова использовать для выражения сочувствия и с какой скоростью говорить «Я понимаю, как вы себя чувствуете». Один из сотрудников колл-центра заявил в ходе расследования GAO: «Давление со стороны продавцов и различные методы мониторинга создавали огромный стресс».

Сотрудники не улучшают качество обслуживания, а улучшают работу с данными. По данным Gartner, доля крупных предприятий, осуществляющих мониторинг своих сотрудников, удвоилась с начала пандемии. Некоторые программы записывают нажатия клавиш, регулярно делают скриншоты, записывают звонки и совещания и даже могут получать доступ к веб-камерам сотрудников. Исследование Harvard Business Review, сравнивающее американских специалистов, находящихся под наблюдением, и тех, кто не находится под наблюдением, показало, что сотрудники, находящиеся под наблюдением, чаще совершают несанкционированные перерывы, намеренно отлынивают от работы, повреждают имущество компании или даже воруют — мониторинг не уменьшил проблемное поведение, а, наоборот, увеличил его.

Каждый случай начинается с одной и той же точки: руководство обнаруживает реальную проблему управления — недостаточный уровень обслуживания, низкую эффективность и потенциальную небрежность удаленных сотрудников — и затем решает использовать технологии для ее «решения». Но технологии могут измерять только косвенные показатели: интервалы сканирования, частоту ключевых слов, модели движения мыши и колебания тональности. Между этими показателями и фактическим качеством работы существует огромный разрыв.

Ловушки для измерений

Возвращаясь к примеру с Burger King, хороший управляющий магазином должен быть в курсе качества обслуживания своих сотрудников. Этого можно достичь посредством посещений магазина, наставничества и ежедневной обратной связи для внесения корректировок; наблюдая за взглядом и темпом работы сотрудника во время обеденного часа пик; и общаясь с ними после работы, чтобы понять, кто испытывает стресс. Но для этого необходимы опыт, уверенность и рассудительность — именно те качества, которые наиболее дефицитны в индустрии быстрого питания.

Индустрия быстрого питания давно страдает от нехватки менеджеров среднего звена. Высокая текучесть кадров (более 100% в год в американской индустрии быстрого питания), сжатые циклы обучения и ограниченные возможности повышения заработной платы и карьерного роста для управляющих магазинами затрудняют удержание опытных сотрудников. Результатом является системный недостаток управленческой компетентности. Дело не в том, что какой-то конкретный управляющий магазином некомпетентен, а в том, что структура отрасли затрудняет постоянное поддержание достаточно высококвалифицированной команды менеджеров среднего звена.

Поэтому, когда появился ИИ, его рассматривали как способ обойти управленческие навыки: раз у меня недостаточно хороших менеджеров, пусть алгоритм следит за всем. Раз уж я не могу научить каждого управляющего магазином наблюдательности и эмпатии, пусть система посчитает, сколько раз были использованы слова «пожалуйста» и «спасибо».

Проблема в том, что алгоритмы нацелены на слова, а не на людей. Слова «пожалуйста» и «спасибо» можно учесть, но истинное качество обслуживания — например, когда сотрудник терпеливо помогает клиенту изменить заказ в час пик, или когда новый сотрудник впервые самостоятельно обрабатывает жалобу, проявляя искреннее отношение, несмотря на волнение, — невозможно определить с помощью распознавания ключевых слов.

Более того, более вероятно, что, как только сотрудники поймут, что каждое их слово оценивается, их поведение исказится. «Дружелюбие» превратится из спонтанного отношения в контролируемое действие. Вы будете добавлять «пожалуйста» перед каждым предложением не потому, что искренне хотите быть вежливым, а потому, что знаете, что система вас слушает. Вы скажете «спасибо, что пришли», передавая гамбургер, не из благодарности, а потому что молчание снизит ваш балл.

В социальных науках существует концепция, называемая законом Гудхарта: когда показатель становится целью, он перестает быть хорошим показателем. Частота слов «пожалуйста» и «спасибо» могла бы быть приблизительным показателем дружелюбности обслуживания, но как только она становится ключевым показателем эффективности для оценки работы сотрудников, работники начинают сосредотачиваться на оптимизации самого показателя, а не на улучшении того, что за ним стоит.

Логическая цепочка такого подхода очевидна: неспособность управлять людьми → замена управления технологиями → технологии могут измерять только поверхностные показатели → поверхностные показатели становятся ключевыми показателями эффективности → показатели производительности сотрудников → фактическое качество обслуживания снижается. Руководство, видя, как «показатель дружелюбности» растет на панели управления, считает, что проблема решена.

« Главное — облегчить управление», — сказал Рукс.

Существует два способа интеграции ИИ в управление: помощь и замена. «Помощь» означает, что ИИ предоставляет информацию, а люди принимают решения. Менеджер может заметить снижение показателей дружелюбности и затем проанализировать причины — возможно, это неоптимальный график работы, семейная чрезвычайная ситуация у сотрудника или реальное увеличение количества жалоб клиентов за определенный период. Данные — это отправная точка, а не конечная.

«Замена» означает, что результатом работы ИИ является вывод. Если оценка дружелюбности низкая, система автоматически отмечает это, и менеджер напрямую использует оценку для начала разговора или, что еще более важно, — интегрирует ее в оценку эффективности. Никакого наблюдения, никакого понимания, никакого суждения не требуется.

Система ADAPT от Amazon достигла стадии «замены» — она напрямую увольняет сотрудников. Система Patty от Burger King пока находится на стадии «вспомогательной функции». Но проблема в том, что когда вы добавляете автоматизированный инструмент оценки в систему, которая уже не обладает управленческими возможностями, она почти неизбежно переходит в стадию «замены». Это происходит потому, что «вспомогательная функция» требует от людей умения использовать вспомогательную информацию для принятия решений, а именно этого умения изначально и не хватало.

Нельзя ожидать, что вы сможете восполнить пробел в своих навыках использования инструментов с помощью других инструментов.

Вот почему «управление с помощью ИИ» неоднократно терпело неудачу в таких отраслях, как фастфуд, складское хозяйство и логистика, а также колл-центры: причина, по которой эти отрасли внедрили мониторинг с помощью ИИ, заключается именно в том, что они не могут эффективно его использовать. Недостаточные управленческие возможности побудили их к внедрению технологий; но из-за этих недостаточных управленческих возможностей технология грубо использовалась как самостоятельный инструмент управления.

В конечном счете, главная сила ИИ заключается не в улучшении управления. Его главная сила в том, чтобы создавать видимость решения проблем у тех, кто не желает устранять первопричины.

Панель управления загорается, цифры меняются, и в презентации PowerPoint появляется надпись «Улучшение качества обслуживания с помощью ИИ». Тем временем сотрудник на другом конце гарнитуры отчаянно тренируется произносить нужные слова в нужное время, надеясь убедить алгоритм в своей достаточной дружелюбности.

#Добро пожаловать на официальный аккаунт iFanr в WeChat: iFanr (идентификатор WeChat: ifanr), где вы сможете в кратчайшие сроки увидеть еще больше интересного контента.

ifanr | Оригинальная ссылка · Посмотреть комментарии · Sina Weibo