Парадокс «ботситтинга»: когда ИИ не освобождает от работы, а создает новую нагрузку

Искусственный интеллект обещал освободить людей от рутинных задач и подарить дополнительное время для творчества и более сложной работы. Однако на практике все оказалось намного сложнее. Вместо того чтобы полностью заменить часть обязанностей, ИИ часто требует постоянного контроля со стороны человека, создавая новый вид нагрузки, который исследователи уже назвали «ботситтингом».

Представьте, что вы наняли помощника для обработки электронной почты. В первую неделю вы объясняете ему, какие письма важны, какие можно игнорировать и как сортировать сообщения. На второй неделе исправляете его ошибки. На третьей снова рассказываете те же правила, потому что помощник их забыл. В итоге у вас вроде бы есть помощник, но времени на управление им уходит больше, чем на самостоятельную работу.

Именно так сегодня многие сотрудники описывают работу с искусственным интеллектом. Согласно отчету Work AI Index, подготовленному исследователями Стэнфордского, Беркли и Нотр-Дамского университетов, сотрудники тратят в среднем 6,4 часа в неделю только на то, чтобы заставить ИИ работать должным образом. Это почти целый рабочий день каждую неделю.

ИИ экономит время, но не так, как ожидалось

Исследование показывает, что 87% работников используют ИИ в своей повседневной деятельности. Из них около 75% уверены, что искусственный интеллект делает их более продуктивными и помогает экономить примерно 11 часов в неделю.

Однако существует важное противоречие: только 13% компаний заявляют, что действительно наблюдают рост производительности сотрудников. Получается, что ощущение эффективности у работников и реальные результаты бизнеса значительно отличаются.

Причина заключается в том, что сэкономленное время не исчезает, а превращается в новые задачи:

• написание подробных запросов;
• объяснение контекста ИИ;
• проверка фактов и цифр;
• исправление ошибок;
• повторная генерация ответов;
• редактирование полученного текста.

Таким образом, часть рутинной работы действительно исчезает, но вместо нее появляется новая обязанность — постоянный контроль искусственного интеллекта.

Что такое ботситтинг

Авторы исследования назвали это явление botsitting — термин можно перевести как «присмотр за ботом» или «няня для ИИ».

Ботситтинг включает в себя практически все действия, связанные с обслуживанием искусственного интеллекта:

• предоставление контекста;
• настройку запросов;
• контроль качества ответов;
• исправление неточностей;
• удаление вымышленных данных;
• повторную постановку задач.

По словам руководителя Work AI Institute Ребекки Хайндс, подобная работа часто оказывается скучной, утомительной и практически никогда не учитывается работодателями. Время, которое ИИ якобы экономит, фактически превращается в своеобразный кредит, который приходится возвращать позже, затрачивая дополнительные усилия.

Проблема множества ИИ-инструментов

Дополнительную нагрузку создает огромное количество инструментов искусственного интеллекта. Пользователи редко ограничиваются одной системой.

Исследование показало, что:

• 77% сотрудников используют несколько ИИ-сервисов каждую неделю;
• каждый третий работает сразу с четырьмя и более инструментами;
• 46,5% сотрудников переключаются между двумя и более сервисами для выполнения одной задачи.

Почти половине работников (46,5%) приходится переключаться между двумя или более инструментами искусственного интеллекта, чтобы выполнить одну задачу. Исследователи называют это «налогом переключения», когнитивным налогом на постоянное переключение контекстов. Harvard Business Review уже подсчитал когнитивные издержки, связанные с переключением приложений, а консалтинговая компания McKinsey подсчитала, что работники тратят в среднем почти два часа в день на поиск информации среди инструментов, почтовых ящиков и чатов. ИИ, который позиционируется как панацея производительности, только добавил новый слой к этому хаосу, а не уменьшил его.

Каждый такой переход требует времени. Необходимо заново объяснять задачу, копировать данные, адаптировать запросы под особенности другого сервиса и повторять действия, которые уже были выполнены ранее.

Исследователи называют это явление «toggle tax» — когнитивным налогом за постоянное переключение контекста. Даже если на каждое переключение уходит всего несколько минут, в течение недели набираются часы потерянного времени.

Еще до появления современных ИИ-систем специалисты подсчитали, что сотрудники теряют почти два часа в день на поиск информации между почтой, чатами и различными рабочими инструментами. Искусственный интеллект должен был сократить этот хаос, однако во многих случаях лишь добавил еще один уровень сложности.

Когда контроль исчезает: феномен botshitting

Наиболее тревожный вывод исследования связан с явлением, которое получило название botshitting. Этот термин можно перевести как «бот-мусор» или «бездумная передача результатов ИИ».

Суть проблемы проста. Когда сотрудник слишком долго исправляет ошибки искусственного интеллекта и при этом обязан соблюдать сроки, он начинает меньше проверять результаты.

В итоге работа, созданная ИИ, отправляется дальше без тщательной проверки.

Исследование показало, что 69% участников хотя бы однажды поступали именно так.

Это создает цепную реакцию:

• ошибки попадают к следующему сотруднику;
• ему приходится тратить время на исправления;
• увеличиваются риски публикации ложных данных;
• снижается доверие к рабочим процессам;
• общая производительность компании падает.

Особенно опасны так называемые галлюцинации ИИ — ситуации, когда модель уверенно выдает полностью вымышленные факты, ссылки или статистику. Если такие ошибки не обнаружить вовремя, они могут привести к серьезным репутационным и финансовым последствиям.

Почему больше ИИ не всегда означает лучший результат

Многие руководители считают, что если внедрение искусственного интеллекта вызывает проблемы, то нужно просто использовать еще больше ИИ. Однако исследования показывают обратное.

Профессор Стэнфордского университета Боб Саттон отмечает, что организации, добившиеся лучших результатов, отличаются не количеством используемых моделей, а качеством организационных процессов.

Успешные компании создают так называемую «человеческую инфраструктуру» — систему обучения, поддержки и проверки результатов работы ИИ.

В таких организациях:

• сотрудники знают ограничения ИИ;
• существуют правила проверки результатов;
• есть единые стандарты написания запросов;
• созданы базы знаний и инструкции;
• руководство оценивает не только скорость, но и качество работы.

Исследование показывает, что в компаниях с развитой человеческой инфраструктурой сотрудники на 64% реже сталкиваются с выгоранием и на 52% реже передают непроверенные результаты работы искусственного интеллекта.

ИИ остается инструментом, а не заменой человека

Парадокс современной автоматизации заключается в том, что искусственный интеллект действительно способен повысить эффективность, но только тогда, когда человек понимает его ограничения и умеет правильно использовать возможности технологии.

ИИ не является полностью автономным сотрудником. Он требует обучения, контроля и критического мышления. Пока технологии не способны гарантировать абсолютную точность, именно человек остается главным звеном в процессе принятия решений.

Возможно, через несколько лет ситуация изменится. Но сегодня искусственный интеллект скорее напоминает талантливого стажера: он способен значительно ускорить работу, однако требует внимания, проверки и постоянного взаимодействия.

Ни для кого не удивительно, что больше ИИ не решает проблему. Боб Саттон, почетный профессор Стэнфорда и один из основателей Института искусственного интеллекта Work, подготовившего этот отчет, в других случаях отмечал, что одно из решений, которые обычно принимаются на руководящих должностях, когда какой-либо процесс вызывает трения, — это добавить больше этого элемента. В этом случае попробуйте решить проблему неправильного использования ИИ … с помощью большего количества ИИ.

Данные отчета указывают на то, что опережающие организации — это не те, которые больше всего используют ИИ. Именно они создали то, что авторы называют «человеческой инфраструктурой». 53% работников говорят, что необходимая им информация не поступает через их системы искусственного интеллекта. В компаниях, где это происходит, сотрудники выгорают на 64% реже и на 52% реже выполняют работу, которая не была проверена.

Выводы

Ботситтинг стал одной из самых неожиданных проблем эпохи искусственного интеллекта. Несмотря на обещания освободить людей от рутины, ИИ часто создает новую категорию задач, связанных с контролем и проверкой его работы.

Организации, которые осознают эту особенность и выстраивают процессы вокруг совместной работы человека и ИИ, получают реальные преимущества. Остальным же приходится сталкиваться с дополнительной нагрузкой, выгоранием сотрудников и снижением качества работы.

Часто задаваемые вопросы

Что такое ботситтинг?

Ботситтинг — это процесс контроля и сопровождения работы искусственного интеллекта, включающий написание запросов, проверку результатов и исправление ошибок.

Сколько времени сотрудники тратят на обслуживание ИИ?

Согласно исследованию Work AI Index, в среднем около 6,4 часа в неделю уходит на контроль, настройку и исправление результатов работы искусственного интеллекта.

Что такое botshitting?

Это ситуация, когда сотрудник передает результаты работы ИИ без достаточной проверки, полагаясь на правильность ответа модели.

Почему компании не всегда получают рост производительности от ИИ?

Потому что часть сэкономленного времени компенсируется новыми задачами: настройкой ИИ, проверкой результатов, переключением между сервисами и исправлением ошибок.

Можно ли полностью заменить человека искусственным интеллектом?

На современном этапе развития технологий ИИ остается инструментом, который помогает человеку, но не способен полностью заменить его опыт, критическое мышление и ответственность за конечный результат.

Редактор: AndreyEx