ИИ-переизбыток: почему проекты по внедрению искусственного интеллекта проваливаются и как этого избежать

Автор статьи — Иван Манжетов, portfolio manager KODE.

Компании внедряют искусственный интеллект в продажи, поддержку, маркетинг, HR и документооборот, чтобы сократить расходы и ускорить работу. Но доступ к современной модели ещё не делает проект полезным для бизнеса. Если процесс не подготовлен, данные противоречат друг другу, а команда не определила критерии успеха, пилот так и останется экспериментом.

По данным Deloitte, только 25% компаний смогли перевести в промышленную эксплуатацию не менее 40% своих AI-экспериментов. Остальные инициативы либо не доходят до масштабирования, либо не дают заметной бизнес-ценности.

Почему внедрение ИИ не приносит результата

Большинство AI-проектов проваливается не из-за слабой нейросети. Компании начинают с выбора технологии, хотя сначала нужно определить задачу, подготовить данные, назначить владельца проекта и решить, где необходим контроль человека. Затем результат пилота сравнивают с исходными показателями процесса: временем, стоимостью, количеством ошибок, удовлетворённостью клиентов и производительностью сотрудников.

Ниже — шесть проверок, которые стоит провести до масштабного внедрения.

1. Сначала определите бизнес-задачу и KPI

Формулировка «нам нужно внедрить ИИ» не объясняет, какой результат должна получить компания. Проекту нужна измеримая цель: например, сократить время обработки обращения на 30%, снизить стоимость одной заявки, повысить конверсию или уменьшить количество ошибок в документах.

Без исходного значения и целевого показателя команда сможет оценить только работу модели: скорость ответа, точность распознавания или качество текста. Но эти характеристики не показывают, стал ли сам процесс быстрее, дешевле или удобнее для клиента.

Показательный пример — чат-бот Air Canada. Он сообщил пассажиру неверные условия получения льготного тарифа после поездки. Клиент руководствовался этим ответом, а затем обратился в суд. Трибунал признал авиакомпанию ответственной за информацию чат-бота и обязал её выплатить компенсацию: система оставалась частью сайта компании, а не самостоятельным участником отношений с клиентом. Решение по делу показало, что бизнес отвечает за результат автоматизации, даже если ошибку допустил алгоритм.

В этом случае компании следовало заранее ограничить круг вопросов, на которые бот мог отвечать самостоятельно, определить допустимый уровень ошибок и настроить передачу спорных обращений сотруднику.

2. Проверьте данные до запуска

Модель не исправит хаос в исходных данных. Если информация устарела, хранится в разных форматах или противоречит сама себе, ИИ быстрее воспроизведёт эти ошибки в ответах, рекомендациях и документах.

До начала пилота нужно понять:

• какие данные использует система и достаточно ли их для задачи;
• насколько они актуальны и нет ли в них дублей;
• по каким правилам исправляются ошибки;
• кто отвечает за обновление каждого источника;
• можно ли законно передавать эти сведения выбранной модели.

Отдельная проверка нужна для генеративного контента. В туристических сервисах уже появлялись описания и изображения несуществующих достопримечательностей, в том числе вымышленных горячих источников в Тасмании. Проблема возникла не только из-за галлюцинаций модели, но и потому, что материал опубликовали без проверки.

Если контент влияет на поездку, покупку или другое решение клиента, ИИ лучше использовать для черновика. Ответственность за факты и публикацию должна оставаться у сотрудника. Подробные требования к данным, контролю и ответственности мы разбирали в материале о внедрении ИИ без правовых рисков.

3. Начинайте с ограниченного пилота

Даже готовое решение не стоит сразу подключать ко всем клиентам и подразделениям. Сначала выберите один частый и понятный процесс, ограниченную группу пользователей или один тип обращений. Такой пилот покажет, как система работает не на тестовом наборе, а в реальной среде.

McDonald’s вместе с IBM с 2021 года тестировал автоматизированный приём заказов в drive-through. Решение должно было ускорить обслуживание и снизить нагрузку на сотрудников. Но система ошибалась при распознавании речи и иногда добавляла лишние позиции. В 2024 году компания завершила пилот более чем в 100 ресторанах, не отказавшись при этом от самой идеи голосовой автоматизации.

Этот пример показывает смысл пилота: его задача не доказать, что выбранная технология хорошая, а собрать данные для решения. Перед масштабированием стоит проверить разные условия работы, редкие сценарии, стоимость исправления ошибок и нагрузку на сотрудников, которые контролируют систему.

4. Назначьте владельца AI-проекта

Во внедрении обычно участвуют бизнес, ИТ, аналитики, безопасность, юристы и подрядчики. Если никто не отвечает за итоговый результат, приоритеты начинают меняться, проблемы переходят между командами, а каждый новый исполнитель заново разбирается в системе.

Владелец проекта должен отвечать не за сам факт запуска, а за достижение KPI. Он согласует границы пилота, принимает решения по доработкам, собирает обратную связь, контролирует подрядчиков и выносит решение о масштабировании.

В одном из практических кейсов дизайн-агентство пыталось автоматизировать холодные звонки в B2B. Робот путал людей с автоответчиками, терял нить разговора и предлагал компаниям нерелевантные услуги. Подрядчики сменяли друг друга, но внутри агентства не было человека, который сохранял бы знания, определял требования и последовательно улучшал продукт. В результате компания потратила время и бюджет, но не получила рабочего канала продаж.

Технология здесь была лишь частью проблемы. Без внутреннего владельца бизнес не может накопить экспертизу и отличить ограничение модели от ошибки процесса или подрядчика. Если проект уже теряет сроки и управляемость, разобраться в причинах помогает аудит IT-проекта.

5. Оставьте человеку решения с высокой ценой ошибки

ИИ хорошо справляется с подготовкой черновиков, поиском информации, классификацией обращений и рекомендациями. Но полная автономность опасна там, где решение влияет на деньги, права клиента, безопасность или репутацию компании.

Рабочая модель Human in the Loop означает, что алгоритм выполняет рутинную часть, а сотрудник проверяет важный результат и может его изменить. Уровень контроля зависит от риска: шаблонное внутреннее резюме можно принять автоматически, а отказ клиенту, платёж или публикация карточки товара требуют дополнительных правил.

В одном из проектов нейросети полностью передали создание изображений и описаний для маркетплейса. Ошибочные изображения и нерелевантные тексты привлекли не ту аудиторию. Возвраты выросли с 9–11 до 24%, а доля невыкупов — с 7 до 15%. Эти цифры относятся к конкретному кейсу, а не ко всему рынку, но хорошо показывают экономику ошибки: автоматизация выпуска контента увеличила скорость, одновременно ухудшив продажи.

Технология здесь была лишь частью проблемы. Без внутреннего владельца бизнес не может накопить экспертизу и отличить ограничение модели от ошибки процесса или подрядчика. Если проект уже теряет сроки и управляемость, разобраться в причинах помогает аудит IT-проекта.

5. Оставьте человеку решения с высокой ценой ошибки

ИИ хорошо справляется с подготовкой черновиков, поиском информации, классификацией обращений и рекомендациями. Но полная автономность опасна там, где решение влияет на деньги, права клиента, безопасность или репутацию компании.

Рабочая модель Human in the Loop означает, что алгоритм выполняет рутинную часть, а сотрудник проверяет важный результат и может его изменить. Уровень контроля зависит от риска: шаблонное внутреннее резюме можно принять автоматически, а отказ клиенту, платёж или публикация карточки товара требуют дополнительных правил.

В одном из проектов нейросети полностью передали создание изображений и описаний для маркетплейса. Ошибочные изображения и нерелевантные тексты привлекли не ту аудиторию. Возвраты выросли с 9–11 до 24%, а доля невыкупов — с 7 до 15%. Эти цифры относятся к конкретному кейсу, а не ко всему рынку, но хорошо показывают экономику ошибки: автоматизация выпуска контента увеличила скорость, одновременно ухудшив продажи.

Безопаснее было бы проверить новый процесс на части каталога, сравнить его с контрольной группой и оставить финальную публикацию специалисту. Для автономных систем дополнительно нужны ограничения на доступы и действия — подробнее об этом мы писали в статье об Agentic AI и корпоративных рисках.

6. Определите правила передачи задачи сотруднику

Контроль человека и эскалация — не одно и то же. Human in the Loop описывает общую модель работы, а правила эскалации отвечают на конкретный вопрос: в какой момент система обязана остановиться и позвать сотрудника.

Перед запуском зафиксируйте такие ситуации. Например, ИИ передаёт диалог оператору, если не уверен в ответе, клиент повторно задаёт вопрос, разговор становится конфликтным, запрос касается возврата денег или выходит за пределы базы знаний. Для финансовых и юридических операций можно установить лимиты по сумме и типу решения.

У Air Canada и McDonald’s проблема проявилась по-разному, но защитный механизм требовался один: система не должна продолжать сценарий, если не может надёжно его обработать. Эскалация помогает сохранить пользу автоматизации и ограничить возможный ущерб.

Как измерить эффект от внедрения ИИ

Точность модели, скорость генерации и результаты тестов нужны технической команде. Для бизнеса важнее сравнить процесс до и после пилота. Обычно достаточно выбрать три-пять показателей из пяти групп.

Скорость процесса

Измерьте среднее время обработки заявки, подготовки коммерческого предложения, ответа поддержки или согласования документа. Если раньше обращение занимало 20 минут, а после внедрения — 12, время обработки сократилось на 40%. Но эту цифру нужно оценивать вместе с качеством: быстрый неправильный ответ не создаёт ценности.

Количество ошибок

Считайте неправильно обработанные заявки, повторные обращения, возвраты из-за неверных описаний и ошибки в документах. Метрику лучше определять заранее, иначе команда может назвать ошибкой только технический сбой и не заметить неверное бизнес-решение модели.

Стоимость операции

Сравните стоимость одного обращения, документа, лида или заказа. Учитывайте не только оплату модели и инфраструктуры, но также интеграцию, сопровождение и время сотрудников на проверку. Иногда ИИ ускоряет процесс, но не удешевляет его, потому что ручной контроль остаётся слишком дорогим.

Клиентский опыт

Следите за NPS, CSAT, рейтингом приложения, жалобами и повторными обращениями. Если внутренний процесс стал дешевле, но клиенты чаще сталкиваются с ошибками, экономия может обернуться оттоком и репутационными потерями.

Производительность сотрудников

Измерьте количество обработанных заявок, документов или закрытых обращений на одного сотрудника. Рост производительности считается результатом только в том случае, если качество не снижается, а число исправлений не увеличивается.

Чек-лист перед запуском AI-пилота

• Выбрана одна конкретная бизнес-задача, а не технология ради технологии.
• Зафиксированы исходные значения и три-пять целевых KPI.
• Проверены качество, актуальность и законность использования данных.
• Назначен внутренний владелец проекта с правом принимать решения.
• Определена ограниченная аудитория или процесс для пилота.
• Описаны сценарии, которые ИИ не должен выполнять самостоятельно.
• Настроена передача сложных и рискованных случаев сотруднику.
• В расчёт включены интеграция, сопровождение и ручная проверка.
• Результаты пилота сравниваются с контрольной группой или показателями до запуска.
• Заранее определено, при каких результатах проект масштабируют, дорабатывают или закрывают.

Вопросы и ответы

С какого процесса лучше начинать внедрение ИИ?

С частого, повторяемого и измеримого процесса, где цена отдельной ошибки невысока. У команды должны быть исходные данные, понятный владелец и возможность проверить результат на ограниченной группе.

Сколько KPI нужно выбрать для пилота?

Обычно достаточно трёх-пяти. Среди них должны быть не только скорость и стоимость, но также качество результата и влияние на клиента.

Когда AI-проект нельзя масштабировать?

Если целевые показатели не достигнуты, стоимость контроля съедает экономию, ошибки затрагивают клиентов или команда не умеет объяснить и воспроизвести действия системы. Масштабирование в такой ситуации только увеличит ущерб.

Может ли ИИ работать без постоянной проверки человека?

Может в типовых сценариях с низкой ценой ошибки и понятными ограничениями. Финансовые, юридические, конфликтные и нестандартные случаи лучше передавать сотруднику.

Оценивайте не нейросеть, а изменение бизнеса

Успешное внедрение начинается не с выбора модели. Сначала компания описывает задачу, фиксирует показатели, проверяет данные и ограничивает пилот. Затем сравнивает процесс до и после запуска и решает, что делать дальше: масштабировать решение, доработать его или закрыть эксперимент.

Если вы хотите проверить идею AI-продукта до крупных инвестиций, команда KODE поможет определить сценарий, ограничения, архитектуру и метрики пилота. Начать можно с предварительной оценки проекта.