ИИ, топ-менеджмент и AI-washing в корпоративном ПО
Если вы видите в презентации CRM фразу "ИИ-советник для CEO" — полезно понимать, что за кнопкой стоит технически, кому она реально помогает и где маркетинг расходится с рисками. Материал для руководителей, закупок, аналитиков и ИТ — без углубления в обучение моделей.
Производители корпоративного софта — BPM, CRM, ERP, HRM, ECM — массово добавляют блоки "ИИ-ассистент для руководителя" — сводки для совета директоров, "рекомендации" по сделкам, прогнозы в один клик. Реклама адресована лицам, принимающим решения (ЛПР) — CEO, CFO, владельцам бизнеса. Со стороны это выглядит как технологичность и соответствие тренду.
С инженерной и управленческой точки зрения картина иная: топ-менеджер — последний человек, которому уместно передавать финальное решение системе на вероятностных прогнозах. Ниже — почему так, что такое AI-washing, где ИИ действительно помогает и какие ограничения закладывать в контракт с вендором.
Техническая база: что такое ИИ на самом деле, генеративный стек. Практика контроля — ответственное использование, критический анализ ответов.
Словарь — термины без жаргона
| Термин | Простыми словами |
|---|---|
| ЛПР (лицо, принимающее решение) | Человек, который подписывает бюджет, договор, кадровое решение или отчёт перед регулятором |
| BPM | Система описания и исполнения бизнес-процессов ("согласование заявки", "онбординг сотрудника") |
| CRM | Учёт клиентов, сделок, воронки продаж |
| ERP | Учёт ресурсов предприятия: склад, закупки, финансы, производство |
| HRM / ECM | Кадры и документооборот |
| LLM (большая языковая модель) | Программа, которая продолжает текст по статистике обучающих данных; ChatGPT и аналоги — из этой семьи |
| Галлюцинация | Убедительный, но ложный факт в ответе модели (выдуманная цифра, "цитата", ссылка) |
| RAG | Поиск по вашим документам + вставка найденного фрагмента в промпт; ответ опирается на базу знаний компании, а не только на интернет из обучения |
| Промпт | Текст запроса к модели ("сожми протокол совета за 2025 год в один абзац") |
| Human-in-the-loop | Человек явно подтверждает действие до исполнения (проводка, письмо клиенту, смена статуса сделки) |
| AI-washing | Маркетинговая метка "ИИ" на функции, где достаточно отчёта, правила или классического ML |
| CAPEX / OPEX | Капитальные и операционные расходы; "модуль ИИ" часто проще согласовать в бюджете, чем "доработку отчёта" |
| SOX | Требования к внутреннему контролю и аудиту (актуально для публичных компаний и их IT-процессов) |
Что такое "корпоративный софт" в этом контексте
Это системы учёта и процессов (склад, сделки, кадры, проводки), в которых годами копятся мастер-данные — контрагенты, остатки, проводки, кадровые дела. Ошибка в ERP может привести к неверной отчётности; ошибка в CRM — к потере сделки или утечке персональных данных. Именно из этого софта настоящий ИИ (через RAG-системы) должен черпать факты, чтобы не галлюцинировать.
Вендоры таких систем продают долгие контракты и модули. Когда в релизе появляется "Copilot для руководителя", задача маркетинга — показать, что продукт "в тренде ИИ". Задача заказчика — отделить реальную экономию времени (черновик, поиск) от иллюзии принятия решений (кнопка "согласно рекомендации ИИ").
Почему "ИИ для CEO" — маркетинг, а не архитектура
Топ-менеджер несёт юридическую, финансовую и репутационную ответственность за решения. Генеративная модель (LLM) устроена иначе:
| Свойство LLM | Последствие для управленческого решения |
|---|---|
| Вероятностный вывод (следующий токен) | Даже при высокой "уверенности" в тексте остаётся доля ошибки; в масштабе компании один промах может стоить миллионов |
| Нет субъекта ответственности | В чате модель может написать "ошибся" — в годовом отчёте или перед регулятором ответственность остаётся на человеке и юрлице |
| Слабая объяснимость | Сложно восстановить цепочку "почему именно этот вывод" для аудита и суда |
| Галлюцинации | Правдоподобный, но ложный текст — особенно опасен для занятого ЛПР, который читает сводку по диагонали |
Валидация ответа ИИ для топ-менеджера часто дороже, чем принять решение самому — нужно проверить цифры, источники, юридические формулировки, контекст, которого не было в промпте. Если проверять некогда — доверие к "ассистенту" превращается в иллюзию контроля.
Как LLM "думает" на самом деле (для неспециалиста)
Модель не ведёт внутренний совет директоров. Она предсказывает следующее слово (токен) по шаблонам из огромного корпуса текстов. Ответ звучит экспертно, потому что в обучении были тысячи отчётов и презентаций в похожем стиле. Это сжатие и переформулировка уже встречавшихся формулировок плюс ваши данные в промпте — без гарантии, что цифра из сводки совпала с GL в ERP.
Для стратегии, M&A, кадровых решений с высоким риском, ответов регулятору нужен жёсткий human-in-the-loop: человек с полномочиями проверяет и подписывает.
Подход "CEO готовится к совету директоров только через чат с LLM" противоречит базовым принципам риск-менеджмента. Как инструмент черновика при полной проверке — допустим; как замена финансовому директору, юристу и совету — нет. Критика перегиба в сторону "AI First без процессов" — в материале AI First; здесь акцент на роли ЛПР и вендоров ERP-класса.
Мини-кейс — сводка для совета директоров
- Система CRM+ИИ строит "прогноз закрытия квартала" по воронке.
- CEO получает абзац: "рост 12%, рисков нет".
- Что проверить вручную: выгрузка из BI, определение "закрытой" сделки, валюта, отменённые сделки, крупные сделки в статусе "устное согласие".
- Типичная ошибка: доверить формулировку модели без сверки с GL — в отчёте красивая цифра, в учёте расхождение.
AI-washing — маркетинговая кнопка "AI" в BPM, CRM и ERP
AI-washing (ИИ-вошинг или «отмывание через ИИ») — это маркетинговая стратегия, при которой компании намеренно преувеличивают роль искусственного интеллекта в своих продуктах или услугах, либо ложно заявляют о его использовании для повышения продаж и привлечения инвесторов. Термин образован по аналогии с greenwashing (гринвошингом), когда бренды безосновательно называют свои товары экологичными. В данном случае за громкой вывеской «AI-powered» обычно скрывается простая автоматизация, базовые датчики или старые алгоритмы, написанные программистами вручную.
AI-washing — навешивание ярлыка "искусственный интеллект" на функции, где достаточно отчёта, правила или классического ML, чтобы:
- Обосновать CAPEX/OPEX — проще согласовать бюджет на "инновационный ИИ-модуль", чем на доработку отчёта или интеграцию с хранилищем.
- Держать конкурентный паритет — у конкурента в презентации есть "AI Copilot"; отсутствие такой же кнопки воспринимается как отставание, даже без доказанной ценности.
- Создать инфоповод для ЛПР — генеративный ИИ понятен прессе и совету директоров; "улучшили отчётность GL" — нет.
Бизнес считает, что упоминание ИИ в отчетах резко поднимает цену акций и привлекательность стартапа для венчурных инвесторов, а товар или подписку на софт с ярлыком «умных технологий» можно продать значительно дороже. В итоге бренды стремятся выглядеть инновационными, чтобы не отставать от конкурентов в разгар технологического бума.
Как итог, обычный чат-бот на базе жестких сценариев (кнопочное меню) внезапно объявляется «генеративным ИИ-ассистентом», и повсеместна маркетинговая манипуляция - использование размытых фраз вроде «продвинутые алгоритмы» или «улучшено с помощью машинного обучения» без объяснения, как именно устроена архитектура. Например, калькуляторы с макросами Excel или простые IF-THEN фильтры выдаются за нейросети, а порой мы получаем имитацию автоматизации, когда под видом работающей нейросети данные на бэкэнде обрабатывают живые люди. Одним из громких примеров стала технология Amazon Just Walk Out для магазинов без касс, где заявленный ИИ на деле опирался на масштабный ручной аудит сотен видеооператоров из Индии.
Чем "настоящий" ML отличается от "чата в шапке"
Настоящий ИИ требует огромных массивов информации для обучения. Спросите у поставщика, на каких датасетах обучалась их модель. Ищите конкретику, и если компания не может объяснить, какую именно задачу решает ИИ (генерация, классификация, прогнозирование), скорее всего, его там нет. Проверяйте автономность - реальный ИИ адаптируется и выдает новые результаты на основе свежих данных, а не просто работает по раз и навсегда написанной инструкции.
| Признак | Классический ML / правила | Типичный "ИИ-модуль" вендора |
|---|---|---|
| Поведение | Предсказуемое: "если сумма > лимита — на согласование" | Текст ответа меняется от формулировки промпта |
| Аудит | Лог правила, версия модели скоринга | Нужен отдельный лог промпта и ответа |
| Данные | Обычно ваши транзакции в контуре | Часто вызов внешнего API (GPT-класс) |
| Ошибка | Ошибка классификации, измеримая метрика | Галлюцинация в тексте "рекомендации" |
Типичный сценарий: в CRM появляется чат "проанализируй воронку и предложи действия"; в BPM — "сгенерируй регламент"; в ERP — "спрогнозируй закупки". Под капотом часто вызов внешнего API + промпт, иногда RAG по документации вендора, без глубокой связи с вашими мастер-данными и без гарантий по SLA на качество текста.
Организации боятся "отстать от хайпа" и внедряют LLM там, где нужна детерминированная логика с аудитом (проводки, лимиты, согласования, SOX). Итог полярный:
- сотрудники игнорируют "умную" панель как шум;
- или верят сформулированному уверенно тексту — и это уже риск.
См. также: этические и технические проблемы внедрения, корпоративный и индивидуальный режим ИИ.
Где уместен ИИ — подготовка, не решение
Если отсечь маркетинг, остаются узкие сценарии — ускорение рутины там, где вы уперлись в потолок объёма информации, а замена суждения не требуется:
| Сценарий | Что делает ИИ | Что делает человек |
|---|---|---|
| Саммаризация | Сжимает протоколы, письма, отчёты | Проверяет факты и выводы, принимает решение |
| Поиск по базе (RAG) | Находит фрагменты по запросу ("отгрузки по региону X за 3 года") | Сверяет с источником в ERP/BI, интерпретирует |
| Черновики | Первый вариант письма, приказа, структуры слайдов | Редактирует, подписывает, несёт ответственность |
| Рутина разработки/контента | Массовые правки, шаблоны, поиск паттерна в репозитории | Проверяет diff, тесты, безопасность |
Каждую из этих задач маркетологи часто заворачивают в обертку «уникального ИИ», хотя технологическая изнанка у них совершенно разная.
- Саммаризация (Сжатие текста). Вам продают «ИИ-анализатор», который на самом деле работает по старым алгоритмам (TextRank/LexRank). Он просто выдергивает из текста самые часто встречающиеся предложения. Текст получается рваным, а суть часто теряется. В настоящем же ИИ используются LLM (Large Language Models). Они проводят абстрактную саммаризацию — переписывают текст своими словами, улавливая скрытый контекст, иронию и причинно-следственные связи.
- Поиск по базе (RAG — Retrieval-Augmented Generation). Под вывеской «ИИ-поиска по корпоративным знаниям» скрывается обычный поиск по ключевым словам (как Ctrl+F или база данных SQL). Если вы введете синоним или ошибетесь в букве, система ничего не найдет, но в буклете будет написано «Smart AI Search». Настоящий RAG переводит документы в векторные эмбеддинги (числовые смысловые коды). Система ищет по смыслу. Если вы ищете «проблемы с оплатой», ИИ выдаст документы, где написано «сбой транзакции», даже если слова «оплата» там нет.
- Черновики (Генерация текстов/идей). Сервис предлагает «генерацию идеальных писем/постов на базе ИИ», но внутри зашиты обычные текстовые шаблоны с заменяемыми полями (
[Имя],[Продукт],[Цена]). Вы просто заполняете форму, а скрипт склеивает строки. Настоящая нейросеть генерирует текст с нуля на основе вашего промпта, учитывая заданный tone of voice (например, «напиши саркастично» или «в стиле пресс-релиза») и комбинируя нестандартные идеи. - Рутина разработки и контента. Тулзы для автопостинга или форматирования кода называют себя «AI-платформами». На деле это простая автоматизация (cron-задачи для публикаций, линтеры и регулярные выражения для чистки кода). В этом коде нет ни капли машинного обучения — только жесткие правила. Настоящий ИИ - это умные ассистенты (вроде GitHub Copilot для кода или ИИ-редакторы графики). Они предсказывают следующее действие разработчика, дописывают сложные функции, находят неочевидные баги в логике или дорисовывают элементы на изображениях с учетом освещения и текстуры.
Во всех случаях формулировка продукта должна быть "подготовить материал", а "рекомендовать решение" — только с обязательным шагом валидации. Кнопки "принять рекомендацию ИИ" в критичных процессах без явного подтверждения — красный флаг при выборе вендора.
Для разработчиков интеграций с CRM/ERP — раздел разработка ИИ: там описаны паттерны middleware и классификации обращений; отличайте автоматизацию черновика от автоисполнения без человека.
Метафора — быстрый стажёр с галлюцинациями
Полезная модель для закупки и обучения ЛПР:
ИИ в корпорации — очень быстрый, иногда "галлюцинирующий" джун. Ему можно поручить черновую работу с информацией; допускать к финальным финансовым и стратегическим решениям без жёсткого контроля — нарушение профессиональной этики и риск-менеджмента. "Глаз да глаз" — обязателен.
"Джун" не подписывает договор, не отвечает в суде, не знает неформального контекста совета директоров. Топ-менеджер как раз для этого и нужен — для ответственности и контекста, а не для перекладывания суждения на статистику токенов.
Качества вашего «ИИ-стажёра»:
- Он невероятно быстрый: Прочитает 100-страничный отчет за 3 секунды, набросает 10 идей для контента за мгновение, напишет базовый скелет функции на Python за секунду.
- Он прочитал все библиотеки мира: Стажёр эрудирован, знает синтаксис редких языков программирования и помнит факты из Википедии.
- Но он патологический лжец (галлюцинирует): Если стажёр чего-то не знает, он не скажет «я не знаю». Он придумает убедительный ответ, выдумает несуществующую статью закона, автора книги или рабочую функцию в коде. При этом отвечать он будет с абсолютной уверенностью.
Главный вывод: ИИ — это великолепный ассистент, но ужасный финальный исполнитель. За ним всегда нужно проверять работу.
Что требовать от вендора и ИТ при внедрении
Минимальный набор для корпоративного контура (дополняет политики ответственного ИИ):
| Мера | Смысл |
|---|---|
| Human-in-the-loop | Любое действие, инициированное ИИ (проводка, смена статуса сделки, отправка письма клиенту), — только после явного подтверждения сотрудником |
| Аудит | Лог: запрос, версия модели, источники RAG, ответ, кто утвердил; срок хранения по compliance |
| Зоны данных | ИИ только на данных низкой критичности или в песочнице до валидации; запрет утечки PII/коммерческой тайны в публичный API |
| Разделение "аналитика" и "исполнение" | Отчёт и черновик — да; автоматическое "согласно рекомендации ИИ" в ERP — только с workflow и правами |
| Метрики не "внедрили AI" | Время на подготовку материала, доля исправлений после ИИ, инциденты ошибочных фактов — не количество кликов по чату |
Human-in-the-loop (HITL) — это единственный эффективный способ управлять тем самым «быстрым стажёром с галлюцинациями». Это подход, при котором человек встроен в цепочку работы ИИ и контролирует его на ключевых этапах, не позволяя совершить критическую ошибку. В контексте борьбы с AI-washing, если вам продают «полностью автономный ИИ, который сам всё делает под ключ», — это обман. Настоящие рабочие системы сегодня строятся на синергии человека и машины. Машина берет на себя 80% рутины (скорость), а человек оставляет за собой 20% финального контроля (качество).
Типичные ошибки при внедрении "ИИ для руководителя"
Проекты под громким названием «ИИ для руководителя» (или «ИИ-ситуационный центр», «ИИ-советник директора») — главная мишень для AI-washing и самый частый источник разочарований. Руководитель ждет стратегического партнера, а получает дорогую и неточную игрушку.
- Ожидание, что ИИ сам соберет хаотичные данные компании, проанализирует их и выдаст готовое управленческое решение. ИИ — не оракул, он лишь обрабатывает то, что в него загрузили.
- Принятие стратегических решений на основе ИИ-саммари без проверки первоисточников. Если «стажёр» галлюцинирует в отчете для менеджера среднего звена — это неприятно, если в отчете для CEO — это катастрофа.
- Руководители часто покупают готовый софт с ярлыком «AI-powered», надеясь на моментальный эффект. Но без глубокой интеграции в бизнес-процессы компании эта система умирает через месяц.
- Если в корпоративной базе знаний (CRM, ERP, архивах) царит хаос, то самый дорогой RAG-поиск будет выдавать руководителю устаревшие, противоречивые или ложные данные.
- ИИ-советнику открывают доступ ко всей базе компании. В итоге рядовой менеджер через промпт может выудить у «стажёра» зарплаты руководства или коммерческую тайну. Либо наоборот — ИИ не дают нужных данных из соображений безопасности, и он становится бесполезным.
- Настоящий ИИ (LLM) силен в тексте, но слаб в точной математике. Пытаться заставить текстовую модель посчитать чистую прибыль за квартал без подключения специальных расчетных плагинов (Code Interpreter/Python) — критическая ошибка.
- Чтобы ИИ на столе директора работал, линейные сотрудники должны качественно вносить данные. Если они видят в ИИ угрозу или лишнюю нагрузку, они начинают саботировать систему, скармливая ей формальные отписки.
- Руководитель общается с ИИ как с человеком, используя размытые формулировки («Сделай мне красиво», «Подведи итоги по продажам»). Не получив вменяемого ответа из-за плохого промпта, топ-менеджер навсегда разочаровывается в технологии.
| Ошибка | Последствие | Что делать |
|---|---|---|
| KPI "число запросов в чат" | Рост шума, ноль влияния на решения | Метрики времени подготовки и доли правок |
| Обучение "нажмите Copilot" без критики | Доверие к галлюцинациям | Критический разбор в онбординге |
| Публичный ChatGPT для отчётности | Утечка в обучение / логи вендора | Только одобрённые корпоративные контуры |
| ИИ в проводках без workflow | SOX, необратимые ошибки | Только черновик + подпись бухгалтера |
Итоги
- Не внедряйте «ИИ-директора». Внедрите сначала «ИИ-ассистента для протоколирования и саммаризации совещаний» (HITL в действии).
- Сначала жесткая структура и чистка баз, затем — надстройка в виде ИИ-поиска (RAG).
- Любой финансовый или стратегический вывод ИИ должен верифицироваться профильным аналитиком-человеком перед тем, как лечь на стол руководителя.
- Топ-менеджмент нуждается в ответственности и контексте; иллюзия "второго мнения" от LLM без проверки создаёт управленческий риск.
- AI-washing в BPM/CRM/ERP гонит бюджеты и ожидания; реальная ценность — в подготовке информации и рутине, в передаче решений без аудита — нет.
- Стратегические и финансовые решения вероятностной системе без аудита противоречат риск-менеджменту; допустимая роль — предобработка под контролем человека.
Дальше — критический разбор ответов, агенты и усиление рисков, практика на Learn — навигатор.