Здесь и поджидает главный риск — назовём его когнитивной капитуляцией. Делегировать ИИ задачи правильно. Делегировать ему суждение — значит потерять ровно то, что теперь и есть ваша роль.
WEF в работе, написанной вместе с Accenture, описывает механизм как «парадокс надзора»: частые контрольные точки незаметно вырождаются в формальное одобрение, а проверяющий из-за «склонности доверять автоматике» (automation bias — когда человек по инерции соглашается с системой) начинает кивать на рекомендацию агента вместо того, чтобы разбирать её критически.
Стандартное лекарство — «добавим больше человеческих проверок» — болезнь не лечит, а маскирует: больше штампов не равно больше суждения.
Есть и второй разворот: WEF и McKinsey отмечают, что сама неопределённость, которую создаёт ИИ, толкает часть руководителей не к более острому суждению, а к реактивному откату — закрыться и переждать. А спрос на умение стратегически управлять ИИ за два года вырос в семь раз — переждать не выйдет.
Цена капитуляции измерима: по данным Science, новички, некритично принимающие подсказки ИИ, работают заметно хуже тех, кто продумывает задачу сам. Удобство притупляет ровно ту способность, которая теперь в цене.
Теперь те самые 40 секунд крупным планом. Провал контура «человек в контуре» редко выглядит как драма — чаще как календарь. На проверку рекомендации у него 40 секунд между встречами, данных для обоснованного несогласия нет, а KPI меряет скорость согласований. Формально решение за человеком; фактически человек — штамп.
Проверка одним вопросом: пусть согласующий назовёт последний случай, когда он отклонил рекомендацию агента, и что за этим последовало. Если вспомнить нечего, контроля нет.
И это не теория со слайдов: сопротивление уже измерено. В опросе 1 600 специалистов (HBR) половина, а среди топ-менеджеров почти треть (31%), призналась, что активно работает против ИИ-инициатив, и лишь 36% сотрудников чувствуют себя обученными. Управлять суждением — своим и команды — в такой среде становится отдельной задачей.
Этот разрыв виден и в российских проектах: руководитель охотно отдаёт агенту исполнение, но на прямой вопрос «кто здесь принимает необратимое решение?» чаще отвечает пауза — границу собственного суждения заранее почти никто не прописывает.
Типовой сценарий провала выглядит так: комитет утверждает рекомендацию алгоритма, а когда спорный отказ всплывает, выясняется, что владелец риска не назначен — модель «решила», комитет «согласился», отвечать некому.
Мораль неприятная: коллективное согласие не заменяет суждение, и у каждого необратимого решения должен быть один человек с именем.