Компании внедряют ИИ-агентов пачками, выбирают модели, считают бюджеты — и почти никогда не назначают владельца процесса. Кто будет отвечать, когда робот ошибется? Эксперт разбирает на реальных кейсах
Автор: Тим Зинин, основатель сети инженеров Zinin.ai. Преподаватель ИИ трансформации.
Когда сотрудник ошибается, в компании есть привычный ритуал: объяснительная записка. Лист бумаги, дата, короткое «прошу учесть обстоятельства». Записка подшивается к личному делу, и в следующий раз человек трижды перечитает письмо клиенту перед отправкой — страх повторения дисциплинирует лучше любого регламента. У агента, который разбирает входящий поток заявок в лизинговой компании, такого ритуала нет. Он ошибается молча и работает дальше в ту же секунду, без паузы и без последствий для себя.
Объяснительную в такой ситуации придётся писать кому-то другому. Вопрос в том, кто именно окажется в этой строке — и понимает ли он заранее, что подписался на эту роль.
О корпоративном управлении вспоминают в связи с советом директоров, регламентами закупок и годовым отчётом перед акционерами. ИИ-агент, который отвечает за часть решений внутри компании, ставит тот же вопрос управления в масштабе одного процесса. Кто-то обязан отвечать за то, что происходит от имени компании, будь это человек или программа.
Мы ставили такого агента для компании, которая занимается лизингом контейнеров — сдаёт в аренду грузовые ёмкости, транспортные перевозки тут ни при чём. Агент читает входящий поток заявок, отсеивает спам, распределяет обращения по типу сделки и отвечает на типовые вопросы сразу, без очереди и без утра понедельника, когда почта скапливается за выходные. Но у такой скорости есть обратная сторона. Заявка, которую агент классифицировал неверно, уходит в архив без свидетелей. Как она там оказалась, знает только сам агент. Хватятся заявки позже — когда клиент сам позвонит спросить, почему на его письмо всё это время молчали.
Раньше эту заявку читал человек, и ошибка человека оставляла след: письмо в почте, комментарий в CRM, разговор с руководителем. У ошибки агента след появляется, только если кто-то заранее решил его вести. Значит, первый вопрос корпоративного управления к такому агенту — это вопрос про журнал: где хранится история решений и кто обязан её читать. Точность модели вторична: без записи о том, что вообще произошло, обсуждать нечего.
Похожая история — со справочными ботами, которые отвечают сотрудникам по внутренним базам документов и регламентов. Регламент меняется, лист согласования подписан новой редакцией, а индекс, по которому бот ищет ответы, обновляется вручную и требует отдельного графика — если такой график вообще завели. Сотрудник задаёт вопрос про отпускные дни или процедуру согласования расходов и получает уверенный, грамотно оформленный ответ по регламенту, который давно потерял силу. Бот при этом держит один и тот же уверенный тон — что до устаревания документа, что после. Разница видна только тому, кто отвечает за актуальность базы — если такой человек назначен.
Система, оставленная без присмотра, редко ломается сразу. Она продолжает отвечать, разбирать заявки, выглядеть исправной — с точки зрения кода она действительно исправна: подключение держится, ответ приходит вовремя, в логах пусто. Рвётся связь между тем, что система делает, и тем, что вокруг неё происходит: меняются цены, меняются условия договоров, меняется команда, которая её изначально настраивала. Заметить разрыв — работа человека, а такая задача вообще выходит за пределы того, что умеет делать сама система.
У разрыва бывает и обратная сторона — работающий контроль. Однажды мы вручную сверяли строительную смету, которую собрал ИИ по проектной документации: строка за строкой, статья за статьёй. Смета касалась денег, поэтому перед отправкой заказчику её проверял живой человек — с личной ответственностью за каждую строку. Каждая цифра в смете прошла через эту проверку, прежде чем оказаться в документе для заказчика. Это и есть владелец процесса — человек, к которому можно прийти с вопросом «почему здесь такая сумма» и получить содержательный ответ.
У этой роли на бумаге редко есть название. Иногда её условно называют «ответственный за систему», иногда вписывают в задачи руководителя отдела, где систему используют чаще всего. Название вторично, важны три вещи: этот человек проверяет цепочку решений системы с регулярностью, о которой договорились заранее; у него есть право забрать решение на себя, если оно выглядит подозрительно; и его имя фигурирует в разборе, когда случается сбой. Без этих трёх пунктов система формально принадлежит компании, а фактически остаётся ничьей.
На корпоративных интенсивах, где мы разворачиваем ИИ-терминалы для сотрудников целых отделов, разрыв виден особенно ярко. Компания закупает инструмент с энтузиазмом, обучает команду промптам, радуется первым результатам. Терминал встраивают в рабочий день, а вот роль владельца процесса в должностной инструкции остаётся пустой строкой. Получается сотрудник без табельного номера: он выполняет задачи наравне с командой, но у него нет руководителя, который планирует его нагрузку, читает его отчёты и отвечает за качество его работы перед остальными. Со временем на такого сотрудника накапливаются решения, за которые в компании отвечает буквально каждый и одновременно никто конкретно.
На собственном сайте у нас больше восьмисот страниц, которые написала генеративная модель. Каждый факт в этих текстах человек сверял до публикации, страница за страницей. У модели репутации нет — переписать текст и забыть про старую версию для неё легко. У человека репутация есть, и подпись под текстом на сайте — это его подпись. Это тот же принцип, что и со сметой: где решение стоит денег или доверия, за ним обязан стоять кто-то с именем.
Вернёмся к объяснительной. Её смысл — личная ставка: человек боится повторить ошибку, потому что она привязана к его фамилии, к его премии, к разговору с руководителем один на один. У агента такой ставки нет. Ему нечего терять и некого стыдиться, а уволить его можно в любой момент без единого урока — учиться там некому. Дисциплину в человеке держит страх последствий. У машины этого страха нет по конструкции. Значит, эту дисциплину обязан взять на себя кто-то из людей — заранее, поимённо, до того как агент отправит первый ответ клиенту.
Компании, которые сейчас разворачивают агентов пачками, реже всего задают себе именно этот вопрос. Чаще спрашивают, какую модель выбрать и сколько это будет стоить. Модель выбрать легче. С владельцем процесса сложнее: эту роль нельзя купить вместе с лицензией, её приходится назначать самим — заранее, до первой ошибки, пока агент ещё выглядит удобной программой в интерфейсе. Объяснительную за агента в итоге пишет тот, кого в компании назначили её писать заранее. Если, конечно, компания успела кого-то назначить.
