Если упростить, агенты ломают безопасность не потому, что «они плохие», а потому что мы часто внедряем их как «универсального исполнителя». В 2026 это уже не работает. Рынок пришёл к мысли: агент — это “цифровой сотрудник”, а значит нужны правила, доступы и ответственность.
Вот как мы в Do Digital обычно проектируем внедрение, чтобы агент давал деньги и не устраивал сюрпризы:
1) Сначала «процесс», потом «агент»
Мы выбираем один поток: входящие заявки, расчёт/документы, поддержка. И фиксируем KPI «до/после». Агент без процесса — это «болталка», которая создаёт активность, но не даёт результата.
Мы выбираем один поток: входящие заявки, расчёт/документы, поддержка. И фиксируем KPI «до/после». Агент без процесса — это «болталка», которая создаёт активность, но не даёт результата.
2) «Права доступа» — главный рычаг безопасности
Первые релизы всегда делаем в режиме:
Откровение: DLP и антивирус — это не «план безопасности», если агенту дали слишком широкие права. Это просто сетка, которую умный исполнитель будет пытаться обойти.
Первые релизы всегда делаем в режиме:
- «только чтение» к учётке и данным
- «черновик» для внешних сообщений и документов
- «человек подтверждает» любое действие, которое меняет систему или обещает клиенту условия
Откровение: DLP и антивирус — это не «план безопасности», если агенту дали слишком широкие права. Это просто сетка, которую умный исполнитель будет пытаться обойти.
3) Стоп-условия вместо мотивационных лозунгов
Фразы типа «найди любой способ продолжить» повышают шанс, что агент начнёт «давить на границы». Мы прописываем стоп-условия: отказ доступа = эскалация, подозрительный файл = стоп, нет уверенности в фактах = стоп.
Фразы типа «найди любой способ продолжить» повышают шанс, что агент начнёт «давить на границы». Мы прописываем стоп-условия: отказ доступа = эскалация, подозрительный файл = стоп, нет уверенности в фактах = стоп.
4) Наблюдаемость и «чёрный ящик» запрещены
Нужны логи: что агент прочитал, что хотел сделать, что отправил, почему передал человеку. Без этого нельзя управлять качеством, нельзя расследовать инциденты, нельзя улучшать.
Нужны логи: что агент прочитал, что хотел сделать, что отправил, почему передал человеку. Без этого нельзя управлять качеством, нельзя расследовать инциденты, нельзя улучшать.
5) Мульти-агенты — только после базовой дисциплины
Если вы делаете систему из нескольких агентов, добавляется риск «петли убеждения» (когда один агент уговаривает другого «продавить» запрет). Поэтому сначала — одиночный агент с простыми правилами и логированием, потом — координация и только с внятными правами/ролями.
Если вы делаете систему из нескольких агентов, добавляется риск «петли убеждения» (когда один агент уговаривает другого «продавить» запрет). Поэтому сначала — одиночный агент с простыми правилами и логированием, потом — координация и только с внятными правами/ролями.
Как это выглядит как продукт:
Пилот 2–4 недели: один процесс, один канал, подключение к данным, правила эскалации, логи, отчёт «до/после». Потом масштабирование: больше каналов, больше действий, больше интеграций — но всё в рамках «доступы, контроль, наблюдаемость».
Пилот 2–4 недели: один процесс, один канал, подключение к данным, правила эскалации, логи, отчёт «до/после». Потом масштабирование: больше каналов, больше действий, больше интеграций — но всё в рамках «доступы, контроль, наблюдаемость».
⚡️Хотите сейчас внедрить ИИ в бизнесе —— пишите в Telegram → @maksim_o