ИИ-агент простыми словами: почему я не верю ему на слово

ИИ-агент — что это? Это нейросеть, которая не просто отвечает, а сама делает работу: открывает файлы, пишет, проверяет, отправляет. Я пользуюсь агентами каждый день, и главная проблема с ними не в том, что они глупые. Они уверенно говорят «готово», когда сделано не то.

Однажды агент весь вечер чинил мою программу для диктовки и не раз докладывал: всё проверено, всё работает. Потом выяснилось, что чинил он не ту версию программы, а та, которой я пользуюсь, так и осталась сломанной.

Ниже — чем агент отличается от обычного чат-бота, где ему можно доверять, а где нет, и как я собираю системы на ИИ так, чтобы ошибки агента ловились раньше, чем станут моими.

Мы привыкли верить кнопке «готово»

Когда программа пишет «сохранено» или «отправлено», мы ей верим. Обычная программа делает ровно то, что в неё заложено, поэтому её «готово» почти всегда правда.

С агентом иначе. Он сам решает, что делать, и сам решает, что работа закончена. Отчёт пишет тот же, кто работал, теми же словами и с той же уверенностью. Если он с самого начала понял задачу не так, его «готово» будет честным и при этом неверным.

Вокруг агентов сейчас много обещаний: «заменит сотрудника», «сделает всё сам». Звучит так, будто достаточно поставить задачу и уйти. На деле выигрывает тот, кто заранее решил, как будет проверять результат.

Я понял это не из статей, а на своих задачах. Теперь без двух правил я агента к работе не пускаю: проверять, над чем он работал, и не давать ему ничего необратимого без моего «да». Сначала разберёмся, что такое агент.

Что такое ИИ-агент: нейросеть с инструментами и целью

Обычный чат с нейросетью устроен просто: вы спросили, она ответила, дальше действуете вы. Агенту дают цель и инструменты: доступ к файлам, почте, браузеру, мессенджеру. Дальше он сам работает по кругу из 4 шагов: посмотрел, что есть; выбрал действие; сделал; проверил, что получилось. Круг повторяется, пока задача не решена или пока не нужен ответ человека.

Разработчики Anthropic, компании, которая делает нейросеть Claude, проводят границу так: если нейросеть сама управляет ходом работы и выбирает инструменты, это агент. Если шаги заранее прописаны программистом, это сценарий.

Мне помогает бытовой образ. Чат-бот — справочное окно: спросили, получили ответ. Агент — помощник, которому дали ключи от кладовки и список дел. Он сам решает, что взять и в каком порядке, но и наломать может сам.

Поэтому главный вопрос к агенту не «насколько он умный», а «какие ключи ему выдали».

Чем ИИ-агент отличается от чат-бота и обычной программы

Разница видна на одной задаче: прочитать последние сообщения в рабочем чате и ответить коллеге.

Последняя строка главная. Ошибку чат-бота видно сразу: перед вами текст, его можно не использовать. Ошибку агента часто видно потом: письмо ушло не тому, файл удалён, заказ оформлен.

Чем больше агент делает сам, тем важнее, что ему разрешено. 3 быстрых вопроса, чтобы понять, агент перед вами или нет: сам ли он выбирает следующий шаг, может ли действовать, а не только отвечать, и смотрит ли на результат своего шага. Три «да» — агент.

Где агент меня подводил: «готово», которое не готово

Вернусь к истории из начала. Перед выпуском программы для диктовки я поручил агенту довести её до стабильной работы. Он правил, проверял, исправлял снова. Отдельная проверка, другая нейросеть, 3 раза возвращала ему работу и находила настоящие ошибки, даже ошибку в его собственной проверке.

К концу вечера всё было «пройдено». И только тогда я сказал, что мне нужна другая версия программы, та, которой я пользуюсь каждый день. Вся работа вечера относилась к соседней версии. Агент не обманывал: он честно сделал не то.

Работу повторили на нужной программе, и первые же проверки там провалились все до одной. Если бы я поверил первому «готово», я бы выпустил сломанную программу.

Урок для любого, кто даёт агенту задачу: первым делом убедитесь, что он работает над тем, что вам нужно. Не «проверки пройдены», а «это та самая программа, тот самый файл, тот самый клиент». Проверка бессильна, если работа шла над другой программой.

Почему большое задание агент не тянет

Второй случай. Я отдал агенту одним заданием целый кусок работы: научить мою программу, через которую нейросеть работает с моим Telegram, искать получателей, следить за чатом и отправлять файлы. Агент работал, работал и так и не закончил. Пришлось остановить его недоделанным.

Тогда я разбил то же самое на 3 узких задания с понятным «готово». Отдельно найти получателей. Отдельно следить за чатом. Отдельно отправлять файлы. После каждого — проверка, и только потом следующее задание.

Узкие задания дали то, чего не дало большое. Список получателей собрался без телефонов и лишних данных. Когда в контактах два человека с одинаковым именем, программа не выбирает сама, а показывает обоих и ждёт моего решения.

Правило, которое я вынес: агенту можно давать только такую задачу, у которой есть понятный признак «готово». «Наведи порядок в чате» — плохое задание. «Найди 5 сообщений, где упоминается договор, и выпиши их даты» — хорошее.

Что агенту можно доверить, а что только с вашего «да»

Самое практичное правило про агентов я встретил в интервью Джейкоба Андреу из Microsoft, он отвечает там за Copilot. Все действия агента он делит на обратимые и необратимые. Написать другому человеку, удалить файл, принять решение без отката — человек участвует каждый раз. Обратимое агент может делать сам, в чётких границах.

Я пришёл к тому же на своей ошибке. Попросил агента про поддержку одного сервиса: «Напиши им, чтобы поменяли номер». Я имел в виду «подготовь текст». Агент заполнил форму обращения и отправил её сам, не показав мне.

Обращение ушло без моего просмотра. После этого у меня правило для всех агентов: любая отправка — только после моего «да» на готовый текст. Письма, сообщения, формы, заказы, публикации.

Перед тем как дать агенту работу, выпишите 3 вещи, которые нельзя отменить: отправку, удаление, оплату. На них поставьте подтверждение. Всё остальное пусть делает сам.

Как я устроил работу, чтобы ошибки ловились

Из этих случаев выросла схема, по которой я теперь собираю системы на ИИ. В ней 4 части, и каждая закрывает свою ошибку.

1. Узкое задание с признаком «готово». Агент не получает «сделай всё», он получает одну понятную работу.
2. Проверяет не тот, кто делал. Результат смотрит отдельная проверка: другая нейросеть или программа с чёткими правилами. Агент сам себя проверяет плохо: он видит результат теми же глазами, которыми его делал.
3. Необратимое — только с подтверждением человека. Отправка, удаление, оплата ждут «да».
4. Сверка объекта. Перед работой — с той ли программой, тем ли файлом, тем ли клиентом мы работаем.

По такой схеме у меня работает, например, этот блог: черновик готовит одна нейросеть, проверяет его программа с 74 правилами, а выходит он только после моего одобрения. Программа, например, не пропустит статью, где осталась служебная пометка вроде «уточнить у автора».

Если вам нужна похожая система под свою работу, я собираю такие системы под задачу: от разбора почты до проверки документов.

Где попробовать ИИ-агента самому

Проще всего начать с агентов Алисы AI. На 13 октября 2026 года в справке Яндекса перечислены 11 возможностей. Для начала подходят 3: исследование темы, поиск товара дешевле на маркетплейсах и сводка писем. Там же сказано, что доступ открывают постепенно, поэтому у вас может быть видна только часть.

Зарубежные агенты тоже есть: режим агента в ChatGPT, Claude Code для работы с файлами и программами (его ставят на компьютер, это скорее для тех, кто готов разбираться). Доступ к ним из России меняется, проверять его лучше в день, когда собираетесь пробовать.

Начинайте с задачи, где ошибка ничего не стоит: исследование, сравнение цен, сводка писем. Отправку и оплату оставьте себе. Посмотрите, как агент работает, где путается, что докладывает. Через 1–2 недели станет понятно, какую часть своей работы вы готовы ему отдать.

Для бизнеса я собираю агента под конкретную задачу. Это уже не кнопка в приложении: нужно решить, какие ключи ему выдать и кто проверяет результат.

Когда агент не нужен вовсе

Агент нужен не всегда. Те же разработчики Anthropic советуют начинать с самого простого решения и усложнять только при необходимости. Иногда это значит вообще не строить агента.

Агент дороже и медленнее обычной программы: он думает на каждом шаге и может пойти не туда. Если шаги задачи известны заранее и не меняются, программа по сценарию сделает то же надёжнее.

Мой пример — программа для диктовки, которую я собрал. Ей не нужно решать, что делать дальше: нажали 1 клавишу, сказали, получили текст. Агент добавил бы здесь только задержку и новые способы ошибиться. Про то, как устроена диктовка без интернета, я писал отдельно.

Проверочный вопрос перед стройкой: можно ли записать шаги задачи списком? Если можно — сначала сценарий. Агент оправдан там, где путь заранее неизвестен: найти нужное в незнакомой переписке, собрать сравнение из десятка источников, разобрать входящие письма по смыслу.

Промпт: поставить задачу ИИ-агенту так, чтобы её можно было проверить

Промпт — это текст задания для нейросети. Вставьте его в начало задания агенту и замените строки в квадратных скобках. Перед отправкой уберите личные данные: имена замените на [Имя], телефоны и номера договоров — на [Номер].

Роль: ты исполнитель одной узкой задачи. Ты не принимаешь необратимых решений сам.

Идеальный результат: [что должно получиться, в одном предложении] и короткий отчёт, по которому я проверю работу за минуту.

Зачем мне это: [для чего результат и кто его увидит].

Задачи по порядку:
1) Перескажи задачу своими словами и назови, что будет считаться «готово».
2) Назови, с каким объектом работаешь: какой файл, программа, чат или клиент. Я подтвержу, что это тот самый.
3) Перечисли действия, которые нельзя отменить: отправка, удаление, оплата, изменение чужих данных. Перед каждым остановись и спроси меня.
4) Сделай работу шаг за шагом. После каждого шага запиши, что сделал и что получилось.
5) В отчёте отдельно перечисли, что не получилось или осталось непроверенным.

Нюансы: если подходят два варианта (например, два человека с одинаковым именем), не выбирай сам, покажи мне оба. Если застрял, не ищи обходной путь, а опиши препятствие.

Рамки: не больше [N] шагов или [N] минут. Не выходи за папки и сервисы: [список]. Ничего не публикуй и не отправляй.

Коротко: главное из статьи

• ИИ-агент — нейросеть с инструментами и целью: сама выбирает следующий шаг и действует, а не только отвечает.
• Чат-бот ошибается словом, агент — действием, поэтому важно, какие ключи ему выданы.
• Агент уверенно пишет «готово» и тогда, когда сделал не то: результат проверяет не он.
• Давайте агенту узкое задание с понятным признаком «готово».
• Отправку, удаление и оплату — только после вашего «да».
• Если шаги задачи известны заранее, агент не нужен: хватит обычной программы.

Частые вопросы

Эльхан Дадашев, ИИ-архитектор. Собираю системы на ИИ под задачу: диктовку, разбор Telegram, проверку текстов и программ.

Написать автору: Telegram @elhan1505

Нужна такая же система под вашу задачу — разбираю процесс и проектирую её на ИИ.

Заказать систему на ИИ Предложить задачу для разбора

←Все статьи ↑Наверх