Вечером перед поездкой мой новый сервер, куда я собирался перенести свою работу с ИИ, не пускал к себе, и ИИ-исполнитель по моей просьбе прислал в Telegram отчёт: сломалось у хостинга (компании, где арендован сервер), и это не наша вина. Звучало убедительно: у исполнителя на руках было пять доказательств.
Может ли ИИ ошибаться? Мой ответ: да, и опаснее всего, когда он ошибается уверенно и с доказательствами. Мой сервер оказался исправен.
Хостинг был ни при чём. Исполнитель успел переустановить систему на сервере (примерно как Windows на компьютере), и зря. Причину нашли одной проверкой, которая даёт разный результат при разных версиях, и такую проверку исполнитель умел делать с самого начала.
Ниже 3 признака догадки и промпт для обычного чата с нейросетью: он просит назвать проверку, а не догадку.
ИИ ошибается уверенно: пять верных фактов и неверный вывод
ИИ-исполнителем я называю нейросеть, которой дали право самой выполнять команды на компьютере и сервере, а не только советовать. Мой исполнитель собрал честную картину:
- при обычном подключении соединение открывается, но сервер не отвечает ни словом;
- у сервера есть и другие входы для разных программ, 5 проверенных закрыты;
- окно управления сервером в панели хостинга (личном кабинете на сайте хостинга) тоже не подключается;
- по графикам в панели машина работает, но активности нет;
- перезагрузка из панели прошла, а поведение не изменилось.
Одну проверку он сделал правильно. С моего компьютера он подключился к 2 другим серверам, и там обмен приветствиями шёл нормально: при подключении компьютер и сервер сначала обмениваются короткими строками, где каждый себя называет. Значит, мой компьютер и программа подключения в порядке.
Следом шёл вывод: сломано у хостинга. Этот вывод уже ничем не проверяли. Проверять исполнитель умел, но проверки закончились там, где ответ показался очевидным.
Откуда у догадки тон диагноза, объясняет научная работа «Почему языковые модели галлюцинируют», которую написали в основном исследователи OpenAI. Если пересказать их вывод своими словами: модели выдумывают, потому что их учат и оценивают так, что угадать выгоднее, чем честно признать, что не знаешь. Языковыми моделями называют нейросети вроде ChatGPT, а галлюцинировать здесь значит уверенно выдавать неверное. Из 10 популярных тестов, по которым ставят оценки нейросетям, авторы нашли 9, где за ответ «не знаю» не дают ни балла. Похоже, отсюда и уверенный тон: ответ «не знаю» модели невыгоден.
Объясняет ли это именно мой случай, я не знаю. Работа описывает общий механизм, а не мой сервер.
ИИ прочитал из ответа поддержки только первую строку
Исполнитель отправил в поддержку хостинга подробное обращение со всеми пятью пунктами. Ответил автопомощник, программа поддержки. Исполнитель увидел первую строку, счёл ответ шаблонным и нажал «Продолжить», чтобы передать вопрос инженерам.
Я заметил, что ответ прочитан не до конца. В нём было 2 невыполненных пункта: нажать кнопку «Состояние» на вкладке мониторинга и открыть инструкцию хостинга ровно про наш случай, когда сервер числится активным, но не пускает к себе.
Кнопка ответила, что машина включена. Значит, оборудование хостинга исправно. Исполнитель нашёл в справке хостинга, что статус «Активен» в панели означает только оплату услуги. А до этого читал «Активен» как «работает».
Отчёт, который пришёл мне в Telegram, оказался неверным. Первую версию снял не спор с поддержкой, а одна кнопка, до которой надо было дочитать.
Вторая догадка прозвучала так же уверенно
Исполнитель исправил диагноз: сломано не у хостинга, а внутри системы самого сервера, в той части, что отвечает за связь. Об этом писал и автопомощник. Исполнитель решил, что ровно это и лечит сброс сетевых настроек, и сбросил их в панели.
Это уже вторая версия подряд, и снова без проверки, которая могла бы её опровергнуть. Ответ поддержки дочитали, но дочитать ещё не значит проверить.
За 2 дня, пока сервер не пускал к себе, исполнитель ещё и переустановил на нём систему.
Ошибка в чате остаётся словом на экране, её можно просто не принять. Когда у исполнителя есть доступ к серверу, догадка сразу становится действием.
Причину нашла проверка, которая различает версии
Решила дело проверка в 2 захода. Оба раза к серверу открывали одно и то же простое соединение, а разница была в одном действии.
В первый заход сервер только слушали. Он сам прислал своё приветствие, и связь держалась. Во второй заход серверу в ответ представились, как при обычном подключении. Связь оборвалась сразу.
Мне это напоминает проверку лампы. Лампа не горит, и её вкручивают в другой патрон. Загорелась, значит, лампа цела и дело в патроне. Меняют одно и смотрят, изменился ли результат.
Сервер сам начинал разговор, значит, в момент проверки он был жив и система на нём работала. Будь сломано оборудование хостинга или система сервера, первый заход тоже не прошёл бы. Связь рвалась по дороге к серверу, в момент, когда ему отвечали.
Самое обидное: ровно так, ещё до вывода о хостинге, исполнитель проверил мой компьютер, подключился с него к другим серверам. Главный вывод он так не проверил.
Может ли ИИ ошибаться в вашей задаче: 3 признака догадки
У Яндекса на странице нейросети Алиса AI на октябрь 2026 года стоит предупреждение: Алиса может ошибаться, и важное надо проверять. Совет верный, только из надписи непонятно, как проверять. По моему случаю догадку выдают 3 признака.
- Причина названа, а проверки, которая дала бы разный результат при разных версиях, нет.
- Виноват кто-то снаружи: хостинг, сервис, чужая программа.
- Источник прочитан частично: ответ поддержки, инструкция, письмо.
Хватает одного признака, чтобы попросить проверку. В моём случае были все три. Вот как выглядели версии и проверки, которые их различали:
| Версия причины | Проверка, которая различает версии | Что она показала |
|---|---|---|
| Дело в моём компьютере | Подключиться с него к 2 другим серверам | Связь идёт, компьютер ни при чём |
| Сломано у хостинга | Нажать кнопку «Состояние» из ответа поддержки | Машина включена, оборудование исправно |
| Сломана связь внутри системы сервера | 2 захода: только слушать или представиться в ответ | Сервер отвечает сам, связь рвётся по дороге к нему |
Какой вопрос я задал бы тому отчёту сейчас
Будь тот вечерний отчёт у меня сейчас, я спросил бы исполнителя: какая проверка покажет другой результат, если виноват не хостинг? Нет такой проверки, значит, в отчёте догадка, а не причина.
Промпт: попросить ИИ доказать причину, а не угадать
Тот же вопрос работает и в обычном чате.
Скопируйте текст в чат с нейросетью, когда она называет причину сбоя, и замените строку в квадратных скобках. Перед отправкой уберите из описания личные данные, адреса серверов и пароли.
Роль: ты помощник по поиску причин сбоев. Ты не называешь причину, пока её не подтвердила проверка. Идеальный результат: список версий причины, и для каждой — проверка, которая даст разный результат, если верна эта версия или соседняя. Зачем мне это: я не хочу чинить то, что не сломано. Задачи по порядку: 1) Перечисли все версии причины, включая мою сторону. 2) Для каждой версии предложи проверку и напиши, что она покажет, если версия верна, и что, если нет. 3) Отметь проверки, которые я могу сделать сам без риска. 4) Если в моём описании есть ответ поддержки или инструкция, перескажи их до последней строки, включая ссылки и кнопки. Нюансы: не предлагай переустановку, удаление или сброс, пока проверка не показала, что это нужно. Рамки: не больше 1 страницы, простыми словами. Мой сбой: [опишите, что видите на экране, без адресов и паролей]
Как устроить работу ИИ-исполнителя, чтобы его ошибки ловились раньше, я разобрал в статье про ИИ-агента простыми словами.
Если вы отдаёте ИИ-помощнику технические задачи, соберу систему под вашу задачу: чтобы он доказывал причину, а не угадывал.
Эльхан Дадашев, ИИ-архитектор. Собираю системы на ИИ под задачи людей, когда готовые программы не устраивают. Здесь пишу, с какими задачами сталкивался сам и как их решал.
Написать автору: Telegram · MAX · Работа со мной
Нужна такая же система под вашу задачу — разбираю процесс и проектирую её на ИИ.