Всё началось с писем о недоставке.
Их было много.
Очень много.
Обычно такое письмо приходит, когда отправляешь сообщение на несуществующий адрес: почтовая система возвращает его обратно и сообщает, что доставить не удалось.
Только я этих писем не отправляла.
Сначала подумала: ошибка. Потом открыла ещё одно. И ещё.
Постепенно стало понятно: с почтового ящика одного из моих новых проектов кто-то рассылает чужие письма.
В какой-то момент в очереди на отправку оказалось 1884 письма.
Тут уже стало понятно: у меня проблема.
Я позвала ИИ
Самостоятельно разбираться во внутренней жизни почтового сервера я не умею.
Поэтому стала показывать всё ИИ.
Он говорил, куда зайти, что посмотреть и какие данные скопировать.
В том числе мы смотрели журналы работы сервера.
Если совсем по-человечески, это примерно как журнал посещений: компьютер автоматически записывает, что происходило — когда кто-то подключался к почте, когда отправлялись письма, были ли ошибки и другие технические события.
И постепенно выяснилась важная вещь.
Письма не просто выглядели так, будто отправлены с моего адреса.
Для их отправки использовались данные для входа в почтовый ящик.
То есть проблема была настоящей.
Кто-то получил возможность пользоваться моей почтой.
Дальше началось расследование.
Мы искали следы подключений, смотрели время, адреса компьютеров в сети, с которых происходили обращения к почте, и пытались понять, откуда всё началось.
И тут ИИ обнаружил несколько таких адресов.
И довольно уверенно сообщил мне, что они могут принадлежать тому, кто получил доступ к почте.
Ну вот.
Кажется, нашли.
А потом я попросила проверить
Это вообще одна из привычек, которые у меня появились при работе с ИИ.
Если он сообщает что-то важное — особенно если от этого зависят мои дальнейшие действия, — я прошу проверить ещё раз.
Мы стали разбираться с найденными адресами подробнее.
И выяснилось интересное.
Они принадлежали инфраструктуре компании, которая обслуживает мою почту.
То есть мы смотрели не на «адрес хакера», а на технические следы работы самой системы.
ИИ нашёл хакера. Только это был не хакер.
Он увидел реальные технические данные, построил вполне правдоподобную версию — и выдал её слишком уверенно.
Если бы я на этом остановилась, у меня осталась бы совершенно ложная картина произошедшего.
Но проблема-то была настоящая
Ошибка ИИ не означала, что всё остальное расследование было бесполезно.
Мы продолжили.
Я поменяла пароль от почты и проверила другие места, где старые данные для входа могли использоваться.
Очередь из чужих писем очистили.
После смены пароля подозрительная активность прекратилась.
Проблему мы остановили.
Но для меня эта история оказалась интересна совсем другим.
В процессе расследования ИИ успел предложить очень убедительное объяснение, которое при проверке оказалось неверным.
И это, пожалуй, самая важная часть этой истории.
«Не знаю» — тоже хороший ответ
ИИ очень любит законченные истории.
Есть проблема. Есть улика. Есть виновник. Есть решение.
Человеку такие истории тоже нравятся.
Только реальность устроена иначе.
Иногда данных достаточно, чтобы решить проблему. Но недостаточно, чтобы уверенно объяснить всё, что произошло.
И тогда фраза:
«У нас недостаточно данных, чтобы это утверждать»
гораздо полезнее красивого объяснения.
После этой истории я не стала меньше пользоваться ИИ.
Скорее наоборот.
Но теперь у меня есть ещё одно правило:
чем убедительнее звучит ответ ИИ, тем меньше сама эта убедительность говорит о том, что ответ правильный.
Уверенность — это манера разговора.
А доказательство — совсем другое.