Я календарь переверну, и снова третье сентября: мультиагентный анализ в релизе, Sakura и новая воронка
Календарь перевёрнут, и снова третье сентября. Костры рябин пусть горят у кого-нибудь другого, а у нас горят дедлайны, и это хороший повод подвести итоги лета. За три месяца SEG-T прошёл путь от «AI-агенты в разработке» до боевого мультиагентного pipeline, который проверяет каждое входящее письмо. Рядом с ним появилась собственная ML-модель Sakura, а весь AI-слой выстроился в воронку: очевидное решает лёгкая модель, сложное уходит агентам. Вместе с ними приехали баланс AI в реальных токенах, подключение своей модели, правила, которые пишут агенты, и коннектор внешней песочницы. Но начнём не с железа, а с таверны.
Спасибо, что заглянули в таверну
Прежде чем говорить о релизах, хотим сказать спасибо. Главу про приключение Синего Гофера в свитере уже прошли больше двух тысяч человек. Мы читаем каждый отзыв, и почти все они тёплые: кто-то собрал все карточки, кто-то застрял у рунного замка и написал нам, кто-то просто признался, что давно так не улыбался на сайте про почтовую безопасность.
Работа над таверной не останавливается. Мы готовим обновление с новым контентом и новыми зонами, о нём расскажем в следующих записях. А если вы до сих пор не заходили, глава ждёт вас на доске объявлений в таверне: ищите объявление «Пропал гофер» и идите по следу.
Синий гофер всё ещё где-то там. Доска у входа, объявление «Пропал гофер», кнопка «идти по следу». Дальше вы сами.
зайти в таверну →Мультиагентный анализ писем: из беты в продакшен
В апреле мы описывали AI-агентов как функцию «в разработке», в мае показали фундамент: оркестратор Worker → Manager → Judge, консенсус и полный trace каждого запуска. Летом команда агентов вышла на главную работу, ради которой всё и затевалось: проверку входящих писем. При включённом тумблере на странице AI агенты сами выносят вердикт по каждому письму, прошедшему правила и аутентификацию.
Никаких промежуточных режимов для писем нет: проверка либо включена, либо нет. Вердикт агентов отображается на действие пайплайна один к одному.
Познакомьтесь с командой. У каждой роли есть характер, и он не только для красоты: ранг агента отражает то, насколько весомо его слово в итоговом решении. Нажмите на любого: они не молчат. А если выслушать всех троих, они разберут при вас спорное письмо.
Самое важное изменение за лето скрыто в том, как Harry принимает решение. Раньше арбитр сразу видел выводы Nick и Saby и невольно на них опирался. Теперь его первый вызов слепой: только письмо и независимая оценка. Второй вызов сравнивает эту оценку с решениями коллег и возвращает итог арбитража вместе с отдельным ревью каждого агента. Особые мнения не теряются: они сохраняются в трассировке как dissent.
Sakura: ML-модель, которая учится на каждом письме
Мультиагентная проверка точна, но дорога: один прогон стоит тысячи токенов и несколько секунд. Гонять через неё каждую рассылку про скидки бессмысленно. Поэтому мы обучили собственную лёгкую модель, которая видит письмо первой и решает, нужно ли звать остальных. Её зовут Sakura.
Про устройство Sakura мы намеренно не рассказываем подробно в этой записи. Модель сейчас в активном обучении: архитектура, размер и набор признаков ещё меняются от версии к версии, и любые цифры устареют раньше, чем вы дочитаете статью. Когда Sakura стабилизируется, мы посвятим ей отдельный материал с разбором внутрянки, датасетов и честных метрик.
Немного цифр всё же приведём. Среднее время анализа письма у Sakura меньше двадцати миллисекунд, точность текущей версии около 80%. По нашим внутренним оценкам после перехода в active она снимет более 80% спам-трафика, не потратив ни одного LLM-токена.
Учитель Sakura — наш же AI-слой: модель дистиллирована из вердиктов seg-ai, а обучающий датасет уже перевалил за десять миллионов писем. В нём деловая и личная переписка, сервисные уведомления, маркетинг, бренд-фишинг, BEC и письма с вредоносными вложениями. Качество меряем только на реальном трафике, чтобы цифры точности отражали продакшен, а не лабораторию.
Хотите увидеть, как она думает? Ниже можно показать Sakura письмо: выбрать готовый образец или написать своё, включить или выключить аутентификацию, добавить вложение и посмотреть, решит ли она сама или передаст дальше.
Сейчас Sakura работает в продакшене в shadow-режиме: она классифицирует каждое письмо, её ответ и уверенность записываются в трассировку, но на решение пока не влияют. Рядом с каждым предсказанием сохраняется финальное действие пайплайна, то есть вердикт агентов или монолитной модели. Это и есть учебник Sakura: каждое письмо, от которого SEG-T защитил вас, становится новым примером для дообучения.
Каждая отражённая угроза делает модель сильнее. Чем больше писем проходит через SEG-T, тем точнее Sakura и тем меньше трафика доходит до дорогих слоёв.
Пример на воронке: из 10 000 писем
Собираем AI-слой вместе. Так он будет выглядеть, когда Sakura перейдёт из shadow в active. Возьмём условные десять тысяч писем, которые уже прошли списки, геоблокировку, правила и анализ вложений и дошли до AI-слоя. Цифры оценочные, по нашим замерам на shadow-трафике, и будут уточняться. А чтобы воронка не осталась абстракцией, над ней три письма: выберите любое и проследите, где оно остановится.
Sakura забирает очевидное: чистую деловую переписку и откровенный спам. Каскадный триаж, обычная одномодельная проверка, срезает уверенные deliver и quarantine. А вот block через него не проходит никогда: необратимое решение всегда остаётся под мультиагентным ревью. До агентов доходят около пяти процентов писем, но это именно те письма, где нужно несколько взглядов.
Для клиента это значит две вещи. Токены и время тратятся там, где они действительно нужны. А самые сложные письма получают самый глубокий разбор.
Ввели систему токенов
Раньше AI-квота организации считалась в «проверках»: письмо прошло через AI, минус единица. Это было честно ровно до тех пор, пока не появились мультиагентный прогон, каскад, ревью правил и gap-анализ. Одна «проверка» стала стоить и две тысячи токенов, и двадцать, а счётчик этого не видел. Клиент с тихим трафиком и клиент, чьи письма каждый день доходят до Harry, платили одинаково.
Поэтому мы переписали систему лимитов целиком. У организации теперь есть баланс в реальных LLM-токенах, и каждый вызов модели списывает с него ровно столько, сколько показал usage в ответе. Не оценка, не средняя стоимость, а фактическая цифра после каждого запроса.
Самое важное в этой системе то, чего в ней нет: остановки писем. Когда токены закончились, AI-проход пропускается, а письмо получает базовый вердикт по SPF / DKIM / DMARC, спискам и ссылкам. Почта продолжает ходить, в трассировке видно, что AI был пропущен, а в новом месяце квота восстанавливается сама, без обращения в поддержку.
Уведомление об исчерпании приходит ровно один раз: владельцам и администраторам организации и на SOC-ящик, по email, в интерфейс и push. Не десять писем подряд на каждое входящее, а одно, в момент, когда счётчик пересёк лимит.
Теперь стоимость защиты прямо пропорциональна сложности вашего трафика. Каждая оптимизация на нашей стороне, будь то Sakura, каскад или сжатие промптов, видна вам как токены, которые остались на балансе.
Ввели возможность подключать свою модель
Есть клиенты, для которых вопрос «через какую модель проходят наши письма» важнее любых метрик точности. Банки, госсектор, компании с собственным контуром ИИ. Для них появилась возможность подключить свою модель: любую OpenAI-совместимую, облачную или развёрнутую внутри периметра.
Настраивается на странице AI: endpoint, ключ и имя модели, кнопка «Проверить» для тестового запроса. Ключ хранится зашифрованным и после сохранения не читается обратно даже администратором. Своя модель подхватывается всеми слоями сразу: монолитной проверкой, каскадным триажем и командой агентов. Nick, Saby и Harry продолжают работать, просто думают уже вашей моделью.
Если вы выбрали свою модель, ваши письма не увидит никакая другая. Даже когда ваша модель недоступна, мы предпочтём базовый вердикт тихому переключению на стоковую.
Раз уж зашла речь о моделях, пара слов о нашей. Сейчас вся система работает на UshaAI v1. Параллельно мы обучаем новую LLM, в первую очередь под агентный pipeline: чтобы Nick, Saby и Harry думали быстрее и точнее на наших же данных. Подробности будут, когда будет что показать.
Есть только один нюанс: у новой модели пока нет имени. Sakura своё получила за один вечер, а здесь мы уже месяц ходим вокруг да около 🙂 Единственный вариант, который прошёл все раунды голосования, это «Бугагашенька», и мы всерьёз боимся, что он останется. Так что если у вас есть красивый вариант для модели, которая будет думать за Nick, Saby и Harry, мы с радостью его выслушаем.
Напишите нам на почту, как бы вы назвали новую модель SEG-T. Обещаем прочитать каждое письмо.
support@seg-t.ru →Научили агентов создавать правила
В мае агенты умели только ревьюить правила фильтрации: находить устаревшие, слишком широкие и те, что ни разу не сработали. Теперь они умеют правила создавать. Функция называется «Найти пробелы», и делает ровно то, что написано: ищет угрозы, которые правила пропустили, а AI поймал.
Как это работает. Агенты берут письма за последние две недели, которые попали в карантин или блок по вердикту AI, а не по правилам. Смотрят на действующие правила, белые и чёрные списки, политику стран. И ищут повторяющийся паттерн: один и тот же домен, одна и та же схема письма, один и тот же тип вложения. Если паттерн есть, агенты предлагают правило, которое закроет его на детерминированном слое.
Зачем это нужно, если AI и так ловит. Потому что правило дешевле любой модели и срабатывает раньше неё. Если агенты три раза за неделю отправили в карантин письма с одного домена по одной схеме, четвёртое письмо не должно стоить ни токенов, ни секунд. Так агенты сами разгружают воронку, о которой мы писали выше.
Запускается кнопкой «Найти пробелы» на странице правил и автоматически каждую ночь. Предложения от ревью и от поиска пробелов лежат в одной вкладке, но с фильтром по типу, чтобы не смешивались.
Добавили интеграцию с внешней песочницей
Наша позиция по песочницам не изменилась: собственную мы не строим, потому что динамический анализ ловит известные паттерны, а не социальную инженерию, на которую приходится подавляющее большинство атак. Об этом мы подробно писали в записи про партнёрство с «Соларом». Но у крупных компаний и государственных заказчиков есть требования регуляторов, внутренние политики и уже развёрнутые песочницы, которые обязаны участвовать в проверке вложений. Для них мы сделали интеграцию.
Коннектор настраивается в интерфейсе, в разделе интеграций: адрес, авторизация, таймауты. Без правок конфигурации и перезапуска сервисов. Учётные данные для исходящих запросов хранятся зашифрованными, а обратные вызовы от песочницы принимаются только с действующим токеном, который привязан к организации и к конкретному коннектору. Результат по чужому файлу или от чужой организации будет отклонён.
Основная инженерная задача была не в отправке файла, а в ожидании. Песочница может анализировать вложение несколько минут, и держать всё это время слот обработки письма недопустимо. Поэтому письмо ставится на паузу с полным сохранением состояния в базе данных, слот освобождается, а фоновая задача отправляет артефакты, повторяет попытки при сбоях и сверяет статусы. Когда вердикт получен, письмо продолжает путь ровно с того места, где остановилось. Перезапуск сервисов в этот момент не теряет ни одного письма.
Каждое решение песочницы видно в трассировке письма: что отправлено, когда получен ответ, какой вердикт и почему он применён. Для проверок со стороны службы безопасности или регулятора этого достаточно, чтобы восстановить путь любого вложения от приёма до действия.
Отчёты и уведомления
Две вещи, которые администратор видит чаще всего: отчёт в понедельник утром и уведомление посреди дня. Обе за лето переделаны.
И небольшая оптимизация напоследок. Входные промпты AI-слоя сжаты и переведены на английский, а неизменная часть системного промпта кэшируется на стороне модели. Тот же анализ обходится дешевле, и с балансом в токенах это видно клиентам напрямую.
Вместо послесловия
Это было длинное лето и длинная запись. Мы правда старались: команда агентов доехала до продакшена, Sakura учится на живом трафике, а система токенов, своя модель и песочница закрыли то, о чём вы нас просили чаще всего. Спасибо всем, кто тестировал, писал в поддержку, ругался и хвалил. Без этого записи было бы не о чем.
Чем занимаемся сейчас. В основном обучением моделей: доводим Sakura до active и растим новую LLM под агентный pipeline. Рядом зреют следующие AI-фичи, о которых пока рано говорить вслух. И обновление таверны, о котором мы обещали рассказать отдельно.
Следующая запись выйдет, когда будет что показать. Заглядывайте в таверну, читайте доску объявлений и берегите почту.