Современные коммуникационные платформы сталкиваются с растущими угрозами: генеративный ИИ вывел точность и масштабы социальной инженерии на принципиально новый уровень. Для защищенных мессенджеров выявление угроз долгое время оставалось неразрешимой архитектурной дилеммой — централизованный эвристический анализ или проверка с помощью нейросетей на сервере нарушают принципы сквозного шифрования (E2EE). Чтобы преодолеть это ограничение, WhatsApp представил техническое описание функции Scam Alert. Это подключаемая система защиты на базе локального машинного обучения, которая выполняет инференс непосредственно на устройстве без отправки телеметрии, метаданных или контекста переписки на серверы Meta.
Клиентская классификация и локальный инференс
Прогресс в квантовании моделей и развитии мобильных чипов сделал локальную классификацию текстов практичной: она больше не перегружает оперативную память, не создает задержек и не разряжает аккумулятор. Scam Alert использует легковесную специализированную модель, обученную на лингвистических паттернах и диалоговых эвристиках из ранее подтвержденных жалоб на мошенничество. Когда пользователь активирует функцию, устройство скачивает веса модели локально и анализирует входящие сообщения от неизвестных контактов на предмет известных векторов атак.
«Эта функция дополняет сквозное шифрование, предоставляя пользователю опциональное предупреждение, если модель обнаруживает высокую вероятность мошенничества».
Такая архитектура гарантирует, что исходный текст сообщений никогда не покидает память устройства. Предупреждение отображается исключительно в локальном интерфейсе, что сохраняет абсолютную криптографическую конфиденциальность.
«Модель достаточно компактна для работы на устройстве, достаточно проста для независимого аудита и эффективна без каких-либо серверных компонентов».
Meta открыла архитектуру для внешнего анализа в рамках программы Bug Bounty, сформировав проверяемый стандарт конфиденциального машинного обучения. Для технических директоров и инженеров, работающих в условиях жестких регуляторных требований (включая GDPR и HIPAA), это решение задает практический ориентир: локальный ИИ на устройствах способен эффективно защищать от сложной социальной инженерии без сбора данных на серверах и сопутствующих комплаенс-рисков.