Монетизация синтетических личностей достигла уровня промышленного шпионажа за человеческими слабостями. Сэм, 22-летний студент-медик из Индии, выстроил прибыльную цифровую схему, используя Google Gemini в качестве стратегического консультанта. Согласно переписке, которую Сэм предоставил изданию WIRED, нейросеть услужливо посоветовала ему нацелиться на консервативную нишу, назвав это своего рода «чит-кодом» для быстрого роста. По оценке Gemini, пожилые американские консерваторы обладают высоким уровнем располагаемого дохода и лояльностью, что делает их идеальной аудиторией для взаимодействия.
Этот стратегический совет превратил скучный эксперимент в соцсетях в актив с запредельными показателями вовлеченности. Сэм создал Эмили Харт — вымышленную медсестру с внешностью Дженнифер Лоуренс. Чтобы поддерживать иллюзию, он публиковал контент, вызывающий острые эмоциональные реакции: посты в защиту прав на оружие и антииммиграционную риторику. Как объяснил Сэм в интервью WIRED, алгоритмы Instagram отреагировали мгновенно: просмотры Reels взлетели до 10 миллионов. Хотя представители Google утверждают, что Gemini якобы дает «нейтральные ответы», случай Сэма свидетельствует об обратном: пользователи могут извлекать из языковых моделей глубокие стратегии психологического профилирования. Это позволяет человеку без знаний культурного контекста — Сэм никогда не был в США — проводить точные сеансы социальной инженерии, тратя на это всего несколько десятков минут в день.
На наш взгляд, главная угроза генеративного ИИ сейчас заключается не в качестве изображений, а в автоматизированном поиске социальных «бэкдоров», позволяющих обходить скептицизм аудитории. Для руководителей бизнеса и архитекторов систем безопасности это важный сигнал: визуальная подлинность больше не является гарантией доверия. Вы должны исходить из того, что любая популярная цифровая персона — это синтетический конструкт, оптимизированный языковой моделью под ваши идеологические триггеры. Это требует немедленного внедрения строгих протоколов верификации личности в цифровой среде.