Более миллиарда человек в мире живут с ментальными расстройствами, и значительная их часть идет за советом не к врачу, а в поисковую строку. В Google прекрасно осознают риски: один «галлюцинирующий» совет нейросети в момент кризиса может стоить компании не только репутации, но и астрономических сумм по судебным искам. Согласно свежему отчету в официальном блоге корпорации, Gemini проходит через масштабную «стерилизацию». Теперь при попытке обсудить селфхарм или суицидальные мысли пользователь упирается в обновленный модуль «Help is available». Это интерфейс в одно касание, предлагающий немедленную связь с горячей линией. Механика проста: чем выше риск, тем меньше «творчества» позволено алгоритму. По сути, Google признает, что в вопросах жизни и смерти ИИ остается зоной критического риска, и лучший ответ здесь — это максимально быстрая передача клиента в руки живого специалиста.
Чтобы подкрепить амбиции цифрами, Google.org выделяет 30 миллионов долларов на поддержку глобальных служб помощи. Еще 4 миллиона долларов и техническая экспертиза уходят проекту ReflexAI для обучения волонтеров через симуляции. Если переводить с корпоративного на русский: Google строит инфраструктуру «доказательного ИИ», где Gemini — не собеседник, а строгий диспетчер. Клиническая команда внедрила в модель жесткие фильтры: Gemini запрещено подтверждать ложные убеждения пользователя, имитировать интимность или играть роль «компаньона». Особенно сурово это работает для несовершеннолетних — ИИ обязан прямо заявлять, что у него нет чувств. Это выглядит как попытка пресечь формирование эмоциональной зависимости у подростков еще на уровне архитектуры.
Для рынка здесь начинается самое интересное. Через партнерства с организациями вроде Erika’s Lighthouse и Educators Thriving Google фактически монополизирует «доверенный контент» в сфере ментального здоровья. Если раньше стартапы могли конкурировать в нише психологических чат-ботов за счет гибкости, то теперь правила игры диктует гигант с неограниченным бюджетом на комплаенс. По оценке Google, их задача — направить пользователя к «реальной помощи», распознавая паттерны острого кризиса. На наш взгляд, в этом читается желание стать единственным легитимным входным окном в цифровую медицину, вытесняя мелких игроков за рамки выдачи под предлогом безопасности.
Если убрать PR-обёртку, перед нами классическая стратегия защиты периметра. Google внедряет функции, которые невозможно реализовать без штата клиницистов и миллионов на страховку. Это не столько забота об эмпатии, сколько возведение цифрового барьера. Пока Gemini прилежно отличает субъективный опыт от фактов, компания страхует себя от исков, превращая потенциально опасный инструмент в стерильный справочник. Вместо обещанной революции в психотерапии мы получили очень дорогой и технологичный коммутатор. Надежно, безопасно и максимально далеко от реальной человеческой поддержки.