Исследование Shift & Drift вскрыло неприятную правду об индустрии автономного вождения: современные планировщики (planners) — это отличные «ученики-заучки», которые впадают в ступор за пределами знакомых кварталов. Разработчики бенчмарка решили проверить, насколько нейросетевые водители жизнеспособны в реальном мире, и результаты оказались неутешительными. Модели, которые демонстрировали блестящие результаты в стерильных условиях Лас-Вегаса на данных nuPlan, фактически капитулировали при столкновении с топологией четырех немецких городов и Сан-Франциско.
Ловушка семантического сдвига
Суть проблемы заключается в так называемом «семантическом сдвиге». Используя данные OpenStreetMap, исследователи прогнали алгоритмы через 1182 сценария, и хваленый метод обучения по подражанию (imitation learning) посыпался первым. В зонах с плотным трафиком, обилием пешеходов и велосипедистов системы теряют ориентацию, стоит им только покинуть привычную «песочницу» обучающей выборки.
Модели копируют поведение человека в конкретном месте, но не понимают логику движения в новом контексте. Отсутствие способности к обобщению делает системы беспомощными при изменении дорожной архитектуры. Обучение на узких выборках создает иллюзию безопасности, которая исчезает в реальных городских условиях.
Физическая хрупкость и ошибки управления
Технический вызов усугубляется физической хрупкостью систем. Трек State-Distribution Drift показал, что современные автопилоты катастрофически не умеют исправлять собственные ошибки.
Малейшее отклонение от траектории из-за шума в приводах превращается в фатальный занос. В то время как методы обучения с подкреплением (reinforcement learning) проявляют хоть какую-то гибкость, системы имитации продолжают «дрейфовать» до ближайшего столкновения, не имея механизмов самокоррекции.
Как пояснил Алессандро Каневаро и его команда, без навыков саморегуляции алгоритмы обречены на провал при любом отклонении от идеального сценария.
Последствия для бизнеса и инвесторов
Для бизнеса этот отчет — холодный душ. Высокие баллы в стандартных отраслевых тестах сегодня не значат практически ничего для глобального масштабирования. Пока беспилотники не научатся переваривать «семантический сдвиг» без бесконечного дообучения на новых картах, универсальный автопилот будет оставаться лабораторным артефактом.
Инвесторам и техническим директорам стоит помнить: то, что красиво едет в рекламном ролике из Аризоны, скорее всего, превратится в беспомощную груду железа на первом же сложном перекрестке в Мюнхене.