Беспилотные минивэны Waymo уже бесплатно возят пассажиров в Аризоне. За рулём на всякий случай постоянно находится человек. Ни о каких инцидентах сообщений нет.
Исследователи из четырех университетов США показали, что классификаторы на основе нейронных сетей, которые используются в автопилоте для распознавания дорожных знаков, уязвимы перед вандализмом и стрит-артом. Чтобы обмануть машинное зрение, достаточно наклеек. Так, облепленный стикерами знак Stop компьютер в 100% случаев принял за ограничение скорости до 45 миль в час (72 км/ч), а искаженный «Правый поворот» с той же вероятностью был ошибочно опознан как Stop или «Дополнительная полоса».
Ученые использовали четыре вида «атак». В первой знак был частично затемнен, во второй стрелку замаскировала серыми стикерами, в третьей Stop дополнили словами «любовь» и «ненависть», в последнем хаотично налепили четыре прямоугольника.
Понятно, что авторы работы использовали не какой-то универсальный алгоритм машинного обучения. У производителей они разные. Тем не менее проблема обозначена. Сторонники автономного движения в ответ на исследование возражают: автопилот не полагается на одно лишь «зрение», а рассматривает знаки в общем контексте, основываясь, к примеру, на местоположении автомобиля, получая информацию от других транспортных средств и инфраструктуры. Несколько камер, радаров и других датчиков будто бы не позволят ошибиться. Хорошо, если так.
Источник: drive.ru