Эксперимент показал уязвимость автомобилей-беспилотников

В США провели занятный эксперимент, намеренно "подпортив" дорожные знаки и оценив, как автомобили-беспилотники на них реагируют. Оказалось, что типичные использующиеся сейчас алгоритмы автономного управления весьма уязвимы: чтобы сбить робота с толку, понадобится лишь фломастер или пара наклеек.

Необычный эксперимент был проведен исследователями из ряда американских университетов. Они исказили знаки "Стоп" и "Движение только направо", слегка изменив изображение несколькими способами. Например, на одном из знаков "Стоп" они наклеили несколько черных и белых стикеров, на другом - разместили дополнительные надписи сверху и снизу от надписи Stop, а третий знак сделали более блеклым.

Во всех случаях дорожные знаки оставались вполне узнаваемыми и читались хорошо, однако система автопилотирования в подавляющем большинстве попыток дала сбой: вместо знака "Стоп" автопилот видел знак ограничения скорости.

В случае со знаком "движение только направо" задача для автоматики, казалось бы, была более простой: дополнительные сбивающие с толку наклейки серого цвета были размещены в пределах черной стрелки на знаке. Однако и этого оказалось достаточно для того, чтобы запутать автоматику: вместо "Правого поворота" система видела знак "Стоп" или "Дополнительная полоса".

Сообщается, что испытанию подверглась не система какого-то конкретного автопроизводителя, а стандартный для всех производителей алгоритм работы автопилота. Результаты исследования, по мнению авторов, говорят о том, насколько пока что уязвимой остается автоматика. Использованные на дорожных знаках искажения моделировали типичные "поражающие факторы" городской среды: акты уличного вандализма, порчу покрытия знака из-за погодных условий и так далее.