Учёные из Института интеллектуальных систем Макса Планка (Мюнхен, Германия) обнаружили, что систему управления беспилотного автомобиля легко «сбить с толку».

Как «обмануть» беспилотный автомобиль?

Исследователи выяснили, что автопилот перестаёт идентифицировать объекты на дороге, если его камеры замечают что-то, окрашенное в определённую цветовую гамму. Это может быть человек, одежда которого сочетает такие цвета, либо окрашенный в них предмет.

На такое сочетание цветов беспилотник реагирует непредсказуемо — он может резко свернуть или затормозить. При этом площадь картинки, вгоняющей искусственный интеллект в стпор, может быть совсем небольшой — достаточно, например, рисунка на футболке.

Уязвимость «автоботов» всерьёз обеспокоила ученых — сейчас они начали работу над решением проблемы, ведь она не только угрожает безопасности участников дорожного движения, но и может быть использована хакерами для угона беспилотников.