» » Ученые выяснили, насколько легко обмануть беспилотную машину
Ученые выяснили, насколько легко обмануть беспилотную машину

Ученые из Вашингтонского университета установили, насколько легко вызвать неадекватную реакцию машин с автопилотом. Исследователи смогли запутать системы беспилотников с помощью искаженных дорожных знаков.

Оказалось, что искаженные наклейками знаки почти во всех случаях спровоцировали неожиданные реакции системы. Для эксперимента потребовалось лишь несколько знаков и цветные стикеры. Ученые решили выяснить, насколько страшны для автопилота слегка видоизмененные картинки, поскольку увиденное через камеры во многом определяет поведение автопилота.

В этих случаях система тоже распознавала увиденное как ограничение скорости. Однако автопилот воспринял такой знак как ограничение скорости. В другом эксперименте ученые нанесли на этот же знак две небольшие надписи сверху и снизу от слова «stop», а в еще одном — сымитировали слегка потемневшую картинку. Например, в случае со знаком «Stop» исследователи наклеили несколько небольших прямоугольных стикеров, не перекрывающих основное изображение.

Кроме того, специалисты попробовали изменить знак «Движение только направо». Из-за серых стикеров, наклеенных на поверхность стрелки, автопилот воспринял знак как «Stop».

И то, насколько легко можно повлиять на автопилот при помощи элементарных средств. В докладе ученых говорится, что эти и другие эксперименты показывают, насколько опасно может повести себя беспилотная машина из-за незначительных вещей.

При этом исследователи не испытывали автопилот от какого-то конкретного производителя — это были типовые алгоритмы для подобных систем.



  • 4
Голосование:

Похожие новости

Новости других разделов

Присоединяйтесь

- О чём бы, спрашивается, разговаривали мужчины, не будь на свете машин?
Мишель Уэльбек

Журналисты

Цитата

Вы можете получить «Форд-Т» любого цвета, при условии, что этот цвет будет черным.

Генри Форд