Ученые разыграли беспилотники: их обманули при помощи простого пранка!
На дороге может случиться всякое. Беспилотный автомобиль, как оказалось, гораздо легче разыграть, чем тот, в котором находится живой водитель
Исследователи из Университета Калифорнии в Ирвине (UCI) поставили эксперимент в собственном кампусе, чтобы проверить реакцию систем беспилотного вождения с открытым кодом Apollo и Autoware. Когда они расставили на обочине различные предметы, такие как конусы безопасности, мусорные баки, ящики и велосипеды, беспилотники «сошли с ума», совершая резкие манёвры, способные создать аварийную ситуацию или причинить вред пассажирам и перевозимым грузам.
Теоретически, это означает, что беспилотники беспомощны перед «физическими DDoS-атаками». Например, можно принудить машину резко остановиться, просто выбросив большую коробку на дорогу, после чего с большой вероятностью в неё врежется автомобиль, едущий следом.
Проанализировав алгоритмы, используемые автопилотом Apollo, учёные предположили, что его слабым местом является «пространственный буфер» – критическая дистанция до препятствия, при которой применяется алгоритм экстренного торможения. В текущей версии автопилота этот буфер постоянный во всех режимах. Проблему можно решить, используя динамически меняемый буфер.
Дайте беспилот на проверку пранкерам
«Наше исследование показывает, что разработчикам систем автономного вождения нужно уделять больше внимания безопасности и учитывать подобные сценарии», сказал ведущий автор исследования Зивень Ван, аспирант UCI.
Настоящая проблема в том, что после многих лет испытаний и проверки разных сценариев подобные казусы продолжают случаться. Возможно, дело в том, что разработчики беспилотников недостаточно используют «мудрость толпы» — то есть, мало привлекают волонтёров к проверке устойчивости систем к разного рода атакам. Стоит присмотреться к опыту коллег, которые проверяют надёжность защиты от кибератак, давая новые системы попробовать на зуб «белым» хакерам.
Чем ждать, пока пранкеры вплотную займутся автономными машинами, лучше пригласить их к сотрудничеству. А что вы думаете?