Автомобили становятся все умнее и умнее, постепенно приближаясь к тому моменту, когда смогут ездить полностью самостоятельно. Уже сейчас они умеют различать дорожную разметку и знаки, двигаться в потоке машин и по скоростным трассам и даже самостоятельно парковаться. Но, как показывает практика, системы еще далеки от совершенства и порой задачи, которые человек решает легко, оказываются слишком сложными для электроники.
Исследователи из McAfee Advanced Threat Research сумели обмануть систему автопилота Tesla Model S, используя всего лишь кусочек черной изоленты. Как сообщает издание The Drive, с помощью изоленты они чуть изменили знак ограничения скорости в 35 миль.
Человек легко бы справился с такой задачей и правильно определил знак даже в модифицированном виде. Однако компьютер прочитал слегка измененную цифру 3 как 8, и в результате Tesla стала разгоняться до 85 миль в час (136 км/ч).
По счастью, эксперимент проходил на закрытой площадке, и исследователи не дали электромобилю набрать скорость. Но легкость, с которой удалось ввести в заблуждение компьютер, вызывает беспокойство, поскольку подобное может случиться и на реальной дороге. На знак может попасть кусок грязи, камень или ветка, или просто неудачно упадет тень, и «умный автопилот» поведет себя неадекватно.
И дело не ограничивается одной Tesla. Системы, которые чаще всего называются «адаптивным круиз контролем», устанавливают на все большее число автомобилей, и они способны выполнять все большее количество функций, таких как соблюдение скорости или рядности, определение препятствий, перестроение на дорогах. При этом производители, конечно, требуют, чтобы водитель следил за дорогой, но сплошь и рядом водители слишком полагаются на «умную электронику».
Конечно, как отмечает The Drive, автомобильные системы совершенствуются, и их новые версии не так «доверчивы», как предыдущие. Конкретно в эксперименте с изолентой удалось легко обмануть Tesla c более ранней версией программного обеспечения, самый свежий апдейт тесловского автопилота этот тест прошел.
Видео: McAfee/Youtube
