Tesla готовится к первому испытанию со смертельным исходом из-за автопилота

За последнее десятилетие автономные транспортные средства (AV) стали важной темой в автомобильной промышленности, захватив заголовки газет и воображение по всему миру. Эта история продолжает обретать форму и переходить от истории к реальности: Страховой институт дорожной безопасности (IIHS) прогнозирует, что к 2025 году на дорогах США будет 3,5 миллиона беспилотных автомобилей.

Однако, помимо миллиардов долларов инвестиций и бесчисленных часов инженерных разработок и исследований, беспилотные автомобили также поставили перед отраслью новые вопросы о безопасности. По мере того, как все больше AV-систем начинают появляться в продаже для частного и общественного использования, вопросы личной и даже национальной безопасности становятся все более актуальными и неотложными.

В январе 2023 года директор ФБР Кристофер Рэй говорил на Всемирном экономическом форуме по вопросам технологий и национальной безопасности в Давосе, Швейцария, о потенциальных угрозах, которые представляют беспилотные автомобили. Он упомянул, что AV могут использоваться как инструмент для нанесения вреда людям и как источник ценных и уязвимых личных данных.

«Когда вы говорите об автономных транспортных средствах, мы, как и все, очевидно, воодушевлены этим», — сказал Рэй. «Но есть вред, от которого мы должны защититься, и это нечто большее, чем просто очевидный».

Рэй описал беспилотные автомобили как потенциально новую «атакующую» поверхность, которую террористы могут использовать для причинения вреда гражданскому населению. Ссылаясь на нынешнее вторжение России в Украину, он обсудил, как деятельность онлайн-слежки может быть ранним признаком предстоящей попытки кибератак. Он также упомянул, что ФБР и другие агентства заметили рост активности цифрового наблюдения в США со стороны внешних субъектов.

«Мы все больше обеспокоены тем, что деятельность по наблюдению – сканирование, исследования, вся подготовительная деятельность – может быть одним, а может быть признаком чего-то более серьезного», – сказал Рэй.

Директор ФБР также рассказал о возможности злонамеренного использования персональных данных, собранных беспилотными транспортными средствами.

«Другой вид вреда, который нас беспокоит, — это огромный объем данных, которые собирают, например, беспилотные транспортные средства», — сказал Рэй. «И каждый раз, когда вы собираете много-много конфиденциальных данных, это становится очень заманчивой целью».

Заявления Рэя в Давосе носят не просто теоретический характер. Уже есть реальные примеры того, насколько уязвимыми могут быть беспилотные автомобили. В своих комментариях Рэй сослался на историю о простом способе, которым исследователи смогли обмануть автоматизированную Теслу.

«Я думаю об истории, которую я слышал не так давно, об исследователях, которые смогли обмануть алгоритм беспилотного автомобиля, по сути, наклеив кусок черной ленты на знак остановки», - сказал он группе. «Это заставило машину ускориться примерно до 50 миль в час или около того».

Детали истории, на которую ссылается Рэй, немного отличаются от его анекдота, но проблемы, которые она вызывает, те же.

В 2020 году исследователи из McAfee использовали кусок ленты, чтобы изменить знак ограничения скорости с 35 миль в час на 85 миль в час. Команда сообщила, что это привело к тому, что круиз-контроль Tesla автоматически разогнался до скорости 50 миль в час.

В своем тесте исследователи использовали Tesla Model S и Model X 2016 года выпуска. Тесла заявил, что более поздние модели не имели такой уязвимости, которая приписывалась камере, разработанной Mobileye. Тем не менее, команда McAfee, проводившая тестирование, выявила лишь один из способов манипулирования антивирусными программами.

Даже если инженеры Tesla и других автопроизводителей, производящих беспилотные автомобили, устранили конкретную уязвимость, обнаруженную исследователями McAfee, существуют и другие потенциальные угрозы. Одним из основных рисков являются кибератаки хакеров.

В 2015 году два специалиста по кибербезопасности продемонстрировали, как кто-то может взломать автомобиль и получить контроль над ним удаленно. Крис Валасек и Чарли Миллер, директор по исследованиям безопасности транспортных средств в IOActive и исследователь безопасности в Twitter в то время соответственно, смогли взломать Jeep Cherokee и управлять его радио и другими функциями. Энди Гринберг, репортер Wired, водил машину под контролем Валасека и Миллера и написал о своем опыте.