Когда алгоритм убивает: почему камеры электромобилей видят "призраков"

Сидеть в автомобиль, листать новости на планшете и ехать на работу, не глядя на дорогу! Мечта, которую обещают воплотить в жизнь уже совсем скоро.

Вот только насколько безопасной станет езда на автомобиле, если вести его будет не человек, а автопилот? И могут ли хакеры взломать вашу умную машину? Подробности – в программе "Неизвестная история" с Борисом Рыжовым.

Виноваты оба: почему суд признал компанию Илона Маска виновной в аварии с автопилотом

В апреле 2019 года владелец знаменитого на весь мир автомобиля предпринимателя Илона Маска поставил машину на автопилот, чтобы поднять упавший телефон. В результате автомобиль промчался на красный свет на скорости 110 километров в час, протаранил две машины.

Один человек погиб, другой получил серьезные травмы. Но в компании Маска отметили: виноват не автопилот, а водитель. Но почему? И насколько на самом деле нам нужен беспилотный транспорт на наших дорогах?

В компании заявили: данных с модуля этого автомобиля нет. Зато у них сохранилась информация, что система в течение трех месяцев до аварии 23 раза предупредила водителя о невнимательности. Но ведь сбил людей не он.

Хакеру, которого наняла семья погибшей девушки, удалось восстановить данные. Оказалось, автопилот распознал людей за несколько секунд до столкновения, вот только не притормозил и не передал сигнал об опасности водителю. В результате суд признал компанию частично виновной в аварии.

"Суд присяжных присудил ущерб 320 миллионов долларов, причем поделил его на двоих: большую часть водителю, поскольку все-таки он водитель и он отвечает за проезд на красный свет с смертельным исходом, это все-таки вина водителя. Но тем не менее более 100 миллионов он присудил компании Илона Маска", – рассказал подполковник ФАПСИ в отставке, специалист по информационной безопасности Андрей Масалович.

В автоконцерне заявили: ни одна машина не предотвратила бы эту аварию. Но зачем нужны беспилотники, если они не гарантируют безопасности?

Полезный убийца: может ли автопилот спасти водителя

Автопилот может вас спасти. Он реагирует быстрее. По словам специалистов, от вылетевшего на дорогу колеса на дороге не увернулся бы ни один живой водитель, а автопилот смог. Вот только система тоже ошибается. С 2016 года на счету автопилотов – 28 аварий с погибшими.

В 2021 году 35-летний Стивен Хендриксон погиб, когда его электрокар врезался в перевернувшуюся фуру на шоссе – автопилот просто не заметил ее. По словам Джанель Хендриксон, вдовы Стивена, он обожал свою машину. Особенно ему нравился автопилот.

"Он доверял автопилоту. А когда начались суды, нам пришлось буквально отвоевывать видео аварии – их просто не хотели отдавать", – поделилась Джанель Хендриксон.

В апреле того же года в Техасе случилась еще одна авария с электромобилем Маска. Машина вылетела с трассы, врезалась в дерево и загорелась – два человека погибли.

"Электрокар – это огромная батарейка, которая находится под сиденьем водителя. Соответственно прибывшие на место сотрудники пожарных служб были вынуждены потратить значительное количество воды для тушения этого пожара. Речь идет, по-моему, о 120 тысячах литров воды для того, чтобы потушить этот автомобиль", – объяснил автоэксперт Алексей Шичавин.

Эта авария напомнила разработчикам: ошибки автопилота могут убить. От системы зависит многое. У Маска это только камеры, у других производителей – радары и лидары.

Лидар, камера или радар: какая система лучше реагирует на препятствия

Блогер и бывший инженер космического агентства Марк Робер сравнил систему Маска с предложениями других производителей. В результате автопилот компании знаменитого миллиардера не справился с туманом и дождем.

"Лидар практически идеален, а высокочувствительные камеры справились лишь в трех тестах из пяти", – заявил инженер-изобретатель, блогер Марк Робер.

Перед нарисованной стеной остановился только автомобиль с лидаром. Машина Маска даже не притормозила. Зато ее камеры видят то, чего нет. А точнее, кого. Например, на экранах появляются призраки, которые толпами гуляют по кладбищам. Как после этого не верить в мир духов?

"Это связано с тем, что компьютер оказывается вместе с автомобилем, на котором он установлен, в незнакомой для себя обстановке, в незнакомом месте. Соответственно система начинает в этот момент "додумывать", дорисовывать то, что она могла бы увидеть, если бы это был реальный участок уличной дорожной сети", – объяснил автоэксперт Шичавин.

Алгоритмы обучают на стандартных объектах: машины, пешеходы, велосипеды. Но что делать, если на дороге – падающий матрас, коза или внезапный самокатчик? Такие аномалии сбивают систему – она либо игнорирует объект, либо реагирует чрезмерно.

Американский автопилот не смог обогнать телегу с лошадью. Водитель пытался вмешаться, но машина тормозила. Система успела принять ее и за фуру, и за внедорожник, и даже за человека. Любой незнакомый системе объект – потенциальная угроза.

"О'кей, это не смешно": легко ли взломать электромобиль

Ехать и не рулить люди мечтали давно. И первым мечтателем был легендарный ученый и художник Леонардо Да Винчи.

Но на дорогу беспилотник выехал только в 1925 году в Нью-Йорке. Кабриолет без водителя изобрел Френсис Гудин. На деле это был не автопилот, а радиоуправляемый автомобиль. Тогда он казался фантастикой.

Зато сегодня любая машина может стать такой игрушкой в руках опытного хакера.

По просьбе журналиста Энди Гринберга, хакеры Чарли Миллер и Крис Валаси взломали автомобиль.

"Итак, Энди, чтобы ни произошло в машине, не паникуй", – отметил хакер Чарли Миллер.

Хакеры нашли уязвимость в системе управления, которая работала через интернет. Такая панель стоит почти в полумиллионе автомобилей. Через ноутбук можно удаленно управлять всем – от радио до коробки передач.

Без лишних усилий парочка хакеров превратила автомобиль Энди в ловушку для ее хозяина. Хакеры включили все кондиционеры, взломали стереосистему, включили дворники, а затем смогли получить доступ к двигателю и выключили его прямо на оживленном шоссе.

В результате Чарли и Крис получили полное управление автомобилем Энди. Они могли не только рулить его машиной и блокировать двери, но даже отключить тормоза.

А значит, почти половина машин на дорогах планеты могут стать автопилотами-убийцами, если этого захочет хороший хакер или тот, кто ему заплатит.

Еще больше интересного от РЕН ТВ – в канале "Рен. Знание" мессенджера MAX