Автопилот Tesla FSD спутал Луну со светофором

У искусственного интеллекта свои способы сходить с ума, и «автопилот» электромобилей Tesla — тому наглядное подтверждение. В Сети недавно завирусился ролик, демонстрирующий, что машинное зрение этих машин при определенных условиях может воспринимать низко расположенную над горизонтом Луну как желтый сигнал светофора. Опасности такая работа нейросетей, судя по всему, не представляет, но случай любопытный.

Первым о необычном глюке сообщил пользователь твиттера Jordan Nelson, а затем его подтвердил аккаунт Certain. Оба сообщения содержали наглядное видео, показывающее, как на информационном дисплее Tesla появляется индикация приближения к несуществующему светофору с горящим желтым сигналом. Единственная причина, по которой машинное зрение автомобиля может делать такое наблюдение, — висящая низко над горизонтом Луна желтоватого света.

Ни в одном, ни во втором ролике автоматика электромобиля не предпринимает никаких действий. Из этого можно сделать вывод, что программное обеспечение Tesla Vision либо «не уверено» в распознавании объекта, либо опция Full Self-Driving в принципе не собирается реагировать на желтые сигналы светофора. А может быть воспринимает Луну просто как «дежурный» режим светофора. Тем не менее, такая ошибка нейросетей ожидаемо обеспокоила пользователей — а что, если компьютер в подобной ситуации все же решит замедлится на хайвее и создаст аварийную ситуацию?

Комментариев от самой компании Tesla по ситуации до сих пор так и не поступило. В любом случае,= желтая Луна низко над горизонтом — не самое распространенное явление, да и в ближайших дополнениях глюк должны исправить. По большому счету, переживать за безопасность автомобилей с автопилотом, пусть даже иногда и обманутых природными явлениями, не стоит. Люди ездят за рулем уже больше века и теряют адекватное восприятие дорожной обстановки гораздо легче: будь то в результате усталости, отвлекаясь или вовсе из-за веществ изменяющих сознание.

Это не первый глюк машинного зрения Tesla

Нейросетевые алгоритмы в «электромобилях Илона Маска» уже показывали странное поведение в прошлом. Например, весной пользователь Twitter с ником Andy Weedman рассказал, что его машина постоянно останавливается посреди определенного участка дороги. Только приглядевшись к сделанному однажды фото, он обратил внимание на биллборд с полицейским и знаком STOP на нем. Оказывается, искусственный интеллект принял его за требование остановиться перед опасностью или перекрестком.

А иногда Tesla начинает совсем забавно «сходить с ума», когда видит, например, грузовик, перевозящий светофоры. Выглядит это на информационном дисплее так, будто машина чувствует себя в компьютерной игре с внезапно возникающими препятствиями. Естественно, никаких действий она не предпринимает, потому что налицо явная ошибка.

Важно отметить, что опция Full Self-Driving, которую уже можно называть первым полноценным автопилотом Tesla, пока что находится в стадии бета-тестирования. И при ее включении человек все равно обязан непрерывно следить за дорогой, а также быть готовым незамедлительно перехватить управление. К слову, прогресс в развитии искусственного интеллекта электромобилей Tesla производит сильное впечатление: как мы недавно писали, эти машины уже научились видеть в тумане лучше живого водителя, а в ближайшем будущем станут адекватно реагировать на визуальную и звуковую сигнализацию специального транспорта.