Дороги минус дураки. Часть вторая

На Международном форуме Kazan Digital Week – 2020 было особо отмечено, что поэтапное внедрение инновационных транспортных средств на автомобильных дорогах общего пользования требует опережающей нормотворческой деятельности. В частности, начальник управления организации регистрационно-экзаменационной деятельности, технического надзора и оказания государственных услуг ГУOБДД МВД России Роман Мишуров обратил внимание на нормативно-правовые аспекты регулирования участия беспилотных авто в дорожном движении. А руководитель рабочей группы по разработке проектов законодательных актов РФ о БТС Марат Галeев рассказал о проекте федерального закона об инновационных транспортных средствах, который уже отправлен в Госдуму.

Несколько штрихов к беспилотному завтра 

Особое внимание в этом документе уделено проблеме обеспечения информационной безопасности всех БТС, в связи с чем предлагается ввести обязательное оборудование такого транспорта «специальным аппаратно-программным комплексом, который бы обеспечил его защиту от неправомерного доступа и неправомерного воздействия».

За строжайший контроль над искусственным интеллектом, используемым в беспилотных автомобилях в начале нынешнего года, уже высказались главы компаний, лидирующих в разработке самоуправляемых авто, – гендиректор Google Inc. и материнской компании Alphabet Сундар Пичаи, а также основатель и глава Tesla и Space X Илон Маск. Действительно, в эпоху глобальной цифровизации нашей жизни, когда хакерство стало прибыльным бизнесом и передовые технологии с легкостью используются разного рода мошенниками и откровенным преступниками, взлом любой сети или программы управления, на которые завязаны автономные машины, может обернуться большой трагедией.

Однако искусственному интеллекту беспилотников предстоит противостоять не только злому умыслу, но, возможно, и делать по-настоящему человеческий выбор. И это тоже грозит стать проблемой.

В 2016 году в Массачусетском технологическом институте (Massachusetts Institute of Technology (MIT) решили провести глобальное онлайн-исследование, посвященное этическим проблемам БТС. В конечном итоге в нем приняли участие более 2 300 000 человек из 233 стран мира. Исследователи из MIT разработали и предложили респондентам многоязычную виртуальную игру «The Moral Machine», где каждый должен был выбрать один из вариантов выхода из ситуации с которой могли бы столкнуться беспилотные авто на дороге по принципу «или – или». Вроде этической дилеммы про поезд и лежащих на разных путях людях: куда перевести стрелку, кому спасти жизнь? Обработав более 40 000 000 ответов, авторы исследования пришли к выводу, что большинство из нас согласны, что в критической ситуации на дороге искусственному интеллекту, управляющему БТС, придется делать нелегкий выбор. Человеческий же разум,  несмотря на национальные и культурные различия в восприятии вопросов, поставленных «The Moral Machine», в целом распределил свои предпочтения так: жизнь молодых важнее, чем старых, женщин – чем мужчин, пешеходов – нежели пассажиров, ради спасения большего количества людей можно пожертвовать меньшинством, а жизнь человека при угрозе ДТП перевешивает жизнь животного.

Подводя итоги своей работы, авторы исследования заявили:

«Никогда в истории человечества мы не позволяли машине самостоятельно решать, кто должен жить, а кто должен умереть, за долю секунды, без наблюдения в реальном времени… Прежде чем мы позволим нашим автомобилям принимать этические решения, нам нужно провести глобальный разговор, чтобы выразить наши предпочтения компаниям, которые будут разрабатывать моральные алгоритмы, и политикам, которые будут их регулировать».

Впрочем, среди разработчиков программного обеспечения для БТС немало и тех, кто считает, что перед искусственным интеллектом, управляющим автомобилем, вообще не должен вставать вопрос – следовать морально-этическим правилам или нет. Основная задача ИИ – не допустить развития аварийной ситуации, приводящей к необходимости такого выбора, человеческое восприятие последствий которого, например, хорошо показано в картине «Я, робот» с Уиллом Смитом в главной роли. Если помните, его персонаж так и не смог простить роботу, что тот сделал выбор в пользу спасения полицейского детектива Дэла Спунера, а не маленькой девочки, оказавшихся в тонущих после ДТП машинах.

Обиды на автороботов могут возникнуть и у шоферов автобусов, такси или грузовиков по всему миру, 60% которых наступление «самозанятых транспортных средств» грозит потерей работы уже к 2030 году. По прогнозам специалистов, только в Соединенных Штатах из-за развития беспилотного транспорта сокращения могут коснуться 5 000 000 рабочих мест (в том числе 3 500 000 водителей грузовиков), что соответствует 3% всей рабочей силы США. В нашей стране цифры могут оказаться заметно меньше, но суть происходящих процессов здесь уже уловили и начали «подстилать соломку». В марте прошлого года было принято решение о строительстве на средства частных инвесторов и государства 12 обучающих центров для подготовки специалистов по управлению беспилотным транспортом. Реализация проекта потребует вложения более 1 000 000 000 рублей, а подготовка в центрах займет не менее трех месяцев.

В этом году в Санкт-Петербурге на базе Университета ИТМО при поддержке ПАО «Газпром нефть» начнется обучение первых 30 студентов по программе подготовки разработчиков и специалистов по эксплуатации беспилотного транспорта в нефтегазовой отрасли. В Московском политехническом университете, по словам президента группы компаний Cognitive Technologies Ольги Усковой, планируется открытие курсов переобучения водителей общественного транспорта, инженеров и диспетчеров в специалистов по БТС. «Стратегия развития искусственного интеллекта уже есть и если все будет ритмично, – уверена Ускова, – то через три года поток обычных автомобилей уже будет меньше».

Готовиться к переменам должна и вся система автострахования, потому что развитие БТС изменит и подход к определению ответственности в случае ДТП.

Сегодня личные автомобили используются в среднем не более 4% времени, а остальные 96% простаивают на стоянках или в гаражах. Эксперты аналитического центра RethinkX подсчитали, что широкое внедрение БТС и их эксплуатация на платформе транспортной сети TaaS (transport-as-a-service), доступ к которой посредством мобильных приложений сможет получить каждый желающий, позволит в 10 раз удешевить любую пассажирскую поездку.

Выйдет эдакий «народный каршеринг», в рамках которого обязательства по страховым случаям распределятся между производителем беспилотного авто, операторами дорожной инфраструктуры и транспортными организациями.

Официальный представитель НТИ «Автонет» Ярослав Федосеев считает, что в постановлении правительства о проведении правового эксперимента по тестированию и эксплуатации беспилотных автомобилей однозначно указано, что в ДТП с участием автономного ТС вся ответственность будет лежать на компании – разработчике этого беспилотника. Однако сегодня, когда о полной самостоятельности управляющего автомобилем ИИ речи пока не идет, человек, находившийся «за рулем» такой машины в момент аварии, вполне может пересесть на скамью подсудимых. И первый подобный казус уже произошел.

Прецедент или исключение

16 сентября в США 46-летнюю Рафаэлу Васкес, оператора беспилотного такси Uber, признали виновной в убийстве по неосторожности 49-летней Элейн Херцберг, произошедшем 18 марта 2018 года в городе Темпл, штат Аризона. В тот роковой воскресный вечер Херцберг шла по обочине дороги и вела рядом с собой груженый пакетами велосипед. Не доходя примерно 90 метров до «зебры», она решила перейти дорогу. Двигавшийся в попутном направлении беспилотный автомобиль Volvo XC90 компании Uber, в кабине которого находилась Васкес, на скорости 60 км/час сбил женщину, которая от полученных травм скончалась в больнице, став первым человеком, погибшим под колесами автономного автомобиля. После этого Uber свернула все испытания беспилотников в этом штате США и уволила 300 сотрудников, что, однако, не спасло компанию от судебных преследований. В ходе следствия полиция посчитала, что вина за гибель Херцберг лежит полностью на Васкес, так как она вовремя не перешла на ручное управление и допустила наезд на человека.  Больше того, система контроля за действиями оператора беспилотника показала, что она, отключив функцию экстренного торможения, слишком часто отвлекалась от дороги на просмотр шоу The Voice на своем смартфоне. Сама Васкес с обвинением не согласна и остается на свободе в ожидании первого заседания суда 11 февраля 2021 года.

В марте того же года в США произошло еще одно смертельное ДТП с участием автопилота, расследование которого тоже завершилось совсем недавно. Инженер-программист компании Apple 38-летний Уолтер Хуанг скончался в больнице, куда он был доставлен после того, как его внедорожник Tesla на полном ходу врезался в бетонное ограждение на дороге близ города Маунтин-Вью, штат Северная Калифорния. В Национальном совете по безопасности на транспорте США (NTSB) заявили, что автомобиль ехал полуавтономно с помощью автопилота Tesla, но водитель не только не держал руки на руле, как того требует программа, а был увлечен видеоигрой на своем смартфоне. Тем не менее семья погибшего уже подала в суд на автопроизводителя и калифорнийский департамент транспорта за то, что он вовремя не провел на дороге ремонтные работы.

В России, к счастью, смертельных ДТП с участием автономных автомобилей не зарегистрировано. Самая известная авария произошла в 2019 году, когда беспилотник «Яндекса» столкнулся с легковым автомобилем на западе Москвы.

Точных цифр, сколько всего в мире произошло аварий с участием БТС и сколько в них пострадало людей, сегодня, пожалуй, не назовет никто. Интернет-ресурс TeslaDeaths.com ведет учет погибших в ДТП только с участием продукции компании Илона Маска.

Если верить этим данным, то начиная с сентября 2014 года, когда в автомобилях Tesla появилась система Autopilot, в 126 дорожных инцидентах с участием таких машин погиб 141 человек. В самой компании хоть и гордятся тем, что водители, использующие Autopilot, в семь раз реже попадают в ДТП, не устают подчеркивать: система не избавляет человека от необходимости управлять транспортным средством, а только помогает ему в этом.

Тем не менее и самого Илона Маска, и его детище постоянно упрекают в формировании у людей, передвигающихся на Tesla, чувства чрезмерной уверенности в своей безопасности и излишней самоуспокоенности. С такими же претензиями сталкиваются и другие автопроизводители, чьи машины оснащаются все более современными интеллектуальными системами. Природа этих упреков кроется в нашем неправильном понимании возможностей БТС и их уровня развития.

Дальше – дело техники

Для абсолютно автономного и безопасного движения БТС должен уметь многое. В первую очередь, точно сканировать и быстро анализировать окружающую обстановку. Во-вторых, иметь в своей памяти карты всех дорог, по которым ему придется перемещаться, и возможность сверять с ними свое местоположение через систему глобального позиционирования. В-третьих, вести обмен данными с другими участниками дорожного движения и, что не менее важно, со всей дорожной инфраструктурой. Ни один даже самый продвинутый автопилот сегодня на такое не способен. Значит, пресловутый человеческий фактор списывать еще рано, и руки с руля убирать торопиться не надо.

По степень автономности современные автомобили можно условно разделить на три группы. Первые оснащены небольшим набором средств активной безопасности, предназначенными только для минимизации вреда здоровью водителя и пассажиров в случае ДТП. Вторые работают на опережение и оснащены комплексом систем, способных как предотвратить аварийную ситуацию, так и максимально уберечь от ее последствий. Такими, к примеру, как адаптивный круиз-контроль (АСС), электронный контроль устойчивости автомобиля (ESC), системой автономного (автоматического) экстренного торможения (AEB) и предупреждения отклонений от выезда за пределы полосы движения (LDWS).

Третьи уже могут претендовать на звание полуавтономных. Их искусственный интеллект способен самостоятельно разбираться с простыми ситуациями на дороге, с одобрения человека совершать обгон других ТС, читать разметку и знаки, анализировать и реагировать на перемещения других автомобилей. Следит ИИ и за самим водителем, не позволяя ему надолго отвлекаться от дороги и возвращая ему процесс управления в случае необходимости.

Подобные системы сегодня разрабатывают и устанавливают на своей продукции более 14 компаний по всему миру. И признанному лидеру и пионеру в этой области Илону Маску с его Autopilot другие автоконцерны уже не просто дышат в спину.

Еще в мае 2018 года издающийся в США авторитетный журнал некоммерческой организации «Consumers Union» (Союз потребителей) опубликовал рейтинг полуавтономных систем управления автомобилем, не требующих постоянного участия человека. На первом месте в нем оказался не Autopilot от Tesla, а автопилот Cadillac Super Cruise от General Motors. Почивать на лаврах в GM не стали и уже в этом году запустили, как выразился главный инженер проекта Марио Майорана, «самое обширное обновление для системы Super Cruise с момента её дебюта в 2017 году». Одним из главных новшеств станет функция автоматической смены полосы движения по требованию водителя. Для этого человеку за рулем потребуется лишь указать нужное направление нажатием на поворотник. Дальше – дело техники. Совершить маневр Cadillac Super Cruise позволит не только новая цифровая платформа, но и усовершенствованные оптические сенсоры. Если перестроение, по мнению ИИ, будет небезопасно, машина останется в своей полосе и уведомит об этом водителя.

Не отстают от американских коллег инженеры немецкой Audi, продолжающие совершенствовать свою систему AI traffic jam pilot, которая способна взять на себя управление автомобилем при движении в дорожном заторе или медленном потоке ТС на скорости до 60 км/ч. Полуавтономная AI traffic jam pilot обеспечивает начало движения, разгон, рулевое управление и торможение в пределах полосы и способна самостоятельно реагировать на  попытку «подрезать» автомобиль. В отличие от Cadillac Super Cruise, контролирующей с помощью инфракрасной камеры, вмонтированной в руль, положение головы водителя, немецкий автопилот отслеживает глаза человека, и если тот вдруг начнет засыпать за рулем или надолго отведет взгляд в сторону, то с помощью акустических или визуальных сигналов разбудит и напомнит, что отвлекаться от дороги не следует. В ситуации, когда это не поможет, AI traffic jam pilot просто остановит автомобиль.

Набором схожих функций и возможностей обладают помощники автономного вождения Pro Pilot Assist от японской компании Nissan и Pilot Assist от шведского Volvo, входящих в пятерку самых продвинутых автопилотов.

Каждый шаг и даже маленький шажок в развитии беспилотных транспортных систем, в какой бы части света они ни совершались, приближает всех нас к тому миру, где не будет места авариям, разбитым машинам, покалеченным судьбам и потерянным жизням из-за ошибки или невнимательности человека за рулем.

И Россия должна сделать всё и даже чуточку больше, чтобы не остаться на обочине этого процесса. Тогда и нулевая смертность на наших поумневших дорогах, избавленных от дураков, уже не покажется чем-то несбыточным. Вспомните, всего лет десять назад беспилотные автомобили были ближе к фантастике, чем к реальности. Сегодня они уже бегают по нашим улицам. Их становится все больше, и они соображают все быстрее.