О проблемах беспилотных автомобилей +1


«Быстро приблизившись, автомобиль остановился у тротуара, и дверцы его открылись.

— Где же водитель? — с недоумением спросил Незнайка, заметив, что водителя за рулем не было.

— А водителя и не нужно, — ответил Кубик. — Это автоматическая кнопочная машина. Вместо водителя здесь, как видите, расположены кнопки с названиями улиц и остановок. Вы нажимаете нужную кнопку, и машина сама везет вас куда надо»

Н. Н. Носов, «Незнайка в Солнечном городе»

Неунывающий Илон Маск, который, вполне возможно, тоже читал Носова в переводе, вот уже девятый год подряд (первый раз он высказался на эту тему в 2014 году) заявляет, что в самое ближайшее время мы получим полноценный беспилотный автомобиль, но… каждый год что-то не срастается. А в регулярно появляющихся статьях на эту тему авторы рассуждают о том, что до полноценного внедрения этого технологического чуда предстоит еще очень много работы. (например, как здесь). Порассуждаем о проблемах, которые возникают перед разработчиками автомобильного ИИ.

Факторы, мешающие распространению беспилотных авто

  • Плохая погода. Беспилотные автомобили оснащены камерами с искусственным интеллектом, которые помогают им ориентироваться на улицах и идентифицировать некоторые объекты, дорожные знаки и пешеходов (хотя и не всегда корректно, как показал недавний случай с девушкой на пешеходном переходе. Однако зимой на заснеженной дороге камера просто не увидит разметки на дорогах, что делает беспилотное вождение в это время года попросту опасным.

    Исследователи до сих пор так и не нашли способа решить эту проблему, поэтому многие испытания проводятся в странах с теплым климатом или в любое время года, кроме снежной зимы. В настоящее время исследователи работают над усовершенствованием лазерных датчиков с различной длиной волны, которые пытаются «заставить» видеть сквозь снег. Кроме того, разрабатывается и дополнительное программное обеспечение, которое позволит алгоритмам ИИ отличать реальные препятствия от снежинок, капель дождя и других атмосферных явлений.

  • Дорожная разметка. Здесь проблема в том, что разметка на дороге может сильно отличаться даже в пределах одного государства (например, США), не говоря уже об отдельных странах и регионах. Но даже в пределах одного населенного пункта разметка порой крайне неоднородна, и это очень проблематично для беспилотных автомобилей, поскольку их фактически приходится заново обучать вождению в каждом новом месте. Например, на одном перекрестке размечены широкие линии, которые определяют, где машины должны останавливаться перед перекрестком. А перед другим перекрестком стоп-линии затерты или их нет вовсе: сможет ли ИИ понять, что нужно остановиться перед знаком «СТОП», а если его нет, то перед светофором?

    А ведь бывают ситуации, когда близко к дороге расположены здания, и автомобиль не сможет «видеть» другие транспортные средства, едущие через перекресток, и тогда отсутствие привычной для ИИ разметки может спровоцировать серьезную аварию. Поскольку существует множество типов перекрестков, ИИ может быть очень трудно понять, что делать в каждом конкретном случае. А во многих случаях не будет даже бордюров, которые помогли бы определить ширину полосы движения. Решение этой проблемы остается одной из главных загадок для исследователей ИИ и по сей день.

  • Левые повороты (а для британцев, японцев и австралийцев — правые). Правила дорожного движения в ряде случаев разрешают поворачивать налево прямо перед встречным транспортом (например, если едешь по главной дороге, которая уходит налево на перекрестке), но даже людям бывает порой непросто принимать такие решения. Поэтому поворачивать налево без наличия на перекрестке светофора с разрешающей зеленой стрелкой алгоритмам машинного обучения по-прежнему очень сложно.

  • Еще один дополнительный фактор, играющий против автомобилей с ИИ, заключается в том, что три четверти водителей вовсе не желают отказываться от управления своими авто. Причем часто из-за обоснованного недоверия к ИИ, репутация которого в этом деле уже отнюдь не безупречна, а за последний год опустилась до рекордного низкого уровня по причине резкого увеличения числа ДТП с беспилотными авто.

    Одним из возможных решений этой проблемы является привлечение большего числа водителей для тестирования беспилотных автомобилей. Так, генеральный директор Waymo Джон Крафчик рассказал, что автомобили его компании показывают водителям много информации на экране: и это не только маршрут в навигаторе, но и та картинка, которую видят сами автомобили. Также Крафчик добавил, что, чем больше люди ездят на беспилотных автомобилях, тем меньше они смотрят на экран, постепенно начиная доверять машине. Но если «беспилотники» стали попадать в аварии так часто, массовым тестированием с целью повышения доверия ситуацию уже не исправишь.

  • Взаимодействие с живыми водителями и с пешеходами на дорогах. Когда мы сами находимся за рулем, то часто замечаем водителей, нарушающих определенные правила дорожного движения. Человек, как правило, может находить способы обходить такие опасности, а вот самоуправляемым автомобилям бывает трудно принимать подобные решения. И это, наверное, одна из самых сложных проблем, которую ученым придется решить, если прогрессивное сообщество хочет увидеть беспилотные автомобили на дорогах в ближайшей перспективе.

    Пока получается не очень, и в следующей главе мы наглядно проиллюстрируем это примерами, а далее рассмотрим достаточно типичный случай с неизвестно откуда выскочившим на дорогу пешеходом, с чем то и дело сталкиваются живые водители.

Резонансные аварии и обезоруживающая статистика

Неприятная авария произошла в 2018 году в Питтсбурге (США), когда беспилотный автомобиль Argo попал в аварию на перекрестке: в него врезался грузовик, который проезжал этот перекресток на красный свет. В результате двое пассажиров беспилотника попали в больницу с травмами средней степени тяжести.

Можно ли было предотвратить эту аварию, находись за рулем человек? Или поставим вопрос по-другому: насколько безопасным будет сосуществование на дорогах водителей-ИИ и водителей-людей? Вопрос, на который пока нет удовлетворительного ответа.

Еще один случай произошел совсем недавно (декабрь 2021 года). Tesla, управляемая роботом, едва не сбила девушку, которая переходила дорогу строго по правилам, то есть по пешеходному переходу и на зеленый сигнал светофора. На видео хорошо видно, как автомобиль лишь слегка притормозил на повороте, однако поехал дальше, совершенно не обратив внимания на начинающего движение пешехода. То есть ИИ не смог понять, что в этом месте нужно остановиться, потому что не учел сочетания факторов (поворот, пешеход, светофор, разметка), с каждым из которых в отдельности он бы наверняка разобрался.

Может показаться, что эти нашумевшие случаи единичны, но это не так. В июньском обзоре от WP говорится, что за последний год только беспилотные автомобили Tesla попадали в аварии 273 раза. В статье приводится любопытная статистика: Tesla далеко не единственная компания, тестирующая ИИ-водителей, но почти 70% аварий (273 из 392 зарегистрированных) с автомобилями, управляемыми искусственным интеллектом, приходится именно на компанию Илона Маска, наиболее активно продвигающего эту технологию.

Усугубляет ситуацию тот факт, что во многих случаях участники ДТП получили серьезные травмы, а в шести случаях не удалось избежать человеческих жертв. В этой же статье указывается, что, согласно данным, опубликованным NHTSA, с 2016 года по июнь 2021 года беспилотные автомобили Tesla попадали в ДТП всего лишь 35 раз, то есть в среднем всего 7 раз за год. И вот 273 аварии за июнь 2021 – июнь 2022, что аж в 39 раз больше! Согласитесь, одним увеличением количества испытываемых автомобилей объяснить это нельзя, тем более, что ИИ в любом случае должен совершенствоваться.

Вот и получается, что поводов для оптимизма немного: число неприятных инцидентов растет в геометрической прогрессии, что говорит об отсутствии прогресса в развитии технологии. Так что количество желающих видеть машины, управляемые ИИ, в своих городах явно не прибавилось. При этом главная проблема управляющего беспилотным авто ИИ лежит совершенно в иной плоскости, и это то же самое, что мешает работать корректно DALL-E 2, Gato и гугловским алгоритмам (смотрите нашу предыдущую статью, последняя часть которой посвящена проблемам общих ИИ).

Всемогущий ИИ оказался не таким всемогущим, как представляли его создатели

Да, проблема всё та же: алгоритмы ИИ отлично справляются с узконаправленными задачами, но нередко теряются, когда выходят «из зоны комфорта», то есть за рамки этих задач. Слишком много факторов нужно учитывать, чтобы безопасно управлять автомобилем в городской черте. Здесь мало не превышать скорость и соблюдать другие правила дорожного движения — ведь их соблюдают далеко не все. К тому же серьезные проблемы ИИ доставляет разметка, с которой обычно нет проблем у водителей-людей даже в тех случаях, когда они ее не видят.

Тем не менее некоторые авторы (и Илон Маск) уверены, что по мере развития искусственного интеллекта и появления новых разработок беспилотные автомобили появятся на дорогах раньше, чем думает большинство людей. Но такие заявления делаются уже более десяти лет, а «беспилотники» не просто не доминируют, но даже не признаны безопасными, тем более в свете последних событий. Да, скажете вы, но ведь водители-люди регулярно попадают в серьезные неприятности, однако никто не поднимает вопрос о том, чтобы отстранить человека от управления автомобилями.

Верно, но во-первых, летальные исходы с самоуправляемыми авто уже тоже перестали быть исключением. Более того, ДТП с их участием стало в десятки раз больше, хотя самих «беспилотников» на улицах всё еще очень немного. А во-вторых, есть и еще одна сторона, с которой следует подходить к вопросу о делегировании ИИ полномочий на управление любыми транспортными средствами. Для примера давайте рассмотрим следующий случай, с которым нередко сталкиваются водители-люди, а потому непременно столкнется и ИИ, если беспилотные машины получат широкое распространение.

Автор одного из авторитетных авто-журналов предлагает вполне типичный выбор для водителя в городских условиях. По улице едет с максимально разрешенной скоростью (60 км/ч) легковой автомобиль. В салоне водитель и три пассажира. И вот в паре десятков метров впереди переходит дорогу типичный пешеход, уткнувшийся в свой смартфон. Тормозить на такой скорости практически бесполезно — серьезно смягчить удар не получится. Крутануть рулем вправо — въехать прямо в остановку, на которой собрались люди в ожидании автобуса. Влево — вылететь на встречную полосу с неизвестными последствиями. Очевидно, что давить людей на остановке водитель не имеет права, подвергать риску лобового столкновения пассажиров в салоне — тоже. Балбеса впереди, конечно, тоже жалко, поэтому водитель-человек, избегая самого страшного, постарается в худшем случае задеть того по касательной. Но как поведет себя в такой ситуации ИИ? С учетом сотен прошлогодних ДТП с одними только «Теслами», есть серьезные сомнения в том, что «беспилотник» сможет с честью выйти из такой ситуации.

И если технические проблемы решить как-то можно (например, автономная система-дублер, перехватывающая управление и обеспечивающая безопасную остановку транспортного средства в случае отказа основной, выглядит удовлетворительным решением), то с этическими уже куда сложнее. Помните этот пример с роботом-судьей? Подсудимый хоть и удивился вердикту, но вряд ли остался им доволен. Вот только на дорогах страдают не только виноватые. А ведь есть еще зима, странная разметка с ее периодическим отсутствием, левые повороты и непредсказуемые водители, порой нарушающие всё, что только можно. 

Поэтому со сроками повсеместного внедрения автомобильного ИИ эксперты пока не торопятся и осторожно заявляют, что это возможно, но, по крайней мере, не в ближайшие несколько лет. Тем не менее, не всё так плохо, и беспилотные технологии продвигаются вперед значительными темпами там, где они способны легко конкурировать с обычным транспортом, управляемым человеком.

Перспективы есть

8 июля на сайта Минтранса России появилась новость, посвященная экспериментальному движению грузового беспилотного транспорта на одной из российских автомагистралей. Грузовики по управлением ИИ будут ездить по выделенным полосам на трассе М-11 «Нева». Движение планируется организовать к 2024 году, а экспериментальный режим сохранят в течение трех лет с момента запуска выделенки.

Одним из главных заинтересованных участников проекта является крупнейший российский производитель дизельного грузового транспорта, компания «КамАЗ». ИИ-разработки на предприятии ведутся уже достаточно давно, поэтому назрел вопрос о их тестах «в боевых условиях». И надо сказать, перспективы у проекта хорошие, поскольку на трассе ИИ чувствует себя куда лучше, чем в городе, а кроме того, он не устает, в отличие от человека. Также в статье указывается, что использование беспилотных грузовиков уже в ближайшие годы сократит издержки компаний на топливо (до 28%) и зарплаты водителей (до 30%). А к 2030 году планируется создать 19500 км выделенных дорог для грузовых «беспилотников» на трассах.

А вот Яндекс решил пойти другим путем — воздушным. Компания уже в самое ближайшее время собирается внедрить новый для России вид транспорта — аэротакси. Аэротакси или воздушные такси представляют собой небольшие летательные аппараты с вертикальным взлетом и посадкой. Понятно, что в этом случае ИИ будет гораздо легче, ведь в воздухе нет разметки и светофоров, а также не мешают пешеходы, так что на перспективы своего транспорта в Яндексе смотрят с оптимизмом.

Интересно, что воздушные такси в Москве были анонсированы уже год назад, однако на тот момент в России еще не была принята программа электронного правового регулирования (ЭПР). Правила ЭПР стали действовать в марте 2022 года, обеспечив правовую основу для беспилотных технологий. Добавим, что за рубежом технологиями воздушного ИИ занимаются такие известные производители, как Hyundai.

Еще больше перспектив у ИИ на железнодорожном транспорте. На всем известных поездах «Ласточка» машинисты пока еще есть, но они занимаются только контролем посадки-высадки пассажиров и перехватывают управление, если случаются какие-то внештатные ситуации. Всем остальным управляет ИИ, который превосходит человека по обнаружению габаритных препятствий на рельсах как в дневное, так и в ночное время. Например, ИИ может распознать опасность на расстоянии 800 метров днем, а человек с нормальным зрением видит только на 500 м перед собой. Разумеется, у ИИ выше и скорость реакции: 0,3 сек. против 1,3 сек. у человека. В условиях, когда нужно действовать мгновенно, это становится решающим. Чтобы полностью автоматизировать движение «Ласточек», РЖД осталось внедрить всего два модуля: дистанционно управляемые тормозные системы и автоматические двери с функцией контроля безопасности.

Итак, ИИ уже успешно внедряется на железных дорогах и в воздухе, а также имеет хорошие перспективы для управления грузовым транспортом на трассах. Будем надеяться, что прорывы в этих областях рано или поздно приведут к тому, что и легковой беспилотный транспорт будет безопасно работать в сложных городских условиях. Тогда мы с полным правом заявим, что сбылось еще одно пророчество фантастов — на этот раз нашего гениального детского писателя.


НЛО прилетело и оставило здесь промокод для читателей нашего блога:

— 15% на все тарифы VDS (кроме тарифа Прогрев) — HABRFIRSTVDS.




Комментарии (120):

  1. avshkol
    /#24619196 / +2

    Решение первых двух проблем - данные по разметке всех дорог, дорожным знакам, светофорам и т.п. с привязкой к координатам должны содержаться в актуальной БД, куда и будут обращаться беспилотники перед поездкой. И обычные водители и пешеходы тоже, при необходимости.

    • AcckiyGerman
      /#24619510 / +3

      Вот только возникает проблема поддержания этой БД в актуальном состоянии. И чем больше эта "модель ВСЕХ дорог", тем больше и проблема. В какой-то момент проблема актуальности данной модели перевесит проблему понимания нейросетью ситуации исходя из сырых данных "здесь и сейчас".

      • Walker99011
        /#24620020

        Мне кажется, что БД гос.услуг будет больше весить, чем БД всех дорог РФ, например с условной схемой (дорога - знак - координаты). Не спорю, что это будет огромная база, да, но не самая большая и даже не в тройке

      • avshkol
        /#24620738

        Автомобиль может отправлять сигнал о нестыковке видимой ситуации и информации в БД, и получать официальный ответ, что считать приоритетным (и это снимет массу вопросов и будет способствовать оперативной актуализации или БД или разметки/знаков в реальном мире).

    • nixtonixto
      /#24621862

      А как быть в случае, когда ремонт дороги закончили, а временные знаки забыли убрать? Да и вообще, если движение изменяется только на одну ночь — дорожники перед началом работы должны выставить конусы и внести изменения в базу, а после окончания — убрать конусы и отменить изменения? Не будут этим заниматься абсолютно все, поэтому ваши беспилотники будут влетать в машину прикрытия, попытавшись опередить справа по перекрытой полосе…

  2. konst90
    /#24619522 / +6

    Какие-то очень странные аргументы, которые собственно к беспилотным автомобилям относятся весьма слабо.

    Однако зимой на заснеженной дороге камера просто не увидит разметки на дорогах, что делает беспилотное вождение в это время года попросту опасным.

    Применимо и к человеку, у которого никаких дополнительных сенсоров не может быть в принципе: два глаза - и всё, никакого лидара или ультразвука.

    Но даже в пределах одного населенного пункта разметка порой крайне неоднородна, и это очень проблематично для беспилотных автомобилей, поскольку их фактически приходится заново обучать вождению в каждом новом месте

    Аналогично и для живых людей, которым приходится учить местные ПДД и манеру вождения в другой стране (да или просто - приехать из какой-нибудь Сызрани в Москву и офигеть на развязках).

     А перед другим перекрестком стоп-линии затерты или их нет вовсе: сможет ли ИИ понять, что нужно остановиться перед знаком «СТОП», а если его нет, то перед светофором?

    Да вроде не бином Ньютона: видишь знак - тормози перед знаком, не видишь - перед светофором. Что тут понимать?

    И так далее. Все "проблемы" применимы и к живым людям, которые проходят обучение в автошколе.

    с 2016 года по июнь 2021 года беспилотные автомобили Tesla попадали в ДТП всего лишь 35 раз, то есть в среднем всего 7 раз за год. И вот 273 аварии за июнь 2021 – июнь 2022, что аж в 39 раз больше! Согласитесь, одним увеличением количества испытываемых автомобилей объяснить это нельзя

    Можно. Раскатали FSD на все машины - и пожалуйста, теперь в ДТП под управлением FSD начали попадать все машины, а не только тестовые.

    Главная проблема беспилотных авто - это ответственность за ДТП.

    Не "что должна делать машина в данном случае", а "Кто будет отвечать за последствия". Автопилот в тюрьму не посадишь, программиста тоже как-то не очень (быстро кончатся). Наказывать только финансово - странно, попахивает откупом (хотя в случае ДТП по невнимательности такое часто бывает - компенсировал ущерб, получил условный срок и гуляй). Пока решение предельно простое - отвечает водитель, но и это как-то ненормально. И что делать - не очень понятно.

    • HellKaim
      /#24619736 / +2

      . И что делать - не очень понятно.

      На самом деле - понятно. Переработка страховой практики. Проблема с "непосадкой" сложная еще и по тому, что человек должен перехватить управление в какие-то секунды (а чаще - и того меньший временной интервал), но при этом водитель не вовлечен в процесс, не следит за окружением и как ему "включиться" - не ясно.

      По этому нужно делать коллективный страховой фонд, куда отчисляют и владельцы таких АМ и их производители. И, в случае смертельного исхода из такого фонда идет выплата.

      Другого варианта тут попросту нет. Сущьность, которая совершила ДТП или участвовала в нем не является полноценной личностью и участником социума. У нее нет мотивации и нет, таким образом, стимулов, которые бы, ограничвая реализацию мотивации, создавали условия для изменения поведения (грубо, если человек знает что сядет в тюрьму или заплатит из своего кармана, он будет аккуратнее).

      Т.е. или нужно создавать кейс, в котором признается частичное сознание или мы соглашаемся на "откуп", непропорционально большой.

      Вопрос, прежде всего, в статистике. Пока автопилотов сравнительно мало, по сравнению с обычными ТС, мы не можем точно сказать % больше или % меньше аварийности у автопилотов.

    • Rsa97
      /#24620222 / +1

      И что делать — не очень понятно.
      Если автопилот нарушает ПДД, то вина, в первую очередь, на разработчиках ПО.
      Если автопилот не нарушает ПДД, то вины его (или его владельца) в ДТП быть не может. Значит остаётся ответственность за ущерб, причинённый источником повышенной опасности. А эта ответственность возлагается на владельца ИПО.

      • konst90
        /#24620262 / +4

        Если автопилот нарушает ПДД, то вина, в первую очередь, на разработчиках ПО.

        Дальше-то что с этой виной делать? Вот машина с автопилотом сбила человека, виноват автопилот. Посадить весь коллектив разработчиков во главе с Илоном Маском на два года в тюрьму? Вариант, конечно, но тогда никаких автопилотов в скором времени не останется.

        • Rsa97
          /#24620360

          То есть, автопилот нарушил ПДД? Значит отвечают те, кто разрабатывал и тестировал ту часть кода или то оборудование, из-за которого произошло нарушение.
          По статье, IMHO, ближе всего причинение вреда либо по неосторожности, либо вследствие ненадлежащего исполнения обязанностей. Тут уже решать суду.

          • BugM
            /#24621514 / +2

            То есть вы предлагаете сажать разработчиков и тестировщиков. Вы уверены что через год у вас разработчики останутся? Точнее даже месяца через три после первой посадки думаете хотя бы один сеньор останется?

            • VladD-exrabbit
              /#24621724 / -3

              Сажать по идее надо доходополучателей. Не сумел владелец компании организовать по настоящему надёжное тестирование — не должен был выпускать сырой автопилот на рынок.

              • BugM
                /#24621726 / +2

                Сажать Маска? А после второй смерти из-за автопилота сажать кого будете? Совет директоров тоже конечен.

              • saboteur_kiev
                /#24623248

                По настоящему надежное?

                Из-за искры в телевизоре сгорела квартира со всеми жителями. Кого сажать?
                Из-за ошибки ПО потерпел крушение боинг. Кого сажать? Почему сажать?
                Молния попала в дом, все сгорели. Сажать архитекторов, которые не проследили что громоотвод недостаточно хорош?


                Все как-то уперлись в уголовный кодекс, а тут несчастный случай.

                Есть понятие - страховка, штрафы и регулятор.

                Если все живы - страховка. Если нет - страховка возмещает материальный ущерб, штрафы - моральный, регулятор следит сколько случаев - и если случай повторный, вводит запрет до устранения этой проблемы.

                Большинство ДТП происходят по разным объективным причинам. Недоработки устраняются. Задача - либо жесткой регуляцией мотивировать на быстрое устранение, либо если это невозможно, ограничить использование.

                Например как только пропала специально выделенная для автопилотов разметка - он автоматом выключается. Выехал за пределы Сан-Хосе - бери штурвал в руки.
                Например снег пошел - автопилот выключился.

                И другие примеры.

                • R7R
                  /#24623410

                  Из-за искры в телевизоре сгорела квартира со всеми жителями. Кого сажать?


                  Кто-то, кого можно считать пострадавшим — подает иск.
                  Если выиграют дело в суде — кого-то посадят.

                  Был бы человек, а статья найдется (с) — это вовсе не шутка.

                • BugM
                  /#24623412

                  Возможный запрет эксплуатации сразу убивает весь b2c рынок для продаж. Да и рынок долговременной аренды убивает почти весь. Остаётся только внутригородской рынок b2c и b2b аренды. Фирма берет 2-3 марки и все не запретят.

                  Никому не нужна машина которую завтра могут запретить. Сегменты возможной эксплуатации есть, но далеко не весь рынок.

            • Rsa97
              /#24621924 / +1

              А по вашему разработчик не должен нести ответственности за ошибки? Тогда ему лучше не работать в сфере, где ошибка может привести к человеческим жертвам. Пусть идёт клепать очередной лендинг, это достаточно безопасно.
              Для снятия ответственности с разработчика должна быть утверждённая система сертификации и надзорный орган, проводящий такую сертификацию перед выпуском автопилота на дороги общего пользования.
              Можно взять аналогию из строительства, где, при наличии положительного заключения Госэкспертизы ПСД ответственность за недостатки проекта на экспертах, выдавших заключение, а при отсутствии заключения (оно требуется не для всех зданий) — на проектировщике.

              • konst90
                /#24621948

                Для снятия ответственности с разработчика должна быть утверждённая система сертификации и надзорный орган, проводящий такую сертификацию перед выпуском автопилота на дороги общего пользования.

                Берём Теслу и прокатываем по учебному получасовому маршруту, где живые люди сдают экзамен на права. Если Тесла проехала успешно и после этого кого-то сбила на дороге - сажаем ГИБДДшников, которые принимали экзамен.

                Неплохо.

                • Rsa97
                  /#24622186

                  Если будет узаконено, что для сертификации автопилота такого теста достаточно, то ГИБДДшников сажать не за что, автопилот тест прошёл. Сажать надо тех, кто решил, что такого теста достаточно.
                  А вот если проверяющий видел, что автотпилот реагирует неадекватно, но сертификат подписал, то сажать проверяющего.

                  • BugM
                    /#24622678

                    Вы перекидываете проблему. Сажать разработчиков системы сертификации тоже не выйдет.

                    Там очень быстро будут или подставные лица (зарплата миллион, график день через три года) или никто. Ну не подпишется нормальный человек под такими условиями работы. Вероятность сесть в течении года стремится к 100%.

                    Именно поэтому это и называют проблемой. Что делать просто непонятно. Ничего не делать тоже не очень хороший вариант.

                    Я вижу решение так: «не сажать никого, но платить прям очень большие страховки за счёт производителя автопилота» Сертификация конечно обязательна. Создание международной структуры вроде ICAO тоже обязательно. Не факт что оно хорошее и правильное, но оно хотя бы работающее. Что делать родителям ребёнка убитого автопилотом не знаю.

                  • konst90
                    /#24622710

                    Сажать надо тех, кто решил, что такого теста достаточно.

                    А давайте тогда посадим тех, кто решил, что такого теста достаточно для живого человека. Ведь достаточно же. И почему-то нет наказания экзаменатору за то, что человек на следующий день после получения прав устроит аварию. И тому, кто тест писал, тоже нет. Почему же с автопилотом не так должно быть?

      • Walker99011
        /#24620530 / +1

        Очень частая ситуация на дорогах: едешь в среднем ряду, в правом грузовик, который закрывает тебе все знаки. Ты не видишь, например, знаки: "ограничение 40, крутой затяжной поворот" из-за грузовика. В таком случае автопилот физически не видел и не знает, что нарушает. В чем тут вина разработчика?

        • Rsa97
          /#24620622 / +1

          А как такой вопрос решается с живым водителем? Сможет производитель доказать, что автопилот не мог увидеть знаки, значит его вины нет. Значит, для разбора спорных ситуаций производителю есть прямой смысл оснащать автопилот чёрным ящиком, записывающим всю информацию, на основании которой принимались решения.
          Ну и, при массовом внедрении автопилота, нужна база, в которой будут разметка и знаки с привязкой к координатам и участкам дорог.
          И ещё, в описанной вами ситуации знак должен быть дублирован.

          ГОСТ Р 52289-2004
          5.1.4 Расстояние видимости знака должно быть не менее 100 м.
          5.1.6 На дорогах с двумя и более полосами движения в данном направлении знаки 1.1, 1.2, 1.20.1-1.20.3, 1.25, 2.4, 2.5, 3.24, установленные справа от проезжей части, дублируют.
          Дублирующие знаки устанавливают на разделительной полосе.
          На дорогах без разделительной полосы дублирующие знаки устанавливают:
          — слева от проезжей части в случаях, когда встречное движение осуществляется по одной или двум полосам;
          — над проезжей частью в случаях, когда встречное движение осуществляется по трем или более полосам.

    • nikalone555
      /#24621556

      Всегда не понимал эту проблему отвественности. По-моему, отвественность тут не лежит ни на ком. Это как несчастный случай - ударило молнией, сошла лавина. При условии конечно, что автопилот прошел все предварительные тесты и верификации. За одно и стимул будет дополнительный использовать автопилота - отказ от ответственности.

      • BugM
        /#24621712

        Автопилот сбивает ребёнка. Ночью в метель на пешеходном переходе. Ребёнок погибает. Никто не виноват.

        Вы все еще уверены в своей позиции?

        • kriz0x
          /#24621720 / +4

          А где родители этого самого ребёнка? Зачем они отпустили своего ребёнка одного, ночью, в метель за пределы двора? В данной возможной смерти виноваты родители этого самого ребёнка, а не автопилот или его создатели.

          И перекладывать вину с родителей на общество/обстоятельства стихии и прочее - это в корне неверно.

          • BugM
            /#24621728

            Питер, декабрь. Ночь начинается часов в 6-8 вечера примерно. Метель бывает в любое время. Ребёнок честно идёт домой из кружка робототехники в нормальное для него время. Там недалеко. Один квартал и одну дорогу перейти. Он так уже второй год ходит сам. 7 класс. Большой уже.

            Все еще считаете родителей виновными?

            • knstqq
              /#24622920

              переход регулируемый? Ребёнок должен переходить на зелёный цвет. Если не ходит на зелёный цвет — родители виновны.

              переход нерегулируемый? Нет освещения? разрешённая скорость 60км/час несмотря на наличие школы в 100 метрах от этого перехода? Дорожники, градостроители, дорогостроители виноваты.

              Снег, гололёд, тормозной путь 120 метров (скользко же!) на скорости 60км/час, машина двигается на автопилоте с максимально разрешённой скоростью 60км/час при видимости около 30 метров? Такой автопилот не должен пройти сертификацию. ПДД явно говорят, что скорость движения должна соответствовать дорожной ситуации, видимости, и прочим факторам.

              Это не бинарная задача «родители виноваты/не виноваты», задачи из реального мира всегда сложнее.

              • BugM
                /#24622940

                Вы живете в каком-то идеальном мире. На практике есть обычная дорога 1-2 полосы в каждую сторону и обычный нерегулируемый переход на ней. Ограничение 60.

                Перестраивать на что-то другое в рамках даже десятилетия невозможно. Или автопилот ездит на том что есть. Или автопилота нет.

              • R7R
                /#24623010

                переход регулируемый? Ребёнок должен переходить на зелёный цвет.


                Ученицу из школы, в которой учились мои дети — машина сбила на переходе, когда она переходила дорогу на зеленый свет. При свидетелях, днем и идеальных погодных условиях. С очень плохим исходом.
                Увы, данный вид происшествий в этом районе повторяется из года в год.

                (сейчас там везде аналог «лежачих полицейских» в виде «шумящих» полос, но даже это не помогает)

                Выход один — перед пешеходным переходом автомобилистам всегда надо сбрасывать скорость и смотреть в оба.
                Пешеходам — не доверять слепо зеленому сигнала и активно смотреть по сторонам.

            • kriz0x
              /#24623794

              Форс-мажор - знакомое понятие? Этого ребёнка собьёт и мешок с мясом и костями за рулём. Потому что просто устал на работе. Или напился. Или сердце отказало. Разница в чём?

              • BugM
                /#24623830

                Мешок с костями посадят в тюрьму. Проблема решена. Типичное решение уже много лет работает.

                А вот что с автопилотом делать непонятно.

              • R7R
                /#24624082

                Потому что просто устал на работе. Или напился. Или сердце отказало.


                Потому что просто тупил в телефон (таких вижу ежедневно — стоят на красный и тупят. А потом, не глядя — жмут газ, потому как машина впереди тронулась с места).

        • Rsa97
          /#24621884

          Ну, тут возможны нарушения ПДД сразу с обоих сторон.
          Со стороны автопилота возможно нарушен пункт 10.1

          Водитель должен вести транспортное средство со скоростью, не превышающей установленного ограничения, учитывая при этом интенсивность движения, особенности и состояние транспортного средства и груза, дорожные и метеорологические условия, в частности видимость в направлении движения.
          Раз автопилот не смог остановиться вовремя, значит при определении скорости движения не была учтена видимость в направлении движения.
          Со стороны ребёнка возможно нарушен пункт 4.5
          На нерегулируемых пешеходных переходах пешеходы могут выходить на проезжую часть (трамвайные пути) после того, как оценят расстояние до приближающихся транспортных средств, их скорость и убедятся, что переход будет для них безопасен.
          Ребёнок вышел на переход не убедившись, что переход будет безопасен.

          • BugM
            /#24622698

            Вы же знаете правоприменительную практику в делах о сбитых пешеходах на пешеходном переходе?

            • Rsa97
              /#24622874

              гибдд.рф/document/402

              В крупных городах до половины всех ДТП – наезды на пешеходов, из них на пешеходных переходах в городах происходит каждый ТРЕТИЙ наезд на пешехода, в том числе по вине водителей — в 86% случаев.

              То есть, 14% ДТП на переходах происходят по вине пешеходов.

              • BugM
                /#24622976

                Ну? Вот эти 86 процентов надо как-то разрулить. Считать что они превратятся в 0 наивно.

        • nikalone555
          /#24623078

          А виноват ли живой водитель, если сбивает человека, но по вине самого человека? Ну выбежал неожиданно из-за припаркованной машины, например? Очевидно, что нет. Несчастный случай.
          Так же как сейчас машинисты поездов не идут под суд, если сбивают на путях кого-то. То же и с автопилотом. Естесвенно, что автопилот предварительно должен пройти тесты и сертификацию. Ну а уж если прошел и двигался по правилам, то он превращается в что-то из разряда стихии, как молния или оползень.
          Тут мы естесвенно не рассматриваем случаи, когда автопилот завис как-нибудь и переехал человека на красный на пешеходке. Это ситуация другого рода.
          В конце концов, сейчас самолеты летают на автопилоте, иногда падают из-за несовершенства ПО или конструкции. Так что вопрос, проще чем кажется по-моему и уже имеет даже практические ответы.

          • R7R
            /#24623102

            А виноват ли живой водитель, если сбивает человека, но по вине самого человека? Ну выбежал неожиданно из-за припаркованной машины, например? Очевидно, что нет.


            Очевидно, что да.
            Так как мимо припаркованных авто надо проезжать осторожно, именно что ожидая, что кто-то может выбежать. Именно так и учат в хороших автошколах.

            • nikalone555
              /#24623112

              Нет. Пешеход должен переходить дорогу в положенном месте, убедившись в своей безопасности. Так по-вашему получается, что водитель виноват просто ВСЕГДА, что неправильно.

              • R7R
                /#24623378

                Нет.


                Мой знакомый сбил на своей старенькой 24-волге (не самый быстрый автомобиль :) прохожего, внезапно вышедшего на дорогу из-за припаркованного авто.
                Скорость была небольшой, пострадавший пострадал не сильно.

                Однако виновнику кровушки попили хорошо, еле отмазался.

              • R7R
                /#24623388

                Так по-вашему получается, что водитель виноват просто ВСЕГДА, что неправильно.


                Конечно. См. ПДД.
                Формулировка обычно обтекаемая, но смысл именно такой.

                • nikalone555
                  /#24623516

                  пункт 4.5

                  На нерегулируемых пешеходных переходах пешеходы могут выходить на проезжую часть (трамвайные пути) после того, как оценят расстояние до приближающихся транспортных средств, их скорость и убедятся, что переход будет для них безопасен.

                  То что судья плохо делает свою работу к нашему вопросу не относится. А вообще ваш случай как раз будет еще одним доводом в пользу использования автопилота. Автопилот прошел сертификацию, а значит виновен быть не может. Соответсвенно у водителя нет возможности попасть за решетку или платить компенсацию.

                  • R7R
                    /#24623746

                    На нерегулируемых пешеходных переходах пешеходы могут выходить


                    «10.1. Водитель должен вести транспортное средство со скоростью, не превышающей установленного ограничения, учитывая при этом интенсивность движения, особенности и состояние транспортного средства и груза, дорожные и метеорологические условия, в частности видимость в направлении движения. Скорость должна обеспечивать водителю возможность постоянного контроля за движением транспортного средства для выполнения требований Правил.

                    При возникновении опасности для движения, которую водитель в состоянии обнаружить, он должен принять возможные меры к снижению скорости вплоть до остановки транспортного средства

                    Не принял, наехал на пешехода — будет отвечать в зависимости от тяжести последствий. А с пешехода спрос маленький — не он же собьет водителя и причинит ему тяжкие телесные повреждения.

                    Автопилот прошел сертификацию, а значит виновен быть не может.


                    А он ее пройдет? :)

                    • nikalone555
                      /#24623784

                      При возникновении опасности для движения, которую водитель в состоянии обнаружить...

                      Которые он в состоянии обнаружить.
                      И вообще, что-то не совсем понимаю о чем мы говорим. Очевидно, что автопилот должен пройти сертификацию. Если он ее не прошел, то и говорить не о чем. Может ли он ее пройти впринципе? Да, может. Есть автопилоты для самолетов, поездов, есть тысячи механизмов от которых зависят жизни людей и которые автоматизированы, хоть те же лифты пассажирские. И которые работают каждый день уже сейчас.
                      Может ли автопилот прошедший сертификацию все-таки сбить кого-то? Да, может. Но виноват тут будет почти на 100% пешеход. Есть вероятность ошибки в ПО или еще чего-то такого. В этом случае, никого не посадят, а просто устранят ошибку.
                      Не так давно самолеты Боинга в Африке упали из-за ошибок в ПО кажется. Небо на землю не рухнуло, от авиаперелетов никто не отказался. Никого не посадили даже.

                      Так что, весь вопрос об ответственности какой-то надуманный. Уже сейчас миллионы жизней зависят от ПО или автоматизированных механизмов. Чем так уж отличается автопилот от системы пожаротушения в каком-нибудь цеху, которая может при ошибке убить человека мне не понятно.

                      • Rsa97
                        /#24623986

                        Не так давно самолеты Боинга в Африке упали из-за ошибок в ПО кажется.
                        Там ошибка была не в ПО, а в общей архитектуре. Подсистема MCAS принимала решение основываясь на показаниях одного датчика, который оказался неисправным.
                        До кучи проявился целый комплекс проблем — требования к сертификации самолётов вырабатывал производитель этих самолётов, информация о работе MCAS была в FCTM (Flight Crew Training Manual, но отсутствовала в FCOM (Filght Crew Operation Manual), пилоты не знали чеклист, который должны были выполнять по памяти (Runaway Stabilizer).

                      • R7R
                        /#24624056

                        Которые он в состоянии обнаружить.


                        Про состояние, в котором водитель должен садится за руль своего авто — написано в другом месте ПДД.
                        Выбегающего на дорогу человека любой водитель, чье состояние соответствует требованиям ПДД — таки способен обнаружить (кроме тех случаев, когда выбегающий использует технологии стелс или едет с завязанными по требованию террористов глазами :)

                        Может ли он ее пройти в принципе? Да, может.


                        Думаю, что нет.
                        (Разве что таки создадут сильный ИИ — тогда может появится шанс :)

                        Вариант номер два — по дорогам разрешено перемещаться только самоуправляемым автомобилям, причем человек на дороге может появится только в качестве пассажира (что-то вроде LVCC Loop).
                        Вот этот вариант вполне реален.

                        Есть автопилоты для самолетов, поездов, есть тысячи механизмов от которых зависят жизни людей и которые автоматизированы, хоть те же лифты пассажирские


                        Это все не тот уровень сложности (как минимум — у самолетов не бывает плохих дорог, а мелочи типа грозы — хорошо и вовремя детектируются :)

                        Кстати, автоматические лифты есть не везде — я, например, сейчас открываю двери лифта (и закрываю внутренние) вручную, что очень неудобно.

                        Уже сейчас миллионы жизней зависят от ПО или автоматизированных механизмов.


                        Только косвенно. Кстати, автоматика была и в Чернобыле.

                        от системы пожаротушения в каком-нибудь цеху, которая может при ошибке убить человека


                        Убить? Нет, не слышал. Убивает она тогда, когда своевременно не срабатывает, это да.

                      • nikalone555
                        /#24624110

                        Вы не совсем понимаете о чем говорите.

                        Обнаружить человека стоящего за непрозрачным припаркованным автомобилем там где нет никакого знака или зебры водитель не в состоянии. Ответственность за наезд он не будет нести. Правила нарушил пешеход.

                        Что значит нет? Авиационный же автопилот прошел сертификацию. Значит впринципе это возможно. Никаких неразрешимых этических дилем тут нет. Да и самого вопроса нет, раз уже есть автопилот от которого зависят жизни людей и который уже убивал по ошибке, те же разбившиеся самолеты.
                        Какой-то неразрешимой технологической сложности тут тоже нет. Авиационный автопилот не сильно концептуально отличается от автомобильного.

                      • BugM
                        /#24624188

                        В воздухе нет пешеходных переходов. И велосипедистов и мотоциклами нет. Даже хаотично припаркованных машин нет. Погода очень предсказуемая. И ещё много чего нет. Уровень сложности принципиально разный.

                        Сертификация по принципу самолётов со всемогущей организацией с правом запрета эксплуатации это вариант. Осталось договориться и создать такую.

                      • nikalone555
                        /#24624248

                        В воздухе есть разная аеродинамика у разных самолетов, срыв потока, предельные углы атаки, помпаж, воздушные ямы, смещение центра тяжести - словом много чего сложного. Уровень сложности не принципиально другой. Датчики получают информацию об окружающем мире и на основе анализа по заранее установленным правилам принимают решение. Правила формализованы и конечны и могут быть описаны полностью. Ну скажем, задачи заставить ИИ написать симфонию не стоит. Весь автопилот может быть сведен к набору простых логических условий. Так что нет проблем ни с технической, ни с этической точки зрения.

                      • BugM
                        /#24624258

                        Аэродинамика сложная, но считаемая. Ее даже в реалтайме считать не надо. Все считается заранее и устанавливаются разрешённые цифры для экслуатации.

                        А вот заранее посчитать велосипедиста или ребёнка на переходе не выйдет. И даже припаркованные машины заранее не считаются.

                      • nikalone555
                        /#24624268

                        Велосипедиста и не надо заранее считать. Если он вылетел из-за припаркованной машины там где нет перехода и его сбил автопилот, то он сам виноват. Если останется жив, то будет еще и помятый бампер оплачивать. Автопилот конечно должен будет попытаться затормозить, но в целом никаких проблем тут не вижу. Автопилот должен будет сбросить скорость перед пешеходным переходом и пропустить пешехода, если он там есть. Не вижу тут никакой проблемы. Все в соотвествии с ПДД.
                        Такое чувство, как-будто для людей есть большая разница собьет ребенка живой человек или автопилот.

                      • BugM
                        /#24624306

                        Велосипедист едет по ПДД. Влияет объезжая камень какой-то. Имеет право в пределах правой полосы. Или поворачивает налево подавая сигнал рукой. Тоже по ПДД можно. Ночью, в дождь, в сумерки, против солнца. Все как обычно.

                        Про переход чуть выше было. Нерегулируемый переход, ночь, метель, ребёнок идёт. Реальная и нередкая ситуация.

                        Да разница огромная. Человека сажают в тюрьму и общество говорит что виновник понёс заслуженное наказание. Это сложившаяся практика. Она работает. Вы уверенно не обращаете внимания что вместо неё нужна какая-то другая практика. Переход на другие правила жизни и смерти это сложный и неоднозначный процесс. Простого или легкого решения тут точно не будет.

                      • nikalone555
                        /#24624344

                        Я не понимаю что вы хотите сказать. Как наказание может быть заслуженным, если никакого умысла у водителя навредить кому-то не было и правила нарушил не он?
                        Если велосипедист виляет по дороге и попадает под машину, то он сам виноват. Автопилот конечно должен попытаться объехать его, но если не смог безопасно это сделать, то виноват велосипедист.
                        Ребенок виноват сам. Может виноваты его родители, что не научили переходить дорогу безопасно. Может быть администрация из-за того, что не может установить светофор. Но не автопилот.
                        В обоих примерах, даже сейчас виноват не водитель. И тем более не будет виноват автопилот т.к. он по умолчанию действует согласно правилам ПДД.
                        Вас пугает сама мысль, что вас убить может механизм? Или что именно? Самолетом вы пользуетесь. А ведь тоже ваша жизнь зависит от автоматики и ПО. Иногда даже самолеты разбиваются. И что?

                      • BugM
                        /#24624362

                        Неа. Как правило признают виновным водителя. Ситуации которые я описал будут трактоваться в пользу велосипедиста, а не человека управляющего средством повышенной опасности.

                        Меня ничего не волнует. Мне интересно как будет решаться эта проблема. Первый шаг к решению проблемы это признать что она есть. Пока даже он не до конца сделан.

                      • nikalone555
                        /#24624372

                        Никакой проблемы нет. Самолеты летают на автопилоте. Где проблема?
                        Трактоваться ситуации должны в соответсвии с правилами ПДД. Точка. Есть ПДД. Кто его нарушил, тот и виноват. То что судья в каком-то случае плохо делает свою работу - это другой вопрос.
                        Если автопилот ехал по ПДД, то виноват он быть не может. А по другому он и сертификацию не пройдет.

                      • BugM
                        /#24624408

                        Автопилот самолета и автомобиля это принципиально разные штуки. Настолько разные что один уже лет 40 или 50 работает, а второй не существует. И есть некоторые подозрения что его не сделают в ближайшие годы.

                        ПДД штука такая разная и неоднозначная… Вам уже накидали разных примеров. В жизни их ещё больше. Сейчас это трактует суд с возможностью обжалования и тому подобного. Вы хотите это все перечеркнуть. Так в жизни не получается. Люди слишком неоднозначные. А на дорогах именно они.

                      • konst90
                        /#24624686

                        Автопилот самолета и автомобиля это принципиально разные штуки. Настолько разные что один уже лет 40 или 50 работает

                        На том уровне, каким должен быть автомобильный автопилот - не работает. То есть - нет в серийной эксплуатации автопилота, который способен в реальных условиях (не "мы разогнали все другие самолёты, летите") и при любой погоде (в пределах минимума для линейного пилота) провести самолёт от гейта в одном аэропорту до гейта в другом без помощи человека в кабине (включая общение с диспетчерами).

                        Автопилот в самолёте - примерно на уровне круиза с удержанием полосы и автопарковщика в машине. Но никак не полная замена пилота.

                      • konst90
                        /#24624678

                        Влияет объезжая камень какой-то. Имеет право в пределах правой полосы.

                        Не имеет. Велосипедист, как гласит ПДД, обязан двигаться по правому краю проезжей части, а не "вилять в пределах полосы". Никакого "объезжания камней" ПДД не допускают.

                        И если он из своего законного правого края полез на середину проезжей части - то он должен заблаговременно показать сигнал поворота (рукой), убедиться в безопасности манёвра и только потом перестраиваться. А ночью, кстати, иметь включенную заднюю фару. И круглые сутки - переднюю.

                      • BugM
                        /#24624750

                        Вы цитату ПДД неверную привели. На самом деле так: «Велосипеды, мопеды (скутеры) должны двигаться только по крайней правой полосе в один ряд, причем максимально правее.»

                        Любой суд скажет что ехать на камень или в яму (или ещё какую-то ерунду на дороге) не надо. Надо нормально объехать в соответствии с правилами максимально правее. Да, прецеденты уже были. Нет, гуглить их не буду. У нас сложно такие штуки гуглятся.

                        Подал сигнал, удостоверился. Пошёл перестраиваться и в него влетел автопилот выехавший из-за чего-то и не видевший ни сигнала ни велосипедиста. Велосипедист тоже его не видел по той же причине. Кого наказать? В обычной ситуации водителя посадят или дадут условный.

                      • konst90
                        /#24624776

                        Вы цитату ПДД неверную привели. На самом деле так: «Велосипеды, мопеды (скутеры) должны двигаться только по крайней правой полосе в один ряд, причем максимально правее.»

                        Это "на самом деле" было актуально несколько лет назад. Сейчас ПДД изменились:

                        24.2. Допускается движение велосипедистов в возрасте старше 14 лет:

                        по правому краю проезжей части - в следующих случаях

                        Подал сигнал, удостоверился. Пошёл перестраиваться и в него влетел автопилот

                        А здесь надо смотреть, кто как ехал. Если автопилот двигался прямолинейно, без перестроений - то виноват велосипедист, который под него перестроился (подрезал).

                      • BugM
                        /#24624822

                        Никто никуда не перестраивается. Велосипедист в пределах правой полосы двигается. Объежать всегда с перестроением в другую полосу их хотелось бы, но у меня не выходит. Значит у автопилота тоже не выйдет.

                      • konst90
                        /#24626574

                        Велосипедист в пределах правой полосы двигается

                        А должен двигаться по правому краю. Двигаться "в пределах полосы" никакого права у него нет. То есть - налицо нарушение ПДД велосипедистом, который допустил выезд в запрещённую для него зону. По недавнему решению ВС (по обочечникам) приоритет он теряет и в ДТП виноват сам.

                      • BugM
                        /#24626584

                        Можете попробовать сходить в суд и доказать что велосипедист должен был нырять в яму или врезаться в припаркованную машину, а не объехать их. Пожелаю вам всяческих неудач в этом суде. И даже поучаствую в общественной компании против такого решения. Это может привести к увеличению количества смертей на дорогах.

                      • konst90
                        /#24626726

                        велосипедист должен был нырять в яму или врезаться в припаркованную машину

                        При возникновении опасности для движения, которую водитель в состоянии обнаружить, он должен принять возможные меры к снижению скорости вплоть до остановки транспортного средства.

                        Вот что водитель должен сделать, чтобы не влететь в яму, а не лезть в запрещённую зону, не убедившись в безопасности маневра.

                      • BugM
                        /#24626888

                        Успехов в суде с такими аргументами. Право убивать велосипедистов едущих максимально разумно суд вам все равно не даст.

                        ПДД и многие другие законы это законы для людей. Они оставляют зазоры так чтобы разумно ведущий себя человек оставался невиновным в максимальном числе случаев.

                        Изменить это на правила для роботов разрешающие убивать любого чуть отклонившегося от строгого правила никто не даст.

                      • nikalone555
                        /#24626092

                        Подал сигнал, удостоверился. Пошёл перестраиваться и в него влетел автопилот выехавший из-за чего-то и не видевший ни сигнала ни велосипедиста. Велосипедист тоже его не видел по той же причине. Кого наказать? В обычной ситуации водителя посадят или дадут условный.

                        И за что же должны посадить водителя, если он не мог видеть велосипедиста? За то, что он не развил в себе экстрасенсорных сопосбностей и не предполагал там велосипедиста? Почему тогда не велосипедиста? Все-таки предполагать машину на дороге - это нормально. Преполагать велосипедиста не дороге - не нормально.

                      • BugM
                        /#24626154

                        Управлял средством повышенной опасности. Не учёл дорожные условия. Почитайте любые решения судов. Это риск который водитель берет на себя.

                      • nikalone555
                        /#24626186

                        Приведите пример решения суда, раз говорите, что он есть и подтверждает ваши слова.
                        Почему тогда не садят машинистов поездов? Управлял средством повышенной опасности? Да. Не учел там что-то, скорость не скинул, предполагая, что на путях за поворотом будет шагать дурачок в наушниках. А?

                      • BugM
                        /#24626338

                        Вы бы попробовали на машине поездить, познакомиться с тем как все устроено. Почитать решения судов по сбитым велосипедистам и пешеходам. Есть сложившиеся практики. Они вот такие. Не в ваших и не в моих силах их изменить.

                        В ПДД много общих слов. Водите аккуратно с учётом обстановки не попадайте в аварии бла-бла-бла. В общем это правильно. Дороги слишком разные везде. Все учесть в точности нельзя, да и смысла нет. Попал в аварию - нарушил.

                        Я допускаю что у машинистов они другие. Меня машинисты не интересуют.

                      • nikalone555
                        /#24626348

                        Во-первых, приведите пример практики, раз много читали.
                        Во-вторых, практика судов в какой-то стране одной не имеет значения по вопросу возможности создания автопилота. Практика к тому же и меняется, она не закон природы.
                        А про машинистов вы решили не брать в расчет потому что они ваши доводы ломают, да? Потому и не интересно, да?

                      • BugM
                        /#24626434 / +1

                        Да везде она такая. Водитель виноват по умолчанию в большей части случаев. Но он через суд может доказать свою невиновность. Исключения есть, но это именно исключения. Я не буду кидать кучу ссылок на новости по куче дел. Сами найдёте. Из много.

                        Машинисты мне просто не интересны. Я машину вожу, а не паровоз. Я не знаю и не хочу знать что там и как. Автопилота это тоже не касается. Автопилот по правилам машин ездить и отвечать будет.

                      • General_Failure
                        /#24626894

                        Или поворачивает налево подавая сигнал рукой. Тоже по ПДД можно.
                        Подача сигнала о повороте не даёт преимущество.
                        Нерегулируемый переход, ночь, метель, ребёнок идёт
                        Перед переходом автопилот будет снижать скорость, если у него это будет прошито. Мясные водители делают это далеко не всегда, некоторые наоборот прибавляют. Плюс автопилот с лидарами всё же получше видит. Да, метель помешает, но она точно так же и нашим глазам мешает.

                      • R7R
                        /#24624318

                        Вы не совсем понимаете о чем говорите.


                        Я за рулем с 1975 года.
                        Прекрасно понимаю, о чем говорю.

                        Обнаружить человека стоящего за непрозрачным припаркованным автомобилем там где нет никакого знака или зебры водитель не в состоянии.


                        Его не надо «обнаруживать». Его надо предполагать.
                        И вести машину соответственно.

                        Авиационный же автопилот прошел сертификацию


                        Вас сбивает слово «автопилот».
                        Авиационный автопилот — это одно, автопилот — совершенно другое.

                      • nikalone555
                        /#24624358

                        Нельзя предполагать то, чего там быть не должно. Вы из дома выходите без каски наверное, а по вашей логике должны предполагать, что вам на голову упадет что-нибудь. Если там нет пешеходного перехода, то и предполагать что там найдется дурак, который вам под колеса кинется вы не должны. В любом случае, виноваты вы не будете. Если человек кидается под поезд, виноват ли его водитель? Ответ очевиден.
                        Нет, авиационный автопилот - это автопилот и это именно то же самое, что и автомобильный. Либо поясните развернуто, в чем принципиальная разница.

                      • Rsa97
                        /#24624420

                        Нет, авиационный автопилот — это автопилот и это именно то же самое, что и автомобильный. Либо поясните развернуто, в чем принципиальная разница.
                        Авиационный автопилот не принимает решений. Никаких. Никогда.
                        Он всего лишь выдерживает заданные высоту (или скорость набора/снижения) и направление полёта. Если есть автомат тяги, то ещё и скорость.
                        Маршрут, скорость и высота задаются либо пилотом вручную, либо полётным компьютером. И нет, полётный компьютер тоже не принимает решений. Он просто закладывает в автопилот данные следующего отрезка полёта после пролёта финальной точки предыдущего отрезка.
                        Если задать автопилоту снижение со скоростью 10м/с без ограничения высоты, то он не прекратит снижение до самой земли. Если задать курс, ведущий в гору, то автопилот не отвернёт. Если задать слишком маленькую скорость, то автопилот будет задирать нос, чтобы удержать заданную высоту на заданной скорости до самого сваливания. Автопилот не начнёт обходить грозу, даже если курс ведёт прямо в её центр.
                        Да, автоматика заверещит, включит табло о сваливании или приближении земли, но не примет решения за пилота.

                      • R7R
                        /#24624902

                        Нет, авиационный автопилот — это автопилот и это именно то же самое, что и автомобильный. Либо поясните развернуто, в чем принципиальная разница.


                        Я вижу, что пояснили уже.

                      • nikalone555
                        /#24626090

                        Современные автопилоты могут полностью совершить взлет, следовать по маршруту и посадку. Есть вроде даже рекомендация для каких-то моделей самолетов и аэропортов пилотам соврешать посадку именно через автопилот, а на руками.

                        И что значит принимать решения? Дать крен и снизить скорость - это принять решение?

                        Маршрут, скорость и высота задаются либо пилотом вручную, либо полётным компьютером. И нет, полётный компьютер тоже не принимает решений. Он просто закладывает в автопилот данные следующего отрезка полёта после пролёта финальной точки предыдущего отрезка.

                        Да, а для автопилота это задается ПДД. В чем тут разница?

                      • Rsa97
                        /#24626258

                        Современные автопилоты могут полностью совершить взлет, следовать по маршруту и посадку.
                        Модель серийного самолёта с таким автопилотом назовёте? И сколько таких полётов в сутки по всему миру выполняется?
                        Дать крен и снизить скорость — это принять решение?
                        Авиационный автопилот не может самостоятельно снизить скорость. Крен он даёт исключительно с целью удержания самолёта на курсе, что является не принятием решения, а результатом работы простейшего ПИД-регулятора.
                        Да, а для автопилота это задается ПДД.
                        ПДД задаёт общие правила использования дорог общего пользования. Но инструкций для автопилота вида «двигаться со скоростью строго 60км/ч строго курсом 59 к контрольной точке QQRR» в ПДД нет. Аналог ПДД в авиации — Правила использования воздушного пространства.

                      • nikalone555
                        /#24626280

                        https://travelask.ru/questions/13244-kak-chasto-samolyoty-sovershayut-posadku-na-avtopilote

                        Отвечу как командир Airbus-320, хотя у каждого типа воздушного судна и каждой авиакомпании свои нюансы.

                        Если коротко - нет, не часто. Лично я за 10 лет налёта на А320 использовал автолэнд раз 10-20. И я не знаю ни одного пилота, который предпочитает садиться на автомате, а не "на руках". Кстати, на автопилоте касание с землей гораздо жестче, чем при ручной посадке. Нет, система работает четко, просто обычно это не самая мягкая посадка.

                        Я использую автолэнд (и мои коллеги), когда нужно посадить самолет при плохой видимости, и вот в этих случаях он меня очень радует. А вообще, для посадки на автопилоте много ограничений, например, если полоса слишком мокрая или снежная, или при очень сильном боковом ветре.

                        Утверждение, что "Автолэнд нужен только когда за штурвалом сидит плохой пилот" неверно. Он оказывает огромную помощь пилотам, когда видимость лишком низкая для посадки в ручном режиме, как часто бывает туманным утром.

                        Технически верно, хоть и не совсем корректно, сказать, что "посадка запрещена, если видимость ниже определённого предела". Зависит от типа ВС и конкретной авиакомпании, но в моей посадка на автопилоте разрешена при видимости до 180 метров. Причем, эта цифра важна не для непосредственно приземления, а уже для руления с ВПП. Кстати, у нас нет никаких требований к видимости того, что находится рядом с ВПП. На высоте 30 метров (так называемая "высота принятия решения") мы в последний раз проверяем, что системы работают корректно, и продолжаем заход. Для посадки "на руках" правила куда сложнее, но в целом требуется видимость около 800 метров. Так что в случаях, когда видимость от 800 до 200 метров, и посадка на руках невозможна, нам приходится садиться на автомате.

                        Если вы - пассажир в салоне и интересуетесь, была ли посадка произведена на автопилоте, - вероятнее всего нет, если только за бортом не стоит сильный туман.

                        Источник: https://travelask.ru/questions/13244-kak-chasto-samolyoty-sovershayut-posadku-na-avtopilote

                        Вы видимо плохо себе представляете современный автопилот.

                      • Rsa97
                        /#24626386

                        Автоленд — это не полноценный автопилот. Он требует сертификации оборудования ВПП по категории IIIc (ЕМНИП, в России таких полос нет). На необорудованную полосу он самолёт не посадит даже при абсолютном штиле и видимости миллион на миллион.
                        Достаточно неправильно задать направление полосы и автоленд честно зайдёт на посадку под углом. А если на полосе будет стоять другой самолёт (автомобиль, человек), то автоленд не уйдёт на второй круг, а будет садиться как ни в чём не бывало прямо в препятствие.

                      • R7R
                        /#24624896

                        Нельзя предполагать то, чего там быть не должно


                        Аксиома, известная всем с автошколы — нужно предполагать, что там кто-то есть.
                        Предполагать, что там заведомо никого нет — ошибка, за которую надо лишать прав.

                        Если там нет пешеходного перехода, то и предполагать что там найдется дурак, который вам под колеса кинется вы не должны


                        Именно что водитель обязан предполагать, что там может кто-то быть.
                        И выбрать соответствующую скорость движения (чтоб внезапно выбежавшая на дорогу вертихвостка не успела добежать до его бампера).

                        Кстати, именно поэтому так опасны выскакивающие поперек дороги велосипедисты — их резвость превышает даже резвость собак.
                        (Я сам велосипедист, с детства еще — поэтому и считаю, что таких скакунов надо если и не отстреливать — то лишать прав управлять любым транспортным средством навечно :)

                        Если человек кидается под поезд, виноват ли его водитель?


                        А поезд-то тут причем? Мы же про автомобильное движение, насколько я помню :)

                        А кидающихся под колеса нариков/алкашей полный ютьюб видео. Причем их и не давят :)

                      • nikalone555
                        /#24626080

                        Еще раз повторю. Есть свод правил ПДД. Там описано что надо и что не надо. Написано и для водителя и для пешехода, велосипедиста. Там нет фраз типа "предполагать что-то". В ситуациях что тут приводят, однозначно виноват не водитель, а пешеход, велосипедист. Тут обсуждать нечего.
                        А поезд тут притом, что автомобиль с автопилотом ничем не отличается от поезда. Автомобиль едет по "рельсам" описанным для него правилами ПДД. Как и поезд. Если человек дурак и попал под поезд, то он сам виноват. Автопилот не может их нарушить потому что у него iq=70 или он устал или отвлекся на телефон.
                        Т.е. весь вопрос тут стоит в том, могут ли правила ПДД описать поведение участников движения так, чтобы они не попадали в ДТП. Я считаю, что могут. Большинство случаев ДТП - это именно нарушение ПДД кем-то из участников.

                      • R7R
                        /#24626126

                        ПДД. Там описано что надо и что не надо. Написано и для водителя и для пешехода, велосипедиста.


                        Про водителя была цитата выше.
                        А отвечать будут по тяжести последствий — что водитель, что велосипедист, что пешеход.

                        Фокус в том, что пешеход обычно создает тяжелые последствия для себя самого (в иных случаях он догадывается быстро слинять с места ДТП, благо номера на нем нет :)

                      • nikalone555
                        /#24626138

                        Не знаю про какую цитату вы говорите, выше было несколько и все однозначно дают понять, что дивгаясь по ПДД, водитель виноват быть не может.
                        Отвечают не по тяжести последствий, а по вине. Если вашей вины нет, то и отвечать вы не должны и не будете, не смотря на всю тяжесть какую только можно представить. А то бы давно уже сидели все машинисты поездов.

                      • R7R
                        /#24626160

                        Не знаю про какую цитату вы говорите,


                        «При возникновении опасности для движения, которую водитель в состоянии обнаружить, он должен принять возможные меры к снижению скорости вплоть до остановки транспортного средства» (с)

                        Отвечают не по тяжести последствий, а по вине.


                        Вина напрямую зависит от тяжести последствий :)
                        Например, мелкое хулиганство это одно, а причинение во время оного тяжких телесных повреждений — это уже совсем другое.

                      • nikalone555
                        /#24626206

                        Я уже отвечал на это. Ключевая фраза тут

                        которую водитель в состоянии обнаружить

                        Да и просто сказано, что должен принять меры. Все. Вы начали тормозить или объезжать? Меры приняли, вашей вины нет.

                        Вина напрямую зависит от тяжести последствий :)

                        Полная чушь. Вина не зависит от тяжести последствий никак. Вы не понимаете что говорите.
                        Машинист поезда виноват если под поезд попал дурак? Тяжесть последствий максимальная.

                      • R7R
                        /#24626234 / +2

                        Полная чушь. Вина не зависит от тяжести последствий никак. Вы не понимаете что говорите.


                        Не дай бог, попадете под следствие — поймете.

                      • splitfire
                        /#24626856

                        Ответственность за наезд он не будет нести. Правила нарушил пешеход.


                        Штраф за нарушение ПДД не заплатит, да. А вот за лечение пешехода будет платить до упора. А если тот погибнет в результате наезда, то и сядет.

                      • tommyangelo27
                        /#24625524

                        Нет, не слышал

                        У нас недавно дверь трамвая задушила насмерть 5-летнего ребёнка. Не сработал механизм ограничителя.

                        Я до этого случая тоже не слышал о таком, хотя трамваями пользуюсь каждый день.

                      • R7R
                        /#24626146

                        У нас недавно дверь трамвая задушила насмерть 5-летнего ребёнка. Не сработал механизм ограничителя.


                        В автоматических лифтах такое происходит достаточно часто, где-то пару лет назад у нас в городе зажало дверями голову (взрослому человеку) после чего лифт поехал вверх и голову срезало. Фото в новостях были, жесть.

                        В трамваях «зажимы» тоже часто происходят, но, обычно, без трагических последствий (это явление даже было отражено в одной из серий «Ну погоди», там это не гэг, а отражение реальности :)

                      • nikalone555
                        /#24626220

                        Да, ну и как? Посадили инженера который писал ПО для лифта? Мы отказались от пользования лифтами из-за неразрешимых этических дилем?

                      • R7R
                        /#24626236

                        Посадили инженера который писал ПО для лифта?


                        В новостях об этом молчок.
                        Но виноватого точно нашли и посадили, можно предположить, что им оказался стрелочник механик по наладке лифтов.

                      • nikalone555
                        /#24626244

                        Я вот предполагаю, что никого не посадили, потому что пассажир нарушил правила пользования лифтом.

                      • R7R
                        /#24626294

                        Я вот предполагаю, что никого не посадили, потому что пассажир нарушил правила пользования лифтом.


                        Двери автоматического лифта не должны зажимать ни голову, ни руку человека.
                        Преступная халатность со стороны ответственных за эксплуатацию лифта лиц (с трамваем — аналогично, но там есть еще и вагоновожатый, он и сядет)

                      • nikalone555
                        /#24626306

                        Никто никуда не сядет. Вам бы всех посадить кругом. Если вы не вошли в лифт когда дверь открылась, а как-то умудрились сделать так, чтобы вам башку зажало, то вы ИДИОТ. А что случилось - несчастный случай. Полез дурак в ванну с телефоном, зарядка села, он провод воткнул, уронил, умер от удара током. Кто виноват? Несчастный случай. Это не значит конечно, что не надо стараться такие вещи предусмотреть, но садить никого не надо.

                      • Rsa97
                        /#24626398

                        Если вы не вошли в лифт когда дверь открылась, а как-то умудрились сделать так, чтобы вам башку зажало, то вы ИДИОТ.
                        ГОСТ Р 53780-2010:
                        5.5.3.4 Пуск и движение кабины должны быть невозможны при открытой двери кабины (или какой-либо створки в случае многостворчатой двери)…

                        Так что либо неправильная конструкция лифта, либо халатность обслуживающей организации.

                      • BugM
                        /#24626510

                        На халатность похоже. Вероятно датчик закрытия дверей сломался и его отключили. За такое и посадить могут того кто это сделал и приказал так сделать, если история достаточно громкая.

    • ramiil
      /#24621878

      А кто отвечает, если в аварию попадёт телега с лошадью? Владелец лошади, даже если он пьяный спал в телеге, а лошадь сама шла куда глаза глядят. Вот вам и ответ.

      • knstqq
        /#24622932

        лошадь ни экзамен не сдаёт на знание пдд и умение управлять автомобилем, ни сертификацию безопасности не проходит.

        Пример не корректный, ответа в этом комментарии нет

      • R7R
        /#24623044

        а лошадь сама шла куда глаза глядят.


        Лошади — существа практически разумные.
        Никогда не прут на рожон. (Лошадей в жизни видел очень много, буйных лошадей — никогда :)
        А вот тот, кто сидит в телеге — может быть в неадеквате и гнать лошадей как попало.

        Было в моей жизни несколько эпизодов, когда на ночных сельских дорогах на встречку выносилась пара запряженных лошадей и избежать столкновения удавалось с большим трудом. И каждый раз в телеге сидел пьяный в дупу возчик (иногда — в большой компании таких же орлов).

        (в лошадях я уверен — в людях нет :)

  3. HellKaim
    /#24619764 / +1

    @FirstJohn

    Проблемы беспилотников гораздо шире. Большинство сложностей аналогичны человеческим, но есть и целый ряд других. Например - в каком случае автопилот должен отказаться от движения? Как он должен отключаться? Проблема вагонетки, которая так и не решена.

    Попробуйте выгнать автопилот на грунтовую дорогу, не обозначенную на карте, с ямами, ухабами, неровностями. Я не уверен что автопилот умеет объезжать ухаб, учитывая высоту клиренса и особенность подвески. А сможет ли он развернуть машину на поле, если там нет дрог и трава?

    Т.е. я к4 чему - нажно создать граничные условия. Мы говорим только о движении в хорошо размеченных, асфальтированных условиях налененных пунктов и по трассам с твердым покрытием.

  4. MK_Ultra
    /#24619948 / -3

    Маск - трепло. А большая часть индустрии ориентируется на него. Для того что бы ИИ мог обрабатывать всю инфу с камер нужно больше производительности бортовому компу, и пока в каждой машине не будет по рендер-ферме багажнике ИИ не сможет обрабатывать ситуацию на дороге в нужной детализации. Так что на нынешнем поколении бортовых компов полноценного автопилота ждать не стоит, имхо.

    • Akon32
      /#24620510

      Специализированный ускоритель нейросетей может быть размером с флешку и потреблять всего несколько ватт.

      Но в автомобиле, как правило, запас грузоподъёмности, пространства и электрической мощности гораздо больше. Нет особых проблем разместить 50кг компьютер и запитать его 5кВт мощности - это довольно мало по сравнению с массой, мощностью, да и ценой автомобиля.

      • konst90
        /#24620626 / -1

        Вы себе представляете габариты 50-кг компьютера? Это же пол-багажника вместе с системой охлаждения, которая должна будет эти 5 кВт от него отвести. А что с запасом хода будет? Тесла ест примерно 200 Вт*ч на километр пути. Ваш автопилот лишает её 25 км пробега (чисто по энергии, не учитывая рост массы).

        Для грузовика это, может, и норм, но для легковой - перебор.

        • Akon32
          /#24620908 / +1

          Вы себе представляете габариты 50-кг компьютера? Это же пол-багажника вместе с системой охлаждения, которая должна будет эти 5 кВт от него отвести.

          Багажник литров на 500 обычно, радиатор киловатт на 100.

          Ваш автопилот лишает её 25 км пробега (чисто по энергии, не учитывая рост массы).

          Минус 25км из 500км. Терпимо.

          Автомобиль вообще имеет огромные габариты и мощность по сравнению с компьютером. Дата-центр, конечно, не погрузишь и не запитаешь, но на 10х от обычного десктопа - вероятно, хватит. Тем более, не факт, что компьютеру будут нужны те 5 кВт, а не меньше.

  5. Chelidonium
    /#24620336

    В экосистеме б/п авто - традиционные авто будут чувствовать себя мухами в чужой паутине.

  6. R7R
    /#24621686 / +1

    И вот в паре десятков метров впереди переходит дорогу типичный пешеход, уткнувшийся в свой смартфон. Тормозить на такой скорости практически бесполезно — серьезно смягчить удар не получится. Крутануть рулем вправо — въехать прямо в остановку, на которой собрались люди в ожидании автобуса. Влево — вылететь на встречную полосу с неизвестными последствиями. Очевидно, что давить людей на остановке водитель не имеет права, подвергать риску лобового столкновения пассажиров в салоне — тоже. Балбеса впереди, конечно, тоже жалко, поэтому водитель-человек, избегая самого страшного, постарается в худшем случае задеть того по касательной.


    В данной ситуации — без разницы, человек за рулем или ИИ.
    И вариант решения только один — сбрасывать скорость до безопасной перед пешеходным переходом.

    (например, на пешеходный переход вылетает велосипедист — шансов предсказать такую возможность нет ни у водителя ни у ИИ. А ведь видел такое не далее как вчера)

    • Akon32
      /#24624772

      Тяжело принимать решения, будучи философом. Время до удара - секунды, а споры, кого давить, я уже лет 15 слышу. А на практике чем раньше тормоз нажмёшь, тем слабее удар.

      Разрабатываемый алгоритм AI вроде бы не для философии, а для вождения, но почему-то в такие статьи добавляют философию, мораль, неразрешимые этические парадоксы - наверно чтобы AI никуда не поехал.

      например, на пешеходный переход вылетает велосипедист — шансов предсказать такую возможность нет ни у водителя ни у ИИ

      Довольно предсказуемо. Велосипедист, пешеход или ещё кто может внезапно появиться из-за любого препятствия. Если место рядом с переходом не просматривается на расстояние, с которого на переход может влететь внезапный электровелосипедист, имеет смысл снизить скорость настолько, чтобы успеть среагировать. Опять же, если рядом с дорогой есть объект, закрывающий обзор, то, во-первых, не надо проезжать мимо на высокой скорости, а во-вторых, не надо проезжать вплотную. Эти правила снижают вероятность ДТП (пусть и не в 0).

      • BugM
        /#24624828

        Не выйдет. Ваш автопилот не купят. По правой полосе где регулярно Газели всякие стоят тоже ехать надо, а не тормозить почти в 0 у каждой. Да, они там могут стоять.

        • Akon32
          /#24625018

          Эта ситуация и без автопилота опасна. Наличие живого водителя безопасности не добавляет, разве что его можно будет посадить в тюрьму, чтобы успокоить родственников пешехода (месть такая).

          Наверно, возможность запарковаться там, где может выскочить пешеход - издержки времён, когда повозки ездили 20км/ч.

          • R7R
            /#24625084

            Наверно, возможность запарковаться там, где может выскочить пешеход — издержки времён, когда повозки ездили 20км/ч.


            Не, еще в 2005 году для парковки всем хватало «карманов».
            Так что это скорее издержки тотальной автомобилизации.

          • BugM
            /#24625262

            Именно. Это в любой приличной автошколе говорят на обучении. Сел за руль - ходишь под статьей. Даже если ничего не нарушаешь можешь сесть. Мир нашёл такой консенсус. Людям можно водить несколько тонн металла на большой скорости в городе в обмен на риск сесть, который они добровольно принимают на себя.

            Парковка и пешеходы это одни и те же места. Люди обычно на дороге около жилых домов паркуются. Риск можно уменьшить расставив побольше переходов и лежачих в таких местах, но совсем до нуля его уменьшить не выйдет. Места парковки и места жизни людей слишком тесно связаны. А ездить как-то надо.

            Автопилот должен изменить этот консенсус на что-то иное. Это интересный процесс и может получиться интересный результат.

      • R7R
        /#24624908

        но почему-то в такие статьи добавляют философию, мораль, неразрешимые этические парадоксы


        «А поговорить?» (с) :)

        Если место рядом с переходом не просматривается на расстояние, с которого на переход может влететь внезапный электровелосипедист, имеет смысл снизить скорость настолько, чтобы успеть среагировать.


        Я именно об этом.

  7. R7R
    /#24621688

    Еще один случай произошел совсем недавно (декабрь 2021 года). Tesla, управляемая роботом, едва не сбила девушку,


    Тут я буквально вчера видел инфу о том, что тесла упорно не замечает манекены детей на дорогах во время проведения испытаний и безжалостно их сбивает. Систематически.

  8. R7R
    /#24621694

    Аэротакси или воздушные такси представляют собой небольшие летательные аппараты с вертикальным взлетом и посадкой. Понятно, что в этом случае ИИ будет гораздо легче


    Какие потрясающие возможности для хакеров-террористов/наемных убийц это открывает…

  9. nikolas78
    /#24622718

    Без взаимодействия ИИ разных авто между собой система получается слишком хрупкой.

  10. knstqq
    /#24622878

    > Балбеса впереди, конечно, тоже жалко, поэтому водитель-человек, избегая самого страшного, постарается в худшем случае задеть того по касательной.
    В случае с живым водителем это правда. Оптимистично 1 секунда на принятие решение и начало торможения — автомобиль покроет 17 метров из 20 и для торможения времени не останется. Скорость — 17 метров в секунду на 60км/час.

    В случае с ИИ — принятие решение практически мгновненно (0.1 с?). За это время автомобиль проедет 1.7 метра из 20.
    по формуле: s = (v^2 — v0^2) / 2a (где v и v0 — конечная и начальная скорости, s — путь, и «a» — ускорение) можно посчитать:
    18.3 =( 17 * 17 — v0 * v0) / 2 / 7 (ускорение примем70% от g = 7 м/с2; скорость — 17 м/с).

    Путём математических преобразований получаем:
    v0 * v0 = 32; v0 = 5м/с. При скорости 5 метров в секунду (18 км/час) столкновение маловероятно будет смертельным, это как столкновение на парковке со скоростью 18км/час. Если повезёт — то даже синяка не будет.

    Так что для ИИ решение очевидно — тормозить в пол и не пытаться объехать незадачливого пешехода. И издать звуковой сигнал — тогда может быть пешеход даже успеет убежать.

  11. perfect_genius
    /#24624348 / +1

    Почему-то забыли упомянуть автопилоты для комбайнов, а там очень хорошие результаты у Cognitive Technologies.

  12. TimID
    /#24624460 / -1

    Статья от человека, который и в теме, судя по всему, не очень разбирается, и оперирует весьма старой информацией.
    И вопросы страхования ответственности беспилотников давно уже разрешены и ведется проработка законодательства, и проблема с разметкой решается высокоточной цифровой моделью дороги, и системы регулярного мониторинга состояния дороги, трафика, инфраструктуры непрерывно обсуждаются профильными организациями.
    А уж 273 аварии.... да Тесла продала 936 ТЫСЯЧ (!!!) автомобилей в 2021 году. Еще бы количество отвалившихся колес у произведений российского автопрома посчитали, к примеру.