Оператор робомобиля Uber, сбившего велосипедистку, в момент столкновения смотрела шоу «Голос» +22



image

В США полным ходом идет расследование ДТП с участием робомобиля Uber и велосипедистки. Как уже сообщалось, женщина погибла через некоторое время после того, как ее практически на полном ходу сбил автомобиль с автопилотом от Uber. Это случилось в середине марта текущего года. Расследование аварии ведет Национальный совет по безопасности на транспорте (англ. National Transportation Safety Board, NTSB).

Как оказалось, датчики машины выявили присутствие пешехода на дороге за шесть секунд до столкновения. Но из-за совокупности ряда факторов (темное время суток, темная одежда велосипедистки, переход ею дороги в неположенном месте и т.п.) программная платформа робомобиля никак не могла определиться с тем, что именно находится впереди. В конце концов компьютер сформировал «мнение», что впереди — неопределенное препятствие, которое можно игнорировать.

Оператор робомобиля тоже среагировала, но произошло это слишком поздно — примерно за секунду до столкновения. Автомобиль, который ехал со скоростью в 70 км/ч, просто не успел остановиться. На видео, где зафиксировано поведение оператора, видно, что женщина за рулем не обращает никакого внимания на происходящее на дороге. Она смотрит куда-то вниз, после чего обращает внимание на дорогу и спохватывается, когда уже слишком поздно.

По словам полиции, голова оператора была опущена в течение 5,3 секунд. Сотрудники правоохранительных органов, не поверив в слова женщины о том, что она следила за показаниями приборов, решили проверить все самостоятельно. Каким-то образом им пришла идея проверить активность аккаунта оператора на Hulu, сервисе трансляции различных ТВ-шоу и сериалов. Как оказалось, в ночь столкновения женщина смотрела шоу «Голос» в течение 42 минут. Просмотр был завершен лишь в 21:59, что коррелирует со временем столкновения.

Представители компании Uber пока никак не комментируют отчет полиции. Известно, что компания запрещает водителям своих робомобилей использовать в дороге мобильные устройства. Операторам говорят, что в случае нарушения этого правила их могут уволить. Запрет был сформирован именно по причине опасения, что водители будут отвлекаться. Робомобили во многих случаях работают весьма неплохо, «уверенно чувствуя» дорогу. Оператор может расслабиться и заняться своими делами — например, начать отвлекаться в телефон или планшет.

Полиция решила проверить Рафаэлу Васкез (именно так зовут водителя) после многократного просмотра видео с ее реакцией на происходящее. По мнению правоохранителей, оператор явно не наблюдала за приборами робомобиля, поскольку спектр ее эмоций указывал на то, что наблюдает она за чем-то приятным и интересным. Вряд ли кто-то способен в течение всего рабочего дня с радостью смотреть на показания бортового компьютера. Несколько раз Васкез улыбалась, что, по мнению полиции, подкрепляет их точку зрения.

Ну а после получения отчета от Hulu все сомнения пропали — водитель явно занималась не выполнением своих рабочих обязанностей, а пыталась развлечь себя, за что поплатился относительно невиновный человек (велосипедистка мало того, что переходила дорогу в неположенном месте, на ее одежде и самом велосипеде начисто отсутствовали светоотражатели. Кроме того, в крови женщины обнаружены наркотические вещества, что, возможно, и стало причиной ее не совсем адекватного поведения на дороге).

Роботизированная система машин Uber включает радар, камеры и лидар, который использует лазерное излучение для обнаружения объектов. Система позволяет выявлять препятствия вокруг машины без «мертвых зон».

Uber и некоторым другим компаниям, ведущим работу в сфере роботизации машин, пришлось приостановить работу. Кроме названной компании испытания собственных машин с автономной системой управления прекратили компания Toyota, Nvidia и некоторые другие организации. Возможно, через некоторое время испытания на дорогах общего пользования будут возобновлены, поскольку ясно, что вина автопилота весьма слабая. Да, комплекс несколько странно среагировал на проблему, но если бы оператор повела себя адекватно, проблемы бы не было и ДТП могло не произойти.

Вы можете помочь и перевести немного средств на развитие сайта



Комментарии (151):

  1. idiv
    /#18809319 / +3

    С одной стороны оператор, безусловно, виновата. Но с другой стороны ее работа — сидеть и осмысленно смотреть в окно поезда, замечая каждую деталь контролировать автомобиль и быть готовым перехватить управление. Это явный недосмотр Uber, практически все подобные деятельности выполняются минимум двумя людьми (хотя бы дублируются, если не сидят вместе).

    • DanilinS
      /#18809395 / +7

      Я вообще не представляю, как сохранять внимание оператору целый день. При том не вмешиваясь в управление.

      • dkv
        /#18809889 / +1

        Ровно так-же как машинистам поездов, полагаю.

        • Monoroch
          /#18809907 / +1

          У машиниста поезда, в процессе столько задач, что без дела он не сидит вообще никогда.

          • Monoroch
            /#18809915

            И раз уж с редактированием опоздал, там ещё со времён ссср стоят системы контроля бдительности. Нет подтверждения -> срыв эпк -> остановка поезда.

            • sevikl
              /#18812383

              удивительно, что у убера такого не было. и вот это:

              что впереди — неопределенное препятствие, которое можно игнорировать

              вообще какая-то дикость.

        • artyums
          /#18810117

          Лучше привести пример летчиков ГА. Когда в компьютер забит маршрут, самолет вышел на нужный эшелон, полет трансконтинентальный (да даже когда пару часов)… Летчик абсолютно ничего не делает, кроме употребления пищи/чая/кофе и редких контактов с диспетчерами.
          И вот тут для сохранения бдительности на случай проблем — действительно нужно мастерство и опыт.

          • eoffsock
            /#18810157

            Ну так их не просто так двое, а на длинных полетах вообще четверо емнип, двое плюс двое сменных. Потом за погодой смотри, по сторонам смотри на всякий случай, за самолетом самим смотри, за состоянием систем и все такое. Так-то там есть чем заняться. Бумажки опять же заполняют, пока летят.

            • artyums
              /#18810195

              Погода в сводках и в процессе полета редко изучается, разве что диспетчер обратит внимание, а так метеорадар работает при необходимости — но, опять таки, на эшелоне редко происходят какие-то серьезные метеоявления.
              Собственно говоря и по сторонам можно смотреть только ради любования красотами — на таких высотах и с такими скоростями это особого смысла не имеет, не зря там полеты только по IFR (по приборам), никакого VFR (визуального).
              Смотреть за самолетом особо тоже смысла нет — всем же ведь управляет автопилот (и если на малой авиации надо хоть двигателем управлять, то на авиалайнерах и автоконтроль тяги тоже есть). Состояние систем опять же контролируется компьютером, который при отклонениях уведомляет. Да и просто так — быстро наскучит смотреть почти статичную картинку на мониторчиках :)
              Ну а бумажки — да… Бумажной работы достаточно. Но это опять же равноценно просмотру телешоу :) Просто последствий таких серьезных быть не может.

              • eoffsock
                /#18810203

                В целом разумно. Про погоду я имел в виду погоду в пункте прибытия, это может повлиять на маршрут уже на эшелоне.

                Но тут есть еще один фактор. Насколько я слышал и общался с пилотами, там по большей части люди, которые горят своей работой, горят небом. Возможно, это спасает их от фатальной потери внимания.

                • artyums
                  /#18810223

                  Да, только, мне кажется, чуть по другому — когда «горишь» своей профессией, то чувствуешь ее «в подкорке», знаешь где и чего ждать загодя (это для любой профессии характерно). Поэтому и фатальной потери внимания не происходит :)

            • river-fall
              /#18812191

              ну и там необходимое время реакции всё же не секунды, а десятки секунд в большинстве случаев. На дороге ситуация более напряженная

          • Welran
            /#18810789

            А еще пилотам самолетов платят на два если не на три порядка больше чем тестеру робомобиля убера.

            • Igorjan
              /#18810821 / -1

              На 3 порядка?
              средний негр в гарлеме не работая получает ~1000 баксов в месяц. Накинем 3 порядка. получается миллион. долларов. в месяц.
              Либо математика не та, либо ты балабол.

              • vesper-bot
                /#18810927

                Порядки бывают и двоичные. Тем более мы на Хабре.

              • roscomtheend
                /#18811605

                3 порядка — это и 8 раз тоже, хотя и это выглядит много.
                PS. Вот так открыть утром и добраться только сейчас.

          • zim32
            /#18811151

            Нельдя сравнивать. В небе вокруг ничего нет. Тысячи диспетчеров следят за воздушным пространством. Летишь себе болтаешь со вторым пилотом. А тут вокруг постоянно что-то происходит. Пешеходы, машины, собаки, светофоры. Постоянный стресс. Ну его нафиг такие автопилоты вообше.

            • artyums
              /#18811191

              Вот, так в этом и вся проблема с этими автопилотами!
              В самолетах автопилот лишь помогает пилоту, выполняя за него поддержание запланированного пилотом профиля полета. Причем, насколько я знаю ситуацию, авиастроители не сильно то стремятся к тому, чтобы научить автопилот чему-то большему — хотя, теоретически, эта задача проще, чем в случае с автомобилями. Как раз ввиду бо'льшей стандартизации движения и меньшему числу его участников на единицу объема пространства даже с учетом более высокой скорости.

              • zim32
                /#18811405

                Дам там за весь полет в штатной ситуации ниодного пересечения траекторий нет. Встречные самолёты летят на разной высоте. Взлет посадка стремно да но это пару процентов от общего полета

        • Igor_O
          /#18810271 / +1

          Я тут последнее время залипаю в видеоблог одного машиниста поезда… Там с одной стороны реально нужно управлять поездом — подъемы, спуски, стрелки, светофоры, которые требуют действий от машиниста. Плюс к этому есть системы контроля машиниста. Проезд светофора — должен подтвердить нажатием определенных кнопок. Плюс, нужно примерно раз в 20 секунд отпускать и нажимать специальную педаль. Если проезд светофора не подтвержден, или педаль не отпустили-нажали за заданное время — автоматически включается режим экстренного торможения.
          Почему подобных систем не сделали «оператору» в Убер? Видимо, сложное сочетание самоуверенности, самонадеянности и необразованности.
          Как минимум, обнаружив «неопределенное препятствие» автомобиль должен был просигналить оператору и, в случае бездействия оператора, прибегнуть к экстренному торможению. Что было бы логично… Но… Проще всех собак на оператора повесить.
          (Ну и да, не смотрела бы она шоу на телефоне, так спала бы… Может быть даже с открытыми глазами. Это никого бы не спасло.)

          • burzooom
            /#18810745

            Законов робототехники на Убер нету

            Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

            • Areso
              /#18810767

              Потому что эти законы — вымысел фантаста. Хороший, кстати, вымысел, мне нравится. Основание так вообще одна из моих любимых серий книг.

            • freecoder_xx
              /#18811607

              Робот просто не понял, что это был человек.

            • black_semargl
              /#18811629

              Нужно сначала опознать что перед роботом человек…

      • SinsI
        /#18814269

        1. Можно через случайные промежутки времени возвращать управление от компьютера — оператору.
        2. Можно добавить оператору какую-нибудь постоянную задачу, связанную с управлением но не требующую прямого вмешательства — например, не давать указывать сразу конечный пункт маршрута, а требовать каждую сотню-другую метров указывать следующую точку.

    • F0iL
      /#18809573 / +5

      Напрашивается идея какой-нибудь периодичной «проверки бдительности» — например, раз в N минут на короткое время на приборной панели или проектором на лобовое стекло выводится сообщение, и оператор должен отреагировать на это (нажать кнопку, совершить маневр, и т.д.). Если есть пропуски — отправляем оператора на повторный инструктаж или применяем административные меры.

      • Maximuzzz
        /#18809693 / +3

        На железной дороге подобная система давно применяется — машинисты должны проходить регулярную проверку внимания реагируя на специальный сигнал. Если реакция отсутствует, то включается аварийное торможение.

        • JediPhilosopher
          /#18809803

          Но на железной дороге требуется (как мне с дивана виднеется) совершенно другая скорость реакции. Там не нужно реагировать быстро — все равно тысячетонный состав моментально не остановится, и вильнуть в сторону не сможет. Поэтому реакция на этот сигнал там вроде в течение нескольких секунд требуется. Этого вполне достаточно чтобы проверить, что человек не заснул.
          В случае с автомобилями такое не будет работать, так как там требуется быстрая реакция. А если включить такую проверку на очень короткий срок (человек должен нажать например в пределах секунды на кнопку после сигнала) то собственно все внимание человека будет направлено на этот сигнал чтобы успеть среагировать, а не на обстановку на дороге. Что к повышению безопасности опять-таки никак не приведет.

          • Popadanec
            /#18809885 / +1

            У дальнобойщиков есть системы слежения за направлением глаз.

            • Iv38
              /#18810065

              Опять же, у дальнобойщиков цель системы другая. Надо только следить, что человек не заснул. Если не заснул, то скорее всего он более-менее внимателен, ведь машина сама не управляется. Но если человек освобожден от управления, то концентрироваться трудно. Можно смотреть прямо через лобовое стекло и ничего не видеть, думая о своем.

              Я пробовал сидя на пассажирском сидении активно наблюдать за дорожной обстановкой. Через несколько минут всегда обнаруживаю себя внутри своих мыслей.

              • artyums
                /#18810127

                Пробовали ли Вы ездить с самым простым классическим круиз-контролем на дальнее расстояние по трассе? Когда я впервые испытал это, сначала почувствовал как же это удобно, а затем — что расслабляешься и несколько теряешь контроль за дорогой (как минимум из-за того, что нога оказывается физически дальше от педали тормоза/газа, оперативно затормозить/ускориться сложнее). В итоге стал включать круиз эпизодически, чтобы передохнуть, а затем вновь переключаться в обычный режим.

                Не представляю, насколько расслабляет адаптивный круиз-контроль или, тем более, автономная система. Честно говоря, пока производитель не готов гарантировать безопасность каким-то образом (страховкой там, например), я бы не смог, как героиня статьи, смотреть ТВ-шоу в движении, слишком уж ответственность за себя, пассажиров и окружающих чувствую…

                • NightGhost
                  /#18810183

                  По поводу круиза хочу не согласиться. Из собственного опыта:
                  1. На круизе обычно едешь по трассе. Когда едешь без круиза – фактически нога на педали находится в одном и том же положении, по этому в целом никакой разницы нет, залипать что так что так начинаешь.
                  2. Чтобы не было проблем с «нога оказывается дальше», я держу её на педали газа, не нажимая на неё. Обратного сопротивления педали хватает, чтобы нога без приложения усилий лежала на ней, при том не было элемента нажатия.
                  3. На абсолютно пустой трассе с ногой можно сделать что-то ещё, чтобы размяться.
                  4. Проездив не один год с круизом, возьмусь утверждать, что это гораздо выгоднее и с точки зрения штрафов (отвлёкся, чуть на педаль нажал, попал на камеру), и с точки зрения времени (сложно всегда держать 108-110 км без круиза, обычно получаетя медленнее, так как лучше меньше, чем больше).

                  • artyums
                    /#18810221

                    1. Без круиза мне приходится «подгазовывать», потому что дорога плавает-вверх вниз, ты отпускаешь педаль, чтобы не превысить скорость на спуске, а потом нажимаешь на подъеме, чтобы удержать темп…
                    2. У Вас электронная педаль газа? У меня педаль легко нажимается уже под весом ноги, если ее расслабить. Чтобы не нажимать, но держать над педалью — приходится напрягать. Я в таком случае ставлю ногу на тормоз, который как раз более «упругий», но эта педаль выше и на ней нога еще больше устает… Замкнутый круг)
                    4. Про временную и экономическую выгоду полностью соглашусь с Вами, особенно в части времени!
                    Ехал я тут, правда, каюсь, ибо грешен, 148 км/ч по участку М11 с ограничением 130 км/ч (по GPS скорость была 142 км/ч), пришел штраф с мобильного комплекса фиксации за 156 км/ч… Пойди, вот, докажи теперь, что ехал с круизом и насколько превысить не мог… Посмотрел еще запись с видеорегистратора, график скорости представляет собой идеальную прямую на одном и том же значении, никакого намека на 156 км/ч… Так и заплатил штраф ни за что…

                    • NightGhost
                      /#18810231

                      1. Хм, странно. Держу педаль в одном положении, на подъёмах теряю максимум 2-3км, на спусках скорость стабильно держится.
                      2. Педаль газа электронная, но сопротивления хватает.

                      У меня с круизом так бывает, что он в горку пытается набрать обороты, и немного выходит за 110 (разгоняется до 112 и сбрасывает). Несколько раз попадал, когда сверху подъёма стоит камера, и я в неё на 112 влетаю. Стал ездить 108 по трассе ) По времени эти 2км ничего не дают совсем.

                    • Igor_O
                      /#18810299

                      Это у нас любят… Я год назад получил смешной штраф — 500 рублей, как за от 20 до 40 км/ч превышения, при этом скорость «измеренная» была 132 км/ч на трассе с ограничением 90 км/ч… При этом я ехал с включенным ограничителем скорости на 110 км/ч, что значит, что ехал не быстрее 106 км/ч…

                    • johndow
                      /#18811271

                      Не знаю, как у вас, но у меня (Skoda, электронная педаль) нет ничего особенного в том, что педаль газа может быть чуть нажата при езде на круизе. Фактически, она и так нажата самими мозгами круиза, мы лишь слегка выбираем её свободный ход.

                • Visphord
                  /#18810819

                  На эту тему есть отличная ф-ция «ограничитель скорости», которая не даёт разгоняться выше установленного лимита. Есть на многих машинах, где есть круиз. На трассе всегда настраиваю её на лимит дороги и еду держа педаль у «кик-дауна». При этом не надо контролировать скорость (не нарушишь), не так устаешь ибо не надо точно дозировать усилие на педаль и нога не устает, всегда можешь быстро ускориться (если надо на обгон) — нужно всего-то дожать до кик-дауна.

                  да и в городе сильно спасает от штрафов, но приходится чаще включать-отключать и менять лимиты =)

          • Igor_O
            /#18810287

            Как бы так сказать… Когда обнаруживается баг в работе диспетчеров и светофоров в виде мчащей в лоб на 150 км/ч электричке — реакция должна быть молниеносная — врубить экстренное торможение и валить во вторую кабину…
            В случае Убера — достаточно бы было показывать оператору все «неопознанные препятствия» с подтверждением действия. Секунда — это очень много. Секунды более чем достаточно для того, чтобы понять, внимателен ли оператор, и начать торможение при необходимости.

            • Я был в экстренно тормозящем поезде. Валить в нём можно только по направлению движения.

              • Igor_O
                /#18812251

                Это да. Но по идее, там есть порядка 5 секунд от момента перевода крана в «экстренное торможение» до развития полного тормозного усилия пока сбрасывается давление во всей магистрали.

    • vladob
      /#18814183

      выполняются минимум двумя людьми (хотя бы дублируются, если не сидят вместе).

      Да.

      И в недоосознании этого принципа я вижу одну из главных опасностей хайпа вокруг нынешней волны роботизации всего и вся.

      У машиниста поезда, в процессе столько задач, что без дела он не сидит вообще никогда.


      Спросите у машинистов что такое «Рукоятка Контроля Бдительности». Если мне память не изменяет — так называлось это устройство, которое я имею ввиду.
      (я говорю о 80-х и Белжд)

      уже упомянули в комментах выше…

  2. mwizard
    /#18809359 / +4

    Почему для робомобиля стали проблемой «темное время суток» и «темная одежда»? Разве сонарам/лидарам не плевать на оптические характеристики среды? В ультазвуке, и при активной подсветке, эта дамочка выглядела, как огромный кусок мяса. В чем была сложность в таком случае?

    • fapsi
      /#18809887

      Автомобиль, который ехал со скоростью в 70 км/ч

      Почему для робомобиля проблемой стала адекватная для тёмного времени суток скорость?

      А так. Пересмотрел видео несколько раз. Есть там один момент — слева по курсу автомобиля куст, который, вероятно, и не дал обнаружить женщину за достаточное расстояние. А далее — непонятный сбой алгоритма, но времени при 70 км/ч было критически мало.

  3. mad_god
    /#18809367 / +9

    впереди — неопределенное препятствие, которое можно игнорировать

    Что могло пойти не так? Отличный алгоритм.

    • DanilinS
      /#18809391 / +1

      Вокруг автомобиля обычно куча обьектов. И естественно отслеживать все принципиально невозможно. Скорее всего оптика не смогла «выцепить» силуэт человек, лидар скорее всего просто определил как неподвижное не индентифицируемый обьект. И естественно этот обьект был проигнорирован.

      • DenVdmj
        /#18809495

        ANN иногда ошибаются, и как правило «видят» они не как люди. Так что силуэт мог быть вполне человеческий и вполне отчетливый на наш взгляд.

      • daiver19
        /#18809587

        Так это вокруг, а впереди него, обычно, либо ничего, либо другой автомобиль. Так что алгоритм кривой, по крайней мере по описанию.

        • Maximuzzz
          /#18809697

          Там не прямо перед автомобилем было «неопределённое препятствие», а в соседней полосе, с краю дороги. Видимо алгоритм «решил», что ничего в ближайшее время на пути автомобиля не появится.

    • F0iL
      /#18809581

      Я так понимаю, имелось в виду не «впереди на пути траектории машины», а «впереди сбоку» (т.к. за 6 секунд до столкновения пешеход двигался от края проезжей части, а не стоял посреди дороги)

    • GeekberryFinn
      /#18809707

      впереди — неопределенное препятствие, которое можно игнорировать

      Что могло пойти не так? Отличный алгоритм.

      Если «неопределенное препятствие» = Лось, то это крайне стрёмный алгоритм.

  4. Camrad_RIP
    /#18809445 / +4

    М-да.
    — Впереди ХЗ что.
    — Продолжаем движение не снижая скорости.

    • Maximuzzz
      /#18809699

      Не впереди в смысле прямо по траектории автомобиля, а впереди в соседней полосе. Вы же, когда управляете автомобилем, не тормозите перед каждым идущим по обочине пешеходом и не ждёте, что они кинутся вам под колёса. Хотя такое иногда и происходит, к сожалению. Хотелось бы, конечно, чтобы робомобили могли с большей уверенностью предсказывать такое поведение.

      • Dobby007
        /#18809779

        Ну она же двигалась по направлению к полосе движения автомобиля. При этом относительно траектории движения авто оставалась неподвижной. Насколько я понял, было целых 6 секунд, чтобы понять, что то самое "неопределенное препятствие" движется и что столкновение с ним неизбежно, если сохранять текущие параметры. Даже за секунду она проделывала какую то пути. И вовсе она не кидалась, судя по видео. Так что алгоритм — кривой.

        • MiB_K
          /#18809841

          Согласен с Вами. Электроника должна уметь «предсказывать» положение объекта, основываясь на его текущих параметрах движения. Это не так уж сложно реализовать и если бы это было сделано, то мы бы сейчас не обсждали эту статью

        • black_semargl
          /#18809991

          Как я понимаю — по причине темноты не были чётко определены границы объекта и он был воспринят как неподвижный.

          • GeekberryFinn
            /#18810005

            Если человек стоит на разделительной линии — это не значит, что будет стоять бесконечно, а значит, то что находится в процессе перехода дороги.

            PS а человека стоящего возле пешеходного перехода, Убер тоже воспринимает как неподвижного и гонит не сбавляя скорости?!

            • black_semargl
              /#18810155

              Там не было разделительной линии, дороги «туда» и «обратно» разделены нехилым «островом» с растительностью.
              На который пешеход вообще не может попасть соблюдая правила (но об этом автопилот конечно знать не мог)
              Т.е. велосипедистка шла с края дороги.

              Насчёт PS — вопрос очень интересный.
              Возможно если переход отдетектирован — то замедлит, а если просто у края дороги стоит — нет.

              • Dobby007
                /#18810253

                Имхо, это обычная дорога с двумя полосами. Я сейчас на секунду оставлю в стороне способность предсказывать развитие событий. Соблюдал пешеход правила дорожного движения или нет, здесь не имеет значения. В наших реалиях тем более. Я это к тому, что машина сбила "неопределенное препятствие", когда велосипедистка находилась прямо перед ней, даже не замедляя скорости. Т.е. будь это кусок арматуры, мирно катившееся колесо или танк она бы повела себя точно также? Ну как ни крути, даже восприняв объект как неподвижный шесть секунд назад, этот самый объект через какое-то время оказался около бортика авто, а потом и вовсе прямо перед ним. Ну замедлить скорость машина же должна была, видя перед собой препятствие вовсе немаленького размера.

                • black_semargl
                  /#18810545

                  Я смотрел то место в гугльмапе — обычная односторонняя двухполосная дорога.
                  В общем никто и не спорит что автопилот сглючил. Но как препятствие на дороге она могла в самом деле за 6 секунд до столкновения появиться.

                  • Welran
                    /#18810813

                    Странно что он за 6 секунд до столкновения идентифицировал объект как неподвижный неопределенный объект и больше не следил за ним хотя за эти 6 секунд объект активно перемещался.

                    • Maximuzzz
                      /#18811183

                      При условии, что автомобиль и пешеход двигались в одном направлении, строго параллельно, определить двигался ли пешеход действительно трудно. Сравните скорости и прикиньте на сколько сильно поменяются относительные габариты пешехода и, например, столба за 6 секунд. Авто проедет 116 метров, человек около 5 метров, в состоянии алкогольного/наркотического опьянения ещё меньше.

                      • Areso
                        /#18811825

                        Только она двигалась под углом, близким к 90 градусам. Она же не ехала по дороге, а пересекала её.

                        • black_semargl
                          /#18813717

                          Но направление на неё оставалось постоянным, скажем 5 градусов влево.

        • shaggyone
          /#18810661

          Вот да, даже если это не человек, а любой другой предмет, базовой установкой для автопилота должно быть ожидание, что из за этого предмета вылетит хоть человек, хоть животное. Т.е. сбавляем скорость, до такой, на которой авто успеет затормозить перед внезапно возникшим препятствием, проезжаем препятствие, ускоряемся.

          • Maximuzzz
            /#18811033

            Вы перед каждым столбом предлагаете тормозить?

            • shaggyone
              /#18811085

              Перед каждым столбом, кустом, коробкой, сбитой лисой и ещё чем, стоящими на обочине авто и вообще всем, что на проезжей части и рядом с ней неожиданно появляется.

              Не понимаю, что в нормальных условиях может делать столб на разделительной полосе.

            • Areso
              /#18811845

              Между прочим, правила так и предписывают действовать, только не тормозить, а выбирать такую скорость, которая
              «Скорость должна обеспечивать водителю возможность постоянного контроля за движением транспортного средства для выполнения требований Правил
              При возникновении опасности для движения, которую водитель в состоянии обнаружить, он должен принять возможные меры к снижению скорости вплоть до остановки транспортного средства».
              п 10.1 ПДД РФ
              Т.е. в условиях ограниченной или недостаточной видимости, надо выбирать безопасную скорость движения, которая позволит вам контролировать ситуацию.

              • Maximuzzz
                /#18812165

                При возникновении опасности для движения, которую водитель в состоянии обнаружить

                Если водитель не предположил, что из-за куста может кто-то выскочить, то он так и поедет не снижая скорости. Что и сделал робомобиль. Это, конечно не корректная оценка обстановки зачастую приводящая к печальным последствиям и такого не должно быть ни в том ни в другом случае, но, к сожалению, случается.

                • Areso
                  /#18812411

                  У меня слабое зрение. Если я вижу что-то, а что это оценить не могу (и тем более не могу оценить скорость), я сбавляю скорость. Учитывая размеры (сопоставимо с лосем) все могло кончиться действительно плохо. И нет, она не из-за куста выпрыгнула (такое бывает, да, но тут совсем иной случай).

            • BigBeaver
              /#18812323

              Если обьект правда неопознан, то оттормозиться до 40 не грех — это лишь немного снизит комфорт езды, радикально снизив вероятные последствия.

        • Maximuzzz
          /#18811139

          Да, алгоритм — кривой ну или по крайней мере не идеальный. По видео и объяснениям мне показалось, что пешеход двигалась параллельно движению автомобиля (видимо в течении этих 5-6 секунд) и сменила направление в последний момент. Да, не кинулась в буквальном смысле, но для алгоритма это оказалось неожиданным событием. Человек, скорее всего, распознал бы пешехода на дороге и предположил, что тот может «выкинуть» что-то непредсказуемое раз уже идёт в странном месте дороги. Хотя… если посмотреть ночные записи с регистраторов.

      • JediPhilosopher
        /#18809805

        Вы же, когда управляете автомобилем, не тормозите перед каждым идущим по обочине пешеходом и не ждёте, что они кинутся вам под колёса

        Вообще-то жду. И если проезжая часть там достаточно узкая (т.е. он сможет сигануть мне под колеса за один шаг) то я даже скорость сброшу и ногу на педаль тормоза перенесу. Потому что придурков, шагающих не глядя на проезжую часть хватает.
        От автопилота разумно ожидать похожего поведения.

        • technic93
          /#18810151

          Согласен. Особенно если пьяный на обочине или дети.

      • GeekberryFinn
        /#18809883

        Вы же, когда управляете автомобилем, не тормозите перед каждым идущим по обочине пешеходом и не ждёте, что они кинутся вам под колёса

        Она не по обочине шла, а по разделительной полосе, тут даже дурак догадается, что она переходит дорогу.

        PS Если кто-то идёт рядом с нерегулируемым пешеходным переходом, то это тоже ситуация в которой стоит ожидать перехода дороги и нужно подъезжая сбросить скорость. Как и в случае когда рядом со школой стоит знак «осторожно дети!».

      • zerg59
        /#18810031

        Таких пешеходов, шарахающтхся в тёмное время суток по краю проезжей части на пригородных дорогах регулярно привозят уже не живыми в городской морг. Мне знакомый показывал видео со своего регистратора, где он просто чудом не сбил такого.

        • Popadanec
          /#18810141

          Ага в темной одежде без световозвращателей и ладно бы еще на обочине. Порой на пустынной трассе посреди дороги. Чем такой смертник думает перебегая дорогу, где машина проезжает раз в пять минут, решительно не понятно.

          • burzooom
            /#18810799

            машина проезжает раз в пять минут,

            что машина проезжает раз в 5 минут, что же тут нелогичного?

      • mikelavr
        /#18810597

        На третий день после получения прав, при обычной поездке по Москве, один такой пешеход просто упал с пешеходной дорожки на дорогу мне под колеса. Расстояние было приличное, я легко остановился. Но пешеход и не думал вставать! Упал он при причине отказа вестибулярного аппарата при интоксикации алкоголем.

      • shaggyone
        /#18811117

        Лично я, в норме, перед велосипедистами и пешеходами перестраиваюсь, либо притормаживаю и увеличиваю боковой интервал. Если вечером, пару раз подвозил, но сейчас подвожу только тех, кто явно голосует, по личному опыту, вдоль дороги вечером в основном, выпившие в неадеквате разной степени ходят.

  5. rexen
    /#18809447

    И? А если бы на месте велосипедистки была бы корова? В Финляндии вон «тысяча чертей, проклятые лоси...»

    Т.е. система полюбому требует какой-то доработки. Мало ли чего может выпереться на трассу посреди леса в любых метеоусловиях.

    • demimurych
      /#18809745 / +1

      Я когда то был в Грузии. Там этих коров, гуляющих вдоль и по дорогам ооочень много. А на обочине очень много сбитых коров. Особенно это заметно когда едешь ранним утром. Ехав около часа между двумя небольшими городами я насчитал 8 тел.
      Это я к тому, что грузинские водители прекрасно осведомлены о коровах, и имеют большой опыт взаимодействия с дорогой в таких условиях, что не мешает им регулярно их сбивать.

      • xztau
        /#18809945

        Если Вы считаете, что боулинг на дороге — это нормально, то подскажите мне, на какой машине ездите. Буду обходить Вас за километр.

        • demimurych
          /#18809967

          О нет, нет. Вы меня не так поняли. Я это скорее к тому, что есть люди, которые идеализируют других людей, наделяют их супер-способностями объезжать всех коров на дороге или велосипедисток, ощущающих себя ракетами.

          Я в том смысле, что изначальная попытка сравнивать ошибки людей и ошибки современных алгоритмов порочна. И вести диалог в ключе, существующая система автопилота ущербна — «вон видите человека сбила которого зафиксировала за 6 секунд до» не имеет под собой никаких оснований, в силу принципиальной разницы в том, кто и в какие внештатные ситуации попадает, и каким обладает способами их разрешения.

          И начинать подобные обсуждения нужно с формальной статистики накатаных километров к количеству ДТП.

  6. nathanael
    /#18809459

    Но из-за совокупности ряда факторов (темное время суток, темна одежда велосипедистки, переход ею дороги в неположенном месте и т.п.) программная платформа робомобиля никак не могла определиться с тем, что именно находится впереди. В конце концов компьютер сформировал «мнение», что впереди — неопределенное препятствие, которое можно игнорировать.
    Что очень смущает понимание алгоритмом термина «впереди», зачем он продолжает ехать на то, что впереди или 6 секунд недостаточно, чтобы затормозить или сменить траекторию?
    А вдруг там бы просто бочка нарисовалась посреди дороги или небольшое полено, просто знак аварии в конце концов.
    Если объект неподвижен, это же вроде не означает, что на него нужно ехать?

    • Ivanii
      /#18809533 / +2

      Миои догадки — человека с велосипедом из-за необычной формы, низкой скорости и недостатка освещенности система распознала как неподвижное препятствие на разделительной…

    • Maximuzzz
      /#18809705

      Заметка «кривая», в ранних сообщениях говорилось, что велосипедистка шла не прямо перед автомобилем, а по краю дорожного полотна и внезапно начала пересекать дорогу в результате чего пересекла траекторию движения авто. Робомобиль, не поняв, что это человек (или вообще живое существо) видимо решил, что спокойно минует «объект».

  7. tcapb1
    /#18809475 / +2

    Одно дело — оператор. Не отвлекаться от дороги — это его прямая обязанность. Но я не очень понимаю как можно включать автопилоты 2 и 3 уровня (автопилот большую часть ведёт автомобиль сам, но водителю нужно постоянно быть начеку на случай непредвиденных ситуаций) на коммерчески выпускаемых машинах.

    В этом случае водитель переключается в режим пассажира, и наблюдение за дорогой становится тяжёлой работой. Представьте себе, что вы за рулём, и едете по скоростной магистрали на скорости 130 км/ч. Вы отвлекаетесь от дороги? Вряд ли. А если вы стоите в пробке и машины перед вами еле ползут, а то и вообще стоят на месте. Отвлекаетесь? Думаю да. Мозгу становится скучно, и он начинает искать себе другое занятие. Даже если не смотреть сериалы можно задуматься, залюбоваться пейзажем, уснуть в конце концов.

    Т.е. с одной стороны мы провоцируем водителя быть менее внимательным, а с другой стороны в случае аварии говорим, что вся вина на водители, который не уследил за автопилотом.

    • shaggyone
      /#18810675

      Думаю, тут важно, сколько времени оператор уже была «за рулём». Помнится, человек может удерживать внимание в течении 2-х часов. После чего нужен перерыв в пару часов. Инфа, от военных, дескать, именно поэтому часовых на посту каждые 2 часа меняют.

      Вернее так, скорее всего оператор смотрела ТВ шоу в рабочее время не впервые. Т.е. вина руководства в том, что это дело вовремя не отследили и не пресекли. Но если руководство построило рабочий график оператора с нарушением эргономики, то, на мой взгляд, вина оператора уменьшается, а руководства увеличивается.

      • sashabeep
        /#18813299

        Зачем тогда у всего транспорта запас хода такой, если дольше 2 часов не рекомендуете ездить?

        • shaggyone
          /#18814271

          Тут я говорю только про оператора, который следит за системой и вмешивается, судя по всему, не каждую неделю. Водителю легче, он может ускориться и притормозить просто потому, что так захотелось. Может остановиться, в конце концов, его внимание требуется для того, чтобы принимать мелкие решения. Т.е. он решает не долго одну большую задачу, а много мелких.

          Даже по себе и супруге судить могу. Если куда то долго едем, то тот кто не за рулём к середине дороги обычно засыпает, и к концу пути устаёт больше, чем тот, кто за рулём был.

        • Areso
          /#18814317

          Чтобы иметь возможность приехать обратно, с дикого отдыха, с турбазы или из деревни Малые Пикуля.

    • burzooom
      /#18810811

      Кстати, все забывают, что раньше на дорогах как раз были именно такие автопилоты.
      Конные повозки с кучером. Выехал на дорогу между городами… и что дальше? лошадь идет себе, а кучер дремлет

      • Welran
        /#18810831

        Ну дык скорости поменьше были, да и интеллект «автопилота» и его способность определять движущиеся препятствия, имхо, были повыше чем у современных.

        • Areso
          /#18810913

          Когда-то давным давно читал среднеазиатскую книгу, там была следующая история:
          мужчина путешествовал с сыном где-то за городом, как водится, в качестве транспорта был осёл. И вот дошли они до дерева с раскидистой кроной и ослик сам остановился. Сын спросил отца, почему ослик встал. Отец ответил, что год назад он путешествовал этой же дорогой и сделал привал под этим деревом и ослик запомнил это место.
          А далее был случай с мальчиком, когда он попал в неловкую ситуацию, потому что ему дали поручение, касающиеся отца и третьего человека, а он забыл детали и не смог его выполнить. И автор как бы проводил параллель между ребенком и осликом.
          Жаль, не вспомню как называлась книга… я бы с удовольствием перечитал ее еще раз.

  8. agmt
    /#18809531 / +1

    6 секунд наблюдали крутые датчики, а когда мог заметить человек? Я на видео заметил за 0.5с, если не меньше.
    Да и при таких данных «велосипедистка мало того, что переходила дорогу в неположенном месте, на ее одежде и самом велосипеде начисто отсутствовали светоотражатели. Кроме того, в крови женщины обнаружены наркотические вещества» было бы грустно, если б признали водителя и uber виновными.

    • Ivanii
      /#18809545

      На мой взгляд оператор/водитель виноват в невыполнении своих прямых служебных обязанностей, Убер виновата в отсутствии контроля за персоналом, велосипедистка виновата в отсутствии светоотражающих элементов и нарушении ПДД…

      • agmt
        /#18809655

        Вероятно, если б автоматика запищала «Обнаружен неизвестный объект возле трассы» и начала б плавно тормозить до взятия управления человеком, было б лучше. Грубо говоря: а может ли человек несколько месяцев смотреть за скучной дорогой, чтобы однажды обнаружить проблему и затормозить? Да, работница нарушила трудовой режим, но где гарантии, что другие не нарушают (и главное, а может ли вообще человек работать в таком режиме?).

    • Taciturn
      /#18809577

      Запись крайне некачественная, на самом деле с освещением там всё Ok, человек бы нормально увидел и без светоотражателей.
      www.youtube.com/watch?v=CRW0q8i3u6E

      • dreesh
        /#18809787

        Вангую: Велосипедистка шла медленно, а машина ехала быстро и алгоритм решил, что препятствие не подвижно и не на пути движения.

  9. andreysmind
    /#18809557 / +1

    «Глупый» Mobileye начинает истерично пищать если ему кажется, что впереди человеческий силуэт.
    В данном автопилоте не предусмотрены звуковые сигналы?

    • Hardcoin
      /#18810179 / +1

      Езда по городу с ним, наверное, сплошное "удовольствие"?

      • nochkin
        /#18810631

        Если не ехать по тротуару, то он не мешает. Сенсор смотрит вперёд, а не по сторонам.

      • andreysmind
        /#18810747

        Да не, нормально. Он расчитывает скорость сближения, интенсивность писка зависит от скорости и потенциальной опасности. Ну и если перестраиваться без поворотников, но в этом случае он тише сигналит. Если ездить спокойно и соблюдать дистанцию он не мешает.

  10. agaruppa
    /#18809629

    Оператора делают крайней. Если кто-то делает самоуправляемый авто, встаёт вопрос кто должен нести ответственность. Производители нести ответственность не хотят, для этого и посадили человека. По этой же причине все самоуправляемые автомобил требуют держать руки на руле. То есть ненадежность по перекладывают на того кто это по в глаза не видел. Если начнут массовое производство авто без водителей, вопрос юридической ответственности встаёт на первое место. С хрена ли я должен платить страховку и нести ответственность за криворукого робота и его создателя?

    • tcapb1
      /#18809651

      Пока ещё не создано автопилотов 4 уровня, которые 100% (или 99.9999%) ситуаций смогут разруливать сами. Для того, чтобы такой автопилот рано или поздно появился и проводятся все эти испытания. Оператор отлично знала, что автомобиль не во всех случаях отреагирует как надо, но всё равно предпочла смотреть шоу вместо наблюдения за дорогой. Хотя я отлично понимаю как это сложно пялиться в одну точку ничего не делая.

    • DrPass
      /#18809687

      То есть ненадежность по перекладывают на того кто это по в глаза не видел.

      А много ли водителей видели в глаза софт своих обычных автомобилей? Автопилот пока что всего лишь вспомогательная система, никто этого не скрывает, и да, поэтому там должен быть живой человек, который следит за дорогой, имеет руль и педали и может забрать управление на себя. В этом нет ничего крамольного.

    • xztau
      /#18809963

      Если бы у оператора хотя бы «руки на руле» были, то да — спорим о крайности. Тут же оператор пялился в ТВ-шоу во время работы. Как бы неисполнение своих обязанностей.

      • Welran
        /#18810865

        Сдается мне что большинство операторов вели (и наверняка до сих пор ведут) себя точно так же. И тогда это вина убера раз не обеспечивает и не контролирует работу операторов.

  11. Spline
    /#18809789

    Стандартная проблема обученной нейросети — человек с велосипедом уже и не человек вовсе. То ли еще будет.

  12. muhaa
    /#18809847

    Мне кажется все оправдания Uber — это просто отговорки для отвлечения внимания от того факта, что автопилот не отработал корректно в простейшей ситуации в которой он мог и должен был отработать. Автопилот должен: 1.определять координаты, габариты и траекторию движения всех обьектов вокруг; 2.избегать столкновения с опасными объектами если траектории автомобиля и объектов пересекаются. Объект размером с женщину на траектории достоен экстренного торможения чем бы он ни был. Если автопилот не справляется с этой общей задачей всегда, то это не автопилот а русская рулетка. Хочется надеяться, что с этой задачей автопилот убер как раз справляется, но произошел некий простой сбой в котором пока не хотят признаться. Хуже если автопилот едет вслепую, не имея полной модели движения объектов вокруг.

  13. Slavik7
    /#18809875

    Может робомобилю просто стоило бы комментировать свои решения оператору, а в случае любых «неопределенных препятствий» и вовсе требовать внимания оператора?

  14. Arbane
    /#18809879

    Выскажу еще одну мысль. 70 км/час и 6 секунд реакции, это значит, что за 70 метров до препятствия автомобиль его видел, а раньше — нет. Это как очень густой туман, я в таком еду не 70 км/час. Если бы машина ехала 40/20 км в час было бы нормально. Но какие 20км в час на дороге? — спросите вы. Тогда ответ — машина должна выдеть обстановку дальше, чем на 60 метров для уверенной езды (должен на сотни метров), либо снижать скорость и отключать автопилот, чтобы человек рисковал сам.

    • black_semargl
      /#18810003

      6 секунд — это вполне достаточно, чтобы пересекающий дорогу человек пересёк полторы полосы.
      Т.е. до того возможно велосипедистка находилась вне дороги.

    • wataru
      /#18811501

      Откуда вы 70 метров взяли? 6 секунд на скорости 70 км/ч — это 70/3,6*6=116.7 метров. И 6 секунд — достаточное время, чтобы остановиться (торомозной путь на скорости 60км/ч на мокром асфальте — 92м. Тут скорость чуть больше, но зато погода хорошая).

      • Arbane
        /#18811819

        Видать был сонный. Вы правы — ~117 метров. А теперь представьте, что у вас на расстоянии 117 метров перед машиной стена — комфортно ездить? Я к тому, что машина должны была заранее (на максимальной видимости, доступной минимум глазу человека) видеть препятствие и анализировать его движение. Так как обычно делает водитель. Вряд-ли водитель посчитал бы женщину за столб, а был бы готов к внезапному изменению траектории, как мы бываем готовы, когда на шоссе стоит человек и явно хочет его перебежать в неположенном месте (и может он и бухой, и обкуренный, но надо быть готовым). Я поднимаю не сколько вопрос виновности, сколько вопрос общей недоработки автопилота. Он хорошо подходит и подходил (помните, как показывали площадки, где тестируют?) для небольших скоростей. В пробке: там где нудно. Но (сложную) трассу ему еще рано. Это мое мнение по автопилотам.

  15. EugeneButrik
    /#18810061

    По-моему этот случай вскрывает ещё одну серьёзную проблему, вдобавок к проблеме определения ответственного.
    Если рассмотреть ситуацию, например, с точки зрения однозначной вины «автопилота» (собственно алгоритма или разработчика этого алгоритма, не суть), то что это меняет для человека-оператора? На первый взгляд, конечно же, существенно всё меняет — человек не виновен в гибели другого человека. Но будет ли он чувствовать себя невиновным? Думаю, вряд ли.
    Полагаю, эта женщина до конца своих дней будет возвращаться к мысли о том, что было бы, если бы она держала руки на руле, а ноги на педалях? Или даже о том, что было бы, если бы она просто не смотрела это шоу.
    Скорее всего, в подобных ситуациях человек всегда будет спрашивать себя, а сделал ли он всё, чтобы предотвратить ошибку машины. вне зависимости от того, сколь совершенна бы эта машина не была.

    • Cast_iron
      /#18810105

      Ваша ошибка в мнении, что всех мучает совесть (за причинение вреда другому).
      В данном случае женщина — не совсем женщина (в прошлом мужчина) и не обычный человек (ранее судимый).

      • EugeneButrik
        /#18810165

        Ваша ошибка в мнении, что всех мучает совесть...
        А зачем «всех»? Я верю, что не всех, но многих. Этого уже достаточно для того, чтобы это считалось проблемой.
        В данном случае женщина — не совсем женщина (в прошлом мужчина) и не обычный человек (ранее судимый).
        Ну, это вообще не имеет никакого отношения к предмету разговора о «муках совести». Ничего не мешать ей/ему испытывать или наоборот не испытывать эти муки.

    • sets
      /#18810115 / +1

      Если бы этой женщине продали автомобиль и сказали, что он ездит сам, вы только адрес укажите, она может и была бы не виновной. А тут ее посадили контролировать недоработанную технику, которая может быть опасна для окружающих, если что-то пойдет не так. Что-то пошло. Весь смысл наличия там оператора, единственная причина, по которой она оказалась в салоне — не дать автопилоту совершить дтп. Разумеется, она виновна. Тот факт, что алгоритм и/или железо оказались говном этой ситуации не меняет.

      • EugeneButrik
        /#18810167

        Разумеется, она виновна.
        А я этого и не отрицал. Мне даже кажется, что вполне возможно, что и она этого не отрицает (ну, может быть не вслух). Об этом и был мой комментарий.

        • sets
          /#18810207

          Простите, я неправильно понял ваш комментарий.
          Но теперь совсем запутался — в чем же проблема? По крайней мере в данном случае.

          • EugeneButrik
            /#18810229

            Проблема в том, что в случае связки человек-машина, при различных трагических происшествиях машине в любом случае по фигу виновата она или нет, а человеку наоборот, в любом случае может быть не по фигу. И простое перекладывание ответственности на машину или её разработчика может не решить проблему и люди всё чаще не будут доверять машинам операции, которые могут привести к подобным трагическим последствиям.
            Для решения этой проблемы машина и её разработчики должны не просто взять ответственность на себя, а полностью забрать её у пользователя.

  16. Stas911
    /#18810091 / -1

    Виноват, как мне кажется, скорее Убер — ну как можно предполагать, что оператор, который почти нефига не делает весь день, будет сохранять концентрацию и внимание? Нужны какие-то меры контроля, нужно его чем-то занимать все время (хоть ту же статистику собирать вручную, да что угодно, лишь бы занять его чем-то)

    • technic93
      /#18810161

      Ну эти операторы там на самом деле сидят для того чтобы уберу было легче потом избежать правовых последствий. Я не думаю что кто то ожидает от них полного внимания. Я предполагаю что набирали туда людей тоже без разбора и на маленькую зарплату.

  17. VMichael
    /#18810139 / +1

    Да, комплекс несколько странно среагировал на проблему,

    Замечательная фраза. Адвокатская такая.

  18. Alcpp
    /#18810259

    Система не смогла распознать человека с велосипедом.

    Но виноватым делают стрелочника, который предпринял бы действие на 0,5 секунды быстрее, если бы смотрел на дорогу.

    А если бы за секунду до этого взглянул на экран смартфона, то результат все-равно был таким же из-за перепада яркости.

  19. ankh1989
    /#18810403

    Ага, то есть они теперь пытаюсь спихнуть вину на некую Васкез. Очень круто. Сколько они там ей платили, кстати? 15 в час? Судя по всему дело было так. Убер наговнокодил нейросеть которая более-менее распознаёт человеков на дороге: то есть камера смотрит на дорогу, а нейросеть выдаёт число от -1 до +1, где -1 это «точно не человек» а +1 это «точно человек». Как обычно, нейросеть выдаёт в основном пограничные значения, скажем 0.6: такое значение может выдать картинка велосипедиста или картинка дерева. Проблема известная. Сроки как обычно поджимали, хотелось выйти на рынок как можно быстрее, и Убер выпустил на дороги недопиленную версию. Чтобы избежать проблем с законом в случае аварии, а также сохранить репутацию, в машину посадили стрелочника за смешные деньги. Уберу ничего не стоило посадить туда двух водителей по ставке $1000 в час, чтобы они были ппц как внимательны, но Убер этого не сделал — хотелось как обычно сэкономить на булавках. Ну а «в крови женщины обнаружены наркотические вещества» — совсем дешевая лажа (простите за выражение, но других слов у меня нет) потому что если Убер нанимает условных прокуренных уборщиц за минимальную ставку следить за машиной которая может сбить кого то (при этом зная, что софт недопилен), то виноват тут только Убер. Это как если бы самолёт во время приземления въехал в терминал и убил несколько пассажиров, а компания-владелец самолёта начала плести лапшу на тему «ну… пилот смотрел нетфликс в этот момент и вообще был под веществами и вообщем он во всём виноват» то летать бортами этой компании лучше не надо — у них там серьёзные проблемы с набором персонала и махровая экономия на безопасности.

    • littorio
      /#18810687

      Всё верно, но "ничего не стоило" и "экономия на булавках" у меня вызывают сомнения. Сколько там этих машин ездит, по $1000 в час не наплатишься. Тем более, масштабы роботизации наверняка предполагались гигантские.

      • ankh1989
        /#18810749

        На тестировании на дорогах можно было и не экономить. Пусть будет 100 в час (это нехилая ставка даже для продвинутого спеца) и пусть будет два водителя: то есть один может управлять, а у второго есть педаль тормоза. Пусть они чередуются в смотрении. И добавим ещё датчик внимания по типу грузовиков. Итого: 250 в час, пусть даже 24 часа в день, 6 месяцев = 1 миллион за одну машину. Пусть таких машин будет сто. Итого: 100 миллионов. Это крохи для компании которая ворочает миллиардами. Почему это не было сделано? Потому что жадное руководство сделало эти рассчёты и решило, что 100 миллионов в виде бонуса гораздо приятнее чем абстрактная безопасность.

        • zxweed
          /#18810947

          вообще-то, убер убыточная компания с самого своего основания и экономить на спичках — это всё, что они могут сделать

          • ankh1989
            /#18813679

            Говорят, что в Убер уже вложили больше 10 млрд, а оценка всей компании превышает 50 млрд. Убер — одна из немногих компаний которая может предложить больше Гугла. так что 100 млн это лишь 1% от того, что им уже дали.

    • Welran
      /#18810877

      Наркотические вещества нашли у женщины с велосипедом, а не у оператора. А так да убер просто нанимает стрелочников за гроши. Вряд ли 15, а раза в два меньше (минималку). А так могли бы контролировать работу вплоть до того что бы заставить оператора считать сколько людей было на обочине. И платить им нормально.

      • iproger
        /#18813001

        Сейчас минималка в Аризоне 10/час. Скорее всего, именно 15 и платили.

      • ankh1989
        /#18813691

        Упустил этот момент. Впрочем и тут Убер слажал: олени вон на дорогах можно сказать, что под веществами 24 часа в сутки — им ничего не стоит перебежать дорогу в любое время когда им удобно. Надо полагать, что если автопилот Убера въедет на полной скорости в оленя то виноват будет олень который не соблюдал правила.

  20. 3aicheg
    /#18810605

    Надо оператору робомобиля виртуальное ружьишко давать. Выскакивает кто-то на дорогу перед робомобилем — бздыщ из ружья. В конце смены — премия по результатам подсчёта фрагов. Вот и не будут отвлекаться.

  21. Nick_Shl
    /#18810629

    Интересно, как они собираются использовать "радар… и лидар", когда на дороге будет не один автономный автомобиль(и ни одного подобного вокруг), а десятки.

    • littorio
      /#18810685

      Летучие мыши же как-то справляются.

  22. RomanPokrovskij
    /#18810935

    Может кто-то прочел больше чем эта статья (спасибо автору) и может объяснить зачем вообще Uber'у свой автопилот? У них бизнес модель такая что они последние перейдут на роботакси (бабушки себе студентов заказывать будут до последнего, а студенты будут последние кто купит новую машину с автопилотом) и если перейдут это будет совсем другой бизнес.

    Теперь взяли и подставили свой доход под удар. Голова не знает что делает хвост… Или это такой панический страх? А и подсознательное: «насбивать побольше — нарождающуюся индустрию заторомозить»…

  23. Lexxnech
    /#18811371

    Виноват Убер, целиком и полностью. Причем не в багах автопилота а в полном пофигизме при организации тестирования опасной технологии.
    С самого начала нужно было не набирать кого попало с водительскими правами и сажать в автомобили с инструкцией «вы уж там, пожалуйста, следите за дорогой» а разрабатывать систему, при которой оператор (а лучше два) будет действительно все время следить за работой автопилота. Что бы любая ошибка автопилота была им замечена. Причем не только те ошибки которые привели к аварии, а желательно все. Например автопилот «не заметил» знак ограничения скорости, но правила не нарушил, потому что поток двигался медленно, такие ошибки тоже должны отслеживатся. И с самого начала нельзя давать оператору возможность забивать на свою работу, это должно быть заложено в архитектуру тестирования.
    Но дешевле, разумеется, набрать людей по объявлению и надеятся что пронесет.

  24. Tachyon
    /#18811541

    Какая то странная формулировка- Незначительное препятствие, можно игнорировать. По моему на первых этапах развития автономных автомобилей почти любое препятствие- важное.

    Случись это всё в России, сейчас бы депутаны запрещали шоу «Голос»…

  25. Gokudera
    /#18812243

    По моему на первых этапах развития автономных автомобилей вахно понимать что это ассистент водителю.
    Имхо вина полностью «Оператора робомобиля». Система очень не совершенна и для этого его туда и посадили. Вы же не будете гаишникам доказывать что это навигатор сказал повернуть на лево где это запрещено, что случается довольно таки часто!? (Это не повод вставлять палки в колеса разработчикам навигаторов)
    А вот для того что-бы понять степень вины водителя есть следственный эксперимент. Достаточно при тех же условиях определить за какое время до столкновения водитель мог увидеть пешехода. И что-то мне сдается в данной ситуации могло обойтись даже без резкого торможения.

    • Areso
      /#18812539

      И некоторые «блондинки» именно это и говорят. Одна такая даже будку ГИБДД снесла.

    • ankh1989
      /#18813935

      Такое объяснение не катит потому что водитель этот ничего не понимает в том как работает автопилот. Если бы за рулём сидел ML Research Scientist, он бы руль вообще из рук не выпускал, потому что знает как эти нейросети работают, точнее не работают.

  26. 14th
    /#18813175

    И сказано напрашивается Рафик пешеход был неуиноват хоть и переходил в темноте, в темной одежде в неположенном месте.

    Вообще-то ответственность несут все участники движения, а не только те, кто на автомобилях.

  27. bobermai
    /#18813227

    Прошлым летом немного побыл в состоянии, близком к этим операторам — брал в Европе в прокате машину с активным круиз-контролем (поддержание скорости + контроль дистанции до впередиидущей машины) и системой удержания на полосе. Несмотря на то, что проехать за один день надо было километров 700 — поигрался с этой системой минут 10 и выключил, далее включал только круиз. Оно действительно неплохо удерживается на полосе (только немного покачивает в поворотах), но возможности до конца не понятны, и на поддержание нужной концентрации уходит куда больше сил, чем на обычное вождение.

  28. serafims
    /#18813235

    В принципе, требование регулярно голосом сообщать дорожную обстановку в черный ящик «скорость 70, слева никого, справа кусты, дорога прямая, виден впереди автобус» и контролировать это — показания спидометра можно считать, контроль зеркал — по движению глаз, упростило бы такие случаи… Также, как и с вариантом, когда человек купил себе робомашину. По идее, он мог мы некими маркерами ее даже обучать: машина сомневается, впереди ремонт дороги или мусор, и спрашивает, как поступить, или считывает управление водителем в данной ситуации.

    • Areso
      /#18813271

      Тогда отпадает вариант продажи авто людям без прав. В ПДД далеко не все вещи очевидны. Или можно продавать, но без вот этой вот обучающейся штуки от водителя, потому что водителя нет, есть пассажир.

  29. Wizard_of_light
    /#18814035

    Чем дальше в лес, тем больше душераздирающих подробностей. Дважды судимый 44-летний трансгендер испытывает для транснациональной корпорации экспериментальный робомобиль, но, засмотревшись на телешоу, не успевает исправить ошибку автоматики…
    Мы живём в чёртовом фантастическом фильме категории Б.