Почему всё же стоит бояться роботов-убийц: ответное мнение +16

Летальное автономное оружие — это не научная фантастика; это реальная угроза безопасности людей, которую необходимо остановить уже сейчас





Недавняя статья Пола Шарра "Почему не стоит бояться роботов-убийц" отвергает серьёзность короткометражного видеофильма, снятого Институтом будущего жизни, с которым связаны авторы данной статьи, под предлогом того, что это всего лишь «пропаганда». Шарр — эксперт по военным делам, он вносит важный вклад в обсуждение проблемы автономного оружия. Но в данном случае мы, при всём уважении, вынуждены с ним не согласиться.

Почему мы сняли это видео


Над проблемой автономных вооружений мы работаем уже несколько лет. Мы представляли своё мнение перед ООН в Женеве и на Международном экономическом форуме; мы писали открытое письмо, подписанное 3700 исследователями в области искусственного интеллекта (ИИ) и роботехники и 20000 других людей, которое было освещено более чем в 2000 статьях в СМИ; один из нас (Рассел) составил письмо от имено 40 ведущих исследователей ИИ к президенту Обаме и возглавлял делегацию, принятую в Белом Доме в 2016 году с целью обсуждения этого вопроса с чиновниками из министерства обороны и членами Совета национальной безопасности; мы представляли наши доклады перед различными отделениями вооружённых сил США и перед аналитиками; и мы обсуждали эту проблему на многочисленных собраниях и академических форумах по всему миру.

Наша основная мысль была неизменной: автономное оружие, не требующее надзора со стороны человека, потенциально может быть масштабировано до оружия массового поражения (ОМП); по сути большое количество единиц такого оружия может быть запущено небольшим количеством людей. Это неизбежное логическое следствие автономности. В результате можно ожидать, что автономное оружие уменьшит безопасность людей на личном, местном, государственном и международном уровнях.

Несмотря на это, мы наблюдали, как высокопоставленные официальные лица отметают риски на том основании, что их «эксперты» не верят в реальность появления «Skynet». Skynet — это, конечно же, вымышленная система управления в фильмах серии «Терминатор», восставшая против людей. Риск появления «Skynet» никак не связан с риском использования людьми автономного оружия в качестве ОМП или с любыми другими рисками, упоминаемыми нами и Шарром. Но ситуация показала, что, к сожалению, серьёзных дискуссий и научных аргументов недостаточно для того, чтобы донести нужное сообщение. Если даже высокопоставленные чиновники из министерства обороны, отвечающие за программы разработки автономного оружия, не способны понять основные проблемы, мы не можем ожидать от обычных людей и выбранных ими представителей принятия подходящих решений.

Основная причина, по которой мы сделали это видео — дать чёткую и понятную иллюстрацию того, что мы имеем в виду. Вторая причина — дать людям чёткое ощущение типа технологий и понятия автономности, которое мы имеем в виду. Это не научная фантастика — автономное оружие не обязано быть гуманоидным, иметь собственное сознание и злые намерения; а до подобных его возможностей остались вовсе не «десятилетия», как заявляли представители некоторых стран в Женеве. Наконец, мы держим в памяти прецедент с художественным телефильмом компании ABC "На следующий день" (The Day After) 1983 года, который, показав влияние ядерной войны на людей и их семьи, оказал непосредственное влияние на государственную и международную политику.

В чём мы соглашаемся


Шарр соглашается с зарождением реальных технологий; он пишет: «И хотя пока ещё никто не совмещал эти технологии, как показано в кино, все компоненты уже реальны». Он заключает, что террористическая группа сможет собрать автономное оружие, независимо от того, будет контролироваться изготовление такого оружия международными соглашениями, или не будет. На небольшом масштабе это, вероятно, так; но на таких масштабах для террористов нет никаких преимуществ в использовании автономного оружия. И это почти наверняка не так на крупном масштабе — очень маловероятно, что террористы смогут разработать и произвести тысячи эффективно работающих единиц автономного оружия без того, чтобы их не обнаружили — особенно, если производители дронов и прочих предшествующих компонентов будут сотрудничать согласно достигнутой договорённости, как это и происходит, например, с Конвенцией о запрещении химического оружия.

Мы сходимся во мнениях с Шарром по поводу важности принятия встречных мер, хотя и отмечаем, что запрет на разработку летального автономного оружия однозначно не помешает разработке оружия, направленного на уничтожение дронов.

Наконец, мы соглашаемся с Шарром в том, что ставки в этом вопросе высоки. Он пишет: «Автономное оружие поднимает важные вопросы о подчинении законам войны, о риске и контролируемости, и о моральной роли людей в военных действиях. Это важные проблемы, достойные серьёзного обсуждения». Однако странно, что он не считает вопрос ОМП достойным серьёзного обсуждения.



Создатели фильма “Slaughterbots” считают, что автономные летальные микродроны будет дёшево производить и за каждым из них не должен будет следить человек; таким образом, они потенциально являются масштабируемым ОМП.

В чём мы не согласны


Шарр приписывает нам четыре заявления и затем пытается их опровергнуть. Чтобы упростить обсуждение, мы опровергнем эти четыре заявления, чтобы получить четыре утверждения, сделанные Шарром в его статье (точную формулировку этих утверждений мы обсудили в переписке с Шарром):

1. Шарр: Маловероятно, что правительства запустят массовое производство летальных микродронов в качестве оружия массового поражения.


Тогда можно спросить: «А почему бы их не запретить?» До того, как присоединиться к Конвенции о запрещении химического оружия в 1997 году, сильнейшие страны планеты массово производили летальное химическое оружие, куда входили различные типы нервно-паралитического газа, в качестве его использования как ОМП. После их запрета склады были уничтожены, а массовое производство — остановлено. Запрет летальных автономных микродронов сделает незаконным их производство и использование в качестве ОМП, что сильно уменьшит вероятность того, что террористы и другие люди смогут получить доступ к большому количеству единиц эффективного вооружения.

Есть основания полагать, что это заявление не соответствует действительности. К примеру, такие летальные микродроны, как Switchblade компании AeroVironment, уже массово производятся. Switchblade, дрон с размахом фиксированных крыльев в 60 см, задуман как оружие, поражающее личный состав [дрон-камикадзе, врезающийся в цель и детонирующий несомую им взрывчатку / прим. перев.]. В противоположность заявлению Шарра, их легко можно переделать на убийство гражданских лиц вместо солдат. Более того, Switchblade уже поставляется с устройством запуска нескольких единиц. Компания Orbital ATK, производящая боеголовки, описывает Switchblade как «полностью масштабируемый» проект.

Switchblade не полностью автономен, ему требуется радиосвязь; программа министерства обороны CODE (Collaborative Operations in Denied Environments — совместные операции в недружественном окружении) ставит своей целью перейти к автономности дронов, позволяя им работать в условиях прерывающейся связи; они будут «охотится стаями, как волки», как говорит управляющий программы. Более того, в 2016 году ВВС успешно продемонстрировала боевое развёртывание 103-х микродронов Perdix с истребителей F/A-18. Согласно анонсу, «Perdix не являются заранее запрограммированными единицами с общей синхронизацией; они действуют, как совместный организм, и вместе используют распределённый мозг для принятия решений и адаптации, как любой природный рой». И хотя дроны Perdix не оснащены оружием, сложно понять необходимость в 103-х дронах, действующих тесной группой, если их предназначение — простая разведка.

Под давлением гонки вооружений можно ожидать, что такое оружие будет и далее подвергаться миниатюризации и производится в больших количествах по гораздо меньшей стоимости. После ввода автономности один оператор сможет развёртывать тысячи дронов Switchblade или других летальных микродронов, вместо того, чтобы управлять полётом единственного дрона к его цели. В этот момент количество производимых дронов значительно возрастёт.

В крупных войнах XX века погибло более 50 млн гражданских лиц. Этот ужасающий рекорд говорит о том, что в вооружённом конфликте государства не воздерживаются от крупномасштабных атак. Масштабируемые автономные вооружения в роли ОМП имеют преимущества для победителя по сравнению с ядерным оружием и ковровыми бомбардировками: они оставляют имущество неповреждённым, и их можно избирательно применять к тем, кто способен нести угрозу оккупантам. Наконец, если использование ядерного оружия представляет собой катастрофический порог, который мы с 1945 года умудряемся не перейти, такого порога нет для масштабируемых автономных вооружений. Атаки могут плавно увеличивать количество пострадавших с 100 до 1000, 10 000 и 100 000.

2. Шарр: государства, скорее всего, разработают эффективные контрмеры для микродронов, особенно если те превратятся в серьёзную угрозу.


Хотя в статье Шарр приписывает нам заявление, согласно которому «против летальных микродронов не существует эффективной защиты», он в итоге признаёт, что на сегодня это действительно так. Он склоняется к тому, что ситуация, показанная на видео, где доступно оружие массового производства, действующее против людей, но против него нет никакой эффективной защиты, не может наступить, или может стать лишь временным дисбалансом.

В качестве доказательств Шарр цитирует статью из New York Times. Статья не внушает уверенность: она описывает проблему летальных микродронов, как «одну из самых неприятных загадок для Пентагона из области противодействия терроризму». Результаты эксперимента минобороны "Hard Kill Challenge", который должен был решить, «какие из новых секретных технологий и тактик являются наиболее многообещающими» она описывает, как «определённо смешанные». Программа Hard Kill Challenge — наследник программы Black Dart, в рамках которой с 2002-го проводились ежегодные соревнования. После более чем 15 лет работы мы так и не получили эффективных средств защиты.

Шарр утверждает, что летальные автономные микродроны «можно победить чем-то настолько простым, как проволочная сетка», возможно, представляя себе, как такой сеткой покрывают целые города. Если бы это была рабочая форма защиты, тогда не было бы никакого Hard Kill Challenge; дроны Switchblade были бы бесполезны; иракские солдаты не погибали бы от атак летальных микродронов.

Шарр верно отмечает, что на видео показано, как более крупные дроны пробивают стены, но он, очевидно, не смог заметить, что семейный дом на видео окутан стальной решёткой — как и части университетского общежития, на которых укреплены знаки «безопасная зона», указывающие студентам на возможность спастись от атаки. Шарр заявляет, что соотношение стоимости атаки и защиты играет в пользу защищающегося, но это вряд ли так, если кому-то нужно быть защищённым на 100% в течение 100% времени против атак, которые могут начаться откуда угодно. Когда оружие обладает интеллектом, достаточно одной дырки в защитном панцире. И добавление большего числа защитных оболочек мало что меняет.



Более того, оружие получается дешёвым и одноразовым, как правильно указывает Шарр в недавнем интервью: «Суть не только в том, чтобы атаковать эти дроны. Нужно найти способ делать это эффективно с точки зрения расходов. Если вы будете сбивать дрон стоимостью в $1000 ракетой стоимостью в $1 млн, вы будете проигрывать после каждого раза». Мы согласны. Это не похоже на соотношение цены защиты и нападения, играющего в пользу защищающегося.

Что касается того, можем ли мы быть полностью уверены в возможностях правительства или оборонных компаний разработать за короткое время дешёвые, эффективные, широкомасштабные средства защиты против летальных микродронов: нам это напоминает историю британских жителей в самом начале Второй Мировой. Можно было бы ожидать, что если у кого и была мотивация к разработке эффективных средств защиты, так это у британцев во время Лондонского блица. Но, к окончанию Блица, после 40 000 вылетов против основных городов, контрмеры оказались эффективными не более, чем на 1,5% — даже меньше, чем в начале, за 9 месяцев до этого.

3. Шарр: правительства способны не дать большому количеству оружия армейского качества попасть в руки террористов.


Согласно Шарру, на видео показано, как «дроны-убийцы, попавшие в руки террористов, устраивают резню невинных людей». На самом деле, как старательно пытается объяснить видео, злоумышленниками может быть кто угодно, не обязательно террористы. В будущем после атак при помощи автономного оружия злоумышленник часто будет оставаться невыясненным, из-за чего эти атаки будут оставаться безнаказанными. Именно по этой причине правительства всего мира чрезвычайно озабочены проблемой убийства при помощи автономного оружия. В фильме наиболее вероятными подозреваемыми служат люди, «вовлечённые в коррупцию на высочайших уровнях», то есть, люди со значительным экономическим и политическим влиянием.

Шарр пишет: «сегодня мы не даём террористам ручные гранаты, противотанковые ружья или пулемёты». Может, и нет — кроме тех случаев, когда террористов до этого называли «борцами за свободу» — однако на рынке нет недостатка в эффективном оружии. К примеру, в обороте находится от 75 до 100 млн АК-47, и большая их часть находится вне контроля государств. Только за два года нападения на Ирак там «потерялось» около 110 000 автоматов AK-47 [под таким названием в США известны все варианты автомата Калашникова и подобного ему оружия / прим. перев.].

Если летальные автономные микродроны будут изготавливать крупные производители, то они, скорее всего, будут стоить меньше, чем АК-47. И они будут гораздо дешевле в использовании: к ним не нужно будет приставлять человека, которого необходимо кормить, содержать, тренировать, оборудовать и перевозить на место применения силы. Бюджет ИГИЛ [запрещённой в РФ террористической организации] на 2015 год оценивался в $2 млрд — этого было бы достаточно для покупки миллионов единиц оружия на чёрном рынке.



4. Шарр: Террористы неспособны запускать одновременные координированные атаки на масштабах, показанных в видео.


Как отмечено выше, атаки в фильме, проведённые против нескольких университетов, организовывали не террористы, а неназванные личности на высоких должностях. Мы думали о том, чтобы показать массовую атаку на город в рамках военной компании, но решили, что обвинять какую-то конкретную страну в будущих военных преступлениях было бы неблагоприятно с точки зрения дипломатии. Неважно, кто захочет провести массовые атаки при помощи автономного оружия — их задача оказалась бы гораздо более сложной, если бы производителям оружия официально запретили его делать.

Также важно понять, что автономное оружие даёт негосударственным силам возможность проводить масштабные атаки. Координация атак в разных местоположениях не ухудшается, а масштаб каждой отдельной атаки может сильно увеличиться. Отметим, что Шарр в этом вопросе неправильно истолковал видео. Он увидел, как из фургона вылетает порядка 50 дронов, при том, что большая часть крупных дронов служит лишь переносчиками множества мелких летальных микродронов небольшого диапазона действия, которые автоматически развёртываются на последней стадии атаки. На один университет достаточно одного фургона, поэтому в фильме подразумевается координация атак в 12 местах — это не особенно сильно отличается от координации атак в 10 местах, описанной, как вполне возможная, в цитируемой Шарром статье.

И если государство в принципе способно выполнять атаки при помощи тысяч танков или самолётов (управляемых дистанционно или как-то ещё) или же десятков тысяч солдат, такие масштабы для негосударственных сил достижимы только при использовании автономных вооружений. Поэтому гонка вооружений в этой области сдвигает возможности от государств — которые по большей части ограничены международными соглашениями, торговыми зависимостями, и проч. — к негосударственным силам, таких ограничений не имеющим.

Возможно, именно на это обращает внимание Шарр в процитированном ранее интервью, когда говорит: «Мы, скорее всего, увидим больше атак более крупных масштабов, потенциально даже более крупных, чем эта, и на различных театрах действий — в воздухе, на земле и на море».

В целом мы, как и многие другие эксперты, продолжаем считать возможным, что автономное оружие может стать масштабируемым оружием массового поражения. Заявления Шарра, что запрет будет неэффективен или контрпродуктивен, не соответствуют историческим данным. И, наконец, идея, что человеческая безопасность будет увеличиваться в отсутствии регулирования гонки вооружений в области автономного оружия, является, в лучшем случае, выдачей желаемого за действительное.

Стюарт Рассел — профессор информатики в Калифорнийском университете в Беркли, соавтор учебника “Artificial Intelligence: a Modern Approach” [Современный подход к ИИ]

Энтони Эгуайр — профессор физики в Калифорнийском университете в Санта-Круз, сооснователь Института будущего жизни.

Эриель Конн занимается связями со СМИ и общественностью в Институте будущего жизни.

Макс Тегмарк — профессор физики в Массачусетском технологическом институте, сооснователь Института будущего жизни, автор книги “Life 3.0: Being Human in the Age of Artificial Intelligence” [Жизнь 3.0: быть человеком в эпоху ИИ]

Вы можете помочь и перевести немного средств на развитие сайта



Комментарии (85):

  1. remzalp
    /#10617749

    Пора разрабатывать ЭМИ гранаты для самозащиты от роботов. Наработок kreosan маловато

    • vassabi
      /#10617773

      вы же понимаете, что любая защитная технология, если она слишком сильная и\или используется самоубийцами — становится наступательной? (и как это ни парадоксально — слишком сильная наступательная — «уравнивая шансы», становится вариантом оборонительной)

      Будет сильная ЭМИ граната — тогда пара камикадзе прилетит с такими же на борту. А после того как они сожгут вам все гаджеты и электронику, прилетит рой с обычными ВВ.

      • Zenitchik
        /#10619381

        А после того как они сожгут вам все гаджеты и электронику

        И как это скажется на нашей способности применить ЭМИ-гранаты?

        • prospero78su
          /#10620105

          Ваши ЭМИ гранаты просто не будут работать.
          А ВВ в форме литого тротила +тысяча насечённых осколков сделают из вас фарш.
          А теперь разрешите вам представить: металлические экраны и инерциальные системы — великолепная защита от ЭМИ помех и свобода от GPS на последних километрах полёта.

          • Zenitchik
            /#10620919

            Ваши ЭМИ гранаты просто не будут работать.

            Это почему же вдруг?
            металлические экраны

            Умещаются только в достаточно крупного робота.

    • Sadler
      /#10617779

      Если дроны будут нести бомбы с детонаторами, срабатывающими при пропадании управляющего сигнала, то в случае ЭМИ-импульса они просто рухнут и взорвутся, что в условиях спецоперации в городе неминуемо приведёт к большому числу жертв.

      • Zenitchik
        /#10619385

        То они будут взорваны в воздухе постановщиком помех.

        • Sadler
          /#10619805

          Да, так и будет, но теракт в результате всё-таки будет совершён, т.к. задержка детонации заставит рой упасть на улицы города и взорваться, а проконтролировать это Вы никак не сможете.

          • Zenitchik
            /#10620921

            Т.е. задержка — механическая? Или пиротехническая? А в массу уложимся?

            • Victor_koly
              /#10620983 / +1

              Построим в дроне лезерную указку, которая не сразу будет накачиваться до такой мощности, что быстро нагреет порох до температуры зажигания.
              А если у дрона 4 пропелеллера в форме ромба — построим сразу в них плечи интерферометра Майкельсона. Будет лишняя 1 нс задержки на каждом проходе в «конец плеча» и в центр (где BS скажем).

              • Zenitchik
                /#10621025

                Устройство задержки на фотонике? Интересная идея!

                • Victor_koly
                  /#10621365

                  Я не силен в конкретных схемах накачки, но это все же не фотоника. Или сделать все наоборот, но тогда не выйдет создать «точный таймер».
                  Объясняю новую идею. Есть определенная полупроводниковая штука, она неплохо работает при температуре 250 K. Заливаем жидкий азот, она генерит узкий спектр (в смысле частоты) и узкий пучек (характеризуется попеерчным волновым вектором). Значит требуется организовать утечку азота из охлаждающей системы и сделать так, что бы простейший фотоэлемент реагировал на расширение пучка и повышение частоты излучения. Условно говоря — фотоэлемент в виде кольца, которое реагирует только на фотоны энергией от 3.1 эВ, а при тепературе 250 К этот «лазер» и светит на кольцо лишь очень малой долей мощности и по энергии излучение только до 3.05 эВ дотягивает.

                  • Zenitchik
                    /#10621609

                    Нам нужен не точный, а энергонезависимый таймер. Точности до полусекунды более чем достаточно, главное чтобы он продолжил работать при прекращении питания.

                    • Victor_koly
                      /#10621785

                      Энергонезависимый таймер — питается от небольшого кол-ва цезия-135.
                      Хотя нет, лучше плутония-242. Берется источник радиации, делается на его основе аналог МГД-генератора, только на «однополярном токе». От цезия будут электроны, а в случае плутония — альфа-частицы («положительный ток»).

                      • Zenitchik
                        /#10621869

                        А масса? Может тогда лучше пиротехнический замедлитель?

                        • Victor_koly
                          /#10621983

                          Да так, фантастика это все. 135 грамм цезия-135 выпускают порядка 8.3 триллиона электронов в секунду (делил на период полураспада). Какая энергия — не знаю.
                          Энергонезависимый таймер — экранированная от ЭМ излучения обыкновенная батарейка от мобилки (1 А*час). Запитываем кварцевый генератор (как в процессоре) и пускай считает время до взрыва.
                          Да, против мощного ЭМИ спасет только толстая многослойная защита. Но все равно возникает противостояние типа «Как сбить русским ракету, несущую ТЯ бомбу в 9 Мт, не запустив по ней 9000 ракет с химическим зарядом по 1 кт?».

    • barnes
      /#10617893

      Насчет гранат не знаю, а для мин калибра 88мм емнип взрывомагнитные генераторы уже есть не один год.

    • yvm
      /#10619245

      Пока нет гранаты, можно носить с собой теннисную ракетку.

      • ToshiruWang
        /#10620731

        Будут выходить из машины не с битами, а с мухобойками.

  2. vassabi
    /#10617763

    ОК, по аналогии с химическим оружием, наверно имеет смысл запретить государствам массовое производство дронов-камикадзе ниже определенного порога веса.
    Однако, также нужно продолжать думать над защитой от этого вида оружия, потому что оно скорее появится, чем нет…

    • cheburen
      /#10619991

      "дрон камикадзе" может быть любого веса, от коптера размером и весом с пачку сигарет и вооруженный иглой с ядом, до многотонной самоходной бомбы (машина с автопилотом настроенным на "доехать до детского сада и открыть двери" а к дверям прикрепляем детонатор от того что в кузовке) в руках умелого диверсанта современные технологии творят страх и ужас не за дорого и весьма эффективно.

    • darthmaul
      /#10621061

      Их можно в гараже лепить, из деталей купленных на алиекспрессе. Запреты помогают только для ограничения сложных производственных циклов (вроде ЯО). То же хим оружие имеет каждый второй диктатор, благо производить простое ОВ не так и сложно.

  3. MAXInator
    /#10617795

    В очередной раз модифицировали способы причинения демократии и принуждения к миру. Так и что, «почему всё же стоит бояться роботов-убийц»? Ну, кроме очевидного «они могут вас убить»? Такой громкий заголовок и такая пустая статья.

    • serginfo2009
      /#10618665

      По-моему, наличие у чего-то возможности тебя убить уже само по себе является веским основанием для того, чтобы этого как минимум опасаться.

      • FransisJasper
        /#10618867

        Такая возможность есть у почти любой вещи.

        • serginfo2009
          /#10619347

          Но не любая вещь способна произвести массированную атаку в автономном режиме.

      • MAXInator
        /#10618903

        Не вижу панических статей «Почему стоит бояться штурмовых винтовок-убийц» и «Почему стоит бояться оголенных проводов-убийц».

        Недоумеваю, короче.
        image

        • u010602
          /#10619739

          Потому что, в формуле человек убивает человека ружьем — скорость убийства ограничена временем нацеливания и поиска жизни, а ущерб ограничен патронами, которые он может носить с собой. И если не брать подрывы небоскребов и других плотных скоплений людей, то число жертв редко добирается даже до сотни, а обычно ограничивается парой десятков людей.

          А в случае автономных массовых технических средств, подверженных взлому и способных к кооперации через беспроводные средства, теоретически один человек может убивать очень много людей и сразу, и ограничиваться это будет, только количеством автономных дронов. Потому и называют — оружие МАССОВОГО поражения.
          К другим видам ОМП относятся: системы залпового огня, в том числе реактивные огнеметы, ядерное оружие, газы и вирусы. Купить ни чего из этого в «ближайшем военторге» совершенно не возможно, и террористы действуют обычными видами вооружения.

          Например если амазон сделает свою доставку летающими дронами, а потом и другие сделают, и пиццы и хот доги будут возить дроны разного размера, и они будут прямо у нас над головами. Что если их всех одновременно хакнут, с очень простой программой — выбрать ближайшего гуманоида, разогнаться до максимальной скорости, и за секунду до удара подать на винты максимальную возможную мощность, в т.ч. превышающую допустимую. Тяжелые ударные и режуще-рубящие травмы гарантированы. На данный момент на Амазон работает около 100к людей и примерно столько-же роботов на складах. Это нам дает некую отправную точку по количеству дронов на душу населения (1 к 1 или около того). С другой стороны можно прикинуть иначе — ежедневно на Амазоне покупают 37 млн раз, при населении в 320 млн в США, можно сказать что каждый человек делает покупку один раз в 10 дней именно на амазоне, если добавить другие магазины, пиццерии и прочие доставку, то можно допустить что каждому человеку будет доставка раз в 2-5 дней. Пусть дрон успевает 10 доставок за рабочее время, получится 6.4 млн дронов только в США.

          Если представить что произойдет такая атака, и 15% дадут летальный исход, 50% дадут травмы. То это 1 млн убитыми, еще 3 млн ранеными, за один час, по всей стране. Плюс коллапс системы доставки, к которой общество привыкло. И паника. И перегруженные больницы, пробки на дорогах.
          Это будет террористическая атака небывалого размаха. Сравнимая с 10ью бомбами над Хиросимой.

          И самое страшное, что за ней не обязательно будет стоять государство или организация типа ИГИЛа. Это вполне может быть под силу просто хакеру-фрилансеру, которого кто-то обидел, хоть шеф, хоть жена, хоть банк дом отобрал. И он даже может, потом уйти живым и не пойманным, он может даже заложить спящий вирус, и уехать из страны.

          • MAXInator
            /#10619815

            Какая длинная простыня с тем же никаким смыслом, что и статья. «Дроны-убийцы опасны потому, что их могут использовать для убийства». Дроны — всего лишь средство доставки. Менее удобные и менее распространенные, чем автомобили(-убийцы). Все остальное всего лишь маркетинговые рассуждения продавцов шапочек из фольги. Бояться нужно людей-убийц, а не вещей-убийц.

            • u010602
              /#10620839

              Боюсь у вас ошибка восприятия. Статья длинная и пост длинный исключительно что-бы объяснить тем, до кого не доходит. Еще больше я разжевать не могу.

              • MAXInator
                /#10620949

                Боюсь, у вас ошибка восприятия комментария. Статья бессмысленна априори. Еще больше я разжевать не могу.

          • iig
            /#10620985 / +1

            Если представить что произойдет такая атака, и 15% дадут летальный исход

            А если представить, что винты коптера закрыты защитой? Я бы законодательно запретил использование автоматических летающих мясорубок.
            И у него нечем наводиться на гуманоида (не оборудован зрением, летает по GPS)?

            • u010602
              /#10621191

              Ну вот видите, запретить летающие мясорубки, запретить винты без защиты, запретить чрезмерную автономность — о том люди и пишут в статье, что нужно вводить контроль, и что-то запрещать. Т.е. решать проблему. Сейчас таких норм нет, и можно сделать армию летающих автономных мясорубок, с системой зрения, без защиты винтов.

              Другими словами, ваша позиция совпадает с позицией автора статьи, и моей, но вы ее написали как будто, она противоположна.

              • iig
                /#10621261

                Тут можно вспомнить про автомобили. Когда-то их аццки боялись, было даже требование, чтобы впереди сей повозки шел человек с флагом и фонарем. Потом были выработаны правила как производства автомобилей (военную технику гражданским не продают), так и эксплуатации (ПДД). Но это не мешает отдельным личностям сделать в гараже из джипа броневик или из трактора танк. И теракты с помощью самых обычных грузовиков тоже возможны, как оказалось.
                С дронами будет так же. Серийное производство будет зарегулировано, а эксплуатация несертифицированных самоделок станет противозаконной.

                • u010602
                  /#10621513

                  Меня лично это устраивает. Самоделок не сделаешь 10 миллионов, ну сделаешь тыщу, устроишь «стандартный теракт» до 100 человек, уровень угрозы как у огнестрела или автомобиля. Совсем другое, когда серийные тех средства, могут быть все одновременно превращены в оружие парой человек.
                  По этой же причине я пока не сильно доверяю автопилотам в авто. Нет ощущения что это безопасно.

        • skr10mouse
          /#10623785

          Ружьё не стреляет само по себе, и не летает.

          • MAXInator
            /#10624041

            Дрон не взлетает сам по себе и не пишет себе алгоритм, предусматривающий убийство.

  4. artemev
    /#10617827

    ИМХО запрет тут врядли поможет, поскольку, чтобы запретить производство автономных дронов-убийц нужно запретить производство любых дронов. Ведь что такое автономный дрон-убийца — это самый обычный дрон с соответствующим ПО + вооружение.

    Кстати, что касается вооружения. Думаю, взрывчатка это не самый оптимальный вариант (хотя зависит от задачи). Например, очень миниатюрный вариант дрона, а-ля насекомое, с вооружением в виде ампулы с ядом — гораздо более смертоносен. Во-первых, он будет убивать без лишнего шума. Во-вторых, за один рейд он может поразить несколько жертв. В третьих, он потенциально многоразовый — сделал свое черное дело и полетел на «базу».

    В общем картина жуткая. Наверно нужно думать не о запрете отдельных видов оружия, а о том, как вообще перестать воевать. Иначе рано или поздно нашей цивилизации придет конец…

    • vassabi
      /#10617923

      нужно запретить производство любых дронов. Ведь что такое автономный дрон-убийца — это самый обычный дрон с соответствующим ПО + вооружение.

      все же есть разница — в масштабах. Частным лицам гораздо сложнее тратить миллиарды ежегодно и при этом сохранять свой экономический потенциал, и проделывать это все в тайне. Другое дело — государства (и ОПГ).

    • iig
      /#10617933

      Пока дроны не научились самостоятельно вылезать из ящика и искать жертву — особой разницы с текущей ситуацией нет.

      • artemev
        /#10618095

        А Вы полностью уверены, что они до сих пор не научились? В чем сложность написать программу (не мифический сильный ИИ, а просто алгоритм), что-то вроде: лети из точки А в точку Б и порази там любое теплокровное существо ростом выше полутора метров (1.5 м. чисто для примера). Я думаю это вполне осуществимо уже сейчас. Для этого даже не нужно создавать алгоритм с нуля, можно модифицировать уже имеющиеся.

        • iig
          /#10618159

          РСЗО «Град» приблизительно так и работает. Летит и поражает. И его бабушка «Катюша БМ-13» так же работала (почти 70 лет назад). И его братец «Град-П». Просто и эффективно. ИИ тут ничего не добавит. Все равно должен кто-то привезти ящик с дронами на стартовую позицию, дать целеуказание и нажать кнопку.

          • artemev
            /#10618211

            Вы читали мой комментарий? Я писал, что ИИ тут как раз не особо нужен, можно вполне обойтись тем, что уже есть. Что касается Градов и Катюш, то в отличии от чемоданчика с дронами, их достаточно проблематично скрытно доставить к точке назначения.

            • iig
              /#10618239

              Я писал, что ИИ тут как раз не особо нужен, можно вполне обойтись тем, что уже есть.

              В чем сложность написать программу (не мифический сильный ИИ, а просто алгоритм)

              <зануда моде=он>«написать программу» != «обойтись тем, что уже есть»</зануда>

              в отличии от чемоданчика с дронами, их достаточно проблематично скрытно доставить к точке назначения.

              Град-П можно привезти в багажнике. Он для того и придуман.

              Так то да, давно существует огромное число способов убить людей, как дистанционно, так и вблизи. С точностью, и по площадям. С риском для исполнителей, и без риска.

            • gohan
              /#10623801

              Что касается Градов и Катюш, то в отличии от чемоданчика с дронами, их достаточно проблематично скрытно доставить к точке назначения.

              По-моему, даже «Катюшу» элементарно можно привезти куда угодно. Едет такой грузовик с надписью «Coca-Cola», например, а в нужной точке в радиусе 13 км от цели встаёт, крыша кузова откидывается и давай до свидания. Количество грузовиков с дальнобойщиками огромное, сомневаюсь, что их там шмонают хоть как-то всерьёз. Только платить за тонну заставляют, ну а в крайнем случае можно там реальных ящиков с колой понаставить около двери. Да и никакой мент даже и не полезет, особенно если пару пятитысячных купюр в руку сунуть.

              Ну или дронов можно напихать в кузов вместо реактивных снарядов, чтоб быть модным, технологичным и на острие прогресса. Вот только летят они в разы дольше и есть шанс на обнаружение и своевременный уход цели в туман, если местность не позволяет как-то особо удачно пролететь вдали от камер и глаз охранников.

              А самый ад будет если научатся как в серии «Чёрного зеркала» делать совсем мелких и незаметных летающих роботов.

          • vassabi
            /#10618235

            из «града» будут запускать ящик с дронами и ставить их на боевое дежурство. По сигналу датчиков (звук двигателя, вибрация поверхности и т.д.) они будут

            самостоятельно вылезать из ящика и искать жертву
            ©iig

            • Ugrum
              /#10618339

              Вы переизобрели "дистанционное минирование местности". Хотя зачем тут дроны, мин хватит, они дешевле.

    • ToshiruWang
      /#10620757

      сделал свое черное дело и полетел на «базу».

      и засветил базу.

      • artemev
        /#10621731

        Дрона размером со стрекозу, о котором я вел речь, отследить будет не так-то просто. Особенно, если он не тупо прямиком полетит на «базу», а придпримет некие конспиративные меры. Например, будет двигаться зигзагами, использовать растительноть, взмывать высоко вверх или, наоборот, лететь у самой земли и прочее. Понятно, что в данный момент это звучит фантастически, но через 5-10 лет (а может и раньше) этим уже никого не удивишь. Такие разработки ведутся, например, вот интересный экземпляр.

        • iig
          /#10623433

          Одноразовому дрону не нужно возвращаться — соответственно базу он не засветит.

  5. Mercury13
    /#10617905

    Лучше писать не «дрон с размахом фиксированных крыльев», а «дрон-самолёт с размахом крыльев». То, что у них fixed wing aircraft, у нас просто самолёт.

    • Zenitchik
      /#10619387

      Или «аппарат с неподвижным крылом», но в контексте статьи такая терминология будет пижонством.

  6. Hellsy22
    /#10617957

    Для начала неплохо бы разобраться с терминологией. Потому как даже яма с кольями подходит под определение «летальное автономное оружие». Хуже того — ямы с кольями легко изготавливаются с помощью подручных инструментов. Ни одно правительство в мире даже не пытается контролировать оборот лопат и совочков!

    Если чуть серьезнее, то конечно же террористы уже используют дроны для доставки взрывчатки или стрельбы по мишеням. Автономность таких дронов — лишь вопрос времени. Но в статье отсутствует центральный элемент — смысл. Террорристы не ставят себе целью просто набить побольше фрагов — в контексте такой задачи «хакнутые» беспилотные грузовики будут опаснее. Цель террора — все-таки запугивание, возможность показать, что все уязвимы и никто не в безопасности. В конце-концов на те же самые объекты атаки террористы могли бы напасть прямо сейчас и, как показывают события во Франции, вряд ли местная охрана смогла бы оказать хоть какое-то сопротивление.

    • iig
      /#10618015

      +1
      А опаснее всего — человек с хакнутыми мозгами.

      • vassabi
        /#10618087 / +1

        причем средства массового поражения мозгов — давно стоят в почти каждом доме с начала прошлого века.

        • artemev
          /#10618101 / +1

          Да и технология отработана до совершенства.

        • ToshiruWang
          /#10620777

          Средства поражения мозга есть в каждом городе тысячи лет.

    • Symphel
      /#10619947

      Вообще-то все ровно наоборот. Последние терракоты в Европе совершены безоружными водителями грузовиков. Даже не беспилотных. И как показывает практика в мире довольно много идеологий, в рамках которых чем больше фрагов неверных, тем лучше в раю. Или озлобленных психов, которым хочется убивать, например, детей в школах. С мотивом убийства приходится разбираться, когда убийство уже совершено.

      • Hellsy22
        /#10622019

        Я поясню мысль про фраги. Вот был относительно недавно теракт в Тель-Авиве. Трое террористов, вооруженных автоматическим оружием, расстреляли кафе. Итог — около пяти трупов. И другой случай в США, когда один человек устроил бойню в церкви — 26 трупов, около 20 раненых. В первом случае была цель устроить пальбу, а во втором случае — убить. Первый подход — это громко, шумно, есть пострадавшие, но не слишком много. Квинтэссенция терроризма, как такового. Второй подход — это решение задачи по ликвидации чего бы то ни было. Для первой задачи достаточно кретинов с оружием и на эмоциях. Для второй — нужны решительные профессионалы, которые тщательно подготовятся.

        Так вот, вариант с кучей вооруженных дронов — это второй вариант. Потребуется не привлекая внимания собрать нужное количество дронов, запрограммировать их и желательно еще провести тесты, вооружить, доставить в нужное время и тогда…
        Да, профессиональный инженер наверняка сможет сделать все это. Но профессиональный инженер или химик и сейчас может устроить теракт с количеством жертв переваливающим за тысячи — чего мелочиться на дронов, можно же взять обычный сельскохозяйственный дельталет, который берет на борт несколько сотен килограмм груза и в сложенном состоянии помещается в грузовик, переделать его на телеуправление и пролететь над толпой. Но никто этого не делает. Как думаете, почему?

        • u010602
          /#10622035

          Не подсказывайте…

          • Hellsy22
            /#10622155

            Так ведь террористы уже делали беспилотники, причем буквально из подручных материалов — дерево, пенопласт, полиэтиленовая пленка и мотор от газонокосилки. Но вот против гражданских не использовали, вряд ли потому, что не догадались.

            Я это, в общем, к тому, что террористы первого типа не стремятся к эффективности, им важнее эффектность. А террористы второго типа и не на войне — редкость необычайная и способ для реализации замысла всегда найдут — Химейер целый городок разгромил простым бульдозером. Так что нужно или начинать бояться любой техники, или не зацикливаться на дронах.

            • u010602
              /#10623471

              Я выше описывал слегка другой сценарий, и почему есть отличия, от современности.

              Про терроров первого типа можем забыть. Как раз внедрение автономных гражданских роботов в массовом количестве, открытых для взолма и координации, и развязывает руки террористам второго типа (далее т.в.т). Ни чего изготавливать не нужно — и так армия летает над головами пиццу возит, армия ездит на дорогам, людей возит и грузы. А потом оп оп и скрылся, не нужно собой жертвовать, что для т.в.т обычно проблема, можно даже сделать девайс с одной кнопкой, отдать его т.п.т и пускай едет куда надо и жмет ее там, если перехват контроля возможен не везде.

  7. cicatrix
    /#10618119 / +2

    Дроны — не оружие, а средство доставки. К тому же, их опасность сильно преувеличена. Дальность слабовата, да и дороговатое средство.
    Фокусироваться спецслужбы должны на том, что эти дроны собираются доставлять. Ведь не важно, на чём будет доставлена взрывчатка — на высокотехнологичном автономном дроне или на безбашенном шахиде (второй даже опаснее и дешевле).
    Терроризм не побеждается одной технологией, она лишь может помочь, поэтому и запреты/регулирование дронов — идиотизм. Непосредственная работа должна вестись среди людей — внедрение агентов, вербовка информаторов, выявление цепочек финансирования и пр.

    • vassabi
      /#10618177

      какое-то пассивное поведение.

      Заголовок спойлера
      отсюда и далее: САРКАЗМ. Считайте синопсисом кино

      • MockBeard
        /#10618237

        да вы мимоходом раскрыли теневую сторону мировой политики за последние десятилетия

    • Victor_koly
      /#10618679

      Вешаем на дрон пару фейерверков. Наводимся по тепловизору — построить алгоритм, который по угловому размеру цели определит, что её рост не менее 1.60 м и ширина не менее 20 см. Стреляем 1 фейерверком, потом думаем — стрелять вторым или ждать оценки результатов (и скажем стрелять опять).

      • iig
        /#10618841

        Вешаем на дрон пару фейерверков 1 фейерверк.
        Наводимся по тепловизору — пока не упремся в обьект. Поджигаем феерверк.
        Тут я случайно изобрел «Стингер» ;)
        Чтобы обойти тепловые ловушки — запускаем 10 дронов, кто-нибудь найдет свою цель.

        • Victor_koly
          /#10618877

          Пару я имел в виду для того чтобы «добить, если жертва ещё движется».
          И все же «наводимся по тепловизору» — это не полноценная головка с/н, так как тепловизора и аэрординамических рулей у фейерверка явно не будет. Можно конечно соорудить схему на паре (4 даже?) пироэлектрических датчиков и 1 (двум) рулях.

    • cheburen
      /#10620017

      для успешной атаки хватит и километра дальности, поставил контейнер с дроном в неприметном месте, в радиусе происхождения события, проезда VIP или просто хаты недруга, сел в ближайшее кафе, и наблюдаешь шоу, когда по таймеру и корректирующему сигналу дрон взлетел, долетел до цели и устроил акт устрашения.

      • iig
        /#10620325

        Древний ПТРК «Фагот» так и работает. Разница только в том, что оператор не пассивно наблюдает, а активно участвует в процессе. Но присутствие оператора в месте пуска уже давно не обязательно.

  8. Caracat
    /#10618661

    Обычный вопрос, а кому это выгодно? Как вариант:

  9. 80386
    /#10618667

    Когда читал Непобедимого (одна из самых стрёмных книг детства), не думал, что на моём веку что-то подобное может появится в реальности…

  10. Idot
    /#10618931

    Тут опасность совсем в другом: «юмористы» из АНБ создали программу, которая называется SkyNet (да, это юмор такой). И суть этой программы, действующей в Пакистане, в том, что
    = по BigData вычисляются предполагаемые потенциальные террористы, к которым затем без какой-либо санкции суда высылают беспилотник для ликвидации.

    А теперь представьте:
    — Вы в браузере случайно открыли нечто запретное и к Вам автоматически выслали дрона для Вашей ликвидации.

    • iig
      /#10619015

      Угроза «вычислить по айпи» заиграла еще более новыми красками.

    • Hellsy22
      /#10622021

      Ключевой момент — «без какой-либо санкции суда… для ликвидации». Все остальное не важно: бигдата и беспилотник или донос и расстрельная команда.

  11. vershinin
    /#10619895

    На мой скромный взгляд, куда большую угрозу представляют развивающиеся семимильными шагами биотехнологии. Попади эти все CRISPRы (и их логическое развитие) в шаловливые руки ими можно очень много навертеть — теперь, чтобы произвести биологическое ОМП не нужны государства с их институтами.
    По этому поводу есть пара мыслей. С одной стороны иммунная система человека совершенствовалась миллионы лет, поэтому найти брешь в этой обороне не так просто, все ходы-выходы, способные дать патогенным организмам какие-никакие преимущества более-менее прикрыты. С другой стороны, иммунная система специализировалась по классу патологических организмов и вирусов у которых есть цель размножаться, поэтому они идут на определённый консенсус с иммунной системой хозяина, а не стараются его погубить в ближайшие несколько часов.
    Синтетические же организмы и вирусы не обязаны этому следовать — размножать их можно искусственно и доставлять по месту назначения тоже. И выживаемость их обеспечивать не нужно, поэтому весь метаболический аппарат клетки можно пустить на производство токсинов и прочей гадости, что гарантированно убьёт хозяина. Дополнительно можно обеспечивать селективность на основе генного материала, можно выпилить только определённого человека, а можно семью, нацию, и т.д.
    То есть это будут то самое «автоматическое летальное оружие», но в миллионы раз страшнее, чем ИИ дроны с бомбочкой на борту (хайпанули то как, жаль что их в реальном времени не печатают на 3D принтере, а в бою они не взаимодействуют при помощи блокчейна).

    • Victor_koly
      /#10619973

      ИМХО, сложно создать настоящую селективность на «расу или народ» (о понятии нации я даже не говорю, нации начались в Европе где-то с середины XVI века — вместе с концом Средних веков).
      По поводу CRISPR-CAS. Этим методом можно создать особую колонию бактерий. А самое прикольное, что колонию бактерий с необходимыми свойствами (включая самое злобное — устойчивость к 1 конкретному антибиотику) можно создать путем «естесвенного отбора в искусственной среде». Потом изучают — мутации в каких генах дали им эту устойчиваость. Вот потом вносим этот ген в группу видов других бактерий того же семейства.
      Разносим все эти бактерии по крупным городам Центральной Африки (скажем определенными зонами — в крупных городах что бы пееркрывалось по 2 штамма, а в мелких на границах областей — по 3). Ждем эпидемии «не вируса» не-Эбола.

      • vershinin
        /#10622043

        Нацию не получится, но например отличить евреев ашкенази по генному материалу можно легко, как и расы друг от друга.

        • u010602
          /#10622065

          Не нужно мыслить о нациях, как о исключительно генетических общностях. Можно ориентироваться на привычные вещи, для конкретной страны. Ну например зеленку применяют в странах СНГ. Что еще, репа, гречка, рассол как напиток, арбидол, актовегин и так далее… Все это может быть триггером для активизации летального сценария. Да будет некоторая погрешность, но по большей части среди мигрантов. Но я что-то запутался, чем мы занимаемся? Такое ощущение что придумываем doomsday machine как доктор Франсворт.

          • Victor_koly
            /#10622357

            Все, пошел разрабатывать бактерию, выработку которой опасного токсина активирует «Настояка боярышника».
            P.S. Нет, я не пропагандируют геноцид алкоголиков как класса на территории бывшего СССР.

    • Sadler
      /#10621071

      Более того, можно установить триггер, при срабатывании которого в организме начнёт выделяться токсин. При необходимости период между попаданием вируса и отравлением может составить годы. При этом нет необходимости доставлять вирус во все клетки организма, достаточно небольшой доли, которую не удастся детектировать.

      И это ещё очень примитивный уровень использования генной модификации. Если эту технологию возьмёт на вооружение любая тоталитарная система, мир может увидеть антиутопию, которую не каждый фантаст был бы готов себе представить.

      • Zenitchik
        /#10621107

        которую не каждый фантаст был бы готов себе представить.

        Бьюсь об заклад, что и такое уже кем-то описано.

  12. igorkozinov
    /#10620755

    Дробовики, только дробовики, с лазерным прицелом в виде дуршлага и красной лампочкой внутри!

    ЭМИ — это все хорошо, но против тараканов хорошо только тапок. Дашь им мелок «Машенька» — там эти сволочи садятся в углу и рисуют им на обоях!