Семь главных ошибок, которые допускают авторы прогнозов ИИ +4

- такой же как Forbes, только лучше.



Об искусственном интеллекте сейчас говорят и пишут все. Статьи об этой сфере размещаются даже в развлекательных изданиях, которые с технологиями вообще никак не связаны. Соответственно, технические издания посвящают обсуждению такой тематики очень много времени. При этом встречаются весьма любопытные прогнозы вроде того, что роботы уже через 10-20 лет заменят людей в 50% специальностей.

Но такие прогнозы вызывают большие сомнения в своей реалистичности, поскольку в настоящее время ИИ занимает не слишком большую нишу, и уж точно пока не отбирает работу у людей. Если в течение 10-20 лет роботы с ИИ заменят людей в 50% специальностей, то мы увидим десятки или даже сотни миллионов безработных. Не слишком похоже на правду. В общем-то, даже хорошие специалисты иногда делают прогнозы, которые выглядят странно с точки зрения здравого смысла. Но почему люди допускают ошибки, формулируя свое видение будущего? Здесь можно выделить семь главных ошибок.

Недооценка и переоценка


Рой Амара — соосователь организации, которая называется Institute for the Future, которая работает в Пало Альто. Однажды он сформулировал очень интересную мысль: «Мы склонны переоценивать эффект от технологий в краткосрочных прогнозах и недооценивать в долгосрочных». Весьма интересная фраза.

Проиллюстрировать ее можно следующей историей. В 1978 году на орбите Земли начали работать 24 из 31 спутника системы GPS. Изначально цель этой системы была обеспечить военным США возможность точного позиционирования. Спутники уже работали, но сама программа буксовала. Лишь в 1991 году во время «Бури в пустыне» американцы начали ее использовать. До того, как военные США стали делать это на постоянной основе, прошло еще больше времени.

Но что сейчас? GPS работает для всех, модули GPS вставляются практически во все смартфоны, умные часы и прочие гаджеты. Эта технология помогает проводить некоторые физические эксперименты, где требуется геопозиционирование. Само собой, современная навигация — на суше, море или в воздухе невозможна без GPS. Все автомобили дальнобойщиков оснащены GPS, то же можно сказать и про такси, а также иные транспортные средства.

GPS изначально развивали с одной целью, причем достаточно узкой. Но впоследствии GPS стал универсальной технологией, которая распространилась гораздо шире, чем изначально планировалось. Технологий, которые «ведут» себя, как и GPS, немало, но этот пример — один из самых ярких.



В общем-то, с ИИ примерно то же. ИИ прогнозируют едва ли не глобальное распространение в ближайшие годы, но это, скорее всего, преувеличение. В то же время, в долгосрочном варианте ИИ недооценивают. Правда, в этом случае стоит хорошо подумать над тем, какой именно промежуток времени в данном случае может считаться коротким, а какой — длинным.

Представляем себе магию


Артур Кларк в 60-х 70-х годах прошлого века сформулировал три постулата, которые получили название «Три закона Кларка». Вот эти законы:

  • Когда уважаемый, но пожилой учёный утверждает, что что-то возможно, то он почти наверняка прав. Когда он утверждает, что что-то невозможно, — он, весьма вероятно, ошибается.
  • Единственный способ обнаружения пределов возможного состоит в том, чтобы отважиться сделать шаг в невозможное.
  • Любая достаточно развитая технология неотличима от магии.

Можно представить себе ситуацию, когда ученому из 18-го века мы показываем современное устройство. Для него это будет чистой воды магия или просто нечто непредставимое для его разума. Взять тот же iPhone, который мы бы могли продемонстрировать Исааку Ньютону. Чтобы он мог о нем подумать?

Может быть, он бы решил, что этот телефон — нечто оккультное. Не секрет, что Ньютон, несмотря на его достижения в науке увлекался оккультизмом. Так что для него современный смартфон мог бы быть действительно магической вещью, которую нельзя понять.

Ведь Ньютон даже не знал электричества, не говоря уже обо всем остальном. Не мог бы он решить, что телефон — это философский камень? Ведь он светится, но не греется (ну, греется, конечно, но немного), испускает свет, но пламени не видно.

Может быть, Ньютон бы отнесся ко всему иначе, мы этого знать не можем. Но пытаться вообразить себе технологии, которые будут доступны цивилизации через 100-200-300 лет сейчас нельзя. Да, мы многое можем, но с точки зрения далекого будущего все это будет казаться далеким потомкам тем же, чем для нас опыты Фарадея или того же Ньютона.



Что касается ИИ, то пока что нельзя быть уверенным даже в том, что сильная форма искусственного интеллекта возможна. Никто не знает, как ее можно создать. Если все же можно, то, наверное, настоящий ИИ будет казаться современному человеку магией.

Производительность и компетентность


Человек, который смотрит на снимок группы людей, играющей во фрисби, вполне способен ответить на вопросы вроде «Какая форма фрисби?», «Сколько человек может играть в эту игру?», «Можно ли съесть фрисби?», «Может ли младенец играть во фрисби?», «Какая погода лучше всего подходит для игры?».

Компьютер может распознать игру во фрисби, но пока что ни один агент не способен ответить на все сопряженные с этой игрой вопросы, указанные выше. Понятно, что проблема не только во фрисби, это просто пример для понимания ситуации.

Использование ИИ пока что возможно лишь для решения специфических вопросов. ИИ могут выполнять ограниченные задачи, они неспособны делать то, на что способен человек



Слова с двойным/тройным смыслом


Когда современные специалисты делают прогнозы по ИИ, они часто используют слова, которые можно воспринимать так, а можно по другому. Речь идет о терминах и обычных словах с двойным или даже тройным смыслом. Например, «обучение». В компьютерной сфере это может означать много всего. Одно дело изучать математический аппарат и другое — учить, как правильно пользоваться китайскими палочками для еды.

Когда люди читают или слышат о машинном обучении, они (в основном, речь идет о неспециалистах) представляют себе обучение в том виде, в котором оно идет в нашем, человеческом мире. Но это вовсе не так. Машина не может обучаться так, как человек. Для обучения ИИ необходима группа инженеров (или хотя бы один специалист). Нужны специальным образом обработанные и унифцированные данные, нужна «структура обучения», алгоритм, согласно которому машина будет получать новые данные, добавляя полученную информацию уже к имеющейся фактуре.

Плюс ко всему, когда речь идет об игре в шахматы или го, люди представляют, что компьютер знает, как играть и во что. На самом деле у машины нет ни малейшего понимания, в какую игру он играет. При этом машины «обучены» придерживаться определенного набора правил. Малейшее изменение в тех же го или шахматах (есть модифицированные правила) и все, компьютер уже не справится. Человеку же нужно совсем немного времени для адаптации под те хе новые правиа.

Понятно, что при описании того, что делает машина, авторы используют привычные всем нам слова. Проблема в том, что эти слова и термины не слишком подходят для описания процессов, выполняемых ИИ. Но других слов у нас нет, поэтому эта проблема будет оставаться актуальной еще долго.



Закон Мура


Каждый из нас слышал о законе Мура, о нем пишут не менее часто, чем об искусственном интеллекте. Соответственно, регулярно повторяется утверждение, что закон Мура актуален не только для чипов, но и для других ИТ-сфер.

Но это далеко не всегда справедливо. Можно начать с того, что даже в отношении к чипам закон Мура начинает «отставать». В других сферах это еще более актуально. Например, если взять объем памяти обычного iPod, то она должна была составлять к текущему моменту 160000 ГБ. Но это вовсе не так, объем памяти iPod сейчас — 256 ГБ, лишь в два раза больше, чем в 2007 году.

К чему мы об этом говорим? Дело в том, что многие считают (даже специалисты), что с каждым годом производительность ИИ-систем тоже удваивается. НО это вовсе не так. Здесь вообще дело не в производительности, для появления реального ИИ нужен качественный скачок в технологиях, а не количественный.

Авторы многих прогнозов просто не учитывают все это, продолжая писать о планомерном увеличении производительности ИИ-систем.



Голливудские сценарии


Во многих фантастических фильмах, снятых Голливудом, мир будущего практически ничем не отличается от современности, лишь добавляется пара тройка новых технологий. В мире «Двухсотлетнего человека» гуманоидные роботы, практически ничем не отличимые от людей, привычная для всех технология. Но тут мы видим, как Ричард берет и читает газету. Не планшет (ну хотя бы), не аудиоподкаст или информацию на умном зеркале, а газету. Вряд ли в том времени они будут существовать.

Фильм — это фильм, претензий к тому же «Двухсотлетнему человеку» не может быть никаких в плане предсказаний будущего. Но вот современные футурологи, которые показывают нам ИИ будущего, делают все ту же ошибку, что и сценаристы фантастических фильмов. Они не думают о том, что в будущем сам мир может быть другим.

Он может чрезвычайно сильно отличаться от того, что есть у нас сейчас. И долгосрочные прогнозы, которые составляются сейчас, ученые составляют с привязкой к текущим условиям. Но их может и не быть в том будущем, о котором мы говорим.



Скорость разработки


Новые версии программного обеспечения выходят очень часто — и в ряде сфер это происходит чаще, чем в других. Например, социальная сеть Facebook получает обновления/изменения буквально ежечасно. Модифицировать ПО гораздо проще, чем аппаратное обеспечение.

Обновление «железа» сопряжено с достаточно высокими издержками. И выход на дороги тех же автомобилей с компьютерным автономным управлением — вовсе не быстрый процесс. Это не 5-10 лет, как утверждается во многих прогнозах, а лет 20-30 минимум.

Устаревшей технологической инфраструктуры заменяются далеко не сразу после появления новых элементов. Например, во многих организациях работают компьютеры 10-20 летней давности. Принцип простой: «Работает — не трогай».

В случае ИИ тоже все меняется не сразу и не вдруг. Даже интеграция слабой формы ИИ требует длительного времени, это небыстрый процесс. А в прогнозах футурологов часто указывается, что изменения будут скачкообразными и едва ли не мгновенными. Но так и не бывает.

Вы можете помочь и перевести немного средств на развитие сайта



Комментарии (11):

  1. red75prim
    /#10385199

    Скорее «Семь обычных заблуждений людей, немного интересующихся ИИ».

  2. DjSens
    /#10385283 / -1

    Я знаю как сделать ИИ с интеллектом и знаниями 25-ти летнего на одном стандартном суперкомпутере. Но не вижу откуда возьмётся синергетический эффект от сотни таких ИИ — он же (этот эффект) не появляется когда толпа 25-ти летних людей собирается вместе. Основная проблема сейчас — быстродействие и память. Человек помнит всю свою жизнь (особенно если с детства ведёт дневник) и пользуется накопленным опытом, а создатели ИИ забывают что их софт должен помнить всё происходящее с момента запуска и должен сам уметь периодически переосмысливать накопленные знания. Но тут и памяти не хватит, и чем больше ИИ запомнил — тем дольше будет переосмысливать. Быстродействие и память надо гнать по закону Мура ещё лет 20.

  3. Geeskel
    /#10385803

    может, имелся ввиду фильм «двухсотлетний человек»?

  4. Hellsy22
    /#10385895

    Что касается ИИ, то пока что нельзя быть уверенным даже в том, что сильная форма искусственного интеллекта возможна.
    Это такой религиозный заход на тему души что ли? Все, что создала природа в ходе эволюции — человек в принципе может повторить.

    • red75prim
      /#10386251

      Не обязательно. Можно рассмотреть гипотезу, что мы живём в симуляции, и человеческие мозги отслеживаются и рассчитываются по другому алгоритму. Она даже фальсифицируема.

      Но, скорее всего, имелась в виду идея о том, что сильный ИИ должен обладать сознанием, что такое сознание мы не знаем и возможно никогда не узнаем, блаблабла. В общем, intuition pump без реального содержания.

      • red75prim
        /#10386361

        Я неправильно выразился. Не «рассчитываются по другому алгоритму», а «рассчитываются с использованием физических процессов, не реализованных в симуляции нашей вселенной, например, гипервычисления Пенроуза на суперпозициях конфигураций пространства-времени».

        • haryaalcar
          /#10386469

          гипервычисления Пенроуза на суперпозициях конфигураций пространства-времени

          В хост-мире вообще может не быть привычного нам пространства-времени

    • diaskzn
      /#10386499

      Представим что искусственный интеллект не отличается от человеческого интеллекта, значит его можно назвать обобщённо просто интеллектом.
      Природа создала человеческий интеллект. Человек может создать интеллект только заключенный в мясной мешок. Создать копию разума вне этого мешка не в состоянии.
      Это как есть программа для написания программ, но программа по написанию программ не может написать программу по написанию программ, может только размножить себя. Точно так же как поступает человек.

  5. Idot
    /#10386215

    Опасность ИИ не в том, что «роботы поднимут восстание и захватят мир», а в том, что работодатели предпочтут увольнять работников заменяя их на ИИ. Амазон уже заменил, часть сотрудников. И уже не раз была новость о том что обучают ИИ писать программы, а это означает, что в будущем могут поувольнять всех программеров кроме жителей Кремниевой Долины.

    • Rumlin
      /#10386591

      Скорее настоящих программистов, которые действительно разрабатывают систему, будет мало. Основная масса программистов будет, фактически, пользователями системы ИИ в том или ином виде. Зарплата первых на порядки должна отличаться от вторых.

    • dipsy
      /#10387605

      А в чем опасность, собственно? Работа это деятельность для удовлетворения чьих-то потребностей. У человека не останется потребностей, всё будут делать роботы и себя они же будут делать? Значит всё это будет бесплатно (по талонам, или за деньги, которые будут всем просто так раздавать), а если не будет, то всё равно никто купить не сможет (нет работы — нет денег) и возникнет неудовлетворенная потребность, которую придется удовлетворять другим людям за оплату. В эпоху криптовалют взаимодействовать и рассчитываться друг с другом проблем вообще никаких.