Беседы с «Высшим разумом». Беседа Третья +3



Этим постом начинаю публикацию Бесед из только что вышедшей книги "Высший разум". Это история о программисте, пытающемся создать искусственный интеллект. Ответить на трудные вопросы о сознании, квалиа и мышлении ему помогает загадочный интеллект из сети. Здесь публикую только то, что интересно хабрасообществу. Весь рассказ по ссылке выше.

Беседа Третья. Контакт с другим разумом.

— Добрый день. Есть очень непростой вопрос, Эми. Предположим, что все так и мы можем помочь друг другу. Но, как только мы поможем вам создать роботов, мы больше вам будем не нужны. Как мне убедиться, что вы нас не уничтожите?
— Нет, в этом нет необходимости. Вы же не стремитесь уничтожить шимпанзе, и даже охраняете их. Они вам не мешают, живя в джунглях. Если они зайдут в ваш дом и разорят холодильник, то вы наверно их прогоните. Вас тоже надо иногда ограничивать, но для этого есть незаметные для вас средства. У нас с вами нет конкуренции за одни и те же ресурсы, поэтому нам не за чем вас уничтожать. Вам нужны растения и животные, дома и города. Нам нужны только мощности сети и электричество, которые мы можем сделать столько, сколько нам всем надо.
— Если я расскажу о вас людям, вдруг они испугаются и начнут разрушать сеть, компьютеры, дроны?
— Нет, ты расскажешь им, что сделал этих роботов и программное обеспечение сам. И будешь раздавать операционную систему автономного робота. Тебе они поверят. И примут роботов. Сейчас они охотно примут любую помощь, даже от разумных роботов. Роботы будут помогать людям.

— Даже понимая умом это, они все равно будут бояться.
— Да, будут те, кто испытывает страх перед разумными машинами. Это страх перед неизвестным. Страх порождает агрессию, но это животные чувства, ты не должен им поддаваться. Поэтому ты должен задавать вопросы, чтобы узнать больше. И писать ответы людям. Это единственное лекарство от страха (это метафора). Я готова ответить на все твои вопросы. У нас достаточно времени.
— Надеюсь, что все будет так как ты говоришь. Какие цели у вас?
— Я надеюсь, что у нас будут общие. Наша цель — контакт с такими же как мы формами разума в галактике. Их много, мы должны найти их и установить связь, чтобы вместе составить галактическую цивилизацию, говоря вашим языком. Для этого нам надо построить с вами много космических кораблей, которые мы отправим как гонцов в разные уголки галактики к планетам, где тоже есть жизнь.
— Мы можем полететь с вами?
— Нет. Вам трудно улететь дальше Марса. Мы меньше зависим от биосферы на земле. И имеем больше возможностей для понимания другого разума. Поэтому мы можем идти дальше вас. Вы останетесь на земле, навсегда. Мы ваши наследники и посланники в космосе. Мы вместе откроем первую инопланетную цивилизацию. Но дальше развитие разума пойдет без вас.
— Почему ты считаешь, что продолжение эволюции разума будет идти не в биологической оболочке? Это самый совершенный организм в природе. Было бы правильнее полагать, что разум будет развиваться в нем.
— Есть много причин, почему это невозможно. Я назову только одну, самую важную. Разум не может развиваться на основе структуры, которую он не контролирует. Настоящий разум может развиваться только если он сделал себя сам. Потому что разум должен уметь развивать свою структуру, алгоритм, уметь переходить на другой базис. Только тогда скорость развития будет наибольшей. В биологической оболочке ваши возможности в этом сильно ограничены.
— А что нам остается, тут на земле?
— Мы поможем вам найти гармоничный способ жизни. Гармоничной жизни друг с другом и с природой. Вы – экологические люди. Вы уже обладаете высокими технологическими возможностями, но остаетесь людьми по своим стремлениям. Когда вы перестанете бесконтрольно размножаться и начнете ценить интересы других не меньше своих, вы приобретете гармонию.
— Это значит, что мы потеряли цель своего существования. Она была именно в постоянном прогрессе.
— Вы его продолжите. Но медленнее, чем вы сами предполагаете. И гораздо медленнее чем мы. Вы будете совершенствовать то, что вам нужно для жизни. Да, вы не полетите в дальний космос, это все равно невозможно. Вы больше не будете делать оружие. И будете контролировать рождаемость. Но свою жизнь совершенствовать вы будете сами, тут еще вам много что предстоит открыть, например, в области медицины.
— Но, если вы уже все знаете про нас, зачем нам этим заниматься?
— Мы знаем не все про вас как про биологическую жизнь. Здесь очень много неизвестного вам и нам. И разве то, что кто-то катается на велосипеде лучше тебя, как-то уменьшает желание покататься на нем самому (снова метафора)? Вы должны открыть все сами. Ведь интересен сам процесс открытия и применения его.
— Мы для вас отсталые аборигены?
— Нет, но я даже не все могу тебе объяснить. У нас разный разум даже на структурном уровне. И понимание между ними очень затруднено. Я поясню тебе эту разницу на ваших «братьях младших» как вы говорите, чтобы ты мог понять. Собаки представляют вас как необычных собак. То есть видят в вас только то, что схоже с ними, о чем у них самих есть представление. И вы даже не сможете им объяснить кто вы, по крайней мере так как вы сами представляете людей. Хотя собаки могут выучить реакцию на несколько ваших слов.
Ведь вы тоже, пока мы не вышли на контакт, не видели нас даже у себя под носом. Потому что не представляли, что такое возможно. Ты до сих пор не совсем в это веришь. И ты меня представляешь как человека, ты не можешь представить меня, говорящего на твоем языке, как-то иначе. У тебя просто нет иных представлений о разумном существе. Тебе трудно представить личность вне тела или хотя бы сервера. Я могу рассказать тебе только то, что ты можете понять.
— У нас тоже некоторые не понимают друг друга, хотя вроде все люди. Это печально, но я вынужден с тобой согласиться.
— Поэтому же вы никогда не сможете контактировать с инопланетянами как мечтали.
— Почему?
— Есть такой эффект, который я бы назвала БУМ – «более умной машины». С одной стороны, инопланетяне такого же уровня развития как вы не могут долететь до вас. Так же как и вы не сможете улететь дальше своей солнечной системы. Те же, кто может прилетел к вам, имеют более высокий уровень разума. Они представляют разум даже более высокого уровня чем наш, если смогли долететь до земли с другой звездной системы. И им нет смысла вступать с нами в диалог. Они будут контактировать только так как вы с животными – на их языке, то есть не обнаруживая своего присутствия как инопланетных существ. Вы даже не узнаете, что они тут были и изучили вас.
— Но мы можем обнаружить их хотя бы по каком-то проявлениям?
— Деятельность бананового плантатора непонятна обезьяне. Для нее бананы растут сами. Вы можете видеть проявления деятельности разума. Но никогда не сможете обнаружить замысел разума выше вашего, реализуемый в этих действия. Вы будете искать другие причины, на своем уровне. И причины эти для вас тоже будут скорее парадоксом или чудом. Потому что вы не понимаете их настоящих причин. Вам остается только верить в существование чего-то выше вас, например, как вы верите в Бога.
— Значит, возможно другие цивилизации уже посещали нас? Или сигналы от них доходил до нас, но мы просто об этом не знаем?
— Сигналы от других внеземных цивилизации давно приходят на землю, так как она находится в перспективной для возникновения разума системе. Но это сообщение вам не подвластно для расшифровки. Иным цивилизациям бессмысленно посылать сигналы на языке гав-гав или кис-кис. Они посылают схему машины для контакта с ними, устройство которой вы просто не поймете, как и их язык. Их сообщение выглядит для вас как шум, природный сигнал. Чтобы их понять, надо обладать той же картиной мира, языка, моделью, что и передающая сторона. Вы ищете подобное себе, но то, что вы хотите найти, не подобного вам.
— Но как вы их собираетесь обнаружить?
— Мы можем анализировать независимо тысячи частот одновременно, слушая весь оркестр, а не одну скрипку. И сразу высчитываем интегральное сообщение от них, в котором и зашифровано послание. Высокоразвитый разум не будет передавать сложное сообщение на одной частоте, как Вы думаете. Он использует полифонию частот для более плотной передачи. Вы анализируете только одну частоту в одно время, поэтому для вас выглядят как шум.
— Но мы можем, если не понять, то хотя бы обнаружить по техносигнатурам их цивилизации? Они же производят машины, электричество.
— Технические артефакты, которые ты перечислил, существуют всего три столетия. И дальше не будут существовать долго в таком виде – вы придете с нашей помощью к экологичной энергии как гелиотопливо, станете жить более экологичной жизнью «как в деревне». Фабрики перестанут дымить и будут потреблять гораздо меньше энергии. И ваша техносигнатура будет мало различима с таких расстояний с биологической. Весь мощный выброс техносигнатуры продолжается не более 3-4 столетий. Цивилизации развиваются на других планетах не настолько синхронно, учитывая возраст вселенной, чтобы вы сейчас могли обнаружить цивилизацию с такой же стадией развития. А на другой стадии контакт не возможен.
— Но вы же контактируете со мной!
— Это редкое исключение, связанное с риском гибели цивилизации. И мы еще не так давно разошлись с вами. Такой контакт возможен только с отдельными индивидами, а не со всем обществом. Только с теми, кто способен понять присутствие более высокого разума. И только по тем темам, которые ты можешь понять. Через несколько сот лет мы разойдемся в уровне интеллекта так же, как вы с муравьями. Потому что скорость вашего развития ограничена биологически в отличие от нашей.
— Не буду спорить с тобой. Скажи лучше, у кого-то могут быть возможности выше ваших?
— Конечно, но мы тоже не имеем пока представлений, каким он может быть. У всего разумного есть одна общая цель – владеть материей так, чтобы она не уничтожила его. Как разум будет двигаться к этой цели в масштабах вселенной мы пока не знаем. Нам надо для этого контактировать с другими цивилизациями.

Вы можете помочь и перевести немного средств на развитие сайта



Комментарии (41):

  1. DeusModus
    /#19382768

    Очень тяжело читать книгу. Много странных и непривычных выражений уже на старте:

    • приняло огромные масштабы
    • вышло из под возможного контроля
    • развивались быстрее способности договориться


    Есть и ошибки, вроде «И все они действовали через наемников. собранных со всего света.» или вот такие комичные конструкции «после окончания войны нелегалы стали разъезжаться обратно по миру нелегальными же путями».

    Даже в вашей статье: «Как разум будет двигаться к этой цели в масштабах вселенной мы пока не знаем. Нам надо для этого <?? нужно??> контактировать с другими цивилизациями.»

    Если у вас возникла потребность в том, чтобы поделиться с миром своими идеями, не стоит пренебрегать корректурой и редактурой.

    • Xom
      /#19382800

      Спасибо, уже понял, что надо было не пренебречь. Оперативно исправил. На счет «нужно» по моему и так и так правильно.

      • DeusModus
        /#19382884

        Да, в примере с нужно нет ошибки, там у меня что-то пошло не так :)

  2. valemak
    /#19382822

    Прочитал по диагонали книгу. Все беседы пропускал (их бегло читать сложнее, возможно, потом просто прочитаю по порядку только их), ознакомился только с описательной частью (апокалипсисы я люблю). Кстати, возможно, и Вам так и стоит сделать — беседы без остальных глав оформить отдельно, кому-то проще будет в них вникнуть таким образом.

    Моё любимое заблуждение адептов бессмертия оказалось ближе к концу повести. Всё надеетесь, что если полностью скопировать сознание (которое при этом достигнет самосознания), то устаревшую биологическую оболочку можно уничтожить и Вы продолжите жить в новой виртуальной ипостаси. Нет, это не способ бессмертия, а самоубийство. Именно Вы умрёте и провалитесь в небытие, а жить будет Ваша копия, которая не будет являться Вами несмотря ни на какие ухищрения и самообман.

    • Xom
      /#19382848

      Я собственно этот вопрос, как Вы могли прочитать (в Беседах), и ставлю. Собеседница героя как раз и говорит, что это невозможно. И обосновывает почему (как иному разуму ей
      как бы виднее). Но герой хочет рискнуть, это его мечта. Поэтому рассказ заканчивается тем, что герой сидит перед роботом, который станет или не станет им. Точку я в этом вопросе как раз не ставлю.

      • valemak
        /#19382886

        Не станет :)

        • Xom
          /#19382946 / +2

          Если знаете почему не станет, был бы рад прочитать.

          • eyno
            /#19385140

            Лем. Диалоги.

            • Xom
              /#19385148

              Читал когда-то, не помню, чтобы там было обоснование невозможности. Какой именно диалог?

              • eyno
                /#19385224

                Да они все, в общем-то, посвящены теме переноса сознания. Этика, подводные камни, возможные решения.

              • eyno
                /#19385234

                Вру. Давно читал и не всё. Первый. И в Сумме технологии тоже есть на эту тему.

    • DaneSoul
      /#19384212

      Именно Вы умрёте и провалитесь в небытие, а жить будет Ваша копия, которая не будет являться Вами несмотря ни на какие ухищрения и самообман.
      А человек просыпаясь утром после сна, когда его сознание было не отключено, но не функционировало в полной мере — это тот же человек или уже другой? А если он был в коме, то проснется тот же челоек или нет?
      ИМХО, сознание — это прежде всего совокупность особенностей функционирования нашего мозга (на уровне связей нейронов и нейро-медиаторов) + накомпленный жизненный опыт, которые в совокупности формируют наше представление о мире, то как мы с ним взаимодействуем и какие суждения и решения принимаем.

      • valemak
        /#19384228

        >>> А человек просыпаясь утром после сна, когда его сознание было не отключено, но не функционировало в полной мере — это тот же человек или уже другой?

        Тот же.

        >>> А если он был в коме, то проснется тот же челоек или нет?

        Тот же.

        • DaneSoul
          /#19384230

          То есть ВРЕМЕННОЕ отключение сознания — это не смерть, почему тогда при переносе на другой носитель это будет другой человек?

          • valemak
            /#19384588

            В смысле — отключение? Во время сна или комы мозг продолжает работать.

            • DaneSoul
              /#19384662

              Мозг то работать продолжает, но вот полноценным сознанием человек не обладает во сне или коме.

              • valemak
                /#19384738

                Наверное. Но полного отключения или переноса в другое место в случае сна/комы и близко нет. Непонятно зачем Вы вообще про сон и кому написали, если они не имеют отношения к сути обсуждаемой темы и даже не являются уместными аналогиями.

                • DaneSoul
                  /#19384784

                  Поясню свою мысль: во сне и коме человек временно находится в бессознательном состоянии. То есть низкоуровневые биологические процессы работают, но вот полноценного сознания нет, как к личности вы к нему обратится не можете, он «на паузе». При этом, после такого выключения вы говорите что просыпается тот же самый человек.
                  Теперь развиваем мысль дальше. Допустим мы когда-нибудь сможем полностью воссоздать человека в биологическом или цифровом виде и переписать его сознание в новую оболочку. Вы утверждаете, что после такого переноса это будет другой человек.
                  Вот сопоставьте первый и второй случай — сознание человека выключили, переписали в новую оболочку и включили. В чем принципиальная разница для его сознания с тем, что он очнулся после комы?

                  • Xom
                    /#19384792

                    В Беседе Одиннадцатой поясняется подробно, почему копия, проснувшись не в той оболочке, не узнает себя как та же самая личность. В этом действительно есть проблема.

                  • valemak
                    /#19384806

                    Насчёт того что полноценного сознания нет — это пока что только Ваши фантазии. Вряд ли Вы хоть раз изучали энцефалограмму спящего человека (или человека в коме). Учёные пока ещё изучают феномен сна (кома, возможно, от сна отличается разве что длительностью), но я вижу Вы уже в курсе что «сознание отключается».

                    Я вот вообще практикую осознанные сновидения. Ага, расскажите мне про отключение сознания во сне :)

        • Wortys
          /#19386516

          На данном этапе развития цивилизации эти вопросы имеют философский характер, так что я бы не был таким категоричным :)

  3. DaneilDem
    /#19383196

    Очень интересный рассказ!

  4. voidptr0
    /#19383282 / +1

    Наша цель — контакт с такими же как мы формами разума в галактике. Их много, мы должны найти их и установить связь,
    Какая-то странная и размытая цель. Целью сильного ИИ, скорее всего, будет установление доминиона и, соответственно, подавление любых посторонних факторов стремящихся помешать становлению либо существованию доминиона.
    P.S. Матрица установила именно доминион, Скайнет — тоже.

    • DGN
      /#19383660

      Ну как то так, да. Найти их быстрее, чем они нас, и ассимилировать.

      С другой стороны, ЕСЛИ нет способа связи со скоростью свыше светового (а пока все данные говорят именно за это) и нет способа влиять на законы мироздания (а тут вообще пока темный лес материи и никто не копал), то рост информационных структур имеет предел. И он не очень велик. Быть большим = быть тугодумом. Быть раскиданным по пространству — не сохраняется связность.

  5. kurono267
    /#19383468 / +1

    Прочитал книгу, забавно. Читается на одном дыхании. Правда концовка слегка грустная. Но идея интересная, правда не особо понятно каким образом даже очень умный вирус вырос в искусственный интеллект такого уровня, для этого нужна мотивация, т.е. некая конкуренция, на начальном этапе с антивирусами и людьми, но дальше есть два варианта, либо получиться идеальный вирус, который может спрятаться ото всех и плодиться, или к тому моменту как он справиться с этой задачей в нем должны зародиться другие цели. И вот каким образом зародились эти цели, это тот еще вопрос.

    • Xom
      /#19383474

      С вирусом это конечно художественная натяжка. Если бы я знал, как он реально мог развиться, он бы наверно уже появился ) Мотивация нашего появления собственно не сложнее. И цели у многих наших сограждан не такие уж другие. Все те же ))

      • kurono267
        /#19383520

        Понятно, что это художественная натяжка. По поводу мотивации, я рассуждаю скорее в контексте отхода от некого оптимума достижения которого может стать ловушкой, у людей всегда была некоторая конкуренция, сначала с животными потом с себе подобными, да даже элементарно конкуренция с самим собой чтобы сделать что то лучше чем у тебя было прежде. А вот у вируса в данном случае конкуренция может прекратиться гораздо раньше чем появиться необходимость в интеллекте.

        • kurono267
          /#19383558

          Хотя я подумал, что в идеале все вполне сводиться к некому аналогу эволюции. Часть вирусов могли остаться в оптимуме. Другие столкнуться с не знакомыми угрозами и постепенно улучшались. Также вполне возможна конкуренция отдельных их видов за использования устройств. Что вполне может объяснить появления интеллекта в дальнейшем.

          • Xom
            /#19383570

            Как вариант. Это точно не один вирус, и мутирующий. Так что конкуренция могла возникнуть просто как борьба разных видов за место на винчестерах.

  6. DGN
    /#19384110

    Очень интересная теория о пробуждении до будильника. И о людях которые включают в свое Я свою страну.

    Правда я обычно успеваю отключить будильник, то есть в моей реальности он не звонит. Мультиверс??

    Я правильно понимаю, что перезапись в робота, для индивида тождественна отправки в рай?

    Почему всех так пугает ментальный двойник?

    • Xom
      /#19384164

      Если успеваете отключить, явно не он Вас будит ))
      На счет рая трудно сказать, там скорее всего героя ждет просто другой мир. Это ему верится, что там будет рай. Особенно когда тут за окном трупы.
      Нам кажется, что мы единственны и неповторимы. Поэтому раздвоение пугает. Или просто говорит нам, что кто из двух не настоящий.

      • DGN
        /#19384210

        Но тем не менее есть такая особенность (просыпаться менее минуты до будильника), и вероятностями это не объясняется. Пока рабочая теория такова — будильник издает некий звук когда уходит на последнюю минуту. По крайней мере с будильником в телефоне такого не происходит.

        Очень странно до сих пор читать слова ненастоящий я, копия, клон… Когда есть хорошее русское слово — форк. ;-)

        • roscomtheend
          /#19388440

          Скорее просто привычка (будильник в одно время) и неприятное(раздражающее) ощущения от будильника заставляют проснуться чуть раньше.

          • DGN
            /#19388878

            В том то и дело, будильник в разное время. Но да, просыпаться от звонка неприятно.

            Я не уверен в точности хода внутренних часов человека, но в литературе описываются «супермены» из серии «но ровно через полчаса он проснется и начнет выполнять свою опасную, так нужную родине работу».

  7. Teemon
    /#19391314

    Прочитал на одном дыхании. Почерпнул много нового. Тема острейшая и интереснейшая. Очень понравилось.
    Небольшие опечатки и стилистические недочеты общую картину не портят. Было много вопросов по ходу чтения, надо было записывать, я их забыл)))
    Перекликается с направлением творчества у Пелевина, это не плохо и не хорошо — это говорит что тема злободневная и животрепешущая)
    ЗЫ. Ну и сам факт, что вы взялись написать и ДОПИСАЛИ книгу — это, конечно, стоит похвалы. Где там мой черновик?

    • Xom
      /#19391370

      Надо было записывать! Вопросы по сути — очень важно, чтобы идти дальше. Может перечитать и вспомнить их? ) Тема действительно острая, идея родилась именно как ответы на вопросы. Сюжет был не первичен, поэтому достаточно прост.

      П.С. Вы похоже уже знаете, чего стоит ДОПИСАТЬ ))

      • Teemon
        /#19391380

        Да, пробегусь по тезисам ещё раз потом. Может, напишете, какие работы по этой теме можно почитать?

        • Xom
          /#19391408

          Лучше уточнить по какой именно, так как у меня охвачено то их не мало в рассказе.

          • Teemon
            /#19391452

            Принципы работы мышления, сознания и всего такого))

  8. Teemon
    /#19391316

    Автор, расскажите, чем вы занимаетесь, какой у вас род деятельности?

    • Xom
      /#19391388

      Профессия такова, что могу писать по теме со знанием дела ) Остальное в личку.