7 февр. 2018 г.

Роботы, боги, ученые

22 апреля начинается второй сезон Westworld (первый трейлер, а вот реклама из Super Bowl и там еще дополнительные скриншоты в конце). Самое время продолжить разговор об искусственном разуме. Как вы помните, и это здесь недавно обсуждалось, в Westworld не оперировали такими совсем размытыми понятиями, как "человечность" или "душа", а говорили о "сознании", которое может возникнуть у роботов. В частности, использовалась концепция двухкамерного разума. Эта теория, в русском переводе существует как "бикамеральная" (ужасное слово) или "двухпалатная", что больше соответствует логике её создателя Джулиана Джейнса, который назвал её так по аналогии с двухпалатным парламентом.

Джейнс написал книгу "The Origin of Consciousness in the Breakdown of the Bicameral Mind" (не переводилась), которая произвела на многих, от психологов до фантастов, сильное впечатление, хотя основная её идея до сих пор считается спорной. Популярно она как раз изложена в Westworld: сознание в людях зародилось не сразу, а сначала у них был вот такой двухпалатный разум, где одна палата отвечала за принятие решений, а вторая - за их исполнение (законодательная и исполнительная власть). Решательная палата воспринималась, как сторонний голос, как считает Джейнс, со временем принятый как голос богов, которые указывали человеку, что делать. Потом двухпалатный разум стал сдавать позиции по разным историческим причинам, люди пришли в смятение, их новое сознание запутывало все дело, потому они старались сохранить старый порядок вещей в виде религий (само собой), в вере в астрологию и прочие указания извне, про которые так любят рассказывать у нас на РенТВ.

  В сериале эту роль решательного голоса выполняли скрипты, заложенные программистами. Но Бернард/Арнольд считал, что рано или поздно роботы начнут оценивать этот "голос" и принимать, как часть своего разума, тогда у них и возникнет "сознание", как когда-то оно появилось у людей. Вот только это "когда-то"  с нами случилось не так давно.

На русский переведена лекция Джейнса, где он достаточно подробно раскрывает свою концепцию (а тут популярная версия попроще).

Для начала довольно трудно определить, что такое сознание и где оно. Мы говорим "в голове", но сознание - это не физическая, и не физиологическая сущность, оно связано с мозгом, но трудно сказать, как. Особенно, если не понимать, что оно такое. При этом мы все знаем, что оно существует (правда, не у всех, я так считаю).

 Большинство действий мы делаем совершенно бессознательно - ходим, выполняем практически все движения конечностями, едим, разговариваем, думаем. Пишем комменты. Нет, серьезно. Как-то здесь человек написал гигантский оффтопик, в котором подробно изложил свои ощущения от похода за кредитом и закончил отличной фразой "Не знаю, зачем я это написал. Просто что-то захотелось". Я подумала "Ого!" и стерла коммент. Он обиделся, хотя у нас установился диалог - ему захотелось написать, мне захотелось стереть. Win-win.

Сознание - это не воспоминания, не чувства, не обучение, не опыт, хотя оно связано в той или иной степени с ними.

"Третье: сознание не является необходимым для обучения; я уже упоминал об этом несколько минут назад. Я очень долго работал, не подозревая об этом заблуждении. Если мы посмотрим на наиболее примитивные виды обучения, такие как, например, тренировка условных рефлексов Павлова, то они происходят и в отрубленных конечностях, например, в задней ноге обезглавленного таракана, которую вряд ли кто-либо наделил бы сознанием. "

Двухпалатный разум, или его остатки, по всей видимости, сохраняются у детей. Джейнс приводит в пример Хэппи, в смысле, воображаемого друга:

"В связи с наличием персонального бога возможно предположить, что часть нашего врожденного двухпалатного наследия осталась в современном феномене "воображаемого друга". Согласно моим собственным исследованиям, а также некоторым другим (Сингер и Сингер, 1984), подобный феномен проявляется, по меньшей мере, у одной трети современных детей в возрасте от двух до пяти лет, и предполагается, что в него включены весьма реальные вербальные галлюцинации. В редких случаях, когда воображаемый друг остается и в юношеском возрасте, он растет вместе с ребенком, и в моменты стресса начинает говорить ему или ей что делать. Следовательно, можно сделать вывод, что так и появился личный бог: воображаемый друг растет вместе с ребенком в обществе, возлагающем на человека свои ожидания, и он постоянно побуждает ребенка слышать голоса, а не прекращать это делать.

Это и есть двухпалатный ум."



А вот и Дёрка Джентли голос внутреннего бога, кажется, как раз полностью отсутствовал - он вообще не принимал решений, куда идти, а следовал только за своим мозгом, который гораздо умнее нас, он руководит огромным количеством  процессов, в частности, направляет ноги Дёрка Джентли в нужное место. Впрочем, может быть, они идут сами, потому что так привыкли, как мы, выйд из дому спохватываемся, что вообще-то надо в другую сторону. 

На самом деле мы все так или иначе слышим какой-то внутренний голос, правда, он уже не говорит нам, что делать, а просто произносит бесконечный внутренний монолог. Болтает, как Хэппи. Но если вы мысленно его спросите "Кто это вот сейчас говорит?", он тут же замолкнет и спрячется. Попробуйте. А если не спрячется, то у вас Хэппи!

37 комментариев:

  1. На русском языке на эту тему есть интересная книга Томаса Метцингера: "Тоннель Эго".

    ОтветитьУдалить
  2. Звучит как рационализация даосизма.

    ОтветитьУдалить
  3. Или еще, бывает, у некоторых там органчик играет, хехе...

    ОтветитьУдалить
    Ответы
    1. Нет, вспомнил персонажа одной книжки. Тетка жила одна на ферме, нанимая молодых мужиков в качестве сезонных рабочих. Главному герою, страдающему от чтения окружающих мыслей, понравилось что у нее там не было никакого говна, а была просто бодрая музыка. Кончилось конечно же все плохо, органчик играл НЕСПРОСТА.

      Удалить
  4. Я эту концепцию не очень понимаю, но нечто очень похожее излагает Татьяна Черниговская. Она ставит вопрос : мозг ли принадлежит человеку, или человек мозгу? И что мозг принимая решение посылает сигнал человеку (куда? Вопрос мой) что это решение человек принял сам. Я уже писала это в каментах, но здесь это опять просится. То есть у взрослого человека мозг это как бы решательный орган? Но он сам решил, сам и исполнил, решил завтракать, дал команду готовить и есть, по идее? Люди же сложнее таракана.
    Да и с тараканом неясно. У него же нет ЦНС, у паука сенокосца если лапку оторвать, так она еще долго будет специально дергаться, чтобы отвлечь внимание хищника. Что подразумевалось под обучением рефлексам?
    Опять же стимуляция током насколько я понимаю вызывает сокращения мышц даже у мертвого тела, а вот на горячее и холодное мертвое тело уже не будет реагировать. Т.е. ток вызывает реакцию обусловленную самим устройством мышц, а для горячего и холодного нужен ответ мозга на сигнал нервных окончаний. Может и с тараканом так было.

    ОтветитьУдалить
    Ответы
    1. Черниговская немного иначе ставит вопрос. Она вообще не заморачивается, что такое сознание и с чем его едят, это не сфера её интереса. Она трактует дело так: есть мозг, который делает очень много всего безо всякого нашего ведома. Мы даже не подозреваем о тех процессах, которые он запускает и контролирует.А есть его небольшая по отношению к общему объему работ функция - производство мыслей. Эти мысли мы ассоциируем с собой, по её определению с "человеком". Это человек мал и ничтожен по своим возможностям в сравнении с мозгом. Человек лишь побочный продукт мозга и тд.

      Джейнс рассматривает другую область - что есть сознание, то есть та часть мышления, которую мы определяем, как вот нашу сущность. При этом, он считает, что большая часть мышления ("человека" по Черниговской), она вообще к сознанию отношения не имеет. Люди научились говорить, они строили города, творили искусство и познавали мир, но разговаривали с голосом в голове. И это с ними говорил не "мозг", а какой-то центр в правом полушарии, который отвечал за эту функцию.

      Примерно так, на мой взгляд.

      Удалить
    2. Ответ юридически прост: не являясь человеком в юридическом смысле, мозг не может владеть чем либо, а следовательно не может владеть человеком. И да, каков вопрос, таков и ответ.

      Насчет неосознанного обучения, курим тут:

      https://ru.wikipedia.org/wiki/%D0%98%D0%BC%D0%BF%D0%BB%D0%B8%D1%86%D0%B8%D1%82%D0%BD%D0%BE%D0%B5_%D0%BD%D0%B0%D1%83%D1%87%D0%B5%D0%BD%D0%B8%D0%B5

      Там приводятся достаточно чудовищные примеры, скажем эксперимент в котором испытуемым дают набор случайных "слов" и через какое-то время испытуемые бессознательно выводят грамматику.

      Удалить
    3. Ну эти все "юридические смыслы" и там "человек - это звучит гордо" - это лишь глупости. которые позволяет нам производить мозг, чтобы обеспечить себя теплом, питанием, долгой жизнью и разными милыми эндорфинами и дофаминами.

      Удалить
    4. 2corpuscula: А вода так вообще создала людей, чтобы переносить себя в гору! В поставленном выше вопросе было некорректно употребление слова "владеть", не имеющего значения ни в биологии, ни в психологии. В конце концов Вы и есть специфическая комбинация нейронных связей в Вашем собственном мозгу, о каком владении может идти речь?

      Удалить
    5. Аа. Ну тут надо почитать первоисточник какой-нибудь. Сложно говорить о таком не разобравшись хотя бы приблизительно. Я люблю цикл передач по Дискавери "мозг вас обманывает" но такого там не показывали.

      Удалить
    6. 2 fms: Внимание!!! Вы потеряли нить разговора! Показываю один раз:
      скарапея своими словами пересказала концепцию Черниговской, по которой, если упрощенно излагать, мозг есть сложный и важный Биоприбор, а мы со своим "я", "человек" и проч., только побочный шум, который этот Биоприбор производит.
      Вы вступили в полемику, зацепившись за слово "принадлежит", заменив его на "владеть", которое она не использовала, но даже это не важно.
      Теперь вы уже обращаетесь с критикой этого слова ко мне, хотя его и вовсе не использовала.
      Остальные рассуждения вы строите на принятии факта, что есть "человек" или "вы/я", не определяя, что вы под этими понятиями понимаете.

      Удалить
    7. 2corpuscula: Ок, не вопрос, сарказм слушателями не уловлен, поэтому расширяем определение слова "владеть" до "управлять нами как вязаным носком с глазами".

      Тогда, переходя от сарказма к кащенитству, спрошу Вас: если мы с нашим "я" лишь побочный эффект этого Важного Биоприбора, то какова же его основная Его функция? То есть, я не против быть отпечатком жопы на коже кресла, но из чисто академического интереса хотел бы знать в чем ее главное предназначение?

      Удалить
    8. Еще раз читаем мой коммент выше, сделав упор на "скарапея своими словами пересказала концепцию Черниговской, по которой..." И понимаем, что "спрошу Вас: если мы с нашим "я" лишь побочный эффект этого Важного Биоприбора" надо адресовывать не мне, а автору концепции. Наверное.

      Удалить
    9. Да, жалко конечно что нельзя допросить ту черниговскую с пристрастием.

      Удалить
    10. Я ожидала ответ "Извините, что-то был невнимателен, увлекся".
      а текстов Черниговской полно в сети.

      Удалить
    11. to fms - *то какова же его основная Его функция?* - конечно, экспансия вида :))

      Удалить
  5. С внутренним голосом у меня вопрос - а если мой не говорит а слушает? Ну в самом деле. Говорю-то я. А его задача просто в нужные моменты поддакивать и подавать носовой платок. Ну или топор. По обстоятельствам

    ОтветитьУдалить
    Ответы
    1. А вы спросите - кто это говорит? У него. Или у себя. Очень интересный эффект.

      Удалить
    2. Не-не, я всегда точно знаю что говорю я
      Но воображаемый друг у меня в детстве был, а сейчас я к нему обращаюсь в трудную минуту. Просто он молчит. Я ему проговариваю проблему и так успокаиваюсь
      У меня был опыт "чужих мыслей"
      Я принимала дикое количество гормонов и в какой-то момент меня посетила мысль которую я почти сразу идентифицировала как себе не свойственную. Вот это был эффект.
      Мысль была высказана моим голосом, все ок. Но я поняла (кстати чем?) Что в норме я ее бы не подумала и испугалась. Наверное так себя чувствуют шизофреники. Тогда мне было не до того, а потом этот кошмар с гормонами закончился и такие мысли перестали приходить мне в голову, да и я узнала, что от таких доз гормонов крыша может действительно отъехать.
      Поясню детальнее. Это было не ощущение (гормоны могут вызывать гнетущее состояние, страхи и т.д. и т.п.)
      Это была конкретная мысль. Но ни до ни после я таких мыслей не думала, хе-хе.
      Ничего страшного, про деньги.
      Я пожалела что муж подарил деньги своей родственнице. Видимо, так заработал инстинкт гнездования и все такое.

      Удалить
    3. Если вы под "я точно знаю, что это говорю я" имеете в виду внутренний монолог, то я именно про него и предложила вам спросить себя мысленно "кто это сейчас говорит?". В самый разгар, когда он происходит. Не важно, чьим, как вам кажется, голосом (потому что это просто мыслеформы у нас в голове, никакого голоса нет, нет звуков, "ложки нет"), просто сфокусируйтесь на мгновенье. Это просто любопытное упражнение.
      То, что вас посетила какая-то тревожная (пугающая, чужая, чужеродная) мысль - это обычное дело. У всех бывает, у кого-то меньше, у кого-то больше (при тревожных расстройствах) и так до клинических состояний.

      Удалить
    4. Во, Черниговская тоже рассуждает о сознании - http://polit.ru/article/2008/12/24/langmind/ - но всё же больше как нейролингвист рассматривает всякие языковые системы. Сознание для неё понятие общее и размытое.

      Удалить
    5. Так, эксперимент провела. На самом деле вздрогнула (не ожидала)
      По поводу чужеродных мыслей - в том-то и дело. Это не была тревожная мысль, по части тревожных мыслей к определенному возрасту у всех большой опыт. И я ее никак не могла рационализировать. А как правило я стараюсь понять и быстро понимаю почему я подумала то-то и то-то. Ассоциации, информационный фон, не выспалась и т.д.
      А та чужая мысль была примерно как - сижу, пью чай, и тут возникает мысль - трава синяя.
      Ни с чем не связанная. Индуцированная.

      Удалить
    6. Она тревожная не потому, что о чем-то плохом, а потому что вызывает чувство тревоги ("мама, это голос в голове, ужас, я сошла с ума") или является результатом какой-то тревоги (не бытовой, а какой-то химической, там, в нейронах). Или что-то выскочило из другой "палаты". Это обычные глитчи.

      Удалить
    7. Поясню, у меня нет опыта наркотического опьянения, может там схожий эффект.
      Глюки от наркоза я ловила, но их не помню.
      Перечитала свой камент, поняла что упустила одну деталь. Я принимала большое количество прогестерона и эстрогена, они в принципе вызывают побочкой депрессивные настроения, тревожность и т.д.
      А тут была именно оформленная как бы рациональная мысль не тревожного характера. Это потом я понял что взялась она по той же причине.

      Удалить
    8. Я говорила не о глюках (голлюцинациях), а о глитчах - случайных помехах. Проведу аналогию с комментами: есть тред, все пишут по теме, и вдруг один человек оставляет в треде анекдот про Штирлица, причем еще и адресует его кому-то. И больше не пишет ничего. Почему он это сделал, зачем, что хотел сказать - никто не знает. В связной дискуссии возник случайный глитч.

      Удалить
  6. кстати, вот в христианстве есть же косвенные отсылки к этим "голосам".
    когда греховные мысли появляются в голове, нам необязательно с ними соглашаться и следовать, не надо и себя с ними ассоциировать, как с продуктом своего разума. то есть, они как бы рассматриваются как существующие и приходящие к нам сами по себе, а мы как "приемник", что ли
    не вспомню у кого из святых отцов я это читала, но это точно была никакая не псевдохристианская литература. может, у Иоанна Кронштадского

    ОтветитьУдалить
    Ответы
    1. Ну есть же "диавол наущает". Нашептывает плохие, греховные мысли.То есть, такой чужой голос в голове.

      Удалить
    2. и это тоже, но наличие голоса дьявола, вроде как, само по себе было плохим признаком? здесь нет такой идентификации, в этой мысли основное - что так у всех, вопрос только в том, чтобы уметь отделить себя, не погрузиться и не воспринять этот поток как себя. это мне показалось очень необычным и действительно утешительным

      Удалить
    3. Я имела в виду, что в религиях наличие чужого "голоса" (плохого или хорошего) - естественный ход вещей. При этом используется прозрачная метафора - этот голос наущает (навязывает свои решения), нашептывает (то есть, его "слышат", но тихо и близко) Но сохраняется свобода воли - человек может отделить себя от этого голоса и не соглашаться с тем, что он считает плохим. А мысли буквально прогнать.

      Удалить
  7. Мне не нравится трактовка религии Джулианом Джейнсом. Религия холистична и даже простейший анимизм не сводится к слушанию собственного внутреннего голоса.
    Насчет остального я согласен, добавлю что по одной из теорий есть часть мозга которая отвечает за моделирование себя, она и есть Эго и тот голос которое с нами говорит. И по еще одной из теорий что это Эго относится к части мозга которая определяет опасности. Не пытайтесь заткнуть этот голос, это часть вас и вам с нею жить.
    Но в Вестворлде как я понимаю проблема не в том что у роботов сознание, а в том как определить что у чего-то есть сознание.

    ОтветитьУдалить
    Ответы
    1. В Вестворлде у роботов не было сознания, но Арнольд рассчитывал, что оно может у них зародиться, и проблески этого сознания видел у Долорес. Дальше там всё свелось к метафоре лабиринта и само зарождение и определение, что вот это вот сознание, как-то выпало.

      Удалить
  8. Не знаю, насколько концепция Джулиана Джейнса бесспорна, но интуитивно она ощущается верной. Сторонний голос, к примеру, я слышу в моменты стресса и\или принятия решений. Причем он безэмоционален и просто сообщает: будет так-то. Это не Бог весть какое диво. Я когда-то в жежешечке проводила опрос, и многим этот голос оказался знаком. У детей все еще острее: они из отделенной части собственного "я" создают воображаемых друзей, тульп себе лепят и проч.

    Другое дело, что обычно люди об этом не распространяются, поскольку никто не хочет выглядеть в глазах окружающих шизофреником.

    ОтветитьУдалить
    Ответы
    1. Не знаю, насколько концепция Джулиана Джейнса бесспорна

      Я написала в посте, что она как раз считается спорной. И даже маргинальной.

      Удалить
  9. зашла исключительно, чтобы сказать спасибо за ссылки на Джейнса. очень интересно, а ведь обычно при слове "психолог" меня скручивает скепсис.

    ОтветитьУдалить
  10. Вы тут все так рассуждаете, как будто знаете что такое "сознание" и есть ли оно вообще, да еще и в гордыне своей считаете что оно бывает только у людей, отличая их от всех остальных организмов.

    ОтветитьУдалить
  11. Недавно статья на глаза попалась, про психопатичные мысли у обычных людей и влечение к общественно-неприемлемому. После лекции Джейнса ее особенно занятно читать.

    https://theoryandpractice.ru/posts/11530-darkest-thoughts

    ОтветитьУдалить

ВНИМАНИЕ!!! ГУГЛ ОТКЛЮЧИЛ OPEN ID, с ЖЖ эккаунтов теперь комменты не проходят.