13 янв. 2018 г.

Андроиды и человеки

Тут напомнили про Westworld. Вообще сюжет про восстание создания против своего творца и отстаивание им права на собственную жизнь существует со времен Адама в буквальном смысле. Его можно найти и в греческой мифологии, и в "Колобке", и в "Снегурочке", и во "Франкенштейне", и в "Метрополисе" Ланга, и в "Матрице". Тьмы их.

Но если рассматривать только очень короткий период от "Блэйдраннера" (даже не от романа Дика), где бунт был поводом для размышления, что есть та самая "человечность", до последних фильмов и сериалов, то идея трансформировалась следующим образом:

1. Блэйдраннер, 1982 г. - Биологические андроиды, репликанты поколения Нексус-6 проникают на Землю с одной целью - увеличить срок своей жизни. Превосходя людей по многим параметрам, они живут всего 4 года. За это время у них не успевает накопиться полноценный эмоциональный опыт, они становятся агрессивными и бунтуют, поэтому им стали внедрять искусственные воспоминания для "эмоциональной стабильности".  Именно этот фактор - эмоциональный отклик и уровень эмпатии - и определяется тестом Войта-Кампфа, так их отличают от людей.

"Человечность" в фильме Скотта определяется, как уникальный личный опыт, воспоминания и связанные с ним эмоции, которые и есть оставляемый в мироздании след, из этого состоит личность. Умирая, репликант Рой Батти сожалеет о том, что все его воспоминания, его переживания, исчезнут вместе с ним, растворятся без следа, как слезы под дождем. В то же время, спасая жизнь Декарду, он этот след оставил.

2. "Призрак в доспехах", 1995 г. - Люди сами физически стали наполовину, а некоторые и полностью, машинами, а человека от робота отличает наличие "духа" (ghost) или в распространенном переводе "призрака". Этот призрак можно хранить отдельно от тела и переписывать. Но его можно взломать или стереть. Майор - человек с практически полностью кибернетическим телом. Она сталкивается с теми, чей призрак был уничтожен или взломан, а воспоминания подменены.

Майор сомневается, человек ли она сама, правдивы ли её воспоминания и уникальна ли. Но тут на неё выходит кибер-интеллект без тела, Кукловод, самозародившийся "призрак", и предлагает объединиться. Для него это способ самовоспроизведения, он так решил размножаться. Майор принимает его и вместе они становятся новым существом в искусственном теле с наполовину искусственным призраком.

В анимэ Осии у "призрака" нет четкого определения, но он отвечает за свободу выбора и прошлый опыт. Кукловод передает ей свой опыт, свою цифровую память и возможности. Это его наследие. Майора перестает мучить вопрос человечности, она принимает себя новым существом.

3. "Призрак в доспехах", 2016 г - Майор убеждена, что она полностью искусственное существо и в этом и есть её уникальность. Ей это постоянно повторяют инженеры-создатели. Но её беспокоят обрывки неясных воспоминаний. Киборг Кёндзе помогает ей восстановить память и оказывается, что она не робот, а человек, потому что когда-то родилась от живой женщины.

Знакомая тема - кто от мамы родился, тот и человек.

4. Westworld, 2016 г - Механических андроидов используют для развлечения в парке аттракционов. У них внедренная примитивная память и они следуют сценарию. Но один из создателей верит, что в них может зародиться собственное сознание, благодаря которому они перестанут следовать сценарию. То есть, обретут свободу выбора и личный опыт.

Человечность здесь выражается в способности делать этот выбор, хотя андроиды (и зрители тоже) пока не до конца понимают, где их выбор, а где сценарий.  Создатели оперируют понятием "сознание", хотя и не формулируют, что именно под ним подразумевают.

5. "Блэйдраннер 2049", 2017 г. - Андроид нового поколения Нексус 9  Кей (К) обнаруживает, что его воспоминания правдивы, хотя не знает, принадлежат ли они ему. Но он начинает верить в свою уникальность и избранность - он не был создан искусственно, а был рожден, хотя и от искусственной женщины. Узнав, что ошибался, он жертвует собой (умер или нет - под вопросом), чтобы отец мог повидаться с дочерью, чьи воспоминания были ему внедрены.

Кей лишен свободы воли, в нем заложено подчинение, его "человечность" выражается в самопожертвовании и пробудившемся желании выбора. Для остальных репликантов "человечность" - это способность размножаться половым путем, поскольку в этом случае возникает "душа".

Хотя все эти произведения оперируют одними и теми же сущностями - память, эмоции, личность и выбор, сама "человечность" интерпретируется по-разному. В "Блэйдраннере" это в большей мере "чувства", а в Westworld - "разум". В анимэ "Призрак в доспехах" Майор осознанно эволюционирует, слившись с "машиной", в одноименном фильме наоборот, находит подтверждение своего человеческого происхождения, и с этого момента считает себя не машиной, а человеком. Деградирует в каком-то смысле. В "Блэйдраннере" Батти доказывает, что репликанты "человечнее человеков" несмотря на своё происхождение,  в "Блэйдраннере 2049" они настаивают, что они такие же, как люди, потому что могут родиться традиционным способом. Их никто не создает, они сами себя создают.

Вот такая история.

57 комментариев:

  1. Колобок то, оказывается, был node Skynet'а. Coloboque - rolling menace.

    ОтветитьУдалить
    Ответы
    1. Типа того. Он был искусственный, обладал интеллектом, правда, не особо развитым, и свободой выбора - ушел от создателей жить своей жизнью и злить биоорганизмы.

      Удалить
    2. Мог сочинять графоманские стихи:
      Я от бабушки ушёл
      Я от дедушки ушёл.

      Удалить
    3. Это он транслировал свой скрипт. Как всякий AI он самообучался - ушел раз, ушел два, уйду и при этих значениях переменной. И это работало, пока Лисичка не взломала его.

      Удалить
    4. Устроила ему stack overflow.

      Удалить
    5. и кстати, "перекати поле", пришедший на смену роботу R2D2, в Star Wars, троллит тему колобка!

      Удалить
    6. То есть лисичка таки скушала злонамеренного киборга?

      Удалить
    7. А что, финал уже переписали? Я олдстерша, могла пропустить. В моем детстве всё заканчивалось колобализмом

      Удалить
    8. Со Скралетт Уохансон в роли Колобка! (На самом деле, можно весь кастинг собрать).

      Удалить
  2. Как в эту картинку вписывается сериал Humans? У меня из головы не идут несколько особо пронзительных моментов в нем, а так даже сама идея кажется довольно размытой.

    ОтветитьУдалить
    Ответы
    1. Я видела только первую серию и мало что помню.

      Удалить
    2. Про американскую версию не знаю, а в оригинальной взбунтовались, потому что хотят быть как люди.

      Удалить
  3. В Westworld личность формируется вокруг уникальных искусственных воспоминаний, опыта, желательно травмирующего, и связанных с ним эмоций. То есть близко к фильму Скотта, вот только своего опыта андроидам не дают получить.

    ОтветитьУдалить
    Ответы
    1. В Westworld обратная связь - сознание как-то формруется и пробуждает воспоминания, а не воспоминания - сознание. Все эти разговоры про двухкамерный разум, внутренний голос и метафора лабиринта.
      В "Блейдраннере" репликанты обладают сознанием, самостоятельным уникальным и очень высоким интеллектом (они же биологические, их мозг человеческий), но у них эмоциональная область в пролете - эмоции есть, но как они работают, репликанты не очень понимают. Тут принципиальная разница с Вествёлдом в том, что репликанты - это физически люди, просто с урезанным сроком жизни и социопатией, а хосты в парке - роботы на базе искусственного интеллекта, с искусственными эмоциями, с искусственной памятью и без сознания.

      Удалить
  4. Лично мне, хотя я ничего не смотрела а только читала Ф.Дика, не нравится вот эта деталь - только тот правильный человек, что рожден женщиной обычным способом
    Это уплощение сюжета и упрощение до каких-то средневековых предрассудков, плюс привносит фатализм - обстоятельства своего рождения ты не можешь изменить и никакие твои подвиги не сделают тебя лучше.
    Плюс как-то не настраивает на принятие новейших репродуктивных технологий, а ведь не за горами разработка искусственной матки человека

    ОтветитьУдалить
    Ответы
    1. Не "правильный человек", а вообще человек. Как это у американцев сообразуется с искусственными оплодотворениями и сурогатными матерями - большой вопрос.

      Удалить
    2. И ЭКО и суррогатное материнство все же нуждаются в женщине. Но сейчас разрабатывается аналог матки для доращивания глубоко недоношенных малышей (пока опыты на ягнятах)
      Если можно вне тела человека дорастить эмбрион до 5-6 дней (минимум), а потом выходить ребенка начиная с 22 недели, беременности, то наверное в будущем эта 21 неделя будет преодолена с помощью искусственной матки и детей станет возможным полностью выращивать в пробирке. И возможно даже мы с вами еще это застанем.
      Так что мне кажутся странными такие негативные ассоциации (из пробирки - сразу не человек), и прежде всего слишком примитивными.

      Удалить
    3. Так в кино дело не в женщине, а в том, что родился у мамы. Они же все хотят повидать маму или папу. А если не мама? А если зачат в пробирке, выношен не мамой? А если зачат андроид, а потом родился у женщины? А если человек, но выношен искусствено, а если... Короче, как говорил Рой Батти, "вопросы".

      Удалить
    4. Из последних новостей в сфере репродукции, в ноябре в Далласе родился первый в США ребенок, выношенный в пересаженной матке. А в Швеции эту операцию проводят с 2014г. и сейчас уже 7 шведок стали мамами в результате этой операции. Если интнресно, порядок такой: пересаживают матку, потом делают ЭКО , при положительном ЭКО женщина вынашивает ребенка, на 32-36 неделе делают кесарево, потом через некоторое время матку удаляют. Просто новости.

      Удалить
    5. А японцы научились читать мысли. Пока не очень хорошо, но круги и треугольники прямо из мозга считывают с помощью нейросетей и показывают на экране!

      Удалить
    6. О, killmanda, вот это да, это хорошие новости. О дивный новый мир!
      Но тут все таки еще есть связь - женщина- ребенок.
      А вот когда станет возможным полностью вырастить ребенка вне тела, вот тогда возникнут настоящие вопросы.

      Удалить
    7. 2 змея скарапея: Я это пишу к тому, что человечество расширяет свои возможности, а не сужает, до искусственных маток остался даже не шаг, а шажок.
      Еще одна новость: трансгендер Кейси Салливан стал первым человеком, родившим ребенка будучи и женщиной и мужчиной. Зачатие произошло на этапе перехода женского тела к мужскому. Вот его история: http://n-e-n.ru/transparent/

      Удалить
    8. А, и сюда же в копилку: В США женщина родила ребенка, зачатого "в пробирке" 24 года назад. http://www.wonderzine.com/wonderzine/life/news/231856-american-child

      Удалить
    9. О, вот про трансгендера не знала. Это сильно!

      Удалить
    10. Не бывает одновременно "мужчины и женщины". Хромосомы либо такие, либо сякие.

      Удалить
    11. Бывает. Синдром Тернера - и не ХХ, и не ХY.

      Удалить
    12. Тогда это не мужчина и не женщина.

      Удалить
    13. 2 FMS: Он не "одновременно и мужчина и женщина", а в разное время и разных детей. Первого ребенка будучи женщиной, второго - будучи мужчиной. "Одновременно" - это уже ваша приписка.

      Удалить
    14. 2killmanda: Цитируя Вас же: "трансгендер Кейси Салливан стал первым человеком, родившим ребенка будучи и женщиной и мужчиной. Зачатие произошло на этапе перехода женского тела к мужскому".

      И таки нет, невозможно из женщины стать мужчиной, хотя некоторые и пытаются.

      Удалить
    15. Не пойму как будет развиваться плод в искусственной матке? Ведь все время беременности присутствует реверсивная связь между ребенком и мамой, как эмоциональная так и физиологическая. Это что же, компьютерная пуповина все решать будет, или может приложение из айтюнса? Так это получится натуральное воплощение репликантов

      Удалить
    16. У Буджолд народ бодро рожает с помощью искусственных маток и не парится вообще по этому поводу.

      Удалить
  5. А андроиды могут создавать сами других андроидов? Не рождением, но независимо от людей? (Давно смотрела первый фильм и не помню этот момент).

    ОтветитьУдалить
    Ответы
    1. Судя по осведомленности Батти в собственном устройстве, могли бы, но им не дают. Технология дорогая, сосредоточена на Земле, а их туда не пускают.
      А вот почему во втором фильме эту возможность не использовали - это вопрос к сценаристам. Но там и так полно дыр в сценарии и без упущенных возможностей.

      Удалить
    2. Вот да, я о том подумала. Если они не могли в принципе себя воссоздавать, то да, рождение для них — почти как путь к свободе. Но причин, чтобы не могли в принципе нет вроде бы. Тогда действительно получается, что им логичней было бы объединиться, захватить технологию и менять настройки по своему усмотрению — а там тьма сценарных вариантов.

      Удалить
    3. Так во втором фильме им продлили жизнь. Они зачем-то теперь стареют. И почему-то им можно жить на Земле, кроме старых моделей, потому что у них нет опции послушания. Но проститутка вот из новых моделей, а работает на революцию. Так что с послушанием тоже вопрос темный. Сценарные дыры всюду.

      Удалить
    4. После прочьения рецений вспомнила фильм и ощущения от него. Что-то очень нехорошее происходит с кино, потому что на самом деле на фоне других больших премьер сай-фай и фэнтези фильмов, наверное современ Аватара или может быть даже Властелина (а довелось посмотреть много вышедшего, включая Варкрафт и, простите, Зеленый фонарь) новый Блейдраннер смотрится молодцом. Получается, требования к фильмам теперь: красивая картинка, отсутсвие совсем уж адских клише и чтоб на время не смотреть, пока сеанс идет. Как в новых Звездных войнах: все говорят про Силу, а она кончились. И в сериалах не густо.

      Удалить
    5. Не, кинематографически он отлично сделан - постановочно, операторски, монтаж, выше всяких похвал.И даже Райан Кислая Морда Гослинг не раздражает. Но сценарий так себе, на сложных щщах, проблема с хронометражом и последним часом, слабая центральная идея и нет роли, соизмеримой с Батти.

      Удалить
    6. Так оно все отлично сделано: Войны новые — красота, а по содерданию: «дети, давайте сегодня разберём, что такое буддизм. Вот вам картинки для наглядности». Блейдраннер казался лучше, но оказалось, только казался, протсо потому, что его мир мне был знаком меньше других. Все в лучшем случае примитивно, в худшем бестолково. А так да, все красиво и технически круто — я визуал и радостно хожу на все такие фильмы в кино.

      Удалить
  6. В звездном крейсере "Галактика" 2003 года сайлоны (те же андроиды) очень хотели родить ребенка (и уничтожить людей), для них это была божественная миссия. Когда один-единственный ребенок получился у человека и дамы-сайлона, то половина сайлонов даже перешла на сторону людей в бесконечной войне.
    То есть вот эта идея: родился - значит уже не робот, уже благословенный ребенок, ребенок-символ и пр, не такая и новая. Жаль что к ней свели Блэйдраннера. А ведь сценарист нового фильма тот же, что был и у старого.

    ОтветитьУдалить
    Ответы
    1. Идея вообще не новая :)
      Был такой фильм : Бессмертные: война миров.
      Женщины которые могут рожать - большая редкость, и египетский бог Гор еле находит такую, чтобы обманом, через аватара, скажем так, оставить свое потомство и обрести вновь бессмертие.
      И примеров я думаю очень много еще

      Удалить
    2. Героиня у Боал нечеловечского происхождения, там как раз аватр выбран потому, что он будучи в тюрьме не подвергался никаким генетическим изменениям

      Удалить
    3. Извините за опечатку: героиня у Билала

      Удалить
  7. Этот комментарий был удален автором.

    ОтветитьУдалить
  8. Почему-то из цепочки выпущен Робокоп (1987) — ему тоже твердят, что он полностью искусственное существо.

    ОтветитьУдалить
    Ответы
    1. Робокопу легче было. У него перед глазами(?) уже был пример братьев Сыроежкиных

      Удалить
  9. Питтеор Уоттс писал в своём блоге,что реакции полицейского босса на факт андроидного рождения странная-долгие тысячелетия рабство процветало при вполне себе размножающихся рабах

    ОтветитьУдалить
  10. А между тем Antonio Damasio объясняет, что чувства и есть нижний уровень разума и основа его человечности.

    ОтветитьУдалить
  11. Все эти рассуждения про человечность это отголоски религии и веры. Человек биологическая машина. И опыты показывают что процесс выбора проводится в подсознании, и только потом передается в сознание. Сработала ли там в подсознании строка из сценария или какая-то реакция на внешние стимулы сознание не знает и у него даже нет способов это проверить. Поэтому человечность определяется обществом и закрепляется законом. Вот про это в явном виде имхо в кино не особо говорят. Но намекают активно

    ОтветитьУдалить
    Ответы
    1. Т. Черниговская интерпретирует процесс выбора решения вообще оригинально, решения принимает мозг, и сообщает человеку (чему тогда? Сознанию? А оно где?) Что вот это готовое решение принял сам человек.
      Что тогда человек? Оболочка для мозга, сознание? И что такое мозг в ее интерпретации? Подсознание?

      То есть человек это все же мозг и его оболочка.
      А от искусственного интеллекта его отличают эмоции. А эмоции на мой взгляд контролируются гормонами. Значит если андроидам делать инъекции эстрогена например они вам покажут такой уровень эмпатии, что мало не покажется?
      Отклик то на гормоны дает мозг.
      Встроить механизм реакции на гормоны, наладить режим их введения в организм и получится человек опять со всеми его недостатками?

      Удалить
    2. У репликантов были эмоции, но у них не было жизненного опыта, она не "росли" как мы, а появлялись взрослыми, поэтому не умели эти эмоции, грубо говоря, применять к разным ситуациям. В силу того, что они ничего хорошего в жизни не видели, то основные их эмоциональные проявления это гнев и ярость. Об этом говорится у Вильнёва, Ана Стеллин рассказывает Кею, что у репликантов жизнь хреновая, поэтому им внедряют воспоминания о чем-то хорошем.

      Удалить
  12. До кучи.
    У Кэролайн Черри в романе "Сытин" (1988 год) описано человеческое сообщество, которое в какой-то момент столкнулось с необходимостью срочно нарастить численность популяции. У них были ресурсы и технологии, чтобы создать огромное количество клонов, но не было ресурсов, чтобы всех этих клонов воспитать, а армия маугли никому не нужна. Поэтому клонов (или ази, как их там называли) не столько воспитывали, сколько программировали при помощи специальных гипнозаписей. Для каждого генотипа ази разрабатывали отдельный набор гипнозаписей, формирующих определенную "личность", наилучшим образом подходящую к врожденным особенностям и предпологаемой будущей области деятельности ази. При необходимости эту личность редактировали или вообще перезаписывали. Гипнозаписи также использовались для поощрения и наказания ази. Личности у ази получались хрупкие и неустойчивые. Попавший в незнакомую ситуацию ази мог умереть или сойти с ума от стресса, так что им периодически требовался кто-то, кто уверенным голосом скажет, что с самим ази и с миром вокруг него все в порядке.
    Официальный термин, обозначающий ази, - "неграждане". С возрастом ази (особенно ази с генетически заданным высоким уровнем интеллекта) могли отрастить себе свою собственную личность, прокачать устойчивость к стрессу от незнакомого, сдать государственный экзамен на гражданство, и получить все соответсвующе права, свободы и обязанности. Дети, родившиеся у ази, получают гражданство автоматически.
    Цимес в том, что технология гипнолент использовалась не только для программирования ази, но и для обучения граждан. В мире будущего человеку не хватает природных способностей к усвоению информации, и чтобы поддерживать свою конкурентоспособность на рынке труда, люди закачивают себе в голову знания при помощи гипнозаписей. И это любимая тема для паранойи: а не подкладывают ли корпорации и/или правительство в эти записи что-то такое, после чего ваши мысли, воззрения, предпочтения и решения уже не совсем ваши? Технология-то та же самая.
    В общем, целых три варианта деления:
    1) с точки зрения закона биологические хомосапиенсы делятся на правоспособных и неправоспособных. Очень просто. Создание армии рабов - по крайней мере, официально - это временная и крайняя мера. Чем быстрее они или их потомки станут гражданами, тем меньше геморроя.
    2) с точки зрения граждан важнее, сформирована ли личность хомосапиенса им самим (ну и фактором случайности), или разработана и записана кем-то другим (и самый большой страх - отхватить по случайности или по чьей-то злой воле гипнозапись, предназначенную для ази).
    3) с точки зрения ази разница как раз в способе рождения. Для них люди делятся на "ази", выращенных в репликаторах, и "рожденных людей". "Стать как рожденные люди" или "делать рожденных людей" - это для них как бы далекая вершина жизненного пути.

    ОтветитьУдалить
    Ответы
    1. Описанное вами как-то пугающе сильно напоминает перипетию последнего Блейдраннера. Исключая возможность клонам стать людьми или свободно иметь детей.
      Дело, значит, именно в искусственном происхождении разума. Но, по словам corpuscula, в первом фильме посыл был другим - искусственность репликантов не волновала.

      Удалить
  13. Нет, по-моему. У Черри тест определяет не искуственность/естественность разума, а достаточность/недостаточность развтия критичных для автономного существования в обществе свойств личности. И цель теста - не отфильтровать "ненастоящих" людей от "настоящих", а определить меру правоспособности. В другом романе по той же вселенной имена ази (или бывших ази? не помню в тексте никаких указаний на особое отношение к этой категории, что само по себе показатель) в перечне руководящего состава сверхсекретной экспедиции шли через запятую с именами "рожденных людей" и выделялись только присоединенным к имени серийным номером. "Граждан" стремают не столько искуственные личности, сколько возможность потерять свою естественную. А ази просто явно видят свое отличие от "граждан" и привязывают его к наиболее очевидному отличию в жизненном пути, хотя это отличие как раз не основопологающее.

    ОтветитьУдалить
  14. Забыли про Ex Machina с Викандер

    ОтветитьУдалить
    Ответы
    1. Он не про определение человечности, он про то, что творец не знает, что он сотворил.

      Удалить
  15. "в "Блэйдраннере 2049" они настаивают, что они такие же, как люди, потому что могут родиться традиционным способом. Их никто не создает, они сами себя создают."

    - Им бы не мешало подучить биологию. Уметь рожать мало.
    Согласно критерию принадлежности к одному виду - им надо не только родить от человека (а человек или нет Декард - вопрос яростного фапанья фанатов блейдраннера), но и рожденное потомство так же должно быть способно к размножению, а не быть кем-то стерильным гибридом типа мула или лошака.

    И вообще непонятно - в будущем что, ДНК-тесты делать разучились? По ДНК все сразу станет ясно, люди они или нет.

    ОтветитьУдалить

ВНИМАНИЕ!!! ГУГЛ ОТКЛЮЧИЛ OPEN ID, с ЖЖ эккаунтов теперь комменты не проходят.