AGI.place - Неделимость Сознания.

Egg:
Анил Сет. Быть собой: Новая теория сознания

Мой скромный обзор на следующую книгу, предложенную Egg'ом к прочтению. Эта книжка более обстоятельная, поэтому обзор будет объёмнее, чем к предыдущей книге. Несколько слов об авторе.

Анил Кумар Сет, полу-индус-полу-англичанин, профессор Сассекского университета, главный редактор журнала "Neuroscience of Consciousness" ("Нейронаука сознания"). Перед прочтением книги посмотрел, его лекцию на TED. С одной стороны, это даёт представление о характере человека, отчего текст становится более понятным, когда воображаешь, как именно автор его артикулирует. С другой стороны, лекция даёт базовое понимание основных идей автора, что также облегчает чтение. Поэтому, если у кого-то нет времени или желания читать довольно объёмный труд, можете посмотреть только лекцию, 17 минут (есть русские субтитры): Сначала несколько цитат для завязки:

Анил Сет:
Сознание — это, в первую и самую главную очередь, субъективный опыт, а именно феноменология. сознание — это прежде всего феноменология С точки зрения настоящей проблемы первоочередные задачи науки о сознании — объяснить, спрогнозировать и взять под контроль феноменологические свойства сознательного опыта. Это значит объяснить, почему тот или иной сознательный опыт именно таков — почему он обладает именно такими феноменологическими свойствами — в терминах физических механизмов и процессов мозга и организма.

Продолжая терминологию Дэвида Чалмерса автор вводит термин "настоящая проблема сознания", смысл которого находится где-то между трудной и лёгкой проблемами сознания и во главу угла ставит задачу выяснить, почему сознательный опыт именно таков, каков он есть с утилитарной, прикладной точки зрения. Можно сказать, что это - путеводная методологическая "звезда" автора, за которой он следует на протяжении всего последующего изложения.

Анил Сет:
Настоящая проблема отличается от трудной проблемы тем, что не ставит целью (первоочередной по крайней мере) объяснить, почему и каким образом сознание вообще существует как часть нашей вселенной. Она не охотится за особым соусом, под которым можно каким-то чудом произвести сознание из простого механизма (или наоборот). Отличается она и от легкой проблемы (или проблем), поскольку в центре ее внимания находится феноменология, а не функции и поведение. Она не заметает субъективные составляющие сознания под ковер. И благодаря основному упору на механизмы и процессы настоящая проблема естественным образом согласуется с физикалистским взглядом на взаимоотношения между материей и разумом.

Таким образом, автор сразу снимает с себя любые обязательства по прямому ответу на вопрос "что такое сознание?" (и ответа такого он не даёт), вместо этого он пытается ответить скорее на вопросы "зачем нужно сознание?" и "почему сознание именно таково, какое есть?". Здесь с автором я во многом согласен и далее приведу идеи, которые являются неоспоримыми сильными сторонами книги.

Анил Сет:
под механизмом в данном случае подразумевается система причинно-взаимодействующих частей, вызывающих следствие

Автор часто, хорошо и правильно использует термин "механизм":

Анил Сет:
Наметив отдельные объекты для исследования, мы облегчаем поиск механизмов, способных выполнять функции объяснения, прогноза и контроля. теория сознания должна объяснять, как различные его свойства обусловливаются операциями нейронных «биомощностей» в нашем мозге и соотносятся с ними. Необходимо выстраивать все более надежные и прочные объяснительные мосты между механизмами и феноменологией подводить нас все ближе к удовлетворительному объяснению того, как из механизмов возникает сознание

но, к сожалению, не развивает саму идею механизма, как ключевого содержимого сознания. Хотя, парадоксально, сознание самого автора (если оно у него есть), очевидно, переполнено именно механизмами. К ключевому из которых мы и переходим.

Анил Сет:
мы рассмотрим идею мозга как «предсказывающей машины», согласно которой все, что мы видим, слышим и чувствуем, есть не что иное, как «наиболее вероятное предположение» мозга о причинах и источниках поступающих к нему сенсорных сигналов. Доведя эту идею до логического конца, мы увидим, что содержание сознания — это что-то вроде сна наяву, контролируемой галлюцинации, которая одновременно превосходит реальный мир и уступает ему. наше сознательное восприятие мира и самих себя являет собой формы возникающего в мозге предвидения — «контролируемых галлюцинаций», которые являются результатом жизнедеятельности организма. я в который раз пытаюсь внушить себе, что этот потрясающий мир — порождение моего мозга, конструкт, что-то вроде «контролируемой галлюцинации». Восприятие устремлено не снизу вверх или извне внутрь, оно движется преимущественно сверху вниз или изнутри наружу. Наш чувственный опыт строится на прогнозах мозга или «наиболее вероятных предположениях» о причинах и источниках сенсорных сигналов. В 1970-х психолог Ричард Грегори развил идеи Гельмгольца в несколько ином ключе, выстроив на них свою теорию восприятия как нейронную «проверку гипотез». Согласно этой теории, точно так же, как ученые проверяют и обновляют научные гипотезы на основании получаемых экспериментальных данных, мозг постоянно формулирует перцептивные гипотезы о том, как выглядит и устроен мир — на основании прошлого опыта и прочих форм накопления информации, — а потом проверяет эти гипотезы, получая данные от органов чувств. Перцептивное содержание, согласно теории Грегори, определяется наиболее подтвержденными гипотезами мозга. Мы никогда не «испытываем» сами сенсорные сигналы, мы испытываем только их интерпретацию. На самом же деле мы воспринимаем нисходящую, направленную изнутри наружу нейронную фантазию, которую реальность просто обуздывает, а не смотрим на какую бы то ни было реальность сквозь прозрачное окно. Функция восприятия, по крайней мере в первом приближении, состоит в том, чтобы вычислять наиболее вероятные источники сенсорных сигналов, а не заставлять нас осознавать сами сенсорные сигналы, в чем бы это осознание ни заключалось. Эмоции и настроения, как и все восприятие, направлены изнутри наружу, а не наоборот. В сознательном опыте все в каком-то смысле представляет собой восприятие, а любое восприятие — разновидность контролируемой (или контролирующей) галлюцинации.

Здесь не жалко никаких комплиментов, потому что автор по сути излагает концепцию совпадающую с моим солиптическим подходом к интеллекту, как к машине по синтезу и верификации механизмов на рецепторах и эффекторах. Т.е. с моей точки зрения, нет никакого отличия между сознательным действием по опознанию сенсорной картины и волевым действием по реализации моторной "картины", с чем солидарен и автор книги:

Анил Сет:
Действие неотделимо от восприятия. В силу своей тесной связи восприятие и действие определяют и обусловливают друг друга. Каждое Действие модифицирует восприятие, меняя входящие сенсорные данные, а любое восприятие оказывается таким, какое оно есть, чтобы направлять действие. Без действия восприятие просто лишается смысла. Мы воспринимаем окружающий мир, чтобы эффективно в нем действовать, добиваться своих целей и в конечном итоге повышать свои шансы на выживание. Мы воспринимаем мир не таким, какой он есть, а таким, каким он нам полезен. Не исключено даже, что действие здесь первостепенно. Можно попробовать исходить не из того, что мозг выводит наиболее вероятные перцептивные умозаключения, чтобы затем направлять поведение, а из того, что его основополагающее занятие — порождение действий и постоянная их калибровка с учетом сенсорных сигналов, чтобы наилучшим образом достигать стоящих перед организмом целей. С этой точки зрения мозг предстает по самой своей сути динамичной, активной системой, непрерывно прощупывающей среду и изучающей последствия В предиктивной обработке действие и восприятие — это две стороны одной медали. Обе опираются на минимизацию сенсорных ошибок предсказания. До сих пор я описывал этот процесс минимизации в категориях обновления перцептивных прогнозов, но это не единственный вариант. Сокращать ошибки предсказания можно и совершая действия, ведущие к изменению сенсорных данных, чтобы новые сенсорные данные соответствовали существующему прогнозу. Минимизация ошибок посредством действия называется активным Выводом любое действие непосредственно участвует в восприятии. В конечном итоге на действиях основывается обучение, которое в данном случае означает улучшение порождающих моделей мозга за счет получения новой информации о причинах сенсорных сигналов и о каузальной структуре мира в целом. действие и восприятие — это две стороны одной медали. Мы рассматриваем их не как ввод (восприятие) и вывод (действие) по отношению к некоему «центральному» разуму, а как разновидности совершающегося в мозге предсказания. разовьем нашу мысль о волевых ощущениях — и волевых действиях — как восприятии действие не просто участвует в восприятии — оно и есть восприятие.

В данном случае Анил Сет - молодец. Но интерпретация восприятия как «контролируемой галлюцинации» имеет и недостаток, что подразумевает, якобы, нечто настоящее, истинное, не галлюцинаторное. Проблема в том, что сознательное восприятие - это единственная доступная субъекту форма реальности и форма существования. Ничего кроме осознаваемых собственных представлений у субъекта быть не может. На то он и сознательный субъект. И в книге есть места, которые свидетельствуют о том, что автор отдаёт себе в этом отчёт, например:

Анил Сет:
предмет науки о сознании субъективен — он может быть описан только от первого лица.

Но, к сожалению, автор не уделяет этому аспекту сознания должного внимания.

Анил Сет:
Когда мы в сознании, мы что-то сознаем — что-то одно или множество всякого разного. Это содержание сознания.

Нет, Анил Сет. Когда я в сознании, я что-то осознаю. Это содержание моего и только моего сознания. В этом суть свойства абсолютной приватности сознания, или солипсисткого проклятья, как только я это называю.

Анил Сет:
о наличии сознания у себя нам известно точно

Нет, Анил Сет. О наличии сознания у меня только мне точно известно. Всё остальное - мой вымысел и моё предположение в моём сознании.

Анил Сет:
Сознательный опыт — это все, что у нас есть. А без него нет ничего: ни окружающего мира, ни «себя», ни внутреннего, ни внешнего.

Нет, Анил Сет. Сознательный опыт — это все, что у меня есть. А без него у меня нет ничего: ни окружающего мира, ни «себя», ни внутреннего, ни внешнего. Есть у Анила Сета и пару мыслей по поводу механизма квалиа:

Анил Сет:
пресловутое «что значит быть тем-то» любого конкретного сознательного опыта определяется не столько тем, чем он является, сколько всеми нереализованными, однако вероятными вариантами, которыми он не является. Впечатление чистого красного создается именно таким, какое оно есть, не в силу какого-то неотъемлемого свойства красного, а в силу того, что красный — это не синий, не зеленый и не любой другой цвет, не запах, не мысль, не чувство сожаления и вообще не какая бы то ни было другая форма психического содержания. Красный — это красный в силу всего, чем он не является, и то же самое относится к любому другому сознательному опыту.

Т.е. красность такова ровно потому, что она не синесть, не зелёность и не все другие качества. Спорить с этим невозможно, но и сказать, что в этом есть практичность, тоже нельзя.

Анил Сет:
Сознание заканчивается тогда, когда заканчивается жизнь. сознание связано не с интеллектом, а с жизнью искру сознания в уравнениях высекает жизнь, а не обработка информации нам следует настороженно относиться к попыткам слишком прочно увязывать сознание с интеллектом. Сознание не равно интеллекту. не будем забывать, что интеллект нельзя рассматривать как показатель осознанности

Верно, что интеллект и сознание отождествлять некорректно. Однако автор как будто забывает, что он пишет книгу о сознании посредством интеллекта, а значит, к описанию сознания он подходит как к механизму и это определяет формат получаемого результата. Ты не можешь рассуждать о чём-то с помощью интеллекта и в конечном итоге прийти не к механизму. Но несколько слов про принцип построения интеллектуального поведения автор всё же сказал:

Анил Сет:
Контролирующая способность реализуется мозгом — не одной конкретной его областью, отвечающей за «волю», а сетью процессов, распределенной по многим областям. На работе этой сети основано выполнение даже самого простого волевого действия — нажать кнопку чайника, согнуть палец. Мы можем вслед за нейробиологом Патриком Хаггардом рассматривать эту сеть как русло для трех процессов: сначала идет процесс «что», обозначающий, какое действие произвести; затем процесс «когда», определяющий время действия, и, наконец. процесс «надо ли», позволяющий отменить или пресечь действие в последний момент Волевое поведение зависит от способности контролировать все эти степени свободы в соответствии с нашими убеждениями, ценностями и задачами, при этом адаптивно отделяя их от непосредственных нужд среды и организма Способность контролировать множество степеней свободы означает, что в случае неблагоприятного исхода того или иного волевого действия в следующий раз в схожей ситуации я могу попробовать что-то другое.

Всё это довольно невнятно и несистемно, но оно и понятно, интеллект не являлся ключевым предметом описания в книге. Что ещё раз подчёркивает, что писать книгу о сознании, не разбирая при этом детально устройство и работу интеллекта - это сомнительная затея. Но если бы на этом закончились все беды, то можно было бы даже рекомендовать книгу к прочтению. Но дальше я приведу непереносимые ужасы, которые перевешивают плюсы и превращают книгу из неплохого философского очерка, в рассадник пропаганды материализма, эволюционизма и трансгуманизма. Заставляя читателя поверить и принять в качестве безапелляционной нормы идеологию того, что человек - это всецело, только и исключительно несовершенное животное-машина, созданная Эволюцией. Т.е. всё, как мы любим, и, видимо, без чего книги не проходят цензуру "свободного развитого цивилизованного мира", и не шлёпают всевидящий уаджет на обложку в качестве знака качества.

Анил Сет:
Выдвигая наиболее вероятные предположения об источниках своих зашумленных и неоднозначных сенсорных сигналов, мозг руководствуется принципами преподобного Томаса Байеса.

Сказать, что это крайне спорное утверждение - это ничего не сказать. Но на этом, увы, построены все дальнейшие умозаключения Анила Сета. Преподобный Байес и Святая Эволюция.

Анил Сет:
я, как Истинный Байесовец

Если бы Анил Сет был Истинным Нормологом, то он бы понимал, что несвобода интеллекта заключена в том, что чем бы он ни занимался, он находится под давлением тех идеологий, которым он служит, которые он принял в качестве нормы. Но у других людей могут быть другие нормы, и нужно доказать сначала, что твои нормы лучше, если ты взялся за описание такого деликатного предмета, как сознание. А не просто постулировать своё служение Байесизму.

Анил Сет:
Входящий сенсорный шквал сталкивается с каскадом нисходящих прогнозов — сигналы ошибок предсказания устремляются вверх, стимулируя все более совершенные прогнозы и вызывая новые действия. Этот неуклонный процесс порождает аппроксимацию байесовского вывода, когда мозг раз за разом выбирает сменяющие друг друга наиболее вероятные предположения о причинах и источниках окружающей его сенсорной среды, в результате рождая на свет живой и яркий перцептивный мир — контролируемую галлюцинацию. Все множество и разнообразие составляющих нашего «я» — начиная личностной идентичностью (я ученый или я сын) и заканчивая ощущением обладания телом, просто существованием в виде тела, — представляют собой байесовские наиболее вероятные предположения, выработанные эволюцией для выживания. Первоочередная задача любого живого организма — сохранять свою жизнь. Это императив, заданный эволюцией, поэтому он истинен по определению. Основополагающая причина наличия у живого существа мозга или любой разновидности нервной системы заключается в том, чтобы способствовать выживанию считывать физиологическое состояние организма напрямую мозг не может, поэтому это состояние приходится вычислять путем байесовского вывода наиболее вероятных предположений. Все наше восприятие и все наши ощущения, будь то самих себя или окружающего мира, представляют собой идущие изнутри контролируемые и контролирующие галлюцинации, которые берут начало в телесных прогнозных механизмах, выработавшихся в ходе эволюции, развивающихся и непрерывно действующих исключительно в свете основополагающего биологического побуждения оставаться в живых. Мы целиком и полностью, от и до, представляем собой сознательные животные-машины волевые ощущения строятся по принципам байесовского наиболее вероятного предположения Наш мозг выстраивает окружающий мир в байесовском процессе наиболее вероятного предположения, в котором сенсорные сигналы служат главным образом для того, чтобы удерживать в рамках наши постоянно развивающиеся перцептивные гипотезы. Мы живем в контролируемой галлюцинации, которую эволюция создавала не ради точности, а ради пользы.

Без комментариев.

Анил Сет:
Чем манит нас перспектива развития машинного сознания? Почему она так будоражит коллективное воображение? Я прихожу к выводу, что здесь включается какой-то техноэкстаз, подспудное желание выйти за рамки нашего ограниченного и низменного биологического существования в преддверии наступления последних дней.

Реверанс в сторону трансгуманизма. В свете вышеизложенного странно, как инородное тело, выглядят идеи автора о том, что якобы наличие сознания неизбежно влечёт за собой морально-нравственные проблемы:

Анил Сет:
Если мы действительно вольно или невольно внедрим в мир новые разновидности субъективного опыта, нам придется иметь дело с нравственно-этическим кризисом беспрецедентных масштабов. К статусу обладателя сознания непременно прилагается нравственный статус. Мы должны будем минимизировать потенциальные страдания сознательных машин точно так же, как мы должны минимизировать страдания живых существ

С чего это вдруг? Морально-этические принципы - это просто идеология, которой служит существо. Либо инстинктивно, либо интеллектуально. Но это никак не следует из повествования автора, ведь "Мы целиком и полностью, от и до, представляем собой сознательные животные-машины".

Анил Сет:
Решения о защите и обеспечении благополучия животных должны основываться не на их сходстве с человеком и не на преодолении произвольно назначенного барьера когнитивных способностей, а на способности страдать и чувствовать боль мы можем обрести новую мотивацию к тому, чтобы минимизировать страдания, каким бы ни было их происхождение Компьютеры не станут чувствующими только оттого, что поумнеют.

Поскольку сознание, с точки зрения автора необходимо для того, чтобы оставаться в живых, то значит чувствовать себя в сознании это либо чувствовать удовлетворение, либо боль и страдание. Во-первых, это не так. А во-вторых, даже если это так, с какой стати сознательное существо должно беспокоится о страдании другого существа? Попытка вывести моральный императив из материализма выглядит весьма искусственно. В человеческом обществе источником морального императива является религия, но религии нет места в Храме Эволюции. Подводя итог, хочу сказать несколько слов о том настоящем сознании, о трудной проблеме, которую автор кокетливо обходит стороной.

Анил Сет:
Физический мир не клонирует себя изо дня в день и даже из миллисекунды в миллисекунду.

Попытки объяснять сознание через привычную физику, привычную биологию, и другие привычные понятия – это примерно, как всю жизнь заниматься изготовлением обожжённых кирпичей, для строительства дымоходов. Но потом вдруг сказать, а давайте из этих кирпичей будем делать компьютеры, потому что нам так надо, а ничего другого мы делать не умеем. Это глупо, предполагать, что инструмент заведомо годный только потому, что мы привыкли им пользоваться и больше ничего не умеем. При изобретении того мира, который мы называем «физическим» или «внешним», не ставилась задача описать и объяснять собственное сознание (а никаких других знать невозможно). Ребёнок собирает свой мир для решения подножных, бытовых, утилитарных задач. И когда человек дорастает до способности и потребности поставить вопрос о своём сознании, его мир уже построен. Не удивительно, что в рамках понятийного аппарата такого утилитарного «внешнего мира» попытки объяснить своё сознание тщетны. На мой взгляд, правильным и логичным должно являться полное переизобретение в определённом возрасте всей физики с нуля, в которой сознание будет одним из базовых требований. Объяснить, значит представить причинно-следственный механизм. Чтобы объяснять своё сознание нужно чтобы «кирпичи» позволяли это делать изначально. Простыми словами, если мы хотим, чтобы сознание представлялось через свойства мира, значит надо мир изобретать таким, чтобы такое объяснение он мог давать. Продолжая цитату автора, о том, что мир не клонирует себя, я бы как раз оттолкнулся от обратного. Что мир постоянно клонирует самого себя. И у этого клонирования есть растянутый фронт. И когда та часть мира, которую мы называем мозгом, находится на переднем фронте этого клонирования, тогда и возникает сознание и понимание себя как причины. Потому что в таком случае мы и есть причина, например, изменений и построений в самом мозге, для дальнейших бессознательных механических мыслительных действий. А когда человек сознание теряет (во время сна, например) он перестаёт быть передним фронтом клонирующегося мира, он становится следствием, прошлым, ни на что не влияет и из субъекта превращается в объект. Это как пример того, как могла бы выглядеть теория сознания на самом деле, для объяснения трудной проблемы. Некоторые интересные цитаты, которые автор приводит в книге:

Джеральд Эдельман:
Что бы вы ни думали о свободе воли, она у нас есть по предопределению

Артур Шопенгауэр:
человек может делать что пожелает, но не может пожелать, чего желать

Уильям Росс Эшби:
успешная система контроля должна быть способна пребывать как минимум в стольких же состояниях, в скольких пребывает среда, которая эту систему возмущает [Закон необходимого разнообразия]

Ну, и напоследок:

Анил Сет:
впервые получаю чувственный опыт именно этого сочетания кофейных чашек компьютеры и кофейные чашки нет карточек с подписями «это от чашки кофе» Чашка кофе во внешнем мире вызывает восприятие чашки кофе, создающееся внутри мозга Во внешнем мире есть чашка кофе лица, машины, кофейные чашки Если вы смотрите на чашку кофе в данном случае к чашке кофе в данном случае субъективный опыт «видения чашки кофе» восприятие казалось нам контролируемой галлюцинацией, чашка кофе на столе поезд, кошка или чашка кофе находящийся передо мной объект — это чашка кофе красное кресло или чашка кофе кошек, кофейных чашек и горилл Глядя на чашку кофе на своем столе от чашек кофе до оттенков цвета и каузальности формируем восприятие кошек, кофейных чашек, кресел и даже собственного тела Когда я, наливая себе бокал вина чашка ли это с кофе или бешено бьющееся сердце Глядя на чашку кофе на своем столе, я получаю сильное перцептивное впечатление как при взгляде на чашку кофе на столе решение налить чашку чая или сменить работу Я только что налил себе чашку чая налил себе чашку чая и выпил Когда я играю на фортепиано или наливаю чашку чая очередную чашку чая налить которую мы воспринимаем у чашки, кошки или журнального столика где мы обсудили эти идеи, попивая кофе в тенистом саду кофейни Мне хотелось пить, у меня был чай Я налил себе чай. Мог я поступить иначе? В каком-то смысле да. Кофе у меня на кухне тоже имеется, так что мог бы налить и кофе. И когда я наливал чай, мне определенно казалось, что я мог бы вместо этого налить кофе. Но кофе мне не хотелось, мне хотелось чая Я подношу руку к чайнику, потому что мне хочется пить, потому что я люблю чай, потому что сейчас подходящее время суток, потому что чайник находится поблизости, потому что вина нет

"У кого чего болит, тот о том и говорит". ©народная мудрость Несомненно, книга Анила Сета больше про сознание, чем книга Майкла Грациано, но всё же она больше про качество осознанного восприятия, чем про сознание непосредственно.

Жалоба на	×

За Воздержался Против

Форум создателей искусственных интеллектов