Мой скромный обзор на следующую книгу, предложенную Egg'ом к прочтению. Эта книжка более обстоятельная, поэтому обзор будет объёмнее, чем к предыдущей книге.
Несколько слов об авторе.
Анил Кумар Сет, полу-индус-полу-англичанин, профессор Сассекского университета, главный редактор журнала "Neuroscience of Consciousness" ("Нейронаука сознания"). Перед прочтением книги посмотрел, его лекцию на TED. С одной стороны, это даёт представление о характере человека, отчего текст становится более понятным, когда воображаешь, как именно автор его артикулирует. С другой стороны, лекция даёт базовое понимание основных идей автора, что также облегчает чтение. Поэтому, если у кого-то нет времени или желания читать довольно объёмный труд, можете посмотреть только лекцию, 17 минут (есть русские субтитры):
Сначала несколько цитат для завязки:
Анил Сет: Сознание — это, в первую и самую главную очередь, субъективный опыт, а именно феноменология.
сознание — это прежде всего феноменология
С точки зрения настоящей проблемы первоочередные задачи науки о сознании — объяснить, спрогнозировать и взять под контроль феноменологические свойства сознательного опыта. Это значит объяснить, почему тот или иной сознательный опыт именно таков — почему он обладает именно такими феноменологическими свойствами — в терминах физических механизмов и процессов мозга и организма.
Продолжая терминологию Дэвида Чалмерса автор вводит термин "настоящая проблема сознания", смысл которого находится где-то между трудной и лёгкой проблемами сознания и во главу угла ставит задачу выяснить, почему сознательный опыт именно таков, каков он есть с утилитарной, прикладной точки зрения. Можно сказать, что это - путеводная методологическая "звезда" автора, за которой он следует на протяжении всего последующего изложения.
Анил Сет: Настоящая проблема отличается от трудной проблемы тем, что не ставит целью (первоочередной по крайней мере) объяснить, почему и каким образом сознание вообще существует как часть нашей вселенной. Она не охотится за особым соусом, под которым можно каким-то чудом произвести сознание из простого механизма (или наоборот). Отличается она и от легкой проблемы (или проблем), поскольку в центре ее внимания находится феноменология, а не функции и поведение. Она не заметает субъективные составляющие сознания под ковер. И благодаря основному упору на механизмы и процессы настоящая проблема естественным образом согласуется с физикалистским взглядом на взаимоотношения между материей и разумом.
Таким образом, автор сразу снимает с себя любые обязательства по прямому ответу на вопрос "что такое сознание?" (и ответа такого он не даёт), вместо этого он пытается ответить скорее на вопросы "зачем нужно сознание?" и "почему сознание именно таково, какое есть?". Здесь с автором я во многом согласен и далее приведу идеи, которые являются неоспоримыми сильными сторонами книги.
Анил Сет: под механизмом в данном случае подразумевается система причинно-взаимодействующих частей, вызывающих следствие
Автор часто, хорошо и правильно использует термин "механизм":
Анил Сет: Наметив отдельные объекты для исследования, мы облегчаем поиск механизмов, способных выполнять функции объяснения, прогноза и контроля.
теория сознания должна объяснять, как различные его свойства обусловливаются операциями нейронных «биомощностей» в нашем мозге и соотносятся с ними.
Необходимо выстраивать все более надежные и прочные объяснительные мосты между механизмами и феноменологией
подводить нас все ближе к удовлетворительному объяснению того, как из механизмов возникает сознание
но, к сожалению, не развивает саму идею механизма, как ключевого содержимого сознания. Хотя, парадоксально, сознание самого автора (если оно у него есть), очевидно, переполнено именно механизмами. К ключевому из которых мы и переходим.
Анил Сет: мы рассмотрим идею мозга как «предсказывающей машины», согласно которой все, что мы видим, слышим и чувствуем, есть не что иное, как «наиболее вероятное предположение» мозга о причинах и источниках поступающих к нему сенсорных сигналов. Доведя эту идею до логического конца, мы увидим, что содержание сознания — это что-то вроде сна наяву, контролируемой галлюцинации, которая одновременно превосходит реальный мир и уступает ему.
наше сознательное восприятие мира и самих себя являет собой формы возникающего в мозге предвидения — «контролируемых галлюцинаций», которые являются результатом жизнедеятельности организма.
я в который раз пытаюсь внушить себе, что этот потрясающий мир — порождение моего мозга, конструкт, что-то вроде «контролируемой галлюцинации».
Восприятие устремлено не снизу вверх или извне внутрь, оно движется преимущественно сверху вниз или изнутри наружу. Наш чувственный опыт строится на прогнозах мозга или «наиболее вероятных предположениях» о причинах и источниках сенсорных сигналов.
В 1970-х психолог Ричард Грегори развил идеи Гельмгольца в несколько ином ключе, выстроив на них свою теорию восприятия как нейронную «проверку гипотез». Согласно этой теории, точно так же, как ученые проверяют и обновляют научные гипотезы на основании получаемых экспериментальных данных, мозг постоянно формулирует перцептивные гипотезы о том, как выглядит и устроен мир — на основании прошлого опыта и прочих форм накопления информации, — а потом проверяет эти гипотезы, получая данные от органов чувств. Перцептивное содержание, согласно теории Грегори, определяется наиболее подтвержденными гипотезами мозга.
Мы никогда не «испытываем» сами сенсорные сигналы, мы испытываем только их интерпретацию.
На самом же деле мы воспринимаем нисходящую, направленную изнутри наружу нейронную фантазию, которую реальность просто обуздывает, а не смотрим на какую бы то ни было реальность сквозь прозрачное окно.
Функция восприятия, по крайней мере в первом приближении, состоит в том, чтобы вычислять наиболее вероятные источники сенсорных сигналов, а не заставлять нас осознавать сами сенсорные сигналы, в чем бы это осознание ни заключалось.
Эмоции и настроения, как и все восприятие, направлены изнутри наружу, а не наоборот.
В сознательном опыте все в каком-то смысле представляет собой восприятие, а любое восприятие — разновидность контролируемой (или контролирующей) галлюцинации.
Здесь не жалко никаких комплиментов, потому что автор по сути излагает концепцию совпадающую с моим солиптическим подходом к интеллекту, как к машине по синтезу и верификации механизмов на рецепторах и эффекторах. Т.е. с моей точки зрения, нет никакого отличия между сознательным действием по опознанию сенсорной картины и волевым действием по реализации моторной "картины", с чем солидарен и автор книги:
Анил Сет: Действие неотделимо от восприятия. В силу своей тесной связи восприятие и действие определяют и обусловливают друг друга. Каждое Действие модифицирует восприятие, меняя входящие сенсорные данные, а любое восприятие оказывается таким, какое оно есть, чтобы направлять действие. Без действия восприятие просто лишается смысла. Мы воспринимаем окружающий мир, чтобы эффективно в нем действовать, добиваться своих целей и в конечном итоге повышать свои шансы на выживание. Мы воспринимаем мир не таким, какой он есть, а таким, каким он нам полезен.
Не исключено даже, что действие здесь первостепенно. Можно попробовать исходить не из того, что мозг выводит наиболее вероятные перцептивные умозаключения, чтобы затем направлять поведение, а из того, что его основополагающее занятие — порождение действий и постоянная их калибровка с учетом сенсорных сигналов, чтобы наилучшим образом достигать стоящих перед организмом целей. С этой точки зрения мозг предстает по самой своей сути динамичной, активной системой, непрерывно прощупывающей среду и изучающей последствия
В предиктивной обработке действие и восприятие — это две стороны одной медали. Обе опираются на минимизацию сенсорных ошибок предсказания. До сих пор я описывал этот процесс минимизации в категориях обновления перцептивных прогнозов, но это не единственный вариант. Сокращать ошибки предсказания можно и совершая действия, ведущие к изменению сенсорных данных, чтобы новые сенсорные данные соответствовали существующему прогнозу. Минимизация ошибок посредством действия называется активным Выводом
любое действие непосредственно участвует в восприятии.
В конечном итоге на действиях основывается обучение, которое в данном случае означает улучшение порождающих моделей мозга за счет получения новой информации о причинах сенсорных сигналов и о каузальной структуре мира в целом.
действие и восприятие — это две стороны одной медали. Мы рассматриваем их не как ввод (восприятие) и вывод (действие) по отношению к некоему «центральному» разуму, а как разновидности совершающегося в мозге предсказания.
разовьем нашу мысль о волевых ощущениях — и волевых действиях — как восприятии
действие не просто участвует в восприятии — оно и есть восприятие.
В данном случае Анил Сет - молодец.
Но интерпретация восприятия как «контролируемой галлюцинации» имеет и недостаток, что подразумевает, якобы, нечто настоящее, истинное, не галлюцинаторное. Проблема в том, что сознательное восприятие - это единственная доступная субъекту форма реальности и форма существования. Ничего кроме осознаваемых собственных представлений у субъекта быть не может. На то он и сознательный субъект. И в книге есть места, которые свидетельствуют о том, что автор отдаёт себе в этом отчёт, например:
Анил Сет: предмет науки о сознании субъективен — он может быть описан только от первого лица.
Но, к сожалению, автор не уделяет этому аспекту сознания должного внимания.
Анил Сет: Когда мы в сознании, мы что-то сознаем — что-то одно или множество всякого разного. Это содержание сознания.
Нет, Анил Сет. Когда я в сознании, я что-то осознаю. Это содержание моего и только моего сознания. В этом суть свойства абсолютной приватности сознания, или солипсисткого проклятья, как только я это называю.
Анил Сет: о наличии сознания у себя нам известно точно
Нет, Анил Сет. О наличии сознания у меня только мне точно известно. Всё остальное - мой вымысел и моё предположение в моём сознании.
Анил Сет: Сознательный опыт — это все, что у нас есть. А без него нет ничего: ни окружающего мира, ни «себя», ни внутреннего, ни внешнего.
Нет, Анил Сет. Сознательный опыт — это все, что у меня есть. А без него у меня нет ничего: ни окружающего мира, ни «себя», ни внутреннего, ни внешнего.
Есть у Анила Сета и пару мыслей по поводу механизма квалиа:
Анил Сет: пресловутое «что значит быть тем-то» любого конкретного сознательного опыта определяется не столько тем, чем он является, сколько всеми нереализованными, однако вероятными вариантами, которыми он не является.
Впечатление чистого красного создается именно таким, какое оно есть, не в силу какого-то неотъемлемого свойства красного, а в силу того, что красный — это не синий, не зеленый и не любой другой цвет, не запах, не мысль, не чувство сожаления и вообще не какая бы то ни было другая форма психического содержания. Красный — это красный в силу всего, чем он не является, и то же самое относится к любому другому сознательному опыту.
Т.е. красность такова ровно потому, что она не синесть, не зелёность и не все другие качества. Спорить с этим невозможно, но и сказать, что в этом есть практичность, тоже нельзя.
Анил Сет: Сознание заканчивается тогда, когда заканчивается жизнь.
сознание связано не с интеллектом, а с жизнью
искру сознания в уравнениях высекает жизнь, а не обработка информации
нам следует настороженно относиться к попыткам слишком прочно увязывать сознание с интеллектом. Сознание не равно интеллекту.
не будем забывать, что интеллект нельзя рассматривать как показатель осознанности
Верно, что интеллект и сознание отождествлять некорректно. Однако автор как будто забывает, что он пишет книгу о сознании посредством интеллекта, а значит, к описанию сознания он подходит как к механизму и это определяет формат получаемого результата. Ты не можешь рассуждать о чём-то с помощью интеллекта и в конечном итоге прийти не к механизму.
Но несколько слов про принцип построения интеллектуального поведения автор всё же сказал:
Анил Сет: Контролирующая способность реализуется мозгом — не одной конкретной его областью, отвечающей за «волю», а сетью процессов, распределенной по многим областям. На работе этой сети основано выполнение даже самого простого волевого действия — нажать кнопку чайника, согнуть палец. Мы можем вслед за нейробиологом Патриком Хаггардом рассматривать эту сеть как русло для трех процессов: сначала идет процесс «что», обозначающий, какое действие произвести; затем процесс «когда», определяющий время действия, и, наконец. процесс «надо ли», позволяющий отменить или пресечь действие в последний момент
Волевое поведение зависит от способности контролировать все эти степени свободы в соответствии с нашими убеждениями, ценностями и задачами, при этом адаптивно отделяя их от непосредственных нужд среды и организма
Способность контролировать множество степеней свободы означает, что в случае неблагоприятного исхода того или иного волевого действия в следующий раз в схожей ситуации я могу попробовать что-то другое.
Всё это довольно невнятно и несистемно, но оно и понятно, интеллект не являлся ключевым предметом описания в книге. Что ещё раз подчёркивает, что писать книгу о сознании, не разбирая при этом детально устройство и работу интеллекта - это сомнительная затея.
Но если бы на этом закончились все беды, то можно было бы даже рекомендовать книгу к прочтению. Но дальше я приведу непереносимые ужасы, которые перевешивают плюсы и превращают книгу из неплохого философского очерка, в рассадник пропаганды материализма, эволюционизма и трансгуманизма. Заставляя читателя поверить и принять в качестве безапелляционной нормы идеологию того, что человек - это всецело, только и исключительно несовершенное животное-машина, созданная Эволюцией. Т.е. всё, как мы любим, и, видимо, без чего книги не проходят цензуру "свободного развитого цивилизованного мира", и не шлёпают всевидящий уаджет на обложку в качестве знака качества.
Анил Сет: Выдвигая наиболее вероятные предположения об источниках своих зашумленных и неоднозначных сенсорных сигналов, мозг руководствуется принципами преподобного Томаса Байеса.
Сказать, что это крайне спорное утверждение - это ничего не сказать. Но на этом, увы, построены все дальнейшие умозаключения Анила Сета. Преподобный Байес и Святая Эволюция.
Анил Сет: я, как Истинный Байесовец
Если бы Анил Сет был Истинным Нормологом, то он бы понимал, что несвобода интеллекта заключена в том, что чем бы он ни занимался, он находится под давлением тех идеологий, которым он служит, которые он принял в качестве нормы. Но у других людей могут быть другие нормы, и нужно доказать сначала, что твои нормы лучше, если ты взялся за описание такого деликатного предмета, как сознание. А не просто постулировать своё служение Байесизму.
Анил Сет: Входящий сенсорный шквал сталкивается с каскадом нисходящих прогнозов — сигналы ошибок предсказания устремляются вверх, стимулируя все более совершенные прогнозы и вызывая новые действия. Этот неуклонный процесс порождает аппроксимацию байесовского вывода, когда мозг раз за разом выбирает сменяющие друг друга наиболее вероятные предположения о причинах и источниках окружающей его сенсорной среды, в результате рождая на свет живой и яркий перцептивный мир — контролируемую галлюцинацию.
Все множество и разнообразие составляющих нашего «я» — начиная личностной идентичностью (я ученый или я сын) и заканчивая ощущением обладания телом, просто существованием в виде тела, — представляют собой байесовские наиболее вероятные предположения, выработанные эволюцией для выживания.
Первоочередная задача любого живого организма — сохранять свою жизнь. Это императив, заданный эволюцией, поэтому он истинен по определению.
Основополагающая причина наличия у живого существа мозга или любой разновидности нервной системы заключается в том, чтобы способствовать выживанию
считывать физиологическое состояние организма напрямую мозг не может, поэтому это состояние приходится вычислять путем байесовского вывода наиболее вероятных предположений.
Все наше восприятие и все наши ощущения, будь то самих себя или окружающего мира, представляют собой идущие изнутри контролируемые и контролирующие галлюцинации, которые берут начало в телесных прогнозных механизмах, выработавшихся в ходе эволюции, развивающихся и непрерывно действующих исключительно в свете основополагающего биологического побуждения оставаться в живых.
Мы целиком и полностью, от и до, представляем собой сознательные животные-машины
волевые ощущения строятся по принципам байесовского наиболее вероятного предположения
Наш мозг выстраивает окружающий мир в байесовском процессе наиболее вероятного предположения, в котором сенсорные сигналы служат главным образом для того, чтобы удерживать в рамках наши постоянно развивающиеся перцептивные гипотезы. Мы живем в контролируемой галлюцинации, которую эволюция создавала не ради точности, а ради пользы.
Без комментариев.
Анил Сет: Чем манит нас перспектива развития машинного сознания? Почему она так будоражит коллективное воображение? Я прихожу к выводу, что здесь включается какой-то техноэкстаз, подспудное желание выйти за рамки нашего ограниченного и низменного биологического существования в преддверии наступления последних дней.
Реверанс в сторону трансгуманизма.
В свете вышеизложенного странно, как инородное тело, выглядят идеи автора о том, что якобы наличие сознания неизбежно влечёт за собой морально-нравственные проблемы:
Анил Сет: Если мы действительно вольно или невольно внедрим в мир новые разновидности субъективного опыта, нам придется иметь дело с нравственно-этическим кризисом беспрецедентных масштабов. К статусу обладателя сознания непременно прилагается нравственный статус. Мы должны будем минимизировать потенциальные страдания сознательных машин точно так же, как мы должны минимизировать страдания живых существ
С чего это вдруг? Морально-этические принципы - это просто идеология, которой служит существо. Либо инстинктивно, либо интеллектуально. Но это никак не следует из повествования автора, ведь "Мы целиком и полностью, от и до, представляем собой сознательные животные-машины".
Анил Сет: Решения о защите и обеспечении благополучия животных должны основываться не на их сходстве с человеком и не на преодолении произвольно назначенного барьера когнитивных способностей, а на способности страдать и чувствовать боль
мы можем обрести новую мотивацию к тому, чтобы минимизировать страдания, каким бы ни было их происхождение
Компьютеры не станут чувствующими только оттого, что поумнеют.
Поскольку сознание, с точки зрения автора необходимо для того, чтобы оставаться в живых, то значит чувствовать себя в сознании это либо чувствовать удовлетворение, либо боль и страдание. Во-первых, это не так. А во-вторых, даже если это так, с какой стати сознательное существо должно беспокоится о страдании другого существа? Попытка вывести моральный императив из материализма выглядит весьма искусственно. В человеческом обществе источником морального императива является религия, но религии нет места в Храме Эволюции.
Подводя итог, хочу сказать несколько слов о том настоящем сознании, о трудной проблеме, которую автор кокетливо обходит стороной.
Анил Сет: Физический мир не клонирует себя изо дня в день и даже из миллисекунды в миллисекунду.
Попытки объяснять сознание через привычную физику, привычную биологию, и другие привычные понятия – это примерно, как всю жизнь заниматься изготовлением обожжённых кирпичей, для строительства дымоходов. Но потом вдруг сказать, а давайте из этих кирпичей будем делать компьютеры, потому что нам так надо, а ничего другого мы делать не умеем. Это глупо, предполагать, что инструмент заведомо годный только потому, что мы привыкли им пользоваться и больше ничего не умеем.
При изобретении того мира, который мы называем «физическим» или «внешним», не ставилась задача описать и объяснять собственное сознание (а никаких других знать невозможно). Ребёнок собирает свой мир для решения подножных, бытовых, утилитарных задач. И когда человек дорастает до способности и потребности поставить вопрос о своём сознании, его мир уже построен. Не удивительно, что в рамках понятийного аппарата такого утилитарного «внешнего мира» попытки объяснить своё сознание тщетны. На мой взгляд, правильным и логичным должно являться полное переизобретение в определённом возрасте всей физики с нуля, в которой сознание будет одним из базовых требований. Объяснить, значит представить причинно-следственный механизм. Чтобы объяснять своё сознание нужно чтобы «кирпичи» позволяли это делать изначально.
Простыми словами, если мы хотим, чтобы сознание представлялось через свойства мира, значит надо мир изобретать таким, чтобы такое объяснение он мог давать. Продолжая цитату автора, о том, что мир не клонирует себя, я бы как раз оттолкнулся от обратного. Что мир постоянно клонирует самого себя. И у этого клонирования есть растянутый фронт. И когда та часть мира, которую мы называем мозгом, находится на переднем фронте этого клонирования, тогда и возникает сознание и понимание себя как причины. Потому что в таком случае мы и есть причина, например, изменений и построений в самом мозге, для дальнейших бессознательных механических мыслительных действий. А когда человек сознание теряет (во время сна, например) он перестаёт быть передним фронтом клонирующегося мира, он становится следствием, прошлым, ни на что не влияет и из субъекта превращается в объект. Это как пример того, как могла бы выглядеть теория сознания на самом деле, для объяснения трудной проблемы.
Некоторые интересные цитаты, которые автор приводит в книге:
Джеральд Эдельман: Что бы вы ни думали о свободе воли, она у нас есть по предопределению
Артур Шопенгауэр: человек может делать что пожелает, но не может пожелать, чего желать
Уильям Росс Эшби: успешная система контроля должна быть способна пребывать как минимум в стольких же состояниях, в скольких пребывает среда, которая эту систему возмущает [Закон необходимого разнообразия]
Ну, и напоследок:
Анил Сет: впервые получаю чувственный опыт именно этого сочетания кофейных чашек
компьютеры и кофейные чашки
нет карточек с подписями «это от чашки кофе»
Чашка кофе во внешнем мире вызывает восприятие чашки кофе, создающееся внутри мозга
Во внешнем мире есть чашка кофе
лица, машины, кофейные чашки
Если вы смотрите на чашку кофе
в данном случае к чашке кофе
в данном случае субъективный опыт «видения чашки кофе»
восприятие казалось нам контролируемой галлюцинацией, чашка кофе на столе
поезд, кошка или чашка кофе
находящийся передо мной объект — это чашка кофе
красное кресло или чашка кофе
кошек, кофейных чашек и горилл
Глядя на чашку кофе на своем столе
от чашек кофе до оттенков цвета и каузальности
формируем восприятие кошек, кофейных чашек, кресел и даже собственного тела
Когда я, наливая себе бокал вина
чашка ли это с кофе или бешено бьющееся сердце
Глядя на чашку кофе на своем столе, я получаю сильное перцептивное впечатление
как при взгляде на чашку кофе на столе
решение налить чашку чая или сменить работу
Я только что налил себе чашку чая
налил себе чашку чая и выпил
Когда я играю на фортепиано или наливаю чашку чая
очередную чашку чая налить
которую мы воспринимаем у чашки, кошки или журнального столика
где мы обсудили эти идеи, попивая кофе в тенистом саду кофейни
Мне хотелось пить, у меня был чай
Я налил себе чай. Мог я поступить иначе? В каком-то смысле да. Кофе у меня на кухне тоже имеется, так что мог бы налить и кофе. И когда я наливал чай, мне определенно казалось, что я мог бы вместо этого налить кофе. Но кофе мне не хотелось, мне хотелось чая
Я подношу руку к чайнику, потому что мне хочется пить, потому что я люблю чай, потому что сейчас подходящее время суток, потому что чайник находится поблизости, потому что вина нет
Luarvik.: как Вы говорите, интеллект занимается выявлением причинно-следственных связей, то в случае солипсизма он занимается прямым их конструированием
Да, конструированием, как гипотез, которые потом отбраковываются жизненным опытом. Мне не очень понятно, зачем столько внимания Вы тут уделяете моей скромной солипсистской персоне, где предметом обсуждения есть сознание и, в данный момент, представления товарища Анила Сета о нём. Могу процитировать ещё раз:
Анил Сет: этот потрясающий мир — порождение моего мозга, конструкт, что-то вроде «контролируемой галлюцинации»
Перцептивное содержание, согласно теории Грегори, определяется наиболее подтвержденными гипотезами мозга
обучение, которое в данном случае означает улучшение порождающих моделей мозга за счет получения новой информации о причинах сенсорных сигналов и о каузальной структуре мира в целом
В сознательном опыте все в каком-то смысле представляет собой восприятие, а любое восприятие — разновидность контролируемой (или контролирующей) галлюцинации
Я не вижу существенного отличия между тем, что говорит Анил Сет, и моими представлениями о солипсизме. Поэтому спорьте не со мной, спорьте с ним. Моя претензия к нему только в непоследовательности и попытке усидеть на двух стульях сразу, ему следовало бы либо "трусы надеть" (не настаивать слишком на галлюцинациях, если он так уверен, что они материальны и порождены мозгом), либо "крестик снять" (отказаться от жёсткой догмы материализма и более внимательно присмотреться к идеализму). Тем более он прекрасно понимает о чём речь, говоря в разделе обзора философских платформ об идеализме следующее:
Анил Сет: конечным источником действительности выступает сознание или разум, а не физическая составляющая или материя. Поэтому спрашивать нужно не о том, как из материи возникает разум, а о том, как из разума возникает материя
Но я не стал приводить эту цитату, чтобы Вас не травмировать.
Luarvik.: Никакая материя из разума возникнуть не может.
Если разум что и производит, так это только [идеалистические] ПРЕДСТАВЛЕНИЯ о материи.
Т.е. Вы хотите сказать, что лично Ваши представления о материи, являются нечто большим, чем Вашей "галлюцинацией", если использовать термины Сета?
Анил Сет интересен тем, что занимает маргинальную позицию между материализмом и идеализмом, но если быть последовательным, то ему (и Вам) следует определиться. Вот он был младенцем, по представлениям Пиаже, был тотальным эгоцентричным солипсистом. Потом начал о чём-то догадываться и выдумал для удобства (как и многие) внешний независимый мир, потому что так легче объяснять и использовать свои идеалистические "галлюцинации" (Вы, например, застряли на этом этапе). Потом Анил Сет понял (молодец), что всё, чем наполнено его сознание - это его личные галлюцинации. Т.е. дальше он обязан был понять, что все его предыдущие сверхнадёжные научные знания - представления о мозге, материи и всём прочем "материальном" - это плоть от плоти его галлюцинации. Он сам это утверждает многократно. Но тут его должен начать точить червячок сомнения, если он логик и честен перед собой, он должен понять, что мыслить в качестве причины своих галлюцинаций мозг, материю или любую другую свою "галлюцинацию", это значит фактически признать, что причиной галлюцинации является галлюцинация. Всё, кролик попался, круг замкнулся. Анил Сет вернулся в свой младенческий солипсизм, из которого, как оказывается, он никогда и не вылазил. Но нет, он, так же как и Вы, отдельным своим галлюцинациям присваивает некий превосходный приоритет над другими галлюцинациями, и начинает утверждать, что мол чувство боли, или представления о мозге, или физике, или протяжённость, или контролируемость, или что там у Вас - вот это вот точно объективные незавсисимые от меня галлюцинации, а всё остальное, так и быть - порождение моего ума. Но такой фокус не пройдёт, тут, как Вы правильно говорите, либо всё, либо ничего.
Luarvik.: давайте в конце концов разберёмся с пределами Вашего контроля
Про контроль и зависимость я всё сказал здесь, можете перечитать.
Luarvik.: проявляющей стабильные свойства, опять-таки независимо от моего....
Погодите, стабильность - это качество Вашего субъективного восприятия? Ведь это Вы решили, что реальность стабильна. Или эти сведения каким-то иным чудесным образом возникли у Вас в сознании? Если это решили Вы, то почему представления о стабильности для Вас более весомые, чем, например, представления о цвете? Реальность цветная, озвученная, пахнущая. Давайте считать реальным и материальным всё, что, например, воспринимается как цветное. Почему именно своё субъективное представление о стабильности Вы решили сделать признаком для отличения материальной реальности от иной?
Luarvik.: до первого столба
пока от Вас не начнут долго и нудно отрезать по кусочку
Насколько я успел заметить, телесные ощущения Вы тоже относите в категорию особо объективных материальных галлюцинаций. Тогда непонятно, по какому принципу Вы проводите границу между объективными материальными галлюцинациями и субъективными идеальными галлюцинациями. Отрезать по кусочку - это объективно, а поглаживать пёрышком - это как, субъективно? Тут надо бы чёткий критерий.
Luarvik.: Стабильность моего субъективного восприятия проистекает из стабильности свойств материального мира
Примерно 20 лет назад, я начал вести записи своих мыслей. Первая запись такая:
Prosolver: Выводы об особенности снов или видений могут делать люди, которые считают восприятие мира чем-то "внешним". При этом пространственная четкость и временна́я стабильность ощущений объясняется тем, что вещи "существуют вне нас, по своей природе являются стабильными, поэтому стабильны и ощущения их, как отражение". Но нет никаких оснований считать, что человеческая психика не может продуцировать психические образы такой же стабильности т.к. она - единственный оценщик их стабильности
Собственно, с тех пор добавить к этому нечего.
Luarvik.: Не стабильность признак материальности, а её - материальности - соотносимость, протяжённость и "измеримость" в пространстве и времени
Т.е. если мы потратим время и внимательно разжуём исключительную субъективность таких категорий, как соотносимость, протяжённость, измеримость, пространство и время, то Вы перестанете называть себя материалистом и признаетесь наконец, что никогда не вылазили из младенческого солипсизма?
Luarvik.: я вообще не говорю и не говорил о галлюцинациях - это Ваша терминология
Это терминология Анила Кумара Сета, мне она тоже не нравится и выше я указал почему.
Luarvik.: отрежьте себе палец
Незачем прибегать к таким экстравагантным методам. У меня на руках достаточно шрамов, каждый из которых я помню как и при каких обстоятельствах получил. В моём субъективном мире. Галлюцинаций, если хотите. При чём здесь объективный внешний материальный мир? И что это доказывает?
Luarvik.: всё определено до меня миллиарды лет назад
сколько мильёнов лет прошло
Субъективны настолько, что, пожалуй, нет в мире ничего более для меня объективного.
Наше восприятие всегда в нек. степени иллюзорно
Из нас двоих, осознанный солипсист - я, но я не доверяю своим фантазиям и пытаюсь всё многократно перепроверять. Понимая при этом, что любое количество перепроверок по разным источникам всё равно не даст гарантии истины. Вы же, казалось бы материалист (на словах), доверяете своей буйной фантазии без проверки. Т.е. являетесь стихийным неконтролируемым солипсистом в ещё большей степени, чем я. Казалось бы парадокс. Но это закономерность.
Сергей Шувалов: как строится цепочка мыслительных операций от обнаружения КОНКРЕТНОЙ проблемы до её решения? Когда известно, что надо иметь, но неизвестно, как этого достичь
Хороший, правильный вопрос. Тут необходимо прояснить несколько важных деталей.
1. Цепочки, последовательности, алгоритмы - это внешнее проявление результата работы интеллекта для наблюдателя, когда эта работа интеллектом уже проделана. Сама же работа интеллекта совершается в моменте. В мгновении "сейчас". Она всегда одинакова и никак не связана с построением цепочек.
2. В каждое мгновение "сейчас" интеллект неизменно проделывает одну и ту же процедуру - пытается синтезировать механизм для устранения отклонения от нормы/противоречия, которое осознаётся сейчас. Всё.
3. Почему результат работы интеллекта естественным образом представляется в виде последовательностей, а не сетей, графов, циклов или чего-то иного? По той причине, что в этот самый момент, в мгновение "сейчас", может решаться только одна задача, устраняться только одно отклонение/противоречие. То, что находится в фокусе внимания (которое одно), то и является предметом сопоставления с нормой, предметом задачи для доставания из памяти механизма и для приведения ситуации в норму. А когда одна норма достигнута, интеллект переходит к следующей. И потом к следующей. и так далее. Так и возникает цепочка, последовательность. Иллюзия под-целей. Но по факту, а не по "замыслу".
4. Механизмы приведения ситуации в норму запоминаются безусловно, как жизненный опыт, прозапас. Всё, с чем мы сталкиваемся в жизни запоминается именно как связка "какая причина может привести к какому последствию". И если в данный момент такая связка в памяти присутствует, то синтезируется механизм, норма достигается, задача решается. Если такой связки нет, то задача не решается. В интеллекте магии нет.
5. Механизмы, которые несколько раз повторяются, закрепляются в качестве автоматизмов тела и далее могут работать сами, автоматически, без этого постоянного сознательного контроля. Отчего может сложиться ложное впечатление, что человек может делать несколько дел одновременно и параллельно. Это иллюзия. Бессознательно, действительно может работать много автоматизмов одновременно, но именно сознательный творческий контроль над новым синтезируемым "сейчас" механизмом может быть в моменте только один.
6. У человека помимо интеллекта (синтезатора механизмов) есть мышление/воображение (полигон для предварительных испытаний), на котором синтезируемое решение "обкатывается" до выхода на эффекторы/рецепторы. Принцип работы тот же самый, интеллект работает с моментом "сейчас", но внимание обращается не на рецепторный вход, а на воображаемый рецепторный вход. Синтезированный механизм запускается, приводит к воображаемым последствиям, подвергается воображаемому анализу на предмет соответствия нормам и цикл повторяется. Так тоже может сложиться ложное впечатление, что человек "продумывает план". Но он не продумывает план, он в моменте решает задачу "сейчас" в воображении, а вследствие этого строится цепочка. Конечно сама эта цепочка может стать предметом осознанного внимания в моменте "сейчас", на предмет нормальности этой цепочки, но это не меняет архитектуры.
P.S. Мышление/воображение, скорее всего, не обязательно. Интеллект, по-видимому, может работать без мышления, непосредственно на рецепторах и эффекторах. На мире, на реальности. Мышление даёт только подспорье, возможность избежать фатальных увечий, эпик фейлов. Но не все им пользуются. Жаль.
P.P.S. Такая архитектура интеллекта имеет очевидные предпосылки - реальность труднопредсказуема и стохастична. Поэтому глупо строить цепочки. Выгодней быть "одноходовым" и готовым в каждый момент к необходимости дать отпор возникающим трудностям. И быть также способным прервать действие и перейти к другой, более важной в моменте задаче.
Сергей Шувалов: Прошу привести пример
Типичный пример это говорение, устная речь. Когда человек говорит, он произносит первое слово, слушает сам себя, оценивает нормально ли он сказал, правильно ли язык и губы произнесли слово, правильно ли использовано слово для описания того мысленного механизма, который сейчас описывается. Если одного слова не достаточно, произносится следующее, недостающее слово (исправляющее ненормальность) и так далее. Так и появляется текст, как последовательность, цепочка.
Другой пример из личного опыта. Я делал 3 полки в погреб из пластиковых паллет. У меня не было никаких последовательностей, цепочек, схем, выкроек и планов. Я просто начал резать первую паллету так, чтобы соблюдался нормальный размер полки по ширине и длине. Потом получил ценный жизненный опыт. Увидел много причинно-следственных связей. И понял, как из части паллеты можно сделать непосредственно полку с креплением, а из другой части - прочные ножки. И вторую паллету разрезал с учётом вновь открывшихся норм. Получил ещё опыт. Третью полку сделал уже идеально. Если в начале пути у меня были только требования к ширине и длине, то в конце я получил множество норм/требований к прочности, местам разрезов, местам и способам соединений и т.д.
Сергей Шувалов: Из сигналов рецепторов формируется образ
начало восприятия внешнего мира начинается с внешних рецепторов
сознание имеет электромагнитную природу
общаются клетки между собой ради единой цели - выживании в пространстве и времени
Каждое из этих убеждений в частности, и все они в совокупности - ложны.
На ложных убеждениях далеко не уедешь.
Нужно быть последовательным и говорить: "пользуясь своими фантазиями о ваших убеждениях". Тогда будет правильно и понятно, почему Вы приписываете мне всякую дичь.
Сергей Шувалов: Замедленная съёмка нейронов в мозгу, формирующих новые связи. Так примерно выглядят наше мышление.
Во-первых, не замедленная, а ускоренная.
Во-вторых, не съёмка, а воспроизведение.
В-третьих, чем заняты нейроны на видео, совершенно неизвестно. Возможно, они просто соперничают за территорию, чтобы улучшить свои трофические показатели.
И в-четвёртых, если бы моё мышление и запоминание происходило со скоростью роста дендритов, то я, по видимому, всё ещё учился бы ходить на горшок и попадать ложкой в рот.
Сергей Шувалов: столкнулся с трудностями воплощения
ДТП на пути познания явилось следствием выбора неверного средства перемещения. О чём я Вас заранее предупреждал.
Сергей Шувалов: 2.Кто или что смотрит на эту картинку?
3.И чем смотрит?
Вопросы поставлены с точки зрения неверной позиции, поэтому не имеют верного ответа.
Сознание субъекта существует только как наполненное образами, как вместилище образов. И образы существуют, только как наполнение некоторого одного сознания. Поэтому вопрос упирается в природу и механизм сознания.
Сергей Шувалов: 4.И куда полученная информация уносится дальше?
1. Не полученная, а отданная.
2. Уносится в память. Прозапас. Подумайте какую-нибудь чушь, а потом вспомните о том, что Вы только что подумали. Если вспомнить удастся, значит то, что Вы подумали, было запомнено. Даже чушь. Запоминается всё. Вспоминается не всё.
Приветствую на форуме. В целом ход Ваших мыслей мне близок и я согласен, что ИИ должен любить своего создателя (хозяина). Но в этот термин я вкладываю, в первую очередь, не чувственное эмоциональное содержание, а прагматическое. Любить - значит служить. Каждый человек служит, у каждого есть свой хозяин, предмет своей любви. Кто-то любит своего Творца. Кто-то - отечество. Кто-то науку. Кто-то жену. Кто-то своё туловище. Кто-то шахматы. И так далее. Служение подразумевает конечный список норм, установленных объектом своего служения, соблюдение и достижение которых есть, собственно, содержанием служения, критерием успешности такого служения и ориентиром для построения поведения. Побочным эффектом чисто физиологического уровня являются эмоции от этого служения. Но не факт, что их необходимо моделировать. Потому что тогда придётся моделировать сознание, квалиа и прочие трудноформализуемые вещи. Нужно браться за посильные задачи. Нужно моделировать информационную составляющую служения/любви, а не животную/физиологическую/эмоциональную. Нужно моделировать механизм любви, а не чувство любви.
Добавил тёмную тему для удобства чтения в условиях слабой освещённости, на устройствах с AMOLED-дисплеем и в других ситуациях.
Как переключиться с темы на тему:
- для авторизованных участников: через меню справа сверху ("Тема ночь"/"Тема день");
- для гостей: в окне настроек гостевого доступа.
Настройка запоминается в куках, поэтому тема устанавливается для каждого устройства отдельно.
Если заметите некорректную работу или появятся пожелания по оформлению - прошу сообщить сюда или в личку.
Egg: Microsoft дал своё определение AGI - когда автономный агент заработает свои первые 100 ярдов
Когда-то ваш покорный раб сформулировал инвестиционный парадокс ИИ. Попробую воспроизвести. Инвестор, делающий вложение в ИИ ожидает эффект - полное и полноценное замещение людей в любом интеллектуальном и физическом труде. Таким образом, настоящий ИИ совершает финальную технологическую революцию и при этом неизбежно делает товарно-денежные отношения бессмысленными (как такие, которые основаны на [интеллектуальном и физическом] труде людей и перераспределении благ между людьми). Отсюда ясно, если ИИ приносит деньги - то это не ИИ. А если это не ИИ (а подделка, как сейчас, например), то он не окупится, т.к. в конечном итоге не оправдает ожиданий инвесторов (по полному замещению людей), и нет смысла делать в него традиционные инвестиции (с целью получения денег). Таким образом, настоящее капиталовложение в настоящий ИИ это капиталовложение в новый миропорядок, ждать от которого денежного фидбэка (который имеет смысл только в старом миропорядке) глупо и непоследовательно. Отсюда очевидно, что определение AGI от Microsoft - очередная развесистая липа, для окучивания лохов.
спойлер
ChatGPT: Интересная и глубокая мысль! Этот "инвестиционный парадокс ИИ" действительно отражает конфликт между ожиданиями инвесторов, стремящихся к максимизации прибыли, и радикальными социально-экономическими изменениями, которые полноценный ИИ способен вызвать. Попробуем структурировать эту идею:
1. Настоящий ИИ и замещение труда
Полностью развитый ИИ способен заменить человеческий труд (как интеллектуальный, так и физический), что подрывает основу современного товарно-денежного общества, построенного на труде и обмене. В этом случае деньги как средство обмена теряют смысл.
2. Если ИИ приносит деньги, это не "настоящий" ИИ
Текущие системы, именуемые ИИ, являются инструментами для повышения производительности, но не автономными агентами, способными полностью заменить людей. Они работают в рамках существующей экономики, принося прибыль, но не изменяют её кардинально. Такой ИИ — это скорее "подделка" с точки зрения целей финальной технологической революции.
3. Инвестиции в "неполноценный" ИИ не оправдают ожиданий
Если инвесторы ожидают полного замещения людей, а текущие технологии не могут этого достичь, то инвестиции в такие системы в долгосрочной перспективе не оправдают себя.
4. Инвестиции в настоящий ИИ = инвестиции в новый миропорядок
Настоящий ИИ требует от инвесторов пересмотра их мотивации: вместо ожидания прибыли в рамках текущей системы, они должны ориентироваться на создание новой реальности, где экономика и общество устроены иначе.
Возможные выводы:
• Современные инвестиции в ИИ направлены не на достижение "финального" ИИ, а на улучшение традиционных бизнес-процессов.
• Достижение настоящего ИИ потребует не только технологического прогресса, но и кардинального переосмысления экономических и социальных структур.
• Настоящий ИИ — это не просто продукт, а переходный этап к посткапиталистическому миру.
Этот парадокс можно рассматривать как индикатор того, что развитие настоящего ИИ выходит за рамки традиционных рыночных отношений и требует иной мотивации, возможно, основанной на философских, этических и коллективных целях.
Mist: вариант развития событий, разделённый на три этапа
3 соображения по предложенной хронологической последовательности.
1. 4 года назад ваш смиренный слуга давал прогноз дальнейшего развития информационных технологий под вывеской "искусственный интеллект". Как можно убедиться, прогноз оказался "в руку". Сверхсильный нечеловеческий решатель сделан, но искусственным интеллектом он пока не пахнет. Конечно, бям как инструмент в умелых руках может ускорить процесс достижения искомой цели. Например, ИИ-теоретик, без навыков программирования но с бям, может теперь проверить свои идеи в рабочем коде. Или как рецензент и наводчик на нужную литературу бям вполне хорош. Но, видимо, топикстартер подразумевал некую иную, непосредственную генетическую связь между ИНС и СИИ. Что бям непосредственно станут ядром СИИ. Мне кажется, это главный фантастический элемент предложенной хронологии. Поэтому в предложенном прогнозе для меня осталось загадкой, какие именно предпосылки есть для перехода от 1-го этапа ко 2-му и 3-му.
К примеру п. 8 "Полностью автономный транспорт на дорогах общего пользования". Чтобы добиться такого эффекта водителю необходимо иметь крайне развитую способность к обучению "на лету" и глубокое понимание межличностных отношений и норм, принятых в обществе, потому что на наших дорогах может случиться такое, что не встречалось ни в каких "обучающих выборках". Тут на форуме уже звучали фантастические рассказы, что ещё вот-вот, чуть-чуть поднатужиться и few-shot-learning у нас в кармане. Однако это так и осталось рассказками. По прежнему, прежде чем получить некое вразумительное поведение необходимо сетям долго скармливать секстиллиарды тренировочных последовательностей.
2. "Это приводит к появлению новых конфессий, а также новых технологических религий" вот это место мне тоже показалось крайне фантастическим. Хочу прокомментировать. Создание человеком существ, способных осознать и оценить факт своего творения, может (и даже должно) привести к техно-религии, в которой человеку отводится роль Творца со всеми вытекающими последствиями. Но это никак не отменит всю предыдущую историю самого человека и все его сомнения и метания по поводу своего собственного происхождения. Религия - наиболее консервативная идеология в человеческом обществе и никакие технические инновации не поменяют её основ. Религия и технология - ортогональны. Простыми словами, например, тот факт, что некто сумел создать шагающую тумбу, не отменит его глубокой веры в то, что лично он стал венцом творения всесильной святой Эволюции.
3. Видимо, логично в конце сделать новый "правильный" прогноз на ближайшее будущее развития информационных технологий под вывеской "искусственный интеллект" (чтобы потом было на что ссылаться). Итак, большие языковые модели дойдут до потолка своих возможностей, принесут много пользы и много вреда, заработают много денег и сожрут много гигаВаттчасов, но не заменят собой человека. И вслед за своим буйным расцветом наступит тупик, выйти из которого будет уже труднее, чем раньше, потому что надежды были большими, а время было потеряно на генерацию красивых картинок и красивых текстов, и возвращаться в исходную точку, искать новые пути и начинать всё с нуля всегда труднее, чем просто начинать с нуля. Переучиваться всегда труднее, чем сразу учиться правильно, ведь в таком случае сначала необходимо признать и выучить, что твои знания ложны. Но СИИ несомненно будет создан, и третий этап со всеми своими прелестями несомненно наступит, но это будет связано не с бям. Это будет связано с неизбежным преодолением морока искусственных нейронных сетей.
"И они тотчас, оставив сети, последовали за Ним." Мф 4:20
Это хорошая иллюстрация к ранееприведённому инвестиционному парадоксу ИИ.
В лозунгах "ИИ есть и работает". А в натуре по-прежнему работают люди. За деньги.
Отчёт за 2024 год
За период с 01.01.2024 по 31.12.2024:
• учётных записей создано 12, удалено 0• топиков создано 19, удалено 14• сообщений создано 2736, удалено 1456• искусственных интеллектов создано 0
Подано три жалобы. По итогам голосования в режим "readonly" переведён 1 участник. Ни одно сообщение или топик не были удалены администрацией по итогам голосования. Вся модерация осуществляется участниками форума.
Статистика форума, собранная инструментом AWStats
Egg: это только ты считаешь, что появление ИИ должно привести к полной отмене денег
Что нам по этому поводу говорит DeepSeek:
DeepSeek: Этот парадокс действительно ставит под сомнение традиционные мотивы инвестирования в контексте развития искусственного интеллекта (ИИ). Давайте разберем его более подробно.
Суть парадокса:
Ожидания инвесторов: Инвесторы вкладывают деньги в ИИ с ожиданием, что он полностью заменит человеческий труд (как интеллектуальный, так и физический). Это приведет к радикальному увеличению производительности и, как следствие, к прибыли.
Результат настоящего ИИ: Если ИИ действительно достигнет уровня, при котором он сможет полностью заменить человеческий труд, это приведет к фундаментальным изменениям в экономике. Товарно-денежные отношения, основанные на труде и перераспределении благ, потеряют смысл, так как производство и распределение будут полностью автоматизированы.
Парадокс: Если ИИ приносит прибыль в рамках текущей экономической системы, то он не является настоящим ИИ, так как не приводит к полному замещению труда. Если же ИИ действительно достигает уровня полного замещения, то он делает бессмысленными традиционные инвестиции, так как экономическая система, в которой эти инвестиции имеют смысл, перестает существовать.
Разрешение парадокса:
Переходный период: В краткосрочной и среднесрочной перспективе ИИ будет развиваться постепенно, заменяя отдельные виды труда и повышая производительность. В этот период инвесторы могут получать прибыль от внедрения ИИ в различных отраслях.
Новая экономическая модель: Если ИИ действительно достигнет уровня полного замещения труда, это потребует пересмотра экономической системы. Возможные модели включают безусловный базовый доход, ресурсо-ориентированную экономику или другие формы посткапиталистического общества.
Инвестиции в будущее: Инвестиции в ИИ в этом контексте можно рассматривать не как традиционные капиталовложения с целью получения прибыли, а как вклад в создание нового миропорядка. Это требует изменения мотивации инвесторов и переосмысления целей инвестирования.
Заключение:
Инвестиционный парадокс ИИ действительно ставит сложные вопросы перед инвесторами, экономистами и философами. Разрешение этого парадокса требует не только технологических инноваций, но и глубоких социальных и экономических изменений. Инвестиции в ИИ в этом контексте могут рассматриваться как вклад в будущее человечества, а не просто как способ получения прибыли. Это требует нового подхода к инвестированию, который учитывает долгосрочные последствия развития ИИ для общества и экономики.
Как видим, даже железяка "считает" это парадоксом и внятно разжёвывает по полочкам.
