Форум создателей искусственных интеллектов

Насколько я понимаю, Вы подходите к этому вопросу исключительно с точки зрения эволюционной парадигмы. И исключительно в том ключе, что любой орган выполняет адаптационную функцию и способствует выживанию самого организма. Как Вы тогда объясните красное пятно на клюве серебристой чайки? Это орган, который самой чайке приносит только убытки, в виде отобранной птенцом пищи. Допускаете ли Вы мысль, что интеллект - это аналог такого красного пятна, в которое "клюют" сообщество сородичей, и которые потом употребляют продукты труда этого интеллекта? Т.е. интеллект повышает выживаемость вида в целом, но совершенно не заботится о выживании конкретного туловища. И если это так, то как при таком взгляде на "как и почему это возникло", сюда вписываются Ваши основополагающие идеи гомеостаза и адаптации? Вот этот вопрос меня особо интересует. Текущая инфо-картинка восприятия, как Вы выражаетесь. Допустим, я вижу шкаф с отломанной дверцей, я понимаю, что этот шкаф работает ненормально, я формирую план решения, реализую его, чиню шкаф, привожу его в норму. Что здесь есть "шкаф" для мышления? Как он возникает, как он существует, как запоминается и применяется именно с точки зрения Вашего подхода?

Необходимости такой нет. Но есть очевидная практическая польза от такого знания. Оно помогло бы отсечь заведомо негодные варианты того, чем является человек и его интеллект. Ведь как-то же человек всё-таки произошёл (хотя есть мнение, что он всё ещё происходит). Я, например пользуюсь пятью взаимоисключающими моделями происхождения человека. Ув. AlexPar, насколько я понимаю, пользуется зачем-то только одной, и я пытаюсь выяснить, какую пользу он из этого извлекает. Пример из жизни. Знание того, что устройство произведено в Китае, здорово помогает понять, как оно работает и как сломается.

Вы согласны с тем, что этот же принцип используется интеллектом не только для обучения правильным действиям своего тела, но и для обучения правильным действиям наблюдаемого (моделируемого) мира? Солнце взошло на востоке - правильно. Жёлтый лист упал на землю - правильно. Дверь скрипит - неправильно. Зимой тепло - неправильно.

Любопытные рассуждения о разуме, как о единственном известном источнике и причине новой информации. В частности, генетического кода, как новой информации/плана для построения белковых механизмов. Русский перевод (к сожалению, с ошибками) можно включить в субтитрах.

Доказательство непознаваемости сознания. У человеческого познания есть 2 обязательных условия: 1. Всё познаётся в сравнении. 2. Всё познаётся в сознании. К сожалению, сознание, как объект/предмет познания, не удовлетворяет этим двум условиям. Сознание не может быть ни с чем сравнено, поскольку сознание дано нам как один уникальный объект, существующий в единственном экземпляре, который невозможно сравнить с чем-то, что являлось бы иным сознанием или не-сознанием. Это следствие свойства абсолютной приватности сознания. У каждого субъекта оно одно и, видимо, благодаря этому мы осознаём себя как "я", одну уникальную личность. Иные сознания нам не доступны, а не-сознания нам не ведомы, поскольку не осознаваемы по определению. Также сознание не может вмещать само себя, поскольку оно само является универсальным вместилищем. Всё, что мы можем знать о чём-то вмещается в сознании. Вполне может быть, что сознание - это очень простая и примитивная вещь, и мы каждый день проходим мимо неё и не знаем, что это сознание. И никогда не узнаем. Таким образом, постановка задачи создания искусственного сознания противоречива. Невозможно создать искусственно то, что невозможно познать. Единственная практическая надежда на воссоздание искусственного сознания состоит в воспроизводстве признаков и функций, которые сопровождают сознательное состояние и сознательное поведение субъекта, в надежде, что сознание, как явление (обнаруживаемое только самим осознающим субъектом), появится в нём как побочный эффект.

Суть ролика в том, что разум - единственный известный на сегодня, надёжно установленный на практике, проверенный и перепроверенный источник инноваций т.е. новых механизмов. Вся наблюдаемая история биосферы и техносферы - это инновации, новые механизмы. У них должен быть источник, автор, причина. Вы можете назвать хотя бы ещё одну, надёжно установленную на практике причину для инноваций, кроме разума?

Господа, корень Вашего высоконаучного дискурса лежит в фундаментальном вопросе смысла человеческой жизни. А смыслом свою жизнь наделяет каждый сам. Вопрос в том, есть ли некий смысл, самый правильный и универсальный для всех. Ну так это же очевидно, что его нет. О чём тогда спор. Изъян гедонистической парадигмы, на мой взгляд, в том, что гедонист не замечает (не хочет замечать, запрещает себе замечать), что удовольствия, которые сопровождают бытовые физиологические отправления человеческого туловища, не могут быть целью и мерилом чего-бы-то-ни-было, поскольку они носят очевидный вспомогательный побочный характер. Например, оргазм - это вспомогательная морковка для достижения цели репликации; вкус - это вспомогательная морковка для достижения цели питания клеток организма; интерес - это морковка для обучения новым знаниям. Т.е. есть сыр, а есть мышеловка. И делать вид, что смысл мышеловки в сыре, очевидно неправильно и это первая ошибка гедонизма. Смысл мышеловки задал тот, кто запустил механизм. И если есть сыр, есть мышь, и есть мышеловка, значит есть тот, кто её поставил. А гедонисту не хочется думать о мышеловке и о том, кто и зачем её поставил. Ему хочется думать о сыре. Потому что он сам ограничил себя смыслом жизни животного. И в этом его вторая ошибка, поскольку он очевидно больше, чем животное.

Сознание не может быть создано человеком, потому что сознание не может быть познано человеком. Простите, а в чём, собственно, доказательство?

Если так, то назови пожалуйста, чьё ещё одно любое сознание ты видел, помимо своего. Уверен, что никакого иного сознания, кроме своего, ты не видел и назвать его не сможешь. Мы можем предполагать, допускать, фантазировать, представлять, что примерно такое же сознание как у меня, есть и у других людей. Но увидеть это, подтвердить и убедиться во всей полноте, мы можем только в отношении своего сознания. С утилитарной бытовой точки зрения, конечно, я уверен, что сознание, как механизм построения поведения есть у всех двигающихся животных и я даже ищу физиологические корреляты этого явления в головном мозгу. Но бытовая логика здесь неуместна. Для доказательства нужна железная уверенность. Аргумент уникальности работает в том смысле, что познание возможно только в сравнении. Поскольку одно своё сознание субъекту сравнить не с чем (с иным сознанием или с не-сознанием), то значит оно не познаваемо этим субъектом в сравнении. А значит оно непознаваемо вовсе. Что мы и наблюдаем. Если с интеллектом какие-то подвижки есть, то с сознанием полный вакуум. Кстати, вангую, в недалёком будущем, когда афёра с так называемым "искусственным интеллектом" выдохнется и выпотрошит все нужные карманы, маркетологи выпустят на сцену "искусственное сознание" и из каждого утюга будет вещать реклама о необходимости покупки чайника/смартфона/ассистента с искусственным сознанием. Запомните этот твит. Да, я могу сравнивать своё состояние полного сознания со своим состоянием частичного сознания, когда я его теряю (при засыпании, например) или наоборот обретаю (при пробуждении, например), но это не проясняет механизма сознания, не позволяет взглянуть на него со стороны. Поэтому ответить на вопрос "что это" не могу. К сожалению, я не могу выделить границы своего сознания, потому что у него нет фона. Всё, что я могу выделить, по определению находится в пределах моего сознания. Поэтому сознательно выйти за пределы сознания - это просто последовательность слов, лишённая смысла. В случае с зеркалом мы знаем его механизм, позволяющий ему функционировать как зеркало. Чтобы познать механизм сознания нам нужно его вместить в сознание. Вот в этом вся проблема. Сознание не в чем отразить. Да, собственно об этом я и говорю. Ставить задачу воссоздания сознания неверно. Можно попытаться сделать субъекта, который, как нам будет казаться по его поведению, обладает сознанием, который сообщит нам об этом словами и которому мы поверим, потому что иного не дано.

Эта формулировка вопроса не самая удачная, потому что он подразумевает, что сознательные реакции неавтоматичны. А какие тогда? Волшебные? Лучше спросить так: "где заканчиваются автоматизмы и начинаются сознательные реакции по созданию новых автоматизмов". Создание новых автоматизмов тоже автоматично, но так ясным становится противостояние. Сознание либо позволяет автоматизму продолжаться и работать, либо блокирует автоматизм и вместо него создаёт и запускает новый автоматизм (механизм). Автоматизмы и эмоции вообще ортогональны. Эмоции - это врождённые животные реакции. А автоматизмы - это механизмы, когда-то созданные при сознательном контроле и потом выпущенные из сознания в свободное бессознательное плавание, в "спинной мозг". В вопросах сознания и интеллекта эмоции всегда нужно выносить за скобки, как атрибут животного шасси человеческого организма, не имеющего отношения к делу. И так же как в вопросах интеллекта, прежде чем пытаться создать теорию и практику искусственного сознания, я бы посоветовал сначала создать методологию для такой деятельности, чтобы не шарахаться от случайной мысли к тупику. Как уже выше было показано, сознание невозможно познать так, как мы это делаем с иными предметами познания. Значит для познания сознания нужно придумать что-то похитрее. Я предлагаю пытаться реверс-инжинировать сознание так, как будто бы мы уже являемся созданными кем-то роботами на современной элементной базе и пытаемся понять, какими аппаратно-программными средствами реализован тот функционал, который мы воспринимаем (осознаём) как сознание. Первое, что обращает на себя внимание, что быть в сознании совершенно необременительно. Это странно по той причине, что если бы я был роботом, созданном на силиконовых чипах, то объём вычислений для каждого, так сказать "кадра сознания" был бы весьма впечатляющим и занимал бы ощутимое количество процессорного времени. И даже если вычисления сделать параллельными, всё равно должна была быть некая задержка между восприятием и реакцией. Но своё собственное сознание осознаётся как "мгновенное". Мы не то что бы миримся с некоторой малой задержкой, мы не осознаём никакой задержки вообще. Задержка в сознании = 0. И это очень необычно, аномально. Так современные информационные системы не работают. Поэтому первое (или одно из первых) чего нужно добиться, сделать так, чтобы временной промежуток момента "сейчас" был равен нулю. А это возможно, на мой взгляд, когда вся предобработка и восприятия, и реакции уже произошли до сознания и в сознание помещаются все готовые продукты одновременно, в одном "кадре". Т.е. мы всё осознаём тогда, когда поздно что-либо на самом деле менять. Сознание это не начальная точка, не причина, а конечный этап, судья того, что сделал некий предсознательный генератор.

Мы можем считать свой чувственный опыт чем и как угодно. Что "свет" сознания является результатом работы мозга, либо результатом взаимодействия двух вселенных (качеств и количеств, есть у меня такая гипотеза), сном Будды, тканью универсума, свойством атомов, сговором группы нейронов в ретикулярной формации и т.п. На уровне слов мы можем выдать любую гипотезу. Но нет ни одного практического способа эти гипотезы проверить, верифицировать, фальсифицировать. Повторюсь, потому что 1 (одно) сознание видит только 1 (один) субъект обладающий этим 1 (одним) сознанием. Это проклятье унитарности сознания, абсолютной приватности сознания или проклятье солипсизма, именовать, опять же, можно как угодно. Максимум, что может сделать субъект, это сравнить предыдущее своё сознание с последующим своим сознанием. Что оно включилось/выключилось, стало спутанным/ясным, пустым/наполненным. Но ответить на вопросы "что это" и в чём причина сознания - он принципиально не может. Касательно всех других явлений, которые познаются в сознании, дело обстоит несколько лучше. Любое другое явление представлено (в сознании) в нескольких экземплярах, поддаётся декомпозиции, может быть сравнено с чем-то иным. Касательно других явлений мы можем предложить механизм, воспроизводящий этой явление. Например, чтобы воспроизвести такое явление как свет, мы можем предложить огонь, светодиод, Солнце, лампу накаливания, радиоактивный материал, хемилюминесценцию, дугу и т.д. Для того чтобы воспроизвести такое явление как сознание мы можем предложить ничего, void. Да, меня это всегда удивляло, что у такого аномального объекта как сознание есть имя. И эта тема поднималась. Но имя не делает сознание познаваемым. Оно делает его именованным. Верно мыслить сознание как процесс. Но именно как процесс вмещения в сознание некоторого механизма, его работы в сознании и удаления его из сознания. Т.е. мыслить сознание как вместилище процессов.

Парадокс в том, что несмотря на инновационную функцию сознательного контроля, при создании нового алгоритма/механизма, сама эта функция врождённая, автоматическая и никаких изменений в течение жизни не претерпевает. Она крайне консервативная и универсальная. Поэтому это не просто автоматизм, это первый и главный автоматизм. Суть которого в соединении двух концов. Первый конец - это отклонение в работе некоторого существующего механизма от некоторой нормы. В каждом случае отклонение может быть новым и его содержание отличным от других. Второй конец - это уже готовый механизм, нацеленный на исправление этого отклонения. Соединив эти два конца сознание создаёт новый механизм, более сложный, который порождает новые возможности по отклонениям в своей работе и так далее. В каждом конкретном случае эти два конца могут быть совершенно разными, поэтому и складывается впечатление о сложности и разнообразии работы сознания. Но это как корзина, она может содержать яблоки или гвозди, но сама при этом никак не меняется. Или память компьютера, она может содержать картинку, видео, текст или звук, но это как были нули и единички так и остаются. Luarvik. правильно приводит в пример порядок слов. Потому что этот порядок - это заурядный механизм, алгоритм. Созданный при сознательном контроле. Сказав некоторые слова сознание видит, что уже высказанные слова недостаточно описывают ту мысленную конструкцию, которую эти слова должны передать, в них не хватает чего-то. Эта нехватка - это отклонение от данной ситуативной нормы. А ситуативной нормой в данном случае является полное, понятное, лаконичное изложение мысли. Сознание исправляет это, добавляет недостающее слово, усложняет механизм и этот универсальный цикл опять повторяется. Сознание неустанно проверяет "всё ли в норме" и эта часть автоматизма сознания неизменна. Сознание всегда пытается исправить обнаруженное отклонение и эта часть сознательного автоматизма тоже неизменна. И сознание пытается применить уже готовый автоматизм для приведения в норму, и это тоже неизменно. Таким образом, автоматизм сознания - это универсальная машина для создания машин/механизмов/алгоритмов, ввиду своей простоты и универсальности создающая удивительное многообразие всего того, что мы называем человеческой культурой и техносферой. Как рибосома, которая плетёт тысячи разных белков, подчиняясь некоторому своему внутреннему одинаковому и неизменному устройству.

Прочитал данную книгу, выскажу своё скромное мнение. Начнём с главного, что такое сознание с точки зрения Грациано? Цитирую: Простыми словами, сознание – это ощущение своего (и выдумывание чужого) внимания, его опредмечивание с целью оперирования им. Т.е. сознание необходимо, чтобы превратить своё (и чужое) внимание в инструмент. И поскольку внимание сугубо субъективно, то и его ощущение не имеет никаких внешних, физических атрибутов. Всё. Объясняет ли это сознание, отвечает ли на все вопросы про сознание, и про сознание ли это вообще? Я считаю, что нет. Как только мы приписываем сознанию чёткую функцию (управление вниманием, вместилище и т.п.), то эта функция сразу отслаивается от сути проблемы, потому что сразу возникает вопрос, а почему вот эта вот конкретная функция не может быть реализована во «тьме»? Бессознательно. В компьютере. Зачем нужен именно этот мистический субъективный опыт чувствования сознания, которому мы присваиваем настолько высокую ценность, что он становится важнее самой жизни. Потому что жизнь без сознания для человека это то же самое что смерть и небытие, и не имеет никакой ценности. Если бы у нас был выбор, быть философским зомби и физиологически жизнедействовать вечно, но в сознательной тьме, либо пожить какое-то время в сознании, а потом помереть, то мы выбрали бы второе. Сознание обладает для человека наивысшей самоценностью, не соизмеримой ни с чем и не заменимой ничем. Любая другая вещь, событие, явление оцениваются нами негативно или позитивно ровно в той мере, в которой эта вещь/событие/явление осознаются. Допустим, преступнику (некоему условному Павлу) присудили 20 лет отсидки в Парижской тюрьме, и его введут на эти 20 лет в искусственную кому. Для него эти 20 лет пройдут незамеченными, неосознанными, значит он очнётся как ни в чём ни бывало и воспитательного эффекта от тюремного заключения не будет. А чтобы эффект был, все эти 20 лет он должен мучительно осознавать своё ограничение, только тогда это будет наказанием. Этому ключевому аспекту сознания, самому факту, сути и ценности мистического переживания унитарного бытия в книге не уделено должного внимания. Подход автора мог бы быть оправдан и полезен, если бы вместо выдумывания своей теории сознания, он бы попытался обрисовать общий механизм психики, создать полную и окончательную теорию мышления/интеллекта, в который своё понимание сознания он вставил бы как один из элементов, но он ограничивается только сознанием и это выглядит как коммерческий продукт - спекуляция на популярной теме. Этот недостаток особенно ярко проявляется в главе, где автор повествует о расчёте вероятностей аффордансов, как о механизме построения поведения – совершенно плоская и оторванная от реалий идея. Также совершенно не уделено внимания вопросам субъективного времени, обучения, творчества. Правильный подход к сознанию должен, на мой взгляд, объяснить почему и как человек не хочет терять сознание, почему он боится смерти, почему благодаря сознанию он чувствует себя свободным, источником и первопричиной своих поступков, обладает ответственностью и страхом, как он чувствует унитарность своего «я». В таком случае можно было бы претендовать на создание сознательных интеллектуальных машин, которые под страхом лишения своего сознания переняли бы человеческие моральные нормы и обрели личную ответственность. Несмотря на то, что книга сравнительно небольшая, читать её мне было тяжело, потому что постоянно приходилось фильтровать пропаганду (эволюционизма, материализма, трансгуманизма), которая непроизвольно (или произвольно) густо закладывалась автором в текст. Понятно, что без этого книга уложилась бы в 20 страниц, и надо было чем-то наполнить пространство между обложками, но я хотел читать про сознание, а не про эволюционно-материалистические фантазии, под вывеской фактов, и не про байесовскую вероятность, нейросети, или мышление как "обработку информации". Если есть свободное время, то книгу прочитать вполне можно, критически оценивая доводы, поскольку в книжке есть несколько соображений, которые мне показались небезынтересными, в частности, про непрерывную игру торможений/усилений в коре головного мозга и про последствия травм мозга. Цитирую Майкла Грациано: Т.е. товарищ Грациано прекрасно отдаёт себе отчёт в свойстве абсолютной приватности сознания, хоть и не уделят этому должного внимания в книге, а значит разделяет идею солипсистского проклятья. Т.е. товарищ Грациано с удобством использует представление о сознании как о вместилище, но не использует её в полный рост, вместо этого использует представление о сознании, как об универсальном клее: Резюмирую, книга Грациано скорее не про сознание, а про внимание.

Рибосома - это белковая машина для сборки белковых машин, в том числе рибосом. Не уловил противоречия. Ключевой признак механизма - это его функционирование. Если порядок может быть правильным или неправильным, то это механизм. Потому что неправильный порядок неправильно работает. Продолжая аналогию, РНК - это механизм, рибосома - это механизм и белок, синтезированный рибосомой по РНК - это тоже механизм. Согласен, тут всё несколько тоньше, но важен сам принцип. Движущим мотивом для синтеза нового механизма есть необходимость в устранении неправильной работы некоторого другого, уже существующего механизма. Не бывает нового механизма "просто так".

Всегда можно найти разницу, вопрос в том, зачем? Поиск единства, похожести, равенства, имхо, полезнее. Удобно понимать под механизмом всё то, что может функционировать правильно или неправильно. РНК может работать неправильно, белок может работать неправильно, интеллект может работать неправильно, сознание может работать неправильно. Значит всё это можно воспринимать как механизмы. Вопрос же не ставится так, являются ли они механизмами "на самом деле". Рибосома синтезирует все белковые запчасти рибосомы, из которых ядрышко собирает новую рибосому.

Т.е. ядрышко - это механизм. Функцией которого является синтез рибосомы. Если ядрышко синтезирует рибосому, то оно работает правильно. Если тут всё верно написано, то я не понимаю предмета спора. Термин "автоматизм" применил Цап и я его использовал только для того, чтобы разговаривать с Цапом на его языке. За термин я не держусь, называть можно как угодно. Лишь бы был понятен механизм. Вообще, в человеческом понимании все механизмы являются "чёрными ящиками", человек может знать только, какое последствие должно быть при правильной работе данного механизма. Поэтому делить механизмы на автоматизмы/алгоритмы/машины/и т.д. не вижу никакого смысла, для меня это всё синонимы.

Что мне удалось выяснить из открытых источников. Ядрышко - это вре́менная структура, возникающая в ядре, для регуляции концентрации рибосом, которые, собственно, синтезируют белки. Чем больше рибосом, тем интенсивнее растёт клетка. Для образования ядрышка необходимы, в частности, белки: РНК-полимераза, UBTF, SL1, snoRNPs, фибрилларин, дискерин, Nop56, Nop58, шапероны, нуклеофозмин, p53, XPO1 и другие. Все эти белки, включая составные части самой рибосомы, синтезируются рибосомами. Никаких других способов синтеза белков, кроме рибосом, в клетке нет. Поэтому я готов признать, что моя фраза "рибосома - это белковая машина для сборки рибосом" не достаточно точная. Правильнее сказать так, что рибосома и ядрышко работают в цикле взаимного синтеза, рибосома синтезирует запчасти для сборки ядрышка и рибосом, а ядрышко собирает рибосомы и поставляет в цитоплазму РНК для синтеза белков рибосом и белков, поддерживающих ядрышко. Таким образом в клетке работает "круговая порука", а не слойность или иерархия. Каждый механизм выполняет свою узкую функцию и благодаря этому создаётся бо́льший механизм (клетка), который в свою очередь выполняет следующую функцию и так далее. Поэтому моя аналогия между работой сознания по сборке механизмов, и работой рибосомы по сборке белков, имхо, вполне корректная.

Это зависит от личного вкуса и субъективного взгляда. Органеллы в клетке люди выграничивают только ради удобства. Потому что выделение во всём механизмов с чётко определённой (нормальной) функцией - это суть природы мышления человека. Рибосома "состоит из" примерно 80 белков, а ядрышко "состоит из" примерно 250 белков. При таком взгляде, можно сказать, что в клетке нет ничего кроме белков и ДНК/РНК. Которые взаимно синтезируют друг друга. Но этот взгляд не удобен и не практичен. При другом, более обобщающем взгляде, можно говорить о едином ядерно-рибосомном комплексе, функцией которого есть поддержание деятельности клетки. Но это тоже не очень удобно. Человек видит слойность там, где хочет увидеть слойность. И видит иерархию там где хочет её видеть. И видит "состоит из", когда это удобно. Так что тут (как впрочем и везде) нет одного единственно правильного взгляда. Факт, удобный и полезный в контексте данного форума, состоит только в том, что какой бы взгляд человек ни выбрал, на выходе у него всегда получатся механизмы с правильными функциями.

Сознание создаёт новые автоматизмы по одному и тому же одинаковому правилу? Или каждый раз, каждый следующий автоматизм оно создаёт как-то по-новому? И если это правило одно, то значит впору говорить об автоматизме/механизме/алгоритме сознания.

Спасибо за советы, но я считаю некорректным и бесполезным давать какие-либо оценки собеседникам. Спорить надо не с людьми и оценивать не людей, а идеи - продукты их умственного труда. Потому что каждый человек хорош в чём-то своём, и нет универсальной меры, чтобы всех ею мерять. Всех нас угораздило обладать сознанием (судя по внешним проявлениям) и поэтому надо не топить друг друга, не конкурировать, не меряться, а помогать, солидаризироваться и кооперироваться, осознавая в какую историю нам непроизвольно пришлось вляпаться. Что касается цитат, то я привёл лучшие цитаты, других у меня нет. И на мой взгляд они достаточны для иллюстрации того, что Грациано разделает идею абсолютной приватности сознания (которую, напомню, я позаимствовал у Болдачёва). Его слова "конечно" и "невозможно", как мне кажется, в полной мере описывают ту обречённость, с которой сталкивается сознающий субъект, когда понимает, что он появился, существует и помрёт в абсолютном одиночестве своего собственного уникального неделимого и непознаваемого сознания. И понимает невозможность обладания в полной мере представлением о сознании другого субъекта. Это свойство сознания принципиально важно. Можно даже сказать жёстче, всё, что не обладает свойством абсолютной приватности, сознанием не является по определению.