Форум создателей искусственных интеллектов

Механизм не может состоять из элементов. Механизм может состоять только из механизмов.

Т.е. музыка создаётся умом человека. Т.е. в музыке все запчасти размещены на строго определённых местах. Т.е. у музыки есть функция, цель, по достижении которой мы можем судить работает музыка нормально или нет. Нет, ничего не скрыто, всё явно. Музыка ничем не отличается от любого другого продукта человеческого ума. Т.е. музыка - это обычный механизм, инструмент. Вы сами сейчас это показали. Эту, казалось бы отвлечённую, беседу о музыке я затеял только для того, чтобы показать, что Ваше категоричное утверждение, что "Мышление это разговор, поток слов" некорректное, и Вы зачем-то пытаетесь выдать частное за общее. Слова - это только один из возможных инструментов, которыми манипулирует мышление человека. Человек мыслит механизмами и синтезирует механизмы и не важно какую качественную природу они имеют - словесную, музыкальную, физическую или иную.

Языку, как инструменту, нужно выделить адекватное место и не присваивать ему той роли, которую он не играет. Никто ведь не спорит с тем, что язык - это важный инструмент получения жизненного опыта. Можно получать сырой жизненный опыт непосредственно, через сенсоры. А можно через те же сенсоры получить готовый результат обработки чужого жизненного опыта. Для этого нужен язык, как средство представления своих знаний в виде условных признаков. Таким образом, сильно экономится время на накопление знаний в уме конкретного человека. И поскольку жизнь человека ограничена, важно чтобы человек в своей жизнедеятельности оперировал как можно более широким и достоверным корпусом причинно-следственных отношений. Таким образом он сможет строить более сложное и специфическое поведение, получать принципиально новый жизненный опыт, формировать новые знания и передавать (через язык) их следующим поколениям и так далее, знания накапливаются. Дискуссию вызвало только Ваше категоричное утверждение, что мышление - это, буквально, "оперирование с символьными цепочками". Что, якобы, символьные цепочки - это база для работы мышления. Это иллюзия. Корень и объяснение этой иллюзии я нахожу в том, что отношение обозначения (символизации) имеет ту же самую природу, что и причинно-следственное отношение. Их легко спутать. Но это не значит, что мышление оперирует символами. Думать так, значит выдавать частное за общее. Точнее сказать наоборот, что любое слово/символ есть причиной некоторых последствий и только поэтому оно "работает". Отношение причина-следствие первично, а слово (или музыка или ещё что-то) вторично. Именно поэтому я настаиваю на том, что в основе мышления формируются механизмо-подобные конструкции, которые работают, выполняются и которые могут быть описаны, обозначены, словами. И именно воплощение вот этих конструкций даст нам алгоритмическую автономность, а не переставление слов местами. Слова могут "работать", только если кто-то их воспринимает и по ним пытается воссоздать механизм, который только и может работать.

Чтобы ответить на эти вопросы предельно корректно, нужно назвать вещи своими именами. Фактически, Вы взяли действующий механизм (фразу), сместили со своих мест отдельные слова (суб-механизмы) и свалили их в кучу. После чего вопрошаете, можно ли теперь из этой кучи восстановить место каждого слова, восстановить работу этого же самого механизма. Можно, но в соответствии с чем? Можно из тех же слов сложить другой механизм, который будет достигать другой цели (иметь другой смысл). Или добиться того-то же смысла другими словами (или переставив буквы этих же слов). Первичен смысл, т.е. та задача, которую решает механизм, та цель, к достижению которой он предназначен. С таким же успехом можно разобрать механические часы на шестерёнки, или радиоприёмник распаять на детали, или свитер распустить на нитку. И потом спросить, можно ли восстановить работоспособность соответствующего механизма? Можно, если известна цель работы этого механизма и если известны причинно-следственные отношения, которые может использовать решатель при его построении. В самих шестерёнках или словах нет никакого смысла. Смысл вкладывает тот, кто из них собирает действующий механизм.

Признаки механизма: он имеет имя, он занимает место, он работает как процесс во времени, он сам состоит из механизмов и он встраивается в механизм, он может работать правильно (достигать цели/функции/нормы/роли) и неправильно (не достигать), и он существует, конечно, для субъекта и относительно субъекта.

Интересный содержательный доклад по теме сознания, рекомендую в контексте поиска ответов на вопросы: что такое сознание, как оно возникает, как работает, для чего нужно и может ли быть интеллект без сознания. Во многом солидарен с автором.

Можно развалить велосипед на кучу запчастей, и дать человеку, который никогда не видел велосипед и не знает его смысла. Сможет ли он его собрать? Думаю, сможет, при самых общих знаниях. Просто из того, что некоторые запчасти будут взаимно подходить лучше других. Но эквивалентна ли данная задача изобретению велосипеда с нуля? Нет, не эквивалентна, это совсем другая задача, менее интеллектуальная, более простая, поскольку она требует существенно меньших знаний о причино-следствиях. Но ведь именно задача "изобретения велосипеда" лучше подходит для изучения изобретательской инноваторской роли интеллекта. То, что Вы предлагаете, очень мне напоминает полимино, но в несколько более усложнённых условиях. Достаточно просто составить слова по правилам русского языка, чтобы фраза стала "работать" и провоцировать в читателе некоторый смысл. Но разве этого мы добиваемся от AGI? Мы ведь хотим наоборот, чтобы задав ИИ некий смысл (цель), он сам из своего опыта собрал "велосипед", едущий к этому смыслу. Тут же задача поставлена с ног на голову, имхо.

Мне кажется, если бы Вы понимали, что словами человек может обозначить только свои субъективные построения-представления, то Вы бы не стали позориться, произнося столь дикую бессмыслицу. Попытки выдать своё субъективное за объективное, внутренее за внешнее - понятны, они с одной стороны обусловлены бессилием предложить что-либо иное, а с другой стороны - гордыней. Но даже если на секунду предположить, что Ваша мысль "о внешнем мире" имеет какой-то смысл, то мы вообще не можем себе этот смысл представить. Мы вообще не можем себе представить насколько "внешний мир" другой. Т.е. у нас просто нет вообще никакой опоры для этого. Не говоря уже о том, чтобы давать какие-либо оценки похожести или непохожести. Например, то что нам кажется пространством, в "реальном мире" может оказаться временем, или каким-то программным кодом, или ещё чем-то, для нас в принципе непостижимым. Надо просто скромнее быть, адекватнее и понимать примитивизм и ограниченность своих представлений. Знать их место. Я нашёл интересными, как минимум, два тезиса автора, которые он взял на себя труд артикулировать чётко и ясно. 1. Сознание и самосознание возникает только при научении речи и только в социальном взаимодействии. Эта категоричность мне показалась перспективной. Ведь если сознание "закручивается" только на второй год жизни ребёнка, то это значит, что и создавать сознание в AGI, как "отдельный модуль" или что-то типа такого - не нужно. Нужно создавать архитектурные предпосылки, условия для его возникновения и потом правильно его обучать, иначе сознание не возникнет. Это важно. 2. Основная задача сознания - включить самого себя в модель (механизм) своего мира. Мне показалось забавным думать, что создание искусственного интеллекта вшито в саму природу человека. Ведь если любой человек от рождения пытается понять себя, создать модель себя, включить конструкцию самого себя в свой мир, то это фактически формулировка того, чем занимаются ИИшники. Можно сказать, что ИИшники - самые сознательные люди. И тот, кому удастся создать всамделишный AGI, сможет это сделать только после того, как поймёт устройство самого себя, т.е. в достаточной мере включит самого себя в свою модель мира и тем самым в полной мере выполнит задачу, возложенную на сознание. Простыми словами это можно сформулировать так: сознание человеку нужно только для того, чтобы создать AGI. О как! И это намекает на интересные умозаключения о том, откуда взялись и зачем вообще нужны люди.

Возможно, Вам доставляет физиологическое удовольствие эта бесполезная возня слов. Только в этом я нахожу объяснение тому, что Вы из раза в раз, измазываете себя этими бессмыслицами. Я же сказал Вам по этому вопросу достаточно, добавить мне нечего, поэтому прошу простить, что не смогу поддержать Ваше публичное ментальное самоудовлетворение. Делать надо, но не сознание как таковое, а мезанизм обучения, потенциально (как-то) способный включать самого себя в предмет своего изучения (по Хомякову). Он (автор) хотя бы даёт общий рецепт, иные не дают вообще ничего, кроме бессмыслиц об объективности субъективности. Иначе быть может.

Я это представляю так, что только у сознательного человека (существа) может появиться потребность и возможность дать имена таким явлениям как память, сознание, воля, ответственность, вина, ощущение, воображение, я и т.п. Если сознания нет, то все эти явления сводились бы к какому-то одному - причина-следствие или рефлекс. А если эти явления выделяются у сознательного существа в некие отдельные категории (механизмы), значит для этого была архитектурная предрасположенность, дающая такую возможность. У собаки не получится выработать рефлекс на такое явление как "память" или "сознание". Для собаки их просто нет в пределах её наблюдений. Человек же целые талмуды исписывает на почве наблюдения за такими странными явлениями. Значит у него есть такая архитектурная возможность, чтобы обращать внимание на свои собственные суб-механизмы, описывать их и встраивать в картину своего субъективного мира.

Возможность описания или именования - это просто признак того, что нечто является наблюдаемым и операбельным. Вот, например, причин квалиа мы не наблюдаем никак, поэтому и имени у "этого" нету, а у сознания имя есть, значит и оперировать им мы можем, как с любым именованым предметом, конечно, с учётом специфики его свойств. Сознанием нельзя забивать гвозди, но, например, в диалоге можно уточнить что некое решение было принято осознанно. Это значит, что при принятии решения бралось во внимание все плюсы и минусы, риски, возможные последствия, возможная ответственность, соблюдение всех условий т.е. не "на автомате", не в бессознательной зомби-тьме. Когда компьютер производит своими микросхемами логические операции, он (скорее всего) не осознаёт того факта, что он это делает и, соответственно, не может брать в расчёт самого факта своей активности, а человек благодаря сознанию чудесным образом делает это. Соотносится таким образом, что включая самого себя в свой мир получаешь возможность менять себя и своё поведение. Обезьяна, например, не способна отфиксировать своё незнание в какой-то области и взять себе за труд прокачать свои скилы в этой сфере, а человек может, именно потому, что он может буквально "увидеть", почувствовать, что это именно его незнание, а не кого-то другого. Для Вас вообще, похоже, никаких запретов нет. Вы уже объективность с субъективностью научились сравнивать, и даже не нашли особых отличий... Если допустить, что эти влажные трансгуманистические фантазии когда-нибудь станут реальностю и появится возможность копировать личность, со всей её памятью, в другой субстрат, то сразу вслед за копированием появится новая личность, со своей судьбой и со своей точкой взгляда на мир, просто потому, что два субъекта не смогут находиться в одном и том же месте.

А я нигде и не утверждал, что потому. Я только сказал, что это удобный очевидный признак. Если мы чему-то даже имени дать не можем, то оперировать каким-то другим способом и подавно. Нет принципиальной разницы. И там и там мы синтезируем некий механизм, работа которого ведёт (или не ведёт) к некоторому желаемому результату. При говорении - к желаемому пониманию кем-то чего-то, при езде - к перемещению некоторого груза в некое желаемое место. Я не ищу разницу, я ищу сходство. Рекомендую. Строго говоря, я могу быть уверен только в существовании своего сознания - абсолютная приватность сознания тому виной - уже говорено об этом многократно. Поэтому я не уверен даже, что у Вас есть сознание. Хорошие вопросы, к сожалению, ответов у меня нет. Может кто-то из участников ответит. Но в качестве позитивной программы я думаю полезным будет найти сначала ответ на более простой вопрос. Необходимо ли для включения самого себя в модель своего мира некие особые интерорецепторы, которые буквально будут видеть, чувствовать внутренний мир? Или все вот эти наши "памяти", "воли", "сознания" - это чистые выдумки для объяснения того, почему наше поведение строится именно так, а не иначе. Т.е. внутренний мир изобретается нами только для того, чтобы объяснить самому себе, почему наше туловище демонстрирует такие внешние проявления. Или всё-таки есть "внутреннее око", которое буквально регистрирует изменения внутренней среды мышления. Или какой-то третий вариант.

Вы акцентуируетесь на богатстве, яркости и разнообразии ощущений, впечатлений. Я смотрю на суть вопроса. А суть в том, что одни субъективные представления ведут к другим субъективным представлениям. Принципиальной разницы нет. Ведь и размышления о езде и сама езда - это полноценный жизненный опыт, который нас чему-то учит. Можно и так сказать. В ролике Хомякова есть ссылка на ТЕD-лекцию Jill Bolte Taylor, где она описывает свои ощущения при инсульте левого полушария. В 10-ой минуте она упоминает состояние, при котором она не могла определять, что является её телом, а что нет. В целом тут нет ничего удивительного, что считать своим телом, а что нет - это некая конвенциональная договорённость мозга с самим собой. Ведь все его ощущения - это его ощущения и поэтому нет какого-то незыблемого критерия, по которому можно было бы чётко разграничить, что вот это моё ощущение - это моё тело, а вот это моё же ощущение - уже не моё тело. Для удобства координации скелета мозг (ум) условно разделяет все свои субъективные представления на объективную реальность, воображение, моё тело, не моё тело. Но это, похоже, не более чем факультативная условность. Которая опять же не проясняет сути сознания, потому что даже когда мир и тело сливаются в одно, преемственность личности самой с собой в прошлом, унитарность и субъективность сознания всё равно сохраняются.

Хочу добавить пару соображений о сознании. Так уж случилось, что у нас нет специализированного топика про сознание, а данный топик наиболее релевантный. Если автор против, прошу урезонить. Мысль 1. Когда мы рассуждаем о сознании, то часто (ошибочно) имеем в виду те впечатления, которыми сопровождается осознавание визуальных ощущений. Если закрыть глаза, то сознание сразу теряет самую весомую часть своей привлекательности. Если затем закрыть ещё и уши, то сознание скукоживается до микроскопических размеров. И остаётся только его содежательная часть в виде некоторой отправной точки субъективности + воображение/память. Поскольку человек очень дорожит своим сознательным состоянием (не хочет умирать, переходить в бессознательное), то вполне вероятно, что сознательное впечатление/ощущение напрямую связано с животным инстинктом самосохранения и в точно такой же форме присутствует у животных. Т.е. самосохраниться = оставаться в сознании. Если предположить, что визуальное и слуховое восприятие и у человека, и у животных работает примерно одинаково, то для изучения именно человеческого сознания нужно выносить за скобки вот эту эмоциональную мишуру, связанную с впечатлениями от осознавания (вероятно они есть и у животных), а концентрироваться только на тех когнитивных функциях, которые работают только в сознательном состоянии человека. Мысль 2. Если попытаться абстрагироваться от этой животной/эмоциональной/инстинктивной составляющей сознания, и попытаться уловить только то, что отличает человека от животных, то, на мой взгляд, самое принципиальное отличие сознания человека в том, что оно в каждый момент содержит много разных вариантов путей развития ситуации и выбирает только одно из них, согласовывая эти пути между собой. Животное, судя по всему, всецело охватывается одной овладевающей им страстью и полностью подчиняется ей. Перед человеком же всегда стоит развилка вариантов и благодаря этому он может проявлять более сложное поведение выстраивая маршрут из нескольких развилок, т.е. по сути действуя по алгоритму. Если же человеком овладевает одна страсть, то он и ведёт себя по сути как животное.

Т.е. интеллект всё-таки превращает человека в инструмент. Или нет? Когда-то на готайке был участник Павел Смертин (PostScriptum), основная идея которого состояла в том, что интеллект - это не-алгоритм. Его позиция очень похожа на Вашу, она строится на отрицании и совершенно неконструктивна. Стоит ли говорить, что Павел Смертин не добился никакого результата. Чтобы отрицание стало конструктивным, его необходимо дополнить утверждением: интеллект - это не алгоритм, а ....; интеллект - это не инструмент, а .....

В контексте Вашего поста - интеллект Egg'а в инструмент социума.

А по-моему как раз раскрывает. Людям свойственно думать, что они сами ставят себе цели. Но это иллюзия. Социум задаёт нормы, а устранение отклонений от этих норм люди воспринимают как "свои цели". К примеру, человеку кажется, что ему самому любопытно узнать результат научного опыта или он хочет получить научную степень, а это просто социум использует его как инструмент для добычи новых знаний. Человеку кажется, что он гедонист, а это социум использует его как инструмент для размножения популяции. Или человеку кажется, что он послушный православный слесарь, а это социум его использует для поддержания народного хозяйства в исправном состоянии. Всё больше склоняюсь к мысли, что сознание досталось человеку от животных, и к интеллекту имеет примерно такое же отношение как пищеварение или эмоции. Просто так уж сложилось, что "входным интерфейсом" интеллекта есть ощущения, а они могут быть только в сознании. Как бы животный интерфейс применён к продвинутому интеллектуальному движку для построения более сложного поведения.

Данный функционал доработан с учётом просьбы rrr3. Чтобы ещё более корректно отображать последнее сообщение и подсвечивать непрочитанные топики, необходимо для каждого участника отдельно помнить, какое сообщение он уже прочёл, а какое ещё нет (ведь последних сообщений в топике может быть несколько), а это избыточно. Кроме того, при существующем подходе не возникнет коллизии и в случае удаления из топика всех сообщений. В общем, это компромисс между практичностью и сложностью. Кроме того, даже если последнее сообщение удалено, оно по факту всё-равно последнее, это правда, и для кого-то сам этот факт может нести полезную информацию. Не имею к ув. коитусу никаких претензий, прошу не проявлять к нему какого-либо предубеждения. Каждый имеет право на свою точку зрения. У Леонарда Эйлера были дети, но разве Вы что-то о них знаете? Эйлер известен своим вкладом в совокупное человеческое знание, которое будет работать даже после того, как все потомки Эйлера вымрут и пропаганда эволюции сменится чем-то более вменяемым. Впрочем, если относиться к человеку как к животному, то, действительно, поголовье скота - это важный показатель. Система жалоб заменяет собой все идеологические правила. Если чьи-то личные субъективные убеждения вредят большинству, то с помощью жалоб такая активность купируется. Заранее знать и прописывать, какие правила есть правильные для большинства - не представляется возможным.

На мой скромный взгляд, Вы постфактум изобретаете рациональное обоснование (оправдание) своей безудержной иррациональной животной страсти размножения, которая руководит и определяет Ваше поведение. А эволюция там или религия - это на самом деле без разницы. Ни в коем случае не осуждаю, но призываю уважительно относится к альтернативным точкам зрения и форматам поведения.

Небольшое лирическое пятничное отступление. Материалисты, любопытные люди, им кажется, что их личные субъективные галлюцинации и иллюзии являются свойствами и атрибутами неких внешних предметов/явлений/процессов. В качестве примера, опровергающего данное странное убеждение, мне нравится приводить жёлтый цвет. Убеждённый материалист скажет, что жёлтый цвет возникает как ощущение при попадании на сетчатку глаза света с длиной волны примерно 570 нанометров. И даже "докажет" это применив механизм с именем "призма": Спорить с этим невозможно, это факт, действительно, при совмещении глаза и света с длиной волны 570 нанометров почему-то возникает ощущение жёлтого цвета. Но разве это проясняет, что такое жёлтый цвет? Если вместо света длиной волны 570 нанометров мы спроецируем в глаз смесь светов, каждый из которых в отдельности ощущается как "зелёный" (≈530 нм) и "красный" (≈680 нм), то мы получим ощущение того-же самого жёлтого цвета. Проще всего проверить это глядя на дисплей компьютера, каждая точка которого состоит только из трёх цветов RGB. Если включить только R и G пикселы то мы ощутим именно жёлтый цвет. Но можно сказать, что происходит какое-то смешивание и глазу кажется, что он видит жёлтый цвет, поскольку его длина волны лежит где-то между красным и зелёным. Но тогда как объяснить, что мы не видим жёлтого цвета, там, где "объективно" он должен быть: Как можно убедиться, спектр, излучаемый кружками одинаковый (по идее, должен восприниматься как "жёлтый"). Ну можно сказать, что это иллюзия и просто мозг обманывается. Но с таким же успехом мы ощущаем жёлтый цвет там, где его не должно быть: Кроме того, мы можем ощущать жёлтый цвет во сне, когда в глаз не проецируется вообще ничего. Единственное внятное объяснение всех этих наблюдений в совокупности состоит в том, что жёлтый цвет - это атрибут не внешних предметов, а именно и только нашего субъективного восприятия. Что в определённых условиях мы ощущаем жёлтый цвет как наш собственный продукт, который мы генерируем сами. Но разве любое другое ощущение - температуры, времени, длины, громкости, объёма, глубины, голода, места и пр. - имеет какую-то другую природу? Нет, конечно. Всё, что мы способны ощутить и осознать является нашим собственным продуктом. Можно задаться вопросом, а как же выяснить истинную первопричину этих ощущений? Что стоит за ними? Что их вызывает и обуславливает? Ответ. Никак. Потому для нас, людей, выяснить что-то, понять что-то можно только через комбинацию того, что мы сами сгенерировали.