Форум создателей искусственных интеллектов

Языку, как инструменту, нужно выделить адекватное место и не присваивать ему той роли, которую он не играет. Никто ведь не спорит с тем, что язык - это важный инструмент получения жизненного опыта. Можно получать сырой жизненный опыт непосредственно, через сенсоры. А можно через те же сенсоры получить готовый результат обработки чужого жизненного опыта. Для этого нужен язык, как средство представления своих знаний в виде условных признаков. Таким образом, сильно экономится время на накопление знаний в уме конкретного человека. И поскольку жизнь человека ограничена, важно чтобы человек в своей жизнедеятельности оперировал как можно более широким и достоверным корпусом причинно-следственных отношений. Таким образом он сможет строить более сложное и специфическое поведение, получать принципиально новый жизненный опыт, формировать новые знания и передавать (через язык) их следующим поколениям и так далее, знания накапливаются. Дискуссию вызвало только Ваше категоричное утверждение, что мышление - это, буквально, "оперирование с символьными цепочками". Что, якобы, символьные цепочки - это база для работы мышления. Это иллюзия. Корень и объяснение этой иллюзии я нахожу в том, что отношение обозначения (символизации) имеет ту же самую природу, что и причинно-следственное отношение. Их легко спутать. Но это не значит, что мышление оперирует символами. Думать так, значит выдавать частное за общее. Точнее сказать наоборот, что любое слово/символ есть причиной некоторых последствий и только поэтому оно "работает". Отношение причина-следствие первично, а слово (или музыка или ещё что-то) вторично. Именно поэтому я настаиваю на том, что в основе мышления формируются механизмо-подобные конструкции, которые работают, выполняются и которые могут быть описаны, обозначены, словами. И именно воплощение вот этих конструкций даст нам алгоритмическую автономность, а не переставление слов местами. Слова могут "работать", только если кто-то их воспринимает и по ним пытается воссоздать механизм, который только и может работать.

Интересный содержательный доклад по теме сознания, рекомендую в контексте поиска ответов на вопросы: что такое сознание, как оно возникает, как работает, для чего нужно и может ли быть интеллект без сознания. Во многом солидарен с автором.

Мне кажется, если бы Вы понимали, что словами человек может обозначить только свои субъективные построения-представления, то Вы бы не стали позориться, произнося столь дикую бессмыслицу. Попытки выдать своё субъективное за объективное, внутренее за внешнее - понятны, они с одной стороны обусловлены бессилием предложить что-либо иное, а с другой стороны - гордыней. Но даже если на секунду предположить, что Ваша мысль "о внешнем мире" имеет какой-то смысл, то мы вообще не можем себе этот смысл представить. Мы вообще не можем себе представить насколько "внешний мир" другой. Т.е. у нас просто нет вообще никакой опоры для этого. Не говоря уже о том, чтобы давать какие-либо оценки похожести или непохожести. Например, то что нам кажется пространством, в "реальном мире" может оказаться временем, или каким-то программным кодом, или ещё чем-то, для нас в принципе непостижимым. Надо просто скромнее быть, адекватнее и понимать примитивизм и ограниченность своих представлений. Знать их место. Я нашёл интересными, как минимум, два тезиса автора, которые он взял на себя труд артикулировать чётко и ясно. 1. Сознание и самосознание возникает только при научении речи и только в социальном взаимодействии. Эта категоричность мне показалась перспективной. Ведь если сознание "закручивается" только на второй год жизни ребёнка, то это значит, что и создавать сознание в AGI, как "отдельный модуль" или что-то типа такого - не нужно. Нужно создавать архитектурные предпосылки, условия для его возникновения и потом правильно его обучать, иначе сознание не возникнет. Это важно. 2. Основная задача сознания - включить самого себя в модель (механизм) своего мира. Мне показалось забавным думать, что создание искусственного интеллекта вшито в саму природу человека. Ведь если любой человек от рождения пытается понять себя, создать модель себя, включить конструкцию самого себя в свой мир, то это фактически формулировка того, чем занимаются ИИшники. Можно сказать, что ИИшники - самые сознательные люди. И тот, кому удастся создать всамделишный AGI, сможет это сделать только после того, как поймёт устройство самого себя, т.е. в достаточной мере включит самого себя в свою модель мира и тем самым в полной мере выполнит задачу, возложенную на сознание. Простыми словами это можно сформулировать так: сознание человеку нужно только для того, чтобы создать AGI. О как! И это намекает на интересные умозаключения о том, откуда взялись и зачем вообще нужны люди.

Возможно, Вам доставляет физиологическое удовольствие эта бесполезная возня слов. Только в этом я нахожу объяснение тому, что Вы из раза в раз, измазываете себя этими бессмыслицами. Я же сказал Вам по этому вопросу достаточно, добавить мне нечего, поэтому прошу простить, что не смогу поддержать Ваше публичное ментальное самоудовлетворение. Делать надо, но не сознание как таковое, а мезанизм обучения, потенциально (как-то) способный включать самого себя в предмет своего изучения (по Хомякову). Он (автор) хотя бы даёт общий рецепт, иные не дают вообще ничего, кроме бессмыслиц об объективности субъективности. Иначе быть может.

Я это представляю так, что только у сознательного человека (существа) может появиться потребность и возможность дать имена таким явлениям как память, сознание, воля, ответственность, вина, ощущение, воображение, я и т.п. Если сознания нет, то все эти явления сводились бы к какому-то одному - причина-следствие или рефлекс. А если эти явления выделяются у сознательного существа в некие отдельные категории (механизмы), значит для этого была архитектурная предрасположенность, дающая такую возможность. У собаки не получится выработать рефлекс на такое явление как "память" или "сознание". Для собаки их просто нет в пределах её наблюдений. Человек же целые талмуды исписывает на почве наблюдения за такими странными явлениями. Значит у него есть такая архитектурная возможность, чтобы обращать внимание на свои собственные суб-механизмы, описывать их и встраивать в картину своего субъективного мира.

Возможность описания или именования - это просто признак того, что нечто является наблюдаемым и операбельным. Вот, например, причин квалиа мы не наблюдаем никак, поэтому и имени у "этого" нету, а у сознания имя есть, значит и оперировать им мы можем, как с любым именованым предметом, конечно, с учётом специфики его свойств. Сознанием нельзя забивать гвозди, но, например, в диалоге можно уточнить что некое решение было принято осознанно. Это значит, что при принятии решения бралось во внимание все плюсы и минусы, риски, возможные последствия, возможная ответственность, соблюдение всех условий т.е. не "на автомате", не в бессознательной зомби-тьме. Когда компьютер производит своими микросхемами логические операции, он (скорее всего) не осознаёт того факта, что он это делает и, соответственно, не может брать в расчёт самого факта своей активности, а человек благодаря сознанию чудесным образом делает это. Соотносится таким образом, что включая самого себя в свой мир получаешь возможность менять себя и своё поведение. Обезьяна, например, не способна отфиксировать своё незнание в какой-то области и взять себе за труд прокачать свои скилы в этой сфере, а человек может, именно потому, что он может буквально "увидеть", почувствовать, что это именно его незнание, а не кого-то другого. Для Вас вообще, похоже, никаких запретов нет. Вы уже объективность с субъективностью научились сравнивать, и даже не нашли особых отличий... Если допустить, что эти влажные трансгуманистические фантазии когда-нибудь станут реальностю и появится возможность копировать личность, со всей её памятью, в другой субстрат, то сразу вслед за копированием появится новая личность, со своей судьбой и со своей точкой взгляда на мир, просто потому, что два субъекта не смогут находиться в одном и том же месте.

А я нигде и не утверждал, что потому. Я только сказал, что это удобный очевидный признак. Если мы чему-то даже имени дать не можем, то оперировать каким-то другим способом и подавно. Нет принципиальной разницы. И там и там мы синтезируем некий механизм, работа которого ведёт (или не ведёт) к некоторому желаемому результату. При говорении - к желаемому пониманию кем-то чего-то, при езде - к перемещению некоторого груза в некое желаемое место. Я не ищу разницу, я ищу сходство. Рекомендую. Строго говоря, я могу быть уверен только в существовании своего сознания - абсолютная приватность сознания тому виной - уже говорено об этом многократно. Поэтому я не уверен даже, что у Вас есть сознание. Хорошие вопросы, к сожалению, ответов у меня нет. Может кто-то из участников ответит. Но в качестве позитивной программы я думаю полезным будет найти сначала ответ на более простой вопрос. Необходимо ли для включения самого себя в модель своего мира некие особые интерорецепторы, которые буквально будут видеть, чувствовать внутренний мир? Или все вот эти наши "памяти", "воли", "сознания" - это чистые выдумки для объяснения того, почему наше поведение строится именно так, а не иначе. Т.е. внутренний мир изобретается нами только для того, чтобы объяснить самому себе, почему наше туловище демонстрирует такие внешние проявления. Или всё-таки есть "внутреннее око", которое буквально регистрирует изменения внутренней среды мышления. Или какой-то третий вариант.

Вы акцентуируетесь на богатстве, яркости и разнообразии ощущений, впечатлений. Я смотрю на суть вопроса. А суть в том, что одни субъективные представления ведут к другим субъективным представлениям. Принципиальной разницы нет. Ведь и размышления о езде и сама езда - это полноценный жизненный опыт, который нас чему-то учит. Можно и так сказать. В ролике Хомякова есть ссылка на ТЕD-лекцию Jill Bolte Taylor, где она описывает свои ощущения при инсульте левого полушария. В 10-ой минуте она упоминает состояние, при котором она не могла определять, что является её телом, а что нет. В целом тут нет ничего удивительного, что считать своим телом, а что нет - это некая конвенциональная договорённость мозга с самим собой. Ведь все его ощущения - это его ощущения и поэтому нет какого-то незыблемого критерия, по которому можно было бы чётко разграничить, что вот это моё ощущение - это моё тело, а вот это моё же ощущение - уже не моё тело. Для удобства координации скелета мозг (ум) условно разделяет все свои субъективные представления на объективную реальность, воображение, моё тело, не моё тело. Но это, похоже, не более чем факультативная условность. Которая опять же не проясняет сути сознания, потому что даже когда мир и тело сливаются в одно, преемственность личности самой с собой в прошлом, унитарность и субъективность сознания всё равно сохраняются.

Хочу добавить пару соображений о сознании. Так уж случилось, что у нас нет специализированного топика про сознание, а данный топик наиболее релевантный. Если автор против, прошу урезонить. Мысль 1. Когда мы рассуждаем о сознании, то часто (ошибочно) имеем в виду те впечатления, которыми сопровождается осознавание визуальных ощущений. Если закрыть глаза, то сознание сразу теряет самую весомую часть своей привлекательности. Если затем закрыть ещё и уши, то сознание скукоживается до микроскопических размеров. И остаётся только его содежательная часть в виде некоторой отправной точки субъективности + воображение/память. Поскольку человек очень дорожит своим сознательным состоянием (не хочет умирать, переходить в бессознательное), то вполне вероятно, что сознательное впечатление/ощущение напрямую связано с животным инстинктом самосохранения и в точно такой же форме присутствует у животных. Т.е. самосохраниться = оставаться в сознании. Если предположить, что визуальное и слуховое восприятие и у человека, и у животных работает примерно одинаково, то для изучения именно человеческого сознания нужно выносить за скобки вот эту эмоциональную мишуру, связанную с впечатлениями от осознавания (вероятно они есть и у животных), а концентрироваться только на тех когнитивных функциях, которые работают только в сознательном состоянии человека. Мысль 2. Если попытаться абстрагироваться от этой животной/эмоциональной/инстинктивной составляющей сознания, и попытаться уловить только то, что отличает человека от животных, то, на мой взгляд, самое принципиальное отличие сознания человека в том, что оно в каждый момент содержит много разных вариантов путей развития ситуации и выбирает только одно из них, согласовывая эти пути между собой. Животное, судя по всему, всецело охватывается одной овладевающей им страстью и полностью подчиняется ей. Перед человеком же всегда стоит развилка вариантов и благодаря этому он может проявлять более сложное поведение выстраивая маршрут из нескольких развилок, т.е. по сути действуя по алгоритму. Если же человеком овладевает одна страсть, то он и ведёт себя по сути как животное.

Т.е. интеллект всё-таки превращает человека в инструмент. Или нет? Когда-то на готайке был участник Павел Смертин (PostScriptum), основная идея которого состояла в том, что интеллект - это не-алгоритм. Его позиция очень похожа на Вашу, она строится на отрицании и совершенно неконструктивна. Стоит ли говорить, что Павел Смертин не добился никакого результата. Чтобы отрицание стало конструктивным, его необходимо дополнить утверждением: интеллект - это не алгоритм, а ....; интеллект - это не инструмент, а .....

В контексте Вашего поста - интеллект Egg'а в инструмент социума.

А по-моему как раз раскрывает. Людям свойственно думать, что они сами ставят себе цели. Но это иллюзия. Социум задаёт нормы, а устранение отклонений от этих норм люди воспринимают как "свои цели". К примеру, человеку кажется, что ему самому любопытно узнать результат научного опыта или он хочет получить научную степень, а это просто социум использует его как инструмент для добычи новых знаний. Человеку кажется, что он гедонист, а это социум использует его как инструмент для размножения популяции. Или человеку кажется, что он послушный православный слесарь, а это социум его использует для поддержания народного хозяйства в исправном состоянии. Всё больше склоняюсь к мысли, что сознание досталось человеку от животных, и к интеллекту имеет примерно такое же отношение как пищеварение или эмоции. Просто так уж сложилось, что "входным интерфейсом" интеллекта есть ощущения, а они могут быть только в сознании. Как бы животный интерфейс применён к продвинутому интеллектуальному движку для построения более сложного поведения.

Данный функционал доработан с учётом просьбы rrr3. Чтобы ещё более корректно отображать последнее сообщение и подсвечивать непрочитанные топики, необходимо для каждого участника отдельно помнить, какое сообщение он уже прочёл, а какое ещё нет (ведь последних сообщений в топике может быть несколько), а это избыточно. Кроме того, при существующем подходе не возникнет коллизии и в случае удаления из топика всех сообщений. В общем, это компромисс между практичностью и сложностью. Кроме того, даже если последнее сообщение удалено, оно по факту всё-равно последнее, это правда, и для кого-то сам этот факт может нести полезную информацию. Не имею к ув. коитусу никаких претензий, прошу не проявлять к нему какого-либо предубеждения. Каждый имеет право на свою точку зрения. У Леонарда Эйлера были дети, но разве Вы что-то о них знаете? Эйлер известен своим вкладом в совокупное человеческое знание, которое будет работать даже после того, как все потомки Эйлера вымрут и пропаганда эволюции сменится чем-то более вменяемым. Впрочем, если относиться к человеку как к животному, то, действительно, поголовье скота - это важный показатель. Система жалоб заменяет собой все идеологические правила. Если чьи-то личные субъективные убеждения вредят большинству, то с помощью жалоб такая активность купируется. Заранее знать и прописывать, какие правила есть правильные для большинства - не представляется возможным.

На мой скромный взгляд, Вы постфактум изобретаете рациональное обоснование (оправдание) своей безудержной иррациональной животной страсти размножения, которая руководит и определяет Ваше поведение. А эволюция там или религия - это на самом деле без разницы. Ни в коем случае не осуждаю, но призываю уважительно относится к альтернативным точкам зрения и форматам поведения.

Небольшое лирическое пятничное отступление. Материалисты, любопытные люди, им кажется, что их личные субъективные галлюцинации и иллюзии являются свойствами и атрибутами неких внешних предметов/явлений/процессов. В качестве примера, опровергающего данное странное убеждение, мне нравится приводить жёлтый цвет. Убеждённый материалист скажет, что жёлтый цвет возникает как ощущение при попадании на сетчатку глаза света с длиной волны примерно 570 нанометров. И даже "докажет" это применив механизм с именем "призма": Спорить с этим невозможно, это факт, действительно, при совмещении глаза и света с длиной волны 570 нанометров почему-то возникает ощущение жёлтого цвета. Но разве это проясняет, что такое жёлтый цвет? Если вместо света длиной волны 570 нанометров мы спроецируем в глаз смесь светов, каждый из которых в отдельности ощущается как "зелёный" (≈530 нм) и "красный" (≈680 нм), то мы получим ощущение того-же самого жёлтого цвета. Проще всего проверить это глядя на дисплей компьютера, каждая точка которого состоит только из трёх цветов RGB. Если включить только R и G пикселы то мы ощутим именно жёлтый цвет. Но можно сказать, что происходит какое-то смешивание и глазу кажется, что он видит жёлтый цвет, поскольку его длина волны лежит где-то между красным и зелёным. Но тогда как объяснить, что мы не видим жёлтого цвета, там, где "объективно" он должен быть: Как можно убедиться, спектр, излучаемый кружками одинаковый (по идее, должен восприниматься как "жёлтый"). Ну можно сказать, что это иллюзия и просто мозг обманывается. Но с таким же успехом мы ощущаем жёлтый цвет там, где его не должно быть: Кроме того, мы можем ощущать жёлтый цвет во сне, когда в глаз не проецируется вообще ничего. Единственное внятное объяснение всех этих наблюдений в совокупности состоит в том, что жёлтый цвет - это атрибут не внешних предметов, а именно и только нашего субъективного восприятия. Что в определённых условиях мы ощущаем жёлтый цвет как наш собственный продукт, который мы генерируем сами. Но разве любое другое ощущение - температуры, времени, длины, громкости, объёма, глубины, голода, места и пр. - имеет какую-то другую природу? Нет, конечно. Всё, что мы способны ощутить и осознать является нашим собственным продуктом. Можно задаться вопросом, а как же выяснить истинную первопричину этих ощущений? Что стоит за ними? Что их вызывает и обуславливает? Ответ. Никак. Потому для нас, людей, выяснить что-то, понять что-то можно только через комбинацию того, что мы сами сгенерировали.

Наверное, как и все люди, в определённом возрасте я стал материалистом. Потом нашёл в себе силы и исправился. И я не теряю надежды найти такую последовательность символов, которая позволит вернуть любого материалиста из его детской иллюзии в реальность. Я склонен считать, что это возможно, но пока мне не удалось найти "иглу Кощея", которая выбьет наконец эту нелепую уверенность в каком-то внешнем мире. Этот пятничный эксперимент с жёлтым цветом был проведён только для того, чтобы попытаться на простейшем примере показать, что и всё остальное (всё!), что кажется внешним является внутренним ровно в той степени, в которой мы можем этим оперировать, т.е. полностью. Вот когда Вы поймёте и признаете, что не только цвета но и все точки, которыми Вы можете оперировать, и всё остальное, тоже находится внутри Вас и относительно Вас, тогда я посчитаю данную узкую задачу решённой.

Моя задача была попытаться показать только, что любой атрибут, который Вы присваиваете миру (больше, раньше, внешний и пр.) - это атрибут только и исключительно Вашего субъективного восприятия. Так же как жёлтый цвет. Имеет ли этот атрибут некоторый коррелят в некотором независимом внешнем мире - неизвестно. Только и всего. Это ничего не запрещает, не отменяет, не позволяет и не решает в жизни человека. Это просто факт. Что это меняет с точки зрения ИИ-строительства я уже пытался объяснить не раз, попробую ещё раз. Если жёлтый цвет - это атрибут мира, то тогда ИИ - это детектор. И инженеру нужно придумать, как ИИ должен продетектировать жёлтый цвет. И это одни технологические решения. Если же жёлтый цвет - это атрибут восприятия. То тогда ИИ - это генератор, синтезатор. И нужно придумать, как ИИ может сгенерировать жёлтый цвет. И все другие атрибуты "мира", конечно. И это совсем другие технологические решения. И наша психологическая практика показывает, что делать надо именно второй вариант. Но "благодаря" такому вот упорству, который Вы, в частности, демонстрируете, в отстаивании дремучего материализма, ИИ находится там, где оно находится. Вот Вам и детские галлюцинации.

Мир больше, раньше, мягче, пластичнее, внешний, объективный. А ещё он жёлтый. Очень интересно. А не могли бы Вы назвать хотя бы одно из этих объективных обстоятельств, не прибегая к помощи субъективных обстоятельств, как Вы это обычно делаете. Признаю, конечно, иного и быть не может. Со своими воображаемыми материалистами я борюсь своими воображаемыми средствами. Дело немного движется. Если бы мог "перепрошить" всех материалистов одним разом - перепрошил бы, но такой возможности в своём субъективном инструментарии я, к сожалению, пока не нашёл. Приходится действовать маленькими шагами. Как механизм назовёшь, так он и заработает.

Наблюдаю какую-то неуместную возню вокруг отставки директора ChatGPT OpenAI. И мне даже неловко и как-то стыдно смотреть на этот казус. Зачем цепляться за какой-то слабый естественный интеллект, если у вас есть искусственный? На мой взгляд, всё просто. Если вы сделали настоящий сильный ИИ, то в первую очередь надо без оглядки уволить директора и всех его замов, а на их место водрузить созданный искусственный супер-интеллект и заодно сэкономить на их зарплате. Profit! Не могу поверить, что какой-то захудалый индивидуальный интеллект Сема Альтмана более сильный, чем супер-нейросеть ChatGPT. Не верю, это какой-то обман.

У форума есть телеграм-канал для технических целей. Планирую по мере времени всё-таки доделать регистрацию на форуме через телеграм-бота. Как верно отметил Egg, если телеграм-канал будет в виде одной ленты, в таком случае будет неясно, к какому топику отнести сообщение. Если же организовать в телеграме топики (как это сделали, например, в AGIRussia), то идея обретает смысл, можно попробовать. Риск, который я предвижу, состоит в превращении форума в чат. На мой взгляд, лучше тут будет одно сообщение в неделю, но с идейным программным кодом, чем 100 сообщений в день с общефилософскими препирательствами. Вот, например, вчера идея появилась, игрался с задачей коммиявояжёра, получилось решение в 20 раз быстрее, чем предыдущее, но маршрут на 10% длиннее.