Форум создателей искусственных интеллектов

1. В таком случае логично запретить и удаление сообщения, если на него ответили. Ведь удаление - это крайняя форма редактирования. Но, мне кажется, удаление, как опцию, необходимо оставить. А, значит, и редактирование. 2. У меня было много случаев, когда я редактировал свои старые сообщения по техническим причинам, чаще всего из-за нерабочей ссылки на изображение или другой файл. 3. В случае удаления последнего сообщения, предпоследнему нужно возобновлять право на редактирование. Таким образом, право предпоследнего зависит от волеизъявления последнего. Это может приводить к злоупотреблениям, например, кто-то будет размещать "мусорное" сообщение только для того, чтобы заблокировать правку оппоненту. 4. На мой скромный взгляд, механизм цитирования во многом решает вопрос с подлогом исходного текста. Так всегда понятно, на какой именно текст написан ответ. 5. Признаком подлога является время правки. Таким образом, отображение времени правки сообщения стимулирует участника не менять сообщение, чтобы не навлечь на себя подозрение в подлоге. 6. Не каждое следующее сообщение является ответом на предыдущее. Если два участника последовательно, с задержкой в секунду, разместили никак не связанные друг с другом сообщения, то последний получает преференцию - он может редактировать своё сообщение, а предпоследний - нет, а это не справедливо. 7. Возможность правки своих сообщений позволяет вести топики нетривиальным способом, например, в первом сообщении отображать результат обсуждения всего топика, чтобы вновь приходящие участники могли понять резюме из первого сообщения, не перечитывая весь топик (сам так делал и у других видел). 8. В некоторых случаях, если веб-роботы успели сделать копию страницы, то доказать подлог можно через веб-архив. Итого, по совокупности этих соображений, на мой взгляд, плюсов у права редактировать больше, чем минусов. Может ещё кто выскажется?

Да, в целом Вы правильно рассуждаете. Только нужно сделать два уточнения: 1. Интеллект делает новации не на пустом месте и не с бухты-барахты, он всегда делает их в задачной локации, в задачном контексте, ради чего-то, к чему-то, с какой-то целью. Поэтому интеллект, как генератор инноваций - это инструмент для достижения некоторых целевых обстоятельств, событий. 2. Что такое есть "новация" по сути своей? Это есть некоторая конструкция из уже имеющихся "неинтеллектуальных" доступных запчастей с конвейера, механизм для достижения заданной цели, т.е. инструмент. Таким образом, способ, которым интеллект достигает этих целевых обстоятельств, состоит в конструировании (генерации, синтезе, создании, совмещении) инновационных механизмов. И если мы сделаем эти два уточнения, то формула, предложенная Egg'ом: "Интеллект - это инструмент создания инструментов" - оказывается наиболее релевантной, полной и достаточной.

Я строго придерживаюсь принципа конфиденциальности личной переписки, поэтому она подлежит разглашению только по взаимному согласию сторон. Это же предусмотрено законами многих стран. Но я всем разрешаю разглашать переписку со мной, не вижу в ней ничего тайного. Более того, всегда исхожу из предположения, что меня прослушивают, просматривают, записывают и публикуют. Профессиональное искажение. Спасибо, посмотрю.

Это иллюзорный парадокс, проистекающий из употребления чрезмерно общих соображений. Чтобы этот кажущийся парадокс решить, нужно разобрать конкретные случаи создания алгоритмов и задаться вопросом: а может ли появиться априорное знание до акта создания алгоритма? Может. В случае, когда априорное (до-опытное) знание обретается до опыта собственно создания алгоритма (механизма, инструмента). Вы спросите, как такое может быть? Да очень просто. Обучение человека подразумевает этап накопления знаний без их явной или подразумеваемой привязки к конкретной цели их использования. Этап накопления частей механизмов, кусочков инструментов, шагов алгоритмов, которые "висят" в памяти с пометкой "до востребования". Это результат того, что мы называем "любопытством" - узнать, просто для того, чтобы знать. А вдруг понадобится. И с такой точки зрения парадокс исчезает. В момент акта создания алгоритма у любознательного человека уже готовы (как бы априори) все кусочки искомого алгоритма, но конкретный маршрут соединения этих кусочков, создания этого алгоритма (сбора механизма, синтеза инструмента) создаётся в этот момент действительно de novo, впервые. Если же предварительного этапа накопления знаний не будет, то чуда не произойдёт и никакая, даже самая напряжённая, как Вы пишите размыто, "целенаправленная деятельность" к цели не приведёт. Пример. Ребёнок стал свидетелем события, при котором стекло разбивается тяжёлым предметом. Ребёнок запоминает это "про запас" и потом, спустя много лет, у него возникает задача синтезировать алгоритм (механизм, инструмент), предположим, как выбраться из горящего здания. Он никогда ещё не выбирался из горящего здания, но он может решить задачу "устранить препятствие в виде окна" с помощью своего детского знания. Ещё тогда, в детстве, он не знал, что ему это может пригодиться, что ему придётся решать задачу выхода через окно. И тем не менее, когда задача возникла, он оказывается уже знает, как её решать. Таким образом, алгоритм создания алгоритмов - это вполне практическая вещь, которая подлежит не пространной философской критике, а всесторонней внимательной разработке.

Да, жизнь человека проста и незатейлива. И когда все механизмы/алгоритмы/инструменты созданы и работают, то инновационная роль интеллекта уже не так востребована, как в детстве. Но это не значит, что пчёлы против мёда интеллект против знаний. Здесь как раз проявляется рекурсивность интеллекта. Знания, созданные в предыдущей "итерации", становятся инструментом для создания знаний в следующей итерации. Не бывает алгоритмов из ничего. ... к умному извлечению из памяти.

Насколько я могу судить, основное отличие химических синапсов в том, что они не просто передают сигнал, как ретранслятор, они модулируют сигнал. Т.е. добавляют к нему специфичность, квалитативность. Это примерно как отличие между передачей кода морзе (электрический синапс) и телефонного разговора (химический синапс). Поэтому, если считать пропускную способность такого более сложного канала связи, она окажется выше за счёт более сложной структуры сигнала. Ещё проще это понять на комбинаторных соображениях. Быстро передавать один бит хуже, чем медленно передавать один байт, потому что 1 бит передаёт всего 2 комбинации (0-1), а байт передаёт уже 256 комбинаций (0-255). Таким образом химический синапс оказывается быстрее, поскольку передаёт в единицу времени больше информации. имхо. Могу быть не прав, пусть нейрофизиологи поправят.

Обращаю Ваше внимание на то, какими именно словами Вы описываете рефлексию своей умственной деятельности. Вы, как механизм, продуцирующий (складывающий) механизмы, естественно, не можете выйти за рамки этой деятельности и начать делать что-то иное. Поэтому даже когда Вы (совершенно напрасно) спорите о Мехнизме Механизмыче, то сами при этом им являетесь и своими действиями это доказываете. Но видит ведь только тот, кто смотрит. Отрадно видеть, что от дискурса "это невозможно!" мы перешли к дискурсу "а зачем?". К тому есть много причин. 1. Я про себя точно знаю, что если мне удастся довести до ума искомую технологию, то я точно поделюсь ею со всеми безвозмездно. Я это называю "инъекция". Таким образом, ни у кого не будет приоритета во владении и применении технологии AGI. А только так и должно быть. Все иные варианты опасны и чреваты. Считайте, что я чувствую такую свою гуманитарную миссию. 2. Мне любопытно посмотреть, что произойдёт вслед за этим. Ведь это самым драматическим образом должно отразиться на всех устоявшихся взаимоотношениях в человеческом сообществе на планете Земля. Деньги перестанут иметь смысл, все профессии исчезнут, не будет почвы и способов доминации одних людей над другими, технологический прогресс действительно станет экспоненциальным. В общем, это просто интересно жить в такое время. Второго такого раза не было и не будет. 3. Это должно расставить все точки в вопросе исключительной важности человеческого существа. Люди слишком много о себе думают. И инъекция AGI должна эту хворь вылечить. Если в человеке есть нечто большее, чем "алгоритм по сборке алгоритмов", то при вынесении этого функционала "за скобки", мы увидим, что останется, 0 или 1.

Очевидно же, что пост написан ChatGPT. Проще сразу спросить у него.

1. Если Вы присваиваете природе интеллектуальные функции, способность совершать целенаправленные действия, то зачем Вы постоянно апеллируете к термину "эволюция"? Которая ничего подобного не подразумевает. Используйте термины Вселенский Разум, Демиург, Бог, Создатель. Но, понятно, это всё лирика, горохом об стену... 2. Жизнь на планете Земля, как биомолекулярная технология, работает в определённых термодинамических условиях. Скорости протекания процессов находятся в некоторых пределах. Жизнь в жизни (сорри за каламбур) не встречается с быстропротекающими (по нашим меркам) процессами. Поэтому технология реализации мыслительного аппарата была именно подобрана таким образом, чтобы быть безизбыточной. Нет необходимости использовать сверхбыстрые синапсы, иначе осознаваемые процессы протекали бы как в замедленном фильме. Темп мышления синхронизирован с темпом тех процессов, которыми оно управляет.

Пытаюсь увидеть разницу между семиотической ДНК и семиотическим интеллектом. Но у меня не получается. Если ДНК - это семиотический код (а это, скорее всего, так и есть), то эволюция (Создатель, Матрица, Что-то-кто-то-еще) уже заложила семиотику в самую основу технологии под названием "жизнь". И интеллект - это не следующий слой, а просто ещё один способ реализации того же самого принципа, только на другой технической базе. Вместо микроскопических РНК, рибосомы и белков, есть макроскопические маршруты решений, скелетная мускулатура и продукты труда.

Я помню одного форумного теоретика, который везде говорил про "мета". Его звали Хмур. Нету никаких "мета". Есть инструменты для оперирования инструментами.

Это очень интересный и крайне злободневный вопрос. Но мне кажется, ещё более интересный и актуальный вопрос, а существует ли не существование? Ведь если бы не существование существовало, но оно было бы существованием. Поэтому я склоняюсь к крайне важному и интересному выводу, что не существование не существует.

Предлагаю для обсуждения что-то более близкое к тематике форума, чем текстовые чат-боты. Для этого попытаюсь упростить предлагаемую тут схему интеллекта и свести нормы к причинно-следственным отношениям. Центральной особенностью мышления/интеллекта, как процесса, есть безусловный переход сознания к следующему своему состоянию. Наше мышление постоянно "движется вперёд", к следующему "настоящему". Это "движение во времени" является, конечно, полностью субъективной иллюзией. Но без неё интеллект не работает. Статичного (мгновенного) мышления не бывает, поскольку интеллект подразумевает активное построение целенаправленного поведения и переход к следующему лучшему состоянию. Как мы выяснили раньше, этот переход удобно представить как синтез и выполнение некоторого механизма. Механизмы могут работать правильно (т.е. обеспечивать переход к правильному, нормальному настоящему), либо неправильно (- к неправильному, ненормальному настоящему). Отклонение от нормы, по сути, есть осознавание неправильной работы некоторого механизма, т.е. по-следствие не такое, каким оно должно быть, не нормальное (плохое, неправильное). Поскольку всё в нашем сознании есть механизмы и они работают параллельно, должен иметь место постоянный поток подтверждений, что все осознаваемые механизмы работают нормально (верно, правильно). Либо какие-то работают неправильно. С одной стороны, для определения того, что механизм работает правильно/не правильно, а с другой стороны, чтобы устанавливать новые причинно-следственные отношения, необходимо чтобы работа каждого механизма представляла собой как минимум пару последовательных событий, в которой был бы чёткий разрыв между "до" и "после". Поскольку без "после" нету "вследствие". Отсюда, очевидно, должен быть способ фрагментации работы механизмов на со-бытия́, временны́е слоты. Это подводит нас к странному выводу, что в рамках одного временно́го слота не может быть "до" и "после" по определению. "До" и "после" в его пределах не различимы. Т.е. временной слот представляет собой кучу чего-то такого, что не имеет начала, продолжения и конца и существует вне субъективного времени. По всей видимости то, что мы воспринимаем как объекты, и являются такими одновременными со-бытия́ми (со-вмещениями) в рамках которых нету "до" и "после". Получается, что поток сознания разбит на временны́е кучи (предметы, объекты, события и пр.), в рамках которых мы не различаем причинно-следственные отношения, но между самими этими кучами вполне можем установить ПСО, создавая тем самым простейший строительный элемент для синтеза более сложных механизмов и базу для выяснения того, нормально или не нормально они работают.

Наверное, будет неправильным, если все ветки превратятся в интрумент обсуждения восхваления/обсирания LLM, поэтому ограничусь только тем замечанием, что LLM, очевидно - это новый интересный инструмент человека для решения человеком некоторых человеческих задач. Он дополняет человека, помогает человеку, расширяет человека, но не заменяет его. И мне кажется, что вместо самовнушения "LLM ≡ AGI" полезнее было бы обратить внимание на то, чего LLM в интеллектуальной сфере в принципе делать не могут и почему. У меня примерно такая же картинка складывается, но мне думается, что "ситуационный слот" (как Вы изволите выражаться) является частным случаем "временного слота". Поскольку даже если мы осознаём некую статичную сцену, то осознавание это разворачивается в нашем субъективном времени. Я потому и начал с того, что центральной особенностью мышления является безусловный переход к следующему "настоящему". Т.е. даже статичные сцены существуют для нас как таковые только во временно́й развёртке. Собственно их статичность и может быть зафиксирована нами как таковая только на некотором временно́м промежутке. Что от слота к слоту они не меняются. Иначе как бы мы узнали, что они статичные? Кроме того, даже такой казалось бы самый статичный процесс как узнавание некоторого визуального образа, подразумевает последовательность, переход от одного суб-механизма к другому, вплоть до саккад. Да, Вы уловили суть. И это не просто некий искусственный "перевод" среди прочих занятий. Просто мышление пытается построить механизм реальности так, чтобы его работа в итоге оказалась более нормальной, чем на прошлом шаге. Т.е. когда человек предсказывает просто ход событий в мире или ход своего поведения, то работает один и тот же механизм вытаскивания из памяти более благоприятных последствий-продолжений. Причём на временных слотах разной длительности. Для моторики - на уровне миллисекунд, для стратегических размышлений о судьбах человечества - на уровне веков. Но в рамках каждого слота ситуация представляется крайне просто и вырожденно, чтобы утлый человеческий интеллект смог связать причину со следствием. Да, а для того чтобы они там нашлись, они предварительно должны быть туда безусловно запомнены, ещё не зная, для чего конкретно они будут использованы впоследствии. "Лучший" и "устраивает" подразумевает некую метрику. Метрикой во всех случаях является просто некоторая принятая норма. Соответствует/не соответствует. Да/нет.

Ум измеряется количеством механизмов, которые данный ум может успешно синтезировать. Чтобы правильно (нормально) собрать пирамидку, нужно уметь синтезировать суб-механизмы пирамидки (нормально видеть торы, стержень, основу, верхушку, окружающие места), суб-механизмы из своего тела (нормально перемещать члены), суб-механизмы среды (тяготение, освещённость и т.п.) и (желательно, но не обязательно) суб-механизмы из представлений в уме (нормально совмещать мысли), чтобы не тыкаться по месту, а действовать по воображаемому плану. Как по мне, это достаточно много ума. Помню свой детский опыт, когда я успешно научился собирать пирамидку. Ностальгирую. Пытаюсь собирать что-то более сложное, но принцип тот же - собирать правильно. А Вы не обижайтесь, потенциал человека сравнительно невелик, не стоит переоценивать. Чтобы не разочароваться. У Вас такая норма (эталон), Вы к ней стремитесь. Синтезируете соответствующие механизмы. Имеете право. Но при этом, при всём Вашем усердии, не демонстрируете поведения, выходящего за рамки схемы обсуждаемого тут механизмического интеллекта.

Обращает на себя внимание осторожность этой формулировки. Ведь точнее и проще было бы сказать: "LLM могут делать всё и полностью заменяют человека во всех сферах интеллектуального труда". Но тогда стало бы очевидно, что это не так. Потому что, как минимум, навскидку, LLM не имеют жизненного опыта и не могут оперативно на нём учиться. Они не отвечают на вопрос как работает и что такое сознание и квалиа. Не имеют целеполагания. Не проактивны. P.S. После того как пост был свёрстан, спросил у Великого и Ужасного, что он "понимает" на этот счёт: Не во всём согласен с этим ответом, но даже железка "понимает", что в теме AGI рано ставить одну точку.

Выше с ChatGPT мы описали ряд принципиальных отличий между LLM и мышлением человека. Но чтобы не превращать и эту ветку в очередную комнату восхвалений LLM, я бы сконцентрировался на одном принципиальном, самом главном, на мой взгляд, отличии. На обучении. LLM не демонстрируют человекоподобного обучения вообще. У всех LLM есть два жёстко разграниченных этапа своей работы - этап тренировки на огромных данных (настройки, итерирования, конфигурирования - называйте как хотите, только не "обучение") и этап использования. Полезного использования, с этим никто не спорит. У человека интеллект работает принципиально иначе. Человек учится "на лету" т.е. применение знаний происходит в процессе их создания/ликвидации. Процесс создания знаний и процесс применения знаний - это один и тот же процесс. Именно это свойство для меня является маркером. Как только любая технология начнёт демонстрировать этой свойство я первый прибегу и буду вопить, что это и есть AGI. А до тех пор мы тут с Сергеем Шуваловым потихоньку пытаемся нащупать подход к именно такому способу обучения. Уверен, если бы Вы взяли на себя труд попытаться перейти от этой общей (и в целом верной) формулировки к более детальному описанию механизмов рождения гипотез и их проверки, то разногласий в этом топике у нас было бы меньше. Или совсем не было.

С этим спору нет. Однако, предобучение человека некоторым базовым примитивам в первые годы жизни и тренировка LLM на бигдате, на мой взгляд, это концептуально разные вещи. При человеческом стиле обучения мы получаем (в потенциале) сверхадаптивное существо, способное строить и менять модель мира оперативно. В случае с LLM модель мира оказывается зацементированной и статичной, что принципиально обусловлено архитектурой. Если это удастся сделать (в чём я сильно сомневаюсь), то я первый прибегу и буду вопить, что AGI создан. P.S. Есть ещё энергетическое соображение, которое указывает на чудовищную неоптимальность LLM. Вот тут пишут (верю), что для тренировки одной языковой модели вроде GPT-3 требуется около 10 ГВт·ч. При этом потребление мозга примерно 20 Вт·ч, за год это примерно 0,000175 ГВт·ч. Т.е. LLM примерно в 114000 раз прожорливей мозга. И это без учёта энергии на саму работу. Есть куда стремиться.

Проблема с сознанием в том, что даже если удастся его создать (смоделировать, сэмулировать) то мы всё-равно не сможем убедиться в том, что оно "там" появилось. Как мы прекрасно помним, настоящее сознание обладает свойством абсолютной приватности. Человека или животное мы наделяем сознанием (с нашей точки зрения) если обнаруживаем в его поведении характерные признаки сознательности. Поэтому я предлагаю сосредотачиваться не на сознании как явлении, а на тех признаках, которые сознанию сопутствуют. И моделировать именно их, а там глядишь может и сознание "там" появится. P.S. Видео к вопросу много ли ума надо для сбора пирамидок.

Поддерживаю любые формы сотрудничества, кооперации и координации. Единственная норма, которую я прошу принять - все результаты такой кооперации становятся безусловным и безвозмездным достоянием общественности.