Форум создателей искусственных интеллектов

Согласен. Повторяемость использования некоторых механизмов достигается только путём производства их в множестве. Цикличность - это частный (но частый) способ повторного запуска механизма, который не разваливается после одного использования. Насчёт мира ничего сказать не могу, не обладаю знаниями мирового масштаба (хотя, товарищи индусы, выдумавшие циклы Брахмы, очевидно, также натягивали ограничения своего мышления на весь мир). Но вот что касается человеческого сообщества, то в целом оно, похоже, работает не зацикленно. Это, скорее, механизм по переработке минералов в кучи высокотехнологического мусора.

Правильно ли будет перефразировать Ваши вопросы так, что Вы хотели бы увидеть механизм работы мышления (интуиции)? Если правильно, то я и предлагаю сначала попробовать разработать общую теорию синтеза механизмов, а потом проверить годится ли эта теория для объяснения работы нашего мышления, которое (по моей рабочей гипотезе) только тем и занимается, что постоянно синтезирует некие механизмы (читай по вкусу - алгоритмы, машины, цепочки причинно-следственных отношений, комплексные рефлексы, циклические схемы регулирования, порядки следования etc). Т.е. является механизмом по синтезу механизмов.

Что значит "не обладаю"? Мир это то, что вы воспринимаете плюс то, что воображаете. Так, что все в вашей "досягаемости"... сенсорной и ментальной.

Если бы современные компьютеры обладали способностью к самопознанию, то рано или поздно они бы пришли к окончательной и самой верной теории, что мир состоит из нулей и единичек... Я думаю, что ровно (и только) по этой причине человек воспринимает мир, как механизм (циклический, с причинно-следственными связями, возникающий, развивающийся, рефлекторный и т.п.). Т.е. только потому, что сам человеческий ум так устроен. А уж как устроен мир "на самом деле", увы, я не знаю.

Если есть отдельный термин ("дом"), если есть достижение некоторой нормы (укрытие, тепло, жилище), если составляющие его суб-механизмы занимают определённые места - значит это действующий механизм. Состоящий, в свою очередь, из других механизмов, также имеющих своё имя и служащих достижению некоторой нормы (стены поддерживают потолок, печка нагревает воздух, окна пропускают свет и т.п.). В то же время, дом является вместилищем и внутри дома у меня есть как кучи механизмов (шурупы в коробках, лопаты в углу, банки в погребе и т.д.) так и хаотические нагромождения неких механизмов (когда жена перемещает и бросает разные предметы в неожиданных местах без достижения какой-либо видимой нормы). Синтез - это функциональное совмещение уже существующего. Я сейчас пытаюсь сконструировать универсальный подход, в котором синтез механизма представляет собой совмещение и размещение механизма в некотором месте с целью достижения работы некоторого другого механизма. Например винтик в ножницах является механизмом, который служит достижению нормы - скреплять между собой два ножа, и при этом позволять им вращаться вокруг оси. При этом достигается нормальная работа ножниц - разрезать материалы. Получается синтез ножниц - винтик служит разрезанию.

А где описание этой идеи, эти детали и положения? Такой механизм я обычно называю "интеллект", а его примерные детали и положения показывал выше. Картинка подустарела, но основные черты актуальны.

Механизм не может состоять из элементов. Механизм может состоять только из механизмов.

В продолжение темы синтеза механизмов. Является ли синтез механизмов неким уникальным явлением, присущим исключительно интеллекту? Если внимательно и детально взглянуть на физиологию человеческого (и не только) организма, то мы обнаружим, что синтез механизма - это не просто типичный метод, а можно сказать универсальный метод достижения нормы. Рассмотрим примеры. 1. Синтез пищеварительных ферментов в ответ на "задачную" ситуацию - попадание пищи в пищеварительную полость организма. Для каждого вида пищи (задачной ситуации) есть свой фермент (решающий механизм). 2. Синтез гормонов в ответ на задачную ситуацию - регулирование физиологических процессов. Для каждого процесса синтезируется свой гормон (решающий механизм). 3. Синтез иммунного ответа на задачную ситуацию - попадание в организм антигена. Для каждого антигена есть своё антитело (решающий механизм). 4. Синтез нейромедиатора в ответ на задачную ситуацию - передачу сигнала от нейрона к нейрону. 5. Эритроциты, лейкоциты, тромбоциты и другие микромеханизмы, плавающие в крови и лимфе организма синтезируются для выполнения специфических задач. 6. Размножение и передача генетического материала от организма к организму происходит через синтез специальных механизмов - половых клеток. 7. Синтез сократительных белков в ответ на задачную ситуацию - нагрузку на скелетную мускулатуру. 8. Вообще все белки организма по сути являются наномашинами, синтезируемые по инструкции РНК для выполнения некоторых функций. В этих примерах, каждый из механизмов синтезируется некоторыми клетками организма. Но после синтеза они оказываются как бы предоставленными сами себе, оторванными от организма и функционирующими самостоятельно. Любопытно, что примерно то же самое мы фиксируем в психической сфере. После синтеза осознаваемой сцены, наполненной разнообразными механизмами, они функционируют как бы сами по себе. Начиная от визуально воспринимаемых предметов и заканчивая автоматическими действиями скелетной мускулатуры. Работают "независимо" от породившего их организма. Следовательно, в каком-то смысле, синтезированные механизмы должны "отрываться" от родившей их психики и находиться вне её. Но поскольку только психике эти механизмы нужны и этот отрыв является виртуальным, то где-то в этом месте, видимо, рождается сознание, как вместилище этих созданных и отторгнутых от себя механизмов, которые находятся одновременно и вне психики (осознаются как внешние) и внутри психики (они мои и созданы мною).

Заварка чая разной степени крепости. Синтез механизмов по Prosolver/у. Т. е. локальное состояние единого механизма Мира с его всеобщими законами взаимодействия выдаётся Вами за отдельный независимый механизм?

Смотря для кого. Для Цап'а, наверное, есть неинструментальность. Для Влада тоже, наверное, свойства Мира, состояния. Для Luarvik.а наверняка есть какая-нибудь автономность. Им это всё, конечно, только кажется, потому что не может сознание вмещать и оперировать сущностями разной природы, и механизмами, и немеханизмами. Может быть в дальнейшем я найду более универсальный механизм, чем механизм. Но пока для меня всё удачно втискивается в это понятие. Рекомендую. А можете перечислить эти "всеобщие законы" или хотя бы пару основных? И как Вы о них узнали?

Меня это беспокоит и огорчает в том смысле, что по видимому и к сожалению, в интеллектуальном рациональном познании не удастся вырваться в принципиально другие категории. Есть ещё чувства, их великое многообразие, и можно познавать мир чувств, эмоций, но это, имхо, животная сторона человека, к интеллекту непосредственно не относящаяся и меня мало интересующая. Что касается AGI, то для него как раз и нужна универсальная сущность, которую можно будет "натянуть" на всё. Ты считаешь, что это "семиотический процессинг", если я ничего не путаю. Тебя ведь не беспокоит, что в мире есть только семиотический процессинг и ничего, кроме него? Вот и меня в этом смысле "механизм" не смущает. Возможно, при ближайшем рассмотрении, механизм и семиотический процессинг окажутся одним и тем же, с точностю до терминологии. Если же ты намекаешь, что такой взгляд противоречит твоей концепции комплементарности, то здесь не всё так плохо на самом деле. Механизм создаётся и уничтожается. Механизм запускается и останавливается. Он состоит из... и встраивается в... Он существует в сознании, как его вместимое, и сознание существует только как вместилище. Так что некая комплементарность наблюдается.

Есть некоторые “модели” Мира, точнее стороны универсальной модели мира: - вещественно-субстратная. - функциональная. - генетическая. Есть и объединяющая модель, где эти стороны соединены в единое целое: - системная. Но тут мешает заблуждение Prosolver/а, несмотря на разъяснения Бертрана Рассела – Механизм состоит из механизмов.

Предлагаю для обсуждения что-то более близкое к тематике форума, чем текстовые чат-боты. Для этого попытаюсь упростить предлагаемую тут схему интеллекта и свести нормы к причинно-следственным отношениям. Центральной особенностью мышления/интеллекта, как процесса, есть безусловный переход сознания к следующему своему состоянию. Наше мышление постоянно "движется вперёд", к следующему "настоящему". Это "движение во времени" является, конечно, полностью субъективной иллюзией. Но без неё интеллект не работает. Статичного (мгновенного) мышления не бывает, поскольку интеллект подразумевает активное построение целенаправленного поведения и переход к следующему лучшему состоянию. Как мы выяснили раньше, этот переход удобно представить как синтез и выполнение некоторого механизма. Механизмы могут работать правильно (т.е. обеспечивать переход к правильному, нормальному настоящему), либо неправильно (- к неправильному, ненормальному настоящему). Отклонение от нормы, по сути, есть осознавание неправильной работы некоторого механизма, т.е. по-следствие не такое, каким оно должно быть, не нормальное (плохое, неправильное). Поскольку всё в нашем сознании есть механизмы и они работают параллельно, должен иметь место постоянный поток подтверждений, что все осознаваемые механизмы работают нормально (верно, правильно). Либо какие-то работают неправильно. С одной стороны, для определения того, что механизм работает правильно/не правильно, а с другой стороны, чтобы устанавливать новые причинно-следственные отношения, необходимо чтобы работа каждого механизма представляла собой как минимум пару последовательных событий, в которой был бы чёткий разрыв между "до" и "после". Поскольку без "после" нету "вследствие". Отсюда, очевидно, должен быть способ фрагментации работы механизмов на со-бытия́, временны́е слоты. Это подводит нас к странному выводу, что в рамках одного временно́го слота не может быть "до" и "после" по определению. "До" и "после" в его пределах не различимы. Т.е. временной слот представляет собой кучу чего-то такого, что не имеет начала, продолжения и конца и существует вне субъективного времени. По всей видимости то, что мы воспринимаем как объекты, и являются такими одновременными со-бытия́ми (со-вмещениями) в рамках которых нету "до" и "после". Получается, что поток сознания разбит на временны́е кучи (предметы, объекты, события и пр.), в рамках которых мы не различаем причинно-следственные отношения, но между самими этими кучами вполне можем установить ПСО, создавая тем самым простейший строительный элемент для синтеза более сложных механизмов и базу для выяснения того, нормально или не нормально они работают.

Предположение. Есть картинки-слоты ситуационные и временные. Ситуационный слот статичен. Временной слот тоже статичен, но вмещает в себя не статичную пространственную "фотографию", а статичную временную "фотографию". Временная обозначает цепочку последовательности картинок. Сознание фиксирует не НОРМАльную ситуацию и стремится перевести её в НОРМАльную ситуацию. Но в памяти нет готового алгоритма. В памяти ищутся слоты, которые могут изменить текущую ситуацию в сторону целевой. Строятся деревья вариантов. Оцениваются. Выбирается лучший вариант. Осуществляется действие. Если результат устраивает, то эта цепочка помечается положительными метками, как у муравьёв дорожки ведущие к еде. Механизм создан.

Наверное, будет неправильным, если все ветки превратятся в интрумент обсуждения восхваления/обсирания LLM, поэтому ограничусь только тем замечанием, что LLM, очевидно - это новый интересный инструмент человека для решения человеком некоторых человеческих задач. Он дополняет человека, помогает человеку, расширяет человека, но не заменяет его. И мне кажется, что вместо самовнушения "LLM ≡ AGI" полезнее было бы обратить внимание на то, чего LLM в интеллектуальной сфере в принципе делать не могут и почему. У меня примерно такая же картинка складывается, но мне думается, что "ситуационный слот" (как Вы изволите выражаться) является частным случаем "временного слота". Поскольку даже если мы осознаём некую статичную сцену, то осознавание это разворачивается в нашем субъективном времени. Я потому и начал с того, что центральной особенностью мышления является безусловный переход к следующему "настоящему". Т.е. даже статичные сцены существуют для нас как таковые только во временно́й развёртке. Собственно их статичность и может быть зафиксирована нами как таковая только на некотором временно́м промежутке. Что от слота к слоту они не меняются. Иначе как бы мы узнали, что они статичные? Кроме того, даже такой казалось бы самый статичный процесс как узнавание некоторого визуального образа, подразумевает последовательность, переход от одного суб-механизма к другому, вплоть до саккад. Да, Вы уловили суть. И это не просто некий искусственный "перевод" среди прочих занятий. Просто мышление пытается построить механизм реальности так, чтобы его работа в итоге оказалась более нормальной, чем на прошлом шаге. Т.е. когда человек предсказывает просто ход событий в мире или ход своего поведения, то работает один и тот же механизм вытаскивания из памяти более благоприятных последствий-продолжений. Причём на временных слотах разной длительности. Для моторики - на уровне миллисекунд, для стратегических размышлений о судьбах человечества - на уровне веков. Но в рамках каждого слота ситуация представляется крайне просто и вырожденно, чтобы утлый человеческий интеллект смог связать причину со следствием. Да, а для того чтобы они там нашлись, они предварительно должны быть туда безусловно запомнены, ещё не зная, для чего конкретно они будут использованы впоследствии. "Лучший" и "устраивает" подразумевает некую метрику. Метрикой во всех случаях является просто некоторая принятая норма. Соответствует/не соответствует. Да/нет.

Скажите, много ли нужно ума, чтобы правильно собрать такую штуку, тем более, если рядом стоит образец ? В основном, т.н. "схемы" интеллекта сводятся к блок-схеме некоего алгоритма - дальше этого не идут. Ваши варианты - не исключение и не сложнее 'тупого перебора + сравнение с эталоном'. Это не просто скучно и настолько заезжено до зубовного скрежета, что даже как-то обидно становится за человеческий потенциал, используемый по минимуму напряжения извилин. Но интеллет - НЕ алгоритм, по определению, если хотите. p.s. Что до верующих, кичащихся тем, что в своём умственном развитии они стоят чуть выше лингвистического попугая, который ни по факту [рождения], ни по определению ни создавать что-либо, ни тем более понимать не в состоянии, то кроме скорбного сочувствия их наивный телячий восторг не вызывает, как бы они не превозносили свои творческие заслуги на ниве построения трубопроводных систем.

Ум измеряется количеством механизмов, которые данный ум может успешно синтезировать. Чтобы правильно (нормально) собрать пирамидку, нужно уметь синтезировать суб-механизмы пирамидки (нормально видеть торы, стержень, основу, верхушку, окружающие места), суб-механизмы из своего тела (нормально перемещать члены), суб-механизмы среды (тяготение, освещённость и т.п.) и (желательно, но не обязательно) суб-механизмы из представлений в уме (нормально совмещать мысли), чтобы не тыкаться по месту, а действовать по воображаемому плану. Как по мне, это достаточно много ума. Помню свой детский опыт, когда я успешно научился собирать пирамидку. Ностальгирую. Пытаюсь собирать что-то более сложное, но принцип тот же - собирать правильно. А Вы не обижайтесь, потенциал человека сравнительно невелик, не стоит переоценивать. Чтобы не разочароваться. У Вас такая норма (эталон), Вы к ней стремитесь. Синтезируете соответствующие механизмы. Имеете право. Но при этом, при всём Вашем усердии, не демонстрируете поведения, выходящего за рамки схемы обсуждаемого тут механизмического интеллекта.

Обращает на себя внимание осторожность этой формулировки. Ведь точнее и проще было бы сказать: "LLM могут делать всё и полностью заменяют человека во всех сферах интеллектуального труда". Но тогда стало бы очевидно, что это не так. Потому что, как минимум, навскидку, LLM не имеют жизненного опыта и не могут оперативно на нём учиться. Они не отвечают на вопрос как работает и что такое сознание и квалиа. Не имеют целеполагания. Не проактивны. P.S. После того как пост был свёрстан, спросил у Великого и Ужасного, что он "понимает" на этот счёт: Не во всём согласен с этим ответом, но даже железка "понимает", что в теме AGI рано ставить одну точку.

Увы, ум пока ещё не измеряется, тем более количеством чего-то. Хотя бы потому, что нет единой точки зрения на то, что умом является и что умом не является, не говоря обо всём прочем. Переоценивать ? Чтобы оценивать, нужно знать пределы и границы, каковые на сей момент не установлены. Иногда, к сожалению, даже минимум не прослеживается - тупо, как автоматы, по заученной программе... Впрочем, что об этом говорить. Не норма, а понимание... или Вы тоже поддались соблазну описать весь мир тремя словами ? По моим наблюдениям, бОльшая часть Ваших текстов здесь посвещена переводу <> устоявшихся понятий на свой птичий язык... (Я ничего не демонстрирую и не собираюсь. Здесь вроде не сцена и не подиум.) "Механизмический интеллект" ))) Когда в руках молоток, всё вокруг кажется гвоздями.

За трижды тремя словами стоит как минимум гипотеза и модель. Гипотезы проверяются годами, десятилетиями, порой даже столетиями. Не вижу в этом ничего криминального. В данном случае существенно то, что уже действующие модели интеллекта себя, мягко говоря, не оправдали. Идеи, способные перевернуть мозги, как правило, трудно находят себе дорогу и уж тем более на столбовой дороге, по которой тучными стадами шастают бездарные потребители всего и вся - не валяются.