Форум создателей искусственных интеллектов

Мы по моему о разном: я про иерархию управления системой адаптивности, которую можно представить например как управление крупным предприятием. Директор завода не вникает в каждую мелочь производства, а ставит глобальные задачи, которые так же иерархически делегируются ниже до непосредственных исполнителей, которые понятия не имеют о глобальных планах не то что директора, но даже своего нач. цеха. Их дело тупо исполнять, делать по чертежу, чтобы не было пи..жу. Завод при этом, как система производства, это "одно целое": все звенья заточены (в теории конечно, чтобы не было демагогии) на "выживание": выпуск продукции, чтобы получать ЗП. При этом работа каждого звена сильно отлична от других по функционалу. Что вы пытаетесь мне сказать, отрицая такое делегирование задач - не понятно.

Автоматическое регулирование бывает настолько изощренным, что на определенном системно - структурном уровне и директора можно выделить.

За Вас расстраиваюсь, какие-то у Вас совсем нездоровые ассоциации. Мир – это единое целое (система). Человек – это выражение этого единого целого (системы), организация. Т.е. более подходящее слово (термин) не завод, а организация. Мир – это автомат и все процессы в нём происходят автоматически, а дальше по тексту.

Насколько я понимаю, Вы подходите к этому вопросу исключительно с точки зрения эволюционной парадигмы. И исключительно в том ключе, что любой орган выполняет адаптационную функцию и способствует выживанию самого организма. Как Вы тогда объясните красное пятно на клюве серебристой чайки? Это орган, который самой чайке приносит только убытки, в виде отобранной птенцом пищи. Допускаете ли Вы мысль, что интеллект - это аналог такого красного пятна, в которое "клюют" сообщество сородичей, и которые потом употребляют продукты труда этого интеллекта? Т.е. интеллект повышает выживаемость вида в целом, но совершенно не заботится о выживании конкретного туловища. И если это так, то как при таком взгляде на "как и почему это возникло", сюда вписываются Ваши основополагающие идеи гомеостаза и адаптации? Вот этот вопрос меня особо интересует. Текущая инфо-картинка восприятия, как Вы выражаетесь. Допустим, я вижу шкаф с отломанной дверцей, я понимаю, что этот шкаф работает ненормально, я формирую план решения, реализую его, чиню шкаф, привожу его в норму. Что здесь есть "шкаф" для мышления? Как он возникает, как он существует, как запоминается и применяется именно с точки зрения Вашего подхода?

Необходимости такой нет. Но есть очевидная практическая польза от такого знания. Оно помогло бы отсечь заведомо негодные варианты того, чем является человек и его интеллект. Ведь как-то же человек всё-таки произошёл (хотя есть мнение, что он всё ещё происходит). Я, например пользуюсь пятью взаимоисключающими моделями происхождения человека. Ув. AlexPar, насколько я понимаю, пользуется зачем-то только одной, и я пытаюсь выяснить, какую пользу он из этого извлекает. Пример из жизни. Знание того, что устройство произведено в Китае, здорово помогает понять, как оно работает и как сломается.

Лучше бы тогда пример с мотыльками-однодневками, или правильнее - поденками, которые полноценно живут один день, чтобы совокупиться, отложить яйца и сдохнуть. На этом фоне "красное пятно" смотрится довольно блекло в плане "бессмысленности существования" - у нее вполне полезная функциональность, облегчать процесс питания детенышей. В нашей теории дается определение живого, как существа, обладающего системой гомеостаза с определенными, а не какими попало жизненно важными параметрами (важными для поддержания феномена жизни): поисковое, пищевое, оборонительное, агрессивное и репликационное. В данном случае видим пример, как обеспечивается поддержка репликационного стиля поведения. У одних видов это отложил яйца и забыл, у других более сложные модели поведения. По поводу "интеллект повышает выживаемость вида в целом" - адаптивность естественно подразумевает выживаемость вида, где выживаемость особи способствует выживаемости вида. Самый характерный пример - социально организованные насекомые, где каждая особь "без раздумий" жертвует собой, если так нужно для выживаемости социума. Другое дело, чем сложнее организованы психические механизмы адаптивности, тем сложнее становится пресловутая "произвольность": у насекомых ее практически нет, у человека она практически везде. Если вы видите "шкаф" - значит обработка на 1, 2 уровне сознания прошла, быстро были просканированы правила, найдена подходящая модель понимания. Это группа правил, объединенная по выделенному вниманием важному образу, представляющая собой выборку опыта взаимодействия с объектом в разных контекстных ситуациях: что будет, если выполнить по отношению к нему такое то действие, или что он сам может предпринять на ваше действие. Субъективно это ощущается в виде итогового эмо-ощущения: шкаф просто стоит - спокойное ощущение, шкаф вдруг начал клониться - опа, тут же быстрый прогон по 1,2 уровням, поиск новой модели, где шкафы наклоняются - и тут же прогноз: они как правило падают с грохотом и опасно рядом находиться. Выдается сигнал опасности, включается эмоциональный контекст страх, опасность и т. д. - и вы шарахаетесь в сторону, либо напрягаясь, притормаживаете подходить к нему. Все это очень быстро, "машинально" (1,2 уровень). Тут нет никаких раздумий, построения стратегий. Когда срабатывают маркеры опасности - реагирование откатывается на более примитивный, и потому более шустрый уровень реагирования. А в случае большой опасности может даже откатиться на рефлекторный. Так устаканилось эволюцией и зашито на уровне схем соединений. А вот когда шкаф стоит спокойно, а у вас задача в голове, как его перекантовать в другую комнату в связи с ремонтом - тут и включаются лобные доли. Можно долго и обстоятельно размышлять об этом. Высшие уровни сознания никогда не активируются в критической ситуации - они слишком тормозные для этого, там надо действовать быстро и решительно. Если был успешный опыт решения таких задач. Тогда "подсознательная обработка" на 1,2 уровне быстро найдет его и быстро выкинет на исполнение. А если опыт негативный, или его вообще нет - будет ступор, растерянность, бестолковые движения. Если бы было возможно обучать адекватному поведению в стрессовых ситуациях, оно бы сводилось только к лекциям, как правильно себя вести. Реально же оно сводится к экстремальным тренировкам, чтобы получить нужный положительный опыт.

При чем тут мир. Мы просто пытаемся собрать воедино принципы организации адаптивности, ориентируясь на живую природу. Это одна из множества проблем для осмысления. По вашей логике наукой вообще не стоит заниматься, там ведь тоже бесконечные попытки найти объяснение всему.

То есть сборочные чертежи в топку, работаем по эскизным наброскам, чтобы не искажать восприятие? По поводу искажений: конечно, уже на уровне сенсоров происходит начальное абстрагирование, ведь сенсоры заточены на выделение какой то части из общего внешнего шума. Без абстрагирование вместо музыки в голове будет "белый шум". Я не понимаю вашей логики: модели искажают - к черту модели? Или оставим только те, которые не сильно искажают. А определять их будете судя по всему вы, искажая нам своими моделями восприятия наше.

У меня ничто не вздрогнуло в негодовании после прочтения этих пунктов. Все в унисон. Тогда какую шкуру какого барана мы рвем?

Иное мнение к вопросу о том, что главное в отдельно взятом живом организме (и в АГИ), и это не гомеостаз. А поведения, например, пищевое или оборонительное лишь следствие сформированное предшествующей эволюцией на ином уровне, уровне популяции. https://t.me/AGIevolving/458

Основные принципы и механизмы эволюционного развития индивидуальной адаптивности не зависят от способа их реализации и могут быть реализованы любым подходящим способом, в том числе на дискретных электронных элементах и даже программным путем. Я понимаю интеллект как алгоритмы работы с правилами реагирования, представляющими из себя запечатленный опыт: свой и чужой наблюдаемый. Можно сказать что инструмент, который используется как при обработке личного опыта на всех уровнях мышления. Обобщения различной глубины позволяют находить ассоциативным поиском "новое" решение, которое на самом деле очередная абстракция прошлого опыта на новые условия. Правила реагирования сгруппированные по выделенному значимому объекту образуют модель понимания: способность предсказывать поведение объекта. А как иначе это сделать, не имея опыта взаимодействия с объектом? Если нет опыта работы с конкретным объектом, всегда можно найти какой то подобный ему ассоциативным поиском. Я просто другими терминами излагаю те же утверждения. Думаю единственное непонимание между нами - зачем тут сознание, если все работает на алгоритмах.

Другие механизмы запускающие функции обобщения или там вообще другие функции? Или там не функции - а что тогда? Это вы опять за меня напридумывали. Про механизмы обучения в разговорах об интеллекте я не говорил, речь шла об обработке сохраненного опыта взаимодействия с реальностью, который и определяет суждения-прогнозы. Если же речь зашла о механизмах обучения новому, то их всего два: случайное пробное действие с последующим закреплением/блокировкой, или авторитарно отзеркаленное действие от Учителя. Никаким другим способом вообще нового действия не получить. Все прочие варианты - это ассоциативный поиск чего то подобного. Вы судя по всему складываете вместе 2 разных механизма: получение новых навыков и обработку старых. И все это называете интеллектом. Но тогда выходит, что у младенца уже есть полностью сформированный интеллект - он же обучается новому. А кто сказал, что способность обобщать в правилах? Это просто данные. А вот с их обработкой возникают вопросы: 1. Как нейронка выделяет объекты? 2. Как нейронка определяет смысл объекта, и вообще, что подразумевают разработчики нейронок под термином "смысл"?

Когда вы идете, вы не думаете, какую ногу в какой последовательности двигать, они как бы "сами идут", вам только нужно подумать, куда. Точно так же, когда читаете книгу на родном языке, вы не думаете над смыслом слов и фраз, они сами "выскакивают в голове". Это все действия, закрепленные в виде автоматизмов, моторных и ментальных, выполняемых без раздумий. Как они формируются я сказал, скажите теперь вы свой вариант.

Когда вы учились читать по слагам - вы думали над каждым слогом. Сейчас вы выхватываете смысл сразу целых слов и фраз не думая. Причем даже все слово не обязательно распознавать, достаточно начальных и конечных символов, слогов. "Читать с автоматизмом" означает, что практически вся подготовительная работа включающая в себя распознавание по характерным ключевым признакам слов, быстрый прогноз по правилам, какое слово обычно следует за распознанным - все это происходит на 1,2 уровне мышления и не поддается произвольному управлению. Результатом такой подготовки является готовый образ с определенной значимостью (смыслом), который вам остается только прочувствовать, осознать уже в совокупности со всем текущим восприятием и активными мыслями - что может породить уже совершенно другой смысл, в том числе неожиданный инсайд. Этот процесс можно сравнить с ездой на машине: вы управляете ее движением, но не работой механизмов, это ни к чему да и не нужно совершенно. Дело сознания - рулить машиной, и только. При этом есть сознание, и есть машина со всеми ее механизмами - а вы все это вместе называете интеллектом. По поводу долгих тренировок: вы видимо мое определение обучению новому через отзеркаливание учительских навыков и случайных тыков восприняли буквально: чего то попробовал наугад - ура, получилось! Или учитель показал - все, понял, навык усвоен. И естественно возмутились столь дикой профанацией. На самом деле из того, что я сказал про обучение новому вовсе не следует, что это обучение мгновенно и с первого раза успешно. Такое возможно на низших стадиях развития, когда нет никаких прогнозов по правилам потому, что память еще не сформирована. Тогда происходит тупое запечатление простейших навыков, самый первый из которых импринтинг - запечатлеть свою мать в статусе авторитета. А нам, созревшим особям, приходится в полной мере огребать горя от ума: все попытки научения тут же подвергаются сомнению, сопоставлению с прошлым опытом и даже вообще с попытками чему либо учиться, если за это прилетало по шее. Все новое воспринимается через призму активировавшихся моделей понимания, не дающих просто так взять и просто запечатлеть. А все попытки повторить активируют закрепленные автоматизмы. В итоге ни распознать, ни отзеркалить так просто не получается, приходится в полной мере подключать сознание, осмысливать каждый элемент нового действия, нового движения мысли, чтобы тормознуть автоматическое ветвление в привычную сторону. Это согласуется с вашим пониманием обучения?

Я об этом в самом начале темы говорил: на самых ранних стадиях, когда не развиты механизмы памяти и соответственно механизмы работы с ней, все обучение сводится к случайным пробным попыткам и попыткам повторить действия родителя. Закрепляется оно гомеостатическим эффектом: сунул нос в огонь - больно - образ огня запечатлевается с негативом и в дальнейшем избегается. Цыпленок пищит, хочет есть, курица начинает клевать что то на земле, царапать лапой - он тупо повторяет, оказывается, что эти мелкие штуки - вкусные зерна, а эта извивающаяся штука - не менее вкусный червяк. Теперь он "знает", что делать, когда хочется есть. В зрелом возрасте, когда есть уже опыт взаимодействия с объектами, встреча с новым объектом запускает ассоциативный поиск похожего объекта, поднимается модель понимания и выполняются пробные действия согласно ей. Которые так же закрепляются или блокируются для этой новой модели, в зависимости от эффекта, формируя модель помания нового объекта. Только к гомеостатическому добавляется еще и "ментальный": достижение произвольно поставленной цели. Если ничего не находится по аналогии, снова включаются пробные действия, в первую очередь те, что чаще всего срабатывали для новых объектов. То есть тут строго говоря просто очень глубокое обобщение типа: как вести себя с большими объектами. То же самое касается и мышления: ментальные автоматизмы точно так же закрепляются в результат выполнения мыслительных действий с каким то эффектом, и точно так же новые мысли - это либо чужие, чем то зацепившие, "отзеркаленные" и переваренные, либо это результат, полученный при очередном прогоне с новыми поступившими данными в новом инфо-контексте.

Действие, многократно успешно повторенное становится автоматизмом. Просто потому, что в иерархии реагирования сначала идет быстрая проверка успешности автоматизма, и если все ОК - он выполняется и никаких мыслей по этому поводу не возникает. Поэтому вы идете и не думаете, какой ногой куда шагать, говорите, не думая, какие слоги как сцеплять. Хотя на самом деле тоже думаете, просто не ощущаете, это слишком быстро. По поводу обучения "абстрактным понятиям" очень наглядно показывал пример реабилитации слепоглухих детей А.И. Соколянский. До него считалось, что сознание в мозге "уже есть", оно просто "просыпается" при стимуляции. Его же методика реабилитации детей, некоторые поступали к нему практически в животном состоянии с потерей простейших человеческих навыков типа владеть ложкой, пользоваться горшком, умываться, одеваться и т. д. - показала, с чего начинается "просыпание" сознания: с первичных человечьих навыков, которым приходится заново обучать. И только потом возможен переход к жестовому языку, а затем уже к специальному тактильному, аналогу языка глухонемых, адаптированному для слепоглухих. Чтобы возникли абстрактные понятия, сначала нужны базовые, которые как раз "поощрением и наказанием" усваиваются. Это базовая значимость, понятия что плохо/хорошо, связанные с определенными объектами. В зарубежной практике в тоже время был другой подход, пытались сразу учить детей азбуке слепоглухих. В итоге получалось как с попугаем.

Случайно выполненное, или скопированное действие закрепилось его положительным эффектом и стало запускаться на стимул, его спровоцировавший, как рефлекс. Естественно, оно состоит из элементов, которые уже закреплены. Вы не сможете повторить действие "взять палку", если нет хватательного рефлекса. Не стоит лезть в дебри механизма работы зеркальных нейронов. Тем более, если речь о прототип, там все банально: оператор посылает Beast вербальный стимул, тот его поворяет, посылая обратно оператор отвечает - и Beast формирует пару стимул ответ: оператор "научил" его, как отвечать на его же стимул. Тут думаю все понятно. Это бездумный, авторитарный способ обучения тупым подражанием, используется в начальных стадиях. По поводу нулей и единиц: в живой нейросети и в прототипе все операции происходят с образами, в прототипе это ID образа. Просто числа.

Автоматизм – это отработанная, рассчитанная и проверенная, последовательность действий (управляющих воздействий)? А где и как рассчитывают? Если на примере гимнастки на разновысоких брусьях

Попробовал сделать элемент сложного действия - не получилось довести до конца - не правильно.Опыт такого выполнения записывается с пометкой false. Надо что то менять в выполнении, дробить элемент на еще более мелкие фрагменты и добиваться их целевого выполнения их коррекцией. Сложность распознать, что именно делается не так и подобрать правильную коррекцию.

Конечно не заработает, это начальный тупой способ подражания, когда детеныш не имея развитых механизмов анализа эпизодической памяти, да и самой полноценной памяти, вынужден тупо повторять действия родителя, не понимания их цели - нечем понимать. Единственное что он может - запечатлевать эффект от своего действия с самим действием, оценивая его таким образом как правильное/гне правильное. Но если родитель покажет новое решение той же проблемы, детеныш так же без рассуждений примет его за новый эталон. В итоге накапливаются варианты, один из которых штатный, остальные в подвешенном состоянии: они есть, но не используются. Эту проблему не решить методом бездумного подражания, нужен анализ правил реагирования, который активируется на следующих стадиях.