Форум создателей искусственных интеллектов

Я к вопросу понимания что такое интеллект, сознание подхожу по принципу: нужно понять, как и почему это возникло, тогда станет ясно, как это работает и какой функционал имеет. Так становится очевидным, что рефлексы, как статичные корректирующие действия, проигрывают способным к модификации автоматизмам. В свою очередь, ситуативное реагирование уступает прогностическому, а простой перебор вариантов в процессе прогнозирования менее результативен, чем ассоциативный творческий. Но все это в конечном итоге направлено на улучшение адаптивности. Другое дело, что на уровне гомеостаза понятия плохо/норма/хорошо целиком определяются физиологией. А на сложном, ментальном уровне, когда учитывается весь личный опыт, с закрепленными правилами реагирования, эти константы становятся переменными. В разных ситуациях одно и то же действие оценивается по разному. Это легко проследить на самом себе, сравнивая, что меня в детстве интересовало и что сейчас, разница как правило существенная. С позиции психики оценка делается не по какой то "шкале", а по множеству факторов, текущей инфо-картине восприятия, которая позволяет учитывать что было, есть и будет, а не просто, что есть сейчас. Поэтому понять, почему меня возбуждает эта картина/музыка, а эта нет, вряд ли возможно в смысле разложения по полочкам.

Если философски подойти к вопросу, какова глобальная цель мышления - то получится: не думать. Подобрать такое действие, чтобы запускать его на стимул без всяких выкрутасов, как рефлекс. И чтобы всегда было "стало лучше". Но так не получается и приходится лезть в прогнозы, ассоциации. А практически, если не забывать, что эволюционное развитие это такое папье-маше, где все новое нашпепывается поверх старого, тоже выходит, что сначала запускаются более древние механизмы, доставшиеся от предков, и только если они не справились, приходится подключать лобные доли. Что медленно и затратно. Поэтому природа извращалась по разному, лишь бы не думать, до последнего "тянула", в надежде решить проблему малой кровью. И даже когда мы "думаем", "видим" что либо - это не наши мысли, а чужие переваренные, и видим мы не объекты, а их субъективно искаженные устоявшимися моделями понимания образы.

Тут как раз нет свободы выбора: есть заложенная цель, исходные данные, функция решения. Последовательно перебрав варианты надо выбрать наилучший. Который будет строго прогнозируем потому, что 100% повторяем на одинаковых условиях. Решение ведь по одной и той же функции делается. Муки выбора возникают тогда, когда в голове машины крутятся множество отложенных задач, которые тоже надо решать. Когда не 1 параметр ЖВП, а множество, несколько из которых вышло из нормы, и теперь их приходится поочередно восстанавливать. А тут еще внешняя сенсорика, при повторном обращении выдало какую то новизну, на нее тоже надо отвлечься, вдруг это кто то занес молоток чтобы стукнуть агенту по башке. Вся эта куча задач, малой, средней и срочной важности вносит такой сумбур, что никакая функция не сможет выдавать одинаковые результаты. Для этого и возникло сознание, чтобы выделить в фокус внимания самую актуальную проблему, осмысливать и решать только ее, пока другая не вырвется в актуальные и не перетянет фокус внимания. Кстати, на днях была опубликована наша статья про сознание в рецензируемом журнале.

Мы по моему о разном: я про иерархию управления системой адаптивности, которую можно представить например как управление крупным предприятием. Директор завода не вникает в каждую мелочь производства, а ставит глобальные задачи, которые так же иерархически делегируются ниже до непосредственных исполнителей, которые понятия не имеют о глобальных планах не то что директора, но даже своего нач. цеха. Их дело тупо исполнять, делать по чертежу, чтобы не было пи..жу. Завод при этом, как система производства, это "одно целое": все звенья заточены (в теории конечно, чтобы не было демагогии) на "выживание": выпуск продукции, чтобы получать ЗП. При этом работа каждого звена сильно отлична от других по функционалу. Что вы пытаетесь мне сказать, отрицая такое делегирование задач - не понятно.

Лучше бы тогда пример с мотыльками-однодневками, или правильнее - поденками, которые полноценно живут один день, чтобы совокупиться, отложить яйца и сдохнуть. На этом фоне "красное пятно" смотрится довольно блекло в плане "бессмысленности существования" - у нее вполне полезная функциональность, облегчать процесс питания детенышей. В нашей теории дается определение живого, как существа, обладающего системой гомеостаза с определенными, а не какими попало жизненно важными параметрами (важными для поддержания феномена жизни): поисковое, пищевое, оборонительное, агрессивное и репликационное. В данном случае видим пример, как обеспечивается поддержка репликационного стиля поведения. У одних видов это отложил яйца и забыл, у других более сложные модели поведения. По поводу "интеллект повышает выживаемость вида в целом" - адаптивность естественно подразумевает выживаемость вида, где выживаемость особи способствует выживаемости вида. Самый характерный пример - социально организованные насекомые, где каждая особь "без раздумий" жертвует собой, если так нужно для выживаемости социума. Другое дело, чем сложнее организованы психические механизмы адаптивности, тем сложнее становится пресловутая "произвольность": у насекомых ее практически нет, у человека она практически везде. Если вы видите "шкаф" - значит обработка на 1, 2 уровне сознания прошла, быстро были просканированы правила, найдена подходящая модель понимания. Это группа правил, объединенная по выделенному вниманием важному образу, представляющая собой выборку опыта взаимодействия с объектом в разных контекстных ситуациях: что будет, если выполнить по отношению к нему такое то действие, или что он сам может предпринять на ваше действие. Субъективно это ощущается в виде итогового эмо-ощущения: шкаф просто стоит - спокойное ощущение, шкаф вдруг начал клониться - опа, тут же быстрый прогон по 1,2 уровням, поиск новой модели, где шкафы наклоняются - и тут же прогноз: они как правило падают с грохотом и опасно рядом находиться. Выдается сигнал опасности, включается эмоциональный контекст страх, опасность и т. д. - и вы шарахаетесь в сторону, либо напрягаясь, притормаживаете подходить к нему. Все это очень быстро, "машинально" (1,2 уровень). Тут нет никаких раздумий, построения стратегий. Когда срабатывают маркеры опасности - реагирование откатывается на более примитивный, и потому более шустрый уровень реагирования. А в случае большой опасности может даже откатиться на рефлекторный. Так устаканилось эволюцией и зашито на уровне схем соединений. А вот когда шкаф стоит спокойно, а у вас задача в голове, как его перекантовать в другую комнату в связи с ремонтом - тут и включаются лобные доли. Можно долго и обстоятельно размышлять об этом. Высшие уровни сознания никогда не активируются в критической ситуации - они слишком тормозные для этого, там надо действовать быстро и решительно. Если был успешный опыт решения таких задач. Тогда "подсознательная обработка" на 1,2 уровне быстро найдет его и быстро выкинет на исполнение. А если опыт негативный, или его вообще нет - будет ступор, растерянность, бестолковые движения. Если бы было возможно обучать адекватному поведению в стрессовых ситуациях, оно бы сводилось только к лекциям, как правильно себя вести. Реально же оно сводится к экстремальным тренировкам, чтобы получить нужный положительный опыт.

При чем тут мир. Мы просто пытаемся собрать воедино принципы организации адаптивности, ориентируясь на живую природу. Это одна из множества проблем для осмысления. По вашей логике наукой вообще не стоит заниматься, там ведь тоже бесконечные попытки найти объяснение всему.

То есть сборочные чертежи в топку, работаем по эскизным наброскам, чтобы не искажать восприятие? По поводу искажений: конечно, уже на уровне сенсоров происходит начальное абстрагирование, ведь сенсоры заточены на выделение какой то части из общего внешнего шума. Без абстрагирование вместо музыки в голове будет "белый шум". Я не понимаю вашей логики: модели искажают - к черту модели? Или оставим только те, которые не сильно искажают. А определять их будете судя по всему вы, искажая нам своими моделями восприятия наше.

У меня ничто не вздрогнуло в негодовании после прочтения этих пунктов. Все в унисон. Тогда какую шкуру какого барана мы рвем?

Основные принципы и механизмы эволюционного развития индивидуальной адаптивности не зависят от способа их реализации и могут быть реализованы любым подходящим способом, в том числе на дискретных электронных элементах и даже программным путем. Я понимаю интеллект как алгоритмы работы с правилами реагирования, представляющими из себя запечатленный опыт: свой и чужой наблюдаемый. Можно сказать что инструмент, который используется как при обработке личного опыта на всех уровнях мышления. Обобщения различной глубины позволяют находить ассоциативным поиском "новое" решение, которое на самом деле очередная абстракция прошлого опыта на новые условия. Правила реагирования сгруппированные по выделенному значимому объекту образуют модель понимания: способность предсказывать поведение объекта. А как иначе это сделать, не имея опыта взаимодействия с объектом? Если нет опыта работы с конкретным объектом, всегда можно найти какой то подобный ему ассоциативным поиском. Я просто другими терминами излагаю те же утверждения. Думаю единственное непонимание между нами - зачем тут сознание, если все работает на алгоритмах.

Другие механизмы запускающие функции обобщения или там вообще другие функции? Или там не функции - а что тогда? Это вы опять за меня напридумывали. Про механизмы обучения в разговорах об интеллекте я не говорил, речь шла об обработке сохраненного опыта взаимодействия с реальностью, который и определяет суждения-прогнозы. Если же речь зашла о механизмах обучения новому, то их всего два: случайное пробное действие с последующим закреплением/блокировкой, или авторитарно отзеркаленное действие от Учителя. Никаким другим способом вообще нового действия не получить. Все прочие варианты - это ассоциативный поиск чего то подобного. Вы судя по всему складываете вместе 2 разных механизма: получение новых навыков и обработку старых. И все это называете интеллектом. Но тогда выходит, что у младенца уже есть полностью сформированный интеллект - он же обучается новому. А кто сказал, что способность обобщать в правилах? Это просто данные. А вот с их обработкой возникают вопросы: 1. Как нейронка выделяет объекты? 2. Как нейронка определяет смысл объекта, и вообще, что подразумевают разработчики нейронок под термином "смысл"?

Когда вы идете, вы не думаете, какую ногу в какой последовательности двигать, они как бы "сами идут", вам только нужно подумать, куда. Точно так же, когда читаете книгу на родном языке, вы не думаете над смыслом слов и фраз, они сами "выскакивают в голове". Это все действия, закрепленные в виде автоматизмов, моторных и ментальных, выполняемых без раздумий. Как они формируются я сказал, скажите теперь вы свой вариант.

Когда вы учились читать по слагам - вы думали над каждым слогом. Сейчас вы выхватываете смысл сразу целых слов и фраз не думая. Причем даже все слово не обязательно распознавать, достаточно начальных и конечных символов, слогов. "Читать с автоматизмом" означает, что практически вся подготовительная работа включающая в себя распознавание по характерным ключевым признакам слов, быстрый прогноз по правилам, какое слово обычно следует за распознанным - все это происходит на 1,2 уровне мышления и не поддается произвольному управлению. Результатом такой подготовки является готовый образ с определенной значимостью (смыслом), который вам остается только прочувствовать, осознать уже в совокупности со всем текущим восприятием и активными мыслями - что может породить уже совершенно другой смысл, в том числе неожиданный инсайд. Этот процесс можно сравнить с ездой на машине: вы управляете ее движением, но не работой механизмов, это ни к чему да и не нужно совершенно. Дело сознания - рулить машиной, и только. При этом есть сознание, и есть машина со всеми ее механизмами - а вы все это вместе называете интеллектом. По поводу долгих тренировок: вы видимо мое определение обучению новому через отзеркаливание учительских навыков и случайных тыков восприняли буквально: чего то попробовал наугад - ура, получилось! Или учитель показал - все, понял, навык усвоен. И естественно возмутились столь дикой профанацией. На самом деле из того, что я сказал про обучение новому вовсе не следует, что это обучение мгновенно и с первого раза успешно. Такое возможно на низших стадиях развития, когда нет никаких прогнозов по правилам потому, что память еще не сформирована. Тогда происходит тупое запечатление простейших навыков, самый первый из которых импринтинг - запечатлеть свою мать в статусе авторитета. А нам, созревшим особям, приходится в полной мере огребать горя от ума: все попытки научения тут же подвергаются сомнению, сопоставлению с прошлым опытом и даже вообще с попытками чему либо учиться, если за это прилетало по шее. Все новое воспринимается через призму активировавшихся моделей понимания, не дающих просто так взять и просто запечатлеть. А все попытки повторить активируют закрепленные автоматизмы. В итоге ни распознать, ни отзеркалить так просто не получается, приходится в полной мере подключать сознание, осмысливать каждый элемент нового действия, нового движения мысли, чтобы тормознуть автоматическое ветвление в привычную сторону. Это согласуется с вашим пониманием обучения?

Я об этом в самом начале темы говорил: на самых ранних стадиях, когда не развиты механизмы памяти и соответственно механизмы работы с ней, все обучение сводится к случайным пробным попыткам и попыткам повторить действия родителя. Закрепляется оно гомеостатическим эффектом: сунул нос в огонь - больно - образ огня запечатлевается с негативом и в дальнейшем избегается. Цыпленок пищит, хочет есть, курица начинает клевать что то на земле, царапать лапой - он тупо повторяет, оказывается, что эти мелкие штуки - вкусные зерна, а эта извивающаяся штука - не менее вкусный червяк. Теперь он "знает", что делать, когда хочется есть. В зрелом возрасте, когда есть уже опыт взаимодействия с объектами, встреча с новым объектом запускает ассоциативный поиск похожего объекта, поднимается модель понимания и выполняются пробные действия согласно ей. Которые так же закрепляются или блокируются для этой новой модели, в зависимости от эффекта, формируя модель помания нового объекта. Только к гомеостатическому добавляется еще и "ментальный": достижение произвольно поставленной цели. Если ничего не находится по аналогии, снова включаются пробные действия, в первую очередь те, что чаще всего срабатывали для новых объектов. То есть тут строго говоря просто очень глубокое обобщение типа: как вести себя с большими объектами. То же самое касается и мышления: ментальные автоматизмы точно так же закрепляются в результат выполнения мыслительных действий с каким то эффектом, и точно так же новые мысли - это либо чужие, чем то зацепившие, "отзеркаленные" и переваренные, либо это результат, полученный при очередном прогоне с новыми поступившими данными в новом инфо-контексте.

Действие, многократно успешно повторенное становится автоматизмом. Просто потому, что в иерархии реагирования сначала идет быстрая проверка успешности автоматизма, и если все ОК - он выполняется и никаких мыслей по этому поводу не возникает. Поэтому вы идете и не думаете, какой ногой куда шагать, говорите, не думая, какие слоги как сцеплять. Хотя на самом деле тоже думаете, просто не ощущаете, это слишком быстро. По поводу обучения "абстрактным понятиям" очень наглядно показывал пример реабилитации слепоглухих детей А.И. Соколянский. До него считалось, что сознание в мозге "уже есть", оно просто "просыпается" при стимуляции. Его же методика реабилитации детей, некоторые поступали к нему практически в животном состоянии с потерей простейших человеческих навыков типа владеть ложкой, пользоваться горшком, умываться, одеваться и т. д. - показала, с чего начинается "просыпание" сознания: с первичных человечьих навыков, которым приходится заново обучать. И только потом возможен переход к жестовому языку, а затем уже к специальному тактильному, аналогу языка глухонемых, адаптированному для слепоглухих. Чтобы возникли абстрактные понятия, сначала нужны базовые, которые как раз "поощрением и наказанием" усваиваются. Это базовая значимость, понятия что плохо/хорошо, связанные с определенными объектами. В зарубежной практике в тоже время был другой подход, пытались сразу учить детей азбуке слепоглухих. В итоге получалось как с попугаем.

Случайно выполненное, или скопированное действие закрепилось его положительным эффектом и стало запускаться на стимул, его спровоцировавший, как рефлекс. Естественно, оно состоит из элементов, которые уже закреплены. Вы не сможете повторить действие "взять палку", если нет хватательного рефлекса. Не стоит лезть в дебри механизма работы зеркальных нейронов. Тем более, если речь о прототип, там все банально: оператор посылает Beast вербальный стимул, тот его поворяет, посылая обратно оператор отвечает - и Beast формирует пару стимул ответ: оператор "научил" его, как отвечать на его же стимул. Тут думаю все понятно. Это бездумный, авторитарный способ обучения тупым подражанием, используется в начальных стадиях. По поводу нулей и единиц: в живой нейросети и в прототипе все операции происходят с образами, в прототипе это ID образа. Просто числа.

Попробовал сделать элемент сложного действия - не получилось довести до конца - не правильно.Опыт такого выполнения записывается с пометкой false. Надо что то менять в выполнении, дробить элемент на еще более мелкие фрагменты и добиваться их целевого выполнения их коррекцией. Сложность распознать, что именно делается не так и подобрать правильную коррекцию.

Конечно не заработает, это начальный тупой способ подражания, когда детеныш не имея развитых механизмов анализа эпизодической памяти, да и самой полноценной памяти, вынужден тупо повторять действия родителя, не понимания их цели - нечем понимать. Единственное что он может - запечатлевать эффект от своего действия с самим действием, оценивая его таким образом как правильное/гне правильное. Но если родитель покажет новое решение той же проблемы, детеныш так же без рассуждений примет его за новый эталон. В итоге накапливаются варианты, один из которых штатный, остальные в подвешенном состоянии: они есть, но не используются. Эту проблему не решить методом бездумного подражания, нужен анализ правил реагирования, который активируется на следующих стадиях.

Понимание в "психическом" смысле - это наличие достаточно развитой модели понимания: эпизодической памяти и механизмов ее обобщения, ассоциирования. У детеныша изначально ничего этого нет, память фрагментарная, бессвязная. Поэтому никаких целей ставить себе он не может, кроме гомеостатических. И только по мере накопления опыта и развития механизмов для работы с памятью постепенно становятся возможны целевые действия. А до тех пор, только тупое копирование чужих действий и пробные свои с оценкой гомеостатическим эффектом. Так формируется базовая значимость образов восприятия: огонь в одной ситуации обжигает, в другой согревает.

Конечно. Если вы зайдя в комнату видите "табуретку", значит на 1,2 уровне мышления произошла успешная обработка образа восприятия объекта, нашлась подходящая модель понимания как с ним обходиться, чего ждать от него - и все пошло на верхний уровень: там будут решать, что с этим (табуреткой) делать дальше. А раз пошло на верх, значит в данный момент, табуретка имеет какую то приоритетную значимость для вас. Активация ориентировочного рефлекса происходит на новизну в восприятии окружающей реальности, которая в простейшем случае определяется как просто резкая смена картинки, освещенности, громкости и т. д. А на более высоких уровнях, когда активны модели понимания, поводом для ОР становится так же изменение прогноза с реальностью: если табуретка вдруг начнет двигаться на вас - вы точно обратите на это внимание, эволюционный отбор закрепил этот навык. Ведь "не бывает" такого, чтобы табуретки двигались сами по себе. А что бывает/не бывает - смотри эпизодическую память. В сети можно найти описание экспериментов с "невидимостью", когда испытуемому внушают, что такого то человека для него не существует, и тот как действительно "исчезает" из осознания испытуемого. Если "невидимка" заходит в комнату - подопытный его "не видит", ведет себя так, словно его нет. Если тот берет какие то предметы, начинает их перемещать- потрясенный испытуемый наблюдает явление левитации, как они сами собой летают по комнате. Но: если "невидимка" встает на пути у него на пути - тот не пытается пройти его насквозь. Если невидимка будет настойчив, эксперимент самопроизвольно прекращается: испытуемый выходит из транса либо погружается в обычный сон. Это наглядно показывает, что прежде чем мы что то осознаем, происходит предварительная обработка данных на не осознаваемом уровне, на который не возможно повлиять произвольным вмешательством. Так же как невозможно волевым усилием отключить рефлекс сужения зрачка при ярком свете - поэтому такой рефлекс служит одним из тестов на живой/мертвый.