Форум создателей искусственных интеллектов

Я говорил, что если нейронке дать только 2 варианта развития события, она не сможет выбрать: один купил по 3, другой по 5. То есть больше никакой инфы ей не давать, чтобы не было возможности ничего обобщить. Она никогда не сможет уверенно решить потому, что 50/50 выходит. А гомеостатический агент может. Потому, что у него ответ еще и от внутреннего состояния зависит. И даже если нейронке прикрутить внешние датчики это ничего не меняет, просто больше инфы в разном ракурсе будет поступать для обобщения. Другое дело, если добавить ей например зависимость ответа от уровня заряда аккумулятора. Тогда получатся новые срезы реакций. Но тут же встанет вопрос: а как их обобщать? До сих пор все обобщения, если выражаться в новой интерпретации, были в одном нейтральном состоянии, а теперь их множество, смотря по стрелке индикации заряда. И тогда неизбежно придем к необходимости понятия значимости, чтобы разделять события/реакции в разных состояниях уровня заряда аккумулятора. А там не далеко и до целевого управления зарядом: если окажется, что решение находится в срезе реакций при определенном уровне заряда, а текущее явно меньше, значит... нужно срочно бежать заряжать батарею, чтобы выдать решение в том состоянии. Хотя казалось бы, при чем тут батарея и решение. Раньше было не при чем, но стоило прикрутить самый простой гомеостаз с 1 параметром - и все кардинально поменялось.

Она поступила ровно наоборот, она написала развернутый анализ того как можно выбрать, потом выбрала один вариант, потом противоположный. Что такое "только", "инфы не давать" мне не очень понятно, это за пределами обучения и LLM и человека. Она уже уверенно ДЕЛАЕТ ИНАЧЕ, я это показал на факте диалога, никаких 50/50 ТАМ НЕ ВЫХОДИТ, попробуйте разобраться как работают нейронные сети, это никакого отношения к вероятности выбора из двух не имеет. З.Ы. Людям очень не хочется этого, но они (в своём большинстве) глупее даже текущих реализаций LLM.

Этим задача осознанного уровня мышления с погружением в глубокие ассоциации и прогнозы - ассоциативный поиск новой реакции, альтернативной привычному. А при отсутствии навыков не будет вообще никакого мышления, не с чем будет ассоциировать. Если вы кошке покажете энциклопедию, она ее просто понюхает, но читать не станет. Нет у нее никаких, даже мало-мальски похожих навыков для этого. Интеллект, как уже не раз тут говорил, согласно МВАП - это просто мастерство. Музыкант бегло играет, не задумываясь, только вдохновляясь. Но если задумается, тут же будет прерывание и сбой. Потому, что осознание всегда означает прерывание текущей деятельности с целью ее осмысления и поиска нового варианта. Как вы предполагаете в процессе выполнения действия, когда оно уже выполняется, его корректировать без прерывания? Если пошла команда, чтобы ее изменить, ее сначала надо прервать и осмыслить новую.

С таким подходом даже на велосипеде невозможно научиться ездить.

Развернутый ответ был потому, что у нее до вопроса было загружено и обобщено много инфы. Возьмем нейронку пустую, файлов данных 0. И дадим ей 2 варианта ответа. Она не сможет обобщать потому, что хоть сикось, хоть накось будет 50/50. Или вы хотите сказать, что нейронка с пустой базой данных с первого же вопроса начинает обобщения? Что с чем?

Это вопрос уводящий в бесконечный флуд, потому и не отвечаю.

Там целых 4 вопроса. Ну, раз ничего кроме флуда Вы предложить не можете - умываю руки.

Езда на велосипеде - это цепочка моторных действий: м1 + м2 + м3 +... В процессе обучения происходит выборочная корректировка звеньев цепи, пока они все не начнут слаженно работать в цепочке. Сам процесс происходит так: сделал Мn - оценил эффект - подумал, сделал поправку - сделал Mn - оценил эффект... И т.д. Постоянно идут прерывания на размышление. Но в момент выполнения действия, раздумий нет, оно просто выполняется. Ведь почва для размышлений - эффект от действия. Поэтому, чтобы о нем подумать, сначала нужно его сделать.

Ну-ну ! Не буду Вам мешать )) p.s. Кстати, как у Вас с Бернштейном, Николаем ибн Александровичем ? Если никак - рекомендую.

Нет, не будет, это будет булева алгебра, например. Вполне себе осмысленная вещь. Вам нужно: 1) либо не писать глупостей, 2) либо познакомиться с тем, как работают нейронные сети. ))) З.Ы. Если взять вообще необученную сеть с одним нейроном, то на выходе будет сигмоида или другая функция активации. Вы заметили, что для "подтверждения" своих фантазий, вы уже начали сравнивать человеческий интеллект с одним необученным нейроном 😃😃

Когда музыкант играет "не задумываясь", значит ли это, что он играет "на автомате"? И чем во время такой игры заняты его мысли?

Тут совсем недавно в одной из веток дали прекрасный список ваших принципов из семи пунктов... Наблюдаем пункт номер два: 2. Обвиняйте оппонента в невежестве, неспособности мыслить и даже психических заболеваниях.

У него запускаются цепочки автоматизмов. Вы когда говорите, разве задумываетесь, какую букву как сложить в слове, как затем сами слова сложить? Когда идете, перешагиваете на автомате лужу, если споткнулись, машинально восстанавливаете равновесие. В психологии эту машинальность называют подсознанием, мы в своей теории зовем это начальными уровнями мышления, когда происходит быстрая переоценка штатных автоматизмов и сканирование правил реагирования без глубоких ассоциаций. То есть это просто попытка решить возникшую проблему "по быстрому" простыми механизмами. А с позиции эволюции, это доставшиеся нам по наследству от предков начальные попытки развить функционал осознанного реагирования. Наш человечий феномен сознания ведь не возник вдруг, а является результатом постепенного развития адаптивности психики. На 1 уровне мышления происходит переоценка штатных автоматизмов. На каждый стимул могут быть несколько вариантов ответов, так как в процессе обучения было множество отзеркаленных от учителя-родителя авторитарных действий и самостоятельных пробных попыток с разными уровнями успешностями. Один из автоматизмов,самый успешный, закрепляется как штатный. И так как обучение никогда не прекращается, эта база вариантов постоянно обновляется. В итоге перед каждым выполнением штатного автоматизма есть смысл проверить, а он точно самый успешный на текущий момент? Это приводит к тому, что с одной стороны можно постоянно переобучаться, а с другой - если успешность, которая накручивается и откручивается при каждом запуске автоматизма (происходит оценка выполненного действия стало лучше/стало хуже), то возникает эффект инертности опыта: чем больше было успешных активаций автоматизма, тем больше нужно не успешных, чтобы отмотать ему счетчик назад и стало возможным сделать штатным другой. Такой примитивный анализ. На 2 уровне более продвинутый - сканирование правил, которые пишутся при каждом выполнении автоматизма, фиксируя кадры памяти в структуре: стимул - ответ - эффект. Тут становится возможным учитывать не только текущий стимул, но и предыдущие. Если найти кадр, соответствующий текущему стимулу, и посмотреть, к чему приведет выполнение штатного автоматизма не только на следующем шаге, но и на предполагаемых по правилам последующих. Но такой прогноз более менее адекватен на 1-2 шага, дальше вероятность развития событий по старым правилам понижается. Эти два уровня обеспечивают "быстрое мышление", сопровождаемое мимолетными ощущениями, или даже вообще не ощущаемо, поэтому практически нами не замечаются. С их помощью мы играем, говорим, шагаем через лужи и т. д.

Это интересное объяснение, возьму себе на заметку. В моём понимании любое корректирующее действие направлено на ликвидацию/уменьшение раздражителя, запустившего данную корректировку. В этом суть корректировки. И тогда она должна действовать по принципу: "делать Х до тех пор, пока Y не придёт в норму", или как в программном цикле "do X while Y". В таком случае, нет необходимости в дополнительных контурах контроля. Вот Вы говорите: "выброс химиката 2, который разлагает химикат 1", а ведь этот выброс, сам по себе, является также корректирующим действием, для которого химикат 1 является раздражителем, и тогда нужно придумывать химикат 3 для ингибирования химиката 2 и т.д. в бесконечность. И если для губки и гуморальной регуляции такой способ может быть и оправдан, то для реализации программных аналогов такой многоступенчатый процесс выглядит достаточно искусственно. Когда пьеса разучена, "вошла в спинной мозг" и пальцы сами попадают по нужным клавишам/струнам, то музыкант переходит на другой уровень сознательного контроля. Его мысли заняты соблюдением правильного темпа, правильных акцентов и усилий, прохождением трудных мест. Если же и этот слой контроля будет автоматизирован, тогда музыкант может думать о том, чем займётся сегодня вечером и потом даже не вспомнить, что играли его руки.

Пример химической реализации смены базовых состояний гомеостаза я привел как менее очевидный, где казалось бы можно обойтись двумя состояниями Норма и Плохо. Но по факту, природа и люди в своих кинетических механизмах для торможения выполняемого действия всегда используют контр-действие, а не ждут, пока оно само остановится, лишенное энергетической подпитки. Тормоза не трусы придумали, а просто иначе механизм становится крайне разболтанным и не эффективным. Вы бы никогда не научились попадать ложкой в рот, а только все время куда то в голову. Но даже на уровне химии неизбежно возникнет потребность выбрасывать ингибитор для разложения катализатора. Ведь в противном случае, для получения более-менее точного механизма, катализатор должен быстро разлагаться, чтобы не "передергивать". Это значит, что по срабатывании Плохо надо постоянно, ритмично его впрыскивать - а железы не бездонные, синтез химиката тоже энерго-ресурсно-затратный. Иначе реакция будет только на такие критические отклонения, которые можно быстро вернуть за время, пока катализатор не разложился. Живучесть особи будет не высокой. Поэтому в идеале, катализатор должен быть устойчивым, и разлагаться только при встрече с ингибитором. То есть они взаимоуничтожаются. В итоге на всех уровнях реализации системы адаптивности, кроме программной, неизбежно возникают 3 состояния системы. А по поводу программной: мы исходим из того, что прежде чем рассуждать о природе сознания, разума, сначала нужно повторить природную реализацию до этого уровня, а для этого придется последовательно пройти все эволюционные этапы развития адаптивности. Иначе все модели будут фантазийные химеры, или как в случае с нейронкой, вырванное звено из цепи связанных иерархической зависимостью механизмов. В процессе игры каждое действие проверяется на адекватность на начальных, простых, быстрых уровнях мышления, не требующих осознания, практически никак не ощущаемых, психологи называют это подсознанием. И только если такая проверка выявила неадекватность, активируются более высокие уровни для более серьезного анализа. Они более медленные и потому автоматическая игра начинает спотыкаться: нижние исполнительные уровни ждут решения начальства, что делать. Если все нормально, процесс идет без сбоя, начальство может заниматься другими проблемами. В мозге в параллельном режиме может быть множество активных циклов мышления, которые конкурируют между собой по значимости, но осознается всегда только один наиболее актуальный, остальные отрабатываются в фоне. Поэтому в процессе игры, мызыкант может параллельно думать (осознанно решать другие проблемы) о своем, но лишь до того момента, пока не случится сбой в игре. В этом случае фокус внимание переключится на игру, как наиболее значимое из всех выполняемых действий.

Вы таки идете путем приведения сознания к автоматизмам... жаль. Дело не в автоматизмах. Совсем не в автоматизмах. Работа сознания это работа внимания. Обучаясь игре на фортепиано, ваше внимание будет сосредоточено сначала на одном пальце, потом вы перейдете к способности рассредоточить внимание на все пальцы одновременно, на локти позвоночник ... При этом вы не уходите в автоматизм каждого пальца, вы свое внимание рассредотачиваете. Профессиональный музыкант во время игры не думает ни о чем другом, его внимание рассредоточено по всему телу и, ежемгновенно, он "отслеживает" движение каждого сустава и все ритмы ... Здесь все осознанно, в игре нет автоматизма. Он сам и всецело - мелодия. ....ну, конечно, ....не составит труда свести все это к алгоритму алгоритмов для каждого пальца, кисти, итд. Ну тогда это разговор о музыкальном калькуляторе, и об LLM.....

Просто даю справку: то, что говорит Цап не имеет никакого отношения к LLM. Существо как не понимало, так и не понимает как устроены и работают Большие Модели.

Ещё раз хочу отметить крайнюю схожесть Ваших взглядов с моей позицией. Но необходимо продвигаться дальше. Я думаю, можно сойтись во мнении, что гомеостаз, как базовое нормальное состояние физического шасси, на который водрузили интеллект - это необходимое условие его работы. Если робот не может сохранять равновесие, то он не сможет ходить. А если он не сможет ходить, то он не сможет пойти в магазин по заданию. То же касается энергобаланса, и других технических параметров. Однако роботы нужны не для того, чтобы заменять собой морскую губку и демонстрировать гомеостаз шасси, а для того, чтобы заменять собой человека и демонстрировать целесообразное поведение. Целесообразное поведение сводится не (только) к соблюдению технических параметров шасси, а к соблюдению целей, заданных извне. Вы правильно пишете, про адекватность/нормальность/бессбойность - это обобщённое описание целеустремлённого поведения. Если гомеостаз нацелен на поддержание в норме физических параметров, то интеллект нацелен на поддержание в норме социальных параметров. Как Вы понимаете работу интеллекта на этом "внешнем" контуре? Как можно свести к некоторой шкале степень выигрыша в шахматах, или в задаче Шолле, или в той же игре на музыкальных инструментах, или к правильному подбору слов в речи? Эти вещи сугубо дискретные и сводятся скорее к оценке правильности/неправильности работы некоторого выделенного устройства. К ответу "да" или "нет" на вопрос: "нормально ли функционирует данный механизм?".

Вы путаете действие с командой, его запустившей. А еще видимо цепочки действий воспринимаете как целое. Нажать клавишу это не одно действие, а последовательная цепочка, где каждое звено можно произвольно менять и ветвить от него другую цепочку. Говоря об автоматизме я имею в виду одно звено цепочки, а не цепь, и тем более не ветвления цепей.

Даже одна "цепочка" - это не цепочка, а граф многих событий. И тут довольно важно, где провести границу детализации, напоминаю, что на самом нижнем уровне вас ждет с одной стороны суперпозиция волновых функций элементарных частиц, с другой стороны - их коллапс))))