Форум создателей искусственных интеллектов

Вопрос о понимании в ИНС конечно риторический. Ни о каком понимании у нейронок, пусть даже некоем "специфически-машинном", не может быть и речи. Я уверен, что и разработчики отдают себе в этом отчёт. Тогда как такое может быть, что интеллект, дескать, есть, а понимания нет ? А ведь некоторые (не будем показывать пальцем выше по тексту) договариваются до такой чуши, что понимание якобы вообще с интеллектом не связано. Это когда под интеллектом подразумевается автомат типа "принеси-подай", вероятно. Как можно считать ничего не понимающую систему интеллектуальной ? Зачем такой интеллект нужен, от которого не ждут понимания ? И интеллект ли это ? Может объяснит кто-то ?

Вопросы риторические. Но есть безумный Папа Карло, который всю жизнь профессионально изготавливает гла́зки для деревянных кукол и утверждает, что эти куклы живые и способны мыслить получше человека. А тех, кто говорит, что это всего лишь красивые игрушки он называет кретинами, невежественным тупым быдлом, не способным его понять, машет дипломом университета деревообрабатывающей промышленности и грамотами за красивые глаза. Он таки профессионал в своем деле, профессионалов приходится терпеть.

Эти вопросы не к профессионалам - с ними всё понятно, а скорее к элементарному здравому смыслу, если тот ещё не атрофировался.

Сей шедевр "высокого полёта мысли" я сохраню на память № 9513

Я бы такой тест на ИИ-шность предложил. 1. Вызываем претендента. 2. Привязываем его к станку. 3. Обучаем, образовываем, тренируем-дрессируем и т.д. и т.п. 4. Когда посчитаем, что он достигнет надлежащей кондиции... 5. ... берём его память и тщательно вычищаем из неё всё им накопленное трудами непосильными. 6. Далее, садимся и наблюдаем, что будет делать. Пусть САМ себя покажет. 7. И вот уже только тогда делаем какие-то выводы. Тест этот базируется на той парадигме, что система с интелектом рано или поздно должна сформировать внутри себя (можно подкинуть что-то и извне, ради экономии времени) такие т.н. "когнитивные" и прочие структуры, которые позволят ей не зависеть от объёма накопленной информации, от знаний и "жизненного" опыта. Другими словами, сделают её способной автономно(!) начать в любой момент так сказать "с нуля". Т.е., имея интеллект в чистом виде, но прошедший какие-то стадии собственной эволюции. Проще говоря и в буквальном смысле - "А теперь забудь всё, чему тебя учили"... в рамках Алгоритмической Автономности. С человеком такие фокусы не пройдут, по понятным причинам, а с железякой - сколько угодно. Почему так ? Потому лишь, что лошадь - не сено и не навоз. Полагаю, что при такой радикальнейшей проверке у нас хватит и ума и способностей безошибочно отличить одно от другого. И понятно должно быть, что архитектура ИНС, вроде каши, размазанной по тарелке, для проведения такого жёсткого эксперимента никак не прокатит. Архитектура должна быть модульной, функционально распределённой, что удобнее, технологичнее и прагматичнее. (Вольных сторожей и свободолюбивых охранников прошу не беспокоиться - "издеваться" будем не над т.н. "мозгом младенца". Скорее наоборот.) p.s. Ну, думается, вы уже догадываетесь, что произойдёт с ЛЮБОЙ ныне существующей системой, подвергнутой - не побоюсь этого слова - "Тесту Луарвика" и претендующей на звание "ИИ" ?

В пределе это отказ от памяти? ...отказ от архитектуры фон Неймана, а, значит, отказ от компьютера. Вы хотите лишить "создателей ИИ" любимого инструмента ) ..они все ещё не осознают, но это уже назревает.

Нет. Только на процедурку тестирования. С памятью и сливной бачок сможет. Пусть попробует без памяти. Получится - вернём. Не получится - туда ему и дорога. Именно. В первую очередь и никаких виртуализаций (по возможности, разумеется). Отнюдь. Всему своё место найдётся.

Но надо всё-таки разобраться с пониманием/осознанием. То, что гуляет по литературе, никуда не годится. Предлагается нечто наполовину мутное, наполовину "интуитивно понятное", но совершено непрактичное и неконструктивное. Вроде всё просто, понял/не_понял - каждому... понятно, а перевести на язык, притом так, чтобы можно было повторить и воспроизвести - чего-то постоянно не хватает, особенно, когда представляешь себе, как это будет работать "в железе". И каждый раз оказывается, что работать оно так как надо не будет. И тут автоматом цепляется необходимость ответить на вопрос - "что значит знать ?" [декларативно, процедурно, теоретически, практически...] На этот вопрос тоже нет полноценного, удовлетворительного ответа. Скажем так: эти понятия не проработаны до технологического уровня - нужды не было. Прагматика - она как-то сама собой получается, без лишних усилий, как "дар божий". И вот сейчас мы с этой проблемой столкнулись, потому что уже надо.

Если исходить, из возникновения сознания в результате эволюции, то один из способов, идти обратным путем, снимая наслоения. Например вернемся к состоянию когда письменности ещё не было. Т.е. было ли сознание у человека, когда ещё не было письменности? И вот уже тут, после удаления слоя с письменностью будут противоположные мнения. В этом месте будет объявлено голосование кого большинство... у нас истина выясняется путем голосования ). ....далее, было ли сознание, когда не было ещё развитого языка общения? Слой за слоем... Этим путем вы можете идти сами... или вы хотите знать результаты голосования? )

Ни язык [общения], ни тем более письменность не имеют отношения ни к самому сознанию, ни к его эволюции. Сознание развивается на элементарных взаимодействиях сенсорного аппарата с окружающей средой. Есть большой соблазн рассматривать весь сенсориум, всю систему восприятия как необходимый компонет сознания.

Тут я с вами солидарен. На этом этапе имеем два голоса ЗА существование сознания вне языкового поля. Тогда встаёт вопрос существование сознания у животных... Возможно я ошибаюсь, но вы ли приписывали сознание клетке живого организма?

Не вопрос. Сознание у животных есть вне всяких сомнений. На этом и Хмур споткнулся в своё время, полагая, что речь идёт о сознании У клетки, так, будто клетка ИМЕЕТ, содержит сознание, как одну из каких-то своих органелл. Сдвинуть его так и не удалось. Я же предлагал рассматривать всю клетку как элементарную модель сознания.

Я кстати придерживаюсь того же. Естественные нейронные сети работают несколько иначе чем в ИНС по понятным причиинам. Они много больше и сложнее организованы. И входные данные у них существенно разные и тд и тп. Но принцип то действия один и тот же - апроксимация многомерной функции свёрткой одномерных как это доказано Колмогоровым-Арнольдом. Во всяком случае это научная точка зрения на сей момент. Кроме того естественные НС без речевой функции не достигли сравнимого уровня интеллекту человека. Так что нынешние LLM ИНСы смоделировали последнюю, речевую, стадию эволюции. Доберутся и до первых...

Придерживайтесь. А я - воздерживаюсь. Колмогоров с Арнольдом доказали, что именно так мозги работают ? Я уж и не знаю, на чью совесть повесить сие высказывание. Ыгы. Только наука об этом ничего не знает. Встретите - сообщите ей по большому секрету. Есть интеллект, есть интеллектуальные функции и это далеко не одно и то же. Развиваются И-функции, а не интеллект. Ну, "интерфейс" у него немного расширится - это максимум. Качественно ничего не меняется. Т.н. "интеллектуальность", о чём говорил много раз, есть св-во системы с интеллектом. Т.о. говорить об уровне интеллекта по-моему вообще неуместно. Он либо есть, либо его нет. Всё остальное приложится. Исходя из простого допущения: интеллект как СУР может управлять чем угодно. "Что [именно] угодно" - определяется вовсе не интеллектом, а его ресурсами, свойствами управляемой периферии в том числе. Опоздали вы со своим оптимизмом. Звуко/-записывающие/-воспроизводящие устройства появились значительно раньше ИНС'ов.

Клетка клетке рознь. Если клетку-нейрон назвать элементарным сознанием это будет слишком банально без обоснования сути. Мышечную клетку я не назову "сознательной", т. к. она полностью зависима от управления из вне.... Но о животных. Во первых вопрос не в самом наличии, а в способности к сознательным проявлениям. У человека эта способность есть, но есть не всегда. По моему, у животных она тоже присутствует в меньшей степени, чем у человека. Во первых - способность, во вторых - время ее проявления. И если "высшие" животные эту способность проявляют ...не часто, то низшие организмы ее вообще не проявляют. Но я думаю, что у низших она тоже присутствует....

Банально - это когда ежу понятно и на заборах пишут. Как часто Вы читали о клетке-сознании ? Банально сказать, что нейрон есть "аппаратный" элемент(!) сознания, но не элементарное сознание сам по себе. Некоторые, из числа многих, например, даже обезьяне человекообразной отказывают в сознании, потому лишь, что она, дескать, говорить по-человечьи не умеет. Однако, похоже, у Вас свой взгляд на банальность в случае нейрона. Поясните, если жаба не давит. Любая клетка - элементарное животное. Животные бывают и коллективными, живя стаями, стадами, но индивидуальную жизнь никто не отменял. "Управление из вне" здесь никаким боком.. Если клетка - элементарное сознание, то она и элементарный разум, т.е., и интеллект элементарный в том числе. Вопрос-то как раз и был о наличии, между прочим. О "качестве", а не о количестве этого "качества". Если способность есть, то она есть всегда, но может не всегда проявляться, как езда на велосипеде или во сне. В бессознательном состоянии живые пребывают в случаях, которые по пальцам пересчитать. Как проявляется их сознательное бодрствие - это вопрос скорее о том, что вообще считать сознанием.

Ну тогда чуть подробнее. ...Рассматривая мозг как физический носитель сознания, делим его на зоны и до элементов.... в делении доходим до клетки-нейрона, объявляем нейрон "атомом сознания" .... Логично? Логично, но банально и без сути... Также логично ваше утверждение: "Любая клетка - элементарное животное", а вот переход до "клетка - элементарное сознание"... не всегда. От себя скажу так: нейрон замкнутой на себя (его же аксон приходит к его же дендриту) может быть назван элементарным сознанием. Не замкнутый нейрон сознанием не является. ...тут вы меня не просите обосновывать, примите как априорное мнение.. Как вы ответите на такую загадку: только что держал в руках ключи, а куда положил уже не помню. Был ли я в сознании, когда куда-то клал ключи?

Берём сердце. Делим его на зоны и до элементов, доходим до клетки... объявляем клетку сердца "атомом сердца" - такой ход не столько банален, сколько примитивен и поверностен. Подобным образом можно смело объявить болт "атомом автомобиля" - просто и сердито. Я предпочитаю "делить" и отбирать по функциям. Повторю: я рассматриваю функции, а не логические построения. У любой клетки есть т.ск. "внутреннее" самозамыкание. Т.е. гипотеза ? Даже у гипотезы должны быть более веские основания, чем "я - король, я так хочу". Поделитесь же. Был. .. Но некоторые действия совершал автоматически. Автоматизмы вообще очень экономят "когнитивную" энергию. Сознание и интеллект освобождаются для других дел. То, что не осознаётся - не забывается. Оно всего лишь более трудно воспоминается. А чтобы так не происходило, мы должны не просто знать, сваливая в память, но и знать, что знаем, в противовес "я знаю, что ничего не знаю". Другими словами, помимо собственно знания, необходимо прицепить знание о знании, т.е. то, что называется "метазнанием" - как компактную ссылку. Не знаю, как в мозгах (это тоже только гипотеза) , но похоже, что память у нас как минимум двухуровневая, как в библиотеке - [конкретные] "книжные полки" и к ним [абстрактный] "каталог". Имея такой мощный аппарат абстрагирования, подобная организация живой памяти тоже выглядила бы вполне логично и естественно. Ключик к "каталогу" - Я знаю, что Я знаю И заметьте, что "я знаю, что я знаю, что я знаю, что я знаю..." и так до [дурной] бесконечности - не катит, потому что уже словоблудие, бездумная игра словами. Одной "итерации" вполне хватит на все случаи.

Они доказали и показали принцип действия универсальной функции. Пока нет ничего релевантнее этого принципа по отношению к разнообразным сетям. СУР как определение хорош для любой нервной системы например для НС пищеварения (1кг). Для высших функций - оператор смысла - лучше. Лучше клетку определить как элементарный интеллект. В принципе всё что движется против энтропии является каким нибудь интеллектом и особенно то что мы называем живым. Сознание требует множества клеток...

"Разнообразных сетей" сколько угодно, только мозги не трогайте всякими "универсальными функциями". Не знаю такого. Что за зверь ? С чем едят ? Клетка и элементарный интеллект тоже. А в сумме - элементарный разум. - это ни из чего не следует.