Форум создателей искусственных интеллектов

... 😊 А кто-то был не согласен с тем, что молоток универсален? Кто-то спорил с тем, что возможен решатель универсальный в рамках определенного класса (набора классов) задач? Плохо другое, для молотка, что ни есть, все гвозди... Если говорить "на пальцах" и кратко, то вопрос (создания АГИ) не в поиске самого универсального решателя (что не для всех очевидно), а в возможности его перманентных изменений под задачу и условия, под решение произвольных, заранее не определенных (классов) задач, под постановку новых задач. Очевидность (как показала история, не для всех) невозможности универсального (абсолютного, полного) "решателя" с неизбежностью и необходимостью ставит вопрос (1) не направленной его перманентной изменчивости (читай с элементом случайности) и отбора (в общем - перебора, направленность в котором, определяется факторами отбора) с одной стороны, и (в связи с ограниченностью ресурсов) вопрос (2) перманентной обучаемости, т.е. "впитываемости", отражаемости в нем наборов частичных, частных решений (читай закономерностей окружения, т.е. алгоритмов, условий задач и т.д. вплоть до декларативных, текстовых знаний). И (1) и (2), как две стороны одной медали образуют одно целое и должны функционировать в паре. В итоге то, что не касается механизмов обеспечения перманентной изменчивости и отбора зависимых от окружения (включая в случае биосистем, встроенные цели инстинкты, рефлексы, потребности тушки и т.п.), не имеет непосредственного отношения к АГИшности, хотя и не запрещается и даже необходимо, как например, какие-то частные решения устройства сенсоров и эффекторов.

Предлагаю желающим покрутить немного в головах ещё и следующее (как одно из особенностей присущих элементам Нечто-Когнитрона). Часто в системах претендующих на АГИ или СИИ, данные и алгоритм разделены, типа алгоритм (иногда в виде "нейрона"), преобразует входную информацию, входные данные. Данные при этом накапливаются как некая память. (В случае традиционных ИНСов ситуация несколько иная, но все равно нейрон представляется, как некий преобразователь входных данных) Но возможен и иной взгляд, например, на нейрон (нейрон-глиальный комплекс). Нейрон не преобразует информацию, а реагирует на какой-то конкретный сигнал (конкретные данные). При этом нет прямой связи между свойствами входного данного и свойствами того, что будет на выходе нейрона, кроме того, что это всегда должно быть одно и тоже, в зависимости от свойств нейрона, в зависимости на какой диапазон приходящих сигналов он в принципе реагирует. А если нейрон при этом может быть изменен, то он и алгоритм и изменяемая память (способная реагировать на конкретный сигнал) в одном флаконе. Таким образом на первый план происходящего в системе выходят связи между нейронами между собой и "данными", а не преобразование данных и то по какому алгоритму их преобразовывать.

Mykola Rabchevskiy: Хочу узнать менение о том, как AGI система может обнаруживать наличие неизвестных ей ранее структур, умея детектировать и идентифицировать потенциальные компоненты этих структур. Например, летят гуси клином, система знает, что такое гусь, но понятия лететь клином у неё нет; как она может обнаружить наличие этой структуры и тем самым сгенерировать новое понятие? Артур Н: Сомневаюсь, что смогу словами рассказать свои представления. Приведу ссылку на рассуждения близкие (как мне кажется) к вопросу, что Вас беспокоит. Увы не нашел. Ну, если попробовать сформулировать в общих словах и кратко, то устойчиво и одновременно срабатываемые комплексы реакций в ответ на появление в окружении повторяющихся в чем-то условий, соответствуют неким понятиям. ----- Это отрывок беседы из группы AGIRussia. Наверное следует добавить, отмеченный комплекс реакций не означает, что при этом реагирующие элементы ("нейроны") обязаны быть связаны между собой напрямую "физическими" связями. Другими словами, узоры срабатывания этих ансамблей элементов и узоры из элементов с их "физическими" связями, это совершенно разные вещи. Что же касаемо обнаружения и формирования этих структур можно добавить, что путем механизмов эволюционирования закладываемых в Н-К. Вначале образуется потенциально устойчивый в данном окружении элемент, а затем он подвергается "подтверждению" своей устойчивости в данных условиях (соответствию диапазона устойчивости данным условиям окружения за счёт, например и в частности, наличия/отсутствия "физических" связей с теми или иными элементами окружения/среды) или подвергается дальнейшим изменениям. "Вынужденные" его изменения будут означать, что комплекс условий его окружения изменился.

На мой взгляд, если речь о достаточно адаптивных системах, например, мозге человека, "длина" цепи нейронов от того или иного сочетания сигналов на сенсорах до, например, мышечной реакции может меняться в зависимости от обучения. Кроме того, это могут быть "разветвляющиеся" и "сужающиеся" ("ширина" на разных участках также зависима от состояния обученности) по "ходу движения" сигналы.

Интересное определение соответствия ИНС реальной НС. ))) Возьмите количество нейронов в мозге человека (говорят около 86 ярдов) и найдите кубический корень. Это будет длина цепочки нейронов от глаза до пальца. Для Вашего уровня вопроса/критерия, это вполне релевантно. Сделайте примерно тоже самое с червем и не компоссируйте более людям мозги, плиз.

Верно, не компостируйте. Ответ взят с того же потолка, что и вопрос.

1. В контексте форума и чтобы избежать пустых споров о божественности (т.к. для многих очень сложно представить, что Бог всесилен на столько, что мог создать эволюцию видов, включая человека) под эволюцией есть смысл понимать некий механизм позволяющий появляться неким не преднаправленным (т.е. случайным с нашей точки зрения, оставим управление случайностью Всевышнему) комбинациям элементов так или иначе существующих в мире, но лишь относительно устойчивым в том или ином окружении, т.е. подверженным отбору. 2. Эволюция в данном случае, это механизм получения относительно устойчивых систем (совокупностей комбинаций относительно устойчивых, избирательно взаимодействующих элементов). Устойчивых в тех или иных КОНКРЕТНЫХ условиях (в той или иной своей части, т.е. система все же изменяется, постоянно, но частично). Другими словами, для технарей, это механизм получения неких ЧАСТНЫХ решений. Размножение при этом (появившись в каких то экземплярах ранее не размножающихся эволюционирующих системах) лишь дополнительный механизм, который привел к расширению эволюционного процесса на иных уровнях, т.к. не все "решения" отдельно взятых эволюционирующих систем "жизнеспособны". Кроме размножения, появилось ещё решение о заботе о потомстве на ранних этапах их "организменного" эволюционирования (другими словами, этапах жизни, т.е. жизнь и разновидность эволюционирования, это разные названия одного и того же процесса). 3. Теперь встаёт вопрос обеспечения процесса эволюционирования (жизни) "в железе" в течение некоторого, относительно продолжительного периода одной и той же совокупности/системы элементов. Ведь некоторым технарям нужны способности жизни/эволюционирования порождать (для креационистов, скажем найти новые комбинации существующего) различные решения в тех или иных рамках (которым системы обучают, ставят условия задач, как бы заранее, а потом и в процессе). Получать такие системы путем организации их размножения и эволюционирования на ином уровне в течение почти миллиардов лет, это глупость. Создавать их надо "вручную", "здесь и сейчас". Но об этом как нибудь в следующий раз.

Не алгоритмический и не случайный - равносильно алгоритмический и случайный. Другими словами, получаем - эволюционный. ) Но не по типу "второго блока" (в терминах соседней ветки).

Многое зависит от того, что называть моделями и моделями чего. Каждый нейрон в мозге можно назвать моделью. Ансамбли нейронов можно считать моделями. Узор медиаторов на выходах нейрона и время прохождения сигнала по нейрону можно считать моделью, при том, что это не модель входного сигнала к нему (и не преобразование по какой-то формуле входного сигнала), а "врождённая" модель реагирования (или игнорирования) на входной сигнал (данные). И т.д. и т.п. Сказать, что все есть модель и что модели строятся из данных вне конкретного контекста обсуждения - ничего не сказать. Мое мнение, что корректнее говорить, что модели есть в системе изначально, есть возможность (механизмы) их не направленного (т.е. с элементом случайности) комбинирования, есть механизмы их отбора (изменения свойств и связей) в зависимости от поступающих данных (играющих роль факторов отбора/изменения). Если говорить о каких-то "понятиях", то их моделями скорее являются не ансамбли нейронов или нейрон, а ансамбли (синхронных) активностей нейронов. Очень кратко примером ядра (без обвязки) такой системы может служить Нечто-Когнитрон.

Вопрос кажется равносильным вопросу о том, каким должен быть тест Тьюринга для АГИ. Ответ, никакой ТТ не пригоден для определения АГИшности.

Это зависит от того, что принимать за АГИ. Если базы "знаний" и алгоритмы реагирования на входы системы, то выбираете некий сложный навык, объем "знаний" и т.п., например, как описано (текст взят из телеги группа AGIRussia) "способность выполнять арифметические операции, воспроизводить по запросу запомненное (показанное), находить причинно-следственные связи и конструировать описание объектов, которым нейросеть не была обучена на этапе тренировок." Набор требований можно выбирать по вкусу. Но если за АГИ принимать не навыки, алгоритмы, "знания", но нечто подобное природным образцам вне зависимости от навыков и знаний, то общим их отличием будет перманентная обучаемость. В этом месте есть тонкий момент в том, что понимать под обучаемостью. Это не накопление навыков и "знаний" (по какой-то мета логике, мета алгоритму и т.п.), а перманентная их эволюция (изменчивость и отбор), подразумевающая вероятность (разной степени) изменения реализаций любых (мета, не мета) имеющихся навыков и "знаний" в процессе функционирования. В таком контексте относительно удовлетворительный механизм поддержания эволюционируемости реагирования системы на входные сигналы зависимый от внешних условий и будет минимальный АГИ, вне зависимости от того, что он умеет или знает. Такой тест на эволюционируемость чисто по внешним проявлениям (ТТ) придумать в общем виде сложно, т.к. суть не в изменениях системы (они могут происходить по мета логике и без эволюции подразумевающей не преднаправленную изменчивость и отбор), а в механизмах обеспечивающих эти изменения.

Это зависит от того, что принимать за АГИ. Если базы "знаний" и алгоритмы реагирования на входы системы, то выбираете некий сложный навык, объем "знаний" и т.п., например, как описано (текст взят из телеги группа AGIRussia) "способность выполнять арифметические операции, воспроизводить по запросу запомненное (показанное), находить причинно-следственные связи и конструировать описание объектов, которым нейросеть не была обучена на этапе тренировок." Набор требований можно выбирать по вкусу. Но если за АГИ принимать не навыки, алгоритмы, "знания", но нечто подобное природным образцам вне зависимости от навыков и знаний, то общим их отличием будет перманентная обучаемость. В этом месте есть тонкий момент в том, что понимать под обучаемостью. Это не накопление навыков и "знаний" (по какой-то мета логике, мета алгоритму и т.п.), а перманентная их эволюция (изменчивость и отбор), подразумевающая вероятность (разной степени) изменения реализаций любых (мета, не мета) имеющихся навыков и "знаний" в процессе функционирования. В таком контексте относительно удовлетворительный механизм поддержания эволюционируемости реагирования системы на входные сигналы зависимый от внешних условий и будет минимальный АГИ, вне зависимости от того, что он умеет или знает. Такой тест на эволюционируемость чисто по внешним проявлениям (ТТ) придумать в общем виде сложно, т.к. суть не в изменениях системы (они могут происходить по мета логике и без эволюции подразумевающей не преднаправленную изменчивость и отбор), а в механизмах обеспечивающих эти изменения.

Я написал "сложно", просто чтобы смягчить. По сути в общем (как в случае с АГИ) случае - невозможно по внешним проявлениям черного ящика судить о механизмах обеспечивающих эти проявления. Например, страус Ливбастер (знакомы наверное), тоже вроде как научается ходить. Но зная о высказываниях его автора о механизмах научения, можно однозначно сказать, что это не АГИ. Вопросы мотивации зависят от того, на каких принципах должна функционировать система. Рассуждать в отрыве не имеет смысла. В случае эволюционного подхода (не любая форма эволюции пригодна для АГИ) по типу, что описан в моей ветке (самый первый пост в общих словах и достаточно кратко), то внесение в систему доз возмущений ("хаоса") и есть механизм мотивации, а закономерности среды есть то, что структурирует. В случае ходьбы, сами "механические" свойства "ног", тоже будут структурирующим фактором для системы.

Вы выбрали второй описанный мной вариант того, что считать за АГИ (он подразумевает именно эволюционный процесс как процесс перманентной обучаемости и это было в тексте описания). При этом Вы же "не играете в эволюцию". Одно противоречит другому. Кроме того было сказано, что к АГИ относится именно механизм, а не имитация его проявлений. На этом мое дальнейшее участие в обсуждении считаю излишним.

В данных мной описаниях нигде не идет речь ни о эволюции многоагентной ни о наследовании.

https://t.me/agirussianews/444

1. Когда говорят о переборе, это речь о процессе (обычно низкоуровневого) обучения, а не исполнения. 2. Бекпроб, это по сути направленный низкоуровневый перебор. Ещё говорят - оптимизация. Она возможна когда мы можем (чаще заранее) оценить требуемое направление, а лучше и расстояние от текущих результатов (включая свойств "внутри" самой системы), до цели. 3. Направленный перебор возможен не всегда. Обычно он включается в систему человеком, знающим направление в целом или на каждой ступеньке (о которой опят таки он должен знать заранее) при задачах, требующих иерархических решений. Общее решение, это когда человек не знает заранее ни направление достижения целей, ни иерархичность, а все это находится самой системой/агентом с накоплением опыта (читай проб и ошибок, т.е. не преднаправленного перебора, т.е. в процессе обучения, происходящего одновременно с функционированием когда нет даже того, что обычно называют целью) и при переходе от одной задачи к другой. 4. Отрицать неизбежность перебора а системах претендующих быть АГИ (а значит и возможность во множестве случаев комбинаторного барьера) равносильно привлечению к решениям потусторонних сил. АГИ при этом был бы давно всеми признанно создан, а этого чата бы не было.

Согласен с тем, что это версия градиентного спуска, который в контексте поста тоже по сути является последовательным перебором. Если нечего сказать по сути, то не стоит постить и по терминам. Подобные посты буду удалять.

Если кто-то может дать ссылки на подходы к АГИ основанные, как и тот, что описывается в данной ветке, на самоорганизации, но кроме тех, что основаны на генетическом алгоритме, было бы заманчиво ознакомиться. Заранее выражаю признательность тем, кто не поленится и поделится ссылками.

Самоорганизация и задачый подход. 1. Вроде бы очевидно, что не может быть универсального алгоритма решения (как бы решения для решения) любых задач. Но тогда можно говорить об АГИ, как о сочетании решений множества ,различных задач. 2. Но при этом возникает вопрос сложности согласовывания между собой этих решений и их сочетаний. Очевидно, что с масштабированием, любое добавление хоть маленьких дополнений будет приводить к опережающему усложнению обеспечения согласованности системы..., если делать это вручную. 3. В итоге можно предположить выход из этой ситуации в нахождении возможности и обеспечении автоматической самоорганизации решений и их согласования в процессе обучения. Другими словами это означает, что в любом случае определение АГИ, как просто решатель какого-то большого количества задач не может обойтись без АГИ, как некая самоорганизующаяся (эволюционно) система.