Форум создателей искусственных интеллектов

Mykola Rabchevskiy: Хочу узнать менение о том, как AGI система может обнаруживать наличие неизвестных ей ранее структур, умея детектировать и идентифицировать потенциальные компоненты этих структур. Например, летят гуси клином, система знает, что такое гусь, но понятия лететь клином у неё нет; как она может обнаружить наличие этой структуры и тем самым сгенерировать новое понятие? Артур Н: Сомневаюсь, что смогу словами рассказать свои представления. Приведу ссылку на рассуждения близкие (как мне кажется) к вопросу, что Вас беспокоит. Увы не нашел. Ну, если попробовать сформулировать в общих словах и кратко, то устойчиво и одновременно срабатываемые комплексы реакций в ответ на появление в окружении повторяющихся в чем-то условий, соответствуют неким понятиям. ----- Это отрывок беседы из группы AGIRussia. Наверное следует добавить, отмеченный комплекс реакций не означает, что при этом реагирующие элементы ("нейроны") обязаны быть связаны между собой напрямую "физическими" связями. Другими словами, узоры срабатывания этих ансамблей элементов и узоры из элементов с их "физическими" связями, это совершенно разные вещи. Что же касаемо обнаружения и формирования этих структур можно добавить, что путем механизмов эволюционирования закладываемых в Н-К. Вначале образуется потенциально устойчивый в данном окружении элемент, а затем он подвергается "подтверждению" своей устойчивости в данных условиях (соответствию диапазона устойчивости данным условиям окружения за счёт, например и в частности, наличия/отсутствия "физических" связей с теми или иными элементами окружения/среды) или подвергается дальнейшим изменениям. "Вынужденные" его изменения будут означать, что комплекс условий его окружения изменился.

Многое зависит от того, что называть моделями и моделями чего. Каждый нейрон в мозге можно назвать моделью. Ансамбли нейронов можно считать моделями. Узор медиаторов на выходах нейрона и время прохождения сигнала по нейрону можно считать моделью, при том, что это не модель входного сигнала к нему (и не преобразование по какой-то формуле входного сигнала), а "врождённая" модель реагирования (или игнорирования) на входной сигнал (данные). И т.д. и т.п. Сказать, что все есть модель и что модели строятся из данных вне конкретного контекста обсуждения - ничего не сказать. Мое мнение, что корректнее говорить, что модели есть в системе изначально, есть возможность (механизмы) их не направленного (т.е. с элементом случайности) комбинирования, есть механизмы их отбора (изменения свойств и связей) в зависимости от поступающих данных (играющих роль факторов отбора/изменения). Если говорить о каких-то "понятиях", то их моделями скорее являются не ансамбли нейронов или нейрон, а ансамбли (синхронных) активностей нейронов. Очень кратко примером ядра (без обвязки) такой системы может служить Нечто-Когнитрон.

Это зависит от того, что принимать за АГИ. Если базы "знаний" и алгоритмы реагирования на входы системы, то выбираете некий сложный навык, объем "знаний" и т.п., например, как описано (текст взят из телеги группа AGIRussia) "способность выполнять арифметические операции, воспроизводить по запросу запомненное (показанное), находить причинно-следственные связи и конструировать описание объектов, которым нейросеть не была обучена на этапе тренировок." Набор требований можно выбирать по вкусу. Но если за АГИ принимать не навыки, алгоритмы, "знания", но нечто подобное природным образцам вне зависимости от навыков и знаний, то общим их отличием будет перманентная обучаемость. В этом месте есть тонкий момент в том, что понимать под обучаемостью. Это не накопление навыков и "знаний" (по какой-то мета логике, мета алгоритму и т.п.), а перманентная их эволюция (изменчивость и отбор), подразумевающая вероятность (разной степени) изменения реализаций любых (мета, не мета) имеющихся навыков и "знаний" в процессе функционирования. В таком контексте относительно удовлетворительный механизм поддержания эволюционируемости реагирования системы на входные сигналы зависимый от внешних условий и будет минимальный АГИ, вне зависимости от того, что он умеет или знает. Такой тест на эволюционируемость чисто по внешним проявлениям (ТТ) придумать в общем виде сложно, т.к. суть не в изменениях системы (они могут происходить по мета логике и без эволюции подразумевающей не преднаправленную изменчивость и отбор), а в механизмах обеспечивающих эти изменения.

1. Когда говорят о переборе, это речь о процессе (обычно низкоуровневого) обучения, а не исполнения. 2. Бекпроб, это по сути направленный низкоуровневый перебор. Ещё говорят - оптимизация. Она возможна когда мы можем (чаще заранее) оценить требуемое направление, а лучше и расстояние от текущих результатов (включая свойств "внутри" самой системы), до цели. 3. Направленный перебор возможен не всегда. Обычно он включается в систему человеком, знающим направление в целом или на каждой ступеньке (о которой опят таки он должен знать заранее) при задачах, требующих иерархических решений. Общее решение, это когда человек не знает заранее ни направление достижения целей, ни иерархичность, а все это находится самой системой/агентом с накоплением опыта (читай проб и ошибок, т.е. не преднаправленного перебора, т.е. в процессе обучения, происходящего одновременно с функционированием когда нет даже того, что обычно называют целью) и при переходе от одной задачи к другой. 4. Отрицать неизбежность перебора а системах претендующих быть АГИ (а значит и возможность во множестве случаев комбинаторного барьера) равносильно привлечению к решениям потусторонних сил. АГИ при этом был бы давно всеми признанно создан, а этого чата бы не было.

Согласен с тем, что это версия градиентного спуска, который в контексте поста тоже по сути является последовательным перебором. Если нечего сказать по сути, то не стоит постить и по терминам. Подобные посты буду удалять.

Если кто-то может дать ссылки на подходы к АГИ основанные, как и тот, что описывается в данной ветке, на самоорганизации, но кроме тех, что основаны на генетическом алгоритме, было бы заманчиво ознакомиться. Заранее выражаю признательность тем, кто не поленится и поделится ссылками.

Самоорганизация и задачый подход. 1. Вроде бы очевидно, что не может быть универсального алгоритма решения (как бы решения для решения) любых задач. Но тогда можно говорить об АГИ, как о сочетании решений множества ,различных задач. 2. Но при этом возникает вопрос сложности согласовывания между собой этих решений и их сочетаний. Очевидно, что с масштабированием, любое добавление хоть маленьких дополнений будет приводить к опережающему усложнению обеспечения согласованности системы..., если делать это вручную. 3. В итоге можно предположить выход из этой ситуации в нахождении возможности и обеспечении автоматической самоорганизации решений и их согласования в процессе обучения. Другими словами это означает, что в любом случае определение АГИ, как просто решатель какого-то большого количества задач не может обойтись без АГИ, как некая самоорганизующаяся (эволюционно) система.

Вновь возникают вопросы цели, декомпозиции и возможность "общего решателя" без целеполагания. Повторюсь здесь на эту тему в очередной раз 1. К АГИ относятся системы способные находить решения (достигать цели) в условиях, когда в этом процессе (нахождения решения, достижения цели) не возможно определить направление постепенного (частичного) приближения к конечному решению (цели) до получения самого конечного решения (результата, цели). Ограничением при этом служит комбинаторный барьер необходимый для достижения конечного решения (цели) данной системой, которая в свою очередь кроме исходных свойств системы зависит от уровня ее обученности (предшествующего опыта). В иных случаях АГИ и не нужен. 2. Декомпозиция "основной" цели (задачи) по сути есть постановка "промежуточных" целей (подзадач), т.е. частный случай целеполагания. АГИ без целеполагания не "общий решатель задач" (не АГИ). 3. "Правильная" декомпозиция "для всех/любых конечных целей" (и для частных целей/задач) не возможна без приобретения предшествующего опыта (обучения, включающего механизм композиции) в соответствии с условием п.1 (определить "правильность" возможно лишь после достижения цели, решения задачи) и является процессом "проб и ошибок" (обучения/самообучения, читай - эволюционной самоорганизации зависимой от окружения/среды). Кроме описанных моментов (пункты 1,2,3) следует иметь ввиду, что в АГИ процесс (механизм) накопления опыта (эволюционной самоорганизации) должен быть заложен как перманентный процесс... p.s. Соответственно (см. п.1) различные механизмы типа бэкпропогейшн, RL, ГА не имеют отношения к АГИшности и могут быть лишь дополнением, например, RL в обучении для облегчения в помощь к базовому процессу.

1. Онтология, как описание мира. Онтология, как описание АГИшности. Онтология как описание алгоритмов реагирования (интерпретации) на что-то в мире (включая ту или иную логику). По сути описание мира и описание его интерпретации не имеют отношения к АГИшности даже если они включаются в состав так называемых АГИ систем (как основа их АГИшности). 2. АГИшность либо есть, либо нет. К ней не возможно найти пошаговое направление (не возможно заранее сказать/запланировать какой "кирпичик" будет в составе определяющем АГИшность до тех пор, пока не будет конечного "решения"). АГИ системы могут быть менее продвинутые, более продвинутые, но сама АГИшность должна быть исходно в любом случае. Когнитивный человек может быть новорожденным, может быть зрелым, пожилым, но в любом случае он должен уже быть когнитивным человеком. Когнитивность может быть на уровне бактериальной клетки, на уровне пчелы, на уровне человека, на уровне социума, но в любом случае она уже должна быть в этих системах/совокупностях. 3. Логики и онтологии мира и интерпретации мира, следствия когнитивности, АГИшности. АГИшность - механизм возникновения в АГИ системе логики и онтологий мира и интерпретации мира. Этот механизм - есть та или иная разновидность совокупности/системы способной к перманентной (какое-то время) эволюционной самоорганизации, но не планировщик с предзаданной (не стахостичной) логикой реагирования ("интерпретации") на окружение. (https://t.me/AGIevolving)

В чем одна из принципиальных особенностей Н-К, которая часто не усваивается? В том, что отбор идёт не по конечной (не только по конечной) цели, но и по всему объему совокупности и в зависимости от зависимостей в самой среде, в самом окружении. Это и даёт в процессе функционирования (накопления опыта) возможность снижения комбинаторного барьера (при решении тех или иных "задач") по сравнению с другими вариантами эволюционных процессов, например, по принципу ГА. Но имеет преимущества в случаях неопределенной (не доопределенной) изначально цели, в отличие от бэкпропа и т.п. https://t.me/AGIevolving/258

В стопятьсотый раз всплывают вопросы эмоций. Пара слов по поводу. Для АГИ, это важно. 😊 1. Эмоции, как то, что так или иначе проявляется внешне. В таком контексте это мало связано с вопросами АГИ. Собака виляет хвостом, человек улыбается и т.п. Проявление можно сделать различным. 2. Эмоции как то, что ощущается. По сути нет проблем, если рассматривать как некую реакцию и выдачу сигнала сенсора. Есть сенсоры которые реагируют и выдают некие сигналы реагируя, например, на температуру или на разные цвета. Но есть вопросы о том, на что должна быть реакция, которую можно было бы назвать эмоцией. При этом важно отметить, что это должна быть реакция на то или иное внутреннее "суммарное" состояние совокупности-системы (сенсор направленный "внутрь"), а не какие-то реакции внешних сенсоров на то или иное во внешней среде. При этом не забывая, что оцениваемое "эмоциональными сенсорами" внутреннее суммарное состояние, есть комплексное отражение прошедшего опыта (обученности) и текущего момента. 😊 https://t.me/AGIevolving/259

К вопросу - ГА в АГИстроении. https://t.me/AGIevolving/252 https://t.me/AGIevolving/258 https://t.me/AGIevolving/302 https://t.me/AGIevolving/375 https://t.me/AGIevolving/408 https://t.me/AGIevolving/422

Движущие силы (альтернатива традиционным, например, бэкпропу, ГА и др.). Движущая сила изменений ("обучения") - относительность ("избирательность") устойчивости. Движущая сила направления изменений - отбор средой/окружением во всем объеме. Движущая сила обеспечения адекватности - степень дискретизации устойчивости/отбора/реакции/молчания (на всех уровнях, во всем объеме разнообразия связей и свойств).. https://t.me/AGIevolving https://t.me/agitopics/8266/26842 "Свободная энергия". Старые песни иными словами. Я бы сказал чуть иначе. Живые системы исполняют работу (добывая энергию и "материалы") не против равновесия, а работу по поддержанию некоего уровня не равновесия. А не равновесие (читай в данном случае "свободная энергия"/изменчивость) естественным образом ведёт к равновесию (читай к отражению свойств окружения/среды). НК как раз и призван обеспечивать этот процесс в "цифре" на компах. Другими словами, для АГИ необходимо наличие перманентного поддержания "не равновесия" (в некотором заранее задаваемом диапазоне!!!), как естественного источника когнитивности/адаптивности (нахождения и согласования различных "равновесий").

И вновь "сознание". https://t.me/AGIevolving/662