Форум создателей искусственных интеллектов

Так я не понял, Вы обсудить хотите или просто свои мнения высказывать? Не понял и другое. Вы об эволюции говорили в первом посте или о развитии инженерных конструкций, как в предшествующем. Мне казалось, что это разные вещи. Эволюция в биологии так или иначе подразумевает случайность и отбор. Просто постепенное развитие тоже порой называют эволюцией в противовес революции. В биологии же эволюционный процесс может проходить как медленно, так и быстро, т.е. революционно. Т.е. бирки одни, а содержание разное...

Почитываю группу АГИ-Россия в телеге. Вот вновь очень типичная точка зрения. В процессе почитывания подобного постоянно возниксет странное дежавю... Много много лет одни и те же грабли... и всё вновь и вновь. Дело в том, что на мой не просвещенный взгляд, любой, любой ИИ, ЕИ, АГИ и т.п. частный, субъективный алгоритм обработки сигналов или комбинация таких алгоритмов. Не может быть в принципе на столько универсального алгоритма обработки сигналов ("ощущающего алгоритма"), насколько подразумевается в данном контексте. Вопрос лишь в том, что есть ЕИ, "мертвая", застывшая частность (но никак не универсальность любой "мета метасти") или эволюционируемая совокупность частностей. (Ну и конечно же в обеспечении частной, удовлетворяющей по скорости и потенциалу формы эволюционируемости, например, по типу эволюционииуемости Нечто-Когнитрона).

В чем одна из особенностей совокупностей типа Нечто-Когнитрона? В процессе структурирования таких совокупностей под влиянием внешней среды (т.е. в процессе самообучения) будут формироваться ансамбли (элементов) отражающие различные стороны ("части") реальности. Особенность этих ансамблей в том, что они стремятся к обладанию свойствами по отношению к другим ансамблям в совокупности элементов подобно тому, какими свойствами к своему окружению обладает исходная (отражаемая) сторона ("часть") реальности. Образно говоря, формируется не описание реальности, а КАК БЫ сама реальность, но на ином носителе, некое приближение к копии. Другими словами и с небольшим преувеличением для наглядности, когда крыску обучают прохождению лабиринта, в совокупности ее элементов мозга формируется не карта лабиринта, а как бы сам лабиринт, где его части взаимовлияют друг на друга, подобно тому, как друг на друга влияют части реального лабиринта. Для иллюстрации проявлений подобных систем можно привести пример, который описывает некий опыт (не помню источник), когда человека касаются раскаленным гвоздем, он получает ожог, даже если гвоздь незаметно подменяют на холодный.

Так или иначе интеллект связан с обучением в подходах к которому в искусственных системах можно выделить две крайности. 1. Обучение, как некий алгоритм обучения, т.е логика или алгоритм ИЗМЕНЕНИЯ системы в ответ на определенные сигналы из внешней среды. Но логика или алгоритм сами по себе определяют то к чему они могут быть применены и то, какой будет результат. Такой подход вполне применим, но только если принять объективность, безальтернативность, безотносительность интерпретации входных сигналов и их сочетаний. Но все говорит о том, что мы живём в субъективном мире... т.к. реальность в чистом виде без наблюдателя нам не дана, она для нас всегда не полна. Задавая наблюдателя по первому подходу к обучению мы ограничиваем наблюдателя. Другими словами, мы заведомо создаём "слабый" интеллект. При этом нет необходимости особо вникать (тем более критиковать) в сложности, иерархии и иные особенности закладываемых логик, алгоритмов, онтологий и т.д. и т.п. Жизни не хватит изучить все нюансы творцов... Нет необходимости создавать все новые и изощрённые алгоритмы, надеясь перещеголять прошлые варианты, но из раза в раз наступая на старые грабли предопределённости даже если в алгоритмы включается некая стохастика. 2. Обучение, как некий алгоритм или логика не изменений системы, а ИЗМЕНЧИВОСТИ... В этом случае перманентность обучения подразумевается как бы сама собой... не говоря уж о субъективности отражаемой реальности. Некая степень "объективизации" возможна лишь как следствие согласования мультимодальности, но тем не менее оставаясь не полным, субъективным, относительным отражением реальности. 3. В обоих пунктах нет описания решения АГИ. Но есть описание альтернативных подходов. В обоих случаях можно получить разбитое корыто. Но по которому из них пойти, чтобы заведомо не получить тупик независимо от объема прикладываемых усилий, гениальности и ресурсов, выбор должен делать каждый сам самостоятельно, тем более что есть третий путь - путь сочетания, но для сочетания сочетаемое уже должно быть. ) Имхо.

Александр, на мой взгляд, ответ на Ваш вопрос дан в моей ветке про Нечто-Когнитрон.

Универсального алгоритма на все случаи быть не может (ну... кроме Всевышнего, конечно). Частичный выход в множестве алгоритмов с тем, что хотя бы часть их будет соответствовать части мира (отбираемость, относительность устойчивости). Но любое множество алгоритмов тоже не универсально. Дополнительный частичный выход в обеспечении перманентной генерации алгоритмов (изменчивость). И то и другое обеспечивается механизмами лежащими в основе различных эволюционных процессов. Другими словами, любые заранее задаваемые общие для всей системы алгоритмы, обратные связи, логика классификаций, вероятностей, деревья решений, иерархичность системы и т.п. и т.д. кроме тех, что обеспечивают сочетание "частичных выходов" отмеченных выше, есть заранее задаваемые ограничения, есть так или иначе частные решения инженеров, а не самой системы. Это означает, что к сути АГИ они не имеют непосредственного отношения, а могут служить лишь дополнительными, вспомогательными инструментами в отдельных частных случаях.

Вроде не давал такие ссылки на мои посты на других форумах. Возможно кому-то из желающих глубже познакомиться с моими взглядами будет полезным. http://gotai.net/forum/default.aspx?forumaction=userinfo&username=rrr3 https://www.cyberforum.ru/unrecognised-theory/thread1551030.html

Цитата из группы AGIRussia (АГИ в России) в телеге:-"Господа АГИисты! Отзовитесь, пожалуйста, те, кто занимается разработкой разумного бота, способного логически мыслить и решать задачи!" Есть и другие клеше-запросы типа - требуется система смысловой обработки текстов, или поисковиков основанных не на ключевых словах, а именно на смысловой обработке текстов и т.д. и т.п. Возникает вопрос, а что стоит за этими клеше типа - "разумно мыслящий", "логически мыслящий", "решающий задачи", "смысловая обработка текстов"? Ориентиром для АГИ строителей очевидно является человек. Ориентиром заказчиков формулирующих подобными клеше свои запросы тоже является человек. Но человек, и прежде всего, его мышление, логика, это не застывшие алгоритмы по типу стимул-реакция. Это Перманентные процессы, как использования готовых составляющих типа стимул-реакция, так и процесс их перманентной выработки и корректировки. Но особенность этого процесса выработки связан с механизмом проб и ошибок, проб и ошибок, в конечном итоге с определенной вероятностью получения требуемого результата. Любая логика не существует в вакууме, любое решение не может быть на все случаи жизни, любой "застывший" мета-мета алгоритм самого самого верхнего уровня не может быть полностью универсальным априори! Все осмысление так или иначе относительно и является разновидностью эволюционного процесса так или иначе связанного с пробами и отбором, отбором по ситуации, т.е. тоже относительным. Сам факт наличия пары Наблюдаемое - Наблюдатель, а знания, как результат взаимодействия этой пары, зависимый не только от Наблюдаемого, но и от Наблюдателя уже говорит об относительности, локальности, ограниченности. Относительный выход из этой ограниченности лишь в обеспечении изменчивости, динамики процесса, в обеспечении эволюционируемости. Есть ли какие-то подтверждения на практике тому, что в принципе не возможно создать ботов с неизменными, не включающими в себя пробы и "локальный" отбор алгоритмами мышления, логики и решения задач. Далеко ходить не надо. К сожалению (а может к счастью) даже сами дебаты в группе, разночтения, разные понимания даже самой бирки АГИ являются косвенным подтверждением этого. В противном случае все бы все понимали одинаково и с полуслова, а плоская Земля по прежнему покоилась на трех китах. Но есть и другая проблема связанная с формулировками по типу приведенной цитаты вначале поста. Она связана с тем, что не может быть бота разумного и способного мыслить во всех сферах сразу, способного решать любые задачи. Вновь обратимся к образцам, т.е. к людям. Не может человек быть хорошим специалистом (достаточно разумным) сразу во всех областях и решать любые задачи. Всегда есть некая специализация. И когда формулировка заказа (не говоря уже о человеке претендующего на роль разработчика, на роль профессионала, эксперта) звучит в таком общем виде, без уточнения области в которой "бот" должен не только быть, но и разумно мыслить и решать задачи (а это значит постоянно обучаться, эволюционировать в зависимости от контекста и области применения, под контекст и область применения), это говорит лишь о том, что заказчик сам плохо представляет что ему нужно, увы. О том, что он (и/или его эксперт) погружен в проблему лишь поверхностно, на уровне школьника...

Меня временно забанили в группе АГИ не пояснив причину, возможно под предлогом перехода на личности, которого не было. Решил создать дополнительную группу в телеге. https://t.me/AGIevolving

Этапы "крупными" штрихами. 1. Создание и исследование эволюционируемых внешней средой и окружением совокупностей (НК). 2. Создание и исследование различных механизмов обеспечения перманентности. 3. Создание и исследование различных механизмов "подчинения"/обучения (достижения желаемых целей)

В ветке телеги AGIRussia дали ссылку на тему дрейфа нейронных репрезентаций - https://22century.ru/popular-science-publications/representational-drift

Наверное надо повторить одно из описаний моего взгляда на суть АГИ (постараюсь очень кратко). 1. АГИ, это не общий интеллект, а базовый, генеральный. Другими словами, это то, что позволяет перманентно появлятся и корректироваться тому, что сейчас вольно или не вольно часто называют интеллектом - готовые алгоритмы, деревья решений, онтологии, навыки каких-то действий, навыки "управления" вниманием, целями, планированием и т.п. и т.д. 2. Получение такого "устройства" эволюционным путем, глупость, но довольно распространенная с одной стороны, но часто приписываемая другим, становясь предметом их критики. 3. Нечто-Когнитрон, это базовая часть АГИ (но не средство создания АГИ), не исчерпывающая, но необходимая, без которой не может быть АГИ. В этой части могут быть навыки, цели, онтологии и прочее, но только как следствие предшествующего функционирования-обучения (цели могут задаваться ручками). Исходно во всем этом нет необходимости, и это важно. 4. Суть НК (Нечто-Когнитрона) в способности, обеспечиваемой разновидностью эволюционного механизма, как бы впитывать закономерности, иерархичность, свойства окружения, включая навыки, алгоритмы и т.п. 5. Конечно кроме такого ядра в АГИ, должны быть и иные механизмы, необходимые для его (ядра) функционирования и "использования". 6. В АГИ могут быть включены и обычные ИИ, но это к сути не имеет отношения. Истин я не знаю, никогда не глаголю...

Наверное есть смысл все же различать некоторые вещи. Например, буква - как символ и слово как символ, это все же разные символы по своей сути. Когда речь идёт за, например, АГИ, начинать со слов (несущих какие либо смыслы) бесполезно, необходимо снижаться на уровни бессмысленных, но детектируемых "букв". Детектирование различных "букв" ещё не понимание и довольно "квалийное" ("субъективное"). Когда слово понимаемое, оно уже имеет (или нет) не только некие связи с определенными буквами, но уже и с другими словами... Сравнение конечно не совсем корректное, но надеюсь наглядное. Имхо.

Причины изменений в ДНК могут быть разные, но если говорить за мутации, то они не могут быть направленными. В крайнем случае, отчасти направленным. мутагенез можно сделать лишь у бактерий.

Склонность к мутациям в относительно определенных участках ДНК, можно обеспечить пока лишь у бактерий.

Направленная самомодификация?! (Уж не о Всевышнем ли Вы...?) Если считать, что онтогенез организмов, это как у часов, шаг в сторону, прыжок на месте, расстрел, то да, либо направленный мутагенез, либо очень огромные ступени. Но дело в том, что онтогенез можно рассматривать, как эволюционный процесс (на своем уровне) в течение этого онтогенеза. Тогда не требуется ни больших ступеней, ни кем-то "самонаправленный" мутагенез.

С чего начинается АГИ... 1. С понимания. Понимания пары наблюдаемое - наблюдатель, и того, что результат наблюдения относителен и не равен (не тождественен) наблюдаемому, что в "чистом" виде наблюдаемое не дано. С понимания зависимости от методов и логики наблюдения, какими бы "универсальными" они ни были. С понимания неизбежности и необходимости не направленного (с элементом случайности), многоуровневого, перманентного перебора. С понимания сути комбинаторных барьеров ("взрывов"). 2. С создания. Создания совокупности-системы (наблюдателя) перманентно эволюционируемой под действием внешней среды (наблюдаемого). Имхо.

Повторю п.2 предшествующего поста иными словами. Возьмём для предварительного образа автомобиль. С чего начинается автомобиль, в чем его базовая суть? Наверное с получения механической энергии. В случае ДВС, с преобразования потенциальной энергии топлива в механическую. Какая бы удачная ни была машина, без получения мех. энергии нет в ней никакого практического смысла, кроме художественного. Мы можем изобрести очень продвинутую инженерно систему, но без энергии приводящей ее в движение, все это не будет иметь смысла. С чего начинается АГИ, в чем его базовая суть? Суть АГИ в отражении свойств окружения, другими словами, в приобретении знаний (что бы ни скрывалось под этой биркой). Если нет знаний, нет ни задач, ни целей, ни методов, ни отношений и т.д. Но окружения не статичны, они меняются, меняются и отношения с окружением, а соответственно должны меняться (включая пополнение) и знания. Это означает, что процесс отражения, "впитывания" окружения должен быть перманентным, а методы взаимодействия с окружением, изменчивыми и зависимыми от условий взаимодействования, от условий окружения. На мой взгляд, единственным природным процессом способным обеспечить отмеченные первоначальные, базовые требования к АГИ описанные выше, является процесс самоорганизации при обеспечении эволюционируемости (изменчивости с элементом случайности и отбором) максимально зависимой от окружения. Концепция такого процесса кратко дана в первом посте данной ветки. Подобно тому, как высвобождаемая "хаотичная" энергия топлива в автомобиле преобразуется в направленное движение структурой авто, энергия "хаоса" в эволюционируемой совокупности элементов преобразуется в направляемые средой знания. (p.s. Но если в среде вдруг окажется некий учитель-самоучка, то в принципе он сможет "запрограммировать" такую систему под разные свои цели и без навыков профессионального кодинга на компах... ))) )

Жизнь не интеллект, с этим трудно не согласиться. Интеллект в таком контексте, это механизмы обеспечивающие жизнь. Если есть жизнь, значит и есть интеллект на том или ином уровне (или на нескольких уровнях). Но наверное следует понимать, если даже у ёжика не было бы мозгов, то интеллект в нем есть, например и в частности, в виде иммунной системы. Имхо.

1. Если признать, что механизм АГИ так или иначе "вынужден" содержать "метод тыка" (проб и ошибок), то придется признать, что он должен содержать ту или иную разновидность механизмов обеспечивающих эволюцию. Другими словами, если признать невозможность философского камня знающего ответы на любые вопросы, которых ещё нет, то АГИ "вынужден" содержать механизмы эволюции. 2. Эволюционные процессы могут быть разными. Например, так называемый, генетический алгоритм мало пригоден для построения АГИ, хотя и пригоден для обеспечения эволюционных процессов. 3. Результатом любого эволюционного процесса не является философский камень. В любом случае это наборы частных, лишь ограниченно универсальных, "решений" для частных случаев/условий. 4. Сам эволюционный процесс также не является полностью универсальным философским камнем. Но пока работают механизмы обеспечивающие эволюционный процесс, есть процесс нахождения, накопления и реорганизации "решений" (процесс обеспечения функции АГИшности). Другими словами, АГИ без перманентной обучаемости, т.е. без функционирующих перманентно механизмов обеспечивающих эволюционируемость, нельзя считать за АГИ.