Форум создателей искусственных интеллектов

Склонность к мутациям в относительно определенных участках ДНК, можно обеспечить пока лишь у бактерий.

В моём понимании учителем является личный жизненный опыт (ЖО) ученика. А человек-учитель может только попытаться искусственно сформировать ученику такой удобный жизненный опыт, из которого знания извлекаются путём минимальных усилий. Но эти усилия (по анализу своего ЖО) всё-равно должен сделать ученик. Поэтому обучение это всегда самообучение. P.S. Под ЖО понимается "сырая" память последовательности осознанных событий. Мне жена поставила задание построить душ в деревне. Честное пионерское, я его строил без контакта с социумом. Брёвна и доски искал по всей округе, проект придумывал сам, гвозди брал ржавые и забивал молотком, найденным на чердаке. И даже новация у меня была - шифер использовал в качестве водостока. Задание было сформулировано просто. А результат получился во много раз сложнее. Эту сложность к исходному заданию добавил (вроде как) я сам. Если у социума такие автономные акторы, то я вполне готов засчитать такой актор за "унарный" интеллект. Не согласен. Человеку достаточно один раз понять правило и дальше он сможет решить аналогичную задачу даже на бесконечной шахматной доске, где про "перебор" речи быть не может.

Я про самомодификацию говорю. У меня есть подозрение, что этот механизм существует испокон, просто, на него пока не обратили внимания, считая каким-нибудь побочным эффектом, например. Он нужен, иначе эволюции придётся шагать по слишком высоким ступеням.

Направленная самомодификация?! (Уж не о Всевышнем ли Вы...?) Если считать, что онтогенез организмов, это как у часов, шаг в сторону, прыжок на месте, расстрел, то да, либо направленный мутагенез, либо очень огромные ступени. Но дело в том, что онтогенез можно рассматривать, как эволюционный процесс (на своем уровне) в течение этого онтогенеза. Тогда не требуется ни больших ступеней, ни кем-то "самонаправленный" мутагенез.

Гы-гы. Бог из ДНК. Отточим формулировки: не самомодифицирующийся, а адаптивный мутагенез.

Давайте детально проанализируем продукты Ваших умозаключений. Здесь, по сути, Вы утверждаете, что моя ориентация является неправильной, ненормальной, отличается от нормальной, противоречит норме. Следовательно, есть некая задача, подлежащая решению - ориентация требует корректировки. Т.е. приведения моей ориентации в норму. Что же есть норма в данном случае? Здесь, по сути, Вы утверждаете, что анатомический атлас является источником норм в вопросах анатомии. И если кто-то (я) утверждает, что есть некий орган, а в атласе его нет, то есть задача, которая подлежит решению. Приведения к норме. В данном случае исправлению подлежат мои знания об органах и приведение их в соответствие с атласом. Здесь происходит подмена контекста и уже вместо атласа, как источника норм, Вы используете свои убеждения в качестве источника норм. И если бы Вы из предыдущих посылок сделали умозаключение, что: "такого органа, как интеллект, нет - учите матчасть", то я бы Вас понял и, может быть, поспорил, опираясь на популярное определение термина "орган". Но Вы делаете подмену контекста, чтобы сделать меня носителем своих идей. Чтобы я стал ходить по форумам и от раза к разу повторять что-то вроде "разбирать пирамиду понятий в вершины, чтобы не завалило" или "системный порядок существования мира". Фактически Вы решаете другую задачу - скопировать свои убеждения (нормы) в меня. Теперь видите в чём разница между нашими подходами? Я пытаюсь изучать интеллект, механику его работы и описывать её, независимо от того какой конкретно деятельностью занимается человек. А Вы решаете задачу по навязыванию всем своих убеждений, которую (судя по всему) даже не осознаёте.

Согласен, нужно учиться обучать мл-ки не просто образам, а логике подражания, я бы кстати не говорил о тн. "зеркальных нейронах", ИМХО это очень навороченные нейрокомплексы, может они заканчиваются какими-то нейронами которые возбуждаются на некий стимул или поведение, но как они к этому пришли, ещё большая загадка. Так вот например есть агент в среде, ну типа "обучение с подкреплением", агент накапливает динамически датасет метки- признаки, то есть например что то он видит как то действует и бобо, а потом по другому действует и кайф, образ в виде вектора это фичи, бобо\кайф - таргет, это понятно нам, но как той же логике обучить на примере другого агента, путём наблюдения??? Да так чтобы без костылей, одной нейросеткой? Как соотнести чужие действия со своими и чужое бобо\кайф со своими? Так там виидос был по моему стёбного характера, ещё и длинный, хотя бы подписали выводы которые вы сделали, но честно вам скажу эмоциональный негативизм и стёб скорей всего буду в последствии удалять, при всём уважении. Если не заинтересованы в поисках устройства СИИ, так и скажите, мол считаю что это бесперспективно, по такой то и такой то ОБЬЕКТИВНОЙ причине и идите на другой ресурс где вы можете сделать КОНСТРУКТИВНЫХ ВКЛАД. Моя ИМХА в том что СИИ возможен, но это очень сложно технически, порядок сложности примерно как Марс колонизировать. Но это очевидно осуществимо. Да, "метод тыка", стохастическая оптимизация, это универсальный и очень многоликий инструмент, его можно сделать иерархическим и настолько комплексным что даже человек не узнает его воплоти. И в отличии от природы у нас намного шире пространство для манёвра, другой вопрос что более эффективные эвристики часто теряют универсальность и масштабируемость. Я не микробиолог, про мутагенез ДНК не в курсе, по идее мутации могут возникать и сами собой, среда то "там" очень так сказать "дёрганная" там всё вибрирует и держится на "магнитиках", куча воздействий вокруг, честно говоря вообще очень удивительно что этих мутаций так мало. Я лично воспринимаю ML как путь к СИИ, также как линейной зависимостью в мат-анализе в пределе бесконечно малых можно описать любую нелинейно функцию, в один или несколько проходов. Природа это сделала именно так, отдельный нейрон работает достаточно просто, а сетки из них возникли стохастическим поиском, то есть всё достижимо простым "методом тыка", нужно только понять что моделировать, выписать весь спектры человеческих скилов от важных до не очень и начать их пилить, максимально простым и желательно однообразным способом. Если мы говорим про конкретно шахматы, то строго доказать что та или иная позиция больше полностью обречена, можно только ПОЛНЫМ ПЕРЕБОРОМ. Те или иные соотношения фигур и их позиции могут только повышать\понижать вероятность успеха, создавать\нивелируя преимущество, но только в совсем тривиальных ситуациях(2-10 вариантов до окончания) можно ограничить в ноль пространство для манёвра. Игра такая, переборная. Чем больше доска тем больше могут возникать разных эвристик, вроде соотношений фигур их кластеризаций на доске и тп. Не вижу принципиальных проблем в том чтобы ML этому не научился. Тут одновременно и аппроксимация и перебор. чем больше доска тем больше аппроксимации, че меньше пространство вариантов, как в конце игры тем важнее перебор и просчет на несколько шагов в перёд. Ещё раз повторю я не микробиолог, но ИМХО например сам принцип скрещивания генов половым способом - вид направленной мутации. Своего рода эвристика, как в генетических алгоритмах. Например в алгоритме "имитация отжига" тс. "без половой отбор". На сколько мне известно весь процесс репликации ДНК на все 100% ещё не изучен, много ещё непонимания как какие гены работают, известно что не малая часть из них тригерная, логическая, то есть одни гены включат\выключают другие пре тех или иных условиях, а раз так то сами собой могут возникать участки более мутабельные так как они более сложно кодируется, через множество тригерных генов, которые тоже могут быть повреждены.

Нет, разговоры в стиле "Пастернака не читал, но осуждаю" разговаривайте без меня. - без надлежащего обоснования сие утверждение звучит как очередная религиозная догма. Причины имеет всё, неудачи с ИИ - тоже, и они не технического характера, о чём и было сказано. Однако, если Вы будете видеть в сообщениях только "эмоциональный негативизм и стёб", то может лучше именно Вам поискать "другой ресурс" ?

Хорошо, что признали это. Значит полпути к исправлению пройдено. Про Luarvik/а ничего не скажу. А отличается тем, что я готов признавать свои ошибки, отказываться от ложных убеждений и искать обоснования для своих взглядов. Объясняя их, а не навязывая назойливо предлагая их другим только потому, что они мои. Возьмём, к примеру, вики: "О́рган (др.-греч. ὄργανον — «инструмент») — это группы тканей со сходными функциями. Орган представляет собой функциональную единицу в пределах организма, обособленную от других функциональных единиц данного организма. Органы одного организма связаны в своих функциях между собой таким образом, что организм является совокупностью органов, которые часто объединяются в различные системы органов. Органом называется лишь та совокупность тканей и клеток, которая имеет устойчивое положение в пределах организма и чьё развитие прослеживается в пределах онтогенеза (органогенез)." Если принять это определение органа за норму, то где Вы здесь видите противоречие, если пытаться натягивать это определение на "интеллект"? Интеллект реализован в виде тканей (группы клеток)? Да. Интеллект представляет собой обособленную функциональную единицу? Да. Интеллект связан с другими органами? Да. Интеллект локализован в организме? Да. Интеллект развивается в онтогенезе? Да. Тогда в чём противоречие? Вы, как мне кажется, напрасно акцентируете внимание на малозначительных абстрактных второстепенных философских категориях, пытаясь объяснять интеллект как процесс, явление, структуру, архитектуру, строение, орган, способность и т.п. Для того чтобы делать интеллект, который должен работать, его надо объяснять как механизм. Но это труднее. Проще разбирать пирамиду понятий с вершины. Не так ли? Два короля на доске - это ничья. На бесконечной доске. Здесь перебор, действительно нужен, но не всех комбинаций фигур, а только всех способов их взаимодействия. Достаточно понять только, что король не может поставить мат другому королю, поскольку ему надо подойти к нему на расстояние одной клетки и тем самым оказаться на клетке под шахом. А шах запрещён. Вот такого рода умозаключения делают интеллект ценным. Когда полный перебор вариантов можно заменить "умным" перебором только тех вариантов, которые имеют отношение к делу.

Это лично Вам, Gather, на долгую память

Во истину! Очень удачная иллюстрация. Однако, я говорил именно про ДНК. На мой взгляд, есть в клетке ещё, как минимум, одно подтверждение того, что адаптивный мутагенез ДНК в рамках любой клетки вне фазы размножения может существовать. Я тут вещал уже про парадокс жизни: нужно меняться, чтобы сохраниться. А появление парадокса, как известно, говорит о том, что что-то от чего-то пора отделить. Речь идёт о том, что подкрепление может быть не только вбросом материала для достройки структуры, но и частичным разрушением её. Рефлексирующая оболочка непременно присвоит и использует такие частично разрушающие факторы. Ну, а фатально разрушающие факторы просто выведут систему на казнь через естественный внешний отбор. Пример: система воспроизведения белков и ДНК в целом, в которой есть факторы отделяющие куски и даже целые участки ДНК от матрицы. Кстати, это говорит ещё и о том, что можно говорить об оболочках, определяющих область действия таких факторов.

Ещё, резюмируя весь подход к выбору источников фактов для рассуждений о СИИ, хочу заметить, что знакомство с другими отраслями знания, такими как эволюционная биология, физическая химия, органическая химия, микробиология, физиология, нейрофизиология, медицина, социология, экономика и т.д. и т.п. очень помогает. Невозможно прочитать двухтомник Кнута, матан, Фейнмана и всё понять.

Абсолютные идеи назойливо предлагают обычно в палатах №6.

Процесс, происходящий в теле, является частью тела, хотите Вы того или нет.

Ну, в Вашей палате может и так, а я сказал то что сказал и добавить мне к этому нечего.

Вот именно: как написано - так и читайте, так и понимайте.

Так Вы отвлекитесь (абстрагируйтесь) хотя бы на время от своих абсолютных идей и опуститесь на землю. Естественно. Тело - носитель процесса, как Ваше, например, физиологическое тело является носителем процесса под названием "психика".

Прошу прощения, но видимо моих поисковых умений не хватает, чтобы найти эту работу. Это информация с грифом? Или простым смертным, вроде нас, можно где-то почитать её в открытом доступе?

Условием, выполнение которого позволит нам говорить о появлении хоть какого-то Интеллекта в чем-либо искусственном, является то, что я называю Алгоритмической Автономностью (всё остальное приложится). При этом нужно чётко понимать разницу между поведением, определяемым алгоритмом (1) и поведением, определяемым данными (2). NB! - внешне и без специальных исследований эти два вида активности практически неотличимы. (Ср. поведение и алгоритм поведения)

Немного реплик в ответ на чтение СИИ На подступах к сверхразуму - 2021 Вообще приходится признать что на 100% нельзя быть уверенным никогда что не имеем дело с какой то подгонкой, вроде "китайской комнаты". Также как в отношении целей AGI в виде "решения каких угодно задач, или адаптации к произвольным средам", нам нужно отказаться от мнения что можно гарантированно узнать СИИ. Могут быть только эвристики по поводу эффективности заложенных моделей, вроде "бритвы Оккама", МДО и тп. ясно что в чистом виде "китайская комната" очень не эффективна, многое можно подсжать, а если импровизировать способ её автоматического заполнения, вообще — красота! Да, есть десятки всяких модулей, которые нам как бы "естественны" и потому не видимы. Не осознаваемы, также как воздух для нас или вода для рыб, посмотрите сколько времени прошло чтобы догадаться что существует гравитация??? А всё почему? Потому что не было примеров где её нет! Наш мозг аппроксимирует также как и обычные алгоритмы машинного обучения, то что вообще "вне выборки", даётся ооочень с трудом и в основном случайно. В этом одно из существенных препятствий на пути к СИИ, осознать то что в норме не осознаваемо. Создание таких систем уже достаточно сидьно размоет границу СИИ — ЕИ, но ИМХО это дело не ближайшего десятилетия. Лет через 50 -100 только первый пункт. По видимому снова не понимания масштаба задач, сравнивается не сравнимое, "компьютерное зрение" — задача вполне решенная, если под качеством её решения ней понимать точность распознавания. Понимание ЕЯ — с другой стороны задача совсем другого калибра, чтобы что то "понимать" нужно вначале иметь антропную модель мира, что пока за пределами, "понимание" это когда некая символьная цепочка описывает что то лежащее в антропной модели и система это распознаёт, нет модели нет понимания. Тоже касается и рицензирования, нужно понимать текст да ещё и научный, расширенный по сравнению с обычным бытовым. ИМХО не нужен AGI для автоматического управления ваттомобилем. Эти задачи всё будут сокращаться, пока вовсе не исчезнут, но всё равно останется не мало мракобесов которые будут кричать "это — не СИИ а только ИИ" По видимому это правильно. Вот с такими задачками снова многое зависит от не очевидных человеческих микро-скилов которые были приобретенных за жизнь, разные пространственные, логические и тп. Если они будут у робота, то он справится не хуже человека, если нет то не справится и это не будет значить что "он хуже" просто нет соответствующего инструмента. Нет, как раз таки человеческий мозг возникал эволюционно по чучуть и на каждом этапе можно проверить прогресс, в этом нет проблемы, возьмите червя, улитку, рыбу, мышь, кошку, обезьяну и человека, всё идёт последовательно, инкрементно. Качественных скачков не было ни на каком из этапов. Определение интеллекта — гиблое дело, есть сущности которые можно определить строго и лаконично, а есть которые нельзя или это делать не эффективно, чаще всего это зависит от сложности. Простым сущностям(2-7 структурным компонентам) легко дать определение, сложным(>10-20) давать определение не так осмысленно, придётся кластеризовать компоненты им дать свои определения и тп и всё равно это будет не убедительно. Короче некоторые сущности проще "показать", это восточный подход, созерцательный, "смотри!". Таск себе если будет свободное время, создать текстово->языковой преобразователь, то есть на вход корпус текстов, на выходе грамматика языка и ряд других характеристик, что стало "понятно" о языке. Вообще интересует какие "выводы" из текста может сделать ML, чисто из текста без какой либо априорной инфы, структура языка, количество "смыслов" в текстах и тп. Это в точку. Одно из ключевых препятствий в создании СИИ, на ряду с чисто техническими масштабными проблемами разработки как минимум многих десятков отдельных аспектов\модулей, человеческого сознания и затем не менее сложной задачи сведения их в единую систему. Тоже считаю — очень правильно! Компьютерная графика дешевеет и становится очень близкой к реальности, в недалёком удущем это будет основной источник данных для обучения систем машинного оучения. Да, это путь к СИИ. Просто нужно пилить шаг за шагом, компонент за компонентом, задача масштабная очень, но и цель - "нихуя себе!" Я уже говорил что этот "широкий круг задач" на деле "широкий круг микро-ИИ под каждую из них и подобных в близкой окрестности", ну не решат наш ЕИ этот "широкий круг задач", это иллюзия, фокус, так нам кажется и гордость этому спосоствует. Вот вот, всё верно, есть аспекты нашей умственной деятельности, выделяем боле менее явные модули и пилим. Природа это делала методом тыка, направленного через отбор воздействием внешней среды которую нужно было предсказать, нам пока придётся это делать вручную, так как природный путь повторить не получится, силёнок нет пока. Всё так. Это будет СИИ во всех смыслах. Ну почему же? На ряду с "определением интеллекта" ИИ-шники всего мира любят заморочиться над проблемой "смысла" и "понимания", но в отличии от "интеллекта", "смысл" легко определить как проекцию символа на образ, вроде: И всё в принципе, это главное. Можно конечно это дело усложнить, также есть другие коннотации смысла в виде "цели" и тп. это уже не суть, синонимизмы и разного рода вербальные смешения, а тот смысл о котором все спорят это протекция символа в образ(цепочку действий и тп.) А кто говорил что будет просто??? Это очень сложно и трудоёмко, как колонизация Марса, поэтому будет продолжать долго с многочисленными периодами "лета и зимы". Дипсетки конечно -круто, но увы вот так просто пытаться сложные разнородные данные засунуть в сетку что бы она сама бкпропом всё разрулила, это бред, наивняк. Только отдельные аспекты реальности, для построения модулей, а потом нужно решать как эти модули объединить, что тот ещё квест, по сложнее чем разработать алгоритм бэкпропа, когда его ещё не было.