Форум создателей искусственных интеллектов

Этот пост – попытка осмыслить концепцию элементарного интеллекта. Не определить с точностью до байта что это такое, а понять местоположение данного феномена в процессе эволюции живой материи вообще. Таким образом термин эволюция надо понимать здесь не как Дарвинскую теорию возникновение видов, а гораздо шире. Как имманентное свойство живой материи усложняться структурно. Именно в этом смысле я понимаю задачу создания AGI. Не как какой-то банальный проект говорящих сковородок и поющих унитазов, а как непрерывный процесс модификации материи для создания принципиально иного вида жизни. Жизни абиогенной. И в этой модификации нет ничего нового. В истории развития биосферы такую роль играли микроводоросли, которые наполняли атмосферу кислородом. Они это делали без пафоса миллионы лет, давая возможность жизни усложняться на основе кислородной энергетики. Теперь человек создает новые конструкты и новые функционалы для следующего метаперехода. И они никакие не искусственные эти функционалы. Всё настоящее. Осознаёт человек это или нет, природе наплевать. Всё идёт своим чередом. Вот таблица. Это аналогия. И относиться строго к этому не надо. Однако задуматься есть над чем. В своём устремлении создать интеллект на основе цифровых систем существует на мой взгляд концептуальная проблема. Это желание побыстрее создать сразу некоего «цифрового супермена», минуя все фазы накопления структурной сложности. Итак. Где мы, разработчики AGI, находимся ? А на последней строке таблицы. По аналогии мы имеем материальные предпосылки создать нечто подобное клетке. По сути это агент в том контексте, который принят в терминологии AGI. Для этого есть всё, кроме автономности. Не хватает того, чтобы поместить этого агента в информационный бульон, придать ему целевую функцию и дать возможность порождать себе подобных. Не надо гнаться за проявлением высших форм психической деятельности, не надо рассуждений о субъективности и объективности. Это клетка. Предвижу вопрос, как это дать возможность порождать себе подобных? Я не отразил в таблице эволюцию компьютера, как средства программирования, а представил контроллер. Но в методологии создания сложных цифровых систем есть нормальная практика моделирования тех же контроллеров, реализованных в железе. Виртуализация агентов на компьютере это нормальный подход. А копирование классов в режиме Runtime давно не проблема. Микроконтроллер это материальный цифровой аналог клетки. Имеются все функционалы: датчики от внешней среды (АЦП), органы воздействия на внешнюю среду (ЦАП), память, регистры, микропрограмма. Не хватает только мотивации и того питательного бульона, в котором эта «клетка» будет реализовывать свою целевую функцию. Над чем имеет смысл думать в контексте описанного. 1. Как организовать информационную среду обитания? 2. Детализация целевой функции. 3. Оптимизация входных и выходных органов взаимодействия с внешней информационной средой. Не надо забывать, что это клетка, всё что она может делать и есть элементарный интеллект. А как быть с не элементарностью? А пусть она (клетка) размножается и усложняется, образуя многоклеточные структуры. Для этого может и не понадобится миллиард лет, как видно из таблицы. Кирилл Еськов. Происхождение жизни на Земле (май 2016) Образование биосферы земли, часть 1 Михаил Никитин: "Место происхождения жизни. Первичный бульон, пицца и майонез"

Не согласен по всем пунктам.

Целевая функция - размножаться. Остальное не существенно.

Альтернатива размножению - думать. 90% размножаются. 10%думают. У жизни нет альтернатив.

... о размножении.

Не сомневался.

Не размножаться, а восстанавливаться и развиваться. Организм умеет останавливать размножение своих клеток. А цифровая среда обычная: инициатива-одобрение-инвестиции-проект-приёмка-эксплуатация-тираж. У железок есть существенное ограничение, - им трудно менять форму, поэтому их лучше делать многокомпонентными и создавать инфраструктуру самомодификации. Кстати, никто не проверял, могут ли нейроны в мозге становиться посредниками в коммуникациях других нейронов? С периферией-то всё понятно: там посредничество зашито в функционал.

Чтобы размножаться в сложных условиях надо подстраиваться, а значит усложняться.

Да. Размножение - это костыль для реализации функции самосохранения генома. Самый важный, но всё-таки.

В Вашем сообщении я насчитал 4 раза слово "эволюция" и 7 раз слово "создание". Не совсем понимаю как это совмещается, но баланс сдвинут, на мой взгляд, в верном направлении. Есть несколько вопросов к предложенному подходу. 1. Что значит "принципиально иной вид жизни"? Современная жизнь на планете Земля (а других мы пока не знаем) - это довольно продвинутая технология, по сравнению с теми образчиками, которые создаёт человек. Механизмы перемещения (белковые нанороботы) работают на уровне отдельных атомов - мельче некуда, энергоэффективность (АТФ) на высоте, защита от ошибок генома работает очень хорошо, регенерация тканей, иммунитет, когнитивные системы, мускулы - всё работает очень хорошо. Слабое место - это хрупкость организма, неприспособленность к жёстким условиям среды. Но, допустим, будет создан некий титановый монстр, способный переносить условия открытого космоса и океанических глубин, в чём Вы видите его принципиальное отличие от белковой жизни? Он всё-равно будет ломаться, его нужно будет регенерировать, размножать, хранить как-то генетическую информацию, обеспечивать энергией. Поясните, пожалуйста, в чём конкретно Вы видите именно принципиальное отличие? 2. В названии и в начале топика была заявлена концепция элементарного интеллекта. Но я его не нашёл. Где он? Мне кажется, имеет место смешивание двух явлений: "жизнь" и "интеллект". Но интеллект ≠ жизнь. Жизнь может быть, а интеллекта при этом может не быть. Элементарный интеллект - это не микроскопический интеллект, это не клетка. Это такой минимальный набор функций, который отличает организм, обладающий интеллектом, от организма, интеллектом не обладающим. Вот мы можем посмотреть на ежа или кошку и увидеть, что они живут, размножаются, но интеллекта в них либо совсем мало, либо вообще нет. До тех пор пока не будет чётко определён критерий для отличения интеллектуального живого от просто живого, это смешивание и неправомерное отождествление будет происходить от раза к разу. 3. Возьмём современный компьютерный завод. Какой-нибудь IBM. Наверняка вся логистика там управляется компьютерами, конвейеры управляются компьютерами, разработка новых чипов ведётся на компьютерах. Фактически мы уже имеем систему замкнутого цикла самовоспроизводства кремниевых чипов. Да, она не совсем замкнута, есть промежуточные звенья в виде людей, но мы можем себе представить, что когда-то она полностью замкнётся. Где здесь появляется интеллект? Соглашусь с тем, что это можно будет условно назвать искусственной жизнью, она будет размножаться, захватывать ресурсы, превратится, допустим, во всепожирающую компьютерную "серую слизь" и будет очень хорошо выживать. Но где здесь искусственный интеллект? И зачем он? 4. Допустим, кем-то в гараже будет создан хилый тщедушный робот, который сможет: - перемещаться сам - перемещать предметы - строить модель реальности - понимать что "правильно" и "неправильно" - изучать законы мира и общества - обучаться служить и выполнять задания - объясняться на русском языке Но при этом он не сможет: размножаться, регенерировать, защищать себя от увечий. Вопросы: а) это будет акт эволюции или создания? б) признаете ли Вы, что он живой? в) признаете ли Вы, что у него есть AGI?

Жизнь не интеллект, с этим трудно не согласиться. Интеллект в таком контексте, это механизмы обеспечивающие жизнь. Если есть жизнь, значит и есть интеллект на том или ином уровне (или на нескольких уровнях). Но наверное следует понимать, если даже у ёжика не было бы мозгов, то интеллект в нем есть, например и в частности, в виде иммунной системы. Имхо.

Отвечаю на вопросы. В моем контексте эволюция = создание. Просто потому, что создание происходит с помощью человека, который есть часть природы. 1. Что значит "принципиально иной вид жизни"? - Только в том, что это не белковая форма - Процесс изменения и усложнения проистекает гораздо быстрей - В процессе эволюции белковых форм в геноме накопилось много «поврежденных и не задействованных кластеров». Я полагаю, что в истории биосферы все великие вымирания по цифровой аналогии можно сравнить с дефрагментацией жесткого диска. Для AGI эта процедура будет совсем иной. - Имманентное свойство живой материи – усложнение и экспансия. Предел экспансии белковых форм – планета Земля. Для продолжения экспансии природа руками человека создает иную форму. 2. «концепция элементарного интеллекта» Я не собирался говорить об этом в топике. И здесь важно пояснить как я понимаю интеллект вообще искусственный он или нет. Рубану топором: у сливного бочка есть интеллект и он элементарен. Интеллект – свойство системы реализовывать свою целевую функцию. Термин система надо понимать исходя из теории управления. А вот качество интеллекта зависит от многовекторности целевой функции. Сознание – предельно сложный интеллект на планете Земля в данный момент. Элементарность интеллекта зависит от элементарности целевой функции. Если у системы всего ОДИН параметр, который надо обслуживать, значит это элементарный интеллект. 3. «Возьмём современный компьютерный завод.» «…но мы можем себе представить, что когда-то она полностью замкнётся…» Замкнутость и сложность не есть критерий сложности интеллекта. Возьмем Гугл со всеми его серверами. У него есть сознание? Нет. Его целевая функция проста – отвечать на вопрос. Хоть раз в Гугле самопроизвольно возникла ситуация, когда он задал вопрос? «…она будет размножаться, захватывать ресурсы, превратится, допустим, во всепожирающую компьютерную "серую слизь" и будет очень хорошо выживать.» Здесь надо рассмотреть вопрос информационной среды. Этот пункт у меня выделен в качестве осмысления. И Луарвик сразу же с ним не согласен. В случае «серой слизи» информационной средой является всё жизненное пространство. Чтобы его захватывать надо конкурировать с другими носителями интеллекта. Они не захотят этого. Я тоже. Вы рисуете апокалипсическую картину и заглядываете слишком далеко. Я мыслю так. Новая форма жизни может усложняться и развиваться в начале в подконтрольной человеку информационной среде. Это должно быть симбиотическим процессом. По иному не получится. В истории биосферы была ситуация: «Существует гипотеза, согласно которой митохондрии были некогда свободноживущими прокариотическими организмами, наподобие бактерий. Эти прокариоты, случайно проникнув в клетку, вступили затем с этой клеткой-хозяином во взаимовыгодный симбиоз» Почему митохондрия, научившись использовать кислород и размножаться не захватила весь мир и он не покрылся «зеленой слизью»? Почему новая форма жизни должна непременно это сделать? 4. а) повторюсь эволюция = создание. Создание ммм… презерватива – эволюция. б) отвечу ниже г) Да Живое-не живое. Запутанный вопрос. И я сам пока не знаю как на него ответить в рамках устоявшихся дефиниций и догматов. Каждое живое обладает интеллектом в моем определении. Живое на данный момент – белковая форма и только. Она размножается и реализует экспансию по своей возможности, вступая в конкуренцию с другими формами. Простая органика из аминокислот в пробирке экспансию не реализует. Когда появится тот гаражный робот с теми свойствами, определение живого надо будет переосмыслить. Существует для меня гораздо более сложный вопрос, который я сам себе задаю и не знаю как ответить. Что такое смерть для AGI? Гаражный товарищ будет знать что это такое, ровно так как ребёнок пятилетний, но если он не будет подвержен этому регуляторно, то не понятно…

Благодарю за ответы. Не могу с ними в полной мере согласиться, потому что если "эволюция = создание", то как это следует мыслить в приложении к конкретным вопросам? Что одноклеточные микроорганизмы собрались вместе, посовещались и решили создать многоклеточный организм, разделившись на специализированные ткани и органы. Чтобы лучше выживать. Ведь именно так человек создаёт. А до этого атомы посовещались и решили объединиться в белки, РНК и клетки чтобы что? Какие задачи стояли перед атомами и почему им надо было объединяться. И почему атомы одинаковые, а люди разные. Если люди понятно почему делают роботов, то почему атомам нужно было делать клетки. Вопросов больше чем ответов. Мне кажется эта слойность эволюции - не более чем попытка нарисовать красивую картинку там, где она при ближайшем рассмотрении не такая красивая, как хотелось бы. А что такое смерть для человека? Размыкание контура сознательного контроля. Исключение человека из процессов социальной регуляции. Смерть человека необходима для того, чтобы элиминировать косность и упрямство человеческих убеждений. Если бы человек мог полностью переобучаться с самого нуля, то потребности в смерти не было бы. Но он не может выдернуть из основания своего мировоззрения все кирпичи. Поэтому вынужден умирать. Если СИИ сможет переобучаться с нуля, менять самые фундаментальные свои убеждения, то умирать ему не нужно будет. А если не сможет полностью обновлять свою базу понимания с самого фундамента, тогда придётся его отключать и выращивать новый AGI с самого начала.

Да собрались вместе и...

Эволюция это прежде всего — антирелигия, отрицание Господа, низвержение нас людей с царского трона над всеми остальными земными тварями, если веришь в эволюцию значит ты как обезьяна, как таракан, как вошь. Вот представьте как орёт макака, как они трахаются без стыда, испражняются, едят вшей, это эволюция, а на другом конце Общая Теория Относительности и Египетские Пирамиды, полёты на Луну и великие люди такие как Иисус и Ганди.

Эволюция - это религия капитализма. Идеологическое оправдание экспансий, геноцидов, конкуренций, дискриминаций, превосходств, гедонизмов и прочих слабостей. Как сказал один мыслитель - люди придумали происхождение от обезьян, чтобы творить обезьяньи дела.

Нет. Это не так.

1. В контексте форума и чтобы избежать пустых споров о божественности (т.к. для многих очень сложно представить, что Бог всесилен на столько, что мог создать эволюцию видов, включая человека) под эволюцией есть смысл понимать некий механизм позволяющий появляться неким не преднаправленным (т.е. случайным с нашей точки зрения, оставим управление случайностью Всевышнему) комбинациям элементов так или иначе существующих в мире, но лишь относительно устойчивым в том или ином окружении, т.е. подверженным отбору. 2. Эволюция в данном случае, это механизм получения относительно устойчивых систем (совокупностей комбинаций относительно устойчивых, избирательно взаимодействующих элементов). Устойчивых в тех или иных КОНКРЕТНЫХ условиях (в той или иной своей части, т.е. система все же изменяется, постоянно, но частично). Другими словами, для технарей, это механизм получения неких ЧАСТНЫХ решений. Размножение при этом (появившись в каких то экземплярах ранее не размножающихся эволюционирующих системах) лишь дополнительный механизм, который привел к расширению эволюционного процесса на иных уровнях, т.к. не все "решения" отдельно взятых эволюционирующих систем "жизнеспособны". Кроме размножения, появилось ещё решение о заботе о потомстве на ранних этапах их "организменного" эволюционирования (другими словами, этапах жизни, т.е. жизнь и разновидность эволюционирования, это разные названия одного и того же процесса). 3. Теперь встаёт вопрос обеспечения процесса эволюционирования (жизни) "в железе" в течение некоторого, относительно продолжительного периода одной и той же совокупности/системы элементов. Ведь некоторым технарям нужны способности жизни/эволюционирования порождать (для креационистов, скажем найти новые комбинации существующего) различные решения в тех или иных рамках (которым системы обучают, ставят условия задач, как бы заранее, а потом и в процессе). Получать такие системы путем организации их размножения и эволюционирования на ином уровне в течение почти миллиардов лет, это глупость. Создавать их надо "вручную", "здесь и сейчас". Но об этом как нибудь в следующий раз.

Человек существо достаточно зависимое, обусловленное. Например все мы вроде как и хотим быть на расслабоне, в комфорте, не хотим работать, особенно физически, но если дать волю этой мотивации развернуться на полную, то уйдём в гедонизм и праздность, быстро станем слабыми и больными, что не гуд. Наше тело требует определённого напряжения, как и наши мозги и не просто физического напряжения, вроде спорта, изучения матана, теории групп и тп, требуется также определённая мера естественно стресса, риска, горя, без них тоже возникают специфические расстройства(депрессии и наркомании у богатых и тп.) и вообще жизнь становится какой то "плоской". Правду глаголели древние: "Золото проверяют огнём, а мужчину - невзгодами". Капитализм хотя и жестокий строй, но правильный, мотивирующий, он не даёт нам забыть про свою животную суть, уйти от корней, оставляет нас живыми. Если человека защитить от хаоса то он начнёт деградировать а с ним и общество, нам нужен как пряник так и кнут, увы, так мы устронены.

На счет веры, это личное дело каждого, по сути вера, религия, это вопрос психологической физкультуры, как по мне этакий психотренинг. Нравится человеку верить в неважного кого(бога, нечистого, деда мороза…) приносит пользу, даёт уверенность, успокаивает нервы, ну и хорошо, главное чтобы эта вера не уводила в неадекват(яростно всем доказывать что Земле 6к лет итп.), не вредила социальной адаптации и профессиональной деятельности. Я бы даже сказал что в определённой степени вера нужна практически всем. Тут дело в том что наш "разум", структура достаточно новая и не проработана эволюцией ещё, нет механизмов защиты от "неизбежности смерти", "бессмысленности существования" и тп. У животных не было таких проблем, животное как бы априори "живёт вечно", так как для нормального существования нужен определённый оптимизм, эйфория, а разум нас лишил этого, мы ясно видим свой конец, мы знаем что нет особого смысла не в собственной ни в жизни вообще всего рода человеческого. Поэтому лучше бы всё это переиначить и обернуть красивым мифом, что как ни странно не так уж и сложно, наша психика как бы сама этого хочет, спрятаться в негу иллюзий.