Форум создателей искусственных интеллектов

Начало темы здесь. Надежды на положительный эффект от этого продолжения мало, но чем чёрт не шутит. Пункт в дополнение: 6. Предполагается, что AGI - чёрный ящик. Воздействовать на него можно только через его входы и никак иначе. Т.е. поставить задачу можно только через входы!

Данная тема создана для проверки Сети бинарных нейронов. Здесь буду складывать всё ценное из темы. 1. Угадайка (М-последовательность) Результат

Это смишно. Где же тут парадигма СИИ?

Хотите обсудить bnn - идите по ссылке. Если ваш вопрос относится к угадайке - утешу вас - она приведена потому, что больше ничего не нашлось.

Не помню кто и где, но прозвучало предложение сделать простейшую 3d модель в 3d пространстве для проверки кандидата в AGI на состоятельность. А именно: тело и нога. Немного уточню, буду исходить из самого простого случая: - есть поверхность по которой модель может перемещаться благодаря гравитации и силе трения; - тело - прямоугольный параллелепипед; - вместо ноги колесо с возможностью руления или два колеса с управлением по принципу гусеничного хода; - данные с выходов AGI управляют колесом/колёсами; - данные на входы AGI поступают в зависимости от состояния колеса/колёс, так же возможны другие датчики. Вопрос: Что дополнительно должно быть в этом пространстве и какие дополнительные датчики нужны для того, чтобы кандидат в AGI имел возможность и мотивацию выполнить какие-то действия убеждающие нас в том, что он действительно AGI?

Вопрос кажется равносильным вопросу о том, каким должен быть тест Тьюринга для АГИ. Ответ, никакой ТТ не пригоден для определения АГИшности.

Приведите тест пригодный для определения "АГИшности".

Luarvik. и Влад добавлены в чёрный список. То, что осталось после общения с ними: Выплыл на поверхность этот репозиторий. В нём на основе OGRE (рендер 3d) и ODE (физический движок) смоделировано 3d пространство. В это пространство помещено creature с BNN. Это после Влада. После Luarvik.-а надо поискать ещё, пока некогда, потом не уверен, что заморочусь, хотя там были некоторые вопросы-ответы, которые приоткрывают суть проблемы.

Это зависит от того, что принимать за АГИ. Если базы "знаний" и алгоритмы реагирования на входы системы, то выбираете некий сложный навык, объем "знаний" и т.п., например, как описано (текст взят из телеги группа AGIRussia) "способность выполнять арифметические операции, воспроизводить по запросу запомненное (показанное), находить причинно-следственные связи и конструировать описание объектов, которым нейросеть не была обучена на этапе тренировок." Набор требований можно выбирать по вкусу. Но если за АГИ принимать не навыки, алгоритмы, "знания", но нечто подобное природным образцам вне зависимости от навыков и знаний, то общим их отличием будет перманентная обучаемость. В этом месте есть тонкий момент в том, что понимать под обучаемостью. Это не накопление навыков и "знаний" (по какой-то мета логике, мета алгоритму и т.п.), а перманентная их эволюция (изменчивость и отбор), подразумевающая вероятность (разной степени) изменения реализаций любых (мета, не мета) имеющихся навыков и "знаний" в процессе функционирования. В таком контексте относительно удовлетворительный механизм поддержания эволюционируемости реагирования системы на входные сигналы зависимый от внешних условий и будет минимальный АГИ, вне зависимости от того, что он умеет или знает. Такой тест на эволюционируемость чисто по внешним проявлениям (ТТ) придумать в общем виде сложно, т.к. суть не в изменениях системы (они могут происходить по мета логике и без эволюции подразумевающей не преднаправленную изменчивость и отбор), а в механизмах обеспечивающих эти изменения.

rrr3, конечно же второй вариант: "нечто подобное природным образцам" и "перманентная обучаемость" ! "Такой тест на эволюционируемость чисто по внешним проявлениям придумать в общем виде сложно" ! Именно поэтому есть этот топик! Я несколько сузил от общего к частному в виде 3d модели. Самый простой вариант, если из полностью хаотичных движений при рождении creature по истечении времени дорастёт до какой-то оптимальной и сообразной его телу ходьбе. Я какраз ставлю такие многочасовые эксперименты, но пока ещё не всё отлажено и много доработок в коде, т.е. не всё ещё стабильно и нет уверенности в воспроизводимости этих экспериментов, а без этого нельзя что-либо утверждать. Так вот, надежды, что creature само научится красиво (слово красиво применено здесь также как в: "некрасивые самолёты не летают") ходить мало. Можно ускорить процесс если суметь каким-то образом его мотивировать. Перекрыть кислород или не давать бензин (как предлагал Luarvik.) - это не помощь и не мотивация, а палки в колёса. И не ясен путь реализации этого. Собственно, необходимо придумать такую окружающую среду для creature, которая простым своим наличием мотивировала бы делать что-то отличное от хаотичных действий.

Я написал "сложно", просто чтобы смягчить. По сути в общем (как в случае с АГИ) случае - невозможно по внешним проявлениям черного ящика судить о механизмах обеспечивающих эти проявления. Например, страус Ливбастер (знакомы наверное), тоже вроде как научается ходить. Но зная о высказываниях его автора о механизмах научения, можно однозначно сказать, что это не АГИ. Вопросы мотивации зависят от того, на каких принципах должна функционировать система. Рассуждать в отрыве не имеет смысла. В случае эволюционного подхода (не любая форма эволюции пригодна для АГИ) по типу, что описан в моей ветке (самый первый пост в общих словах и достаточно кратко), то внесение в систему доз возмущений ("хаоса") и есть механизм мотивации, а закономерности среды есть то, что структурирует. В случае ходьбы, сами "механические" свойства "ног", тоже будут структурирующим фактором для системы.

Этого и не требуется. На первых порах считаю достаточным чтобы сторонний наблюдатель не смог с уверенностью сказать, что поведение кандидата в AGI случайно или подчинено неизменному алгоритму. Я не прячу принципы своей разработки. От противного: Предположим мы тестируем человека на интеллект. Мы же не знаем как работает ЕИ. Но при этом мы не сможем с уверенностью сказать, что перед нами нечто не интеллектуальное. Я в эволюцию не играю. Да, конечно, человек ходит красиво (оптимально) в том числе и из-за строения ног. Инвалид ходит совсем не так. В любом случае человек научился красиво ходить потому, что хотел переместиться в направлении обусловленном мотивацией.

Вы выбрали второй описанный мной вариант того, что считать за АГИ (он подразумевает именно эволюционный процесс как процесс перманентной обучаемости и это было в тексте описания). При этом Вы же "не играете в эволюцию". Одно противоречит другому. Кроме того было сказано, что к АГИ относится именно механизм, а не имитация его проявлений. На этом мое дальнейшее участие в обсуждении считаю излишним.

Здесь я вижу три ошибки: 1. Презумпция интеллектуальности человека. Любой человек интеллектуален по определению, даже если определения интеллекта у нас нет. Это ошибка. 2. Будем искать задачу для AGI, чтобы протестировать AGI, которого нет, потому что мы не знаем как он работает и как его делать. Это ошибка. 3. Нам нужна задача, чтобы протестировать интеллект у AGI, но она не подходит для того, чтобы протестировать интеллект у человека. Это ошибка. Правильно, на мой взгляд, следующее. 1. Не все люди интеллектуальны, хотя бы потому, что все люди разные. Есть люди, живущие инстинктами и эмоциями. Интеллект им попросту чужд. 2. Надо искать не какую-то волшебную задачу для AGI, а нужно искать принцип устройства и функционирования AGI. Вот задача для исследователя. 3. Когда мне нужно протестировать интеллект у человека, я задаю ему любую задачу, пути к решению которой он не знает. Тот способ действия, построения поведения, которым человек воспользуется для решения, покажет есть ли у него интеллект и насколько он силён.

rrr3, Я в эволюцию не играю. В смысле многоагентную эволюцию или эволюцию через наследование. У меня один кандидат в AGI от рождения и навсегда.

В данных мной описаниях нигде не идет речь ни о эволюции многоагентной ни о наследовании.

Полагаю, удовлетворить вашему критерию интеллектуальности сложнее, чем моему. Для меня, любая животина интеллектуальна. Не скажу про микроорганизмы, но червяки и насекомые уже обладают интеллектом. Отсюда люди живущие инстинктами и эмоциями обладают интеллектом. Они научились ходить, пользоваться туалетом... и неважно, что они не разбираются в математике и искусстве и их штормит от проблем со щитовидной железой, например. Давать определение интеллекта бесперспективно, как мы много раз уже убеждались.

Вот я и исследую, ищу принцип устройства и функционирования AGI. Необходимо как-то тестировать то, что я наисследовал. А по-вашему получается: если мы не знаем как работает AGI и как его делать, то и двигаться дальше некуда.

Не припомню, чтобы я когда-либо писал подобное.

Вы говорите, что не владеете определением интеллекта, однако, сходу включили в него ряд признаков, например, обучение. Значит, всё таки какое-то, пусть даже ещё не до конца сформированное определение у Вас есть... Я тоже полагаю "обучение" важнейшим признаком интеллекта. Однако, червяки, насекомые и даже более высокоорганизованные животные никаким обучением не владеют. Сейчас модно использовать термин "обучение" в слишком широких смыслах (это чтобы не сказать - бесцеремонно спекулировать этим термином), но обучение человека - это очень специфическая вещь, которая радикально отличается от дрессировки животных или тренировки ИНС. Вполне можно сконцентрироваться на особенностях и признаках обучения человека и сквозь это одно единственное упражнение разглядеть особенности и признаки интеллекта именно человека, ради искусственного воспроизводства которых, собственно, и делается AGI. Тут я бы выделил: - обучение на одном примере - понятийное обучение - обучение на анализе своих ошибок - обучение с осознанным контролем - обучение как генерация новаций - обучение как синтез механизмов. Это есть только у человека (и то, только потенциально, потому как не у всех проявляется). Поэтому выделять интеллект как отличительное свойство именно человека, давать ему определение, можно и нужно. Мне показалось, что весь топик посвящён этому. Но я могу ошибаться. А что касается задачи для AGI, так вот задачи Шолле лежат нетронутыми и ещё ни один червяк/насекомое не смог их решить. А вот люди решают легко.