Форум создателей искусственных интеллектов

Нет. Всё ровно наоборот: "Реализуй понимание на основе управления [когнитивными ресурсами]".

"Способность" - это ни про что и ни о чём. Это такой абстрактный тампакс в психологии, на уровне житейской бытовухи. На самом деле, здесь сталкиваются два кардинально противоположных, два полярных подхода: чисто потребительский и созидательский (что на данный момент актуальнее). Конечная же система такова, что должна легко двигаться по обоим направлениям - и от понимания к управлению и от управления к пониманию. Понимание - не автомат, с ним не рождаются. Потенция есть конечно у всякого, но ей ещё нужно научиться пользоваться. Задайте вопрос: чем внутри себя я должен управлять, чтобы начать понимать ?

Нет, Понимание и Управление не объединяются в Сознание. Интеллект без Сознания - автомат. Сознание без Интеллекта тоже работают только на уровне т.н. "эмоций". Как их вместе назвать - не знаю. Ну пусть будет "Разум", хотя разум и ум обычно отождествляется, а ум в свою очередь отождествляется с интеллектом. (А где Сознание, там и Субъектность и пошло- поехало, со всеми вытекающими...) Скажем, Разум, как [системное] единство пассивного (сознание) начала и активного(ум/интеллект). В таком случае естественно нужно говорить об Искусственном Разуме, не больше и не меньше. (А т.н. "ИИ" - это пусть останется как дань традиции.)

Чтобы начинать с ТЗ, нужно сразу в точности знать, что хочешь получить. В случае с ИИ эта методология не работает, потому что нет ясности в конечном результате и можно зайти в тупик, и там вместе с этим ТЗ и остаться. Поэтому я предлагаю рекурсивную методологию, которая итерационно, постепенно, пошагово улучшает саму себя. И приближает методологию создания интеллекта (МСИ) к методологии работы самого интеллекта (МРИ). При этом, вообще не важно с чего именно начинать, итерационно решение должно сойтись. Рекурсивный цикл выглядит так: 1. Делаем что-то, что, как нам кажется, приближает нас к ИИ (например, пишем статью, составляем ТЗ или ещё что-то). 2. Спрашиваем себя: работает ли мой интеллект прямо сейчас так же, как и я сам? 3. Если ответ "нет", выясняем в чём именно отличие и вносим поправки в методологию своей работы. 4. Переходим к пункту 1 с обновлённой методологией. Эта методология позволяет пошагово вынуть наружу скрытую (неявную) методологию работы своего интеллекта и превратить её в открытую (явную, осознанную) методологию своей собственной работы. Конечно, работать это всё будет только при 2-х условиях: 1. У разработчика методологии создания ИИ в голове работает исправный интеллект. 2. Разработчик обладает достаточными способностями к рефлексии (интроспекции), чтобы видеть как работает его собственный интеллект, и в чём именно отличаются методы работы создателя ИИ от методов работы его собственного интеллекта. Самая трудная часть в этом всём, понять и признать, что если описанная только что методология работы верна, значит это и есть методология работы интеллекта. С неё и можно начать.

Данные старенькие 2007 года. Однако среди 72х определений интеллекта нет ни одного упоминания об управлении. Есть что поновее?

На мой взгляд если Понимание и Управление не объединяются в СознанИИ то получается интеллект без сознания т.е. инстинктивный автомат. В случае если они оба объединяются в сознании то открывается возможность добалять новые инстинкты путём понимания целей и сознательной наработки адекватных навыков. Например медведь способен научиться ездить на велосипеде хотя и не понимает с какой целью. Другое дело дрессировщик. Он всё понимает и способен не только самостоятельно обучиться ездить, но и способен поставить перед медведем понятную медведю цель. И более того. Опять же на мой взгляд. По мимо понимания и управления в сознании объединяются ещё пару совершенно необходимых способностей. Например способность видеть, слышать, обонять, осязать и всё то, что образует сенсорный образ окружающей нас реальности. Эта способность совершенно автоматическая и сознанию презентуется как результат. Но без этого результата ни понимание ни управление не возможны в принципе. Ещё одна и покамест последняя способность, с моей стороны, объединённая в сознании это чувства и переживания. Но я думаю что как раз без них вполне можно себе обойтись. Только мешает :)

А что, разве методологии работы интеллекта создателя и интеллекта исследователя чем-то принципиально отличаются? Сегодня AGIRussia проводит семинар на тему "Что важнее для AGI: делать или говорить?". Можно перефразировать без потери смысловой полноты: "Что важнее для AGI: двигаться или двигаться?". Как видим, на уровне большей конкретики и без синонимии, разницы никакой нет. Стоило бы для начала признать, что методология работы интеллекта вообще никак не меняется и не зависит от той деятельности, от того поведения, которое сам этот интеллект продуцирует. Учится человек, исследует, создаёт, говорит, мешки ворочает или ещё что-то - его интеллект при всём этом работает совершенно одинаково. Методология работы интеллекта не переключается с режима "говорить" на режим "учиться" и потом на режим "решать задачи". Он работает в одном режиме. И вот эту универсальную методологию хорошо бы извлечь наружу, проявить, поставить себе на службу, и потом с её помощью сознательно воплотить саму эту методологию на какой-то материально-технической базе. Такой подход я предлагаю в этом топике.

Мы об этом и говорим. Об организации работы (1) интеллекта, об организации работы (2) отдельного участника данного топика, организации работы (3) данного форума. И о том, что в идеале (1) = (2) = (3). И о том, что методологию необходимо постепенно детализировать и переходить к отдельным методам, методикам, процедурам и функциям. Наверное, можно говорить о том, что в разных задачных контекстах, организация работы человеческого интеллекта, как физиологического механизма, претерпевает некоторые подстройки. Так же, как в случае увеличения физической нагрузки, учащается сердцебиение, меняется тонус скелетной мускулатуры, изменяется гормональный фон, концентрация глюкозы в крови и т.д. Но, наверное, всё-таки нельзя говорить о том, что организация работы интеллекта претерпевает какие-то радикальные структурные перестройки. Современные подходы к созданию ИИ ошибочно приучают нас к тому, что организация процессов "обучения", "говорения", "решения задач" и т.д. в ИИ должны быть устроены по-разному и включаться в разные промежутки времени. Но у человека мы ничего подобного не наблюдаем. Человек учится, когда решает задачи; говорит, когда делает; делает, когда учится; исследует, когда создаёт и создаёт, когда исследует - никакого переключения режимов в работе живого интеллекта мы не наблюдаем. Мыслительный процесс человека представляет собой монолитный, высокоинтегрированный, совмещённый во времени цикл всех необходимых когнитивных функций. Грубо говоря, мы не можем включить режим обучения и ничего, кроме обучения, при этом не делать. Или делать что-то, полностью выключив режим обучения.

Ну, воркшоп по AGI и тут не складывается из-за конфликта интересов и уровней компетенции. Давайте просто потреплемся.

Признаться, сейчас настолько много дел в оффлайне, что иногда не успеваю даже заглядывать сюда. Но этот топик я считаю основным и ключевым. Поэтому прошу, по возможности, не выходить за рамки темы. Придёт время и я надеюсь продолжить предметные умозаключения по данному вопросу. Одно из этих умозаключений таково. 1. Если человек не знает принципов работы своего мышление, то его деятельность в решении любых задач похожа на броуновское движение. 2. Если человек начинает постепенно постигать принципы работы своего мышления, то и свою деятельность он организует таким образом, чтобы оно самоподобно повторяло принципы своего мышления. Например, составляет графики своей работы, планы, сортирует задачи по приоритетам, отбрасывает лишнее, создаёт картотеки, классификации, коллекции и т.д. 3. И в пределе, когда человек полностью постигает принципы работы своего мышления он полностью подчиняет свою сознательную деятельность этим принципам и достигает теоретического оптимума эффективности своей работы. И создание ИИ здесь оказывается естественным последним шагом в автоматизации этих осознанных принципов и окончательном отторжении интеллекта. P.S. Вы можете попробовать открыть топик "Флудилка". Обычно, на форумах он пользуется большой популярностью. Можете стать автором самого посещаемого топика на форуме. Если будут проблемы с активацией - пишите в личку.

Мышление это навык. Мыслить можно по разному. Логику, например, называют культурой мышления. Любое высказывание можно разложить на категорические силогизмы и таким образом выяснить их истинность. А можно мыслить интуитивно, опускать из виду мелкие несостытоковки, но смотреть на текст в целом и каждое слово рассматривать в контексте всего текста. Бывает ли так, что логически не верное высказывание в рассмотрении остального контекста оказывается верным? Какой навык мышления Вы предпочитаете?

Вообще собрать слова в высказывание и наградить его оценкой истинности - это нетривиальный процесс, о котором мы тут все и разговариваем. Интуитивное мышление тоже на что-то опирается. Бессвязная речь в некоторых случаях может быть дополнена словами до связной. Попытки найти новое на максимальном уровне обобщения может сопровождать совершенно невменяемый набор из конкретных слов и действий. Просто, эти комбинации не привычны пока. Лично я готов исполнить и роль калькулятора и роль бредогенератора. И то и другое бывает интересно и нужно.

Можно иметь разные теории (модели) о своём мышлении. Например, кто-то считает себя свободным, кто-то считает себя автоматом, кто-то считает, что им управляют демоны. Это всё разные модели. Но сам физиологический механизм (собственно интеллект), порождающий и использующий эти модели, работает в этих трёх случаях одинаково. Очевидно, что для построения любой из этих трёх моделей сначала нужно накопить определённый жизненный опыт, знания о самом себе. Для этого должна работать память. Потом данные из памяти нужно извлечь и агрегировать, генерализовать. Потом нужно иметь некую задачу, в рамках решения которой эта модель окажется востребованной. Потом нужно проявлять активность, чтобы с помощью этой модели строить своё поведение и сокращать мускулы. Всё это работает более-менее одинаково у всех. То, чем отличаются теории разных людей об устройстве их интеллекта малополезно. Продуктивнее выяснить те аспекты, в которых теории разных людей о своём интеллекте оказываются схожими.

Обученные нейросети принято называть ИИ, но не все с этим согласны. Нейросеть считается "интеллектуальной " только после установления веса коэффициентов. В таком контексте что Вы будете считать составляющей интеллекта: продукт обучения нейросети, т.е. выставленные коэффициенты или то, что эти коэффициенты выставляло? Во втором случае не подразумевается чёткого определения силы ответственной за обучение, это могут быть как эмоциональные оценки, так и нечто другое. Природные нейросети обучаются и без внешнего учителя. Что считать интеллектом? Готовый навык или же то, что этот навык формировало?

1. Если Вы спрашиваете лично моё мнение, то я полагаю ИНС тупиковой технологией для создания AGI. Возможно, на базе ИНС будут созданы сверхбыстрые, сверхточные решатели, но это никоим образом не приблизит нас к тому, чтобы в "железе" воспроизвести именно человеческий механизм мышления. Можно очень легко это проиллюстрировать примером. На сегодняшний день созданы сверхмощные игроки в шахматы, обучающиеся за несколько часов превосходно двигать фигуры и выигрывать у супер-продвинутых шахматных движков. Но до сих пор не создана программа, обучающаяся игре в шахматы так, как это делает человек. Чтоб я глянул в код этой программы и сказал: "Вот, точно! Именно так я и думаю, когда играю в шахматы." 2. Я уже говорил выше, что, очевидно, у интеллекта человека нет какой-то выраженной границы между процессом "обучения" и процессом "применения знаний". Есть рекурсивный цикл: - процесс непрерывного накопления (записи, запоминания) жизненного опыта, возникающего вследствие реализации поведения, сформированного на основе имеющихся знаний - и процесс непрерывного обновления знаний, вследствие ретроспективного анализа накопленного жизненного опыта. Поэтому собственно интеллектом я бы назвал именно тот механизм ретроспективного анализа жизненного опыта, который формирует знания (ценности, нормы, эталоны). Мне кажется, у разных людей он работает примерно одинаково и не меняется в зависимости от собственно накопленного жизненного опыта. Конечно, одни люди, охотнее стараются забыть какой-то неприятный жизненный опыт, чтобы не производить его анализ. Другие же наоборот постоянно копаются в прошлом. Но это скорее говорит о том, что кто-то лучше учится на своём опыте (потому что учится), а кто-то хуже (потому что не учится). Но если уж люди учатся, то учатся одинаково. P.S. Ув. Схема Александера, Вы очень щедры на лайки, спасибо. Но мне кажется такой дисбаланс не приведёт ни к чему хорошему. Призываю ставить лайки по существу. Ведь не награждают людей медалями каждый день. Отличие должно быть исключительной мерой, праздником, событием, а не заурядной суетой. Если нравится всё, то это значит, что не нравится ничего.

Слово рекурсивный лишнее.

ЕИ создан эволюцией, без креатора, ну, по крайней мере, если и был некий "Бог", то он точно не создавал людей и зверей в ручную, а действовал на много более "низком уровне", например "создал", если так можно сказать, возможность, "сцену", а именно пространство-время, законы физики, физические константы и тп. Которые словно зерно, из которого естественным закономерным способом возникнет где то жизнь и разум. Но вероятней всего, существуют все возможные миры, со всеми возможными комбинациями условий и историй развёртывания, с жизнью и без жизней, короче "ЕСТЬ ВСЁ", а наш мир и мы в нём, как вариант, один из бесконечности, в таком случае "Богом" является сам так сказать "перво принцип" того что это "всё" есть, а не нет ничего, хотя может, только так и возможно хз. Но нам пока не доступны такие производственные "мошностя", пока даже не доступна возможность по быстрому повторить земную эволюцию, поэтому приходится копировать, но не бездумно а по умному, что сделала природа, путём миллиардов лет вычислений.

С Творцом Всего - это не простой вопрос, который с кондачка не решишь (например, для верующих очевидно, что Он рядом и вмешивается),.а вот пожелания и возможности создателя СИИ нужно как-то учесть при проектировании.

Ну а вы лично как с этим разобрались? Какие у вас отношения с Творцом? Мне нравится как это показали в фильме Форест Гамп, там солдатик был безногий, колясочник, друг Фореста, они потом на лодке уплыли рыбу ловить и его друг калека "примирился с Господом" перестал бороться, покорился судьде, а до этого был зол на тот расклад который Творец для него намалевал, пил, дебаширил, трахал падщих женщин.

Как и у многих других, - грешу помаленьку. Но в отличие от других, я однажды смог Ему абсолютно довериться и получил ответ и помощь. Теперь я знаю, что Он есть, причём именно такой, как рассказывает церковь, хотя словами эти радость, умиротворение и благодать не передашь. Любые слова бессильны описать, что человек чувствует в присутствии божества, но всё-таки почитайте про преображение на Фаворе. Я не знаю и не хочу гадать, что произошло с лейтенантом Дэном.