Форум создателей искусственных интеллектов

Если разум не решил задачу выживания.. т.е. не выжил, то говорить о других задачах не приходится. Если из зерна не пророс росток, то как можно рассуждать о цветке? о плодах?

Не постоянно. Родители/создатели должны ведь иметь контакты со своим "чадом" - без этого никуда. Хочешь/не_хочешь, а придётся вводить некоторую социализацию. Не рано. Окружающий мир это не горы и деревья. Этот "младенец" будет погружен прежде всего в человеческую среду и "выращивается" для решения человеческих задач. Влияние со стороны людей на него будет оказываться задолго до его "рождения", раз по образу и подобию, так что, чем раньше - тем лучше. Пусть привыкает )) Так никто сейчас и не говорит о воспитании, когда воспитывать и учить ещё некого, но очень большое значение имеют самые первые опыты восприятия... чтобы потом не переделывать и не переучивать. Воспитание - не два пальца об асфальт. У людей до сих пор с этим проблемы, а тут железяка, фактически другой вид. С какого бодуна ? Разве мы бачок проектируем ? Разве мы не знаем, что/"кого" хотим получить ? ... А если знаем, то лучше подготовиться заранее. Любое разумное существо или вещество, вписанное в человеческую среду, так или иначе вынуждено будет усвоить её законы функционирования, включая множество сугубо человеческих отношений. В противном случае мы не сможем с ним полноценно взаимодействовать. А если он ещё начнёт активно самосохраняться и обороняться, то можно вообще потерять контроль над ситуацией и тогда останется один выход - сбросить на него авиабомбу. Здесь есть выбор: создавать во всех отношениях готовенького или нечто саморазвивающееся (от нуля ли ?). В своё время я предлагал такой тест на ИИ: с одной стороны настоящих.реальных джунглей запустить толпу роботов, а с другой смотреть, кто, когда и в каком состоянии выйдет, если... p.s. Кстати ! Если сильно напирать на выживание, можно упустить из виду то, ради чего, собственно, ИИ создаётся. А создаётся он для того, чтобы будучи внедрённым в некоторую систему, эта система начала генерировать внутренние мыслительные процессы, как мы их понимаем (здесь я придерживаюсь своего определения интеллекта). Чисто технологически задача выживания ничем не отличается от любых других задач - те же средства, те же ресурсы, но в концепции дальнейшей автоэволюции ИИ она приобретает особое значение, хотя бы потому, что "незрелый" ИИ может быть смертельно опасен не столько для окружающих, сколько для самого себя. Даже не имея ни рук ни ног, он может покалечить себя необратимо. Да, по собственной глупости.

Вы зачем-то намеренно драматизируете и не желаете объясниться зачем. Допустим, я сделал туловище AGI из титановых трубок с гидроприводами, озаботился тем, чтобы его аккумуляторы были всегда заряжены, и дал ему три задачи: - AGI, вскопай огород, изучи научное наследие Макса Планка и разработай оптимальную стратегию игры в шахматы. Тогда он посмотрит на меня с недоверием и скажет: - Погоди, папаша, сначала я должен решить задачу своего выживания, а ты тут припёрся со своим огородом. Что конкретно значит "решить задачу выживания"? Это значит при наступлении событий, которые противоречат норме "системной целостности", отложить все остальные задачи и добиться того, чтобы в месте, в котором находится решатель, норма системной целостности была соблюдена. Но мир, в котором живут люди (и тем более титановый AGI) не так часто создаёт условия, в которых угроза жизни была бы реальной. Норма выживания достигается автоматически в большинстве случаев. Поэтому Ваши постоянные акценты на "главной задаче" выглядят весьма искусственно. Эта задача просто не возникает. Более того, AGI может вообще ничего не знать о своих уязвимостях, о граничных нормах своей системной целостности, и прекрасно выполнить хотя бы те три задачи, которые я описал выше. Но даже если вдруг он случайно гигнет, то никакой беды в этом не будет. На то он и AGI, чтобы не применять к нему наши человеческие моральные нормы. Если это будет нужно его хозяину.

ИИ должен уметь решать такую задачу А хозяину нужно ? Или хозяин желает иметь нечто подобное известному резиновому изделию ? ... Решать ДОЛЖЕН УМЕТЬ в любом случае, значит и иметь соответствующие ресурсы, а вот решать или не решать - здесь могут быть варианты, не спорю. Вполне может сложиться ситуация, когда он никак не сможет собой пожертвовать, но надо и придётся - мы ему в этом поможем ))) Тут, видите ли, вот какой тонкий моментик возникает. Систему с полноценным разумом нельзя никаким образом изолировать от мыслей о себе, о своём существовании. Если идею о самосохранении в ИИ-систему не закинуть извне, то рано или поздно она сама там появится. И что хуже всего - она может появиться скрыто, функционировать и развиваться незаметно, неконтролируемо. И тогда, послав однажды недобрым словом своего робота "за хлебушком сходить", Вы можете неожиданно получить нехилый удар в челюсть. А мораль здесь совсем не при чём ! Не в морали дело - пусть сдохнет в конце концов, но не раньше, чем решит поставленную задачу. Этому могут быть реальные препятствия, в виде угрозы существованию, в виде необратимых, деструктивных изменений структуры, а значит под угрозу будет поставлено и выполнение задачи. Разумеется, выживание не может быть самоцелью. Ведь не для вечной его жизни ИИ нам так нужен. Цель: решать задачи. Средства: оставаться "живым".

- это Ваш уровень представлений о системной архитектуре и архитектуре систем. Вам с ним жить и Вам за него выгребать ))) "Гр'ебите, Шура, гр'ебите !"

С этим спору нет. Поскольку тут под словами "поставленная задача" подразумевается явно не "выживание", а что-то полезное мне, пользователю AGI. Но Цап почему-то считает (если я правильно его понял), что выживание - это какая-то особая сверх-задача, без которой разум вообще функционировать не может и которая не позволяет ему быть инструментом. Я пытаюсь у него узнать корни этого убеждения. Золотые слова.

Именно так. Тут он явно перегибает. Я у него тоже спрашивал и он пока не ответил. Ну выжил, кое-как, с грехом пополам, или вообще не парился, а дальше то что ? В конце концов, не выживание свидетельствует о наличии развитого интеллекта - можно выжить за чужой счёт и порой гораздо успешнее. Поэтому вопрос ставится иначе: - не надо постоянно решать задачу выживания - в этом нет необходимости; - но и не стоит о ней забывать, поскольку мир непредсказуем; Остаётся одно: научиться и просто следить, когда опыт востребуется. Только и всего ! Ну, и как тест на интеллект вполне пригодная задача, чем дурацкие чернильные кляксы разглядывать и из трёх верных ответов выбирать один верный. p.s. Э-э-э... В другой "нотации" решение задачи выживания может рассматриваться как тест(!) на автономность (иногда оно и в хозяйстве пригодится). Автономность в свою очередь есть важнейший атрибут как предельно "абстрактной" разумности, так и жизнеспособности вообще, в контексте именно жизни разумной. Автономность в действиях, в принятии решений - это синонимы т.н. "Алгоритмической Автономности", а это именно то (если не единственное), что отличает тупой программируемый автомат от существа разумного.

Это так. Но, возможно, Цап несколько антропоморфизирует AGI и переносит на него тяготы человеческой жизни. Для человека выжить (особенно в наше время в Украине) - это действительно некоторая нетривиальная задача. И я готов согласиться с тем, что многие знания о мире у человека возникли в процессе решения именно задачи выживания себя и своего окружения. Я когда-то пытался составить исчерпывающий список достаточных минимальных условий для моего выживания. Получается как-то так: 1. Дом. Место жилья. Должен иметь крышу (защита от дождя, снега, града, солнца, ветра), стены прочные (защита от внешних угроз) и термоизолированные (чтобы зимой не замёрзнуть, а летом не поджариться). Нужны строительные технологии и инструменты. Умение разводить огонь. 2. Воздух. Обычно есть без труда, но вдали от промышленных зон. Нужны знания о местности. 3. Вода. Чистая вода в диком виде встречается довольно редко, в виде горных ручьёв или ключей. Поэтому на практике нужно либо уметь строить колодец, бурить скважину или фильтровать/кипятить грязную воду. Это требует решения соответствующих инженерных задач. 4. Еда. Нужно владеть навыками выращивания плодовых культур, охоты, рыболовства, бортничества, сбора грибов, ягод. Умения готовить и хранить еду длительное время. 5. Одежда. Нужно владеть навыками прядения, создания тканей или обработки шкур. 6. Медицина и лекарства. Знания о своём организме, о необходимых нагрузках, работе органов, знания о свойствах растений или богатые знания химии. Если хотя бы один из этих пунктов просядет человек рано или поздно погибнет от холода, голода, болезней, жажды, хищников, травм. Таким образом, если перед столь тщедушным существом как человек поставлена задача выживания, то она довольно неплохо подходит для прокачивания разума, развития технологий и тестирования. Но на роль общей универсальной задачи для любого разума она не тянет.

Есть и сейчас такие места, где элементарно выжить для человека весьма проблематично или нагрузки чрезмерны. Вот туда, по-моему, и следует направлять ИИ-ресурсы в первую очередь, что в первом приближении уже давно происходит с автоматами. Мда, серьёзно ! Но не стану скрывать - я этому вопросу тоже когда-то время некоторое посвятил... до сих пор расхлёбываю ))) Не тянет. Однако, реальные условия/среда могут быть такими, что и ИИ окажется в состоянии "тщедушности". Мало того, его, как и людей-испытателей, придётся-таки тестировать на экстремальные нагрузки, дабы очертить пределы допустимого, по всем параметрам, прежде чем отпустить "в свободное плавание". Так что, я бы не сбрасывал так легко такую тест-задачу для ИИ.

Вам конечно лучше известно, кому что надо и я не стану с Вами спорить - ковыряйтесь в своём говне самостоятельно и желательно... автономно )))

Когда собеседник слишком многословен, есть привилегия отвечать на выбранный собою вопрос. Prosolver, выживание не сверх-задача, а первая задача, которая должна быть решена. Luarvik, вопрос "что дальше?" после решения задачи выживания не совсем уместен на начальном этапе. Потому как первая задача (выживания) для AGI не решена. Мало того, она даже не поставлена. Она даже не озвучена вот уже десятилетиями. Возможно, лет через 20 ваше "что дальше?" станет уместным. Все сейчас поставлено с ног на голову. И разработчики и обыватели уверены, что AGI появиться методом усложнения какого-либо инструмента или программы. И что потом ОН, вдруг, может обрести самостоятельность и может стать угрозой человеку... Но, ведь, все наоборот. AGI изначально должен быть спроектирован как самостоятельное мыслящее существо. Не выполняющее команды, а само выбирающие задачи, которые ОН будет решать. Иначе вы не получите искусственный разум. Вы получите очередной себе придаток. Очень полезный, но не разумный. Аксиома 2. Искусственный разум невозможно получить путем усложнения какого-либо инструмента.

Чуть выше я привёл конкретные основы выживания человека (дом, воздух, вода, еда, одежда, медицина). Они не так сложны. Если все эти пункты проработаны - человек выживает. Вопрос к Вам: Вы можете привести (пусть чисто умозрительно) аналогичный список выживания для AGI? Что тут настолько сложного, что, как Вы выражаетесь: "первая задача (выживания) для AGI не решена". Может быть она не поставлена потому, что она никому не нужна? Как Неуловимый Джо. Может быть она не поставлена, поскольку она решается автоматически ещё на этапе проектирования подбором прочных долговечных материалов? Я ещё мог бы понять трудность задачи воспроизводства (клонирования, копирования, репликации) или усовершенствования AGI самим собой. Но задача выживания для AGI настолько тривиальна, что до сих пор остаётся загадкой, почему Вы уделяете ей столько внимания. Интересно, а по какому принципу, на Ваш взгляд, оно "само" выбирает задачи?

Список это громоздко. Пока только одна "тривиальная" ситуация: Каждый раз, когда Prosolver выключает компьютер, он убивает AGI. Как AGI не умереть и выжить в подобной ситуации? Естественное условие, что алгоритм выживания в подобной ситуации не может быть составлен (и вложен в AGI) самим убийцей (Prosolver)... Прошу вас, не сочтите предложенную ситуацию за шутку. По тому же принципу, как и вы стали программистом, а не дворником. Иными словами, как ваш хозяин вложил в вас требование решать задачи программирования?

Рождённый ползать летать не может.

Это долгий разговор. Сознание ничего не порождает.

В машине есть(должно быть) ещё много чего интересного, которое работает как единое целое. У машины с Сознанием появляется потенциальная возможность реализовать АА. Чем отличается эрудит от интеллектуала ?

"И ключ от квартиры, где..."

Значит это не AGI. Программа, не решающая задачу выживания, AGI не является.

Любая программа относится к интеллекту как навоз к лошади, о чём говорил много раз.

Я ещё не вижу согласия в философской концепции. Если вы уже видите - спроектируйте на основе того что видите...