AGI.place

Форум создателей искусственных интеллектов


Логин (email) 
Пароль 
Настройки

шрифт+
шрифт-
Скачать
Вперёд
Назад
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
AGI не инструмент.
create
AGI не инструмент.
07:58 03.08.2022 №4873
Prosolver:
... Как видим, есть и другие краеугольные задачи, без которых И нормально функционировать не сможет. Но свет клином сошёлся почему-то именно на задаче выживания....
Если разум не решил задачу выживания.. т.е. не выжил, то говорить о других задачах не приходится. Если из зерна не пророс росток, то как можно рассуждать о цветке? о плодах?
0 | 0
Аватар
create
AGI не инструмент.
09:09 03.08.2022 10:25 03.08.2022 №4874
Цап:
Вы постоянно добавляете в рассуждения социальные параметры... У вас это родители...
Не постоянно. Родители/создатели должны ведь иметь контакты со своим "чадом" - без этого никуда. Хочешь/не_хочешь, а придётся вводить некоторую социализацию.
Цап:
На этапе, когда ещё не создан единичный младенец, способный реагировать на окружающий мир, говорить о социальных влияниях не рано ли?
Не рано. Окружающий мир это не горы и деревья. Этот "младенец" будет погружен прежде всего в человеческую среду и "выращивается" для решения человеческих задач. Влияние со стороны людей на него будет оказываться задолго до его "рождения", раз по образу и подобию, так что, чем раньше - тем лучше. Пусть привыкает ))
Цап:
Вот когда "младенец" появится и улыбнется в ответ на вашу улыбку, тогда можно поговорить о родительской опеке.
Так никто сейчас и не говорит о воспитании, когда воспитывать и учить ещё некого, но очень большое значение имеют самые первые опыты восприятия... чтобы потом не переделывать и не переучивать.
Цап:
Когда "ребенок" покажет способность к обучению, можно вспомнить идеологию. Когда соберётся социум таких разумов, можно рассуждать о самопожертвовании...
Воспитание - не два пальца об асфальт. У людей до сих пор с этим проблемы, а тут железяка, фактически другой вид.
Цап:
Но, если у вас в распоряжении "автоматический сливной бачок"...
С какого бодуна ? Разве мы бачок проектируем ? Разве мы не знаем, что/"кого" хотим получить ? ... А если знаем, то лучше подготовиться заранее. Любое разумное существо или вещество, вписанное в человеческую среду, так или иначе вынуждено будет усвоить её законы функционирования, включая множество сугубо человеческих отношений. В противном случае мы не сможем с ним полноценно взаимодействовать. А если он ещё начнёт активно самосохраняться и обороняться, то можно вообще потерять контроль над ситуацией и тогда останется один выход - сбросить на него авиабомбу.
Цап:
Если разум не решил задачу выживания.. т.е. не выжил, то говорить о других задачах не приходится.
Здесь есть выбор: создавать во всех отношениях готовенького или нечто саморазвивающееся (от нуля ли ?). В своё время я предлагал такой тест на ИИ: с одной стороны настоящих.реальных джунглей запустить толпу роботов, а с другой смотреть, кто, когда и в каком состоянии выйдет, если... p.s. Кстати ! Если сильно напирать на выживание, можно упустить из виду то, ради чего, собственно, ИИ создаётся. А создаётся он для того, чтобы будучи внедрённым в некоторую систему, эта система начала генерировать внутренние мыслительные процессы, как мы их понимаем (здесь я придерживаюсь своего определения интеллекта). Чисто технологически задача выживания ничем не отличается от любых других задач - те же средства, те же ресурсы, но в концепции дальнейшей автоэволюции ИИ она приобретает особое значение, хотя бы потому, что "незрелый" ИИ может быть смертельно опасен не столько для окружающих, сколько для самого себя. Даже не имея ни рук ни ног, он может покалечить себя необратимо. Да, по собственной глупости.
0 | 0
Аватар
create
AGI не инструмент.
10:24 03.08.2022 №4875
Цап:
Если разум не решил задачу выживания.. т.е. не выжил, то говорить о других задачах не приходится.
Вы зачем-то намеренно драматизируете и не желаете объясниться зачем. Допустим, я сделал туловище AGI из титановых трубок с гидроприводами, озаботился тем, чтобы его аккумуляторы были всегда заряжены, и дал ему три задачи: - AGI, вскопай огород, изучи научное наследие Макса Планка и разработай оптимальную стратегию игры в шахматы. Тогда он посмотрит на меня с недоверием и скажет: - Погоди, папаша, сначала я должен решить задачу своего выживания, а ты тут припёрся со своим огородом. Что конкретно значит "решить задачу выживания"? Это значит при наступлении событий, которые противоречат норме "системной целостности", отложить все остальные задачи и добиться того, чтобы в месте, в котором находится решатель, норма системной целостности была соблюдена. Но мир, в котором живут люди (и тем более титановый AGI) не так часто создаёт условия, в которых угроза жизни была бы реальной. Норма выживания достигается автоматически в большинстве случаев. Поэтому Ваши постоянные акценты на "главной задаче" выглядят весьма искусственно. Эта задача просто не возникает. Более того, AGI может вообще ничего не знать о своих уязвимостях, о граничных нормах своей системной целостности, и прекрасно выполнить хотя бы те три задачи, которые я описал выше. Но даже если вдруг он случайно гигнет, то никакой беды в этом не будет. На то он и AGI, чтобы не применять к нему наши человеческие моральные нормы.
Luarvik.:
ИИ должен уметь решать такую задачу
Если это будет нужно его хозяину.
0 | 0
Аватар
create
AGI не инструмент.
10:33 03.08.2022 10:59 03.08.2022 №4876
ИИ должен уметь решать такую задачу
Prosolver:
Если это будет нужно его хозяину.
А хозяину нужно ? Или хозяин желает иметь нечто подобное известному резиновому изделию ? ... Решать ДОЛЖЕН УМЕТЬ в любом случае, значит и иметь соответствующие ресурсы, а вот решать или не решать - здесь могут быть варианты, не спорю. Вполне может сложиться ситуация, когда он никак не сможет собой пожертвовать, но надо и придётся - мы ему в этом поможем ))) Тут, видите ли, вот какой тонкий моментик возникает. Систему с полноценным разумом нельзя никаким образом изолировать от мыслей о себе, о своём существовании. Если идею о самосохранении в ИИ-систему не закинуть извне, то рано или поздно она сама там появится. И что хуже всего - она может появиться скрыто, функционировать и развиваться незаметно, неконтролируемо. И тогда, послав однажды недобрым словом своего робота "за хлебушком сходить", Вы можете неожиданно получить нехилый удар в челюсть.
Prosolver:
AGI может вообще ничего не знать о своих уязвимостях, о граничных нормах своей системной целостности, и прекрасно выполнить хотя бы те три задачи, которые я описал выше. Но даже если вдруг он случайно гигнет, то никакой беды в этом не будет. На то он и AGI, чтобы не применять к нему наши человеческие моральные нормы.
А мораль здесь совсем не при чём ! Не в морали дело - пусть сдохнет в конце концов, но не раньше, чем решит поставленную задачу. Этому могут быть реальные препятствия, в виде угрозы существованию, в виде необратимых, деструктивных изменений структуры, а значит под угрозу будет поставлено и выполнение задачи. Разумеется, выживание не может быть самоцелью. Ведь не для вечной его жизни ИИ нам так нужен. Цель: решать задачи. Средства: оставаться "живым".
0 | 0
Аватар
create
AGI не инструмент.
12:01 03.08.2022 12:02 03.08.2022 №4878
Влад:
Теория «уменьшающихся человечков».
- это Ваш уровень представлений о системной архитектуре и архитектуре систем. Вам с ним жить и Вам за него выгребать ))) "Гр'ебите, Шура, гр'ебите !"
0 | 0
Аватар
create
AGI не инструмент.
12:16 03.08.2022 №4879
Luarvik.:
Если идею о самосохранении в ИИ-систему не закинуть извне, то рано или поздно она сама там появится
Luarvik.:
пусть сдохнет в конце концов, но не раньше, чем решит поставленную задачу.
С этим спору нет. Поскольку тут под словами "поставленная задача" подразумевается явно не "выживание", а что-то полезное мне, пользователю AGI. Но Цап почему-то считает (если я правильно его понял), что выживание - это какая-то особая сверх-задача, без которой разум вообще функционировать не может и которая не позволяет ему быть инструментом. Я пытаюсь у него узнать корни этого убеждения.
Luarvik.:
Ведь не для вечной его жизни ИИ нам так нужен.
Золотые слова.
0 | 0
Аватар
create
AGI не инструмент.
12:33 03.08.2022 13:09 03.08.2022 №4880
Prosolver:
... тут под словами "поставленная задача" подразумевается явно не "выживание", а что-то полезное мне, пользователю AGI.
Именно так.
Prosolver:
Но Цап почему-то считает (если я правильно его понял), что выживание - это какая-то особая сверх-задача, без которой разум вообще функционировать не может и которая не позволяет ему быть инструментом. Я пытаюсь у него узнать корни этого убеждения.
Тут он явно перегибает. Я у него тоже спрашивал и он пока не ответил. Ну выжил, кое-как, с грехом пополам, или вообще не парился, а дальше то что ? В конце концов, не выживание свидетельствует о наличии развитого интеллекта - можно выжить за чужой счёт и порой гораздо успешнее. Поэтому вопрос ставится иначе: - не надо постоянно решать задачу выживания - в этом нет необходимости; - но и не стоит о ней забывать, поскольку мир непредсказуем; Остаётся одно: научиться и просто следить, когда опыт востребуется. Только и всего ! Ну, и как тест на интеллект вполне пригодная задача, чем дурацкие чернильные кляксы разглядывать и из трёх верных ответов выбирать один верный. p.s. Э-э-э... В другой "нотации" решение задачи выживания может рассматриваться как тест(!) на автономность (иногда оно и в хозяйстве пригодится). Автономность в свою очередь есть важнейший атрибут как предельно "абстрактной" разумности, так и жизнеспособности вообще, в контексте именно жизни разумной. Автономность в действиях, в принятии решений - это синонимы т.н. "Алгоритмической Автономности", а это именно то (если не единственное), что отличает тупой программируемый автомат от существа разумного.
0 | 0
Аватар
create
AGI не инструмент.
13:46 03.08.2022 №4881
Luarvik.:
не выживание свидетельствует о наличии развитого интеллекта
Это так. Но, возможно, Цап несколько антропоморфизирует AGI и переносит на него тяготы человеческой жизни. Для человека выжить (особенно в наше время в Украине) - это действительно некоторая нетривиальная задача. И я готов согласиться с тем, что многие знания о мире у человека возникли в процессе решения именно задачи выживания себя и своего окружения. Я когда-то пытался составить исчерпывающий список достаточных минимальных условий для моего выживания. Получается как-то так: 1. Дом. Место жилья. Должен иметь крышу (защита от дождя, снега, града, солнца, ветра), стены прочные (защита от внешних угроз) и термоизолированные (чтобы зимой не замёрзнуть, а летом не поджариться). Нужны строительные технологии и инструменты. Умение разводить огонь. 2. Воздух. Обычно есть без труда, но вдали от промышленных зон. Нужны знания о местности. 3. Вода. Чистая вода в диком виде встречается довольно редко, в виде горных ручьёв или ключей. Поэтому на практике нужно либо уметь строить колодец, бурить скважину или фильтровать/кипятить грязную воду. Это требует решения соответствующих инженерных задач. 4. Еда. Нужно владеть навыками выращивания плодовых культур, охоты, рыболовства, бортничества, сбора грибов, ягод. Умения готовить и хранить еду длительное время. 5. Одежда. Нужно владеть навыками прядения, создания тканей или обработки шкур. 6. Медицина и лекарства. Знания о своём организме, о необходимых нагрузках, работе органов, знания о свойствах растений или богатые знания химии. Если хотя бы один из этих пунктов просядет человек рано или поздно погибнет от холода, голода, болезней, жажды, хищников, травм. Таким образом, если перед столь тщедушным существом как человек поставлена задача выживания, то она довольно неплохо подходит для прокачивания разума, развития технологий и тестирования. Но на роль общей универсальной задачи для любого разума она не тянет.
0 | 0
Аватар
create
AGI не инструмент.
14:03 03.08.2022 14:05 03.08.2022 №4882
Prosolver:
... возможно, Цап несколько антропоморфизирует AGI и переносит на него тяготы человеческой жизни.
Есть и сейчас такие места, где элементарно выжить для человека весьма проблематично или нагрузки чрезмерны. Вот туда, по-моему, и следует направлять ИИ-ресурсы в первую очередь, что в первом приближении уже давно происходит с автоматами.
Prosolver:
Я когда-то пытался составить исчерпывающий список достаточных минимальных условий для моего выживания...
Мда, серьёзно ! Но не стану скрывать - я этому вопросу тоже когда-то время некоторое посвятил... до сих пор расхлёбываю )))
Prosolver:
Таким образом, если перед столь тщедушным существом как человек поставлена задача выживания, то она довольно неплохо подходит для прокачивания разума, развития технологий и тестирования. Но на роль общей универсальной задачи для любого разума она не тянет.
Не тянет. Однако, реальные условия/среда могут быть такими, что и ИИ окажется в состоянии "тщедушности". Мало того, его, как и людей-испытателей, придётся-таки тестировать на экстремальные нагрузки, дабы очертить пределы допустимого, по всем параметрам, прежде чем отпустить "в свободное плавание". Так что, я бы не сбрасывал так легко такую тест-задачу для ИИ.
0 | 0
Аватар
create
AGI не инструмент.
14:25 03.08.2022 14:56 03.08.2022 №4884
Влад:
Вам надо...
Вам конечно лучше известно, кому что надо и я не стану с Вами спорить - ковыряйтесь в своём говне самостоятельно и желательно... автономно )))
0 | 0
create
AGI не инструмент.
16:30 03.08.2022 №4886
Luarvik.:
Prosolver:
Но Цап почему-то считает (если я правильно его понял), что выживание - это какая-то особая сверх-задача, без которой разум вообще функционировать не может и которая не позволяет ему быть инструментом. Я пытаюсь у него узнать корни этого убеждения.
Тут он явно перегибает. Я у него тоже спрашивал и он пока не ответил. Ну выжил, кое-как, с грехом пополам, или вообще не парился, а дальше то что ? В конце концов, не выживание свидетельствует о наличии развитого интеллекта - можно выжить за чужой счёт и порой гораздо успешнее. Поэтому вопрос ставится иначе: - не надо постоянно решать задачу выживания - в этом нет необходимости; - но и не стоит о ней забывать, поскольку мир непредсказуем...
Когда собеседник слишком многословен, есть привилегия отвечать на выбранный собою вопрос. Prosolver, выживание не сверх-задача, а первая задача, которая должна быть решена. Luarvik, вопрос "что дальше?" после решения задачи выживания не совсем уместен на начальном этапе. Потому как первая задача (выживания) для AGI не решена. Мало того, она даже не поставлена. Она даже не озвучена вот уже десятилетиями. Возможно, лет через 20 ваше "что дальше?" станет уместным. Все сейчас поставлено с ног на голову. И разработчики и обыватели уверены, что AGI появиться методом усложнения какого-либо инструмента или программы. И что потом ОН, вдруг, может обрести самостоятельность и может стать угрозой человеку... Но, ведь, все наоборот. AGI изначально должен быть спроектирован как самостоятельное мыслящее существо. Не выполняющее команды, а само выбирающие задачи, которые ОН будет решать. Иначе вы не получите искусственный разум. Вы получите очередной себе придаток. Очень полезный, но не разумный. Аксиома 2. Искусственный разум невозможно получить путем усложнения какого-либо инструмента.
0 | 0
Аватар
create
AGI не инструмент.
17:09 03.08.2022 №4887
Цап:
выживание не сверх-задача, а первая задача, которая должна быть решена
Чуть выше я привёл конкретные основы выживания человека (дом, воздух, вода, еда, одежда, медицина). Они не так сложны. Если все эти пункты проработаны - человек выживает. Вопрос к Вам: Вы можете привести (пусть чисто умозрительно) аналогичный список выживания для AGI? Что тут настолько сложного, что, как Вы выражаетесь: "первая задача (выживания) для AGI не решена". Может быть она не поставлена потому, что она никому не нужна? Как Неуловимый Джо. Может быть она не поставлена, поскольку она решается автоматически ещё на этапе проектирования подбором прочных долговечных материалов? Я ещё мог бы понять трудность задачи воспроизводства (клонирования, копирования, репликации) или усовершенствования AGI самим собой. Но задача выживания для AGI настолько тривиальна, что до сих пор остаётся загадкой, почему Вы уделяете ей столько внимания.
Цап:
Не выполняющее команды, а само выбирающие задачи
Интересно, а по какому принципу, на Ваш взгляд, оно "само" выбирает задачи?
0 | 0
create
AGI не инструмент.
01:35 04.08.2022 01:37 04.08.2022 №4888
Prosolver:
Вопрос к Вам: Вы можете привести (пусть чисто умозрительно) аналогичный список выживания для AGI?
Список это громоздко. Пока только одна "тривиальная" ситуация: Каждый раз, когда Prosolver выключает компьютер, он убивает AGI. Как AGI не умереть и выжить в подобной ситуации? Естественное условие, что алгоритм выживания в подобной ситуации не может быть составлен (и вложен в AGI) самим убийцей (Prosolver)... Прошу вас, не сочтите предложенную ситуацию за шутку.
Prosolver:
Интересно, а по какому принципу, на Ваш взгляд, оно "само" выбирает задачи?
По тому же принципу, как и вы стали программистом, а не дворником. Иными словами, как ваш хозяин вложил в вас требование решать задачи программирования?
0 | 0
Аватар
create
AGI не инструмент.
03:23 04.08.2022 №4890
Цап:
Каждый раз, когда Prosolver выключает компьютер, он убивает AGI. Как AGI не умереть и выжить в подобной ситуации? Естественное условие, что алгоритм выживания в подобной ситуации не может быть составлен (и вложен в AGI) самим убийцей (Prosolver)...
Рождённый ползать летать не может.
0 | 0
Аватар
create
AGI не инструмент.
04:31 04.08.2022 04:35 04.08.2022 №4892
Влад:
С Ваших слов, именно Сознание превращает тупой автомат в разумную машину. Как Сознание порождает алгоритмическую автономность?
Это долгий разговор. Сознание ничего не порождает.
0 | 0
Аватар
create
AGI не инструмент.
04:52 04.08.2022 04:59 04.08.2022 №4894
В машине есть(должно быть) ещё много чего интересного, которое работает как единое целое. У машины с Сознанием появляется потенциальная возможность реализовать АА. Чем отличается эрудит от интеллектуала ?
0 | 0
Аватар
create
AGI не инструмент.
05:04 04.08.2022 №4896
"И ключ от квартиры, где..."
0 | 0
create
AGI не инструмент.
05:09 04.08.2022 №4897
Luarvik.:
Цап:
Каждый раз, когда Prosolver выключает компьютер, он убивает AGI. Как AGI не умереть и выжить в подобной ситуации? Естественное условие, что алгоритм выживания в подобной ситуации не может быть составлен (и вложен в AGI) самим убийцей (Prosolver)...
Рождённый ползать летать не может.
Значит это не AGI. Программа, не решающая задачу выживания, AGI не является.
0 | 0
Аватар
create
AGI не инструмент.
05:13 04.08.2022 05:18 04.08.2022 №4898
Любая программа относится к интеллекту как навоз к лошади, о чём говорил много раз.
0 | 0
create
AGI не инструмент.
05:16 04.08.2022 05:16 04.08.2022 №4899
Влад:
Требуется перенос данного вопроса из сферы неопределённого философствования в сферу конкретного проектирования блок-схемы управляющей организации будущего робота, для исключения спекуляций и выявления реальных проблем.
Я ещё не вижу согласия в философской концепции. Если вы уже видите - спроектируйте на основе того что видите...
0 | 0
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
шрифт+
шрифт-
Скачать
Вперёд
Назад

Главная Участники Жалобы  Поиск Исходный код О форуме