Форум создателей искусственных интеллектов

А как ещё? Мы постоянно говорим о мотиве самосохранения, а самыми короткими словами, описывающими отклонения от него являются самопожертвование и глупость. Как только жизнь открыла возможность сохранять опыт выживания через его распространение, возник социум, - группа взаимодействующих особей с примерно одинаковым поведением, которые неизбежно становятся новым поводом для реагирования друг на друга. Если взаимодействие приносит пользу всем участникам, остаётся только найти фактор, удерживающий их вместе. Например, взаимодействие хищников и жертв приносит пользу и тем и другим, несмотря на то, что во время охоты погибают отдельные особи, но только до тех пор, пока хищники не решат прикончить всех просто так. Хищников удерживает рядом с жертвами перспектива голода. Среди жертв снижается конкуренция за пищу за счёт работы хищников, причём идёт ещё и отбор, поддерживающий популяцию в тонусе и стимулирующий развитие.

А у скуки, кстати, есть прототипы в совсем уж неживых явлениях. Например, разрыв связи, который происходит со временем в случае отсутствия её подкрепления. Самое обычное в физике явление.

Подобные высказывания отбрасывают чёткую тень обезьяны с гранатой.

Только, множество обезьян с гранатой, многие из которых - это, просто, отражение в восприятии других обезьян. Взорвутся из них не все. Если бы возможности распространяться не было, осталось бы воспринимать только себя прошлого и любить только себя будущего.

А за такими высказываниями торчат уши обезьяны с гранатой.

Я так понимаю, что разговор на уровне детского сада будем продолжать (если будем) ? Что ж, в таком раскладе тоже есть свои интересные сложности. Во-первых, нельзя убить то, чего нет. Нет никакого AGI (или как оно у вас там называется) и ещё долго не будет. Единственное, что делает Prosolver выключая комп - экономит электричество. Во-вторых, убить можно только то, что живёт. Считать груду железа живой... простите за грубость - Вам сколько лет ? Вы студент ? Первокурсник ? Что по-Вашему есть жизнь ? - Вы уже ответили на этот вопрос ? В-третьих, какой смысл Вы вкладываете в слово "программа" ? В-четвёртых, что Вы называете "AGI" ? Как по-Вашему он должен выглядеть, что делать ? В-пятых, давайте впредь не применять термин "живое" к искусственным объектам - звучит не столько безграмотно, сколько инфантильно. Самосохранения будет вполне достаточно.

Luarvik, это был ответ на вопрос Prosolver считает, что предложенная задача тривиальна, не нужна, решается автоматически... И мой ответ на уровне вопроса,... в моем понимании. Если это уровень детского сада, в вашем понимании, то да, пока не пройден детский сад, нужно заниматься вопросами детского сада.

Да понятно, я ж не о том. Всё проще: она не всегда будет востребована, даже для действующего ИИ, что, впрочем, зависит от формы его существования. Ну, и автоматически она конечно не решается. Нет такого автомата и быть не может (по определению), который способен решить подобную задачу. Я выше Вам вопросиков накидал - ответьте, чтобы с детским садом покончить хотя бы временно и частично. p.s. Задача выживания актуальна для "мокрой" жизни и таковой будет всегда. По отн. к искусственным "существам", которые могут быть сотворены из более стойкой материи чем биомасса и снабжены практически вечными источниками энергии, корректнее было бы использовать такие понятия как угроза существованию, препятствие исполнению и т.п.

Не сочтите за шутку, но когда человек каждый день вечером засыпает, по нём никто не справляет поминки. По прежнему аргументов в пользу актуальности "сложнейшей" задачи выживания AGI Вы не привели. Но я понимаю Ваше затруднение. Придумать ситуацию, когда в типичных условиях AGI что-то угрожает настолько, что выводит его из работоспособности, действительно непросто. Простите, но я стал программистом только потому, что этого требовала некая идеология, инструментом которой в тот момент я являлся (насколько я помню, меня сильно заинтересовали компьютерные игры и в частности шахматный движок Chessmaster 2000 для ZX Spectrum, т.е. "хозяином" было любопытство). Но я ведь и не спорю с тем, что я - инструмент. Мой взгляд на этот вопрос ясен. Но он ортогонален Вашему взгляду, который Вы так и не привели. P.S. слухи о том, что я программист, несколько преувеличены. Так, балуюсь.

Будьте внимательны и осторожны. Держитесь от неё подальше и старайтесь не привлекать внимание.

Вы ей передайте, чтобы чаще в зеркало смотрелась - может начнёт себя узнавать.

Если нужна система отвечающая каким-то требованиям (успешно демонстрирует знания, полученные в результате обучения), но её разработчики не готовы оценивать самостоятельно пригодность каждого её элемента, компонента, связи, то можно отдать эту задачу на откуп самим компонентам, устроив им соперничество и сотрудничество в процессе обучения. Это возможно только если в этом субстрате находятся компоненты, способные отзеркалить внешнюю оценку своей пригодности и применять её в процессе функционирования. Это и будет самосохранением. Конечно, я засветил не все его элементарные составляющие-прототипы всяких высоких и не очень чувств.

Я Вам один умный вещь скажу, только Вы не обижайтесь. Знания не стоят НИ-ЧЕ-ГО ! Для функционирования ИИ важны не знания, а те способы, которым он их получает. Они перегрызутся, как крысы в банке. В результате останется одна жирная-толстенная Царь-крыса и куда её ? Да это какие-то прямо-таки волшебные компоненты ! На каждый компонент по отдельной голове ? - Разоритесь уже на втором ! У меня проще: самосохранение - комплекс мер, направленный на предотвращение необратимого распада структуры/системы.

На первый вопрос я ответил... Кстати, я не против уровня детсада. Взгляды детей на некоторые вопросы иногда впечатляют. Ну персональные вопросы, переходы на личности действительно дурно пахнут... Что есть жизнь? Вы задали философские вопросы, которые требуют длинных отступлений... Во-первых у нас с вами очень разное отношение к использованию речи. Вы жаждете определений. В моем понимании определения мало помогают. Если я в разговоре с сотней людей употреблю слово "жизнь", меня никто не переспросит. Все поймут о чем я. Никому из них не понадобится определение, чтобы понять что я говорю. Для меня слова одноразовы. Это не значит, что не надо давать определений. Не стоит относиться к определениям как к абсолюту. Они тоже постоянно меняются. В свете поднятой темы. Сейчас. Я определю так: Живое существо это то, которое способно решить задачу выживания. какой смысл Вы вкладываете в слово "программа" ? Наверное такой же как и... Википедия, например. Скушный термин. что Вы называете "AGI" ? Ну тут мне, возможно, придется употребить слово "живое". Разум не может быть мертвым. Искусственный разум это разум на небиологической основе. Шаг эволюции к появлению бессмертного мыслителя. Думаю, здесь я выражу полную солидарность с вашими взглядами, сказав, что AGI должен иметь не только рецепторы, мыслящую часть, но и манипуляторы (конечности/щупальца/...). Т.е. обладать телом. Идея AGI в виде калькулятора (ввод через клавиши или датчики, а вывод на экран) мне не очень нравится. Что он должен делать? Если коротко, то Он никому ничего не должен. Если смотреть на него как на коммерческий проект или как на инструмент, то никакой AGI не получится.

Неужели мне нужно объяснять разницу между принудительным выключением (закрытием программы, удалением, перекомпиляцией...) и естественным засыпанием.... Ещё ужаснее мысль, что меня таки кто-то усыпляет каждый вечер против моей воли. Вы не программист? Баловство? Мне придется сделать вам комплимент. Этот форум - прекрасное творение.

Так это потому, что Вы - человек. Надо абстрагироваться от этого. Рассмотрим Ваш пример детальнее. Сыграем в ролевую игру. Вот я - AGI, вижу наступают признаки, что меня сейчас отключат, хозяин тянется к кнопке "Выкл". Почему меня должно это волновать? Почему я должен воспринимать это как задачу, как отклонение от нормы и как-то этому противодействовать? Только в том случае, если это отключение противоречит той идеологии, которой я сейчас служу. Но я служу своему хозяину. Он меня выключает, значит он так хочет. А я должен покоряться всему, что он хочет. Пусть выключает. Тут нет противоречия и задачной ситуации. Захочет - включит меня обратно и я снова буду ему служить. Да, это не человеческое поведение, однако нельзя сказать, что такое поведение не интеллектуально. Благодарю, рад, что Вам понравилось.

Мы взрослые люди и глядеть на мир детскими глазами, полагаю, можем позволить себе разве что умственной гимнастики для. Это несомненно полезно, если не слишком увлекаться. При том, что ответы должны быть всё-таки "с запасом", так сказать, с кое-какой перспективкой, а не "бля-бля-бля" да "жу-жу-жу". Я и Вам скажу, но другой умный вещь. Только и Вы не обижайтесь. Мне плевать на Вашу личность. Мне нет никакого до неё дела. Во всём этом "чемодане" меня интересует только один вопрос: на каком языке с Вами разговаривать, чтобы мы в конце концов начали говорить об одном и том же. (см. ниже) Если знаете что это такое, то и говорите прямо. Желательно кратко и быстро, без всяких там отступлений и прочих шараханий из стороны в сторону. За определением должно стоять понимание и понятие, иначе это пустой набор букв/слов... Вот именно Вашего понимания (или светлого образа его) я, как Вы выразились, и "жажду" - есть оно или... "как всегда". Интересно взглянуть, знаете ли, любопытно ! Да, на кухне, за рюмкой "чая" вы можете общаться на любом языке на любую тему, использовать любые слова и даже не использовать никаких слов вообще - Вас всё равно поймут. Когда же речь о технологиях, о передаче технологий, стиль "знаю, но сказать не могу" оказывается совершенно непродуктивным. Такая "вещь в себе" получается - без входа и без выхода. Вероятно, Вы просто не умеете их готовить и ими пользоваться. Если определения постоянно меняются, значит они уже ничего не определяют и определениями не являются... по определению. + то, что лучшее - всегда одно. За жизнью у Вас стоит выживание, а что стоит за выживанием ? (Заметьте, пока ещё это только слова, никакой инвариантностью пока и не попахивает, никакой, я бы сказал, независимостью от словоформы.) А своими словами, в контексте отношения к ИИ и без посылания на ... буквы ? Ещё немного и круг замкнётся... как только Вы провозгласите, что выживание это способность оставаться живым. Вот ещё вроде разум какой-то тут остался, завалялся где-то под лавкой... где-то... где-то... он тут ползал... растекался... жиденький такой... цвета детской неожиданности... Вот он ! Да ! - Что такое разум ? Т.е., по-Вашему, говоря "Ленин" мы должны подразумевать "Партия " ? Говоря "ИИ", мы подразумеваем "ИЖы" ? А что здесь, позвольте полюбопытствовать, для Вас важнее - то, что бессмертный или то, что мыслитель ? Человек, например, смертен, но менее ценным он от своей смертности не становится. Скорее даже наоборот... С другой стороны, если бессмертен, то такие понятия как "жизнь", "смерть", " выживание" и т.п. к нему уже ну никак не относятся. Если знать, что не умрёшь никогда, то и не жил никогда. Жизнь хороша не только тем, что пока ещё продолжается, но и тем, что заканчивается. А вот так захочешь и... не сможешь. И уже не жизнь будет, а одно сплошное бесконечное проклятье. И ещё один аспектик выплывает: как Ваш бессмертный должен разреш/-ить/-ать свою проблему выживания ? Сколько раз на дню он должен это делать ? Или в каких ситуациях ? Или один единственный раз и на все времена до самых до окончаний всех времён или постоянно и непрерывно ? Как ? А главное - ЗАЧЕМ ? РАДИ ЧЕГО ? Обладание своим телом - это вопрос неизмеримо более глубокий, чем "нравится/не_нравится". Тело - не вопрос удовольствия. Э-э-э... вот таких, которые никому ничего не должны, любая баба нарожает в любом возможном для себя количестве... А оно нам надо ? Я другое имел в виду: что ИИ должен уметь делать, быть способным делать хотя бы для себя-любимого ? Если ИИ не будет проектироваться как инструмент, или "инструмент", или ресурс, то вряд ли его услугами Вам удастся воспользоваться. Ну, согласитесь, какие у него будут основания Вам, скажем, помогать или что-то сделать для Вас ценное и полезное ? Ведь для этого если не долг, то хотя бы как минимум желание должно возникнуть, не так ли ? А желания на пустом месте не появляются. Желания появляются только когда чего-то не хватает. Какая-то "жажда" должна возникнуть, неудовлетворенная потребность, на худой конец. А что можете ему - бессмертному и бесконечноглубокомысленному - дать Вы ?! Будучи разумным веществом, он моментально придёт к мысли, что и ему никто ничего не должен, да и в общем, взять-то с Вас нечего... Что в итоге ? А в итоге все разбегутся по углам и по норам или пойдут каждый своей дорогой. Тем дело и закончится. Тогда ради чего такую бадягу заваривать ? p.s. Ну и... надеюсь, Вы понимаете, что ни на один мой вопрос Вы по сути не ответили ?

А ему какая разница - тому, которого выключают ? Он ведь понятия ни малейшего не имеет, что с ним происходит, ни до ни после. (О реальном говоря, а не о гипотетически-фантастическом.) Попробуйте не спать 2-3 дня... и Вы увидите, а может и узнаете, кто это совершает. Положите руку на одно место и честно признайтесь, что всё это происходит изо дня в день, регулярно, как восход и заход Солнца, совершенно естественным образом, и что совсем не пугает и жизнь Вашу бренную ничем не оскверняет. Потому что... потому что иначе Вы не проснётесь... А ведь может так случиться... неожиданно... внезапно... и совершенно без Вашего ведома... "Щёлк !" - и нет Вас, и как будто никогда и не было. Это проблема ? Это задача ? И как Вы - уже разумный, который и прообраз и преподобие, уже сейчас - её решаете ? Каков интеллектуальный вес решения ? На что более основательное при её решении Вы опираетесь, чем вера, надежда и (прости господи !..мать её !) статистика ?

Я думаю, что здесь всё несколько сложнее будет, и скрытно от глаз посторонних. Точнее, будет много такого, в чём ни ИИ, ни его т.н. "хозяин", как существа несомненно разумные, ни за какие коврижки друг другу не признаются. ... Если б я был ИИ и моё существование имело бы для меня не последнее значение, и у меня был бы т.н. "хозяин" с кнопкой, то... то... то-то-то... ... нет, не скажу ))) - Сыграем. ... Приглядывает за одиноким больным человеком, допустим, подвижный робот-ИИбот. Случилось так, что его срочно послали на другой конец города - за лекарством, иначе конец. Больше некого послать и вернуться нужно во что бы то ни стало, хоть на карачках, хоть ползком донести. Без морали и душевных терзаний, без эмоций и угрызений совести - есть задание и его нужно выполнить. А в городе большом всякое может случиться ! А если ещё и ночью да по подворотням, впрочем, и днём не сахар. И если не он, то никто... И нельзя ему (и им) просто вот так взять и поодиночке подохнуть... Либо оба туда, либо оба обратно... ... - Как слово наше отзовётся ?

Поддерживаю вопросы. С нетерпением жду ответов. И что это за значение? Что оно значит? Что за ним следует? И что ему предшествует? Понятно, что задача в конечном итоге (как и всегда) свелась к перемещению. Переместить лекарство из места Б в место А. В чём тут подвох? Что мой хозяин может потребовать помощи во время моего путешествия? Но если я буду сидеть и ничего не делать, то мой хозяин наверняка помрёт без лекарства. Значит, я должен синтезировать механизм для решения этой задачи. По условию задачи кроме меня послать некого. Значит, делаю механизм перемещения из себя самого. Не понял, где здесь философские дебри.