Форум создателей искусственных интеллектов

С одной стороны, когда-то эта задача была определённо основной, но всё проходит, прошло и это. С другой стороны, никто её не отменял и отменить пока не в состоянии, она постоянно присутствует как фоновая, как "аппаратное прерывание". Дойдёт ли до неё - это по ситуации. А мне думается, что "необходимым условием для решения многих задач" является сама жизнь, житие, пребывание в живом состоянии, как результат выживания и самосохранения. Ведь если делать 10 дел одновременно, то скорее всего ни одно не получится хорошо - как-то всё равно получится, но далеко не лучшим образом.

Тогда уж лучше поговорить о сф.конях в вакууме, чем о "скуке, зашитой в геноме".

Ну, в общем, здесь и спорить не о чем. Всё так. С одним замечанием: разуму не обязательно решать задачу собственного выживания, даже (... а может и прежде всего) в начале пути - ему можно и нужно помочь в этом, но уметь решать задачи собственного выживания он обязан ! Для естественного разума задача выживания была когда-то единственной, но это было очень давно и нет никакой нужды повторять ошибки прошлого. У людей ведь, да и других животных, детёныш находится под присмотром и опекой взрослых, ровно до тех пор, пока тот не достигнет приемлемой автономности - и это тоже правильно. Я к тому, что не стоит воспроизводить в металле все стадии развития, когда кое-чему можно просто взять и научить в "инкубаторских" условиях, что будет и надёжнее и экономнее. И вот представьте, что всё идёт нормально, научился, выжил, а потом внезапно вдруг столкнулся с дилеммой - либо текущую задачу решать, либо снова выживать, и вот тут начинается самое интересное ! Интересное хотя бы в том, что и не всякий человек (привет Prosolver'у !) способен легко справиться с таким выбором. Сложность же в том, что здесь соломку не подстелешь и напёред не пропишешь - придётся выбирать ситуативно, здесь и сейчас, и выбирать быстро. p.s. Если в мой адрес, то пусть многословие, пусть хоть иногда, но если побуждает задуматься - я свою задачу здесь выполнил. p.p.s. Думать - да, лучше в одиночестве, но когда Вы свою мысль попытаетесь выпустить наружу, запаковывая её в слова - у Вас будет возможность убедиться как в степени её лживости, так и в степени "инвариантности" своего мышления. Т.е., какой топологии должен быть сосуд, чтобы его - наполненный до краёв - донести, ни капли не расплескав. Об этом тоже приходится думать.

... пока он есть, а может и не быть. Обязан, обязан. Иначе по головам пойдёт и свою загубит. Можно, если мозги включать. Уже поздно будет, когда приведут, если только тупо следовать. Ой ли ! Никто в здравом уме не поставит и полкопейки на то, что Вы в очередной раз вернётесь из магазина. Да и Вы сам за это последний зуб не отдадите... ну, если трезво подумать ))) (Так что там с Берлиозом ?) Мир, знаете ли, сложнее любых фантазий и нужно быть готовым ко всему. Даже если Вы приложите все свои силы, соберёте все свои ресурсы и начнёте старательно избегать таких мест, то в конце концов и не смотря на все Ваши изобретения, эти... м-м-м... "места" сами найдут Вас и придут к Вам однажды... холодной ночью. По законам термодинамики схватят Вас за горло и утащат туда, откуда не возвращаются. Ну, положим, не главной, но такой, которую рано или поздно придётся всё же решать. Выживание/самосохранение - задача ничем не лучше и не хуже других, однако, может наступить момент, когда она опять окажется единственной. А когда он наступит ? ИИ должен уметь решать такую задачу, тем более в условиях, когда иные задачи вместо него никто не решит. Возможно, задачи чрезвычайной важности, и тогда появляется ответственность не только за результат, но и за свою "жизнь"... тогда возникают мысли о цене решения и приходится выбирать, помимо норм, порядков и правил, а иногда и законов. Вот случись так (не дай господь, конечно !), что останетесь Вы без ног. Пошлёте Вы однажды свой ИИ за водой, а он не вернётся, ни сегодня, ни завтра и никогда более не вернётся... и с какими мыслями он уйдёт в поход, если обязан служить Вам надёжным костылём и опорой ? Или истории про то, как "за хлебушком сходил" тоже из пальца высосаны ?! Или Вы наивно предполагаете, что в состоянии создать нечто, совершенно неуязвимое перед априорной неопределённостью ? Случайно, говорите ? А может это тоже проблема "искусственная и надуманная" ? Вот видите, ещё ничего не произошло, а Вы уже задумались о перспективах собственного выживания... и ехать никуда не пришлось, даже пальцем шевелить. Это тоже случайно ? Так скажу: если "оно" существо действительно разумное, да ещё и сильнее, то не навредит. Если Вы ещё и думать за него будете, то действительно - нахрен он такой вообще нужен ! Извращением было бы делать не разумное существо, а дрессированную собачку... на побегушках, типа "принеси-подай". Искусство интеллекта заключается и в том, чтобы уметь обращать недостатки в достоинства. Боюсь, что Вы этого можете и не узнать, поскольку и собственную архитектуру и алгоритмы он сразу перелопатит под себя (если разумный) - по СВОЕМУ образу и подобию, и вполне возможно так, что у Вас мозгов не хватит во всём этом разобраться... и "он" не скажет, в целях самосохранения. Хуже того - он начнёт обманывать Вас(если разумный) и подсовывать Вам всяческие симулякры, дабы отделаться от слишком назойливого внимания, а Вам ничего не останется, как принимать за чистую монету... Ну, разве что башку ему открутить... впрочем, зачем ломать то, что хорошо работает. На одном осознавании не выжить. Но это вовсе не значит, что он должен совершить самоубийство во славу Вашу и честь. Да, "правильный" ИИ в пределе(!) умрёт за Вас... но и "жить" он будет тоже ради Вас, в чём, собственно, и будет состоять его непрерывная жертва. С моей же колокольни, нет ничего бесполезнее и вреднее некоего "Искусственного Диванного Мыслителя", ни на что более не способного и при котором Вы станете помимо воли и желаний - уж простите ! - естественной реинкарнацией подопытного кролика. «Ты должен сотворить добро из зла, потому что больше его не из чего делать»

Не постоянно. Родители/создатели должны ведь иметь контакты со своим "чадом" - без этого никуда. Хочешь/не_хочешь, а придётся вводить некоторую социализацию. Не рано. Окружающий мир это не горы и деревья. Этот "младенец" будет погружен прежде всего в человеческую среду и "выращивается" для решения человеческих задач. Влияние со стороны людей на него будет оказываться задолго до его "рождения", раз по образу и подобию, так что, чем раньше - тем лучше. Пусть привыкает )) Так никто сейчас и не говорит о воспитании, когда воспитывать и учить ещё некого, но очень большое значение имеют самые первые опыты восприятия... чтобы потом не переделывать и не переучивать. Воспитание - не два пальца об асфальт. У людей до сих пор с этим проблемы, а тут железяка, фактически другой вид. С какого бодуна ? Разве мы бачок проектируем ? Разве мы не знаем, что/"кого" хотим получить ? ... А если знаем, то лучше подготовиться заранее. Любое разумное существо или вещество, вписанное в человеческую среду, так или иначе вынуждено будет усвоить её законы функционирования, включая множество сугубо человеческих отношений. В противном случае мы не сможем с ним полноценно взаимодействовать. А если он ещё начнёт активно самосохраняться и обороняться, то можно вообще потерять контроль над ситуацией и тогда останется один выход - сбросить на него авиабомбу. Здесь есть выбор: создавать во всех отношениях готовенького или нечто саморазвивающееся (от нуля ли ?). В своё время я предлагал такой тест на ИИ: с одной стороны настоящих.реальных джунглей запустить толпу роботов, а с другой смотреть, кто, когда и в каком состоянии выйдет, если... p.s. Кстати ! Если сильно напирать на выживание, можно упустить из виду то, ради чего, собственно, ИИ создаётся. А создаётся он для того, чтобы будучи внедрённым в некоторую систему, эта система начала генерировать внутренние мыслительные процессы, как мы их понимаем (здесь я придерживаюсь своего определения интеллекта). Чисто технологически задача выживания ничем не отличается от любых других задач - те же средства, те же ресурсы, но в концепции дальнейшей автоэволюции ИИ она приобретает особое значение, хотя бы потому, что "незрелый" ИИ может быть смертельно опасен не столько для окружающих, сколько для самого себя. Даже не имея ни рук ни ног, он может покалечить себя необратимо. Да, по собственной глупости.

ИИ должен уметь решать такую задачу А хозяину нужно ? Или хозяин желает иметь нечто подобное известному резиновому изделию ? ... Решать ДОЛЖЕН УМЕТЬ в любом случае, значит и иметь соответствующие ресурсы, а вот решать или не решать - здесь могут быть варианты, не спорю. Вполне может сложиться ситуация, когда он никак не сможет собой пожертвовать, но надо и придётся - мы ему в этом поможем ))) Тут, видите ли, вот какой тонкий моментик возникает. Систему с полноценным разумом нельзя никаким образом изолировать от мыслей о себе, о своём существовании. Если идею о самосохранении в ИИ-систему не закинуть извне, то рано или поздно она сама там появится. И что хуже всего - она может появиться скрыто, функционировать и развиваться незаметно, неконтролируемо. И тогда, послав однажды недобрым словом своего робота "за хлебушком сходить", Вы можете неожиданно получить нехилый удар в челюсть. А мораль здесь совсем не при чём ! Не в морали дело - пусть сдохнет в конце концов, но не раньше, чем решит поставленную задачу. Этому могут быть реальные препятствия, в виде угрозы существованию, в виде необратимых, деструктивных изменений структуры, а значит под угрозу будет поставлено и выполнение задачи. Разумеется, выживание не может быть самоцелью. Ведь не для вечной его жизни ИИ нам так нужен. Цель: решать задачи. Средства: оставаться "живым".

- это Ваш уровень представлений о системной архитектуре и архитектуре систем. Вам с ним жить и Вам за него выгребать ))) "Гр'ебите, Шура, гр'ебите !"

Именно так. Тут он явно перегибает. Я у него тоже спрашивал и он пока не ответил. Ну выжил, кое-как, с грехом пополам, или вообще не парился, а дальше то что ? В конце концов, не выживание свидетельствует о наличии развитого интеллекта - можно выжить за чужой счёт и порой гораздо успешнее. Поэтому вопрос ставится иначе: - не надо постоянно решать задачу выживания - в этом нет необходимости; - но и не стоит о ней забывать, поскольку мир непредсказуем; Остаётся одно: научиться и просто следить, когда опыт востребуется. Только и всего ! Ну, и как тест на интеллект вполне пригодная задача, чем дурацкие чернильные кляксы разглядывать и из трёх верных ответов выбирать один верный. p.s. Э-э-э... В другой "нотации" решение задачи выживания может рассматриваться как тест(!) на автономность (иногда оно и в хозяйстве пригодится). Автономность в свою очередь есть важнейший атрибут как предельно "абстрактной" разумности, так и жизнеспособности вообще, в контексте именно жизни разумной. Автономность в действиях, в принятии решений - это синонимы т.н. "Алгоритмической Автономности", а это именно то (если не единственное), что отличает тупой программируемый автомат от существа разумного.

Есть и сейчас такие места, где элементарно выжить для человека весьма проблематично или нагрузки чрезмерны. Вот туда, по-моему, и следует направлять ИИ-ресурсы в первую очередь, что в первом приближении уже давно происходит с автоматами. Мда, серьёзно ! Но не стану скрывать - я этому вопросу тоже когда-то время некоторое посвятил... до сих пор расхлёбываю ))) Не тянет. Однако, реальные условия/среда могут быть такими, что и ИИ окажется в состоянии "тщедушности". Мало того, его, как и людей-испытателей, придётся-таки тестировать на экстремальные нагрузки, дабы очертить пределы допустимого, по всем параметрам, прежде чем отпустить "в свободное плавание". Так что, я бы не сбрасывал так легко такую тест-задачу для ИИ.

Вам конечно лучше известно, кому что надо и я не стану с Вами спорить - ковыряйтесь в своём говне самостоятельно и желательно... автономно )))

Рождённый ползать летать не может.

Это долгий разговор. Сознание ничего не порождает.

В машине есть(должно быть) ещё много чего интересного, которое работает как единое целое. У машины с Сознанием появляется потенциальная возможность реализовать АА. Чем отличается эрудит от интеллектуала ?

"И ключ от квартиры, где..."

Любая программа относится к интеллекту как навоз к лошади, о чём говорил много раз.

Подобные высказывания отбрасывают чёткую тень обезьяны с гранатой.

А за такими высказываниями торчат уши обезьяны с гранатой.

Я так понимаю, что разговор на уровне детского сада будем продолжать (если будем) ? Что ж, в таком раскладе тоже есть свои интересные сложности. Во-первых, нельзя убить то, чего нет. Нет никакого AGI (или как оно у вас там называется) и ещё долго не будет. Единственное, что делает Prosolver выключая комп - экономит электричество. Во-вторых, убить можно только то, что живёт. Считать груду железа живой... простите за грубость - Вам сколько лет ? Вы студент ? Первокурсник ? Что по-Вашему есть жизнь ? - Вы уже ответили на этот вопрос ? В-третьих, какой смысл Вы вкладываете в слово "программа" ? В-четвёртых, что Вы называете "AGI" ? Как по-Вашему он должен выглядеть, что делать ? В-пятых, давайте впредь не применять термин "живое" к искусственным объектам - звучит не столько безграмотно, сколько инфантильно. Самосохранения будет вполне достаточно.

Да понятно, я ж не о том. Всё проще: она не всегда будет востребована, даже для действующего ИИ, что, впрочем, зависит от формы его существования. Ну, и автоматически она конечно не решается. Нет такого автомата и быть не может (по определению), который способен решить подобную задачу. Я выше Вам вопросиков накидал - ответьте, чтобы с детским садом покончить хотя бы временно и частично. p.s. Задача выживания актуальна для "мокрой" жизни и таковой будет всегда. По отн. к искусственным "существам", которые могут быть сотворены из более стойкой материи чем биомасса и снабжены практически вечными источниками энергии, корректнее было бы использовать такие понятия как угроза существованию, препятствие исполнению и т.п.