Форум создателей искусственных интеллектов

Не постоянно. Родители/создатели должны ведь иметь контакты со своим "чадом" - без этого никуда. Хочешь/не_хочешь, а придётся вводить некоторую социализацию. Не рано. Окружающий мир это не горы и деревья. Этот "младенец" будет погружен прежде всего в человеческую среду и "выращивается" для решения человеческих задач. Влияние со стороны людей на него будет оказываться задолго до его "рождения", раз по образу и подобию, так что, чем раньше - тем лучше. Пусть привыкает )) Так никто сейчас и не говорит о воспитании, когда воспитывать и учить ещё некого, но очень большое значение имеют самые первые опыты восприятия... чтобы потом не переделывать и не переучивать. Воспитание - не два пальца об асфальт. У людей до сих пор с этим проблемы, а тут железяка, фактически другой вид. С какого бодуна ? Разве мы бачок проектируем ? Разве мы не знаем, что/"кого" хотим получить ? ... А если знаем, то лучше подготовиться заранее. Любое разумное существо или вещество, вписанное в человеческую среду, так или иначе вынуждено будет усвоить её законы функционирования, включая множество сугубо человеческих отношений. В противном случае мы не сможем с ним полноценно взаимодействовать. А если он ещё начнёт активно самосохраняться и обороняться, то можно вообще потерять контроль над ситуацией и тогда останется один выход - сбросить на него авиабомбу. Здесь есть выбор: создавать во всех отношениях готовенького или нечто саморазвивающееся (от нуля ли ?). В своё время я предлагал такой тест на ИИ: с одной стороны настоящих.реальных джунглей запустить толпу роботов, а с другой смотреть, кто, когда и в каком состоянии выйдет, если... p.s. Кстати ! Если сильно напирать на выживание, можно упустить из виду то, ради чего, собственно, ИИ создаётся. А создаётся он для того, чтобы будучи внедрённым в некоторую систему, эта система начала генерировать внутренние мыслительные процессы, как мы их понимаем (здесь я придерживаюсь своего определения интеллекта). Чисто технологически задача выживания ничем не отличается от любых других задач - те же средства, те же ресурсы, но в концепции дальнейшей автоэволюции ИИ она приобретает особое значение, хотя бы потому, что "незрелый" ИИ может быть смертельно опасен не столько для окружающих, сколько для самого себя. Даже не имея ни рук ни ног, он может покалечить себя необратимо. Да, по собственной глупости.

ИИ должен уметь решать такую задачу А хозяину нужно ? Или хозяин желает иметь нечто подобное известному резиновому изделию ? ... Решать ДОЛЖЕН УМЕТЬ в любом случае, значит и иметь соответствующие ресурсы, а вот решать или не решать - здесь могут быть варианты, не спорю. Вполне может сложиться ситуация, когда он никак не сможет собой пожертвовать, но надо и придётся - мы ему в этом поможем ))) Тут, видите ли, вот какой тонкий моментик возникает. Систему с полноценным разумом нельзя никаким образом изолировать от мыслей о себе, о своём существовании. Если идею о самосохранении в ИИ-систему не закинуть извне, то рано или поздно она сама там появится. И что хуже всего - она может появиться скрыто, функционировать и развиваться незаметно, неконтролируемо. И тогда, послав однажды недобрым словом своего робота "за хлебушком сходить", Вы можете неожиданно получить нехилый удар в челюсть. А мораль здесь совсем не при чём ! Не в морали дело - пусть сдохнет в конце концов, но не раньше, чем решит поставленную задачу. Этому могут быть реальные препятствия, в виде угрозы существованию, в виде необратимых, деструктивных изменений структуры, а значит под угрозу будет поставлено и выполнение задачи. Разумеется, выживание не может быть самоцелью. Ведь не для вечной его жизни ИИ нам так нужен. Цель: решать задачи. Средства: оставаться "живым".

- это Ваш уровень представлений о системной архитектуре и архитектуре систем. Вам с ним жить и Вам за него выгребать ))) "Гр'ебите, Шура, гр'ебите !"

Именно так. Тут он явно перегибает. Я у него тоже спрашивал и он пока не ответил. Ну выжил, кое-как, с грехом пополам, или вообще не парился, а дальше то что ? В конце концов, не выживание свидетельствует о наличии развитого интеллекта - можно выжить за чужой счёт и порой гораздо успешнее. Поэтому вопрос ставится иначе: - не надо постоянно решать задачу выживания - в этом нет необходимости; - но и не стоит о ней забывать, поскольку мир непредсказуем; Остаётся одно: научиться и просто следить, когда опыт востребуется. Только и всего ! Ну, и как тест на интеллект вполне пригодная задача, чем дурацкие чернильные кляксы разглядывать и из трёх верных ответов выбирать один верный. p.s. Э-э-э... В другой "нотации" решение задачи выживания может рассматриваться как тест(!) на автономность (иногда оно и в хозяйстве пригодится). Автономность в свою очередь есть важнейший атрибут как предельно "абстрактной" разумности, так и жизнеспособности вообще, в контексте именно жизни разумной. Автономность в действиях, в принятии решений - это синонимы т.н. "Алгоритмической Автономности", а это именно то (если не единственное), что отличает тупой программируемый автомат от существа разумного.

Есть и сейчас такие места, где элементарно выжить для человека весьма проблематично или нагрузки чрезмерны. Вот туда, по-моему, и следует направлять ИИ-ресурсы в первую очередь, что в первом приближении уже давно происходит с автоматами. Мда, серьёзно ! Но не стану скрывать - я этому вопросу тоже когда-то время некоторое посвятил... до сих пор расхлёбываю ))) Не тянет. Однако, реальные условия/среда могут быть такими, что и ИИ окажется в состоянии "тщедушности". Мало того, его, как и людей-испытателей, придётся-таки тестировать на экстремальные нагрузки, дабы очертить пределы допустимого, по всем параметрам, прежде чем отпустить "в свободное плавание". Так что, я бы не сбрасывал так легко такую тест-задачу для ИИ.

Вам конечно лучше известно, кому что надо и я не стану с Вами спорить - ковыряйтесь в своём говне самостоятельно и желательно... автономно )))

Рождённый ползать летать не может.

Это долгий разговор. Сознание ничего не порождает.

В машине есть(должно быть) ещё много чего интересного, которое работает как единое целое. У машины с Сознанием появляется потенциальная возможность реализовать АА. Чем отличается эрудит от интеллектуала ?

"И ключ от квартиры, где..."

Любая программа относится к интеллекту как навоз к лошади, о чём говорил много раз.

Подобные высказывания отбрасывают чёткую тень обезьяны с гранатой.

А за такими высказываниями торчат уши обезьяны с гранатой.

Я так понимаю, что разговор на уровне детского сада будем продолжать (если будем) ? Что ж, в таком раскладе тоже есть свои интересные сложности. Во-первых, нельзя убить то, чего нет. Нет никакого AGI (или как оно у вас там называется) и ещё долго не будет. Единственное, что делает Prosolver выключая комп - экономит электричество. Во-вторых, убить можно только то, что живёт. Считать груду железа живой... простите за грубость - Вам сколько лет ? Вы студент ? Первокурсник ? Что по-Вашему есть жизнь ? - Вы уже ответили на этот вопрос ? В-третьих, какой смысл Вы вкладываете в слово "программа" ? В-четвёртых, что Вы называете "AGI" ? Как по-Вашему он должен выглядеть, что делать ? В-пятых, давайте впредь не применять термин "живое" к искусственным объектам - звучит не столько безграмотно, сколько инфантильно. Самосохранения будет вполне достаточно.

Да понятно, я ж не о том. Всё проще: она не всегда будет востребована, даже для действующего ИИ, что, впрочем, зависит от формы его существования. Ну, и автоматически она конечно не решается. Нет такого автомата и быть не может (по определению), который способен решить подобную задачу. Я выше Вам вопросиков накидал - ответьте, чтобы с детским садом покончить хотя бы временно и частично. p.s. Задача выживания актуальна для "мокрой" жизни и таковой будет всегда. По отн. к искусственным "существам", которые могут быть сотворены из более стойкой материи чем биомасса и снабжены практически вечными источниками энергии, корректнее было бы использовать такие понятия как угроза существованию, препятствие исполнению и т.п.

Вы ей передайте, чтобы чаще в зеркало смотрелась - может начнёт себя узнавать.

Я Вам один умный вещь скажу, только Вы не обижайтесь. Знания не стоят НИ-ЧЕ-ГО ! Для функционирования ИИ важны не знания, а те способы, которым он их получает. Они перегрызутся, как крысы в банке. В результате останется одна жирная-толстенная Царь-крыса и куда её ? Да это какие-то прямо-таки волшебные компоненты ! На каждый компонент по отдельной голове ? - Разоритесь уже на втором ! У меня проще: самосохранение - комплекс мер, направленный на предотвращение необратимого распада структуры/системы.

Мы взрослые люди и глядеть на мир детскими глазами, полагаю, можем позволить себе разве что умственной гимнастики для. Это несомненно полезно, если не слишком увлекаться. При том, что ответы должны быть всё-таки "с запасом", так сказать, с кое-какой перспективкой, а не "бля-бля-бля" да "жу-жу-жу". Я и Вам скажу, но другой умный вещь. Только и Вы не обижайтесь. Мне плевать на Вашу личность. Мне нет никакого до неё дела. Во всём этом "чемодане" меня интересует только один вопрос: на каком языке с Вами разговаривать, чтобы мы в конце концов начали говорить об одном и том же. (см. ниже) Если знаете что это такое, то и говорите прямо. Желательно кратко и быстро, без всяких там отступлений и прочих шараханий из стороны в сторону. За определением должно стоять понимание и понятие, иначе это пустой набор букв/слов... Вот именно Вашего понимания (или светлого образа его) я, как Вы выразились, и "жажду" - есть оно или... "как всегда". Интересно взглянуть, знаете ли, любопытно ! Да, на кухне, за рюмкой "чая" вы можете общаться на любом языке на любую тему, использовать любые слова и даже не использовать никаких слов вообще - Вас всё равно поймут. Когда же речь о технологиях, о передаче технологий, стиль "знаю, но сказать не могу" оказывается совершенно непродуктивным. Такая "вещь в себе" получается - без входа и без выхода. Вероятно, Вы просто не умеете их готовить и ими пользоваться. Если определения постоянно меняются, значит они уже ничего не определяют и определениями не являются... по определению. + то, что лучшее - всегда одно. За жизнью у Вас стоит выживание, а что стоит за выживанием ? (Заметьте, пока ещё это только слова, никакой инвариантностью пока и не попахивает, никакой, я бы сказал, независимостью от словоформы.) А своими словами, в контексте отношения к ИИ и без посылания на ... буквы ? Ещё немного и круг замкнётся... как только Вы провозгласите, что выживание это способность оставаться живым. Вот ещё вроде разум какой-то тут остался, завалялся где-то под лавкой... где-то... где-то... он тут ползал... растекался... жиденький такой... цвета детской неожиданности... Вот он ! Да ! - Что такое разум ? Т.е., по-Вашему, говоря "Ленин" мы должны подразумевать "Партия " ? Говоря "ИИ", мы подразумеваем "ИЖы" ? А что здесь, позвольте полюбопытствовать, для Вас важнее - то, что бессмертный или то, что мыслитель ? Человек, например, смертен, но менее ценным он от своей смертности не становится. Скорее даже наоборот... С другой стороны, если бессмертен, то такие понятия как "жизнь", "смерть", " выживание" и т.п. к нему уже ну никак не относятся. Если знать, что не умрёшь никогда, то и не жил никогда. Жизнь хороша не только тем, что пока ещё продолжается, но и тем, что заканчивается. А вот так захочешь и... не сможешь. И уже не жизнь будет, а одно сплошное бесконечное проклятье. И ещё один аспектик выплывает: как Ваш бессмертный должен разреш/-ить/-ать свою проблему выживания ? Сколько раз на дню он должен это делать ? Или в каких ситуациях ? Или один единственный раз и на все времена до самых до окончаний всех времён или постоянно и непрерывно ? Как ? А главное - ЗАЧЕМ ? РАДИ ЧЕГО ? Обладание своим телом - это вопрос неизмеримо более глубокий, чем "нравится/не_нравится". Тело - не вопрос удовольствия. Э-э-э... вот таких, которые никому ничего не должны, любая баба нарожает в любом возможном для себя количестве... А оно нам надо ? Я другое имел в виду: что ИИ должен уметь делать, быть способным делать хотя бы для себя-любимого ? Если ИИ не будет проектироваться как инструмент, или "инструмент", или ресурс, то вряд ли его услугами Вам удастся воспользоваться. Ну, согласитесь, какие у него будут основания Вам, скажем, помогать или что-то сделать для Вас ценное и полезное ? Ведь для этого если не долг, то хотя бы как минимум желание должно возникнуть, не так ли ? А желания на пустом месте не появляются. Желания появляются только когда чего-то не хватает. Какая-то "жажда" должна возникнуть, неудовлетворенная потребность, на худой конец. А что можете ему - бессмертному и бесконечноглубокомысленному - дать Вы ?! Будучи разумным веществом, он моментально придёт к мысли, что и ему никто ничего не должен, да и в общем, взять-то с Вас нечего... Что в итоге ? А в итоге все разбегутся по углам и по норам или пойдут каждый своей дорогой. Тем дело и закончится. Тогда ради чего такую бадягу заваривать ? p.s. Ну и... надеюсь, Вы понимаете, что ни на один мой вопрос Вы по сути не ответили ?

А ему какая разница - тому, которого выключают ? Он ведь понятия ни малейшего не имеет, что с ним происходит, ни до ни после. (О реальном говоря, а не о гипотетически-фантастическом.) Попробуйте не спать 2-3 дня... и Вы увидите, а может и узнаете, кто это совершает. Положите руку на одно место и честно признайтесь, что всё это происходит изо дня в день, регулярно, как восход и заход Солнца, совершенно естественным образом, и что совсем не пугает и жизнь Вашу бренную ничем не оскверняет. Потому что... потому что иначе Вы не проснётесь... А ведь может так случиться... неожиданно... внезапно... и совершенно без Вашего ведома... "Щёлк !" - и нет Вас, и как будто никогда и не было. Это проблема ? Это задача ? И как Вы - уже разумный, который и прообраз и преподобие, уже сейчас - её решаете ? Каков интеллектуальный вес решения ? На что более основательное при её решении Вы опираетесь, чем вера, надежда и (прости господи !..мать её !) статистика ?