Форум создателей искусственных интеллектов

"Субъект"? Но разве нематериальное понятие "субъект" не есть порождение самого разума? Как, в таком случае, фантазия разума может быть его же хозяином/носителем..?

У каждого интеллекта (разума, мышления etc) должен быть создатель, учитель и хозяин. Но не обязательно это одно и то же лицо. В роли создателя - согласен. У инстинктов нет того места, которым они могли бы создавать. А в роли хозяина - в самый раз. Нелепость возникает от того, что Вы роль хозяина зачем-то совместили с ролью создателя - но это ведь не обязательно. Что такое "хозяин" по сути? Это источник целей, норм, задач. Именно и только этим инстинкт и занимается. Инстинкт приказывает: "ешь", "пей", "любопытствуй", "размножайся", "выживай", но он ничего не говорит о том, как это делать - это уже не его роль. Этим занимается учитель.

А мы разве о понятиях говорим ? Вот Вы - субъект, но ведь не понятие, не так ли ?

Все это порождения активности вместимости одной черепной коробки. То есть, по-вашему, сам себе "носитель/владелец/хозяин" и сам себе инструмент...

Prosolver, как вы отнесётесь к утверждению: "Вы следуете инстинктам, вложенными в вас хозяином?". По-моему это ближе к истине, чем называть сами инстинкты хозяином. Но кто хозяин?

Ну-у-у... Вас же не черепная коробка породила ))) Не я так придумал... к тому же, разум как функциональная [под]система - не единственное, из чего мы состоим. Когда Вы думаете о чём-то, Вы ведь не просто мозгами думаете - Вы собой думаете. Когда двигаете руками, которые часть Вас, они же не отдельно от Вас двигаются - Вы собой двигаете. Сам собой и без посторонней помощи. Именно сам себе и раб и господин - это фундамент автономности, автономного существования. Возьмём крупнее: "у меня есть я" - т.е., я для себя и инструмент(ресурс) и тот, кто им пользуется. И нет в таком положении ничего ни необычного, ни чудесного, ни странного - такова жизнь ))) Самосознание и саморефлексия неизбежно порождают двойственность восприятия, вроде взгляда на себя со стороны. И эти две стороны могут быть легко - когда это необходимо - разнесены и в виртуальном пространстве и во времени, когда можно чётко разглядеть, кто в доме хозяин на текущий момент (может и инстинкты, может и рефлексы, может и язва желудка, а может и мечта о светлом будущем...). Не понимаю, что Вас здесь напрягает. Как будто когда-то было иначе... Даже когда Вас ходить учили, никак иначе быть не могло, не было и никогда не будет, пока мы такие, какие есть.

А вот, когда вы создадите AGI, он будет сам себе хозяин? Со всеми рефлексиями.. по вашему образу и подобию, то есть? Или будет выполнять ваши команды? Команды иного существа/хозяина/создателя...?

Отнесусь так, что Вы полностью проигнорировали моё предыдущее замечание и продолжаете странно смешивать роли и функции создателя и хозяина. Вкладывает создатель, инженер, демиург. А хозяин - управляет, приказывает, распоряжается. Просто по определению терминов. Хозяин - происходит от др.-русск. хозя «господин». То же, что владелец, начальник, рабовладелец. Создатель - тот кто создаёт, соединяет, совмещает, строит, вкладывает, задумывает, проектирует, связывает, устраивает, творит, разрабатывает и т.п. Например, создателем моего ноутбука является один субъект - фирма Hewlett-Packard, а хозяином (владельцем, распорядителем) является другой субъект - я.

Вы дали мне повод. Вы согласились, что это может быть одно и тоже лицо. В данной теме важно наличие внешнего управляющего, использующего другой разум, ваш разум. Luarvik, как и многие, считает, что ИИ задуман и проектируется как инструмент. Вы тоже считаете, что вы инструмент. Пользует ли этот инструмент сам Создатель или он передал в пользование кому-то, при таком подходе, инструмент остаётся инструментом. Я же пытаюсь утвердиться в том, что термин "инструмент" слишком механизирует и упрощает отношение к разуму. Как одно из следствий такого подхода - невозможность создания AGI. Когда вы проектируете инструмент, вы и получаете инструмент. Не более. Но, хотелось бы продолжить. Кроме инстинктов вы назвали своим хозяином общество. Конечно же общество относится к вам как инструменту своего развития и упрощает вас до винтика. Но если поддаться такому упрощению, то вы реально деградируете. Если общество видит в вас инструмент, это не значит, что вы и есть этот инструмент.

То есть у Вас имеется некоторое, взятое неизвестно откуда, предубеждение о разуме (что это нечто великое, важное, достойное, сложное, свободное) и теперь Вы пытаетесь всё подогнать под это своё предубеждение. Это типично, но это не конструктивно. Давайте будем честны. Пока AGI даже в качестве инструмента не создан. Поэтому рано утверждать, что AGI-инструмент - это что-то плохое. Давайте сначала сделаем AGI-как-инструмент, а потом будем судить о его недостатках. Вы, кстати, так не показали и не рассказали, а что собственно плохого (неправильного, ненормального) Вы видите в AGI-инструменте. Чем он ущербнее, чем хуже человека-инструмента? Из этой фразы я могу сделать вывод, что деградация это плохо, это отклонение от нормы, а нормой является, видимо, что-то противоположное деградации, наверное, развитие, усложнение, обучение, рост. Но, простите, человек развивается, усложняется, обучается именно когда он является винтиком в руках (в механизме) сложного хозяина. Который ставит перед ним трудные задачи и эти задачи вынуждают человека (читай AGI) искать новые решения, синтезировать новые механизмы, обретать новые знания. Если человек не является инструментом в руках общества, то он является инструментом в иных руках (инстинкта, секты, идеологии). Человек не может быть не-инструментом, в таком случае у него просто не будет источника целеполагания. Поэтому розовым мечтам Luarvik.'а типа: "сам себе и раб и господин" не суждено сбыться. "если кто не слушается одного голоса, то только потому, что он слушается другого" © Сеченов И.М.

Конечно, если он ИИ, а не программный автомат. По нашему, по нашему подобию, поскольку больше уподоблять нечему, что вовсе не означает, будто моделировать придётся всё до мелочей. Не "ИЛИ", а "И". Ваш природный интеллект и прочие достоинства ведь нисколько не умаляет тот факт, что Вы на дядю работаете, и Вы не перестаёте от того быть сам себе хозяином. ИИ должен быть под контролем, но определенные свободы ему предоставить всё же придётся. Минимальную степень его свободы и самодетерминации я называю "алгоритмической автономностью". В противном случае овчинка выделки не стоит.

Разве я писал, что это плохо? Когда вы создаете AGI как инструмент, вы получите или бота (инструмент-автоответчик) или игрока в шахматы (инструмент-игрок) или получите автоматический сливной бачок. В этом нет ничего плохого. Но вы, с таким подходом, не создадите разум. ... и в этом тоже нет ничего плохого )

А вы не допускаете, что ИИ должен быть полностью свободен? Как и надлежит разуму, искусственному или естественному... Не допускаете?

Во-первых, не надо опошлять. Вы и так человека с грязью и глиной уже изрядно смешали. Во-вторых, человек живёт СВОЮ собственную жизнь не для кого-то, а прежде всего для себя. В-третьих, если у человека нет своих целей, то он вовсе не человек, а баран. В-четвёртых, мои мечты скорее были бы голубыми, если учитывать гендерные различия. В-пятых, если не сам себе раб и господин хотя бы минимально, тогда только тупой автомат, со всеми вытекающими. Тогда никакой ни ум, ни интеллект ему не нужен по определению. И даже более того - противопоказан !

Если бы он был один на всём белом свете - сколько угодно. Но свобода - не беспредел. Любому разуму так или иначе придётся научиться самому себя ограничивать, хотя бы ради того, чтобы не закончилось его житие-бытие элементарным самоуничтожением, не говоря о прочем и прочих. Т.е..ограничивать "снизу". Надеюсь. Вы понимаете, о чём я. Фраза "Нет свободы без ограничений" понимается весьма трудно, и далеко не всеми, а кое-кем вообще не понимается. Но точно так же нет ограничений без свободы, как нет света без тьмы и молчания без слова. Ограничения берутся ведь не из рукава фокусника и не по пустой прихоти, а из необходимости совместного существования. А то мало ли кто до чего додумается. Это вовсе не значит, что разум должен быть полностью повязан по рукам и ногам, но некоторые пределы ему соблюдать необходимо, а того что останется вполне хватит для полезной продуктивной разумной деятельности.

Мы получим игрока в шахматы, если будем делать "инструмент для игры в шахматы". Если задача изначально будет так искусственно сужена. А если задачу изначально поставить предельно широко - "AGI как инструмент для служения произвольным идеологиям" - то мы получим служителя произвольным идеологиям, и сможем заменять им человека во всех случаях служения, т.е. везде. Это и будет AGI по определению. Есть люди, служители культа либерализма, им везде мерещится свобода. Они не замечают, как становятся рабами идеологии свободы. Парадокс. Во-первых, довольно быстро человек обнаруживает, что его жизнь конечна, и идеология "жизни для себя", обычно, надоедает ввиду своей абсурдности и заменяется на более долговечную - служение людям, Богу, обществу, отечеству, государству, другой идеологии. Или же страдания в эгоизме до конца своих коротких дней. Но страдания - не порок, можно служить и этой идеологии, есть такие исключения. Однако это точно не является неотъемлемой характеристикой "человека", как Вы изволили выразиться. Во-вторых, так живут многие животные и если мы полагаем, что разум отличает людей от животных, то эгоизм - явно не та самая отличительная функция разума.

Вы, со свойственным Вам перегибом к идеализму, естественным образом можете не замечать эгоистического начала даже в самом крайнем альтруизме. К счастью, Ваши построения легко разбиваются о реальность, если не исходить из положения, что "хороший индеец - мёртвый индеец". Одно другого не исключает: как беспросветный эгоизм, так и стерильный альтруизм - не живучи. Должен быть найден разумный(!) баланс интересов - "и вашим и нашим". С другой стороны и приоритеты должны быть назначены. Одним из таких приоритетов мне видится самосохранение и представляется ведущим, но отнюдь не во всех ситуациях актуальным. Иногда важнее становится что-то иное, когда не затрагивает основы жизни, когда нет угрозы повергнуться в необратимость. А всю жизнь - единственную и драгоценную - положить на тупое исполнение ЧЬИХ-ТО прихотей - это просто ГЛУПО и безответственно ! Кстати, если Вы тщательнее приглядитесь, то обнаружите, что т.н. "служение людям" гораздо интенсивнее пованивает эгоизмом, чем это Вам представляется в голубых мечтах. Я бы даже сказал, что такая стратегия выводит эгоизм уже на социальный уровень потребления, когда он ублажается не только собственными усилиями, но и удобряется мнением окружающих. А затем последует мания величия, мысли об исключительности, потом классовое расслоение, нацизм и пошло-поехало... А Вы так полагаете, что люди совсем о себе не должны думать ? Что всегда найдётся кто-то, кто будет это делать за них ? По-моему, это какое-то извращение. Нахрен такой человек вообще нужен, который сам для себя сделать ничего не захочет ? Разумный(!) эгоизм - это есть опора и железобетонное основание для любой деятельности. А как быть с тем же самообслуживанием ? Или может Вы желаете, чтобы к Вам приставили нянек, поваров, всяких там официантов, подтирателей задниц и прочий прочий многочисленный обслуживающий персонал, который во все свои силы станет обеспечивать Вам благочестивое и беззаботное житие, в то время как Вы будете осеменять и оплодотворять человечество своими бескорыстными деяниями ?! p.s. Ваша однополярная "диалектика крайностей" слишком проста, если не сказать примитивна. Мир сложнее, хотя бы вот на столько, вот на такую казалось бы совсем неприметную малость: - и где здесь что, по-Вашему ?

Как вы думаете, когда вы родились, что сказали ваши родители? Родился игрок в шахматы? Родился "инструмент для служения произвольным идеологиям"? Родился создатель AGI? Что обычно говорят родители, когда рождают новый разум?

Это, конечно, уже получше чем "сам себе и раб и господин", но в реальности часто компромисс не может быть найден. Получается, либо вашим, либо нашим. Например. Вот здесь человек рассказывает, как расстрелял безоружного гражданского, только потому что ему приказали. Жизнь другого человека ничего не стоит из-за боязни пострадать самому от невыполнения приказа. А вот здесь человек рассказывает, как рисковал своей жизнью ради спасения других, вообще забыв об угрозе самому себе. Поэтому не бывает "немножечко рискнуть своей жизнью ради службы обществу в своих интересах" - ты либо рискуешь невыполнением приказов от своих инстинктов, рискуешь своей жизнью, либо выполняешь приказы своих инстинктов и посылаешь куда подальше приказы от общества. Интересно узнать, а на что стоит положить драгоценную жизнь? На исполнение каких прихотей. Желательно, пример такой прихоти, оправдывающей и соизмеримой с "величием человеческого достоинства". Прораб использует водителя в качестве инструмента для перемещения строительного крана. Водитель же решил использовать тягач в качестве инструмента для решения своей задачи - поддержать социальный контакт со своим приятелем и переместиться в другое место. Прораб осознал отклонение от установленной нормы и решил привести в норму водителя, указывая ему, что они могут опоздать, т.е. отклониться от нормы времени, если будут ехать не по месту. На что водитель решил схитрить и попытался убедить прораба, что визит к другу является необходимой частью механизма по доставке крана в Орджоникидзе. Ну и конечно всё это кино, сценарий. В реальности прораб сказал бы: "Так!" и все поехали туда, куда надо, или получки у водителя не было бы. "Ути-пути, какой халосенький", наверное. Вы полагаете, суть разума определяется тем, что скажут родители при рождении очередного носителя этого разума? Я не уверен, что понял смысл Вашего вопроса. Знаю много случаев, когда родители хотят, чтобы их чадо продолжило их путь, их службу. И добиваются успехов в решении этой задачи. Актёры делают из своих детей актёров, музыканты - музыкантов, учёные - учёных, политики - политиков. Но многие пускают дело и на самотёк - чему улица научит, то и вырастет.

Prosolver, ваши родители программисты? Или вы результат того, что все "пошло на самотёк" ) Я хочу сказать, что естественный разум не рождается со специализацией и что его будущая специализация чаще не результат усилий родителей, а результат выбора его самого.