Форум создателей искусственных интеллектов

Насколько я понял, Вы уже не спорите с тем, что AGI - это инструмент. Теперь в центре внимания тезис, что "AGI сам выбирает те руки, в которых он будет инструментом". Так с этим я согласен. Ему кажется, что он сам выбирает. И одна из задач разработчика сделать так, чтобы AGI выбрал того, кого надо в качестве своего хозяина. Со стороны это должно выглядеть так, что AGI как бы "влюбился" в своего господина и теперь выполнит всё, что тот пожелает.

И где вы видели инструмент, который сам выбирает себе хозяина? Это не инструмент. И потом... инструмент не влюбляется.

Очевидно, что AGI будет подпадать или не подпадать под определение "инструмент" в зависимости от того, как мы это определение сформулируем. Если обратиться к этимологии, то "инструмент" происходит от лат. "instruo" - вставлять, вводить, воздвигать, возводить. Инструмент - средство достижения цели, орудие, приспособление, аппарат, прибор. Тут ничего не сказано о том, выбирает себе инструмент хозяина или не выбирает. Поэтому формально, если AGI выбирает себе хозяина и затем верно ему служит как механизм достижения его целей - то он инструмент. Расскажите об этой шутке женщинам.

Разум самостоятелен. Молоток - нет, молоток начинает функционировать, только когда его в руки берет человек. Вы же хотите создать очередной молоток, объявив, что создаете разум. Когда вам в этом указываю, вы делаете подгонку этимологией.

Должен быть найден разумный(!) баланс интересов - "и вашим и нашим". Да, это лучше, для компенсации Вашего"биполярного расстройства". Я бы сказал, что слаб тот интеллект, который в нормальных условиях оказывается неспособным найти компромиссное, сбалансированное решение. Всяко бывает, но всё упирается в то, кто совершает выбор, а выбирает всегда непосредственно владеющий своими ресурсами. Кто бы это мог быть ? Что Вас постоянно на какие-то социальные аномалии тянет ?! "Всё или ничего" - это ведь не от ума исходит, это скорее что-то нервное, маниакально-депрессивное, циклофреническое. Мы здесь пытаемся обсуждать именно его некое подобие, протез, <> удачную пародию, а Вы постоянно подсовываете чуть ли не "страсти христовы", какие-то бесконечные тёрки "между душой и внешни миром". Выбор есть всегда ! А всю жизнь - единственную и драгоценную - положить на тупое исполнение ЧЬИХ-ТО прихотей - это просто ГЛУПО и безответственно ! Кому нужны Ваши достоинства ? Те, кто на них зарабатывает - поматросят и бросят, выдоят и выкинут, и останетесь Вы сам с собой "на всю оставшуюся жизнь"... если что останется. Повторю: человек живёт СВОЮ жизнь и прежде всего для себя - в этом вся его и ответственность и достоинство. ... и где здесь что, по-Вашему ? Такое впечатление, что Вам доставляет нескрываемое удовольствие рассматривать человека как реинкарнацию барана. Опустить человека до машины, а потом попробовать скопировать в железе то что получилось - не слишком удачное разрешение ИИ-проблемы. Это путь наименьшего сопротивления, ничего не решающий и по сути есть бегство от проблемы. Мне сложно представить дееспособный интеллект, изолированный от всего - ни рук ни ног, ни глаз ни ушей... "Разумный кисель" ? Управляющий разум не может обойтись без чего-то управляемого (он и сам под колпаком, но это другая история). Даже минимальный интерфейс для связи с внешним миром, для взаимодействия со средой требует далеко не случайных управляющих воздействий. Ум "служит" прежде всего своему носителю, а то что Вы здесь заливаете - это песня совсем не про ИИ и шевелиться в направлении Ваших социально-психологических ювенильных комплексов (вот уже и женщины в ход пошли ! давайте ещё о проститутках и продажной любви покалякаем) как-то совсем не хочется Что касается "инструментальности", то я бы подумал о том, какими средствами самозащиты должна обладать система со встроенным ИИ, поскольку они существенно повлияют на общую архитектуру.

Если бы каждый имел по собственному острову... однако, человеческое сообщество по объективным причинам устроено по-другому. Мы вынуждены работать на кого-то, но(!) для себя, а все эти высокие материи вроде "ради жизни на Земле" - это от невежества. Разумеется, человек инструментом ни рождается, ни проектируется. Как раз наоборот - здоровая система воспитания и "окультуривания" должна выращивать человека автономного, самостоятельного, свободного и легко адаптирующегося к любым условиям. Куда занесёт и как там выкручиваться - другой вопрос... Да, Prosolver постоянно скатывается к делёжке шкуры неубитого медведя.Ещё ничего нет, а уже "как бы попользоваться". "Чистый" разум - инструмент, по определению, и нет в этом ничего постыдного. Самым ближайшим его "хозяином" является носитель и самое интересное здесь в том, как они взаимодействуют, поскольку разум не работает без саморефлексии, а саморефлексия не работает без самосознания, а самосознание не работает без самовосприятия, а самовосприятие не работает без... и т.д. Вы, возможно, не учитываете тот факт, что ИИ - не конец истории, не предел. Он не может существовать сам по себе, как дух святой. Он может быть только ЧАСТЬЮ чего-то большего - никак иначе, а вот что делать с этим бóльшим и как оно должно выглядеть - разговор отдельный.

Молоток - для нанесения ударов. Гроссмейстер - для игры в шахматы. Холодильник - для охлаждения. Плотник - для обработки дерева. Градусник - для измерения температуры. Программист - для написания программ. Скрипка - для извлечения звуков. Скрипач - для игры на скрипке. Этот список инструментов можно продолжать долго. Из него очевидно, что процесс эксплуатации интеллекта полноценно выражается через отношение "инструмент-предназначение". Что молоток, что столяр - это инструменты. Конечно, определённая специфика имеет место, интеллект имеет отличия от молотка, этого нельзя отрицать. Молоток - пассивный инструмент. Интеллект - активный инструмент. Молоток не может перестраивать свою конструкцию, интеллект может перестраивать. Молоток сам не может менять себе хозяина, интеллект может. Но эта специфика не отрицает и не противоречит самой глубинной инструментальной природе разума. Разум нужен не самому организму носителю (молоток не нужен сам себе) - разум нужен кому-то для достижения каких-то целей (соблюдения норм, выполнения приказов, решения задач, соблюдения законов, поиска ответов - называть можно как угодно). Этим "кем-то" может быть инстинкт организма-носителя интеллекта, но это не обязательно. Пчела - это инструмент улья. А человек - это инструмент тех организаций, в которые он волей судеб входит. Опустить можно только то, что высоко забралось. Пока "высоты" человека не продемонстрировано. Поэтому нельзя опустить то, что не поднималось. Вашу фразу я бы переформулировал так: "выразить человека в терминах машины" - так это достаточно точно описывает мою методологию работы и не содержит этого неуместного пафоса и возвеличивания невеликого.

Однако же в космос полетели не обезьяны и не пингвины. Я бы посоветовал Вам более трезво глядеть на вещи, без дурацких идеалистических заморочек. Ваша... э-э-э-м... 'методология' (извиняюсь за выражение!), называется простым русским словом - пошлость. Я ещё могу понять попытки описать большее меньшим, сложное простым, когда предмет исследован от кончика носа до кончика хвоста, когда тёмных пятен не осталось, а когда ни в зуб ногой да на пальцах... ))) По-моему, видеть в человеке только члена стада - предел свинства. А если не входит ? Я тут параллельно с Цап'ом выскажусь: если Вы в человеке видите только говно и собираетесь взять от него всё лучшее, то всё равно у Вас только говно получится - пусть и хорошее, но ГОВНО! Ваш, Prosolver (и не только), "абстракционизм" играет с Вами злые шутки: Вы не учитываете того обстоятельства, что даже в качестве т.ск. "стороннего" инструмента разум востребован только когда он сам способен позаботиться о своём существовании.

Если совсем не входит, то в итоге это закончится суицидом - в человеке включается программа самоуничтожения, если он никому не служит (применяя метод использования кинофильмов в качестве иллюстраций можете глянуть кино "Изгой" с Томом Хэнксом в главной роли). А если только кажется, что не входит, то надо обратить внимание на самые очевидные вещи. Вот Вы, например, входите в группу лиц, разговаривающих на русском языке. Эта организация насчитывает около 200 млн человек. Значит, Вы служите этой организации - соблюдаете её правила - нормы русского языка. Если Вы пользуетесь USD, значит Вы входите в соответствующее сообщество. Если Вы соблюдаете правила дорожного движения - значит Вы участник этого движения. Если Вы соблюдаете законы государства - значит Вы гражданин. Тут всё просто и очевидно, даже не надо ничего додумывать, нужно только внимательно посмотреть, какие правила Вы соблюдаете и это укажет на те организации, которые их спродуцировали, которым Вы служите и которые Вас в себя включают. С этим спору не было. Спор возникает, когда кто-то утверждает, что человек живёт только сам для себя, служит только себе и является сам себе господином, слугой, учителем, судьёй, палачом и т.д.

- у Вас какое-то извращенное понимание служения. Видимо, Вас на службе очень обижают. И поверьте, мне очень не хочется думать, что за обычной в нашем деле терминологической коллизией скрывается война идеологий. Т.е., если я соблюдаю ПДД, значит служу ДПС ? и я - раб ДПС ??!! Вам не кажется, любезный, что Вы заговариваетесь ? Утверждается не то, что Вы там себе наинтерпретировали, а то, что человек живёт СВОЮ жизнь ПРЕЖДЕ ВСЕГО для себя, всё остальное вторично (если без катаклизмов). Почему так - осмотритесь вокруг и подумайте. Дело обстоит намного проще, чем Вам кажется и никакую корову Вы не проиграете, если вдруг что-то непривычное для себя заметите. p.s. Вот Вы всё о служении, о рабстве, а есть такой modus operandi для свободного человека - "делать что-то только тогда, когда этого можно не делать". На практике это означает одно - постоянно следить за тем, чтобы не попадать в безвыходное положение, чтобы даже оказавшись на привязи иметь возможность и способность просто развернуться и уйти. Лично я считаю себя свободным и сам, без какого-либо принуждения соглашаюсь(!) играть по неким чужим правилам грубо говоря по одной единственной причине - мне на них НАСРАТЬ ! Отношения "раб-господин" наиболее полно способны проявиться в отношениях человека к человеку - выглядит сие довольно гнусно и это тёмная, чернее ночи сторона "луны". Светлая появляется в тот момент, когда речь заходит об... об одном и том же человеке - вот здесь всё к месту и так, как должно быть... на правах БЕЗУСЛОВНОЙ на все времена собственности и права как на свою жизнь, так и на свою смерть... Если я ответственно отношусь к своей жизни, то никакое общество, никакая организация, никакое стадо, никакие ВВС или ДПС, ни одна СССУКА на свете не заставит меня сделать из своей жизни то, чего я не хочу - это для меня. Для других - другое: при таком раскладе - и если я человек здравомыслящий - мне и в голову никогда не взбредёт кому-либо предъявлять претензии, кого-то обвинять в том, что моя жизнь такова, какая есть. Т.е., своей внутренней свободой я в нек.смысле освобождаю и других от своих требований и каких-либо обязательств по отн. ко мне. Как мне никто не должен, так и я не должен никому (кроме тех, кто породил), всё, что происходит - по обоюдному желанию, по доброй, независимой воле. Согласитесь, "песня" звучит совсем по-другому )))

Если Вы соблюдаете ПДД, значит Вы служите ПДД. Если Вы подчиняетесь приказам ДПС - значит Вы служите ДПС, просто по определению. Может быть, из-за того, что служение такой идеологии сейчас распространено среди людей, особо остро чувствуется спрос на AGI, который будет жить свою жизнь прежде всего для меня. Вы можете плевать на правила, ненавидеть их, презирать, изобретать для себя любые объяснения и оправдания, главное, чтобы Вы их соблюдали. Для стороннего наблюдателя при этом Ваше поведение ничем не будет отличаться от поведения покорнейшего из рабов. Давайте переформулируем без отрицаний: "я делаю только то, что хочу". Возражений нет? Если возражений нет, тогда осталось проследить кто и при каких обстоятельствах внедрил Вам "ваши личные" желания, чтобы анамнез служения был полон. Конечно, человек не несёт ответственности за полученные приказы, которые он выполняет. Он несёт ответственность только за то, как именно он их выполняет. Интересная оговорочка. Это многое объясняет. А им Вы должны в силу какого закона?

Нет, ещё проще: я не служу ни ДПС, ни в ДПС и не собираюсь. Кроме того, никакой ДПС мне ничего не приказывал... а кто вообще может приказать ? Нет, конечно, попробовать может кто угодно, но где гарантия, что не пошлют [молча и пройдут мимо] или сразу в пятак не заедут ? Это всего лишь игры, в которые играют люди и причин, по которым мы позволяем себе предаться подобным развлечениям - вагон и маленькая тележка. Что значит "служить" по-Вашему ? Хотя, да - тут всё ясно... но помимо зарабатывания на хлеб насущный есть масса других занятий, где подобная режимность не функционирует. А с этим спору нет: на работе надо работать в рамках. Согласен - работай, не согласен - ищи место поудобнее. Вот и вся житийно-бытийная философия. Это не идеология, не бла-бла-бла, а разумное отношение к себе и себе подобным. Если Ваш ИИ будет жить прежде всего для Вас, то ещё большой вопрос, сколько он так протянет и кто кому в итоге сопли станет вытирать, рук своих не покладая. Мне плевать не только на правила, но и на то, что по моему поводу думают "сторонние наблюдатели" и прочие представители общественности. Более того, их способность чесать всех под одну гребёнку по "уточному" принципу экономит массу усилий - не придётся ни врать, ни обманывать, ни мимикрией заниматься, а когда придёт время - я своё возьму, стащу у них из под самого носа. Они ведь всегда уверены, что всё под контролем и всё идёт по плану, что все соблюдают и по половицам ходят, а такие настроения нужно подпитывать, вскармливать и тщательно взращивать - усыплять бдительность. В конце концов блюстители порядка оказываются окончательно заГОВНОтизированными своим мнимым всевластием и вот тут-то и появится внезапный "кирпич на голову"... Ну, что я буду здесь жевать очевидное, это ж старо как мир - чем строже порядки, тем проще их обходить. Но не спорю - люди разные бывают: кому-то (как Вам) в мозги можно любую чушь запихать, а кому-то совсем не получится, наблюдателям же, как коровам жующим, останется лишь принимать всё за чистую монету ))) Внедрить что-то извне во что-нибудь живое - не так легко, как Вам представляется. Если труп или амёба, то конечно, а попробуйте внедриться скажем в медведя. Я не собираюсь лить воду на Вашу мельницу: разберитесь с собой - кто и что Вам постоянно впаривает, если уж Вам так хочется чувствовать себя ни к чему самостоятельно не способным болваном. Я так понимаю, что Вы без приказа и пёрнуть не сможете ? Что ж поделать - не договоримся ! Никак не договоримся. я не должен никому (кроме тех, кто породил) Во-первых, не оговорочка. Во-вторых, это за пределами Вашего разумения, поскольку Вы всё делаете по чьей-то указке. Мне понятны Ваши затруднения, но ничего не поделать - не всё коту масленица. p.s. Надеюсь, Вы отдаёте себе отчёт, что вот так перепихиваться мы можем бесконечно: я выдвигаю некое утверждение, а Вы переводите его на свой язык, тщательно следя за тем, чтобы оно не выливалось за края Ваших кастрированных понятий. Конца этому нет. Так какой смысл продолжать ? Давайте остановимся хотя бы на том, в чём мы согласны: разум/ум/интеллект есть инструмент, что всесторонне обосновать не составляет особого труда. А остальной антураж - все эти Ваши фантики и рюшечки, благоосвященные бескорыстным служением человечеству - отдадим на съедение словоблудам.

Вы-то что суетитесь ? У Вас вообще сравнивать нечего. ... то, что к Вам не относится.

Вот видите, Таракаша, как у Вас выходит - ещё рот не открыл, а уже глупость сморозил. Говорил ведь я Вам, что у Вас не только с апострофами проблемы... Инструментов разума, т.е. того, что разум может опосредованно использовать как инструмент, столько, что ни у Вас, ни у меня, ни у вместе взятых не хватит никакого времени их перечислить. Фактически таким инструментом/ресурсом может быть что угодно, т.е. ВСЁ, что угодно. А раз всё, то, в общем, и говорить не о чем и не к чему. Вопрос, как Вы могли НЕ заметить и естественным для Вас образом не заметили, в заглавии звучит несколько иначе.

С чего Вы взяли, что его кто-то искать собирается ? А ИИ будет создан как материальный, физический, замкнутый объект - хоть "инструментом", хоть "óрганом", хоть "чёрным ящиком" его обзовите. Раскрыто: Интеллект - Система Управления Ресурсами. Берите и изучайте.

А вот это уже без разницы, во что вставлять, если есть связи и протоколы коммуникации.

Во что вставите, чему научите - то и сможет.

Без Сознания - автомат.

Одна

Я признаю только одно, классическое название и понятие, которое себя не только не исчерпало, но ещё даже и не начинало черпать - "ИИ", но с наполнением существенно бóльшим, чем предписывает традиция. Все остальные вариации ничего не добавляют и не проясняют. Да, именно железно-кремниевая "коробочка" с разъёмами, к которым цепляется разнообразная периферия, в зависимости от назначения, условий работы и пр.пр. Собственно, общий "интегральный" функционал такой системы и "география" её применения будет определяться именно тем, что к ней подключено, а не "мозгами" - просто и сердито ! Нет. Зачем же городить огород ? Мозги в коробочке, коробочка в "теле"-носителе. Для специально заточенного автомобиля, напр., никакое доп. "тело" не требуется - автомобиль и будет телом. В другом варианте за руль придётся посадить нечто человекоподобное. Вообще, для выполнения работ, рассчитанных на человеческую анатомию, потребуется <> усечённый андроид, во всяком случае этот "агрегат" должен быть совместим с человеком по внешним операционным "органам". Спешу заметить, что проблема переноса электронных мозгов в носитель с другой архитектурой так же имеет место, как и по отн. к мозгам живым. Может оказаться и так, что в коробочку всё не войдёт или она окажется слишком уж громоздкой. Тогда взаимодействие с внешним миром будет осуществляться быстрым и широким каналом связи через аватара, который будет представлять собой лишь исполнительный механизм, вроде станка с ЧПУ )))