Форум создателей искусственных интеллектов

Холодильник - вообще инструмент. У него нет никакой свободы выбора, есть только запрограммированные реакции, в лучшем случае, и единственный смысл существования, задаваемый не им. За него всё предвидели и выбрали. Подходите в Рой, ща, может быть, там пойдёт разговор о свойствах живого.

Мне надо безопасность. Эта норма может быть нарушена бесконтрольным AGI. Если можно как-то иначе достичь безопасность - предложите вариант. По остальным пунктам ТЗ, насколько я понял, возражений нет. Хорошо. Не воспроизведу. Что это докажет? Что тысяча человек может достичь большего результата, чем один? Так это вроде никто не ставил под сомнение. Тысяча человек последовательным набором физиологических актов сможет воспроизвести алюминиевую вилку.

Скатились ниже трёх законов робототехники. Там хоть не сказано, что хозяин должен тратиться на контроль.

Психология с её экспериментами всегда отличалась стойкой неспособностью найти <> пристойное объяснение наблюдаемым(!) эффектам. Наглядный пример:

В соседнем топике произошёл обмен мнениями касательно оправданности привлечения психологии к решению задач построения AGI. Хочу ещё раз прояснить ситуацию и расставить акценты. Задача "создать искусственный интеллект" звучит примерно так же широко как "создать транспортное средство". Если не попытаться "обжать" эту задачу дополнительными условиями, то вероятнее всего дело закончится рассуждениями на уровне "сферического интеллекта в вакууме". Психология (наравне с другими сферами знаний) позволяет сузить (доопределить, ограничить) поставленную задачу. Например, для меня "искусственный интеллект" - это не просто самодостаточный конкретный термин, я его для себя существенно доопределяю и понимаю примерно как "искусственный мужской рациональный безэмоциональный механизм мышления с большой памятью, механизмом самообучения и интернальным локусом контроля". Эту задачу можно доопределять и со стороны физики (негэнтропия), и со стороны биологии (жизнь), и со стороны философии (Платон). Как в любой сложной многофакторной головоломке, которую трудно объять умом сразу во всех деталях, в задаче создания СИИ нужно фиксировать отдельные места этой головоломки, не возвращаясь к ним больше. Если в задаче "создания транспортного средства" нам не сообщат конкретных деталей устройства, но при этом ограничат общими условиями, что оно должно, например, помещаться в чемодан и весить не более 10 кг - то это существенно упростит задачу, сузит количество вариантов, степеней свободы и это значит, что изобретать "самолёт" и "паровоз" уже не нужно. Так и в задаче создания AGI психология человека предоставляет возможность упростить задачу "сверху", со стороны общих требований к конечному продукту, со стороны психологии будущего AGI. Послушал дядю по поводу свободы. Свобода не очень удачный термин в данном случае. Лучше говорить о детерминированности и индетерминированности. Тогда яснее о чём речь. Дядя в данном случае говорит о детерминированности. И я с ним согласен. Но когда люди говорят о свободе, речь идёт несколько о другом. Свободу можно понимать двояко: 1. как богатство возможностей 2. как минимум зависимостей. Кто более свободен? 1. Курящий человек, которому на каждом углу предлагают купить всевозможные сигареты и у которого всегда есть на это деньги. 2. Некурящий человек. В моём понимании более свободен второй. А первый только имеет богатые возможности для удовлетворения своей зависимости, несвободным рабом которой он является. Нельзя быть "просто свободным". Свободным можно быть только от чего-то конкретного. Свобода от чего-то - это противоположность к зависимости от чего-то. Мы зависимы от воздуха, значит мы не можем освободиться от воздуха, иначе мы околеем. Чем меньше зависимостей, тем больше свободы. Но свобода - не самоцель. Нельзя быть свободным от всего. На самом деле ценность свободы только в том, что большая свобода позволяет делать более широкий выбор своих зависимостей. И делать этот выбор правильно.

Что касается "дяди", то следует, по-моему, обратить более пристальное внимание на то, какие он выводы делает и из чего, что имеет прямое отношение к основаниям несостоятельности психологии. Выстраивать доказательства исходя из "если бы" - так, знаете ли, можно до чего угодно договориться. Чем это лучше высасывания из пальца ? Или трояко, добавив свободу выбора. Налицо типичная ошибка - отождествление свободы и независимости. На уровне бытовой психологии такое может и прокатит, когда, например, жизнь можно противопоставить смерти (в каком-то(!) смысле), в то время, как смерти противостоит рождение, а жизни - умирание. Непривычно ? Да, в известной степени. Так же непривычно прозвучит и то, что независимости противоположна... зависимость, а свобода противоположна несвободе. Можно быть зависимым и свободным, зависимым и несвободным, независимым и несвободным, независимым и свободным, всего лишь потому, что зависимость - за спиной, а свобода - перед глазами. Свобода и [не]зависимость связаны через нас, но не через наши возможности, а через наши способности. И возвращаясь к персонажу: "дядя" исследует конформизм во всех его проявлениях, предусмотрительно и вполне сознательно огибая тот факт(!), что выбор есть всегда, был и будет, и несомненно отдаёт себе отчет в том, что дважды в одну реку не войти, а это уже называется манипуляцией. Ну и само только название - "Ваш мозг или Вы..." - чего стоит. Это уже не манипуляция, а чистой воды спекуляция. Почему нельзя ? Очень даже можно (в Ваших понятиях). Можно быть свободным от людей/друзей/родственников, от крыши над головой, от дома. от семьи, от еды/воды/воздуха (на какое-то время), от желудка/печени/почек/рук/ног... в конце концов от головы, и в пределе - от того, что делает нас такими зависимыми и несвободными (в Вашей редакции) - от самой жизни !! В чём проблема ? Можно быть свободным ДЛЯ [чего]... Кроме того, эта свобода должна иметь под собой весьма крепкое основание. Отн. существ материальных и тем более живых, этим основанием является комплекс зависимостей. Просто потому, что иначе не бывает, никогда не было и быть не может в мире вещественном. Ни от чего не зависит (т.е. совершенно свободен) только труп на столе прозектора. К такому выводу Вы всегда и неизбежно будете приходить до тех пор, пока отождествляете свободу и независимость.

Здравый смысл, по-моему, предоставляет гораздо больше возможностей в деле обрезания лишнего. Когда-то давно он был упакован в хорошо известное выражение - "не преумножайте сущности без необходимости"... что напрямую связано и со свободой, и с независимостью, и со способностью к выбору, и со способностью такой выбор... создавать искусственно.

Luarvik., мне кажется, этот дискурс о свободе показывает только одно, что язык крайне убогое и ненадёжное средство обмена продуктами мышления. Получается, что под "свободой" может пониматься: зависимости, выбор, детерминизм, возможности, цели. Такой дискурс я не вижу смысла поддерживать. Мой комментарий был призван только для того, чтобы дать содержательную реакцию на выложенный Вами ролик. На мой взгляд, термин "свобода" наиболее адекватно и конструктивно применяется Бернштейном для описания механизма построения движений. И этот механизм можно распространить и на более высокую интеллектуальную деятельность. Опорно-двигательный (костно-мускульный) аппарат человека - это шарнирный механизм с большим количеством степеней свободы. И для того, чтобы эффективно управлять им, нужно вытормозить (заблокировать) большое количество лишних степеней свободы. Оставшимися степенями свободы, собственно, и совершается движение. Можно сказать, что мускульный аппарат используется двояко - одни мускулы блокируют лишние степени свободы, другие - производят движение с нужным усилием. При другом движении их роли меняются. Тот же принцип, как мне кажется мы находим и в построении высшей интеллектуальной деятельности. Только здесь степени свободы - это не шарниры, а варианты выбора дальнейших действий и мыслительный аппарат также используется двояко - с одной стороны он блокирует лишние варианты выбора (степени свободы), а оставшимися вариантами строит поведение (тоже степени свободы). Собственно этот принцип я использую в данном топике - лишние степени свободы вытормаживаются (ИИ не должен быть женским, эмоциональным, экстернальным...), а другие наоборот остаются активными (ИИ должен быть мужского типа, рациональным, интернальным...). Попытки делать ИИ "вообще", как мне кажется, при более детальном рассмотрении, это либо попытки делать "интеллект как у меня", либо неосознанное и/или неартикулированное сужение смысла, которое для других людей может быть не очевидным (текстовый ИИ, творческий ИИ, ИИ-слуга и т.д.). Привычно.

Даже git заменил master на main, а вы такое пишите!

cortl, если не различать женский и мужской тип мышления, то не удивляйтесь если вдруг Ваш ИИ вместо работы станет болтать с другими ИИ "за жизнь", а все задачи будет решать с помощью скотча и синей изоленты.

Ха-ха-ха! Синяя изолента - это наше мужское ВСЁ!!! А "за жизнь" кто трещит?! Но по-факту вы ушли от ответа на мой пост.

Ну, если "продукты" языка не становятся поводом активировать мышление, то конечно. Нет, так не получается. Под свободой следует понимать САМОдетерминацию, всё остальное - словоблудие. Здесь вопрос не в том, куда пойти - направо/налево, вперёд/назад или по какой причине это происходит, но в том, где относительно "исполнителя" эта причина находится. "Прагматика" свободы - это уже совсем другая история. Замечательно.

Трудно в это поверить, но сегодня миром людей управляют люди. Не боги, не рептилоиды, не тайные жрецы и даже не пришельцы. Люди совмещаются в организации. Семьи, предприятия, партии, органы власти, религии, институты, армии, города, государства, союзы государств. И в каждой такой организации есть конкретный человек с именем и фамилией, принимающий окончательное решение в каждом вопросе этой организации, несущий ответственность и ставящий свою подпись (президент, генеральный секретарь, глава правления, председатель). В критически важных организациях такому человеку помогают принять решение группы отобранных людей, обычно по мажоритарному принципу (суды присяжных, парламенты, собрания акционеров). Например, данный форум, организован по такому принципу, тут важные решения принимаются большинством голосов участников. В сверхкритичных организациях, влияющих на сотни миллионов людей (Конклав, Вселенский собор, ООН) решения принимаются консенсусом, т.е. все должны быть "за", а даже один голос "против" ветирует решение. Что значит принять решение? Это значит установить цель. И все люди, входящие в эту организацию, в дальнейшем воспринимают и запоминают это решение, эту цель, как норму, которая должна соблюдаться. Если тут на форуме примут решение кого-то забанить, это станет роковой неизбежностью в этой организации для всех участников, как закон природы (если, конечно, организация работает корректно). Если Конклав изберёт Папой римским, например, Luarvik.'а, то все католики всего мира должны будут принять это как норму, как догму, как правило, как цель. Каждый человек обычно вмещается в несколько организаций одновременно. Как правило, это семья, предприятие, город, государство. Кто-то может вмещаться в религию, кто-то в научное сообщество, кто-то в спортивную организацию, быть участником дорожного движения, языка и т.д. Каждая организация имеет свой свод норм, целей. И человек в построении своего поведения исходит из того, что суперпозиция всех норм всех организаций, в которые он входит, должна быть соблюдена. Если религия велит человеку в субботу молиться, то он не может выполнять требования своего начальника по работе в субботу. Поведение людей кажется сложным и труднопредсказуемым, но это только потому что каждый человек находится в месте совмещения многих организаций. Поведение человека на самом деле ничуть не более сложно, чем поведение своего рода многоцелевого ПИД-регулятора. Если человек входит в научное сообщество, то он обязан соблюдать, например, норму эволюционизма. Он не имеет возможности от неё отказаться в любой своей деятельности, в противном случае он автоматически будет исключён из этой организации по определению. Поэтому при принятии индивидуальных решений (генерации индивидуальных целей, норм) человек оказывается надёжно и крепко ограничен в своих степенях свободы, чтоб не флуктуировал и верно служил организациям, в которые он включён. Отсюда, на мой взгляд, появляется социал-дарвинизм у социологов, научно-техническая эволюция и даже, судя по топику ув. Egg'а, семантический дарвинизм, или эйдос-дарвинизм, не знаю, как точнее назвать.

Egg, благодарю за книгу, постараюсь почитать. Предлагаю рассмотреть конкретный пример. Мне конкретика очень нравится. В ней сразу проявляются все натяжки и допущения, присутствующие на уровне красивых общих идей. Весь лоск тут же улетучивается и остаётся только сухая скучная прагматика. Возьмём например "эволюцию" телефонов. Каждый следующий тип телефона был создан. Т.е. собран конкретным человеком или механизмом. Можно это отследить по актам выполненных работ, протоколам, журналам. Он был собран по проекту. Проект написан проектантом. Проектант использовал ТЗ, технические стандарты, регламент предприятия, те же законы физики. Т.е. нормы. Потом началась эксплуатация этого телефона. Вскрылись недостатки этого устройства - отклонения опять же от норм. Например, проводной телефон нельзя было взять с собой в путешествие. Или клавиатура мобильного телефона отбирала много места у дисплея. Поэтому ТЗ было дополнено/изменено, инженеры изменили конструкцию телефона. Улучшили её, пытаясь устранить те недостатки, которые выявились в процессе эксплуатации. Т.е. попытались соблюсти те новые добавленные нормы, о которых изначально и помыслить даже было нельзя. Их невозможно было увидеть раньше. Поэтому, очевидно, не мог быть сразу создан "Samsung Galaxy Z Fold2", потому что не было всех предыдущих этапов создания/эксплуатации. Вот хоть убей меня, но я не вижу что (и главное зачем) в этом понятном, прозрачном и простом инженерном процессе можно назвать "эволюцией". Во-первых эволюция (от лат. evolutio — «развёртывание») предполагает, видимо, некую логику и конечную цель этого развёртывания. В развитии телефона такой цели нет. Телефон будет развиваться туда, куда подскажут недовольные клиенты. А чем они будут недовольны завтра - заранее неизвестно, это процесс стохастический. Во-вторых эволюция по определению предполагает плавные изменения. Здесь же налицо скачкообразные изменения конструкции, вызванные именно вмешательством инженера. Поэтому логичнее говорить о цепочке революций. Собственно ровно это же касается и языков программирования, и других вещей. Мне, кстати, почему нравится изучать этимологию слов. (греч. от ἔτυμον — истина и λόγος — слово, учение), потому что слова в самой своей структуре содержат исторический след, указывающий на то, при каких обстоятельствах это слово кем-то когда-то было слеплено (создано, собрано, совмещено) из других слов. И для каких изначальных (уже забытых) целей оно служило. Тот же "телефон". Если бы не название (греч. τῆλε «далеко» + φωνή «голос», «звук»), то сложно было бы догадаться, что голосовая связь - это его изначальная функция. Изнутри мне видится, что все мои сверх-ценные идеи стали, как это ни банально звучит, просто результатом обобщения жизненных наблюдений, путём целенаправленного взора широко открытых глаз.

Начал читать книжку Рибо: Compose и disassemble. Совмещение и разсовмещение. Хорошее начало, многообещающее, мне нравится. Соответствует нормам.

Я не удивлюсь, если некоторым, совсем уж отчаянным прагматикам взбредёт в головы топить печи бонсаями... Может показаться, что они бесполезные создания, чрезмерно капризные и совершенно никчемные, особенно, рядом с длинномерной поленницей дров, не то чтобы плодящихся в изобилии, а буквально валяющихся под ногами, словно мусор. И всё же... И всё же есть в "лаконичности рисунка и неповторимости формы" бонсая некая особая, порой совершенно иррациональная притягательность, несмотря на его в некотором смысле даже уродливость, иногда явную, а случается что и намеренную. У него вообще нет никакого утилитарного назначения. С точки зрения житейской необходимости он выглядит почти как особо извращённое издевательство над банальным здравым смыслом. С другой стороны, его минималистическая "конструкция" не может не вызвать иных чувств и мыслей, кроме эстетических, поскольку он есть то, чего быть как будто бы не может и не должно быть, как чего-то противоестественного...

Есть силы на которые мы не можем повлиять: предотвратить землетрясение или изменить физические константы. Но стол на кухне мы передвинуть можем, можем повлиять на людей и даже на общество. Интересно стало посмотреть на этот локус, на этот узелок который определяет, решает, передвигает. В нем много чего переплелось и структурировалось. Ведь действительно, если посмотреть, то это конкуренция двух сил, внешних и внутренних. Мысль сырая, но с такой точки смотреть не приходилось. Посмотрим, подумаем. Любопытный узелок. P.s. Пропорциональная зависимость качества узека и сферы влияния.

Тепло и уютно в объятиях детерминизма.

Ага