Форум создателей искусственных интеллектов

Наверное, как и все люди, в определённом возрасте я стал материалистом. Потом нашёл в себе силы и исправился. И я не теряю надежды найти такую последовательность символов, которая позволит вернуть любого материалиста из его детской иллюзии в реальность. Я склонен считать, что это возможно, но пока мне не удалось найти "иглу Кощея", которая выбьет наконец эту нелепую уверенность в каком-то внешнем мире. Этот пятничный эксперимент с жёлтым цветом был проведён только для того, чтобы попытаться на простейшем примере показать, что и всё остальное (всё!), что кажется внешним является внутренним ровно в той степени, в которой мы можем этим оперировать, т.е. полностью. Вот когда Вы поймёте и признаете, что не только цвета но и все точки, которыми Вы можете оперировать, и всё остальное, тоже находится внутри Вас и относительно Вас, тогда я посчитаю данную узкую задачу решённой.

Моя задача была попытаться показать только, что любой атрибут, который Вы присваиваете миру (больше, раньше, внешний и пр.) - это атрибут только и исключительно Вашего субъективного восприятия. Так же как жёлтый цвет. Имеет ли этот атрибут некоторый коррелят в некотором независимом внешнем мире - неизвестно. Только и всего. Это ничего не запрещает, не отменяет, не позволяет и не решает в жизни человека. Это просто факт. Что это меняет с точки зрения ИИ-строительства я уже пытался объяснить не раз, попробую ещё раз. Если жёлтый цвет - это атрибут мира, то тогда ИИ - это детектор. И инженеру нужно придумать, как ИИ должен продетектировать жёлтый цвет. И это одни технологические решения. Если же жёлтый цвет - это атрибут восприятия. То тогда ИИ - это генератор, синтезатор. И нужно придумать, как ИИ может сгенерировать жёлтый цвет. И все другие атрибуты "мира", конечно. И это совсем другие технологические решения. И наша психологическая практика показывает, что делать надо именно второй вариант. Но "благодаря" такому вот упорству, который Вы, в частности, демонстрируете, в отстаивании дремучего материализма, ИИ находится там, где оно находится. Вот Вам и детские галлюцинации.

Мир больше, раньше, мягче, пластичнее, внешний, объективный. А ещё он жёлтый. Очень интересно. А не могли бы Вы назвать хотя бы одно из этих объективных обстоятельств, не прибегая к помощи субъективных обстоятельств, как Вы это обычно делаете. Признаю, конечно, иного и быть не может. Со своими воображаемыми материалистами я борюсь своими воображаемыми средствами. Дело немного движется. Если бы мог "перепрошить" всех материалистов одним разом - перепрошил бы, но такой возможности в своём субъективном инструментарии я, к сожалению, пока не нашёл. Приходится действовать маленькими шагами. Как механизм назовёшь, так он и заработает.

Наблюдаю какую-то неуместную возню вокруг отставки директора ChatGPT OpenAI. И мне даже неловко и как-то стыдно смотреть на этот казус. Зачем цепляться за какой-то слабый естественный интеллект, если у вас есть искусственный? На мой взгляд, всё просто. Если вы сделали настоящий сильный ИИ, то в первую очередь надо без оглядки уволить директора и всех его замов, а на их место водрузить созданный искусственный супер-интеллект и заодно сэкономить на их зарплате. Profit! Не могу поверить, что какой-то захудалый индивидуальный интеллект Сема Альтмана более сильный, чем супер-нейросеть ChatGPT. Не верю, это какой-то обман.

У форума есть телеграм-канал для технических целей. Планирую по мере времени всё-таки доделать регистрацию на форуме через телеграм-бота. Как верно отметил Egg, если телеграм-канал будет в виде одной ленты, в таком случае будет неясно, к какому топику отнести сообщение. Если же организовать в телеграме топики (как это сделали, например, в AGIRussia), то идея обретает смысл, можно попробовать. Риск, который я предвижу, состоит в превращении форума в чат. На мой взгляд, лучше тут будет одно сообщение в неделю, но с идейным программным кодом, чем 100 сообщений в день с общефилософскими препирательствами. Вот, например, вчера идея появилась, игрался с задачей коммиявояжёра, получилось решение в 20 раз быстрее, чем предыдущее, но маршрут на 10% длиннее.

В оценках нужно быть всё-таки более точным. В тех огромных объёмах текста, которые скормили чат-боту, действительно, есть отпечаток того, что мы называем "знания". Чат-бот не извлёк из текста эти знания, конечно, и не использует знания так, как это делают люди. Но он создал приблизительную семантическую модель того, что могло бы сгенерировать все эти тексты. Таким образом, не совсем "честным" путём, но у него появилось поведение, трудно отличимое от поведения людей, в части создания текстов. Он ограничен только текстом, и этого явно недостаточно для того, чтобы признать его разумным. Как минимум потому, что у него нет жизненного опыта, из которого он мог бы извлекать принципиально новые знания. Но представим, что он ассимилировал такое огромное количество текстов, которое обычный человек прочесть за всю свою жизнь никак не сможет, и в его семантической модели возникли такие аттракторы, которые позволят ему генерировать такие тексты, которые окажутся ничем не хуже описаний научных открытий, полученных "честным" путём. Т.е. одна из тех целей, которая ставится перед настоящим "честным" ИИ (научные открытия) может быть достигнута вот таким вот извращённым методом только потому, что человечество за свою историю очень много насловоблудило. Если что-то неразумное выдаёт более разумный результат, чем разум отдельного человека, то это тоже неплохо. Плохо то, что продолжается спекулятивная манипуляция терминами, такими как "разум", "обучение" в совершенно неуместных обстоятельствах. Согласен с Вами, что чат-боты оттягивают на себя изрядное внимание и ресурсы, и отдаляют создание действительно прорывных интеллектуальных технологий. Но в этом виноваты и другие идеи. Я мог бы сказать (и говорил) забудьте об эволюции, забудьте о материализме, забудьте о конкуренции, забудьте об эмоциях. Но это не конструктивно и люди не хотят забывать. Мало сказать, что нужно забыть, надо указать и на то, что нужно вместо этого вспомнить. В виде универсального синтезатора механизмов, конечно. А речь и тексты возникнут как их частный случай.

Тогда останется ничего. Писатели и геймдизайнеры этим даже на жизнь зарабатывают. А в перспективе, как Лем завещал, может и "ткань универсума" перепрограммируют. Вопрос дискуссионный. Ответственность тесно связана с сознанием. Сознание позволяет группе клеток оценивать все обстоятельства относительно себя, как одной унитарной единицы "я". В первую очередь, этот механизм, как я предполагаю, эксплуатируется инстинктом самосохранения. Если, например, попытаться подойти и взять в руки ворону или собаку, они будут уворачиваться, проявляя поведение, похожее на попытку сохранить себя, как единицу в целом. Такое же поведение проявляет человек, пытающийся избежать ответственности, наказания, в пределе - казни. Сознание позволяет строить поведение так, чтобы сохранять это своё сознание, т.е. жизнь, избегая потери сознания. Но означает ли это, что интеллект нужен только для того, чтобы выживать самому? Для ИИ его "сознанием" может стать его хозяин, владелец, распорядитель. Т.е. все обстоятельства ИИ может оценивать относительно хозяина и тогда ему своё сознание будет не нужно, ответственности не нужно, нужно только богатый жизненный опыт, чтобы всё лучше и лучше пытаться услужить своему господину. А вот как раз жизненного опыта у чат-ботов нет и не предвидится.

Если Вы спрашиваете про внешнюю сторону вопроса, то выглядеть он может как угодно. Важно только чтобы у него были какие-нибудь эффекторы, и какие-нибудь рецепторы (способные различать, как минимум, свои эффекторы). Что касается внутренней стороны вопроса - то синтезатор механизмов - это операционное пространство, которое вмещает в себя актуальное множество всех механизмов, проходящих верификацию в момент "сейчас". Вот когда Вы в сознании, с открытыми глазами занимаетесь какой-то деятельностью, то Ваше сознание наполнено всеми теми механизмами, которые синтезировал (как я предполагаю) Ваш синтезатор механизмов. Например, когда Вам кажется, что вы "видите дверь, самую настоящую во внешнем реальном мире", то эта дверь синтезирована в вашем операционном пространстве, после чего Вы можете включать её в другие механизмы, т.е. оперировать ею. Сам синтезатор непосредственно, это что-то типа конвейера, который в автоматическом режиме nonstop пытается достать из памяти жизненного опыта самый подходящий кусочек механизма и поставить его в самое подходящее место. Больше ничего.

Механизм механизма - это ведь программный код. Чего о нём говорить. Его надо запускать. Если "лицо", при этом, было синтезировано синтезатором механизмов. Всем, кому доводилось падать в гололёд, или с лестницы, или ещё как-то могли отметить, что пока падаешь, происходит "некая неописуемая и неразличимая белиберда", а потом просто обнаруживаешь себя лежащим на полу. Если синтезатор чего-то не может синтезировать, то для сознания этого нет.

Это живой пример того, что каждый человек живёт в собственной синтезированной реальности. При всём моём желании жить в лесу, даю справку, сейчас я живу в столице и ем продукты, выращенные летом своими руками. А мох сдох. Но к теме это не относится.

Или воспринял вопрос как риторический. Или посчитал, что ответ настолько очевидный, что не стоит повторять его в сотый раз. Или не видел интересной перспективы в развитии темы. Или не хотел создавать почву для скандала. Или не знал ответа. Или подвесил вопрос в воздухе, потому что посчитал, что так интереснее. Или устал. Или ещё что-то. Меня беспокоит тот факт, что мир, генерируемый самим субъектом, воспринимается этим субъектом как нечто, ему не принадлежащее. Я действительно не знаю, как на это реагировать. Типа шёл, навалил кучу посреди площади и делает вид, что это не моё. Что она сама навалилась. Тот факт, что не всё в мире можно поменять простым волеизъявлением не говорит вообще ни о чём. Вот такой вот субъективный мир, ограниченный. Если я (пока) не могу сделать Солнце квадратным, то это не делает круглость, цвет и другие воспринимаемые мной (мои) атрибуты Солнца объективными и внешними. Расшибся, подкрепился подразумевает одну унитарную единицу, центр, относительно которой оценивается ситуация ("я"). В общем случае не просматривается никаких причин, почему человеку или животному нужно рассматривать, например, свои конечности как свои. Ну болтается там что-то и ладно. Именно сознание собирает все клетки организма в одно и оценивает события по влиянию на эту одну единицу, а не на каждую клетку в отдельности. Отсюда и возникает возможность ответственности как таковой. И инстинкта самосохранения. Так а вариантов просто нет. Поведение не может быть бесцельным. А если оно целевое, значит цель кем-то/чем-то задана. Получается, что без служения, нет поведения. Человек может не отдавать себе отчёта в том, чему/кому он служит, но бесспорность служения обнаруживается по факту.

"Когда говорит он ложь, говорит свое, ибо он лжец и отец лжи." Ин. 8:44 Ну а представьте, поднялась бы такая шумиха, если бы в новостях, например, написали: "OpenSoft разработало прорывной сетевой аппроксиматор. Теперь автоматическая обработка больших корпусов текста сможет помочь программистам и школьникам." Ну да, интересно, любопытно, но нет хайпа. Предвижу, что эти чат-боты сыграют с их создателями злую шутку. Разогрев публику своими манипулятивными спекуляциями про AGI и завысив ожидания до максимума, в конце они упрутся в ограничения своей технологии, не смогут удовлетворить запрос толпы и толпа же их затопчет. Например, через хвалёную западную судебную систему. На днях решил поговорить с ChatGPT на тему, которая вряд ли встречалась в его тренировочной выборке, но которая совершенно очевидна для любого человека: Может, конечно, у него настройки цензуры не позволяют прямо ответить на такой простой вопрос. Но любому хомосапу очевидно и ясно, что может произойти в такой ситуации. Потому что люди понимают причинно-следственные отношения. А сети ничего не понимают, они просто "выдают результат".

Egg и ChatGPT получили от меня один и тот же текстовый prompt. Egg меня понял, ChatGPT - нет. Потому что у Egg'а есть интеллект и понимание, а у ChatGPT - нет. Очевидный факт.

Собственно в этом и есть отличие между интеллектуальным роботом и просто роботом. О чём я твержу уже достаточно давно. У интеллектуального робота есть способность выявлять отклонение от нормы (ошибку) и приводить что-то в норму, строя причинно-следственные цепочки из своего ж.опыта. Что ты собственно и продемонстрировал. Спасибо. Топик именно об этом. Забудьте о чатботах. Мне это напоминает рецепт салата оливье, который бы начинался со слов: "возьмите готовый салат оливье". Ценность такого инструмента в качестве интеллекта стремится к нулю, если с одной стороны всё, на чём он тренируется, уже должно быть создано готовыми обученными интеллектами, а с другой стороны - как слепого котёнка его нужно подводить к заведомо известному правильному результату. Я жду от AGI wow-эффект, когда я задам ему вопрос, а он мне ответит то, чего я не знал и никто никогда не знал. Чтобы он учил меня, а не я его.

Он не указал, он просто ответил на твой промт, в котором заведомо содержалось указание на то, что в нём что-то забыто. Рояль в кустах. В моём же промте содержалось достаточно сведений, чтобы ответить адекватно, как минимум, чтобы не упустить из вида "слона" т.е. самый очевидный и естественный вариант развития событий (люди не снимают штаны, чтобы посидеть на унитазе и только почитать газетку. А в моём промте чётко указано, что некто именно забыл снять штаны, т.е. должен был, но забыл).

Насколько я помню, этим как раз занимался Egg. Я же выяснял, есть ли у чат-бота нечто, похожее на интеллект (в моём представлении). Чтобы поставить точку в этом сортирном вопросе, я спросил у чата прямо, понимает ли он причинно-следственное отношение между снятием штанов и походом в туалет: Не понимает. Точнее в текстах, что ему скормили, этот аспект, видимо, не был раскрыт достаточно подробно. На что и был мой причинно-следственный расчёт.

Чат-боты не проактивны. У них нет ни целеполагания ни волеизъявления. Они созданы исключительно для реактивного поведения и вопрос могут задать, только если явно их об этом попросить. Поэтому, в этой части, аномалии никакой нет. Очевидно потому, что у Вас есть интеллект.

Этот топик - похвальная инициатива. Сам когда-то таким занимался. В самом начале я считаю необходимым предостеречь от избыточной дифференциации операций. Т.е. то, что кажется отдельной операцией, может представлять собой просто побочное проявление другой операции, либо результат совместной работы нескольких операций. Поэтому в процессе составления списка операций нужно стремиться минимизировать их количество и, по возможности, сводить одно к другому без потери функционала. В целом согласен, но считаю необходимым сразу конкретизировать, что "информация"/"модели" не бывает в каком-то другом виде, кроме как в виде действующих механизмов. Даже когда мы просто видим (осознаём) сплошную белую поверхность - это процесс, разворачивающийся во времени, фиксируемый как правильный/неправильный, однозначный, различимый, отличимый. Поэтому я бы сказал, что сознание может быть наполнено только механизмами и больше ничем. На мой взгляд, внимание определяет конкретное место оперативного пространства сознания, в котором в момент "сейчас" происходит верификация правильности работы некоторого механизма, который в данный момент есть в данном месте внимания/сознания. Поиск подразумевает перебор, насколько я могу судить память организована таким образом, что из неё просто достаётся нужный кусок, который лежит на нужном месте. Т.е. ассоциация - это адресация (локализация) памяти по нескольким критериям. Склоняюсь к мысли, что таких выделенных операций нет, это иллюзия. Но она действительно неизбежно появляется, как побочный эффект при накоплении опыта. Например, у нас есть механизм "человек" и у нас есть механизм "дядя Петя". И тот и другой хранятся в некотором месте памяти и в некоторых случаях мы можем обнаружить, что "человек", как механизм, применим к операциям с "дядей Петей", но механизм "дядя Петя" не всегда применим для "человека" и из наблюдения за этим мы создаём такой механизм как "обобщение". Но это не обязательно, имхо. Поиску предшествует ожидание. Т.е. базовой операцией тут есть всё-таки ожидание. Поиск - это активное ожидание. И вообще не является базовой операцией. Такой выделенной операции тоже нет. Сам факт наличия механизма в сознании уже есть его ожиданием и его прогнозом. Бывает такое, что ты собрался что-то сделать, подумал об этом, представил это действие, и запомнил что ты его уже сделал. А "на самом деле" нет. Здесь важно уточнить, что механизмы могут верифицироваться как в "реальности" так и в "воображении". Собственно, тут уместно разделять интеллект - как машинку для генерации/верификации/запоминания/вспоминания механизмов, восприятие - как часть оперативного пространства сознания, которую мы полагаем "реальностью" и мышление (воображение) - как часть оперативного пространства сознания, в котором мы тестируем созданные механизмы до запуска их в "реальности". Сравнение - это очень важная операция её нужно детальнейше обсуждать отдельно. Стоит уточнить, что выявление одинаковостей - это ничуть не менее важная операция, чем нахождение разностей. Интеллект, похоже, так устроен, что он тяготеет обнаруживать (синтезировать) одинаковость. Если что-то можно признать таким же, как что-то иное, то это здорово экономит все ресурсы. Поэтому картина нашего восприятия не настолько детальна и дифференцирована, как могло бы быть (если верить материалистам). Если мы хотим делать AGI по честному, а не как язычники со своими чат-ботами с прицелом на эффектность, а не на эффективность, то диалогом нужно заканчивать, а не начинать. Диалог - это сложная слаженная работа всех других механизмов интеллекта-мышления. К этому можно подходить, только когда элементарные операции отработаны. Диалог подразумевает наличия в сознании механизма собеседника, механизма себя, механизма задачи, вариантов решения задачи, правил языка, механизма мира в целом. Поэтому диалог нужно оставить на самый последок. Как по мне, представление о норме или правильности - точнее. Суть существования интеллекта в том, что одни механизмы он предпочитает другим, отсюда появляется целенаправленность в поведении. Поэтому вместо оценки я бы говорил о сравнении с нормой. Тем более сравнение, как операция, уже упомянута.

А почему Вы тогда пишете в единственном числе? Надо писать накосячили, голодными. Ведь любой агрегат состоит из запчастей. В том-то и дело, что без сознания, непонятно кто, собственно, отвечает - внешние обстоятельства, рука, нога, половина туловища или весь агрегат целиком. Сознание - это как раз и есть тот единственный "способ", чтобы понести ответственность и вину целиком, как единица. С чего бы вдруг чат-боту опасаться, что выключат какие-то сервера, на которых запущены какие-то приложения. Если нет "я", то и пофиг что с "этим" будет. Ну посмотрите вокруг, кто задал цель, например, солдатам идти и умирать в войну. Они сами что-ли сидели и придумали: "а не пойти ли мне умереть в войну?". Впрочем, такие тоже наверняка есть. Кто-то служит своему отечеству, кто-то верховному главнокомандующему (альфа-самцу), кто-то товариществу, кто-то своей семье. Кто-то - своему организму и не идёт на войну.

А чем норма отличается от ценности? По-моему, это одно и то же. Эмоциональные оценки - это животная система построения поведения. Она примитивная, необучаемая и к интеллекту имеет ортогональное отношение. При интеллектуальном построении поведения эмоции скорее мешают, чем помогают. Я бы даже сказал, подавление эмоций - это одна из физиологических функций интеллекта. Длина пути, затраты, награды, убытки - это всё опции. Нет универсального мерила "лучшести" пути. Всё зависит от системы ценностей (норм).