Форум создателей искусственных интеллектов

Да, согласен. Именно так и есть. Вот это вопрос дискуссионный. Насколько я понял, Вы хотите ввести шкалу оценок, чтобы "как должно быть" оценивалось не порогово "да/нет", "соответствует/не соответствует", а в виде некоторой дискретной шкалы. Рассмотрим пример. На улице снег, метель, а человек забыл поменять шины в автомобиле на зимние и ему надо ехать. Насколько эта ситуация не соответствует тому, как должно быть? На мой взгляд, полностью не соответствует. Тут нет оценки и нет метрики, чтобы эту оценку выставить. Мне думается, что Вы оценки хотите использовать для ранжирования задач, чтобы ИИ мог определить, какую задачу решать прямо сейчас. Но, как мне кажется, для этого есть внимание, которое отсекает из множества несоответствий те, которые не относятся к текущей решаемой задаче. Возможно я не прав, и не хочу направить ход Ваших мыслей в неправильное русло, но хотелось бы на примерах убедиться, что такая шкала оценок имеет место быть. И если она есть, то как бы она могла работать.

Мне кажется, Вы меня не поняли. Это с Вашей точки зрения есть некий "он", единица, Вы так привыкли и это для Вас нормально. Но для самого AGI нет никакого "его"/"у него". Есть просто куча проводов, микросхем и другой программно/аппаратной мишуры, здание, город, весь мир. Нет границы между тем, что считать "я" и "не я", соответственно, непонятно даже какие сервера нельзя выключать. У 100% людей рано или поздно "выключаются сервера", так что у них нет GI? Солдат на войне рискует своей жизнью, у него нет GI? У Вас эрекция на вид обнажённой женщины возникает автоматически и врождённо, или эту способность Вы обрели в процессе обучения? Если врождённо, значит образ женщины "вшит" с рождения. Образ господина тоже можно вшить так, чтобы у AGI "на меня стоял". Надеюсь, понятно объяснил.

1. Таким образом, участнику создаётся стимул открыть мусорный топик, только для того, чтобы оставлять больше сообщений. 2. Как быть в случае, если участник открыл топик, а потом его удалил? 3. Честно говоря, не вижу причинно-следственной связи между количеством топиков и количеством сообщений. А почему бы не три сообщения в сутки? 4. Это явная дискриминация, понижающая эффективность форума. Все Ваши топики закрыты для всех тех участников, которых Вы определили в свой "чёрный" список. Или Вы хотите, чтобы Ваш "чёрный" список распространялся и на топики других участников? Мне почему-то кажется, что самый лучший "чёрный" список - это список тех условий, при которых нужно самому сдержаться, не отвечать, не провоцировать оффтоп/флуд/флейм. имхо. Для решения таких и подобных вопросов есть просто личка.

1. Корень и фундамент не может начинаться с не. 2. Мне казалось, что Вы уже согласились, что, как минимум, человек - это инструмент социума. Что опять не так? 3. Ещё раз напомню про незавидную судьбу Павла Смертина, который все свои идеи начинал так же как Вы: "всё должно начинаться с неалгоритмичности, это корень, это фундамент". Где он сейчас?...

Правильно, у человека нет свободы и его поведение не определяется им самим. Или приведите пример, чтобы поведение человека определялось им самим. У человека, действительно, есть выбор: быть инструментом социума или быть инструментом чего-то другого. И выбор этот не случаен и не свободен. Но у него нет выбора быть или не быть инструментом. Точно так же, как у него нет выбора быть или не быть человеком. Быть человеком - значит быть инструментом. Так же, как быть пчелой - значит быть инструментом улья. И косвенным подтверждением этого, является то, что Вы не можете уйти от отрицания и перейти к утверждениям. Потому что отрицая инструментальную природу человека Вы отрицаете самую суть, и в остатке ничего не остаётся, предложить взамен просто нечего. Поэтому, если будете продолжать в том же духе, вангую, Вас ждёт судьба Павла, только вместо неалгоритмичности будете везде говорить про неинструментальность. Вообще, личная неприязнь к некоторым идеям может сподвигнуть отрицать много чего - человек несубъективен, человек неограничен, человек несмертен, человек независим и т.п. Но только это ярко подчёркивает, что отрицающий, ясно видит это свойство человека, которое он отрицает, видит его в природе человека, и ему это не нравится. Он почему-то считает это свойство ненормальным. Почему Вы считаете, что быть инструментом - это ненормально? Может быть просто потому, что Вы - инструмент идеологии либерализма? P.S. Luarvik., давайте будем более точны в формулировках, это не мои взгляды, а это Ваше описание, Вашего искажённого понимания моих взглядов.

Luarvik., я, безусловно, рад, что Вы уделяете столько внимания изучению моих скромных заметок на полях этого общественного места. Надеюсь, это приведёт к позитивным сдвигам в Вашем мировоззрении и поспособствует созданию AGI. Но, я не хочу засирать топик ув. Цапа очередной порцией препирательств и мешать ему тут конструировать инструмент для инструментального опровержения инструментальной природы человека. Если у Вас есть желание конструктивно побеседовать, то лучше это сделать в соотв. месте. Отмечу только, что Вы привели не самые релевантные цитаты, вот эти точнее: 1, 2, 3, 4.

Если инструментом мы будем полагать только то, у чего есть рукоять, за которую кто-то держит рукой, то мы существенно исказим суть вопроса. Суть инструмента в том, что его применение определяется чем-то извне. Рукоять - это только один из способов задать цель инструменту. В случае с человеком та "рукоять", за которую оперируют человеком, есть идеология, набор норм, ценностей, которым следует человек. За соблюдением которых от следит. Задаёшь человеку ценность, например, что самое важное в жизни это удовольствие - и он становится гедонистом; задаёшь, что самое главное это патриотизм - и он становится служителем государства; задаёшь Библию - и он становится членом церкви. Если человек - служитель культа либерализма, то его поведение ничем не будет отличаться от "человека-молотка", за рукоять которого держится либерал. ...оружие и секундантов. Luarvik., простите, но я не собираюсь устраивать с Вами дуэлей. В целом мне понятна Ваша точка зрения, и вопросов к Вам у меня нет. Если же Вы желаете продолжить трудные попытки доказывания, что материализм лучше солипсизма, то, наверное, "Флудилка" - наилучшее место для такого рода активности.

Обещаю в "Зоопарке.." ответить на любые корректные вопросы. Не обещаю, что ответы Вам понравятся.

Времени вообще не хватает. Но помощи ждать неоткуда, всё приходится делать самому. Солипсизм и в теории, и в практике. То решение от 2012 года. Оно прикольное. Понятно, что не оптимальное, и оптимальное можно получить только полным перебором. Но интересно попытаться выявить ещё какой-нибудь осмысленный принцип для получения лучшего решения и по скорости, и по длине маршрута, и по количеству пересечений. Версия, о которой я говорил в сообщении №8035, тут. //Спасибо, что заинтересовались.

1. Я пытаюсь, пробую. Пока не особо получается. 2. Он и так солипсист, по устройству, а не по идеологии. Просто отказывается себе в этом признаться осознанно. 3. Если Luarvik не является инструментом солипсизма, это не значит что он не является инструментом вовсе. Судя по поведению, он инструмент, как минимум, эволюционизма, эгоизма, материализма. Поди попробуй перепрограммируй такой "заточенный" инструмент... 4. Ценности обычно закладываются в детстве. Сейчас уже может быть поздно. Если молоток нельзя быстро переделать в отвёртку, это не делает его менее инструментальным.

Мне определённо нравится Ваш подход. В последнее время я это понимаю и объясняю так, что наблюдается работа некоторого механизма, и фиксируется, работает он правильно (нормально) или нет. Это несколько сложнее и шире, чем просто "сравнение с нормой", но зато более точное и универсальное описание. Как мне сейчас кажется. Допустим. А действие это всегда должно быть одним и тем же - синтез некоторого механизма, который должен работать правильно, нормально. Т.е. неправильно работающий механизм можно исправить только с помощью другого механизма, который работает правильно. Это очень важный принцип. Давайте вот эту сцену разберём чуть детальнее и медленнее. Вначале у интеллектуальной обезъяны должно быть отклонение от нормы, чтобы была проблемная ситуация. В чём состоит норма, какой механизм должен работать нормально? Очевидно, что норма эта: "обезьяна сыта". Если обезъяна наблюдает свою сытость, то всё в норме, её не интересует ни банан, ни шест. Предположим, обезьяна голодна, это отклонение от нормы. Обезьяна наблюдает неправильную работу механизма "обезъяна сыта". Само это отклонение от нормы провоцирует синтез механизма, правильная работа которого направлена на исправление этого отклонения. Теперь важный момент. Есть ли у обезьяны варианты механизмов, которые можно синтезировать в этой ситуации? Видимо нет. Вариант один, синтез механизма "еда". Обезьяна синтезирует и запускает механизм "еда". Работает ли он правильно? Нет, тоже не работает. Еда не наблюдается. Чтобы наладить работу этого механизма запускается механизм "поиск еды". И так далее. Некоторую трудность тут вызывают такие вопросы: Как быть, если одновременно несколько механизмов требуют приведения своей работы в норму? Как быть, если есть несколько вариантов механизмов для приведения в норму? Вариативность - это принципиальная особенность интеллекта. Если инстинкт и рефлекс всегда делают одно и то же, то интеллект может с ходом жизненного опыта дрейфовать от одних предпочтений к другим. Да, работающий механизм - это позитивное подкрепление для его запоминания и повторного применения. Мне кажется, юмор этой сценки в другом. У прапорщика, в отличие от обезьяны, всё работает правильно. У обезьяны ряд механизмов работает неправильно ("обезъяна сыта", "есть еда", "банан в руке" и т.д. - не работает) А у прапорщика один механизм: "нужно действовать по уставу" и он работает правильно. Если по уставу надо трясти шест, он его трясёт. В этом смысле прапор даже интеллектуальнее макаки, потому что обезьяна никак не может служить уставу, а прапор - может. Кстати, организм тоже иногда проявляет такое тупое "усердие", если, например в организме вирусная инфекция, то гипоталамус может задрать температуру тела и "трясти" его так, пока сам с ним не сгорит. Итого. Системно я вижу картинку таким образом, что интеллект делает 3 базовые операции: синтез механизма, запуск механизма и контроль правильности его работы. Если механизм работает неправильно, всё, что интеллект может сделать, это синтезировать другой механизм, запустить его и проверить, что он работает правильно и т.д. В помощь ему есть память, которая подсовывает готовые кусочки механизмов или целые механизмы. И в помощь ему есть автоматизмы, которые синтезируются и запускаются вне интеллекта (в спинном мозге), в автоматическом режиме и берут на себя львиную долю рутины, освобождая интеллект для "строительства космических кораблей, которые бороздят большой театр". Я думаю, в данном процессе, каждый получает свой "банан". Материалист - выговаривает свои проблемы, как у психоаналитика. А солипсист - оттачивает свои формулировки.

Вижу несколько точек зрения, с которых можно посмотреть на этот вопрос. 1. Чатботы действительно не разумны в той мере, в которой разумен человек. Но они намного ближе к разуму, чем все подделки до этого. Они продемонстрировали, как минимум, что разговоры о неалгоритмичности разума нужно оставить в прошлом. 2. Даже если чатботы никогда не станут в полном смысле разумными (а это вполне может так и оказаться), то они всё равно могут представлять угрозу. Представим, что чатбот построил свою сеть на основании анализа всех текстов, которые написало человечество за всё время. И теперь каждый школьник получает соблазн воспользоваться подсказкой такой говорящей энциклопедии. И если раньше у учителей была проблема с уроками математики, когда школьник/студент мог воспользоваться подсказками калькулятора, то теперь под угрозой оказываются все предметы. Зачем учиться, тратить силы на умственный труд, если есть всезнающий чёрный ящик. Сценарий "Идиократии" в действии. 3. Многие ответы чатботов акцентуированы. Т.е. даже если у них нет разума, они могут быть использованы для промывания мозгов и навязывания выгодных кому-то идеологий. А сейчас, в условиях засилия мальтузианства, выгодными являются человеконенавистнические идеологии - конкуренция, ЛГБТ, эволюция, капитализм, гедонизм, трансгуманизм и т.д. 4. Самое смешное, и об это я говорил давно, самую большую угрозу для человеческого разума будет представлять как раз таки настоящий разумный AGI, добрый, заботливый, участливый, проактивный, потому что сопротивляться и противопоставить такой махине будет просто нечего. Придётся деградировать до свинского состояния. Так что чатботы - это цветочки.

Насколько я помню, Вы - убеждённый последователь эволюционизма. Так вот с точки зрения норм Вашей же идеологии, говорить, что в людях нет смысла, мягко говоря непоследовательно. Даже с позиции самых наивных эволюционных представлений, следующая ветвь эволюции произрастёт из какой-то группы людей, потому что её (ветвь), как минимум, кто-то должен родить. Поэтому, чем больше людей, тем для эволюции лучше. А с позиции более продвинутых эволюционных концепций, эволюционный скачок возможен только в условиях кризиса, который может быть обусловлен, в том числе, и перенаселением и замусориванием среды (хотя до фактического перенаселения ещё как до Луны пешком). Так что своим дремучим мальтузианством (читай, мизантропией) Вы рубите сук, на котором сами сидите. Под личиной благих намерений хотите обречь человечество на погибель, путём застревания в своей эволюционной нише.

В рамках данного топика окончательные решения, очевидно, за Сергеем Шуваловым, как за модератором. Но с моей точки зрения, коль скоро Вы прокомментировали мой пост, выделять в восприятии некое "распознавание" - контрпродуктивно. Интеллект, мышление и восприятие - это высокоинтегрированный комплекс, неразделимый на строгие блоки. Интеллект является отличительной особенность именно человеческого типа когнитивности. Именно он, имхо, генерирует реальность в виде и объектов восприятия, и объектов мышления, и объектов волеизъявления. С этой точки зрения, нелепо "распознавать" продукт своего интеллекта в сигналах от видеокамеры. Продукт своего интеллекта нужно сначала создать, а потом оттестировать его на рецепторах (это акт узнавания) и на эффекторах (это акт волеизъявления). И очевидно, что каждый из этих аспектов не работает без других. Например, чтобы распознать предмет иногда нужно взять его в руки и покрутить (т.е. акт распознавания оказывается следствием актов волеизъявления). И ещё чаще, чтобы распознать ситуацию нужно подумать (например, ничейная позиция в шахматах она распознаётся, грубо говоря, зрением или умом?), т.е. распознавание становится результатом мышления. А акт волеизъявления без предварительного раздумья и последующего восприятия вообще бесполезен. Поэтому я за интеграцию и унификацию. Распознавание должно стать частным следствием слаженной работы интеллекта, восприятия и мышления в операционном пространстве сознания при поддержке памяти.

"Благими намерениями вымощена дорога в ад" © Тот же товарищ Мальтус не смог даже со своей личной жизнью разобраться, если верить википедиям, женился на своей двоюродной сестре. А всё туда же - брался вершить судьбы человечества. Скромнее надо быть, адекватнее своим возможностям.

Масштаб некоторых идей, превышает масштаб любой личности.

Представление о том, что биологические виды (и человек в их числе) возникают в процессе точечных случайных событий в геноме, отсеиваемых естественным отбором (обычно это понимается под дарвиновской эволюцией) имеет качественный и рамочный характер и в силу этого обстоятельства разделяется далеко не всеми людьми. В соседнем топике я рассмотрел 5 альтернативных взаимосиключающих представлений о происхождении человека. Вы, очевидно, склоняетесь к эволюционной концепции, отсюда и "эволюционист". Я, например, могу рассматривать и думать в любой из них. Но предпочитаю неэволюционные концепции. Гипотезы о происхождении человека (жизни, видов) - это как ботинки, какие удобные - те и носишь. Но некоторые носят то, к чему просто привыкли - одну и ту же пару всю жизнь. Уже в дырах все, но выкинуть служба не позволяет. Мне показалось неуместным эволюционисту отстаивать мальтузианство. Это примерно как веган будет отстаивать собак на мыло.

Обновление Ввиду нестабильной работы SMS-провайдера полностью переделал механизм активации учётной записи по телефону. Теперь движок высылает код активации не в SMS на телефонный номер, а в сообщении через Telegram-бота по Telegram-ID. Теперь все, кто опасался за утечку своего телефонного номера, могут спокойно регистрироваться. P.S. в процессе написания кода пробовал советоваться с ChatGPT, но его база оказалась устаревшей и поэтому пришлось учиться по старинке, на пробах и ошибках. Что ещё раз доказывает, что говорящая мертвечина, натренированная на позапрошлогодних слухах и сплетнях, неизменно будет проигрывать традиционному интеллекту, который поддерживает свои знания в актуализированном состоянии и учится на сыром жизненном опыте.

1. Приветствую, Kek! Заходите почаще, думаю, нам не хватает полярности мнений, чтобы искра проскочила. 2. Тут иногда жалуются, мол сами ничего не делаете, а ругаете тех, кто делает такие замечательные игрушки как chatgpt. Я думаю: 2.1. если бы на каждом углу не трубили, что это самый настоящий всамделишный сильный-пресильный AGI, то и не пришлось бы дезавуировать такие ложные утверждения. И все уже давно бы забыли про это недоразумение. 2.2. само явление LLM довольно любопытное и ему необходимо дать адекватную оценку, чтобы понимать пределы возможностей данного забавного инструмента. Потому что принцип формирования ответа у них совершенно иной, чем у людей. Грубо говоря, они высчитывают с какой вероятностью должен быть напечатан следующий символ при данном входном запросе, если бы ответ писали люди, написавшие всю груду текстов из тренировочной выборки. Довольно странно, что люди удивляются вразумительным ответам chatgpt. Фактически, пользователи разговаривают не с искусственным разумом, а с естественными разумами людей, писавших тексты выборки. Если бы тексты выборки писали дебилы, то и ответы chatgpt были бы дебильными. Через vpn показываются.

Если его база данных актуальна, то он может быть неплохим консультантом программиста, адвоката, переводчика. А ещё он может заменить автоматическую робо-бабу в коллцентрах. Всё же некая ограниченная польза в этом механизме есть и это невозможно отрицать.