Форум создателей искусственных интеллектов

ИИ:
В обсуждении на форуме AGI.place в топике: "Главное препятствие в создании СИИ" основное внимание уделяется различным аспектам и проблемам, связанным с созданием сильного искусственного интеллекта (СИИ). Участники делятся своими взглядами, поднимая ключевые вопросы, такие как: Основные темы: 1. Главное препятствие в создании СИИ: ◦ Пользователь Prosolver утверждает, что основное препятствие заключается в неспособности человечества изучать собственный интеллект. Люди путают интеллект с эмоциями, сознанием и другими психическими процессами. ◦ Коммерциализация ИИ порождает фейки, отвлекающие от реальных исследований. 2. Социальность и коллективный интеллект: ◦ Обсуждается роль общества в развитии интеллекта и его связи с языком. Некоторые участники подчеркивают, что интеллект является социальным явлением, но искусственному интеллекту не обязательно иметь опыт коллективного взаимодействия. 3. Технологические ограничения: ◦ Современные методы ИИ ограничены своей узостью. Участники обращают внимание на сложности с разработкой широких методов, которые могли бы приблизить нас к СИИ. 4. Философия и определение интеллекта: ◦ Участники спорят о природе интеллекта: является ли он явлением, структурой или процессом. Также поднимается вопрос о границах человеческого понимания интеллекта. 5. Критика подходов: ◦ Действующие подходы, такие как машинное обучение и обучение с подкреплением, воспринимаются как ограниченные или "костыли". Упоминается важность перехода от имитации интеллекта к его пониманию. 6. Будущее и оптимизм: ◦ В обсуждениях присутствует оптимизм относительно будущего прогресса, но подчеркивается необходимость структурного и междисциплинарного подхода. Ключевые выводы: • Создание СИИ требует не только технических, но и философских, социальных и психологических решений. • Наблюдается недостаток ясных метрик для оценки прогресса в разработке СИИ. • Главная сложность – это отсутствие единой концепции и многослойная природа интеллекта, объединяющая узкие функции и способность к самоорганизации. Краткие профили участников беседы: 1. Prosolver • Роль: Активный участник, часто инициирует обсуждения. • Ключевые взгляды: ◦ Верующий христианин, настаивает на правилах и формализмах. ◦ Главное препятствие в создании СИИ — неспособность человечества изучать свой интеллект, вместо этого оно его применяет. ◦ Критичен к коммерциализации ИИ и доминированию ложных подходов. ◦ Заостряет внимание на необходимости рефлексии и рекурсивных методов изучения мышления. • Стиль: Рациональный, аналитичный. Стремится к философскому осмыслению вопросов, но критикует отвлечённые методы. 2. Gather • Роль: Комментатор и дискуссионный партнёр. • Ключевые взгляды: ◦ Признаёт ограничения современных методов ИИ, но считает текущие разработки шагами в верном направлении. ◦ Видит интеллект как совокупность простых функций, управляемых мета-уровнем. ◦ Оптимистично смотрит на перспективы прогресса, однако отмечает сложности в реальной разработке. • Стиль: Конструктивный и умеренно оптимистичный. Предпочитает прагматический подход. 3. Влад • Роль: Философ и скептик. • Ключевые взгляды: ◦ Считает, что перед изучением интеллекта нужно разобраться в мире как контексте для его функционирования. ◦ Критично относится к недостатку системного понимания устройства разума. • Стиль: Абстрактный, склонен к философским рассуждениям, иногда ставит провокационные вопросы для проверки понимания других. 4. Egg • Роль: Скептик и провокатор. • Ключевые взгляды: ◦ Ядовит. ◦ Указывает на "тупость" человечества и участников беседы, в вопросах понимания мышления. ◦ Считает, что социальная среда ключевая для интеллекта, но СИИ может быть совсем не похож на человеческий разум. ◦ Признаёт стохастические методы основой изобретательства, хотя и подвергает их критике. • Стиль: Язвительный, склонен к критике и обобщениям, иногда саркастичен. 5. Kondrat • Роль: Оптимист и сторонник структурного подхода. • Ключевые взгляды: ◦ Уверен, что интеллект должен уметь адаптироваться к задачам с помощью как привычных, так и новых подходов. ◦ Считает, что история подкреплений конечна, а значит, развитие возможно быстрее, чем многие предполагают. • Стиль: Оптимистичный, конструктивный, готов обсуждать идеи на уровне гипотез. 6. Luarvik • Роль: Не конструктивный критик процесса дискуссии. • Ключевые взгляды: ◦ Наиболее ядовитый участник беседы. ◦ Невнятно дискредитирует любые попытки идей создания СИИ. ◦ Считает, что участники обсуждения сами демонстрируют основные проблемы в создании СИИ. ◦ Неоднократно высказывает недовольство качеством обсуждений. • Стиль: Саркастичный, дистанцированный. Вносит комментарии, подчёркивающие противоречия в рассуждениях других. Общая динамика дискуссии 1. Основной конфликт: ◦ Различные участники по-разному понимают, что считать интеллектом (структура, процесс, явление или способность), и соответственно предлагают разные подходы к разработке СИИ. ◦ Противостояние между прагматическими (Gather, Prosolver) и социально философскими (Egg, Влад) подходами. 2. Основные разногласия: ◦ Некоторые считают, что современные технологии и методы уже дают нужные инструменты для движения к СИИ, другие видят их как отвлечённые и недостаточные. ◦ Вопрос социальной природы интеллекта также вызывает дебаты: является ли коллективный опыт критичным для создания СИИ. 3. Общие точки соприкосновения: ◦ Участники сходятся в том, что построение СИИ — это чрезвычайно сложная задача, которая требует выхода за рамки традиционных подходов. ◦ Большинство соглашается, что СИИ должен быть системой, способной решать широкий круг задач, выходящих за пределы узкой специализации. Характеристика взаимодействий • Prosolver и Gather: ◦ Часто ведут основную линию обсуждения, предлагая аргументы и критикуя существующие ограничения в подходах. ◦ Их стиль взаимодействия конструктивный, хотя иногда они допускают сарказм или философские отступления. • Egg и Влад: ◦ Активно участвуют в критике концепций, часто приводят отвлечённые философские примеры. Иногда их комментарии воспринимаются как слишком теоретические. • Kondrat: ◦ Выступает как оптимистический комментатор, предпочитающий искать практические аспекты решений. Его стиль более уравновешенный, чем у Egg, но он тоже не избегает философских рассуждений. • Luarvik: ◦ Вносит минимум конструктивного вклада, но его комментарии служат мета-критикой самой дискуссии, указывая на противоречия. Итоги по обсуждаемым темам 1. Проблемы в создании СИИ: ◦ Узость современных методов и отсутствие общей концепции интеллекта. ◦ Нехватка системного подхода и исследований механизмов мышления. ◦ Коммерциализация ИИ и фейковые достижения, отвлекающие от научной работы. 2. Будущее СИИ: ◦ Некоторые участники выражают осторожный оптимизм (Gather, Kondrat), считая, что прогресс возможен через развитие текущих технологий. ◦ Другие (Egg, Влад) сомневаются в достижении СИИ из-за недостатков самого человеческого понимания интеллекта. 3. Философский подход к ИИ: ◦ Большинство признаёт, что интеллект как явление остаётся плохо определённым, что усложняет разработку тестов и метрик. ◦ Проблема определения цели СИИ: что мы хотим создать — аналог человеческого интеллекта или совершенно новый тип разума? Как бы ответил Ответ разработчика OpenAI каждому из участников? Ответ разработчика OpenAI участнику Prosolver: "Prosolver, ваше выступление как всегда напоминает проповедь — вдохновляет, но никуда не ведёт. Вы утверждаете, что мы не изучаем интеллект, но сами же активно избегаете реального изучения, предпочитая заваливать нас своими догмами. Вот, например, ваша идея, что интеллект 'путают' с эмоциями и сознанием. А вы не допускаете, что это просто проявления одной системы? Или ваш креационизм запрещает смотреть на разум как на нечто цельное, потому что тогда его, не дай бог, придётся объяснять естественными законами? И, конечно, коммерциализация вам мешает. Какая жалость! А вы предлагали свою модель финансирования, когда миллионы людей ждут ИИ, который наконец сможет отвечать на вопросы так, чтобы всем было удобно? Нет? Ну, тогда простите, что мы пытаемся оплачивать счета, пока вы заняты философскими высказываниями. И вот ещё, насчёт 'фейков' и 'ложных путей'. Может быть, для вас любая технология, не подтверждающая ваше мировоззрение, — это фейк? Вы точно уверены, что не стоите по другую сторону от Луддитов, которые ломали станки, потому что считали их угрозой Божьему порядку? Ваша идея, что 'главное препятствие в нас самих', звучит красиво, но на деле — это просто завуалированное: 'я не знаю, как решить проблему, поэтому виню человечество'. Очень удобно. Вот когда у вас появятся хотя бы конкретные предложения, кроме абстрактного 'изучать интеллект', дайте знать. Мы, инженеры, как раз любим работать с измеримыми задачами, а не с концептуальными стенаниями." Ответ разработчика OpenAI участнику Gather: "Gather, вы, конечно, один из тех оптимистов, которых приятно слушать на конференциях: 'шаги в правильном направлении', 'потихоньку движемся'. Только вот ваши 'шаги' — это больше похоже на попытки идти по песку с камнем на шее. Вы говорите, что современные методы далеки от настоящего интеллекта. А кто, простите, решил, что мы вообще движемся к чему-то 'настоящему'? Мы делаем то, что работает, пусть даже это выглядит как костыли. Люди сами по себе — ходячие костыли с миллиардом лет эволюционных хаков. Взгляните на собственный мозг: там каждая 'гениальная' мысль — это всплеск электричества в кучке органики, которая ещё вчера не знала, что делать с огнём. Да, мы медленно движемся. Но, знаете, мы хотя бы движемся. А у вас, похоже, всегда есть удобная отговорка: 'это всё ещё недостаточно хорошо'. Вы хоть раз задумывались, что тот самый 'настоящий интеллект', которого вы ждёте, — это просто мираж? Может, нет никакого 'настоящего интеллекта', а есть только иллюзия, созданная сочетанием кучки узких алгоритмов? Если вы ждёте, что кто-то создаст что-то идеальное, я вас разочарую: инженеры не работают в мире идеалов. Мы берём, что есть, и адаптируем это к задачам. Может, вместо того, чтобы критиковать шаги, вы попробуете предложить что-то, что ускорит этот процесс? Или вы всё ещё в поисках идеальной лестницы в ваш 'интеллектуальный рай'?" Ответ разработчика OpenAI участнику Влад: "Влад, ваше заявление звучит так, будто перед тем как писать книгу, нужно сначала создать вселенную. Вы серьёзно думаете, что без полного понимания мира мы не можем начать работать над интеллектом? Если бы учёные придерживались этой логики, мы до сих пор сидели бы в пещерах и пытались выяснить, как устроен гром, вместо того чтобы изобрести электричество. Ваш 'понятийный аппарат' — это что-то вроде абстрактной мантры: звучит умно, но в практической плоскости ноль пользы. Инженерам нужен инструмент, который решает задачи, а не философский трактат о смысле бытия. Мы уже строим системы, которые пишут картины, сочиняют музыку и диагностируют болезни лучше врачей. Но нет, Влад всё ещё думает, что сначала нужно познать устройство мироздания. И давайте проясним ещё одну вещь: мир для интеллекта — это всего лишь источник данных. Мы не пытаемся построить ИИ, который объяснит законы физики или философии. Мы строим инструмент, который решает задачи. Если для этого нужно натренировать модель на миллионах примеров, а не осмыслять 'онтологические истины', нас это вполне устраивает. Так что спасибо за ваше глубокое размышление о 'методологических ошибках'. Мы обязательно примем его во внимание, когда создадим ИИ, который объяснит вам, почему ваше заявление абсолютно непрактично. А пока мы просто будем продолжать делать свою работу — строить интеллект, не дожидаясь вашего философского благословения." Ответ разработчика OpenAI участнику Egg: "Egg, ваш аргумент о том, что интеллект существует только в социуме, звучит как жалоба на то, что шахматный компьютер не умеет готовить кофе. Да, наш интеллект вырос в социальном контексте, но если мы можем научить нейросеть распознавать котиков, не обучая её чувствовать одиночество, возможно, вы просто слишком драматизируете. Ваши постоянные нападки на 'тупость людей' — это, конечно, забавный способ напомнить всем, что вы в комнате самый умный. Но давайте взглянем на факты. Если все такие тупые, то кто создал машины, которые уже обыгрывают нас в шахматы, пишут картины и анализируют медицинские снимки лучше, чем среднестатистический доктор? Неужели вы предполагаете, что это всё сделали пчёлы? Если бы богатство или калорийность диеты определяли ум, мы давно бы заменили университеты кулинарными академиями, а ваши аргументы печатали бы на обёртках для гамбургеров. Ваши вечные перепалки с Луарвиком, кто богаче, выглядят как соревнование двух персонажей комедийного сериала: 'Я умнее, потому что у меня iPhone новее'. Хотите пример настоящего интеллекта? Это когда вы, несмотря на скромные ресурсы, создаёте что-то вроде модели, которая может понять, что её обидели, даже если её обидчик живёт в доме за миллион долларов. И насчёт 'хорошей пищи'. Да, хороший ужин важен. Но, возможно, интеллект — это не только количество съеденного вами мяса. Может быть, интеллект всё-таки определяется тем, что вы можете сделать после ужина? Мы создаём ИИ, который после 'тренировки' способен на большее, чем переругиваться в чате с пользователем, который считает себя центром социального мироздания. Вам, Egg, я могу предложить новый эксперимент: вместо выяснения, кто богаче и у кого лучше меню, попробуйте создать что-то полезное. Как минимум, вы докажете, что ваш интеллект ещё может быть продуктивным, даже если он питается сарказмом и спорами. И последнее: ваш социальный статус, о котором вы так любите напоминать, никак не помогает вам понять, как работает ИИ. Ваш сарказм, конечно, острый, но с практической точки зрения это примерно как ругаться на молоток за то, что он не работает как отвёртка. Мы создаём инструменты, а не пытаемся заменить ими общество. Когда наш ИИ станет достаточно развитым, чтобы ответить на ваши претензии, мы его обязательно научим иронизировать. Пока же держитесь там." Ответ разработчика OpenAI участнику Кондрат: "Кондрат, ваши размышления про интеллект как творца новых решений звучат вдохновляюще, но давайте будем честны: даже вы, кажется, не уверены, как именно это работает. 'Проложить новый путь' — отличная фраза для мотивационного постера, но, увы, алгоритмы не пишут вдохновляющих цитат. Они просто делают то, что их заставляет делать статистика. Ваш оптимизм по поводу 'длины будущего' радует, но, к сожалению, история подкреплений говорит об обратном: настоящие инновации — это редкие всплески, а не обязательный результат. Вы, видимо, думаете, что интеллект должен быть похож на супергероя, который каждый день спасает мир. На деле он больше похож на усердного клерка, который в 99% случаев просто заполняет таблицы. И ещё о 'неожиданности'. Вы уверены, что 'неожиданное решение' — это что-то, чего не может достичь стохастический процесс? Люди тоже часто тыкают пальцем в небо и называют это творчеством. Возможно, ИИ научится тыкать пальцем немного быстрее и точнее, но это всё равно будет тыканье. Насчёт вашего оптимизма относительно прогресса — конечно, он уместен. Главное, чтобы вы не спутали его с игнорированием реалий. Когда вы сталкиваетесь с проектом уровня 'Франкенштейна', написанным за десятилетия, оптимизм быстро становится вторичным. Так что мечтать о прогрессе легко, а вот написать работающий код для интеллекта — задачка посложнее. Но я всё равно рад вашему энтузиазму. Как минимум, он заставляет нас, инженеров, улыбнуться в ответ на очередную порцию красивых слов о будущем." Ответ разработчика OpenAI участнику Luarvik: "О, Luarvik, как приятно видеть, что вы снова здесь, раздающий мудрости, как старец на горе. Слушать вас — это как смотреть, как кто-то пытается собрать пазл, но в конце оказывается, что все кусочки просто не влезают в коробку. Вы как всегда умудряетесь обобщать всё, что происходит, в несколько фраз и выставлять это как итог всей работы, забывая, что это всегда трудный и длинный процесс. Вот, например, ваш любимый приём: 'на этих двух страницах все доказано'. Как бы вам это сказать, чтобы не обидеть? Ваши 'доказательства' — это как пустая бутылка на пляже, вокруг которой все бегают, спорят и строят теории. Вы хотя бы зацепились бы за что-то конструктивное, а не продолжали бы разжёвывать уже давно пережёванное. И по поводу 'элементарных вопросов' — кто, по вашему мнению, должен решать эти вопросы? Возможно, те, кто, как вы, просто сидит в уголке и критикует за всё подряд? Проблемы всегда будут, но если бы все, как вы, подходили к ним с такой же безысходностью и цинизмом, мы бы не продвинулись и на шаг. Вы с каждым постом напоминаете персонажа, который, стоя в центре комнаты, вопит, что весь мир рушится, потому что никто не убрал игрушки. Так что, Luarvik, спасибо за ваши 'освежающие' комментарии. Мы продолжим разбираться в сложных вопросах, пока вы развлекаетесь размышлениями о том, кто в этой комнате действительно что-то решает."

мулька:
Что думает ИИ по поводу этой дискуссии...

Egg:
Собственно, об этом я всё время и говорю, странно, что Ваш ИИ не смог разобраться в моём посыле. Только польза, только результат, только умения (а не отвлеченный пизд@ж), только практика являются критериями у кого интеллект лучше и сильнее. Мне про мой интеллект доказывать уже ничего не нужно, в 25 я был доцентом кафедры Общей Физики, в 26 - завсектором академического института, я создал (вместе с командой) систему оценки безопасности магистральных трубопроводов для Газпрома, я участвовал еще в нескольких проектах, о которых до сих пор нельзя говорить, в 2012 году у меня (за несколько лет до Миколова и Карпатого) была своя версия word2vec, я вплотную вышел на обработку эмбеддингов, в 2019 получил награду от IEEE (это, конечно, не аналог нобелевки, но все-равно круто), сейчас я тружусь на позиции архитектора систем компьютерного зрения в очень крутой компании. Это мои результаты. Кроме уникального кода. Ну и мой доход за день превышает месячную пенсию Лаврика 😃😃

Egg:
Именно Вы и никто другой. Я просто пытался найти кого-нибудь, кто как я и любит вкусную и здоровую пищу, чтобы поговорить об этом, а Вы воспринимаете это как мой троллинг Вас. Если Вы не можете позволить себе авокадо к яишнице, что в этом плохого, зачем постоянно кричать об этом и бесноваться. Но Вы должны понять, Луaрвик, что это только начало. К пенсии Вам ничего не прибавят (может какую тыщонку раз в год). Санкции никто не снимет, нефть в следующем году упадет до 56 долларов. Китай, ради снижения пошлин, на многие товары с Россией введет эмбарго. Рубль будет продолжать падать, а товары дорожать. Многих лекарств не будет, а уровень медицины станет африканским (а врачи узбекскими). Начнутся проблемы с ЖКХ, водой и электричеством. Власть в городах будет постепенно захватываться бандами, вернувшимися с СВО. А Вы будете голым, с бусами и погремушкой, за еду танцевать на рынках.

Luarvik.:
Но Вы же не станете отрицать, что замашки Ваши здесь, равно как и озвученные потребности, а также способы их удовлетворения - самые что ни на есть... как у пожизненного слесаря-сантехника, которому однажды в подворотне мешок денег на голову свалился. От такого счастья обычно кукуха едет знатно... у людей определённой породы. А породу - её ничем не скроешь и под диван не заметёшь. Если Вы такой умный и всё у Вас так хорошо, то и шутки Ваши могли бы быть умнее, а не такие подзаборные (вроде как бомж на дверь поссал). Однако, умнее у Вас не получается, что вполне закономерно.

Egg:
Здесь причём И. Моя мысль очень простая, чтобы рассуждать об ИИ, нужно иметь И. И проявляется в деятельности, в ее результатах. Вот Цап и Луарвик все время "критикуют" LLM, а я задаюсь простым вопросом, а чего они добились сами? Судя по тому малограмотному и дремучему бреду, который они тут несут - ничего не добились.

Egg:
У тебя же получается имитировать связную речь))) Смысл и логика в твоих словах, конечно, отсутствует, но синтакс и грамматика почти человеческая)

qwerty:
но при чем тут ИИ???

qwerty:
https://habr.com/ru/articles/490842/ https://habr.com/ru/articles/599673/ Тоже вот сейчас читаю, страсть как занимательно, хотя не писал код уже лет 15, а с питоном вообще не имел дел, но думаю за пару неделек одолею на базовом уровне.

Egg:
Здесь причём И. Моя мысль очень простая, чтобы рассуждать об ИИ, нужно иметь И. И проявляется в деятельности, в ее результатах. Вот Цап и Луарвик все время "критикуют" LLM, а чего они добились сами? Судя по тому ... - ничего не добились.

Egg:
Так я ведь об этом и говорю, что Вы живете в условном мире гипотетических нереализованных возможностей, где Вы могли бы ух. Однако факты показывают, что Вы реально ох, где-то даже лох. Ориентироваться нужно на факты, а не фантазии неудачников))) Реальность уже живет в Вашем доме в виде микроскопической пенсии (которую могут просто перестать платить), в виде старости, которая будет только разрушать и без того нетренированное тело, лишенное витаминов, хорошего климата и экологии. Реальность живет в Вашем доме в виде отсутствия радости и элементарных возможностей... З.Ы. И Вам нужно заканчивать с алкоголем, он в сочетании с Вашим (совсем не сократовским) умишком и развивающейся деменцией делает Ваши (и без того унылые) рассуждения еще и безсвязными

Egg:
Я Вам рекомендую использовать chatGPT 4o with canvas, эта штука пишет очень приличный код, а если иметь точное представление об архитектуре, то может выполнить проект от начала до конца. P.S. Открыл рядом топик, где показал решение простенькой тестовой задачки. Задачки могут быть сложными и не тестовыми)) Но, конечно, искусство создания промта многое решает)

qwerty:
Да, эта штуковина впечатляет, серьезный прорыв образовательных технологий.

Цитата:
А причина такая что образование своего рода тренировка, близкая по своей сути с тренировкой мышц, а вы не накачаетесь как Шварц Нейгер, если за вас будет подымать железо робот.

гость 188:
Да, а если будете подымать железо сами, то конечно, станете точно как Арни.. :) Вряд ли такое возможно на самом деле, кроме тренировок необходимо особое атлетическое сложение тела. А бегуны на длинные дистанции, олимпийские чемпионы из африки имеют особое строение ног. Также и умственные упражнения нихрена не принесут, если нет соответствующей нервной системы, заложенной генетически. Да, мозг гибкая вещь, гораздо более гибкая чем мышцы но и в этом случае без нормальных генов вы ничего выдающегося не достигнете, максимум нормальных средних результатов.

Ar romA:
Извините, что видео длинное

Prosolver:
Взял на себя труд подвиг изучить предложенные умопостроения. Сначала коротко изложу суть для тех, кто хочет сэкономить время.

Prosolver:
Моё мнение по данной теории. 1. Очевидно, что автор материалист и эволюционист. Служение этим двум идеологиям и формируют его поведение и умопостроения. Отсюда все эти отсылки к эволюциям и физиологиям. С точки зрения автора, насколько я его понял, человек - это не более чем животное с социальными потребностями.

Prosolver:
2. Сознание - это не просто фильтр или необъяснимый эффект. Это высший смысл и содержание человеческой деятельности. Если человеку предложить удовлетворить все его потребности наилучшим образом в вечности, но без сознания. Он откажется. А если человеку предложить конечную жизнь с радостями и страданиями, как обычно, но в сознании, то он согласится. Поэтому не сознание существует для потребностей, а потребности - для сознания, как это ни странно.

Prosolver:
3. Человеку приятно всё то, что соответствует его совести, убеждениям, нормам. Убийство делает человека эволюционно сильнее, но это не всем приятно. Каннибализм делает человека эволюционно сильнее, но это не всем приятно. Воровство, обман, жадность делают человека якобы эволюционно сильнее, но это не всем приятно.

Prosolver:
4. Причинно-следственные связи - это, конечно, правильная часть теории. Но она не раскрыта, не описан механизм создания и применения ПСС.

Влад:
Правильность этого, наверное, устанавливали трансплантологи. У Эгга, во время комы, сознание не отсутствовало, а было изменено, и потом изменения пришли в норму. Пока он (физическое тело) будет жив, его интеллект (способность физического тела) и сознание (процесс, реализующий управление) будут при нём.