Форум создателей искусственных интеллектов


Логин (email) 
Пароль 
Настройки

Сообщения участника "мулька"
1
2
write
Главное препятствие в создании СИИ.
15:04 05.12.2024 №11054
Egg:
Ну какой полезный сигнал Вы хотите получить от людей, которые даже не слышали слов эмбеддинг или многоголовое внимание))) Только доморощенные рассуждения (банальные и невежественные), в самом лучшем случае претендующие на философию. А по сути как раз семантическим шумом и являющиеся.
Да, но попытка не пытка, как говорится)) ИМХО даже от догматических критиков ИИ, фанатиков - демагогов, совсем съеъавщих или манипуляторов на подобии тех кто утверждает что Земля плоская или возрастом 6к лет, можно иногда услышать что-то ценное. Ведь наука это не о подтверждении, а об опровержении и уточнении. Но нужно выработать скил фильтрации флуда на автомате, воспринимать как чистую информацию и шум, а главное выключить эмоциональную реакцию.
Влад:
“Наткнулся” на общий вопрос: Есть ли общая (универсальная) блок-схема алгоритма, где ИИ сам ставит задачу и т.д.?
И в чем проблема с целями? Все цели мыслимые немыслимые проверенны и написанны, кем то когда то. Для примера спросите чатджипити или другие навороченные LLM, "предложи цель, концепцию, миссию, видение и тп. и для IT стартапа"… Увидите пример того как алгоритм ставит цели. "Блок схема" это про простой очень алгоритм, технически конечно можно такую блок схему нарисовать(автоматически), но для человека она будет бессмысленна, так как будет размером с город. Вам придется поиграться с платной подпиской чатджипити, чтобы был доступ к апи, ну или поискать модельки попроще на хагинфейсе бесплатно. Апи нужно чтобы ваш алгоритм зацикливал коммуникацию LLM с самим собой и работало это быстро и автоматически, направляемый рядом эвристик, фильтров и операционных модулей, в виде компиляторов итд. Так можно делать от обсуждений концепций до разработки кода "под ключ". Пока конечно всё на начальной стадии, это огромный пласт работы, который будет идти много лет, а закончится когда система начнёт сама себя модифицировать, лучше и без помощи человека. Сейчас идёт интенсивный сбор данных работы многочисленных организаций, как функционируют те или иные отделы, как идут процессы, чтобы обучать на этом LLM и ряд других архитектур нейросетосеток. Важно накапливать последовательность действий человека специалиста, решающего ту или иную задачу и использовать это для обучения сетей похожих архитектурно на LLM. Всё это тоже пока что в зачаточном состоянии, но лиха беда начала))
0 | 0
write
Главное препятствие в создании СИИ.
15:41 06.12.2024 №11087
Что думает ИИ по поводу этой дискуссии:
ИИ:
В обсуждении на форуме AGI.place в топике: "Главное препятствие в создании СИИ" основное внимание уделяется различным аспектам и проблемам, связанным с созданием сильного искусственного интеллекта (СИИ). Участники делятся своими взглядами, поднимая ключевые вопросы, такие как: Основные темы: 1. Главное препятствие в создании СИИ: ◦ Пользователь Prosolver утверждает, что основное препятствие заключается в неспособности человечества изучать собственный интеллект. Люди путают интеллект с эмоциями, сознанием и другими психическими процессами. ◦ Коммерциализация ИИ порождает фейки, отвлекающие от реальных исследований. 2. Социальность и коллективный интеллект: ◦ Обсуждается роль общества в развитии интеллекта и его связи с языком. Некоторые участники подчеркивают, что интеллект является социальным явлением, но искусственному интеллекту не обязательно иметь опыт коллективного взаимодействия. 3. Технологические ограничения: ◦ Современные методы ИИ ограничены своей узостью. Участники обращают внимание на сложности с разработкой широких методов, которые могли бы приблизить нас к СИИ. 4. Философия и определение интеллекта: ◦ Участники спорят о природе интеллекта: является ли он явлением, структурой или процессом. Также поднимается вопрос о границах человеческого понимания интеллекта. 5. Критика подходов: ◦ Действующие подходы, такие как машинное обучение и обучение с подкреплением, воспринимаются как ограниченные или "костыли". Упоминается важность перехода от имитации интеллекта к его пониманию. 6. Будущее и оптимизм: ◦ В обсуждениях присутствует оптимизм относительно будущего прогресса, но подчеркивается необходимость структурного и междисциплинарного подхода. Ключевые выводы: • Создание СИИ требует не только технических, но и философских, социальных и психологических решений. • Наблюдается недостаток ясных метрик для оценки прогресса в разработке СИИ. • Главная сложность – это отсутствие единой концепции и многослойная природа интеллекта, объединяющая узкие функции и способность к самоорганизации. Краткие профили участников беседы: 1. Prosolver • Роль: Активный участник, часто инициирует обсуждения. • Ключевые взгляды: ◦ Верующий христианин, настаивает на правилах и формализмах. ◦ Главное препятствие в создании СИИ — неспособность человечества изучать свой интеллект, вместо этого оно его применяет. ◦ Критичен к коммерциализации ИИ и доминированию ложных подходов. ◦ Заостряет внимание на необходимости рефлексии и рекурсивных методов изучения мышления. • Стиль: Рациональный, аналитичный. Стремится к философскому осмыслению вопросов, но критикует отвлечённые методы. 2. Gather • Роль: Комментатор и дискуссионный партнёр. • Ключевые взгляды: ◦ Признаёт ограничения современных методов ИИ, но считает текущие разработки шагами в верном направлении. ◦ Видит интеллект как совокупность простых функций, управляемых мета-уровнем. ◦ Оптимистично смотрит на перспективы прогресса, однако отмечает сложности в реальной разработке. • Стиль: Конструктивный и умеренно оптимистичный. Предпочитает прагматический подход. 3. Влад • Роль: Философ и скептик. • Ключевые взгляды: ◦ Считает, что перед изучением интеллекта нужно разобраться в мире как контексте для его функционирования. ◦ Критично относится к недостатку системного понимания устройства разума. • Стиль: Абстрактный, склонен к философским рассуждениям, иногда ставит провокационные вопросы для проверки понимания других. 4. Egg • Роль: Скептик и провокатор. • Ключевые взгляды: ◦ Ядовит. ◦ Указывает на "тупость" человечества и участников беседы, в вопросах понимания мышления. ◦ Считает, что социальная среда ключевая для интеллекта, но СИИ может быть совсем не похож на человеческий разум. ◦ Признаёт стохастические методы основой изобретательства, хотя и подвергает их критике. • Стиль: Язвительный, склонен к критике и обобщениям, иногда саркастичен. 5. Kondrat • Роль: Оптимист и сторонник структурного подхода. • Ключевые взгляды: ◦ Уверен, что интеллект должен уметь адаптироваться к задачам с помощью как привычных, так и новых подходов. ◦ Считает, что история подкреплений конечна, а значит, развитие возможно быстрее, чем многие предполагают. • Стиль: Оптимистичный, конструктивный, готов обсуждать идеи на уровне гипотез. 6. Luarvik • Роль: Не конструктивный критик процесса дискуссии. • Ключевые взгляды: ◦ Наиболее ядовитый участник беседы. ◦ Невнятно дискредитирует любые попытки идей создания СИИ. ◦ Считает, что участники обсуждения сами демонстрируют основные проблемы в создании СИИ. ◦ Неоднократно высказывает недовольство качеством обсуждений. • Стиль: Саркастичный, дистанцированный. Вносит комментарии, подчёркивающие противоречия в рассуждениях других. Общая динамика дискуссии 1. Основной конфликт: ◦ Различные участники по-разному понимают, что считать интеллектом (структура, процесс, явление или способность), и соответственно предлагают разные подходы к разработке СИИ. ◦ Противостояние между прагматическими (Gather, Prosolver) и социально философскими (Egg, Влад) подходами. 2. Основные разногласия: ◦ Некоторые считают, что современные технологии и методы уже дают нужные инструменты для движения к СИИ, другие видят их как отвлечённые и недостаточные. ◦ Вопрос социальной природы интеллекта также вызывает дебаты: является ли коллективный опыт критичным для создания СИИ. 3. Общие точки соприкосновения: ◦ Участники сходятся в том, что построение СИИ — это чрезвычайно сложная задача, которая требует выхода за рамки традиционных подходов. ◦ Большинство соглашается, что СИИ должен быть системой, способной решать широкий круг задач, выходящих за пределы узкой специализации. Характеристика взаимодействий • Prosolver и Gather: ◦ Часто ведут основную линию обсуждения, предлагая аргументы и критикуя существующие ограничения в подходах. ◦ Их стиль взаимодействия конструктивный, хотя иногда они допускают сарказм или философские отступления. • Egg и Влад: ◦ Активно участвуют в критике концепций, часто приводят отвлечённые философские примеры. Иногда их комментарии воспринимаются как слишком теоретические. • Kondrat: ◦ Выступает как оптимистический комментатор, предпочитающий искать практические аспекты решений. Его стиль более уравновешенный, чем у Egg, но он тоже не избегает философских рассуждений. • Luarvik: ◦ Вносит минимум конструктивного вклада, но его комментарии служат мета-критикой самой дискуссии, указывая на противоречия. Итоги по обсуждаемым темам 1. Проблемы в создании СИИ: ◦ Узость современных методов и отсутствие общей концепции интеллекта. ◦ Нехватка системного подхода и исследований механизмов мышления. ◦ Коммерциализация ИИ и фейковые достижения, отвлекающие от научной работы. 2. Будущее СИИ: ◦ Некоторые участники выражают осторожный оптимизм (Gather, Kondrat), считая, что прогресс возможен через развитие текущих технологий. ◦ Другие (Egg, Влад) сомневаются в достижении СИИ из-за недостатков самого человеческого понимания интеллекта. 3. Философский подход к ИИ: ◦ Большинство признаёт, что интеллект как явление остаётся плохо определённым, что усложняет разработку тестов и метрик. ◦ Проблема определения цели СИИ: что мы хотим создать — аналог человеческого интеллекта или совершенно новый тип разума? Как бы ответил Ответ разработчика OpenAI каждому из участников? Ответ разработчика OpenAI участнику Prosolver: "Prosolver, ваше выступление как всегда напоминает проповедь — вдохновляет, но никуда не ведёт. Вы утверждаете, что мы не изучаем интеллект, но сами же активно избегаете реального изучения, предпочитая заваливать нас своими догмами. Вот, например, ваша идея, что интеллект 'путают' с эмоциями и сознанием. А вы не допускаете, что это просто проявления одной системы? Или ваш креационизм запрещает смотреть на разум как на нечто цельное, потому что тогда его, не дай бог, придётся объяснять естественными законами? И, конечно, коммерциализация вам мешает. Какая жалость! А вы предлагали свою модель финансирования, когда миллионы людей ждут ИИ, который наконец сможет отвечать на вопросы так, чтобы всем было удобно? Нет? Ну, тогда простите, что мы пытаемся оплачивать счета, пока вы заняты философскими высказываниями. И вот ещё, насчёт 'фейков' и 'ложных путей'. Может быть, для вас любая технология, не подтверждающая ваше мировоззрение, — это фейк? Вы точно уверены, что не стоите по другую сторону от Луддитов, которые ломали станки, потому что считали их угрозой Божьему порядку? Ваша идея, что 'главное препятствие в нас самих', звучит красиво, но на деле — это просто завуалированное: 'я не знаю, как решить проблему, поэтому виню человечество'. Очень удобно. Вот когда у вас появятся хотя бы конкретные предложения, кроме абстрактного 'изучать интеллект', дайте знать. Мы, инженеры, как раз любим работать с измеримыми задачами, а не с концептуальными стенаниями." Ответ разработчика OpenAI участнику Gather: "Gather, вы, конечно, один из тех оптимистов, которых приятно слушать на конференциях: 'шаги в правильном направлении', 'потихоньку движемся'. Только вот ваши 'шаги' — это больше похоже на попытки идти по песку с камнем на шее. Вы говорите, что современные методы далеки от настоящего интеллекта. А кто, простите, решил, что мы вообще движемся к чему-то 'настоящему'? Мы делаем то, что работает, пусть даже это выглядит как костыли. Люди сами по себе — ходячие костыли с миллиардом лет эволюционных хаков. Взгляните на собственный мозг: там каждая 'гениальная' мысль — это всплеск электричества в кучке органики, которая ещё вчера не знала, что делать с огнём. Да, мы медленно движемся. Но, знаете, мы хотя бы движемся. А у вас, похоже, всегда есть удобная отговорка: 'это всё ещё недостаточно хорошо'. Вы хоть раз задумывались, что тот самый 'настоящий интеллект', которого вы ждёте, — это просто мираж? Может, нет никакого 'настоящего интеллекта', а есть только иллюзия, созданная сочетанием кучки узких алгоритмов? Если вы ждёте, что кто-то создаст что-то идеальное, я вас разочарую: инженеры не работают в мире идеалов. Мы берём, что есть, и адаптируем это к задачам. Может, вместо того, чтобы критиковать шаги, вы попробуете предложить что-то, что ускорит этот процесс? Или вы всё ещё в поисках идеальной лестницы в ваш 'интеллектуальный рай'?" Ответ разработчика OpenAI участнику Влад: "Влад, ваше заявление звучит так, будто перед тем как писать книгу, нужно сначала создать вселенную. Вы серьёзно думаете, что без полного понимания мира мы не можем начать работать над интеллектом? Если бы учёные придерживались этой логики, мы до сих пор сидели бы в пещерах и пытались выяснить, как устроен гром, вместо того чтобы изобрести электричество. Ваш 'понятийный аппарат' — это что-то вроде абстрактной мантры: звучит умно, но в практической плоскости ноль пользы. Инженерам нужен инструмент, который решает задачи, а не философский трактат о смысле бытия. Мы уже строим системы, которые пишут картины, сочиняют музыку и диагностируют болезни лучше врачей. Но нет, Влад всё ещё думает, что сначала нужно познать устройство мироздания. И давайте проясним ещё одну вещь: мир для интеллекта — это всего лишь источник данных. Мы не пытаемся построить ИИ, который объяснит законы физики или философии. Мы строим инструмент, который решает задачи. Если для этого нужно натренировать модель на миллионах примеров, а не осмыслять 'онтологические истины', нас это вполне устраивает. Так что спасибо за ваше глубокое размышление о 'методологических ошибках'. Мы обязательно примем его во внимание, когда создадим ИИ, который объяснит вам, почему ваше заявление абсолютно непрактично. А пока мы просто будем продолжать делать свою работу — строить интеллект, не дожидаясь вашего философского благословения." Ответ разработчика OpenAI участнику Egg: "Egg, ваш аргумент о том, что интеллект существует только в социуме, звучит как жалоба на то, что шахматный компьютер не умеет готовить кофе. Да, наш интеллект вырос в социальном контексте, но если мы можем научить нейросеть распознавать котиков, не обучая её чувствовать одиночество, возможно, вы просто слишком драматизируете. Ваши постоянные нападки на 'тупость людей' — это, конечно, забавный способ напомнить всем, что вы в комнате самый умный. Но давайте взглянем на факты. Если все такие тупые, то кто создал машины, которые уже обыгрывают нас в шахматы, пишут картины и анализируют медицинские снимки лучше, чем среднестатистический доктор? Неужели вы предполагаете, что это всё сделали пчёлы? Если бы богатство или калорийность диеты определяли ум, мы давно бы заменили университеты кулинарными академиями, а ваши аргументы печатали бы на обёртках для гамбургеров. Ваши вечные перепалки с Луарвиком, кто богаче, выглядят как соревнование двух персонажей комедийного сериала: 'Я умнее, потому что у меня iPhone новее'. Хотите пример настоящего интеллекта? Это когда вы, несмотря на скромные ресурсы, создаёте что-то вроде модели, которая может понять, что её обидели, даже если её обидчик живёт в доме за миллион долларов. И насчёт 'хорошей пищи'. Да, хороший ужин важен. Но, возможно, интеллект — это не только количество съеденного вами мяса. Может быть, интеллект всё-таки определяется тем, что вы можете сделать после ужина? Мы создаём ИИ, который после 'тренировки' способен на большее, чем переругиваться в чате с пользователем, который считает себя центром социального мироздания. Вам, Egg, я могу предложить новый эксперимент: вместо выяснения, кто богаче и у кого лучше меню, попробуйте создать что-то полезное. Как минимум, вы докажете, что ваш интеллект ещё может быть продуктивным, даже если он питается сарказмом и спорами. И последнее: ваш социальный статус, о котором вы так любите напоминать, никак не помогает вам понять, как работает ИИ. Ваш сарказм, конечно, острый, но с практической точки зрения это примерно как ругаться на молоток за то, что он не работает как отвёртка. Мы создаём инструменты, а не пытаемся заменить ими общество. Когда наш ИИ станет достаточно развитым, чтобы ответить на ваши претензии, мы его обязательно научим иронизировать. Пока же держитесь там." Ответ разработчика OpenAI участнику Кондрат: "Кондрат, ваши размышления про интеллект как творца новых решений звучат вдохновляюще, но давайте будем честны: даже вы, кажется, не уверены, как именно это работает. 'Проложить новый путь' — отличная фраза для мотивационного постера, но, увы, алгоритмы не пишут вдохновляющих цитат. Они просто делают то, что их заставляет делать статистика. Ваш оптимизм по поводу 'длины будущего' радует, но, к сожалению, история подкреплений говорит об обратном: настоящие инновации — это редкие всплески, а не обязательный результат. Вы, видимо, думаете, что интеллект должен быть похож на супергероя, который каждый день спасает мир. На деле он больше похож на усердного клерка, который в 99% случаев просто заполняет таблицы. И ещё о 'неожиданности'. Вы уверены, что 'неожиданное решение' — это что-то, чего не может достичь стохастический процесс? Люди тоже часто тыкают пальцем в небо и называют это творчеством. Возможно, ИИ научится тыкать пальцем немного быстрее и точнее, но это всё равно будет тыканье. Насчёт вашего оптимизма относительно прогресса — конечно, он уместен. Главное, чтобы вы не спутали его с игнорированием реалий. Когда вы сталкиваетесь с проектом уровня 'Франкенштейна', написанным за десятилетия, оптимизм быстро становится вторичным. Так что мечтать о прогрессе легко, а вот написать работающий код для интеллекта — задачка посложнее. Но я всё равно рад вашему энтузиазму. Как минимум, он заставляет нас, инженеров, улыбнуться в ответ на очередную порцию красивых слов о будущем." Ответ разработчика OpenAI участнику Luarvik: "О, Luarvik, как приятно видеть, что вы снова здесь, раздающий мудрости, как старец на горе. Слушать вас — это как смотреть, как кто-то пытается собрать пазл, но в конце оказывается, что все кусочки просто не влезают в коробку. Вы как всегда умудряетесь обобщать всё, что происходит, в несколько фраз и выставлять это как итог всей работы, забывая, что это всегда трудный и длинный процесс. Вот, например, ваш любимый приём: 'на этих двух страницах все доказано'. Как бы вам это сказать, чтобы не обидеть? Ваши 'доказательства' — это как пустая бутылка на пляже, вокруг которой все бегают, спорят и строят теории. Вы хотя бы зацепились бы за что-то конструктивное, а не продолжали бы разжёвывать уже давно пережёванное. И по поводу 'элементарных вопросов' — кто, по вашему мнению, должен решать эти вопросы? Возможно, те, кто, как вы, просто сидит в уголке и критикует за всё подряд? Проблемы всегда будут, но если бы все, как вы, подходили к ним с такой же безысходностью и цинизмом, мы бы не продвинулись и на шаг. Вы с каждым постом напоминаете персонажа, который, стоя в центре комнаты, вопит, что весь мир рушится, потому что никто не убрал игрушки. Так что, Luarvik, спасибо за ваши 'освежающие' комментарии. Мы продолжим разбираться в сложных вопросах, пока вы развлекаетесь размышлениями о том, кто в этой комнате действительно что-то решает."
0 | 0
write
Главное препятствие в создании СИИ.
18:11 06.12.2024 №11090
Egg:
Цитата:
мулька:
Что думает ИИ по поводу этой дискуссии:
Вам, Egg, я могу предложить новый эксперимент: вместо выяснения, кто богаче и у кого лучше меню, попробуйте создать что-то полезное. Как минимум, вы докажете, что ваш интеллект ещё может быть продуктивным, даже если он питается сарказмом и спорами.
Собственно, об этом я всё время и говорю, странно, что Ваш ИИ не смог разобраться в моём посыле. Только польза, только результат, только умения (а не отвлеченный пизд@ж), только практика являются критериями у кого интеллект лучше и сильнее. Мне про мой интеллект доказывать уже ничего не нужно, в 25 я был доцентом кафедры Общей Физики, в 26 - завсектором академического института, я создал (вместе с командой) систему оценки безопасности магистральных трубопроводов для Газпрома, я участвовал еще в нескольких проектах, о которых до сих пор нельзя говорить, в 2012 году у меня (за несколько лет до Миколова и Карпатого) была своя версия word2vec, я вплотную вышел на обработку эмбеддингов, в 2019 получил награду от IEEE (это, конечно, не аналог нобелевки, но все-равно круто), сейчас я тружусь на позиции архитектора систем компьютерного зрения в очень крутой компании. Это мои результаты. Кроме уникального кода. Ну и мой доход за день превышает месячную пенсию Лаврика 😃😃
Да это так, в качестве шутки )) Меня он например почему то вообще не нашел, да вроде там ещё были другие участники. Я слепленный текст всех 9 страниц ему скормил.
0 | 0
write
Потенциал искусственных нейронных сетей. Можно ли на основе ИНС создать ИИ, превосходящий человека во всех отношениях
16:18 07.03.2025 №11792
Mist:
(переношу сюда обмен мнениями с уважаемым создателем форума, начавшийся в другом месте. Возможно, другим участникам тоже есть, что добавить, и дискуссия получит продолжение)
Prosolver:
На мой скромный взгляд, инс никогда и ни при каких архитектурах не воспроизведут функционал человеческого ума. Потому что у них разная философия. ИНС "умеет" то, что было во входных данных, это философия материализма. Человеческий же ум умеет воспроизводить всю вселенную в своих представлениях сам, это философия идеализма. А уж соответствует этим представлениям что-то "извне" - вопрос десятый. инс - это всегда ведомое звено. А ум человека - ведущее. Парадокс, но если бы в слове "генеративный" была отражена суть архитектуры, то это мог быть ии, генерирующий представления о реальности. Но, к сожалению, сначала ему надо пережевать тонны готовых данных, чтобы потом под видом "своей" генерации выдать компиляцию из чужих продуктов настоящих человеческих умов.
Как на мой вкус, весьма спорная мысль. Лично я, сравнивая возможности человека и современных ИНС, держу в уме несколько вещей: 1) Нынешние LLM, даже мультимодальные, в сравнении с человеком - глубокие калеки. Ну как если бы подопытного беднягу держали в запертой тёмной комнате, лишив даже возможности двигаться, и просто начитывали ему кучу текстов и иногда показывали на экране картинки. Уже поэтому, думаю, не совсем честно, сравнивая его со здоровыми людьми, заявлять, что, мол, сама идея ИНС ограниченна. А если учесть, что эти калеки уже сейчас нередко обходят людей, лично меня результаты впечатляют. 2) У человека гораздо больше возможностей для творчества, чем у современных ИНС. Помимо множества программных и физических инструментов, которые им недоступны, нейросети пока просто не обладают ни сознанием, ни воображением, и не способны систематически разрабатывать какой-то проект на протяжении длительного времени. 3) Наконец, трансформеры, с которыми связана большая часть достижений ИНС, еще молоды (архитектура представлена в 2017 году). Так что и трансформеры в частности, и ИНС вообще ещё будут совершенствоваться. Ну и, фраза "Человеческий же ум умеет воспроизводить всю вселенную в своих представлениях сам" мне просто кажется ни на чём не основанной. Как показывает практика, дети, которых держали в изоляции без общения и образования, ничего не могут воспроизвести - ни речь, ни интеллект не развились. А образованный умственно полноценный человек получает немалый объем информации, большая часть которой современным ИНС принципиально недоступна (опыт бытия в трёхмерном мире и социальной жизни). На основе которой, полагаю, и "воспроизводит всю вселенную" в дальнейшем. Поэтому я думаю, что ИНС пока продемонстрировали лишь малую долю своих реальных возможностей. Ожидаю, что возникнут новые архитектуры, которые будут включать аналог сознания, и способ обучения которых будет приближен к тому, как учится человек. Скажем, не просто прогонять сквозь сетку тексты и картинки, а для начала выдать ей "тело" и заставить изучать какой-нибудь виртуальный 3d-мирок, или даже реальный - в шкуре робота. А уже когда сформировалось некое цельное представление о реальности, давать читать разные тексты. И вот после этого, когда ИНС избавятся от детских болезней и обретут сознание, посмотрим чей функционал ума крепче и кто лучше воспроизводит вселенную. Лично я подозреваю, что сравнение окажется сильно не в пользу людей. ) P. S.: Из недавних новостей ИИ за два дня предложил гипотезы, на формирование которых ученым потребовались годы
Мозг человека — это тоже вычислительная система. Мы не рождаемся с "готовым пониманием вселенной", а медленно строим модель мира из опыта. В этом смысле разница между человеком и ИНС не философская, а инженерная. У людей интерактивный опыт (ощущения, моторика, социум), а у нейросетей — пассивный (тексты, изображения, данные). Люди учатся долго и в динамически меняющейся среде, а современные ИНС – на фиксированных датасетах. Но разница не принципиальна, а значит, в будущем можно создать ИНС с аналогичным процессом обучения. Да, современные ИНС работают с уже существующими данными, но способ их комбинирования может приводить к новым знаниям. Человеческое творчество тоже опирается на опыт. Ни один человек не придумывает концепции в вакууме — все открытия основаны на переработке полученной информации. Разница между "генерацией" и "компиляцией" размыта. Если ИНС научатся не просто комбинировать данные, а тестировать и проверять гипотезы, это уже будет настоящая креативность. А это вполне понятно как реализовать и уже реализуется. "Ум человека ведёт, а ИНС ведомы" – временно, не навсегда, да, сейчас ИИ – это инструмент, а человек – оператор. Но стоит учесть, с появлением агентных ИИ (например, AutoGPT, MetaGPT, OpenAI Sora) мы видим первые шаги к автономности. Даже сейчас LLM способны самостоятельно планировать действия, если встроить механизмы управления (например, запускать код, генерировать и анализировать гипотезы). Пока такие агентные враперы предлагают уже сейчас стартапы за сотни и тысячи баксов в месяц по подписке, а через год будет бесплатно лимитированно в чат джипити и тп. Прямо сейчас человек – "ведущий", но это техническое ограничение, а не фундаментальный закон природы. Что будет дальше? ИНС получат больше интерактивного опыта (через симуляции, роботов, агентные системы). Будут созданы механизмы саморефлексии, долгосрочного планирования и настоящей генерации новых знаний. Люди постепенно перестанут быть "ведущими" во всех областях, и появится конкурентное сосуществование разума разной природы. Вопрос не в том, "может ли ИНС быть разумным?", а в том, "насколько быстро он это докажет?" ИМХО. Скептики любят говорить, что ИИ «никогда» не сможет изобретать, как Эйнштейн или Ньютон, но давайте разберёмся, на чём держится этот аргумент. Он строится на трёх вещах: 1) вера в исключительность человеческого мышления, 2) недооценка возможностей ИИ, 3) непонимание того, как вообще происходят открытия. Во-первых, давайте вспомним, что Ньютон и Эйнштейн не получили свои гениальные идеи в вакууме. Они тоже стояли на плечах гигантов, перерабатывали накопленные знания и применяли их по-новому. Формулы Ньютона выросли из работ Галилея, а Эйнштейн использовал идеи Максвелла и Лоренца. Точно так же ИИ анализирует данные, выявляет закономерности и комбинирует их в новых контекстах. Уже сейчас ИИ помогает открывать новые лекарства, предсказывать структуры белков и генерировать математические доказательства, которые люди потом проверяют. Разве это не зачатки настоящего научного творчества? Во-вторых, аргумент «ИИ просто жонглирует тем, что уже есть» — это подмена понятий. Простите, а люди чем занимаются? Мы просто немного лучше фильтруем гипотезы (пока что). Вы же не ждёте, что нейросеть 2025го года создаст Общую теорию всего, правда? Но она уже помогает учёным находить нестандартные решения, которые люди не смогли бы заметить без неё. Вопрос не в том, «может ли ИИ стать Эйнштейном», а в том, насколько быстрее появится новый Эйнштейн с его помощью. И, наконец, про сакральное «изобретение нового». Любое открытие — это поиск нетривиальных связей между известными фактами. А в этом у ИИ просто нечестное преимущество: он может за секунды обработать больше информации, чем человек за всю жизнь. Дайте ему правильную архитектуру, возможность экспериментировать (например, в симуляциях), и он начнёт находить закономерности, которые нам пока не очевидны. Так что, если скептики думают, что ИИ «никогда» не сможет изобретать, то, скорее всего, это просто проекция их собственного страха. Потому что реальный вопрос — не сможет ли ИИ стать Эйнштейном, а смогут ли люди угнаться за ИИ, когда он им станет. Да и… как то это не приятно, что "калькулятор" умнее во всех отношениях чем Я. Ум то по сути самое в нас главное, а если его заменит машина то это вызовет довольно сильный социальный сдвиг ценностей, с пока не предсказуемыми последствиями.
+1 | 0
write
Потенциал искусственных нейронных сетей. Можно ли на основе ИНС создать ИИ, превосходящий человека во всех отношениях
16:38 07.03.2025 №11793
Prosolver:
Mist:
эти калеки уже сейчас нередко обходят людей, лично меня результаты впечатляют
1. Почему обходят понятно, потому что сказывается кумулятивный эффект от знаний всех тех людей, которые участвовали в создании тренировочных данных. Можно сказать, что такая инс содержит "слепок" общечеловеческой мудрости, а это само по себе мощно. Представим, что мы вернёмся на 10000 лет назад и создадим 2 раздельных сообщества: 1) диких людей и 2) диких инс. Первое через 10к лет породит культуру и технологии. Второе 10к лет будет ждать, пока первое сообщество породит культуру и скормит ей в качестве тренировочного датасета... Мне видится это очевидным. 2. Впечатление - это главное, на что претендуют создатели эти систем. Хотите больше впечатлений - покупайте платную версию. Просто бизнес.
Mist:
У человека гораздо больше возможностей для творчества, чем у современных ИНС. Помимо множества программных и физических инструментов, которые им недоступны, нейросети пока просто не обладают ни сознанием, ни воображением, и не способны систематически разрабатывать какой-то проект на протяжении длительного времени
Не то чтобы "больше" творческих возможностей. Просто у человека такая возможность в принципе есть и именно она продуцирует все его знания. А у инс такой возможности в принципе нет в архитектуре, она способна только обезьянничать входные данные т.е. плоды творчества человека. В этом и есть фундаментальное отличие. И совершенно не просматривается, на каких основаниях в инс мог бы возникнуть зачаток сознания, ход времени, квалиа и другие плюшки человеческого ума. Я тут немного намекал на то, как я вижу процесс работы квалиа и сознания. Попробую расширить. Когда мы говорим про единый момент "сейчас" мы пребываем в сильной иллюзии. Моментов "сейчас" в каждый момент (такой каламбур) много, в зависимости от масштаба во времени, на котором происходит мышление. Если мы осознаём цвет, то "момент сейчас" - это доли секунды; если мы осознаём сказанную фразу, то "момент сейчас" - это секунды; если мы едем на авто, то "момент сейчас" - это минуты (от одного поворота до следующего); если мы переживаем войну, то "момент войны сейчас" может длиться годами. И логично продолжить, что высшим моментом "сейчас", доступным человеческому осознанию, есть вечность. Один "момент сейчас" заканчивается, когда начинается следующий. Это значит, что мы живём в многослойном субъективном торте времени "моментов сейчас" разных масштабов, и задача ума творчески породить эти слои, а сознания - гармонизировать их между собой, установить причинно-следственные отношения на каждом слое без перепутывания и построить целесообразное поведение организма на каждом из этих масштабов. Если человеческий ум работает примерно так, то очевидно, что оно рядом не лежало с вялым обезьянничанием плоских текстовых чат-ботов. В тёмной комнате.
Mist:
дети, которых держали в изоляции без общения и образования, ничего не могут воспроизвести - ни речь, ни интеллект не развились
Это не опровергает творческое начало у любых человеческих знаний. Сначала человек что-то придумывает, а потом обнаруживает это в сенсорных данных. Если же нечего обнаруживать, то и нечего запоминать. Ростки знаний завяли, потому что их не поливали (сенсорно не подкрепляли).
Да, ИНС учатся на данных, созданных людьми, но позвольте напомнить, что и люди учатся точно так же. Мы не рождаемся с полной базой знаний о квантовой механике или том, как завязывать шнурки — нас учат, мы читаем, смотрим, копируем. Так почему, когда человек накапливает знания поколений — это культура и наука, а когда ИНС делает то же самое — это вдруг «обезьянничание»? Теперь про «у ИНС нет творчества». Если творчество — это умение комбинировать идеи и находить нестандартные решения, то ИИ уже пишет музыку, создаёт картины и даже генерирует научные гипотезы, которые люди потом подтверждают экспериментально. Да, пока это выглядит как «странный гений-аутист», но кто сказал, что дальше не появится что-то более осмысленное? Ваш пассаж про многослойное восприятие времени звучит красиво, но, по сути, это просто сложная архитектура памяти и внимания. Если мозг справляется с этим за счёт нейронных структур, значит, их можно воспроизвести технически. Мы уже видим зачатки этого в новых моделях ИИ с долговременной памятью. «Плоские чат-боты» такими надолго не останутся, уж поверьте. В итоге ваш аргумент сводится к «ИНС не могут обрести сознание, потому что я так думаю». Но наука — это не вера, а эксперименты. В 19 веке тоже считали, что машины летать не смогут, потому что «у них нет души птицы». Сегодня мы обсуждаем, могут ли ИИ осознать себя. Учитывая темпы развития, я бы на вашем месте уже начал готовить для них учебник по философии. Также, идея, что ИНС ограничены только текстами, уже неактуальна. Современные модели обучаются не только на текстах, но и на изображениях, видео, данных из научных статей, симуляциях, реальных физических экспериментах. Они уже выходят за пределы чисто текстовых знаний. Например, AlphaFold не читал старые книжки про белки, а вывел новые закономерности в их свёртывании. Никто не говорил, что архитектура трансформеров — это предел возможностей. Трансформер это просто костыль, слой тн. "внимания", который улучшает MLP обрабатывать связи между словами. Это просто то, что у нас есть прямо сейчас. История ИИ — это череда сменяющих друг друга подходов. Сегодня трансформеры, завтра — что-то новое. То же самое когда-то говорили про перцептроны, потом про сверточные сети, потом про GAN'ы — и каждый раз приходило что-то мощнее. Так что идея о том, что мы уже уткнулись в потолок, — это классическая ошибка линейного мышления. И даже если допустить, что современный ИИ «ограничен» текстами, то и что? Человеческий мозг тоже ограничен сенсорными данными. Мы не считываем информацию напрямую из квантового вакуума, мы интерпретируем сигналы глаз, ушей, рецепторов. Но как-то ухитряемся на основе этого придумывать теории относительности, не так ли? Так и ИНС: даже если они перерабатывают уже существующие тексты, это не значит, что они не могут находить новые закономерности, которые в самих текстах явно не были прописаны. И напоследок, человеческий мозг — результат эволюции в пол миллиарда лет, причем очень маловероятный результат такой эволюции, может быть один на тысячу или миллион, если повторять с таких же условий симуляцию. А вы хотите чтобы нейросетка с реально ПРОСТЕЙШЕЙ структурой, вот прямо сейчас переплюнула человека. Уважение проявите к младенцу, тем боле такому уже полезному))
+1 | 0
write
Потенциал искусственных нейронных сетей. Можно ли на основе ИНС создать ИИ, превосходящий человека во всех отношениях
19:01 07.03.2025 19:10 07.03.2025 №11796
Luarvik.:
>> мулька Вот Вам некий т.н. "ИИ" подробно объяснил причины своей ЖПТ'шной тупости, а каковы Ваши собственные критерии, признаки, качества-свойства и т.п. интеллектуальности ? (Только прошу, если сподобитесь на ответ, не в стиле "солнце - это когда светло".) Или, скажем, как Вы определите, что перед Вами действительно интеллектуальная система, а не имитация ? С чего Вы начнёте ? Каковы Ваши первые действия ? (Желательно, если сподобитесь на ответ, не в стиле "если ходит как утка, крякает как утка и т.д.") Или же, опускаясь на негативно-житейский уровень, как бы Вы максимально абстрактно/"технологично"/функционально/... описали человека, пребывающего в состоянии безумия.
Честно никак не ответишь, чтобы вас не обидеть, учитывая ваши по этому поводу установки. Интеллект явление по сути социальное и в социуме он меряется деньгами, то есть пользой, добавленной стоимостью от труда, управляемым этим интелллектом. Сейчас например стартапы уже начали барыжить ИИ - агентами, по 10-20к$ в месяц за "PhD спеца". Раз кто то покупает значит интеллекта у этого ИИ на столько денег, а учитывая что в РФ редко кто и 10% этой суммы зарабатывает в месяц, то логично что этот ИИ в десятеро умнее\полезнее. Это как бы и шутка по форме, но правда по сути одновременно, в таком мире мы живём, нет никакой разницы "симуляция" или нет, важен результат. Да и вы не докажите что вы не симуляция. Вот безумие это как раз дисфункциональность, когда человек не может сам себя обслуживать и зарабатывать деньги, но вроде как и не дебил, то есть "железо" рабочее а "софт" глючит. Система сложная, достаточно немного нарушить баланс, способов чокнуться много, но чаще всего это когда фантазии становятся сильнее реальности, своего рода ментальная мастурбация выведшая из под контроля.
0 | 0
write
Потенциал искусственных нейронных сетей. Можно ли на основе ИНС создать ИИ, превосходящий человека во всех отношениях
10:50 08.03.2025 №11800
Prosolver:
Вы не заполнили анкету, поэтому я вынужден угадывать Ваши убеждения из текста. Насколько я могу судить, Вы - материалист.
Не в курсе что за "анкета". Убеждений у меня твёрдых нет, всё по Попперу, только гипотезы и эксперименты. Материалист? Не на 100%, но где-то на 90. Физика ведь тоже дырявая как дуршлаг, одна дырка закрывается и в этой заплатке ещё пара новых дырок по меньше оказывается. Вероятно красивыми едиными формулами "это всё" не описать и тем более почему эти формулы именно такие, тоже останется загадкой навсегда. Однако я не иду по легкому пути и не заполняю неведомое, приятными для здравого смысла антропоморфными сущностями, которые творят и управляют понятным нам способом.
Prosolver:
Соответственно, Ваше представление про обучение человека выглядит примерно как отражение в зеркале. Снаружи есть некое готовое "знание" и человек его отражает в своих знаниях. Моё представление про обучение в корне иное. Человек буквально выращивает своё знание внутри себя, а внешние стимулы только подкрепляют или наоборот угнетают ростки этих знаний. Человек активно сам создаёт свои знания. Такого способа обучения в ИНС просто нет, это не предусмотрено их конструкцией. Поэтому для меня очевидно, что ИНС не воспроизводят тот процесс, который у человека называется "обучение". Соответственно, я вообще не жду, что ИНС когда-либо вдруг продемонстрируют обучение, которого в них нет. Всё, что они могут воспроизвести - это именно обезьянничание. А без обучения не создаются новые знания. А без этого нет смысла говорить про интеллект.
А вот тут по подробнее хотелось бы, на примерах желательно и почему этого в нейросетках или ML алгоритмах, по вашему "нет".
0 | 0
1
2

Главная Участники Жалобы  Поиск Исходный код О форуме