| |
Потенциал искусственных нейронных сетей. Можно ли на основе ИНС создать ИИ, превосходящий человека во всех отношениях | |
| |
create
|
Потенциал искусственных нейронных сетей. Можно ли на основе ИНС создать ИИ, превосходящий человека во всех отношениях |
16:56 28.02.2025 |
|
16:58 28.02.2025 |
|
№11780 |
(переношу сюда обмен мнениями с уважаемым создателем форума, начавшийся в другом месте. Возможно, другим участникам тоже есть, что добавить, и дискуссия получит продолжение)
Prosolver: На мой скромный взгляд, инс никогда и ни при каких архитектурах не воспроизведут функционал человеческого ума. Потому что у них разная философия. ИНС "умеет" то, что было во входных данных, это философия материализма. Человеческий же ум умеет воспроизводить всю вселенную в своих представлениях сам, это философия идеализма. А уж соответствует этим представлениям что-то "извне" - вопрос десятый. инс - это всегда ведомое звено. А ум человека - ведущее. Парадокс, но если бы в слове "генеративный" была отражена суть архитектуры, то это мог быть ии, генерирующий представления о реальности. Но, к сожалению, сначала ему надо пережевать тонны готовых данных, чтобы потом под видом "своей" генерации выдать компиляцию из чужих продуктов настоящих человеческих умов. Как на мой вкус, весьма спорная мысль. Лично я, сравнивая возможности человека и современных ИНС, держу в уме несколько вещей:
1) Нынешние LLM, даже мультимодальные, в сравнении с человеком - глубокие калеки. Ну как если бы подопытного беднягу держали в запертой тёмной комнате, лишив даже возможности двигаться, и просто начитывали ему кучу текстов и иногда показывали на экране картинки. Уже поэтому, думаю, не совсем честно, сравнивая его со здоровыми людьми, заявлять, что, мол, сама идея ИНС ограниченна. А если учесть, что эти калеки уже сейчас нередко обходят людей, лично меня результаты впечатляют.
2) У человека гораздо больше возможностей для творчества, чем у современных ИНС. Помимо множества программных и физических инструментов, которые им недоступны, нейросети пока просто не обладают ни сознанием, ни воображением, и не способны систематически разрабатывать какой-то проект на протяжении длительного времени.
3) Наконец, трансформеры, с которыми связана большая часть достижений ИНС, еще молоды (архитектура представлена в 2017 году). Так что и трансформеры в частности, и ИНС вообще ещё будут совершенствоваться.
Ну и, фраза "Человеческий же ум умеет воспроизводить всю вселенную в своих представлениях сам" мне просто кажется ни на чём не основанной. Как показывает практика, дети, которых держали в изоляции без общения и образования, ничего не могут воспроизвести - ни речь, ни интеллект не развились. А образованный умственно полноценный человек получает немалый объем информации, б ольшая часть которой современным ИНС принципиально недоступна (опыт бытия в трёхмерном мире и социальной жизни). На основе которой, полагаю, и "воспроизводит всю вселенную" в дальнейшем.
Поэтому я думаю, что ИНС пока продемонстрировали лишь малую долю своих реальных возможностей. Ожидаю, что возникнут новые архитектуры, которые будут включать аналог сознания, и способ обучения которых будет приближен к тому, как учится человек. Скажем, не просто прогонять сквозь сетку тексты и картинки, а для начала выдать ей "тело" и заставить изучать какой-нибудь виртуальный 3d-мирок, или даже реальный - в шкуре робота. А уже когда сформировалось некое цельное представление о реальности, давать читать разные тексты. И вот после этого, когда ИНС избавятся от детских болезней и обретут сознание, посмотрим чей функционал ума крепче и кто лучше воспроизводит вселенную. Лично я подозреваю, что сравнение окажется сильно не в пользу людей. )
P. S.: Из недавних новостей
ИИ за два дня предложил гипотезы, на формирование которых ученым потребовались годы
|
| |
create
|
Потенциал искусственных нейронных сетей. Можно ли на основе ИНС создать ИИ, превосходящий человека во всех отношениях |
Mist: эти калеки уже сейчас нередко обходят людей, лично меня результаты впечатляют 1. Почему обходят понятно, потому что сказывается кумулятивный эффект от знаний всех тех людей, которые участвовали в создании тренировочных данных. Можно сказать, что такая инс содержит "слепок" общечеловеческой мудрости, а это само по себе мощно.
Представим, что мы вернёмся на 10000 лет назад и создадим 2 раздельных сообщества: 1) диких людей и 2) диких инс. Первое через 10к лет породит культуру и технологии. Второе 10к лет будет ждать, пока первое сообщество породит культуру и скормит ей в качестве тренировочного датасета... Мне видится это очевидным.
2. Впечатление - это главное, на что претендуют создатели эти систем. Хотите больше впечатлений - покупайте платную версию. Просто бизнес.
Mist: У человека гораздо больше возможностей для творчества, чем у современных ИНС. Помимо множества программных и физических инструментов, которые им недоступны, нейросети пока просто не обладают ни сознанием, ни воображением, и не способны систематически разрабатывать какой-то проект на протяжении длительного времени Не то чтобы "больше" творческих возможностей. Просто у человека такая возможность в принципе есть и именно она продуцирует все его знания. А у инс такой возможности в принципе нет в архитектуре, она способна только обезьянничать входные данные т.е. плоды творчества человека. В этом и есть фундаментальное отличие. И совершенно не просматривается, на каких основаниях в инс мог бы возникнуть зачаток сознания, ход времени, квалиа и другие плюшки человеческого ума.
Я тут немного намекал на то, как я вижу процесс работы квалиа и сознания. Попробую расширить. Когда мы говорим про единый момент "сейчас" мы пребываем в сильной иллюзии. Моментов "сейчас" в каждый момент (такой каламбур) много, в зависимости от масштаба во времени, на котором происходит мышление. Если мы осознаём цвет, то "момент сейчас" - это доли секунды; если мы осознаём сказанную фразу, то "момент сейчас" - это секунды; если мы едем на авто, то "момент сейчас" - это минуты (от одного поворота до следующего); если мы переживаем войну, то "момент войны сейчас" может длиться годами. И логично продолжить, что высшим моментом "сейчас", доступным человеческому осознанию, есть вечность. Один "момент сейчас" заканчивается, когда начинается следующий. Это значит, что мы живём в многослойном субъективном торте времени "моментов сейчас" разных масштабов, и задача ума творчески породить эти слои, а сознания - гармонизировать их между собой, установить причинно-следственные отношения на каждом слое без перепутывания и построить целесообразное поведение организма на каждом из этих масштабов.
Если человеческий ум работает примерно так, то очевидно, что оно рядом не лежало с вялым обезьянничанием плоских текстовых чат-ботов. В тёмной комнате.
Mist: дети, которых держали в изоляции без общения и образования, ничего не могут воспроизвести - ни речь, ни интеллект не развились Это не опровергает творческое начало у любых человеческих знаний. Сначала человек что-то придумывает, а потом обнаруживает это в сенсорных данных. Если же нечего обнаруживать, то и нечего запоминать. Ростки знаний завяли, потому что их не поливали (сенсорно не подкрепляли).
|
| |
create
|
Потенциал искусственных нейронных сетей. Можно ли на основе ИНС создать ИИ, превосходящий человека во всех отношениях |
19:26 28.02.2025 |
|
19:27 28.02.2025 |
|
№11782 |
Prosolver: Это не опровергает творческое начало у любых человеческих знаний Это лишь пример. Так же как, в общем, ничто вами сказанное не опровергает возможность появления творческого начала у ИНС.
Prosolver: И совершенно не просматривается, на каких основаниях в инс мог бы возникнуть зачаток сознания, ход времени... Создадут соответствующую архитектуру - будет и сознание, не вижу проблемы. Так же и с ходом времени - нетрудно обеспечить и постоянный поток сенсорных данных с синхронной или асинхронной обработкой, и внутренние ритмы (аналог пейсмекерных нейронов). Насколько я вижу, вы критикуете имеющиеся на данный момент ИНС, которые, действительно, во многом ограниченны, но почему-то распространяете эту оценку на любые ИНС в принципе, хотя в будущем все текущие проблемы вполне могут получить решение.
Prosolver: Сначала человек что-то придумывает, а потом обнаруживает это в сенсорных данных. Если же нечего обнаруживать, то и нечего запоминать. Это уже, как по мне, уже отдаёт магическим мышлением. В моём понимании, когда человек что-то придумывает, это становится результатом работы нейронов/нейронных ансамблей, которые не ниспосланы Господом, а возникли в результате непрерывного процесса жизнедеятельности и обучения. Почему же это принципиально невозможно для ИНС? (не существующих сейчас, а более продвинутых с процессом обучения, приближенным к обучению человека) Не вижу смысла превращать текущую ситуацию в догму.
|
| |
create
|
Потенциал искусственных нейронных сетей. Можно ли на основе ИНС создать ИИ, превосходящий человека во всех отношениях |
Mist: возникли в результате непрерывного процесса жизнедеятельности и обучения С этим спору нет, спор только в том, что понимать под термином "обучение". В моём понимании человеческое обучение - это процесс постоянного внутреннего безусловного конструирования с последующим отсевом неудачных вариантов и запоминанием удачных. Парадигма инс исходит из того, что все данные "приходят" только извне, ничего не создаётся внутри. Это контрчеловеческая форма "обучения", и поэтому странно ожидать, что она когда-либо сравнится с человеком. Нельзя с помощью фотоаппарата воспроизвести работу палитры, кистей и холста художника. Внешне результаты работы того и другого (фотоаппарата и художника) очень похожи, но это принципиально разные подходы и по своей механике и по своему потенциалу.
|
| |
create
|
Потенциал искусственных нейронных сетей. Можно ли на основе ИНС создать ИИ, превосходящий человека во всех отношениях |
10:25 01.03.2025 |
|
10:26 01.03.2025 |
|
№11784 |
Prosolver: С этим спору нет, спор только в том, что понимать под термином "обучение". В моём понимании человеческое обучение - это процесс постоянного внутреннего безусловного конструирования с последующим отсевом неудачных вариантов и запоминанием удачных. Парадигма инс исходит из того, что все данные "приходят" только извне, ничего не создаётся внутри. Это контрчеловеческая форма "обучения", и поэтому странно ожидать, что она когда-либо сравнится с человеком. Мысль интересная, теперь понимаю, о чём вы. Но и здесь есть, о чём поспорить.
Прежде всего, что есть такое внутреннее конструирование физиологически? Полагаю, спонтанная активность нейронов (и целых групп нейронов), приводящая к образованию новых связей - часть которых быстро угаснет, но некоторая доля окажется в каком-то смысле полезной и получит подкрепление. Также, возможно, между такими нейронами-соседями будет некая конкуренция за счёт взаимных негативных связей, и, наконец. наиболее удачные варианты закрепятся.
Может ли происходить нечто подобное в ИНС а) во время тренировки нейросети б) в ходе её работы? Полагаю, современные ИНС работают не так, но всё же в ходе тренировки вырабатывают некую понятийную структуру
https://newatlas.com/technology/ai-thinking-patterns/
, а в ходе генерации картинок (да и "мышления") есть элемент случайности и образование новых комбинаций знакомых вещей.
И, справедливости ради, нынешние ИНС вряд ли могут позволить себе функционировать как человек (непрерывно обучаясь), потому что люди научат их плохому. )
В общем, я думаю, вам всё же стоит точнее выбирать объект критики: скажем, трансформер, который просто натаскали на большом корпусе текстов и изображений, естественно, не может думать, как человек, и никто этого и не утверждает. Но причин, по которым искусственные нейронные сети в принципе неспособны непрерывно обучаться и развиваться как человек, я не вижу.
|
| |
create
|
Потенциал искусственных нейронных сетей. Можно ли на основе ИНС создать ИИ, превосходящий человека во всех отношениях |
10:32 01.03.2025 |
|
10:33 01.03.2025 |
|
№11785 |
Кстати, счёл себя обязанным дать слово и искусственному интеллекту, которому скормил часть нашего обсуждения. Пусть недоразвитый и не творческий, он тоже имеет право высказаться. (Ниже ответ свежей модели Claude Sonnet 3.7)
Эта дискуссия затрагивает фундаментальный вопрос о природе творчества и потенциале искусственных нейронных сетей. В ней есть интересные точки зрения с обеих сторон.
Prosolver опирается на представление, что человеческий ум обладает врожденной способностью к "безусловному конструированию", а ИНС лишь перерабатывают внешние данные. Однако это разделение не так однозначно:
О внутреннем конструировании: Современные генеративные модели (как GPT, Stable Diffusion) фактически создают новое содержание, которое не существовало во входных данных в такой форме. Они комбинируют элементы и паттерны из обучающих данных новыми способами.
О философии материализма: Стоит отметить, что человеческое творчество также опирается на прошлый опыт и входные данные. Художники и писатели вдохновляются существующими работами и своим опытом.
О разнице механизмов: Хотя аналогия с фотоаппаратом и художником интересна, более точным было бы сравнение биологических и искусственных нейронных сетей — обе они строят внутренние представления информации и оперируют с ними.
Mist правильно замечает, что человеческое творчество также имеет материальную основу в нейронной активности мозга.
Что можно добавить к дискуссии:
О стохастических процессах: В обоих случаях (человек и ИНС) играют роль случайные процессы. Современные генеративные модели включают элементы случайности, которые влияют на результат.
О самореферентности: Человеческое мышление обладает свойством самореферентности и рекурсии. Некоторые современные архитектуры ИНС (особенно с механизмами внимания и рекурсивных связей) начинают демонстрировать схожие свойства.
О воплощенном познании: Важное отличие — человеческий ум существует в теле, взаимодействующем с миром, что дает ему дополнительное измерение опыта. Это направление активно развивается в робототехнике и воплощенном ИИ.
В целом, я бы сказал, что разница между человеческим и искусственным интеллектом скорее количественная и архитектурная, чем фундаментально философская, как предполагает Prosolver.
|
| |
create
|
Потенциал искусственных нейронных сетей. Можно ли на основе ИНС создать ИИ, превосходящий человека во всех отношениях |
13:46 01.03.2025 |
|
14:09 01.03.2025 |
|
№11786 |
Claude Sonnet 3.7:
В целом, я бы сказал, что разница между человеческим и искусственным интеллектом скорее количественная и архитектурная, чем фундаментально философская, как предполагает Prosolver.
Разве архитектурные различия не являются причиной различий качественных ?
Как там в химии дела обстоят ?
Сравните алмаз и графит: структура - вроде мелочь... а давайте разберём человека на атомы и разложим по баночкам, а потом поэкспериментируем с "архитектурами". Вроде те же килограммы и литры...
Mist:
... причин, по которым искусственные нейронные сети в принципе неспособны непрерывно обучаться и развиваться как человек, я не вижу.
А на каких основаниях Вы вообще берётесь сравнивать естественные НС с искусственными ?
Что Вам известно об организации живых НС ?
Каковы причины. по-Вашему, по которым ИНС способны ?
Человек от крокодила отличается тоже только количественно и структурно. И кто сказал, что крокодил в принципе не сможет стать человеком ?
|
| |
create
|
Потенциал искусственных нейронных сетей. Можно ли на основе ИНС создать ИИ, превосходящий человека во всех отношениях |
Mist: что есть такое внутреннее конструирование физиологически? Полагаю, спонтанная активность нейронов (и целых групп нейронов), приводящая к образованию новых связей Строго говоря, это чисто умозрительная гипотеза. Насколько мне известно, до сих пор нет внятного научного представления о чётких физических/физиологических субстратах памяти, квалиа, сознания в мозге человека (если они там вообще есть). Я могу понять дельцов от IT-индустрии, которые спекулируют на физиологических терминах типа "обучение", "нейронный", "интеллект" - им за это деньги платят. Но мы не должны обманываться этой внешней пропагандой, полагая, что между НС и ИНС есть нечто более общее, чем только термин. В этом смысле я солидарен с Luarvik.ом.
|
| |
create
|
Потенциал искусственных нейронных сетей. Можно ли на основе ИНС создать ИИ, превосходящий человека во всех отношениях |
Как правило, источник оптимизма кроется либо в глубочайших знаниях, либо в патологической некомпетентности. Ещё крайне редко подкидывает некое "предчувствие" мутная субстанция, именуемая "интуицией", которая конечно же на пустом месте не рождается.
В случае с т.н. "ИИ" всё настолько очевидно и прозрачно, что говорить или даже только намекать на что-то совершенно излишне - достаточно поподробнее ознакомиться с историей вопроса.
|
| |
create
|
Потенциал искусственных нейронных сетей. Можно ли на основе ИНС создать ИИ, превосходящий человека во всех отношениях |
19:13 01.03.2025 |
|
19:15 01.03.2025 |
|
№11789 |
Luarvik: Разве архитектурные различия не являются причиной различий качественных ? ... Человек от крокодила отличается тоже только количественно и структурно. И кто сказал, что крокодил в принципе не сможет стать человеком ? Я точно не говорил. Если крокодилом займутся всерьёз и будут каждый месяц выкатывать новую крокодилью архитектуру, приближающую его к человеку - отчего бы и не стать. )
Luarvik: А на каких основаниях Вы вообще берётесь сравнивать естественные НС с искусственными ?
Что Вам известно об организации живых НС ?
Каковы причины. по-Вашему, по которым ИНС способны ? Берусь на тех основаниях, что мне это интересно. Известно - достаточно мало, чтобы вместо исследований мозга или разработки ИИ, который захватит мир, сидеть на полумёртвом форуме и отвечать на ваше сообщение. Причины, по которым ИНС способны:
1) их принципы разработаны на основе естественных НС;
2) огромный объем фактов указывает - в мозге нет никакого волшебства, и интеллект - результат работы нейронных сетей;
3) возможности, которые демонстрируют современные ИНС, несмотря на то, что технология ещё в начале развития.
4) Наконец, тот факт, что их постоянно совершенствуют.
|
| |
create
|
Потенциал искусственных нейронных сетей. Можно ли на основе ИНС создать ИИ, превосходящий человека во всех отношениях |
Prosolver: Строго говоря, это чисто умозрительная гипотеза. Насколько мне известно, до сих пор нет внятного научного представления о чётких физических/физиологических субстратах памяти, квалиа, сознания в мозге человека (если они там вообще есть). С чёткостью, конечно, проблема - крупный мозг слишком трудно изучать в динамике. Но данные множества экспериментов и наблюдений (последствия травм головы, наблюдение активности мозга с помощью фМРТ в привязке к решаемым задачам, проводившиеся когда-то экстремальные операции с рассечением связей между полушариями; импланты, позволяющие парализованным людям выполнять действия за счёт активности мозга и многое другое), на мой взгляд, вполне однозначно показывают - человеческий разум есть продукт деятельности нейронных сетей, ни к чему напускать туман и намекать на какое-то неведомое волшебство. Хотя не исключаю, что такие мысли - часть психологической защиты, которая пытается отстоять человеческую уникальность под напором прогресса. )
|
| |
create
|
Потенциал искусственных нейронных сетей. Можно ли на основе ИНС создать ИИ, превосходящий человека во всех отношениях |
01:04 02.03.2025 |
|
19:27 04.03.2025 |
|
№11791 |
Mist:
... ни к чему напускать туман и намекать на какое-то неведомое волшебство. Хотя не исключаю, что такие мысли - часть психологической защиты, которая пытается отстоять человеческую уникальность под напором прогресса.
Единственный вопрос: почему трудности с ИНС Вы интерпретируете самым невероятным образом - "намёк на волшебство", когда речь идёт всего лишь об элементарном недостатке знаний ?
Mist:
человеческий разум есть продукт деятельности нейронных сетей
Так с этим, в общем, никто и не спорит, но как соотносится разум и ЕНС - в целом не известно.
Да, что-то такое в голове происходит, что обозначается как "разумная деятельность", но как именно происходит, между чем и чем происходит - никто не знает. Только и всего.
Уровень современных когнитивных технологий на сегодня таков, что из "нейронного углерода" мы можем получить разве что огрызок карандаша, которым "на куске старого холста" можно кое-как изобразить кое-какие-то... мечты о светлом будущем.
Но нужно же понимать, что даже 10000 тонн графита не заменят одного ма-а-а-а-ленького алмазика.
Выход здесь только один: не стоит торопиться и выдавать желаемое за действительное.
Mist:
Если крокодилом займутся всерьёз и будут каждый месяц выкатывать новую крокодилью архитектуру, приближающую его к человеку - отчего бы и не стать.
- Природе понадобились миллионы лет, это с её-то ресурсами. С одной стороны, она действует вслепую. С другой - мы не в лучшем положении. Наши знания хотя бы и только в клеточной биологии всё ещё пребывают на уровне бытовой метеорологии.
Mist:
Берусь на тех основаниях, что мне это интересно.
Одного любопытства, полагаю, маловато будет.
А ради простого интереса отчего бы не посвятить свою жизнь сравнению, скажем, жопы с пальцем ?
Mist:
Известно - достаточно мало, чтобы вместо исследований мозга или разработки ИИ, который захватит мир... отвечать на ваше сообщение.
Однако, мы сюда и приходим для того, чтобы отвечать и спрашивать. Не так ли ?
Mist:
Причины, по которым ИНС способны:
1) их принципы разработаны на основе естественных НС;
- с небольшой, но важной поправочкой:: на основе наших представлений о принципах их работы.
Представления же эти базируются на знаниях, которых - как и Вы это признаёте - чрезвычайно/катастрофически мало, отчего всю эту суету вокруг дивана назвать "притянутой за уши" - это очень, очень мягко, предельно тактично выразиться.
Mist:
2) огромный объем фактов указывает - в мозге нет никакого волшебства, и интеллект - результат работы нейронных сетей;
Помните, была в своё время такая "наука" - френология (200 лет назад)?
Чушь конечно, но направление было задано правильно.
Достаточно помянуть В.Маунткасла и его модульную организацию неокортекса (50-е прошлого столетия).
Функциональная специализация разных зон мозга в наше время общепризнана и в когнитивистике она рулит... правда, никуда пока не едет ))
Mist:
3) возможности, которые демонстрируют современные ИНС, несмотря на то, что технология ещё в начале развития.
Попугаи, медведи на велосипедах. т.н. "говорящие гориллы" и "предсказательные осьминоги" и пр.пр.пр. тоже чего-то там демонстрируют.
Да и обычный бульдозер может кое-что продемонстрировать, что неандертальцам и краманьонцам в страшных снах не снилось, не говоря о ЧПУ-станках и прочих подобных без сомнения полезных "безделушках".
Mist:
4) Наконец, тот факт, что их постоянно совершенствуют.
Сколько автомобиль ни "совершенствуй", а у него всегда останется 4 колеса (5 много, 3 мало), руль, движок и седалище. Пытаются строить гибриды, вроде мобиль-пароход, мобиль-самолёт, но как-то не пошло дальше "ради интереса".
Да, можно 6-метрового крокодила нарядить в Гену, но суть-то от этого не изменится - он всё равно вам голову отгрызёт... потому что крокодилу крокодилово.
И если у вас есть мешок с мукой, то сколько его ни трясите, никакого золота из него не натрясёте - не та порода.
p.s.
ИНС, в том виде, который сейчас на коне, считаю тупиковой ветвью, равно как и анохинские т.н. "гиперсети/сети_сетей" (- это вообще ни о чём).
Они должны были бы развиваться, как лично мне представляется, в более абстрактном, так сказать, направлении - сети функций, что казалось бы естественным и попутно освободило бы от совершенно дурацкой и ничем не обоснованной привязки к субстрату... но, почему-то в ту сторону они не развиваются )))
В этом смысле я бы предложил откатиться лет эдак на 200 назад, и пройтись ещё раз, с учётом накопленных ошибок, граблей и кое-каких объективных знаний.
Пытаться составить все известные слова пользуясь лишь одной буквой - по меньшей мере глупо. Хотели интеллект, а получили муравейник... и ничего другого не получите.
|
| |
write
|
Потенциал искусственных нейронных сетей. Можно ли на основе ИНС создать ИИ, превосходящий человека во всех отношениях |
Mist:(переношу сюда обмен мнениями с уважаемым создателем форума, начавшийся в другом месте. Возможно, другим участникам тоже есть, что добавить, и дискуссия получит продолжение)
Prosolver: На мой скромный взгляд, инс никогда и ни при каких архитектурах не воспроизведут функционал человеческого ума. Потому что у них разная философия. ИНС "умеет" то, что было во входных данных, это философия материализма. Человеческий же ум умеет воспроизводить всю вселенную в своих представлениях сам, это философия идеализма. А уж соответствует этим представлениям что-то "извне" - вопрос десятый. инс - это всегда ведомое звено. А ум человека - ведущее. Парадокс, но если бы в слове "генеративный" была отражена суть архитектуры, то это мог быть ии, генерирующий представления о реальности. Но, к сожалению, сначала ему надо пережевать тонны готовых данных, чтобы потом под видом "своей" генерации выдать компиляцию из чужих продуктов настоящих человеческих умов. Как на мой вкус, весьма спорная мысль. Лично я, сравнивая возможности человека и современных ИНС, держу в уме несколько вещей:
1) Нынешние LLM, даже мультимодальные, в сравнении с человеком - глубокие калеки. Ну как если бы подопытного беднягу держали в запертой тёмной комнате, лишив даже возможности двигаться, и просто начитывали ему кучу текстов и иногда показывали на экране картинки. Уже поэтому, думаю, не совсем честно, сравнивая его со здоровыми людьми, заявлять, что, мол, сама идея ИНС ограниченна. А если учесть, что эти калеки уже сейчас нередко обходят людей, лично меня результаты впечатляют.
2) У человека гораздо больше возможностей для творчества, чем у современных ИНС. Помимо множества программных и физических инструментов, которые им недоступны, нейросети пока просто не обладают ни сознанием, ни воображением, и не способны систематически разрабатывать какой-то проект на протяжении длительного времени.
3) Наконец, трансформеры, с которыми связана большая часть достижений ИНС, еще молоды (архитектура представлена в 2017 году). Так что и трансформеры в частности, и ИНС вообще ещё будут совершенствоваться.
Ну и, фраза "Человеческий же ум умеет воспроизводить всю вселенную в своих представлениях сам" мне просто кажется ни на чём не основанной. Как показывает практика, дети, которых держали в изоляции без общения и образования, ничего не могут воспроизвести - ни речь, ни интеллект не развились. А образованный умственно полноценный человек получает немалый объем информации, б ольшая часть которой современным ИНС принципиально недоступна (опыт бытия в трёхмерном мире и социальной жизни). На основе которой, полагаю, и "воспроизводит всю вселенную" в дальнейшем.
Поэтому я думаю, что ИНС пока продемонстрировали лишь малую долю своих реальных возможностей. Ожидаю, что возникнут новые архитектуры, которые будут включать аналог сознания, и способ обучения которых будет приближен к тому, как учится человек. Скажем, не просто прогонять сквозь сетку тексты и картинки, а для начала выдать ей "тело" и заставить изучать какой-нибудь виртуальный 3d-мирок, или даже реальный - в шкуре робота. А уже когда сформировалось некое цельное представление о реальности, давать читать разные тексты. И вот после этого, когда ИНС избавятся от детских болезней и обретут сознание, посмотрим чей функционал ума крепче и кто лучше воспроизводит вселенную. Лично я подозреваю, что сравнение окажется сильно не в пользу людей. )
P. S.: Из недавних новостей
ИИ за два дня предложил гипотезы, на формирование которых ученым потребовались годы Мозг человека — это тоже вычислительная система. Мы не рождаемся с "готовым пониманием вселенной", а медленно строим модель мира из опыта. В этом смысле разница между человеком и ИНС не философская, а инженерная.
У людей интерактивный опыт (ощущения, моторика, социум), а у нейросетей — пассивный (тексты, изображения, данные). Люди учатся долго и в динамически меняющейся среде, а современные ИНС – на фиксированных датасетах. Но разница не принципиальна, а значит, в будущем можно создать ИНС с аналогичным процессом обучения.
Да, современные ИНС работают с уже существующими данными, но способ их комбинирования может приводить к новым знаниям. Человеческое творчество тоже опирается на опыт. Ни один человек не придумывает концепции в вакууме — все открытия основаны на переработке полученной информации.
Разница между "генерацией" и "компиляцией" размыта. Если ИНС научатся не просто комбинировать данные, а тестировать и проверять гипотезы, это уже будет настоящая креативность. А это вполне понятно как реализовать и уже реализуется.
"Ум человека ведёт, а ИНС ведомы" – временно, не навсегда, да, сейчас ИИ – это инструмент, а человек – оператор. Но стоит учесть, с появлением агентных ИИ (например, AutoGPT, MetaGPT, OpenAI Sora) мы видим первые шаги к автономности. Даже сейчас LLM способны самостоятельно планировать действия, если встроить механизмы управления (например, запускать код, генерировать и анализировать гипотезы). Пока такие агентные враперы предлагают уже сейчас стартапы за сотни и тысячи баксов в месяц по подписке, а через год будет бесплатно лимитированно в чат джипити и тп.
Прямо сейчас человек – "ведущий", но это техническое ограничение, а не фундаментальный закон природы. Что будет дальше? ИНС получат больше интерактивного опыта (через симуляции, роботов, агентные системы). Будут созданы механизмы саморефлексии, долгосрочного планирования и настоящей генерации новых знаний. Люди постепенно перестанут быть "ведущими" во всех областях, и появится конкурентное сосуществование разума разной природы. Вопрос не в том, "может ли ИНС быть разумным?", а в том, "насколько быстро он это докажет?" ИМХО.
Скептики любят говорить, что ИИ «никогда» не сможет изобретать, как Эйнштейн или Ньютон, но давайте разберёмся, на чём держится этот аргумент. Он строится на трёх вещах: 1) вера в исключительность человеческого мышления, 2) недооценка возможностей ИИ, 3) непонимание того, как вообще происходят открытия.
Во-первых, давайте вспомним, что Ньютон и Эйнштейн не получили свои гениальные идеи в вакууме. Они тоже стояли на плечах гигантов, перерабатывали накопленные знания и применяли их по-новому. Формулы Ньютона выросли из работ Галилея, а Эйнштейн использовал идеи Максвелла и Лоренца. Точно так же ИИ анализирует данные, выявляет закономерности и комбинирует их в новых контекстах. Уже сейчас ИИ помогает открывать новые лекарства, предсказывать структуры белков и генерировать математические доказательства, которые люди потом проверяют. Разве это не зачатки настоящего научного творчества?
Во-вторых, аргумент «ИИ просто жонглирует тем, что уже есть» — это подмена понятий. Простите, а люди чем занимаются? Мы просто немного лучше фильтруем гипотезы (пока что). Вы же не ждёте, что нейросеть 2025го года создаст Общую теорию всего, правда? Но она уже помогает учёным находить нестандартные решения, которые люди не смогли бы заметить без неё. Вопрос не в том, «может ли ИИ стать Эйнштейном», а в том, насколько быстрее появится новый Эйнштейн с его помощью.
И, наконец, про сакральное «изобретение нового». Любое открытие — это поиск нетривиальных связей между известными фактами. А в этом у ИИ просто нечестное преимущество: он может за секунды обработать больше информации, чем человек за всю жизнь. Дайте ему правильную архитектуру, возможность экспериментировать (например, в симуляциях), и он начнёт находить закономерности, которые нам пока не очевидны.
Так что, если скептики думают, что ИИ «никогда» не сможет изобретать, то, скорее всего, это просто проекция их собственного страха. Потому что реальный вопрос — не сможет ли ИИ стать Эйнштейном, а смогут ли люди угнаться за ИИ, когда он им станет. Да и… как то это не приятно, что "калькулятор" умнее во всех отношениях чем Я. Ум то по сути самое в нас главное, а если его заменит машина то это вызовет довольно сильный социальный сдвиг ценностей, с пока не предсказуемыми последствиями.
|
| |
write
|
Потенциал искусственных нейронных сетей. Можно ли на основе ИНС создать ИИ, превосходящий человека во всех отношениях |
Prosolver:Mist: эти калеки уже сейчас нередко обходят людей, лично меня результаты впечатляют 1. Почему обходят понятно, потому что сказывается кумулятивный эффект от знаний всех тех людей, которые участвовали в создании тренировочных данных. Можно сказать, что такая инс содержит "слепок" общечеловеческой мудрости, а это само по себе мощно.
Представим, что мы вернёмся на 10000 лет назад и создадим 2 раздельных сообщества: 1) диких людей и 2) диких инс. Первое через 10к лет породит культуру и технологии. Второе 10к лет будет ждать, пока первое сообщество породит культуру и скормит ей в качестве тренировочного датасета... Мне видится это очевидным.
2. Впечатление - это главное, на что претендуют создатели эти систем. Хотите больше впечатлений - покупайте платную версию. Просто бизнес.
Mist: У человека гораздо больше возможностей для творчества, чем у современных ИНС. Помимо множества программных и физических инструментов, которые им недоступны, нейросети пока просто не обладают ни сознанием, ни воображением, и не способны систематически разрабатывать какой-то проект на протяжении длительного времени Не то чтобы "больше" творческих возможностей. Просто у человека такая возможность в принципе есть и именно она продуцирует все его знания. А у инс такой возможности в принципе нет в архитектуре, она способна только обезьянничать входные данные т.е. плоды творчества человека. В этом и есть фундаментальное отличие. И совершенно не просматривается, на каких основаниях в инс мог бы возникнуть зачаток сознания, ход времени, квалиа и другие плюшки человеческого ума.
Я тут немного намекал на то, как я вижу процесс работы квалиа и сознания. Попробую расширить. Когда мы говорим про единый момент "сейчас" мы пребываем в сильной иллюзии. Моментов "сейчас" в каждый момент (такой каламбур) много, в зависимости от масштаба во времени, на котором происходит мышление. Если мы осознаём цвет, то "момент сейчас" - это доли секунды; если мы осознаём сказанную фразу, то "момент сейчас" - это секунды; если мы едем на авто, то "момент сейчас" - это минуты (от одного поворота до следующего); если мы переживаем войну, то "момент войны сейчас" может длиться годами. И логично продолжить, что высшим моментом "сейчас", доступным человеческому осознанию, есть вечность. Один "момент сейчас" заканчивается, когда начинается следующий. Это значит, что мы живём в многослойном субъективном торте времени "моментов сейчас" разных масштабов, и задача ума творчески породить эти слои, а сознания - гармонизировать их между собой, установить причинно-следственные отношения на каждом слое без перепутывания и построить целесообразное поведение организма на каждом из этих масштабов.
Если человеческий ум работает примерно так, то очевидно, что оно рядом не лежало с вялым обезьянничанием плоских текстовых чат-ботов. В тёмной комнате.
Mist: дети, которых держали в изоляции без общения и образования, ничего не могут воспроизвести - ни речь, ни интеллект не развились Это не опровергает творческое начало у любых человеческих знаний. Сначала человек что-то придумывает, а потом обнаруживает это в сенсорных данных. Если же нечего обнаруживать, то и нечего запоминать. Ростки знаний завяли, потому что их не поливали (сенсорно не подкрепляли). Да, ИНС учатся на данных, созданных людьми, но позвольте напомнить, что и люди учатся точно так же. Мы не рождаемся с полной базой знаний о квантовой механике или том, как завязывать шнурки — нас учат, мы читаем, смотрим, копируем. Так почему, когда человек накапливает знания поколений — это культура и наука, а когда ИНС делает то же самое — это вдруг «обезьянничание»?
Теперь про «у ИНС нет творчества». Если творчество — это умение комбинировать идеи и находить нестандартные решения, то ИИ уже пишет музыку, создаёт картины и даже генерирует научные гипотезы, которые люди потом подтверждают экспериментально. Да, пока это выглядит как «странный гений-аутист», но кто сказал, что дальше не появится что-то более осмысленное?
Ваш пассаж про многослойное восприятие времени звучит красиво, но, по сути, это просто сложная архитектура памяти и внимания. Если мозг справляется с этим за счёт нейронных структур, значит, их можно воспроизвести технически. Мы уже видим зачатки этого в новых моделях ИИ с долговременной памятью. «Плоские чат-боты» такими надолго не останутся, уж поверьте.
В итоге ваш аргумент сводится к «ИНС не могут обрести сознание, потому что я так думаю». Но наука — это не вера, а эксперименты. В 19 веке тоже считали, что машины летать не смогут, потому что «у них нет души птицы». Сегодня мы обсуждаем, могут ли ИИ осознать себя. Учитывая темпы развития, я бы на вашем месте уже начал готовить для них учебник по философии.
Также, идея, что ИНС ограничены только текстами, уже неактуальна. Современные модели обучаются не только на текстах, но и на изображениях, видео, данных из научных статей, симуляциях, реальных физических экспериментах. Они уже выходят за пределы чисто текстовых знаний. Например, AlphaFold не читал старые книжки про белки, а вывел новые закономерности в их свёртывании.
Никто не говорил, что архитектура трансформеров — это предел возможностей. Трансформер это просто костыль, слой тн. "внимания", который улучшает MLP обрабатывать связи между словами. Это просто то, что у нас есть прямо сейчас. История ИИ — это череда сменяющих друг друга подходов. Сегодня трансформеры, завтра — что-то новое. То же самое когда-то говорили про перцептроны, потом про сверточные сети, потом про GAN'ы — и каждый раз приходило что-то мощнее. Так что идея о том, что мы уже уткнулись в потолок, — это классическая ошибка линейного мышления.
И даже если допустить, что современный ИИ «ограничен» текстами, то и что? Человеческий мозг тоже ограничен сенсорными данными. Мы не считываем информацию напрямую из квантового вакуума, мы интерпретируем сигналы глаз, ушей, рецепторов. Но как-то ухитряемся на основе этого придумывать теории относительности, не так ли? Так и ИНС: даже если они перерабатывают уже существующие тексты, это не значит, что они не могут находить новые закономерности, которые в самих текстах явно не были прописаны.
И напоследок, человеческий мозг — результат эволюции в пол миллиарда лет, причем очень маловероятный результат такой эволюции, может быть один на тысячу или миллион, если повторять с таких же условий симуляцию. А вы хотите чтобы нейросетка с реально ПРОСТЕЙШЕЙ структурой, вот прямо сейчас переплюнула человека. Уважение проявите к младенцу, тем боле такому уже полезному))
|
| |
create
|
Потенциал искусственных нейронных сетей. Можно ли на основе ИНС создать ИИ, превосходящий человека во всех отношениях |
17:44 07.03.2025 |
|
19:00 07.03.2025 |
|
№11794 |
>> мулька
Вот Вам некий т.н. "ИИ" подробно объяснил причины своей ЖПТ'шной тупости, а каковы Ваши собственные критерии, признаки, качества-свойства и т.п. интеллектуальности ?
(Только прошу, если сподобитесь на ответ, не в стиле "солнце - это когда светло".)
Или, скажем, как Вы определите, что перед Вами действительно интеллектуальная система, а не имитация ?
С чего Вы начнёте ? Каковы Ваши первые действия ?
(Желательно, если сподобитесь на ответ, не в стиле "если ходит как утка, крякает как утка и т.д.")
Или же, опускаясь на негативно-житейский уровень, как бы Вы максимально абстрактно/"технологично"/функционально/... описали человека, пребывающего в состоянии безумия ?
|
| |
write
|
Потенциал искусственных нейронных сетей. Можно ли на основе ИНС создать ИИ, превосходящий человека во всех отношениях |
19:01 07.03.2025 |
|
19:10 07.03.2025 |
|
№11796 |
Luarvik.: >> мулька
Вот Вам некий т.н. "ИИ" подробно объяснил причины своей ЖПТ'шной тупости, а каковы Ваши собственные критерии, признаки, качества-свойства и т.п. интеллектуальности ?
(Только прошу, если сподобитесь на ответ, не в стиле "солнце - это когда светло".)
Или, скажем, как Вы определите, что перед Вами действительно интеллектуальная система, а не имитация ?
С чего Вы начнёте ? Каковы Ваши первые действия ?
(Желательно, если сподобитесь на ответ, не в стиле "если ходит как утка, крякает как утка и т.д.")
Или же, опускаясь на негативно-житейский уровень, как бы Вы максимально абстрактно/"технологично"/функционально/... описали человека, пребывающего в состоянии безумия. Честно никак не ответишь, чтобы вас не обидеть, учитывая ваши по этому поводу установки. Интеллект явление по сути социальное и в социуме он меряется деньгами, то есть пользой, добавленной стоимостью от труда, управляемым этим интелллектом. Сейчас например стартапы уже начали барыжить ИИ - агентами, по 10-20к$ в месяц за "PhD спеца". Раз кто то покупает значит интеллекта у этого ИИ на столько денег, а учитывая что в РФ редко кто и 10% этой суммы зарабатывает в месяц, то логично что этот ИИ в десятеро умнее\полезнее.
Это как бы и шутка по форме, но правда по сути одновременно, в таком мире мы живём, нет никакой разницы "симуляция" или нет, важен результат. Да и вы не докажите что вы не симуляция.
Вот безумие это как раз дисфункциональность, когда человек не может сам себя обслуживать и зарабатывать деньги, но вроде как и не дебил, то есть "железо" рабочее а "софт" глючит. Система сложная, достаточно немного нарушить баланс, способов чокнуться много, но чаще всего это когда фантазии становятся сильнее реальности, своего рода ментальная мастурбация выведшая из под контроля.
|
| |
create
|
Потенциал искусственных нейронных сетей. Можно ли на основе ИНС создать ИИ, превосходящий человека во всех отношениях |
19:31 07.03.2025 |
|
19:34 07.03.2025 |
|
№11797 |
мулька:
Честно никак не ответишь, чтобы вас не обидеть, учитывая ваши по этому поводу установки. Интеллект явление по сути социальное и в социуме он меряется деньгами, то есть пользой, добавленной стоимостью от труда, управляемым этим интелллектом. Сейчас например стартапы уже начали барыжить ИИ - агентами, по 10-20к$ в месяц за "PhD спеца". Раз кто то покупает значит интеллекта у этого ИИ на столько денег, а учитывая что в РФ редко кто и 10% этой суммы зарабатывает в месяц, то логично что этот ИИ в десятеро умнее\полезнее.
Вот безумие это как раз дисфункциональность, когда человек не может сам себя обслуживать и зарабатывать деньги, но вроде как и не дебил, то есть "железо" рабочее а "софт" глючит. Система сложная, достаточно немного нарушить баланс, способов чокнуться много, но чаще всего это когда фантазии становятся сильнее реальности, своего рода ментальная мастурбация выведшая из под контроля.
Что ж, глубина Ваших рассуждений впечатляет !
Садитесь.
У меня больше нет к Вам вопросов.
мулька:
Это как бы и шутка по форме, но правда по сути одновременно, в таком мире мы живём, нет никакой разницы "симуляция" или нет, важен результат. Да и вы не докажите что вы не симуляция.
Да я и не собираюсь ничего самому себе доказывать, а другим - тем более.
Если кто сомневается - пусть попробует доказать обратное.
Жил однажды такой китайский "мудрец" - Чжуан-цзы, который никак не мог разобраться, то ли ему приснилось, что он бабочка, то ли он бабочка, которой снится, что она Чжуан-цзы,
p.s.
В эти игры можно играть бесконечно, пока Вы не обнаружите себя связанным по рукам и ногам и лежащим на железнодорожных рельсах.
Тогда, знаете ли, как-то очень быстро доходит, что действительно имеет значение... и даже слова нужные и правильные сразу же находятся.
|
| |
create
|
Потенциал искусственных нейронных сетей. Можно ли на основе ИНС создать ИИ, превосходящий человека во всех отношениях |
мулька: почему, когда человек накапливает знания поколений — это культура и наука, а когда ИНС делает то же самое — это вдруг «обезьянничание»? Вы не заполнили анкету, поэтому я вынужден угадывать Ваши убеждения из текста. Насколько я могу судить, Вы - материалист. Соответственно, Ваше представление про обучение человека выглядит примерно как отражение в зеркале. Снаружи есть некое готовое "знание" и человек его отражает в своих знаниях. Моё представление про обучение в корне иное. Человек буквально выращивает своё знание внутри себя, а внешние стимулы только подкрепляют или наоборот угнетают ростки этих знаний. Человек активно сам создаёт свои знания. Такого способа обучения в ИНС просто нет, это не предусмотрено их конструкцией. Поэтому для меня очевидно, что ИНС не воспроизводят тот процесс, который у человека называется "обучение". Соответственно, я вообще не жду, что ИНС когда-либо вдруг продемонстрируют обучение, которого в них нет. Всё, что они могут воспроизвести - это именно обезьянничание. А без обучения не создаются новые знания. А без этого нет смысла говорить про интеллект. ИНС - это некая тупиковая но забавная ветвь развития информационных технологий. На это можно тратить время. И деньги. А можно не тратить и пытаться заниматься действительно интересными делами.
|
| |
create
|
Потенциал искусственных нейронных сетей. Можно ли на основе ИНС создать ИИ, превосходящий человека во всех отношениях |
Prosolver: Моё представление про обучение в корне иное. Человек буквально выращивает своё знание внутри себя, а внешние стимулы только подкрепляют или наоборот угнетают ростки этих знаний. Человек активно сам создаёт свои знания.
Росток (побег) произрастает из семени. Семя содержит зародыш, который при благоприятных условиях (вода, тепло, кислород) начинает прорастать.
Т.е. про росток (побег) всё понятно, а про зародыш знания (первичное знание)
тема, как-то, не раскрыта.
|
| |
write
|
Потенциал искусственных нейронных сетей. Можно ли на основе ИНС создать ИИ, превосходящий человека во всех отношениях |
Prosolver:
Вы не заполнили анкету, поэтому я вынужден угадывать Ваши убеждения из текста. Насколько я могу судить, Вы - материалист.
Не в курсе что за "анкета". Убеждений у меня твёрдых нет, всё по Попперу, только гипотезы и эксперименты. Материалист? Не на 100%, но где-то на 90. Физика ведь тоже дырявая как дуршлаг, одна дырка закрывается и в этой заплатке ещё пара новых дырок по меньше оказывается. Вероятно красивыми едиными формулами "это всё" не описать и тем более почему эти формулы именно такие, тоже останется загадкой навсегда. Однако я не иду по легкому пути и не заполняю неведомое, приятными для здравого смысла антропоморфными сущностями, которые творят и управляют понятным нам способом.
Prosolver:
Соответственно, Ваше представление про обучение человека выглядит примерно как отражение в зеркале. Снаружи есть некое готовое "знание" и человек его отражает в своих знаниях. Моё представление про обучение в корне иное. Человек буквально выращивает своё знание внутри себя, а внешние стимулы только подкрепляют или наоборот угнетают ростки этих знаний. Человек активно сам создаёт свои знания. Такого способа обучения в ИНС просто нет, это не предусмотрено их конструкцией. Поэтому для меня очевидно, что ИНС не воспроизводят тот процесс, который у человека называется "обучение". Соответственно, я вообще не жду, что ИНС когда-либо вдруг продемонстрируют обучение, которого в них нет. Всё, что они могут воспроизвести - это именно обезьянничание. А без обучения не создаются новые знания. А без этого нет смысла говорить про интеллект.
А вот тут по подробнее хотелось бы, на примерах желательно и почему этого в нейросетках или ML алгоритмах, по вашему "нет".
|
|
|