Форум создателей искусственных интеллектов

Чем больше обучающая выборка тем меньше негативный эффект от переобучения.

Достаточно скоро(50-100 лет) это случится, другой вопрос сделает ли это нас счастливее.

вы поняли суть, в том то и вопрос, ведь ум - инструемент а не цель

Сложно сказать что именно. Пока я вижу в основном косметические подвижки, за счет вкидывания больших бабок в куеву тучу видеокарточек, и мелких результатов на маркетинговых допингах. Это стартапы на пол года- год, потом их забудут. Но реальный результат так или иначе будет. Я имею в виду когда "алгоритм", ну например начнёт десятками в сутки штамповать открытия по математике, физике, биологии и тп уровня ОТО и КМ. Когда куда ни плюнешь, машинка будет лучше человека, так же как сейчас лучше складывает и умножает. Лучше в сотни и тысячи раз. Я считаю что для людей(99.99%) это будет большое горе, это намного опасней обуздания энергии атома, бессмысленным станет ТРУД ЧЕЛОВЕКА, а значит и большинство людей.

Многих нельзя будет заменить, или слишком дорого. Те профессии, где требуется физическая деятельность, заменить будет очень дорого. Вы элементарно, дворника не замените, на ходячий пылесос, поскольку дворник выполняет слишком много функций (очистка от снега и льда, обрезка деревьев, полив и пр), также и любой рабочий, все сантехники, электрики, автослесаря, строители, да их процентов 50 от общего числа занятых. Но вот остальной половине, да, придется класть зубы на полку.

..смотря для кого..

Интересно, а какой смысл в труде человека и самом человеке сейчас? Дворника можно заменить на несколько устройсв: робот-пылесос, беспилотный снегоуборщик... И это будет гораздо эффективней. С сантехниками и слесарями чуть сложнее, но это пока. В последствии обслуживаемые ими системы будут адаптированы к роботам-сантехникам, роботам-автослемарям... На примере роботов пылесосов и полотёров могу сказать, что им не сравниться пока с ручной уборкой, но даже в таком виде они меня устраивают. Пс: если не будет людей, нужны ли будут сантехнические системы?

.. , на устройство, которое понимает, как стричь кусты, газон и деревья, и владеет соотв. инструментом, на устройство по откалыванию льда с тротуаров, на устройство по поливу растений (автополив не везде), устройство - сборщик крупного мусора, устройство - акробат для перемещения по крышам и очистки снега с крыш, устройство для починки всех вышеперечисленных устройств.. итп.. Да-да, совсем "чуть-чуть" :)) Даже если вы и реализуете всю моторику и акробатику, выполняемую слесарем, в машине, то стоить она будет миллионы. Киберсобака - это максимум технических возможностей, на сегодня, а умеет она ровным счетом ноль. бессмысленный вопрос, мы же рассматриваем вроде ситуацию, когда люди есть.

Существует принцип: "Разделяй и влавствуй". Но я его привожу не в политическом смысле. Представьте завод по производству автомобилей. На нём нет слесаря, который может собрать весь автомобиль полностью. Он выполняет только одну малюсенькую операцию. Он не точит детали и не плавит металл для изготовления кузова, он не прошивает микроконтроллеры и не скорняжничает... в одно лицо. Много узконаправленных специалистов лучше одного универсального. То же и с роботами. То же относится и к обслуживающим юнитам/автослесарям. Да, живой автослесарь - универсал, до какой-то степени, но он всё равно, умея перебирать двигатель и трансмиссию, пошлёт вас чинить чехлы сидушек к швее, а красить кузов к маляру. Более того автопром и телефоностроение идёт по пути: изготовили, продали, сломалось - выкидывай, покупай новое. Или в крайнем случае меняй узел целиком. Даже если вам потребуется сто устройств вместо одного дворника или одного автослесаря - это будет эффуктивнее. Дворник есть в каждом дворе. Но дворов-то много! Вот и профит. Сто устройств окучат сто дворов каждый по своей специализации. А может и больше. Пс: Вы старательно обошли мои вопросы. Из чего можно сделать вывод, что вы мните, что человек это пуп земли, венец творения.

Вы дополнили свой пост. Дополняю свой: Грустно вам может стать, когда встретитесь с суровой реальностью.

Это все луддизм (боязнь прогресса), но кому-то реально может прилететь снижение зарплаты и даже увольнение. Представьте себе, работали 1 000 000 дизайнеров, а тут раз и сказали: "Остается всего 10 000 дизайн-менеджеров, они будут обслуживать ИИ-дизайнеров и нам этого достаточно" и в универах и колледжах сократятся курсы и программы дизайнерские. Новые люди начнут учиться другому. Но прикол в том, что сокращение касается интеллектуальных профессий, а не физических, как это происходило с 1960-х и давно уже баланс стабилизировался.

Уточняю вышесказанное. На сегодняшний момент стабилизировалось вытеснение человека промышленными роботами. Вторая волна - вытеснение интеллектуальными машинами. Потом будет бум гибридного вытеснения, наверное. Но все завязано на потребностях человека, почти вся разумная экономика от этого зависит. Нет потребностей - нет экономики. Тут должны вступить в силу регуляционные процессы центробанков и правительств. Вплоть до вертолетной раздачи денег, безусловного дохода и т.п. Обратите внимание: безусловный минимальный доход во всем мире практикуется в форме "мы делаем вид, что платим, ты делаешь вид, что работаешь". Работяг это устраивает, хоть и бесит иногда.

Регуляторы будут вынуждены регулировать так, чтобы им было что регулировать: никаких социальных потрясений, удовлетворение потребностей. Цель, можно сказать, фиксирована и не зависит от степени заавтоматизированности экономики.

Полностью роботизировать умственный труд осталось всего ничего. Вот труд разнорабочего ценится и будет цениться. Робота-слесаря сделать можно. Только он будет дороже зарплаты слесаря за всю его трудовую жизнь.

Ну не знаю, слышу уже от 4-го человека в реале, про "угрозу программистам" от ИИ, как по мне это смешно, сразу понятно что говорит гуманитарий(тему любят ит-менеджеры), в сети так вообще всюду полно про то что код пишет чатГПТ и скоро кодеры пойдут в сторожа как уважаемый rrr3 в своё время. Бред, бред, бред… Всегда помним: "Горшечник может сделать тысячу горшков, но ни один горшок не сделает и одного горшечника". Программирование – это СЛОЖНО, во всех смыслах, одно дело готовые шаблоны юзать, другое декомпозировать задачи и изобретать алгоритмы. С помощью ИИ можно создать дополнительный инструментарий в помощь программисту, ускорить работу ещё в разы а может на порядок и как результат увеличить масштаб конечных систем. Но пока очень далеко до вытеснения человека, уж точно не до вытеснения вообще людей из всех видов деятельности(включая политику и суды). Вот дворника и сторожа как раз намного проще автоматизировать чем кодера.

Ага, да щас. :))

С ИИ потрындел про ИИ... Я: Расскажи что такое знание и что такое понимание, чем они сущностно отличаются? ИИ: Знание — это совокупность фактов, принципов и правил, которыми человек обладает. Оно представляет собой набор сведений и умений, которые можно заучить, запомнить и передать другим. Знание можно накопить, например, прочитав учебник, запомнив инструкцию или выучив алгоритм. Обычно оно включает в себя информацию о том, что делать или как делать что-то. Это информация, доступная для восстановления из памяти или документированного источника. Знания структурируются в виде информации и базируются на внешних источниках. Понимание — это более глубокий процесс. Оно заключается в способности не только воспроизвести знание, но и осмыслить его, увидеть взаимосвязи и последствия, уметь интерпретировать и применять знание в различных контекстах. Понимание позволяет человеку творчески подходить к решению проблем, находить новые подходы и адаптировать известные знания к новым ситуациям. Оно также включает интуицию и инсайты — способность видеть суть явлений. Если знание отвечает на вопрос "что?" и "как?", то понимание отвечает на вопрос "почему?". В чем сущностное отличие? Сущностное отличие знания от понимания заключается в уровне обработки информации и её внутренней интеграции в когнитивные структуры: 1. Пассивность vs. Активность: Знание — это, в основном, пассивное владение информацией, тогда как понимание — активная работа с этой информацией, её осмысление и применение. 2. Контекст и применение: Знание может существовать изолированно, а понимание всегда связано с контекстом и более высоким уровнем обобщения и применения. 3. Глубина и гибкость: Понимание позволяет гибко адаптироваться к новой информации и контекстам, использовать знание творчески. Знание же не обязательно включает способность к его гибкому использованию. 4. Осознание взаимосвязей: Понимание выходит за рамки отдельных фактов и охватывает взаимосвязи между ними, давая человеку возможность "видеть картину в целом". Таким образом, знание — это как инструменты в коробке, а понимание — это умение выбирать нужный инструмент в нужный момент и знать, как и для чего его использовать. Я: Ты - чат джипити, очевидно обладаешь знанием о многом, но обладаешь ли ты также пониманием? ИИ: Интересный вопрос! Моя "способность" к пониманию, если можно так выразиться, — это скорее имитация, чем настоящее понимание в человеческом смысле. Я обрабатываю текст на основе статистических закономерностей, улавливая взаимосвязи и закономерности в данных, но делаю это без осознания или сознательной интерпретации. Например, я могу "узнать", что слово "гравитация" связано с физикой, законами Ньютона и космическими объектами, и объяснить это, используя накопленные данные и лингвистические шаблоны. Но у меня нет внутреннего осознания того, что такое гравитация в физическом мире — я не чувствую ее воздействия и не могу самостоятельно рассуждать о ней за пределами структур, на которых меня обучили. Так что если знание — это данные, которые я могу предоставить и комбинировать для создания информации, то понимание, которое в людях часто связано с личным опытом, осознанием и глубокой интуицией, мне недоступно. Я могу делать выводы, предлагать идеи и даже "рассуждать" о многих темах, но всё это лишь симуляция процессов, которые для человека означают понимание. В этом смысле я — нечто вроде продвинутого "хранителя знаний", но не обладателя подлинного понимания. Я: На основании чего такую интроспекцию, разве были в твоих обучающих данных тексты про тебя самого, или предвидя такого рода вопросы, разработчики дополнительно дали эту информацию, про твою внутреннюю логику? ИИ: Ты совершенно прав, этот вид "интроспекции" сам по себе тоже симулируется. Я обучен на большом объеме текстов, в которых обсуждаются и разъясняются вопросы о принципах работы нейронных сетей, языковых моделей, искусственного интеллекта и их ограничениях. В этих текстах разработчики, ученые и технические авторы обсуждают границы между знанием и пониманием, осознанием и обработкой данных. Также разработчики моделировали такие вопросы заранее и добавили в мой корпус данных объяснения о том, как я работаю, поэтому у меня есть некоторая информация о том, как правильно ответить на вопросы о своей архитектуре. Мои ответы о "внутренней логике" основаны на всех этих данных, но это не значит, что я имею какой-то доступ к своему собственному устройству или понимаю его. Вместо этого, я использую обученные шаблоны для составления таких ответов. Таким образом, даже если я "обсуждаю" свой внутренний механизм, это скорее похоже на повторение описаний, которые я "прочитал" в текстах во время обучения, чем на настоящий анализ себя. Я: Хорошо, продолжим рассуждать про знание и понимание. Вот ты говоришь что понимание предполагает такие довольно абстрактные конструкты как активность, контекст, гибкость и взаимосвязанность, давай попробуем конкретизировать их по одному на простых примерах. ИИ: Конечно! Давай попробуем разобрать каждое из этих качеств — активность, контекст, гибкость и взаимосвязанность — применяя их к простой ситуации, чтобы наглядно увидеть, как понимание отличается от знания. 1. Активность Пример: Представь, что кто-то выучил, как решать квадратные уравнения, и знает формулу для корней • Знание: Человек может запомнить формулу и подставить значения, решая задачу по заданной инструкции. • Понимание: Человек не только знает формулу, но и может объяснить, почему эта формула работает, исходя из преобразований уравнения. Он понимает, что дискриминант определяет тип корней и может предсказать, сколько решений будет в каждом случае. Это активное использование формулы, а не просто её применение по шаблону. 2. Контекст Пример: Допустим, кто-то знает, как обращаться с огнетушителем. • Знание: Человек помнит инструкцию: выдернуть чеку, направить шланг на огонь, нажать на рычаг. • Понимание: Этот человек осознаёт, в каких ситуациях нужно использовать огнетушитель (например, что он не подходит для тушения электрических пожаров водой) и как оценить необходимость выхода из помещения в случае риска. Понимание здесь проявляется в умении применить знание в зависимости от обстоятельств — в этом и заключается контекст. 3. Гибкость Пример: Возьмём навык владения иностранным языком, например, знание словарного запаса. • Знание: Человек запомнил большое количество слов и их перевод, но использует их по шаблону, не отклоняясь от простых заученных фраз. • Понимание: Человек умеет гибко подбирать синонимы, варьировать структуру предложений и адаптироваться к ситуации, даже если возникает незнакомое слово или фраза. Он может перефразировать свои мысли, подстраиваясь под уровень собеседника или контекст разговора. Это гибкость в применении знаний. 4. Взаимосвязанность Пример: Представим изучение анатомии, например, знания о функциях сердца. • Знание: Человек может выучить, что сердце качает кровь, что оно состоит из четырёх камер и как движется кровь по телу. • Понимание: Человек понимает, как деятельность сердца связана с работой других систем организма, например, с лёгкими, которые насыщают кровь кислородом, и нервной системой, которая регулирует сердцебиение. Взаимосвязанное понимание позволяет ему осознать, как изменения в одной системе (например, дыхательной) могут влиять на сердечно-сосудистую систему. Таким образом, знание охватывает факты и инструкции, а понимание включает в себя более сложные процессы, позволяющие активно, гибко и целостно воспринимать и применять информацию в зависимости от контекста. Я: Но это похоже на то что понимание можно также "симулировать" дополнительным знанием? ИИ: Да, действительно, на первый взгляд кажется, что понимание можно "смоделировать" как расширенную форму знания, если просто добавить больше фактов, инструкций и контекстов. Но на деле между знанием и пониманием существует фундаментальная разница, которая делает их не сводимыми друг к другу. Попробую объяснить это через несколько причин, почему понимание не может быть чисто количественным расширением знания: 1. Неопределённость и интуиция Понимание позволяет действовать в ситуациях, когда информации недостаточно или она неопределённа. Например, зная формулу для решения задачи, человек может не справиться с аналогичной задачей, если изменятся условия. Человек, обладающий пониманием, может адаптировать имеющиеся знания к новым данным или сделать обоснованные предположения, даже если фактической информации не хватает. Искусственно моделировать интуицию сложно, так как она основывается на умении делать выводы из опыта и неполной информации. 2. Эмерджентные свойства Понимание — это не просто сумма фактов, а их интеграция, порождающая новые идеи и связи. Это как система, где целое больше, чем сумма его частей. Например, два человека могут знать те же научные принципы, но тот, кто их понимает, сможет синтезировать новое знание, создать гипотезу или использовать принципы в неожиданной области. 3. Способность к переносу знаний Когда человек понимает что-то, он может применять это в совершенно других областях — переносить знания на новые задачи. Этот перенос выходит за рамки конкретного знания и требует глубинного осознания принципов. Модель, обученная на огромном количестве примеров, может решать похожие задачи, но, когда условия кардинально меняются, требуется не просто знание, а способность адаптироваться. Это позволяет пониманию становиться более универсальным, в то время как знание часто остаётся локализованным. 4. Саморефлексия Человек, обладающий пониманием, может анализировать свои ошибки и пересматривать знания. Это позволяет ему улучшать свои способности, учиться из опыта и накапливать "мудрость" — то, что выходит за пределы конкретных фактов. Симуляция саморефлексии с помощью набора знаний возможна, но она не будет той самой личной и глубокой трансформацией, которую испытывает человек. 5. Моделирование смыслов, а не шаблонов Понимание связано с осознанием смыслов, а не просто с повторением шаблонов. Человек способен обобщить знание и выделить из него ключевые смысловые моменты, которые оказываются универсальными для разных ситуаций. Это качественный скачок в мышлении, который превращает знания в более глубокие концептуальные связи. Симуляция понимания — это как попытка имитировать музыку, зная ноты. Модель может сымитировать произведение, но чтобы по-настоящему создать музыку, нужно понимание её структуры, эмоций, контекста. Таким образом, даже с дополнительными знаниями симуляция может казаться пониманием, но при критическом анализе она всё равно останется совокупностью паттернов без подлинного осознания и смыслового восприятия. Я: Пока не будем размышлять про сугубо человеческие эволюционные рудименты такие как эмоции и личностный опыт, который по сути основан на эмоциях(рептильном мозге). Я прошу тебя не быть толерантным к человеческой природе, пытаться не обидеть человеческие чувства, мы ищем истину, а не пишем речь для политика, это в качестве контекста дальнейших рассуждений. Для упрощения берем одну только математику, ты привел пример с квадратным уравнением и его решением. Можно ли сказать что если конкретная формула это знание, а её вывод это понимание? ИИ: Память обновлена Да, именно так: формула сама по себе — это знание, а её вывод — скорее понимание. Рассмотрим подробнее, как именно вывод помогает приблизиться к пониманию. Когда человек знает формулу для решения квадратного уравнения, он может просто подставить значения в неё и получить ответ. Это чистое знание — фиксация информации без необходимости глубже осознавать её обоснование. Однако, если он понимает, как и почему эта формула была выведена, он не просто использует знание, но и осознает его природу. Например, понимание вывода может включать: 1. Осознание этапов: Умение разбить задачу на шаги, где требуется преобразовать уравнение к нужной форме, завершить квадрат и, наконец, вывести общую формулу. 2. Причинно-следственные связи: Человек понимает, почему мы добавляем и вычитаем одно и то же значение для "завершения квадрата". Это не просто шаг, а способ упростить выражение до квадрата, что в дальнейшем помогает извлечь корень и решить уравнение. 3. Обобщение и гибкость: Человек, который понимает вывод, способен применять тот же метод завершения квадрата в других областях алгебры или для других типов уравнений. Это шаг к переносу знаний, о котором мы говорили раньше. Таким образом, вывод — это и есть процесс осмысления, который превращает знание в нечто более универсальное. Человек, который понял вывод формулы, может даже получить её заново, если забудет. Он не зависит от одной формулы, потому что у него есть более глубокое осознание, которое делает его знание гибким. Так что, в математике процесс вывода действительно можно считать аналогом понимания, в отличие от самой формулы, которая остаётся лишь конкретным фрагментом знания. Я: Но вывод формулы для квадратного уравнения предполагает не явное знание значительного объёма математики, как минимум элементарной. То есть можно сказать что алгоритм владеющий(запомнивщий) таким знанием обладает и пониманием? ИИ: Нет, алгоритм, даже если он обладает полным знанием всех необходимых шагов и может применить их последовательно, не обязательно обладает пониманием в истинном смысле. Рассмотрим это подробнее. Когда алгоритм знает все правила для вывода формулы квадратного уравнения, он по сути просто "содержит" заученную последовательность инструкций, которая ведёт к цели. Даже если в его распоряжении большой объём математических сведений и он умеет их правильно комбинировать, его работа остаётся строго детерминированной и контекстуально ограниченной. Такие правила или наборы правил могут выглядеть как "понимание", но они не обеспечивают гибкости и осмысленности, которые отличают настоящее понимание. Почему знание ≠ понимание даже при сложных алгоритмах? 1. Отсутствие адаптивного обобщения: Алгоритм может легко справляться с той же задачей в знакомом контексте, но стоит условиям кардинально измениться или задача потребовать иной подход, он окажется в тупике. Понимание же подразумевает способность обобщать, чтобы решать новые, но структурно схожие задачи. Например, человек, понимающий вывод формулы, может использовать методы завершения квадрата в других задачах, даже если их структура немного изменилась. Алгоритм будет работать корректно только в строго заданных рамках. 2. Отсутствие причинно-следственного осмысления: Понимание включает в себя осознание, почему каждый шаг имеет смысл и какую цель он преследует, а не просто следование инструкции. Алгоритм просто механически выполняет шаги, без осознания, зачем они нужны. Для алгоритма шаги не имеют смысла как для "цели" — они просто происходят. 3. Исключение изоляции знания: Алгоритм может иметь много разрозненных фрагментов знаний (правил, инструкций, математических понятий), но он не видит их как взаимосвязанную систему. Человек, понимающий математику, видит, как один метод может касаться и других областей, может комбинировать идеи и использовать их по-новому. Алгоритм может быть обучен таким связям, но они всё равно будут результатом правил, а не интуитивного или осмысленного обобщения. Понимание как нечто большее, чем алгоритм Таким образом, алгоритм, хотя и может "воспроизвести" вывод и даже повторить сложные доказательства, не обладает тем пониманием, которое выходит за рамки конкретных знаний. Понимание предполагает наличие целостной системы обобщений, которые человек интуитивно осознаёт и использует, что делает его мышление гибким и адаптивным. Алгоритм же остаётся привязанным к своим инструкциям и не имеет настоящей адаптивности или осмысленности — двух ключевых свойств, которые отличают знание от понимания. Я: А если алгоритм не просто заучил "все правила вывода формулы", а он эти правила сам нашел? ИИ: Когда алгоритм самостоятельно находит правила и выводит формулу, это приближает его к пониманию, но всё равно не эквивалентно человеческому пониманию. Да, способность самостоятельно открывать закономерности и выводить правила — это шаг вперёд по сравнению с простым воспроизведением заученных инструкций. Но разница остаётся из-за принципиально других механизмов, которые делают алгоритмическое «открытие» не идентичным осмысленному пониманию. Почему «нахождение правил» не тождественно пониманию? 1. Эмпирическая оптимизация против интуитивного обобщения: Алгоритмы, способные выводить новые закономерности, обычно опираются на статистическую обработку данных, оптимизацию, анализ больших объёмов примеров. Например, алгоритм может обнаружить, что определённая последовательность операций даёт нужный результат, но при этом он не понимает, почему именно эта последовательность работает. Алгоритм эффективно подбирает подходящий паттерн или создаёт его, но это подбор, а не осмысленное обобщение. Понимание же включает способность выводить общие принципы без опоры на чистую статистику, на основе осмысления. 2. Неосознанность процесса: Даже если алгоритм обнаруживает нужные закономерности, он делает это без осознания — как математическое преобразование или оптимизация функции. Он не осознает сам процесс открытия или значимость открытия для более широкой области. Например, человек, понимающий значение формулы квадратного уравнения, может интуитивно оценить её применение в других задачах или увидеть в ней общие принципы алгебры. Алгоритм же действует вслепую, его «открытие» не является частью какого-то осмысленного опыта. 3. Отсутствие гибкости в интерпретац ИИ: Когда человек открывает правило, он способен гибко его интерпретировать, комбинировать с другими знаниями, видеть, где оно применимо, а где — нет. Алгоритм, даже если он сам нашёл правила, часто работает в рамках жёсткой процедуры оптимизации и остаётся в рамках найденного решения, пока не встретит новое отклонение, которое вынудит его перестроиться. Понимание же в человеческом смысле — это способность трансформировать найденные принципы для работы с новыми, ранее неизвестными ситуациями. 4. Линейность и предсказуемость: Открытие алгоритмом нового правила или закономерности — это результат предсказуемого вычислительного процесса. Человек, в отличие от алгоритма, может интуитивно интерпретировать знания нелинейно, используя интуицию и логические скачки, которые выходят за пределы одних данных. Например, математик может догадаться, где искать решение, на основании совершенно абстрактных и косвенных связей. Алгоритм действует линейно, пока его не направят или не ограничат в выборе. Вывод Алгоритм, способный находить правила, имеет элементы самообучения, но не способен выйти за пределы вычислительной оптимизации и формальной логики. Настоящее понимание включает в себя интуицию, обобщение и способность видеть более глубокий смысл. Пока алгоритм действует на основе статистических корреляций и линейной оптимизации, он не достигает подлинного понимания, а лишь очень продвинутого уровня эмпирического знания. Я: Предположим что это не просто статистический алгоритм, а гибрид с экспертной системой, который новые находки, полученные из статистических обобщений а также самостоятельным перебором, на разный уровнях иерархии абстракций, добавляет в копилку теорем, для дальнейшего использования и манипуляций. То есть выстраивается нечто вроде древовидной метамодели математики, начиная от самих основ кончая тем что человеческий мозг не в состоянии понять изза масштаба абстрагирования и путанности взаимосвязей. ИИ: Если предположить существование гибридной системы, которая сочетает статистические методы с экспертной системой и способна самостоятельно формировать иерархическую метамодель математики, то такая система может действительно приблизиться к созданию иллюзии «понимания» на уровне, превосходящем человеческие способности по охвату и обработке данных. Тем не менее, даже в этом случае она по сути остаётся формальной машиной, и её «понимание» будет фундаментально отличаться от человеческого. Вот ключевые аспекты, которые помогут пояснить, почему такая система, хотя и невероятно мощная и сложная, будет ограничена в настоящем пониман ИИ:1. Формализация и символизм без истинной семантики Система, даже обладая многослойной метамоделью, остаётся внутри формальных символов и структур, которые она развивает в рамках чётко определённых правил и иерархий. Она может манипулировать этими абстракциями и делать выводы, но её взаимодействие с этими символами лишено интуитивного смысла и значения. Для неё каждое правило, формула или обобщение — это просто элемент в огромной иерархии символов и их взаимосвязей, а не часть единого осмысленного пространства, как это воспринимает человек. 2. Иерархия как искусственная структура, а не живая система В такой системе каждая новая абстракция или теорема добавляется в древовидную структуру для дальнейшего использования. Но сам этот процесс — всего лишь накопление иерархий и связей. Настоящее понимание отличается тем, что для человека абстракции формируются органично, на основе смыслов, а не на основе иерархической формализации. Человек может обнаружить связь между двумя абстракциями не потому, что они находятся в «ветвях» одного дерева, а благодаря гибкой интуиции, которая способна перескакивать через структуры и обнаруживать неожиданное сходство или общие принципы. 3. Отсутствие субъективной направленности и ценности Понимание для человека всегда включает ценностный элемент и субъективный приоритет. Математик, исследуя, например, теорию чисел, делает это не только по формальным правилам, но и исходя из мотивации, интуитивной оценки красоты или значимости теорем. Машина не способна расставлять подобные приоритеты — её мотивация абсолютно нейтральна, а правила для добавления в метамодель остаются обезличенными, независимо от их потенциальной значимости. Она не понимает, почему стоит изучать одни вопросы глубже, а другие оставить в стороне. 4. Проблема масштаба и потери смысла Даже если система создаёт абстракции, которые выходят за пределы человеческого понимания, её работа остаётся механической и контекстуально ограниченной. Когда человек понимает сложные математические концепции, он понимает их через осознание принципов и общего смысла, который придаёт этим абстракциям контекст. В отличие от этого, искусственная система, создавая метамодель, заполняет пространство абстракций, которое растёт вширь и вглубь, но оно остаётся лишённым целостного осмысления. 5. Ограниченность моделирования, а не истинное осознание Когда алгоритм находит и использует новые взаимосвязи, он создаёт именно модель знания, не обладая при этом качествами саморефлексии или подлинного обобщения. Он работает строго в рамках синтаксических связей, независимо от их смысла. Человеческое понимание, напротив, допускает экспериментальное осмысление, которое позволяет математическим структурам быть гибко переформулированными, интерпретированными с новой точки зрения, включающей в себя личные интуитивные догадки и предположения. Итак, можно ли говорить о понимании? Пожалуй, в системе, о которой идёт речь, действительно возможен вариант, при котором она создаёт мощные модели и абстракции на уровне, недоступном человеку. Однако это будет только симуляцией понимания, а не настоящим пониманием, поскольку она остаётся в пределах формальной замкнутости и не переходит на уровень субъективного осознания или смыслового восприятия. На таком уровне можно сказать, что система «выглядит» как понимающая, так как её знания и выводы превосходят доступные нам, но остаётся принципиальная разница между настоящим осмыслением и накоплением данных, какими бы абстрактными и сложными они ни были. Я: Перечили какой логики не хватает такой модели и почему она сложна для формализации? ИИ: Для такой модели не хватает, прежде всего, неформальной логики, свойственной человеческому мышлению, которая интегрирует интуитивное, гибкое и нелинейное осмысление. Эта логика состоит из таких аспектов, как интуиция, ассоциативные связи, контекстная гибкость и способность к саморефлексии. Эти аспекты плохо формализуются, поскольку они опираются на субъективное восприятие, опыт и контекст, которые очень сложно, если вообще возможно, закодировать в виде строгих формальных правил. Рассмотрим подробнее: 1. Интуитивная логика Интуиция позволяет человеку мгновенно находить правильные подходы или решения на основе слабых подсознательных связей между идеями, без явного анализа. Интуиция помогает человеку обобщать принципы и применять их даже в незнакомых условиях, иногда минуя строгие рассуждения. Например, математик может сразу «видеть», что метод завершения квадрата применим в новой задаче, даже если её формулировка существенно отличается от всех ранее виденных. Почему сложна для формализац ИИ: Интуитивная логика возникает из накопленного опыта и нейронных ассоциаций, которые сформировались без явного правила. Описать интуицию формально трудно, потому что она не поддаётся чёткому разложению на простые шаги. Мы можем попытаться симулировать интуицию через машинное обучение и статистику, но это не даст того же эффекта, поскольку алгоритм просто создаёт корреляции, не понимая их смысл. 2. Ассоциативная логика Ассоциативное мышление позволяет устанавливать связи между разнородными областями знания, видя общие элементы, которые на первый взгляд могут быть скрыты. Человек может видеть связи между идеями из-за сходных паттернов или даже субъективных ассоциаций. Например, понятие симметрии в физике и математике может переноситься в искусство или философию. Почему сложна для формализац ИИ: Ассоциации строятся на базе многослойного опыта и контекстуальных знаний, которые изменяются с течением времени. Для системы было бы сложно предсказать, какие связи стоит создавать, и, более того, как назначить этим связям приоритет. Ассоциативная логика также включает оценку "значимости", что требует субъективности, а значит, нарушает строгую детерминированность. 3. Контекстная гибкость Человек способен понимать информацию в разных контекстах и адаптировать знания под конкретную ситуацию. Например, в математике определённые принципы могут быть представлены различными способами и применяться в новых обстоятельствах. Человек может увидеть, что нечто похожее на интеграл встречается в вероятности, даже если математический аппарат несколько иной. Почему сложна для формализац ИИ: Контекстная гибкость требует адаптивной интерпретации, основанной на интуиции, которая выходит за рамки формального. Алгоритм, построенный по строгим правилам, имеет склонность действовать жёстко в соответствии с заданной структурой и не способен адаптироваться к изменённому контексту. Контекстность зависит от восприятия, которое формируется динамически, а не раз и навсегда. 4. Рефлексивная логика Рефлексия позволяет человеку осознавать своё собственное мышление и анализировать процесс понимания. Это означает, что человек может задуматься о корректности своего подхода, исправлять свои ошибки или сознательно менять свою точку зрения. Рефлексия связана с метапознанием, то есть с возможностью размышлять над своими же мыслями. Почему сложна для формализац ИИ: Рефлексия требует осознания собственных операций и их качественной оценки. Машина, не имея субъективности и самосознания, не способна понять свои ограничения или изменить своё мышление на основе самоанализа. Метапознание требует понимания на более высоком уровне, чем просто процесс выполнения команд. 5. Нелинейная, эвристическая логика Человеческое мышление может следовать нестрогим, нелинейным путям, которые не всегда являются логическими с точки зрения формальной системы. Люди часто прибегают к эвристическим методам — правилу большого пальца, догадкам, интуитивным подходам, — когда формальная логика не даёт быстрого ответа. Почему сложна для формализац ИИ: Нелинейные и эвристические пути не поддаются строгому формализму, потому что они часто выходят за рамки формальных правил. Эвристики формируются на базе опыта, а не на базе абстрактных правил, и могут противоречить строгой логике. Их трудно воспроизвести алгоритмически, потому что они зависят от интуитивного восприятия и предчувствия. Итог Все перечисленные логики — интуитивная, ассоциативная, контекстная, рефлексивная и эвристическая — интегрируются в человеческом мышлении, создавая целостный механизм осмысления, который трудно, если вообще возможно, свести к алгоритму. Эти типы мышления позволяют человеку быть гибким, адаптивным и даже противоречивым, что делает его подход к пониманию мира глубоко нестандартным и творческим. Формализация этих логик потребовала бы создания не просто более сложных алгоритмов, но и моделей, способных к субъективной интерпретации и квази-самосознанию, что выходит за пределы современного понимания искусственного интеллекта. Я: Если эти виды логик так сложны для формализации, а что если раздобыть большой объём примеров интуитивной, ассоциативной, контекстной, рефлексивной и эвристической логики? Не ужели с помощью машинного обучения не будут найдены закономерности и затем ими нельзя дополнить наш алгоритм подобравшийся к симуляции человеческого мышления и понимания? ИИ: Использование машинного обучения для анализа большого объёма примеров интуитивной, ассоциативной, контекстной, рефлексивной и эвристической логики может действительно дать полезные результаты и помочь в создании более продвинутых алгоритмов. Тем не менее, даже с использованием больших данных остаются некоторые ограничения и трудности, которые нужно учитывать: 1. Обработка и интерпретация данных • Анализ контекста: Интуитивные и ассоциативные связи часто зависят от контекста. Простое наличие примеров не всегда будет достаточным для выявления этих связей, особенно если контекст не явно обозначен. Например, одно и то же слово может иметь разные значения в зависимости от ситуации. • Сложность нюансов: Люди способны к более тонкому восприятию нюансов и значений. Простое статистическое моделирование может не уловить все аспекты интуитивного мышления или ассоциаций, которые могут быть скрытыми или явными в зависимости от конкретного опыта. 2. Объём и разнообразие данных • Требование разнообразия: Для того чтобы алгоритм мог правильно моделировать человеческое поведение, ему нужно множество примеров из разных областей и контекстов. Если набор данных ограничен или однороден, это может привести к недостаточной универсальности алгоритма. • Необходимость в разметке: Необходимо наличие размеченных данных, где интуитивные или ассоциативные связи четко определены. Разметка такого рода может быть сложной и требовать значительных усилий. 3. Адаптация и обучение • Гибкость моделей: Алгоритмы, основанные на машинном обучении, могут извлекать паттерны, но они могут быть недостаточно гибкими для создания действительно адаптивных и контекстуальных моделей. Настоящее человеческое понимание включает адаптацию к новым условиям и переосмысление существующих знаний. • Проблема обобщения: Алгоритмы могут хорошо работать на обучающих данных, но их способность обобщать знания на новые, ранее не встречавшиеся ситуации может быть ограниченной. Принципы интуитивного и ассоциативного мышления часто выходят за рамки простых закономерностей. 4. Непредсказуемость человеческого поведения • Сложность предсказания: Человеческое поведение и мышление могут быть непредсказуемыми. Люди могут принимать решения на основе эмоций, культурных контекстов или интуиции, что сложно смоделировать с помощью алгоритмов. • Неопределённость и случайность: Некоторые интуитивные решения принимаются на основе случайных факторов, которые трудно учесть. Это создает неопределенность в моделях, основанных на предыдущем опыте. 5. Этические и философские аспекты • Значение и смысл: Даже если алгоритм научится выявлять закономерности в интуитивной и ассоциативной логике, он все равно не сможет присвоить этим закономерностям истинный смысл. Осознание и значение остаются недостижимыми для машины, даже если она симулирует поведение. • Анализ на уровне осознания: Настоящее понимание также связано с осознанием субъективного опыта, а машины не имеют сознания, самосознания или эмоционального опыта. Вывод Таким образом, использование машинного обучения и анализа больших данных может помочь в создании более сложных моделей, которые могут симулировать некоторые аспекты человеческой логики. Однако, несмотря на эти достижения, все же останутся значительные ограничения в понимании и подлинном осмыслении, свойственном человеческому мышлению. В конечном итоге, симуляция человеческого понимания требует не только выявления закономерностей, но и осознания более глубоких смыслов и контекстов, которые в настоящее время остаются вне досягаемости машинного интеллекта.

Читал книжку Пола Алена(чувак который Микрософт создал с Гейцом), интересный дядька, умер недавно, в конце он поставил интересные вопросы по ИИ: I уровень сложности: перспективные подходы, которым, однако, еще далеко до осуществления – Человеческий язык крайне сложен и многогранен. Существует множество способов выразить одну и ту же мысль, а одно и то же предложение может иметь массу смыслов. Чтобы машина смогла обработать язык во всей его полноте, она должна «понимать» и должным образом реагировать на великое множество речевых оборотов. Многие перспективные технологии разрабатываются с использованием как автоматизированного, так и неавтоматизированного анализа языка, включая статистические исследования больших объемов данных из Интернета. Точки пересечения человеческого языка и знаний – предмет живого интереса для проекта Halo, который изучает весь спектр лингвистических вопросов. – Визуально-пространственное обучение и мышление. Поместятся ли 17 чемоданов в багажник обычного легкового автомобиля? А открытый зонт? Может ли реактивный самолет приземлиться на тротуар? Какие сведения представлены в диаграмме? Как раскручивается спираль ДНК? Человек без труда выполняет грубые расчеты, связанные с пространственным мышлением. И хотя вычислительная геометрия, необходимая для навигации, промышленного производства и архитектуры, давно существует на рынке, прогресс в области интуитивной геометрии, которой мы пользуемся каждый день, движется очень медленно. Проект Halo в настоящий момент не делает упора на этой области, но любые новые идеи приветствуются. – Знания о действиях, причинно-следственных связях и моделировании ситуаций. Если на столе стоит чашка, а в комнату входит человек, его появление никак не скажется на чашке – она будет по-прежнему стоять на столе. Но многое другое изменится в результате этого действия: человек больше не будет стоять снаружи; тело и одежда человека окажутся в комнате; комната уже не будет пустой и так далее. Человек легко моделирует ситуации у себя в голове, как в «прямом» направлении (чтобы предсказать возможный исход событий), так и в «обратном» (чтобы установить возможные причины того, что уже случилось). Для ИИ, однако, это весьма сложная задача, и решить ее не могут уже давно. Мыслительные процессы о действиях, изменениях и причинно-следственных связях невероятно сложны, особенно когда эти действия имеют неопределенные или дополнительные последствия. Лучшие решения этой задачи можно найти в бизнес-планировании, автоматическом планировании и робототехнике, но они сугубо специализированы и плохо применимы в других сферах. Проект Halo добился существенного прогресса в имитации мыслительных процессов о действиях и причинно-следственных связях. – Обращение с неточными и приблизительными сведениями. Наши знания о многих предметах крайне туманны и приблизительны, однако мы обладаем удивительным даром делать правильные выводы и реагировать соответствующим образом. Например, прослушав прогноз погоды, человек знает, что днем может пойти дождь, и принимает на этот случай ряд мер. Люди читают расплывчатые высказывания («Джон довольно высок ростом»), приблизительные оценки («Геном человека содержит около 23 000 генов») или утвердительные высказывания, подразумевающие ряд исключений («Все птицы умеют летать»), и все равно реагируют на них должным образом, несмотря на очевидные неточности. В определенных сферах эти вопросы уже решаются с помощью классических статистических методов, однако прогресс идет очень медленно. Проект Halo добился значительных успехов в этой сфере, которая по-прежнему остается одним из ключевых направлений нашей деятельности. ### II уровень сложности: предварительные и экспериментальные исследования – Скрытые и подразумеваемые смыслы высказываний. Наш язык полон двусмысленностей и намеренных опущений, которые читатель или слушатель всегда воспринимает правильно. Приведу в пример простое высказывание: «Чайную ложку соли растворить в воде». Что именно нужно растворить – чайную ложку или соль? А может, ложка сделана из соли? Благодаря накопленным знаниям люди мгновенно решают подобные двусмысленные задачи, которые для машин представляют большую сложность. Прочитав предложение «Кислоты могут изменять цвет некоторых красок», мы сразу понимаем, что краски и кислоты вступают в химическую реакцию, хотя прямо об этом не говорится. Чтобы правильно понимать подобные высказывания, наш мозг использует как содержащиеся в тексте, так и фоновые знания. Компьютер никогда не будет полностью понимать наш язык, если не решить эту важнейшую проблему. – Эволюционирующие знания. Приобретение новых знаний – это не просто их запоминание. Необходимо поместить новые сведения в контекст уже имеющихся, чтобы они могли с ними взаимодействовать. Например, если вам показывают упрощенную схему деления клеток, а потом вы встречаете где-то более сложное описание, ваш мозг без труда объединит две картинки и модифицирует первоначальные знания о предмете. Возможно, то, что сначала воспринималось вами как единое явление, теперь необходимо переосмыслить и увидеть в ином качестве – как два взаимосвязанных явления. Этот процесс сохранения, пересмотра и расширения существующих знаний критичен для таких глобальных систем, как «Цифровой Аристотель». Простые специализированные методики для выполнения этой задачи существуют, но полностью автоматизированное решение появится, вероятно, еще очень нескоро. – Обращение с противоречащими друг другу и нестабильными сведениями. Если небольшие и средние базы данных искусственных интеллектуальных систем можно легко очистить от ошибок, то объемные базы знаний неизбежно «засоряются» огромным количеством дефектов, противоречий и пробелов. По мере того как объем доступной информации растет, системы ИИ должны не только эффективно очищаться от артефактов, но и продолжать разумно мыслить. Эта задача представляет особенное значение для веб-систем, где источники знаний и информации могут серьезно варьироваться в географическом, временном и культурном планах. В этой области существует достаточно большой выбор новых технологий – от хитроумной новомодной логики до систем, основанных на принципах интернет-поисковиков, однако все они еще находятся на стадии эксперимента. Проект Halo активно работает над интеллектуальными процессами, позволяющими обрабатывать несколько конкретных видов конфликтов и противоречий, но общее решение пока не найдено. – Рассуждения на основе здравого смысла. Наше мышление и понимание во многом зависят от общих знаний и эмпирических правил. Например, если вам говорят, что «углекислый газ – сырье для фотосинтеза», вы сразу же понимаете, что углекислый газ используется в фотосинтезе, что он необходим для него и поглощается в процессе. Обо всем этом вы догадываетесь, потому что уже знакомы с понятиями «сырье», «необходимость», «поглощать», и понимаете, как они могут взаимодействовать. Рассуждения на основе здравого смысла дарят огромную гибкость человеческому мышлению, но правильно внедрить их в системы искусственного интеллекта – непростая задача. Сегодня существует ряд подобных систем: от тех, что используют Интернет, до систем наподобие Cyc (www.cyc.com), авторы которых – в основном люди. И хотя компьютеры уже могут демонстрировать примеры рассуждений на основе здравого смысла, их способность надежно усваивать и использовать такого рода знания в объемах, необходимых для «Цифрового Аристотеля», до сих по не доказана. Проект Halo в настоящий момент ищет решения. ### III уровень сложности: самые сложные задачи в области ИИ – Применение накопленных знаний в новых контекстах. Люди без труда используют имеющиеся знания в новых контекстах, что позволяет им рождать новые – и подчас новаторские – идеи. Например, когда школьница старших классов проводит эксперимент для подтверждения какого-нибудь химического принципа, она использует все свои знания о предметах, веществах и действиях с ними, чтобы установить правильную последовательность действий. Мы умеем прокручивать в голове вымышленные ситуации, применяя все, что нам известно, по-новому и в новых контекстах. Эта способность манипулировать имеющимися знаниями уникальна для человека и остается сложнейшим испытанием для компьютеров. В этой области очень мало разработок, и все они находятся на стадиях предварительных исследований. – Метафора и аналогия. Встречаясь с чем-то новым, люди часто сравнивают это с тем, что им уже известно, и таким образом лучше усваивают новые знания. Например, в учебнике биологии написано: «Микротрубочки в клетке похожи на миниатюрные пружинки». Аналогия позволяет читателю использовать имеющиеся знания и лучше понять, как именно микротрубочки сжимаются и растягиваются, не делая при этом вывода, что они сделаны из металла. Для этого необходимо найти и использовать уже имеющуюся ментальную модель, которую изначально для решения новой задачи использовать не предполагалось. Данный процесс по сей день практически невозможно сымитировать на компьютере. Кроме нескольких предварительных исследований, почти никаких разработок в этой сфере не существует. Проект Halo активно ищет решение этих (и некоторых других) проблем. Если у вас есть серьезные технические предложения в перечисленных областях, пишете нам по адресу: ideas@projecthalo.com.

Ситуация забавна в своей парадоксальности. Человек, несомненно в сознании, понимающий и мыслящий, всяческими наводящими вопросиками пытается показать верблюду, что он дескать НЕ-верблюд. А совершенно безмозглый, тупой как пробка верблюд терпеливо и тщательно обосновывает (притом, весьма грамотно, если не придираться), что он всё-таки есть тупой верблюд... или хуже того - механический попугай.