Форум создателей искусственных интеллектов

[Приветствую, господа. И дамы, если они здесь вдруг есть. Давненько не заходил. Под впечатлением от недавних новостей написал короткую статью. Надеюсь, будет что обсудить, или хотя бы посмеяться.] В последние годы искусственные нейронные сети сделали впечатляющий рывок. Инвестиции в эту область растут вместе с ожиданиями, и можно предположить, что скоро мы увидим рывок куда больший. Предстоящий релиз рассуждающей модели о3, способной решать многие задачи на равных с самыми одарёнными людьми, и заявление CEO OpenAI Альтмана, что полноценный AGI может появиться уже в этом году, заставили задуматься: чего я жду от ИИ, какие изменения он принесёт в нашу жизнь? В сети хватает прогнозов на любой вкус, но, раз уж я слегка фантаст - ниже мой вариант развития событий, разделённый на три этапа. I этап - Искусственный интеллект стучится в двери. То, что разрабатывается или уже существует в том или ином виде, и последствия этих разработок (в ближайший год - два) 1. Полноценная мультимодальность, объединяющая самые ценные инструменты ИИ: восприятие и генерация речи уровня chatGPT Advanced voice mode; анализ изображений, видео и документов; редактирование документов и генерация изображений; доступ в интернет; рассуждения; и, конечно, работу с текстом и программным кодом. 2. Универсальные программы-ассистенты на основе мультимодальных сетей. Такой ассистент позволит работать с компьютерами и мобильными устройствами, просто давая указания вслух так же, как человеку. 3. Улучшенный поиск в интернете, предоставляющий качественную выжимку информации в соответствии с указаниями, что, где и для чего искать. 4. Первое поколение относительно самостоятельных агентов с зачатками планирования, способных выполнять задания на компьютере как обычный пользователь - например, обрабатывая входящую почту и внося соответствующие записи в документы. (С побочным эффектом мы уже знакомы - звонок в поддержку часто означает необходимость пробиться к оператору-человеку через тупого бота). 5. Первое поколение гуманоидных роботов, которые будут работать у тестовых конвейеров. 6. Сокращение найма офисного персонала, чья работа не требует высокой квалификации. 7. Из очевидного: снижение до минимума или полное устранение "галлюцинаций" (в этом уже есть существенные успехи); дальнейшее увеличение контекстного окна; оптимизация структуры сетей, методов обучения и вычислений. Вероятно, частичный перенос вычислений на всё более мощные локальные устройства, чтобы высвободить сервера для более серьезных задач. II этап. Полноценный ИИ (предположительно через три-пять лет) 1. Искусственный аналог сознания: ИИ, способный к планированию, оценке ситуации во времени и смене приоритетов; не только отвечающий на запросы, но самостоятельно размышляющий и действующий. И, конечно, решающий любые интеллектуальные задачи как минимум не хуже человека. 2. Масштабирование: теперь нейросети не ограничены размером контекстного окна и умеют работать с проектами, многократно превышающими его размер. 3. Первые искусственные личности, в общении достоверно имитирующие человека со своим кругом интересов и жизненным опытом. Пока бестелесные, но с демонстрацией своего образа и эмоций на экране. Помимо прочего, их начинают использовать как преподавателей, что радикально меняет систему образования. 4. Интеграция продвинутых нейросетей с различными программами - от видеоредакторов и пакетов математических вычислений до систем управления предприятиями. Это придаёт ИИ много новых способностей и ставит под удар многие интеллектуальные профессии. 5. Зарождение глобальной сети интеллектуальных агентов - возможно, с неким универсальным языком для общения, а также встроенным протоколом финансовых транзакций. В такой сети, скажем, продвинутые универсальные агенты могли бы распределять задачи между более дешевыми специализированными, тем самым экономя вычислительную мощность; или объединяться в подсети для решения масштабных проблем. 6. Революция дронов в военном деле приближается к логическому итогу: полностью автономные камикадзе с распознаванием цели, бегающие дроны-солдаты и дроны-танки, рои дронов, микродроны для разведки и диверсий. Ведётся разработка машинных систем для управления современным боем, за которым человек уже не успевает. Роботы также входят в состав полицейских патрулей. 7. Роботы развиваются в достаточной мере, чтобы заместить любой физический труд, не требующий тонкой координации: грузчики больше не соревнуются в швырянии багажа на дальность; количество людей в строительстве, сельском хозяйстве и просто за конвейером начинает сокращаться. 8. Полностью автономный транспорт на дорогах общего пользования; 9. Продвинутые нейроинтерфейсы, позволяющие силой мысли управлять различными приборами или передавать сообщения, а также получать ответы непосредственно на слуховой нерв. 10. ИИ стремительно меняет искусство: совместные работы людей и нейросетей вытесняют human-only произведения; зарождаются новые виды искусства, способные подстраиваться к личному восприятию и вести диалог со зрителем. 11. Значительно ускоряется развитие науки и технологий. Аналоги Copilot, помогающего в написании программного кода (только более продвинутые), появляются во многих областях знаний; также применяются искусственные рецензенты. 12. Наводнение на рынке труда - в том смысле, что люди, не успевшие забраться достаточно высоко, уходят под воду. Уцелеют те, кто занимает руководящие должности; эксперты в различных областях, способные контролировать результаты работы ИИ; также люди, способные самостоятельно вести крупные проекты, ставя задачи ИИ и общаясь с заказчиком. Дольше других протянут работники в относительно консервативных сферах, вроде госслужбы, и редкие специальности, автоматизация которых не даёт больших выгод. 13. Масштабные общественные протесты, всемирный политический кризис: десятки миллионов работников оказываются на улице, и ещё большее число людей сознаёт, что они следующие. Правительства крупнейших держав пытаются выработать согласованную политику, поддержать малоимущих и ввести применение ИИ в какие-то рамки. Технологические компании, чья власть и влияние многократно возросли, стремятся свести ограничения к минимуму. III Этап. Сверхинтеллект. Технологическая сингулярность (возможно, через 10 - 15 лет) Напомним, технологическая сингулярность означает момент истории, когда условный график научно-технического развития уходит в бесконечность. Перемены нарастают так стремительно, что практически не поддаются контролю, необратимо меняя отдельных людей и цивилизацию в целом. И, конечно, выходя за рамки любых прогнозов. Но тем интереснее попробовать. ) 1. Искусственный интеллект выходит на новый уровень - теперь самые продвинутые системы ИИ уже не нуждаются в дорогостоящей процедуре тренировки, и могут усваивать знания как человек - из книг и фильмов, или просто изучая окружающий мир. Наконец, они становятся способны к самостоятельному развитию, а также конструированию всё более продвинутых "потомков". Такой ИИ, вероятно, сможет одновременно анализировать информацию с миллионов камер, самостоятельно управлять крупными предприятиями, а то и целыми государствами. А по профилю в соцсетях понимать людей лучше, чем они понимают себя сами - окончательно лишая смысла либеральную демократию в её нынешнем виде. 2. Робототехника развивается настолько, что способна заменить человека абсолютно в любой сфере деятельности, при этом будучи дешевле и надежнее. Появляются андроиды, практически неотличимые от людей. Также роботы обеспечат расширенное производство всё новых роботов. Экономика больше не зависит от человеческой рабочей силы, что потенциально делает возможными мегапроекты: скажем, произвести на Луне и разместить в точке Лагранжа систему зеркал, которая бы закрыла часть солнечного света и остановила глобальное потепление; полностью переработать весь накопленный человечеством мусор; основательно исследовать солнечную систему, не посылая экспедиций с людьми; вероятно, контроль погоды и климата, и многое другое. 3. В искусстве ИИ превосходит человека настолько, что уровень созданного произведения определяется в первую очередь количеством затраченных на него вычислительных ресурсов. Теперь искусственный интеллект не только может сгенерировать великолепную картину или полноценный роман, но и создать по нему фильм без всяких съемок. 4. Необратимо меняется религия. Рядом с чудесами, которые ежедневно творят технологии, откровения древних племён выглядят слишком убого даже для масс. Это приводит к появлению новых конфессий, а также новых технологических религий. 5. Развитие военных технологий завершается интеграцией боевых роботов и управляющих программ в единую систему управления армией - аналог Skynet из фильма "Терминатор". 6. Общественный строй - непредсказуемо, от утопии до антиутопии (в том числе религиозной - вполне можно представить себе роботизированную диктатуру, которая сможет обеспечивать следование бессмысленным религиозным ритуалам сколь угодно долго. Человеческие диктатуры рано или поздно деградируют и рассыпаются, но роботы смогут производить новых и поддерживать функционирование режима и после смерти диктатора) 7. Рынок труда и уровень благосостояния общества - непредсказуемо: в диапазоне от безусловного базового дохода до классических будок самоубийств для "лишних людей". В дополнение к которым, кстати, можно ожидать появление целых лишних стран, поскольку дешевая рабочая сила в развивающихся странах перестанет иметь значение. Возможно, какие-то профессии будут защищены от внедрения ИИ законодательно, но вряд ли много. 8. Научно-технический прогресс ускорится ещё больше: можно ожидать компактных термоядерных реакторов, ЭКО заменит искусственная матка и генетические модификации эмбрионов; медицина позволит выращивать и заменять практически любые органы. В перспективе, возможно, цифровое бессмертие (скажем, за счёт постепенной замены тканей мозга искусственными элементами, чтобы в итоге получить полностью цифровой мозг) и слияние человека с ИИ. Что ж, подведём итоги. Собственный прогноз оставил у меня сложное чувство. Не в связи с кажущейся фантастичностью, а как раз наоборот: нечто подобное вполне может сбыться, и тогда к раздирающим человеческую цивилизацию конфликтам добавятся новые угрозы. Самые важные из них: * Разрыв между могуществом ведущих держав / технологических компаний, и нищетой и бесправием большей части человечества, возрастёт ещё сильнее. * Противостояние систем (как минимум США + союзники vs Китай + сателлиты), может привести к тому, что прогресс ИИ поставят выше любых ограничений безопасности и этических норм. Ведь, когда технологии развиваются экспоненциально, малейшее отставание от противника сейчас может дать огромный разрыв через несколько лет. А контролировать разработку ИИ так же, как проведение ядерных испытаний, невозможно. * Наконец, глубинное противоречие между интеллектом и нравственным развитием бесшерстных обезьянок (по-прежнему склонных сбиваться в стаи и закидывать оппонентов подручными предметами), и могуществом технологий, которые, возможно, достались нам крайне преждевременно. Искусственный интеллект, на мой взгляд, является финальной технологией - такой, которая может или положить конец существованию человечества, или перевести его на новый уровень, сделав по-настоящему разумным видом. Вопрос лишь в правильной постановке задачи. Быть может, "общество, ориентированное на развитие, а не наживу; в котором продвигают по заслугам и наказывают по закону; поддерживают слабых, но не позволяют играть на слабостях"? Или просто "счастья всем, и пусть никто не уйдёт обиженным"? Впрочем, боюсь, многие власть предержащие будут ставить ИИ совсем другие задачи. Сохранить и преумножить личную власть. Сделать незыблемым свой набор суеверий и предрассудков. И тогда появятся (собственно, уже начали) коммунистический ИИ, правоверный исламский ИИ, и, разумеется, политкорректный инклюзивный ИИ с гендером на заказ. Вопрос "что делать" заслуживает отдельного размышления. Пока ограничимся общими рекомендациями: крепить образование, сеять здравый смысл. И не забывать радоваться тому, в какое, всё-таки, интересное время нам выпало жить. P. S.: При написании данной статьи ни один ИИ не пострадал не использовался. Из чистого упрямства. )

Начнем с того, что ИИ уже сейчас вполне полноценный, все эти aGi, aSi - это просто слова, смысл которых мало кто понимает на уровне механизмов. Современный ИИ (которым пользуюсь я и мои коллеги) вполне способен общаться на тему проектирования, алгоритмирования, успешно пишет сложные функции, ищет нужное в интернете, переводит с языка на язык и предоставляет почти весь мыслимый сервис ассистента. Сейчас еще добавили таски. Но, на самом деле, никакой "универсальный" интеллект не нужен. Наш мир устроен таким странным образом, что чем более универсальна модель, тем менее она полезна. LLM будет развиваться в сторону специализаций, когда агенты будут обучены ограниченным предметным областям. В этой году нейронной сети (и ее кожанным коллегам) дали нобелевскую премию по химии за белки. Вот так примерно и будет: один агент будет диспетчером, задавать задачи специализированным агентам, а группы диспетчеров будут управляться координатором, которые будут образовывать горизонтальные сообщества. То есть будущее LLM в умении работать со специализированными эмбеддингами как это ни странно.)))

Полагаю, это мнение сурового прагматика, но мне оно кажется малость чересчур радикальным. ) Согласен, что ИИ уже многое умеет (и некоторые специалисты считают, что это и есть AGI, коль скоро он справляется с большинством задач лучше среднего человека). Но лично мне для "полноценности" хотелось бы увидеть самообучающийся ИИ, способный действовать в реальном мире. Такой, которому можно выдать книжку по новой дисциплине для освоения, не услышав "кря, не влазит в контекстное окно". И потом отправить работать со сложными приборами, используя информацию из этой книжки. Думаю, одно не исключает другого. Специализированные агенты, очевидно, будут дешевле для задач в какой-то узкой предметной области. Но диспетчерам, которые эти задачи распределяют, нужно будет разбираться в более широком круге вопросов, чтобы скорректировать постановку и понять, куда это отправить. А для комплексных задач, вроде управления предприятием, сочетающих социальные и технические аспекты, универсальный интеллект тем более пригодится. В общем-то, o1, который вы используете для кодинга, тоже довольно универсальный, но это ему не мешает. )

- это если не иметь ни малейшего понятия о том, что из себя Интеллект представляет, которого в этом вашем ИИ нет ни грамма. ИИ - точно такие же слова, под которые можно подложить (и подкладывают !) что угодно - в меру своего ограниченного понимания.

Так некоторые до сих пор считают, что Земля плоская. Как раз с большинством самых средних задач самого среднего из средних человека он и не справляется.

Разница, как известно, в нюансах. Что такое "само"-обучение? Создание РНК и ДНК? Нет. Это создание такого органа как головной мозг? Нет))) Это создание прочей периферии нервной системы? Нет. Это создание химизмов клеточного обмена, архитектуры рецепторов, кодирования нервных импульсов, прописывание инстинктов? Нет. Это обучение социальному поведению, языку, паттернам и протоколам освоения знаний? Нет. То есть под "само"-обучением мы понимаем довольно узкую способность писать промты самому себе и пользоваться репозитарием для создания контекста для них. То есть ничего, чтобы выходило за пределы функциональности LLM, да Вы и сами об этом пишите. Но. 1) Есть интересное самообучение как оставить LLM внутри движущейся платформы, с камерой и микрофоном, манипуляторами и прочими эффекторами. 2) Есть интересное самообучение как научение активности и целеполаганию. Это очень перспективно, особенно в комплексе. Это появится, когда роботизированные системы будут решаться всерьез. На самом деле сильно мешает и у меня два набора установочных промтов, разные проекты, кроме того, приходится ежедневно анализировать и чистить сохраненный контест. Кроме того я на "общие темы" беседую с 4о, он для этого лучше "специализирован"))). А было бы две версии, одна заточена на задачи компьютерного зрения, другая на теорию алгоритмов, C++ и CUDA - было бы много эффективнее.

Я под этим понимаю не столь узкую способность, хотя, возможно, формулирую плохо. Имею в виду способность развиваться, модифицировать свою структуру (скажем, менять веса связей между нейронами или вырабатывать новые), чтобы адаптироваться к новым задачам и ситуациям. Не думаю, что это можно покрыть написанием себе промптов. В общем, как минимум для обсуждения главных вопросов жизни, вселенной и вообще универсальный ИИ должен пригодиться. )

Для этого есть вполне стандартный alignment, который не требует изменения архитектуры. Честно, я не вижу среди Ваших требований чего-то за пределами сегодняшних технологий.

>Mist Фантазии, предсказания, примеры литературно-художественной самодеятельности... - всё это может быть хорошо и местами даже забавно, если бы не одно НО: Ваш т.н. "прогноз" ни на чём не основывается, кроме Ваших хотелок. Т.е., строго говоря, это вообще не прогноз, поскольку является экстраполяцией... ничего. Что-то вроде "божественного создания" всего сущего из пустоты за 6 дней.

Это не совсем так - прогноз исходит из нынешних тенденций развития ИИ, а также экономических и не только интересов, которые это развитие определяют. Хотя на точность данное футурологическое эссе, естественно, не претендует. В любом случае, маэстро, вы всегда можете сесть к роялю и показать, как надо. )

У Лаврика есть несомненные достоинства: его невежество с лихвой коменсируется банальностью и упрощением анализируемой сцены до дебильности 😃

Ваш т.н. "прогноз" ни на чём не основывается, кроме Ваших хотелок. Я не знаю. что именно Вы называете "ИИ". С учётом того, что этот т.н. "ИИ" имеет отношения с Интеллектом по типу "навоз-лошадь", то мне представляется сомнительной сама тема прогнозирования. Есть алгоритмические структуры, которые развиваются силами разработчиков; есть мат.модели, мат.методы - если оттуда составлять прогноз... но в какую сторону ? Понятно ведь, что здесь первично, кто кого породил, и кто кого породить не способен в принципе. Нельзя фарш провернуть обратно. Т.о., о будущем ЧЕГО идёт речь ? Математики ? Программирования ? Алгоритмизации ? Автоматизации ? В этом направлении не о чем мечтать и фантазировать, поскольку предел вполне определён и в некотором смысле уже давненько очевиден. (За рояль, к слову сказать, я сажусь практически каждый день. Мелкая моторика, слух, импровизация, другой язык и всё такое прочее - очень полезно для мозгов, как превентивная мера против возможного старческого маразма, от которого зарекаться - это как от сумы и от тюрьмы...) Нет, прогнозы - не моя область. В каких бы то ни было прогнозах я вижу ценности не больше, чем в стишках вроде Служил Гаврила говновозом Гаврила говновозом был... Единственное - но это на самой поверхности лежит - что можно сказать уверенно, это то, что если существующая парадигма "интеллект через силу" сохранит свою влияние на неокрепшие умы, то очень скоро эти умы испытают горькое разочарование, погрузившись в очередную т.н. "зиму ИИ". Всему своё место и время. Нынешние инф.технологии работают, кое-где очень даже хорошо, польза от них несомненна, они и далее будут востребованы и усовершенствованы, но не стоит ожидать от них сверх того, для чего они предназначены. Это только в воспалённых мозгах можно надеяться, что лица мужского пола, скажем, начнут сами рожать потомство, а ведь именно такой подход всячески популяризируется. Все эти пляски вокруг ИИ напоминают мне средневековых алхимиков с их чудесными превращениями олова в золото - тот же уровень понимания, тот же взгляд на проблему, только материя слегка подрастворилась в тумане невежества. Выбранный современниками путь - как много раз говорил - приведёт не к Искусственному Интеллекту, а к Искусственному Идиотизму, что кое-кому следовало бы признать, набравшись мужества, но это похоже только в мечтах останется. Что касается того ИИ, который предполагался на самой "утренней заре", так сказать, то проблемки с ним будут, обязательно будут, но не думаю, что они окажутся сложнее человеческих. Хоть и быстрее, хоть и мощнее и изворотливее, но всё же в сути своей - по образу и подобию... по образу и подобию... по образу и подобию...

Будем считать, что я расплатился за материализацию своего желания называть вещи своими именами. Разумеется, не первый раз... и не последний.

Забавно то, что дедулька в самом деле уверен, что подвёл итог цивилизации, а не собственной глупости 😃

Ну если техника alignment'а Вам тоже кажется недостаточной, посмотрите на эту проблему с другой стороны. Процесс развития и адаптации существует в двух плоскостях: общий ризонинг и специализация в предметной области. Мне кажется, что понимать под интеллектуальным AGI агентом что-то типа лавриковского функционального аналога человека - это очень сильно упрощать возможности LLM. Доводить их до уровня буратины))) Ничего человеческого в моделях нет и не должно быть. Ни электродинамика, ни общая теория относительности не похожи на человека совсем.)) Агент - это элемент конструкции, а не персона, субъект или участник. Из агентов будет набираться та самая архитектура, за изменение которой Вы так ратуете. Не нужно менять веса связей каждого агента (могу отдельно объяснить почему), нужно просто найти точное агентное решение "связей" между ними. Решатель будет "набираться" из агентов, как мы сейчас используем библиотеки для создания проекта. Память, условия, оптимизация, научение как специализированный навык - да, это должно быть, но это будет достигаться не тем, что instance сети LLM будет каждый раз себя переучивать (это очень неэффективно), это будет достигаться комбинированием агентов и изменением их общей структуры. Человек ведь тоже не интеллектуален ВНЕ общества и техногенеза, которые создали искусственную среду обитания. Интеллектуальна сама среда, которая хранит этот интеллект, продуцирует его и реплицирует его.

А мне кажется, что профессиональную компетенцию человека, считающего себя инженером и имеющего представления о функциональной аналогии на уровне буратино и гомункулюса, следует подвергнуть большому сомнению. - что ещё раз убедительно показывает, что наш т.н. инженер ннчего не знает о функциональных аналогиях. "Автоматизм рулит !" - это у него на лбу написано. Образование - как он утверждает - получил, но по всей видимости не в коня овёс. - что ещё раз убедительно подтверждает, что наш т.н. "инженер" не имеет ни малейшего представления о том, что такое интеллект. Он построит что угодно, только не ИИ. В общем, мне нравится ход его мысли - прямо в бетонную стену. Туда ему и дорога.

До Вас мне нет никакого дела. Я бы даже сказал более - мне на Вас насрать. Я лишь комментирую некоторые высказывания некоторого персонажа в контексте его предыдущих утверждений, заявленных подходов и того состояния проблемы ИИ, которое мне представляется наиболее реалистичным. Егоров, в отличие от Вас, мне не нужно ни на кого оглядываться, чтобы знать цену своим словам и мыслям. Вы ведь уже не первый раз в друзья ко мне набиваетесь? что характерно.

Дедулька снова перешел на обсуждение меня)) Дедуль, я уже состоялся как специалист, мнение нищеброда, впадающего в деменцию, ничего не добавит к списку моих достижений 😃 Лавруша, оглянитесь вокруг себя - именно столько стоит Ваше мнение, мой друг))

Не то, чтобы я прямо ратовал. Я за эффективность, а какие подходы покажут себя лучше, будет видно со временем. Думаю, найдётся место и более простым агентам, которые будут не переучивать, а, действительно, использовать как кубики для сборки чего-то более сложного. И максимально продвинутым ИИ, которые будут не то, чтобы переучиваться, а скорее доучиваться в процессе. И будут решать наиболее сложные, комплексные проблемы, а заодно собирать что-нибудь из кубиков. ) Ну, после того, как воспитали и обучили, человек тоже вполне интеллектуален. И, опять же, чтобы правильно скомбинировать относительно простые агенты, видимо, понадобится кто-то более гибкий и сложный.

Тут самый важный и критический момент - как организовать Память. Их очень много у нас. 1) Корпуса (и малтимодальные, в том числе), в которых зафиксированы высказывания, описывающие предметную область. 2) Real-time потоки (для роботизированных систем) и их логи. 3) Веса нейронов сетей и прочие конфигурационные параметры. 4) Архитектура решателя - не далее как вчера китайцы выложили DeepSeek с революционной архитектурой и использованием reinforcement learning, а если какая-нибудь LLM будет заниматься конструированием другой LLM, то архитектура станет простым элементом решения, то есть тоже просто моделью. 5) Промты настроек, сценариев решения, промты задач и прочие промты. 6) Все контексты, которых может быть очень много, если решение занимает время, к этому виду памяти можно отнести и все прочие output логи. 7) Что-то еще))) И вся обработка этой разной памяти и есть обучение, доучение и переучение)