space, кремний с алгоритмами уже отняли у многих работников работу. AGI в таких видосах даже и не пахнет. И даже их создатели не утверждают это. А вы ведётесь на то, что сами себе придумываете и пытаетесь убедить/устрашить этим окружающих. Я не исключаю, что AGI возможен. И когда он появится никто не будет заморачиваться с высокотехнологичными человекоподобными железками и без них будет понятно, что это AGI.
cortl: space, кремний с алгоритмами уже отняли у многих работников работу. AGI в таких видосах даже и не пахнет. И даже их создатели не утверждают это. А вы ведётесь на то, что сами себе придумываете и пытаетесь убедить/устрашить этим окружающих. Я не исключаю, что AGI возможен. И когда он появится никто не будет заморачиваться с высокотехнологичными человекоподобными железками и без них будет понятно, что это AGI.
Про AGI речь не шла, ещё большой вопрос есть ли он у человека, а вот эмоции задача простая и уже решенная. Человеческая наука в основном строится на АККУМУЛЯЦИИ очень редких непредсказуемых НАХОДКАХ, это случайный процесс, такой же как поиск хешей с ноликами при майнинге битка. То есть человек изобретателен не на много более чем муравей, при "разработке" муравейника. Тот AGI про который многие говорят, на деле будет решен за счет огромных вычислительных мощностей, точно также как с майнингом. А человеческий ИИ, это вовсе не AGI(общий интеллект), а просто большая коллекция подсистем распознавания и их аркестрации, заточенная под "жизнь". Человеческий ИИ на 99.99% работает в режиме работы по инструкции, с легкими модификациями инструкций, по другим инструкциям, плюс простой перебор на разных уровнях абстракций.
Пугать никого не собираюсь, бояться нечего, мир и без ИИ был несправедлив, но технология так или иначе улучшает качество жизни, со временем, в базовых аспектах. Классовое неравенство конечно будет только расти, но жизнь плебея недалёкого будущего, даже безработного, всё равно будет биологически комфортное и безопаснее чем аристократии лет 500 назад, на уровне биологических нужд. Но социально-эмоционально плебей будет страдать, казниться, завидовать. По крайней мере при капиталистическим устройстве общества.
space: А человеческий ИИ, это вовсе не AGI(общий интеллект), а просто большая коллекция подсистем распознавания и их аркестрации, заточенная под "жизнь". Человеческий ИИ на 99.99% работает в режиме работы по инструкции, с легкими модификациями инструкций, по другим инструкциям, плюс простой перебор на разных уровнях абстракций.
Самая малость 0,01%, а не по зубам. И 99,99% инструкций написать ещё никто не осилил.
Не пугаете и ладно )
Алгоритм майнинга не случаен. Только входные значения в первом приближении можно считать случайными.
Плохая аналогия AGI-майнинг.
Egg:
Нет, оно не имеет такой цели и такую цель в gradient descent невозможно поставить... )))
Если вы думаете, что невозможно, то вам просто не хватает опыта. Я бы в первую очередь попробовал меру информации Шеннона прикрутить... Ну так, наивно, но все же не сдался бы.
Посмотрел ролик. Спешу сообщить, что слухи про грядущие ужасы сверхинтеллекта, на мой взгляд, сильно преувеличены. Потому что сверхинтеллектуальные способности может дать не какая-то магическая сверхинтеллектуальная вычислительная архитектура, а только сверхинтеллектуальный, принципиально недоступный людям, жизненный опыт. Для получения знаний, которые не смогут понять и осмыслить люди, нужно чтобы ИИ имел возможность получать нечеловеческий жизненный опыт. Если же единственным источником данных для ИИ будут тексты людей, то он не сможет стать сверхинтеллектом. Он, максимум, сможет стать среднестатистическим обывателем-конформистом с грудой стандартных предрассудков и суеверий, что мы собственно и наблюдаем на примере ChatGPT/Bing/Bard. Чтобы качественно превзойти людей, ИИ должен иметь качественно превосходящий, нечеловеческий жизненный опыт, принципиально нечеловеческие знания. А для этого он должен иметь возможности и способности эти знания получать - ставить нечеловеческие эксперименты, проводить сверхинтеллектуальные опыты, делать сверхумопостроения и проверять их на практике. Т.е. извлекать из своего личного сверхопыта недоступные людям сверхзнания. А этим, насколько я понимаю, к счастью, пока никто не занимается.
Небольшое лирическое пятничное отступление.
Материалисты, любопытные люди, им кажется, что их личные субъективные галлюцинации и иллюзии являются свойствами и атрибутами неких внешних предметов/явлений/процессов. В качестве примера, опровергающего данное странное убеждение, мне нравится приводить жёлтый цвет.
Убеждённый материалист скажет, что жёлтый цвет возникает как ощущение при попадании на сетчатку глаза света с длиной волны примерно 570 нанометров. И даже "докажет" это применив механизм с именем "призма":
Спорить с этим невозможно, это факт, действительно, при совмещении глаза и света с длиной волны 570 нанометров почему-то возникает ощущение жёлтого цвета. Но разве это проясняет, что такое жёлтый цвет?
Если вместо света длиной волны 570 нанометров мы спроецируем в глаз смесь светов, каждый из которых в отдельности ощущается как "зелёный" (≈530 нм) и "красный" (≈680 нм), то мы получим ощущение того-же самого жёлтого цвета. Проще всего проверить это глядя на дисплей компьютера, каждая точка которого состоит только из трёх цветов RGB. Если включить только R и G пикселы то мы ощутим именно жёлтый цвет.
Но можно сказать, что происходит какое-то смешивание и глазу кажется, что он видит жёлтый цвет, поскольку его длина волны лежит где-то между красным и зелёным.
Но тогда как объяснить, что мы не видим жёлтого цвета, там, где "объективно" он должен быть:
Как можно убедиться, спектр, излучаемый кружками одинаковый (по идее, должен восприниматься как "жёлтый"). Ну можно сказать, что это иллюзия и просто мозг обманывается.
Но с таким же успехом мы ощущаем жёлтый цвет там, где его не должно быть:
Кроме того, мы можем ощущать жёлтый цвет во сне, когда в глаз не проецируется вообще ничего.
Единственное внятное объяснение всех этих наблюдений в совокупности состоит в том, что жёлтый цвет - это атрибут не внешних предметов, а именно и только нашего субъективного восприятия. Что в определённых условиях мы ощущаем жёлтый цвет как наш собственный продукт, который мы генерируем сами.
Но разве любое другое ощущение - температуры, времени, длины, громкости, объёма, глубины, голода, места и пр. - имеет какую-то другую природу? Нет, конечно. Всё, что мы способны ощутить и осознать является нашим собственным продуктом. Можно задаться вопросом, а как же выяснить истинную первопричину этих ощущений? Что стоит за ними? Что их вызывает и обуславливает? Ответ. Никак. Потому для нас, людей, выяснить что-то, понять что-то можно только через комбинацию того, что мы сами сгенерировали.
Наблюдаю какую-то неуместную возню вокруг отставки директора ChatGPT OpenAI. И мне даже неловко и как-то стыдно смотреть на этот казус. Зачем цепляться за какой-то слабый естественный интеллект, если у вас есть искусственный? На мой взгляд, всё просто. Если вы сделали настоящий сильный ИИ, то в первую очередь надо без оглядки уволить директора и всех его замов, а на их место водрузить созданный искусственный супер-интеллект и заодно сэкономить на их зарплате. Profit! Не могу поверить, что какой-то захудалый индивидуальный интеллект Сема Альтмана более сильный, чем супер-нейросеть ChatGPT. Не верю, это какой-то обман.
О когнитивном парадоксе.
Бесконечность, как категория, не представляется для человека чем-то невообразимым. Это странно, но это так. Мы можем представить себе бесконечность пространства: иди себе в одну сторону и всё… Вот и у Стругацких с бесконечностью обращаются запросто:
«"Познание бесконечности требует бесконечного времени". С этим я не спорил, но они делали из этого неожиданный вывод: "А потому работай не работай — все едино"»
Но есть одна категория, которая недооценена. Это ПУСТОТА, или НИЧЕГО.
И это не вакуум. Это просто ничего. Когда мы пытаемся что-то сделать с этим, мы представляем себе нечто маленькое, исчезающе маленькое. Но! Мы, как наблюдатель смотрим на эту категорию, а значит, вне этого НИЧТО в это время мы находимся.
Можно предположить, что бесконечность и ничто взаимопротивоположные категории. Но бесконечностью мы манипулируем, а ничто не участвует даже в математических абстракциях. Ноль и пустое множество это не ничто. Это исчислимые объекты.
Даже физические свойства бесконечности представимы. А ничто в физическом смысле выглядит парадоксально.
Из этого можно сделать интересную гипотезу: НИЧТО не существует, оно не возможно.
Россиянин способен доказать отсутствие чего угодно: Украины нет, границ нет, пространства нет, потерь нет, чайки нет.... ихтамнет...
Egg:
..И как справедиливо заметил автор фильма, ..
но заинтересовало, что в этом фильме разные представления о реальности тестируются, почему-то, способностью к ...выживанию (11-я минута).
Выживание...
А какие реализации искусственного интеллекта тестировались таким образом?
..дошло до того, что современный ИИ тестируется ...как тестируется калькулятор. То есть, если на известную задачу 2+2 калькулятор выдает правильный ответ, то цель считается достигнутой, а калькулятор работоспособным. Если же ответ не верный, то систему "дообучают" пока не получат ответ равный известному.
Тестировался ли ChatGPT на способность выживать? Есть ли подобные тесты в планах на будущее?
...ну да. Зачем калькулятору решать задачу выживания ) ...
И вот это, неспособное выжить творение, называют искусственным интеллектом...
Kek: О когнитивном парадоксе.
Бесконечность, как категория, не представляется для человека чем-то невообразимым. Это странно, но это так. Мы можем представить себе бесконечность пространства: иди себе в одну сторону и всё… Вот и у Стругацких с бесконечностью обращаются запросто:
«"Познание бесконечности требует бесконечного времени". С этим я не спорил, но они делали из этого неожиданный вывод: "А потому работай не работай — все едино"»
Но есть одна категория, которая недооценена. Это ПУСТОТА, или НИЧЕГО.
И это не вакуум. Это просто ничего. Когда мы пытаемся что-то сделать с этим, мы представляем себе нечто маленькое, исчезающе маленькое. Но! Мы, как наблюдатель смотрим на эту категорию, а значит, вне этого НИЧТО в это время мы находимся.
Можно предположить, что бесконечность и ничто взаимопротивоположные категории. Но бесконечностью мы манипулируем, а ничто не участвует даже в математических абстракциях. Ноль и пустое множество это не ничто. Это исчислимые объекты.
Даже физические свойства бесконечности представимы. А ничто в физическом смысле выглядит парадоксально.
Из этого можно сделать интересную гипотезу: НИЧТО не существует, оно не возможно.
Я бы вам не рекомендовал углубляться в такие дебри, можно сойти с ума, ну да ладно, ваши мозги, вам решать.
1. Начнем с того, что "всё существующее" можно рассматривать(познавать) как множество элементов с определенными свойствами и логикой взаимодействия, подобной тому, как это происходит в компьютере с данными и кодом. Процесс познания реализован внутри системы из этих элементов и их взаимодействий. Таким образом, то, что не взаимодействует с тем, что "познаёт", как бы "не существует".
2. В нашей вселенной мы наблюдаем строго определенные свойства и логику взаимодействия (физику), которая на самом элементарном уровне (кванты) в общих чертах познаваема и математически относительно проста. Почему эти элементы (кванты) обладают именно такими свойствами и так взаимодействуют друг с другом, мы, вероятно, не сможем полностью понять (см. пункт 1).
3. Наблюдаемая система ("вселенная") представляет собой достаточно закономерную структуру. Хотя количество элементов (квантов) велико (больше 10^80 в "наблюдаемой" части), свойства у квантов ограничены (менее десятков, таких как тип, координаты (x, y, z), масса, заряд, спин и т.д.), и логику взаимодействия (физику) можно описать на одной странице, используя ёмкие математические абстракции. Почему именно такие свойства и логика - снова касается пункта 1, "антропного принципа" и т.д.
4. Закономерности в наблюдаемой части вселенной и общие особенности процессов, особенно на макроуровне (где "живут" люди), подталкивают наше естественное мышление, при экстраполяции "внутренней логики" за пределы выборки. Например, мы задаемся вопросами о "смысле вселенной", её "начале и конце" и т.д., но вероятно, такие экстраполяции произвольны и лишены смысла.
5. "Ничто" или "пустота", чисто абстрактно, можно описать как пустой элемент вышеописанного множества, не обладающий свойствами, такими как тип (электрон, фотон и т.п.), положение в пространстве, масса и т.п. Отсутствие взаимодействия с другими квантами означает, что "этого" нет, не было и не будет во времени, иначе говоря, "не существует", так как время представляет собой статистическую меру интенсивности взаимодействий квантов друг с другом.
6. "Представить" (смоделировать на ЕИ в контексте проекции модальностей человека) "ничто" очевидно невозможно и бессмысленно, так как наши представления основаны на бытовых шаблонах и ряде уровней абстракции(5-10). Нам сложно даже отказаться от желания наделять кванты макросвойствами, такими как форма и цвет. Мы везде "где темно"(незнаем) рисуем то что видели "под фонарём", а потому что ничего больше не остается.
7. Из семечка вырастает дерево, из оплодотворенной яйцеклетки — человек, так же довольно очевиден факт возникновения вселенной из "сингулярности", ну и не забываем об энтропии. На этих примерах вырисовывается общий эмпирический закон: из простого - сложное. Всё это толкает пытливый разум(а вскоре толкнёт и СИИ) пытаться измыслить как из "ничто" возникло "всё", а именно сингулярность которая считается исходной точкой и как она затем "разродилась" множеством квантов со свойствами и логикой взаимодействия.
8. Но за мороком закономерностей и эмпирической недоказуемостью фундаментальных основ мироздания, важно углядеть главный "мета-фундаментальный принцип" : ЧТО ТО СУЩЕСТВУЕТ. Мы не узнаем "сколько" этого "что то", сколько квантов, сингулярностей, каковы их свойства и законы взаимодействия, существует древовидная, пороговая "мета-вселенная" или свойства и закономерности меняются "плавно" в бесконечности одного "пространства" и тп. НО ВСЁ ТАКИ ЧТО ТО СУЩЕСТВУЕТ. А могло бы наверно и не существовать, это тоже кстати интересный вопрос МОГЛО ЛИ НИЧЕГО НЕ СУЩЕСТВОВАТЬ?
мулька:
1. Начнем с того, что "всё существующее" можно рассматривать(познавать) как множество элементов с определенными свойствами и логикой взаимодействия
Про бильярдные шары и то, что они сделаны из слоновой кости это понятно,
но ведь они не на полке лежат, а по поверхности бильярдного стола катаются.
Т.е. тема сисек (выражение множества) как то совершенно не раскрыта.
Egg: Как решает задачу выживания человеческое ухо?
Ухо не создаёт представления... модели... Ухо даже не решает задач.
Если вам отрезать ухо то задачу выживания будет решать ваш разум (остановить кровь, стерилизовать рану...).
А вот если чату GPT отрезать клавиатуру (т.е. единственный информационный вход),.. будет ли его "беспокоить" эта ситуация?
мулька: интересный вопрос МОГЛО ЛИ НИЧЕГО НЕ СУЩЕСТВОВАТЬ?
Это очень интересный и крайне злободневный вопрос. Но мне кажется, ещё более интересный и актуальный вопрос, а существует ли не существование? Ведь если бы не существование существовало, но оно было бы существованием. Поэтому я склоняюсь к крайне важному и интересному выводу, что не существование не существует.
