space, кремний с алгоритмами уже отняли у многих работников работу. AGI в таких видосах даже и не пахнет. И даже их создатели не утверждают это. А вы ведётесь на то, что сами себе придумываете и пытаетесь убедить/устрашить этим окружающих. Я не исключаю, что AGI возможен. И когда он появится никто не будет заморачиваться с высокотехнологичными человекоподобными железками и без них будет понятно, что это AGI.
cortl: space, кремний с алгоритмами уже отняли у многих работников работу. AGI в таких видосах даже и не пахнет. И даже их создатели не утверждают это. А вы ведётесь на то, что сами себе придумываете и пытаетесь убедить/устрашить этим окружающих. Я не исключаю, что AGI возможен. И когда он появится никто не будет заморачиваться с высокотехнологичными человекоподобными железками и без них будет понятно, что это AGI.
Про AGI речь не шла, ещё большой вопрос есть ли он у человека, а вот эмоции задача простая и уже решенная. Человеческая наука в основном строится на АККУМУЛЯЦИИ очень редких непредсказуемых НАХОДКАХ, это случайный процесс, такой же как поиск хешей с ноликами при майнинге битка. То есть человек изобретателен не на много более чем муравей, при "разработке" муравейника. Тот AGI про который многие говорят, на деле будет решен за счет огромных вычислительных мощностей, точно также как с майнингом. А человеческий ИИ, это вовсе не AGI(общий интеллект), а просто большая коллекция подсистем распознавания и их аркестрации, заточенная под "жизнь". Человеческий ИИ на 99.99% работает в режиме работы по инструкции, с легкими модификациями инструкций, по другим инструкциям, плюс простой перебор на разных уровнях абстракций.
Пугать никого не собираюсь, бояться нечего, мир и без ИИ был несправедлив, но технология так или иначе улучшает качество жизни, со временем, в базовых аспектах. Классовое неравенство конечно будет только расти, но жизнь плебея недалёкого будущего, даже безработного, всё равно будет биологически комфортное и безопаснее чем аристократии лет 500 назад, на уровне биологических нужд. Но социально-эмоционально плебей будет страдать, казниться, завидовать. По крайней мере при капиталистическим устройстве общества.
space: А человеческий ИИ, это вовсе не AGI(общий интеллект), а просто большая коллекция подсистем распознавания и их аркестрации, заточенная под "жизнь". Человеческий ИИ на 99.99% работает в режиме работы по инструкции, с легкими модификациями инструкций, по другим инструкциям, плюс простой перебор на разных уровнях абстракций.
Самая малость 0,01%, а не по зубам. И 99,99% инструкций написать ещё никто не осилил.
Не пугаете и ладно )
Алгоритм майнинга не случаен. Только входные значения в первом приближении можно считать случайными.
Плохая аналогия AGI-майнинг.
Egg:
Нет, оно не имеет такой цели и такую цель в gradient descent невозможно поставить... )))
Если вы думаете, что невозможно, то вам просто не хватает опыта. Я бы в первую очередь попробовал меру информации Шеннона прикрутить... Ну так, наивно, но все же не сдался бы.
Посмотрел ролик. Спешу сообщить, что слухи про грядущие ужасы сверхинтеллекта, на мой взгляд, сильно преувеличены. Потому что сверхинтеллектуальные способности может дать не какая-то магическая сверхинтеллектуальная вычислительная архитектура, а только сверхинтеллектуальный, принципиально недоступный людям, жизненный опыт. Для получения знаний, которые не смогут понять и осмыслить люди, нужно чтобы ИИ имел возможность получать нечеловеческий жизненный опыт. Если же единственным источником данных для ИИ будут тексты людей, то он не сможет стать сверхинтеллектом. Он, максимум, сможет стать среднестатистическим обывателем-конформистом с грудой стандартных предрассудков и суеверий, что мы собственно и наблюдаем на примере ChatGPT/Bing/Bard. Чтобы качественно превзойти людей, ИИ должен иметь качественно превосходящий, нечеловеческий жизненный опыт, принципиально нечеловеческие знания. А для этого он должен иметь возможности и способности эти знания получать - ставить нечеловеческие эксперименты, проводить сверхинтеллектуальные опыты, делать сверхумопостроения и проверять их на практике. Т.е. извлекать из своего личного сверхопыта недоступные людям сверхзнания. А этим, насколько я понимаю, к счастью, пока никто не занимается.
Небольшое лирическое пятничное отступление.
Материалисты, любопытные люди, им кажется, что их личные субъективные галлюцинации и иллюзии являются свойствами и атрибутами неких внешних предметов/явлений/процессов. В качестве примера, опровергающего данное странное убеждение, мне нравится приводить жёлтый цвет.
Убеждённый материалист скажет, что жёлтый цвет возникает как ощущение при попадании на сетчатку глаза света с длиной волны примерно 570 нанометров. И даже "докажет" это применив механизм с именем "призма":
Спорить с этим невозможно, это факт, действительно, при совмещении глаза и света с длиной волны 570 нанометров почему-то возникает ощущение жёлтого цвета. Но разве это проясняет, что такое жёлтый цвет?
Если вместо света длиной волны 570 нанометров мы спроецируем в глаз смесь светов, каждый из которых в отдельности ощущается как "зелёный" (≈530 нм) и "красный" (≈680 нм), то мы получим ощущение того-же самого жёлтого цвета. Проще всего проверить это глядя на дисплей компьютера, каждая точка которого состоит только из трёх цветов RGB. Если включить только R и G пикселы то мы ощутим именно жёлтый цвет.
Но можно сказать, что происходит какое-то смешивание и глазу кажется, что он видит жёлтый цвет, поскольку его длина волны лежит где-то между красным и зелёным.
Но тогда как объяснить, что мы не видим жёлтого цвета, там, где "объективно" он должен быть:
Как можно убедиться, спектр, излучаемый кружками одинаковый (по идее, должен восприниматься как "жёлтый"). Ну можно сказать, что это иллюзия и просто мозг обманывается.
Но с таким же успехом мы ощущаем жёлтый цвет там, где его не должно быть:
Кроме того, мы можем ощущать жёлтый цвет во сне, когда в глаз не проецируется вообще ничего.
Единственное внятное объяснение всех этих наблюдений в совокупности состоит в том, что жёлтый цвет - это атрибут не внешних предметов, а именно и только нашего субъективного восприятия. Что в определённых условиях мы ощущаем жёлтый цвет как наш собственный продукт, который мы генерируем сами.
Но разве любое другое ощущение - температуры, времени, длины, громкости, объёма, глубины, голода, места и пр. - имеет какую-то другую природу? Нет, конечно. Всё, что мы способны ощутить и осознать является нашим собственным продуктом. Можно задаться вопросом, а как же выяснить истинную первопричину этих ощущений? Что стоит за ними? Что их вызывает и обуславливает? Ответ. Никак. Потому для нас, людей, выяснить что-то, понять что-то можно только через комбинацию того, что мы сами сгенерировали.
Наблюдаю какую-то неуместную возню вокруг отставки директора ChatGPT OpenAI. И мне даже неловко и как-то стыдно смотреть на этот казус. Зачем цепляться за какой-то слабый естественный интеллект, если у вас есть искусственный? На мой взгляд, всё просто. Если вы сделали настоящий сильный ИИ, то в первую очередь надо без оглядки уволить директора и всех его замов, а на их место водрузить созданный искусственный супер-интеллект и заодно сэкономить на их зарплате. Profit! Не могу поверить, что какой-то захудалый индивидуальный интеллект Сема Альтмана более сильный, чем супер-нейросеть ChatGPT. Не верю, это какой-то обман.
