Форум создателей искусственных интеллектов

Слово "непосредственно" значит изучать и обращать внимание на то, чем и почему наполняется Ваше сознание, непосредственно. По какому принципу из памяти достаются те или иные воспоминания. На что обращается внимание и почему. Вы же опять всё материалистически вульгаризируете. Ожидаемо.

(Со своим сознанием у меня нет проблем, чем как и когда его заполнить. Наполнение - это не есть самое главное. Ничего по движению автомобиля Вы не сможете сказать о строении его двигателя - пустая затея.) В Вашем же случае изучать нечего - там всё просто, как в генераторе шума. И про "чем", и про "что" и "почему" я Вас тянул за язык и что в итоге ? Ничего, кроме НАДО ДЕЛАТЬ ТО-ТО и ТО-ТО... НАДО... НАДО... НАДО Так делайте же и результаты на стол ! Первые исследователи были крайне удивлены, полагаю, когда открыв череп не увидели под капотом ни длани господней, ни человечков, ни души, ни ума, ни сознания, ни шестерёнок с поршнями. Я так думаю, что они не только были удивлены, но и существенно отрезвлены в своих предположениях, чего и Вам желаю. Вот Вы, например: с какого бодуна Вы уверены, что в Вашей голове вообще есть нейроны ? что внутри неё вообще пребывает что-то материально-вещественное ? Вы туда заглядывали ? Или нет у Вас такой уверенности ? А случись так, что содержимое Вашей головы Вам всё-таки покажут - как Вы отнесётесь к увиденной иллюзии ? Вы хотите знать, откуда у Вас что берётся в голове и на что Вы обращаете внимание и почему? - Так вот Вам прямая возможность реабилитироваться. Вы всё кричите - "внутренний мир ! внутренний! внешнего нет никакого мира !" А с чего Вы взяли, что внутренний мир ЕСТЬ ? Вам показывают кино, а Вы только реагируете, думая, что вся эта лабуда от Вас исходит... с чего бы это ? Да и что, собственно, Вы собой представляете ? Какова Ваша собственная конструкция, очищенная от идей, теорий, гипотез, смутных догадок и пр.пр. ? Ожидаемое, говорите ? Очень хорошо ! Значит Вы знаете, что Вас ждёт и чего Вам не избежать. Начинайте !

По-моему, тест на искренность солипсиста может быть настолько же эффективным, насколько и простым. Давайте подведём его к зеркалу и послушаем, что он нам расскажет об увиденном. (Если солипсист истинный, убеждённый до мозга костей - он не должен узнать себя в зеркале. Любая другая его реакция будет свидетельствовать о том, что мы имеем дело с самым обычным лицемером, весьма низкого пошиба и типично шарлатанского разлива.)

У хоть немного здравомыслящего человека все эти "прелести" современного т.н. "ИИ" должны вызывать не столько телячий восторг, как у некоторых (впрочем, и даже у очень многих !) не слишком задумывающихся, сколько горькое - как ни покажется странным - разочарование. Ещё бы: какая-то совершенно безмозглая железяка показывает в некоторых областях результаты, "интеллектуально" чуть ли не сравнимые с человеческими. Как тут не прийти в уныние ?! Ведь очевидно, каким образом они получены, а на некрепких умом впечатление производит. Почему трезвомыслящий исследователь просто обязан огорчиться ? Да по той простой причине, что внешне выглядящий вполне интеллектуальным (как "они" считают) и вполне съедобный результат можно добыть не только [как показывает практика] без собственных мозгов, со всеми их достижениями естественной эволюции, но и без интеллекта, даже минимального, даже без его жалкого подобия ! Другими словами - без ума и без сознания, т.е. без всего того, что делает человека (и не только) разумным. Как такое может быть ? Ответ здесь также прост: не дотянулись, не докопались ещё до интеллекта, как бы ни хотелось думать иначе. Всё оказывается тем сложнее, чем более близкие к человеческим достижения демонстрируют современные IT-платформы. Повторяется история с потрошением атома, по раннему определению(!) "неделимым", но, как видно, отнюдь не "простейшим", которое породило целое направление в физике... а там конца так и не видно (NB!), скорее наоборот: то, что представлялось травинкой-стеблем, оказывается деревом; то, что представлялось деревом, оказывается лесом; то, что выглядит как обычный лес, незаметно превращается в непроходимые дебри и болота... А ведь по сути копать ещё и не начинали, так - по стеклу только поскребли, как заблудившиеся слепые и голодные мухи... На этом фоне, как ни крути, все выглядят одинаково бледно. " Перед смертью... и интеллектом... все равны" ))) Знания являются первейшим, злейшим и беспощаднейшим врагом интеллекта. Не того, кто знает, но того, кто мыслит, того, кто понимает. Верно и обратное: именно интеллект, как никто другой, становится самым безжалостным и самым естественным убийцей знаний, т.е таким, который по самой свое природе не может быть иным и не может поступать иначе. И вот туда, по-моему, стоит заглянуть. (Ладно - понимать слова, а предметно мыслить можно... можно... да чем угодно ! Или, как говорят на Востоке - "думать сердцем и чувствовать умом"... но это тем, в кто в теме.)

Это с самого начала было понятно. Что некоторая имитация некоторых интеллектуальных функций неинтеллектуальными статистическими методами - это новое, иногда впечатляющее, но тупиковое бесперспективное направление в IT. А вот что для меня оказалось неожиданной и неприятной новинкой, так это та гора информационного хлама, которую, с позволения сказать, "создают" эти новомодные инструменты, что грозит перерасти в информационную экологическую катастрофу. Будет довольно иронично (но справедливо), если финальным практически ценным и юридически дозволенным результатом внедрения генеративных моделей станет сервис для выделения капель человеческого знания, обретённого на практическом осознанном опыте, из океана бредо-контента, сгенерированного нейросетями.

Было, но не всем... до сих пор. Разруха и все её многочисленные модификации, как известно, не в клозетах, а в головах. Так что здесь особой проблемы не вижу. Объём увеличился - это правда, но не качество, а качественный поиск во все времена представлял и представляет собой серьёзную интеллектуальную задачу. Попытка одним генератора шума заглушить другой не имеет в себе хоть какой-нибудь когнитивной составляющей - лом против лома или как с помощью слона вытолкать другого слона из посудной лавки. Кроме того, интернет ведь не единственный источник, да и правило "не нравится - не ешь" ещё никто не отменял. С другой стороны, мне не совсем понятны претензии к этому пресловутому "ИИ": ведь бардак разводят не машины, а... ЛЮДИ. Те же люди производят хлам в безумных количествах. Сколько раз в сети одно сообщение перепечатывается, копируется, изменяется-дополняется и снова копируется и разносится по сети как зараза ? И делают это... не машины ! Вот с этим как раз проблема - с управлением бардаком. Могут ли помочь машины в разгрёбывании завалов ? Такие как есть - не могут. Поручить им сейчас подобную работу было бы даже опасно. Делегирование естественных функций искусственному - это и горе от ума и необходимость. Серьёзные изменения внести в сию траекторию способна, пожалуй, лишь атомная бомба. Но во все времена действительно продуктивная, но оттого и крайне немногочисленная часть народонаселения отличалась особой способностью к " правильному", условно говоря, выбору. И в этой "консерватории" ничего не удастся поправить... да и не нужно - толпой всегда управляют единицы. Вот представьте, что завтра в моду вновь войдут деревянные башмаки. Сколько появится контор разного пошиба, производящих такие башмаки ? По всей Земле, тысячи, десятки тысяч, особенно, если будет приносить хоть минимальный доход. Всю планету завалят деревянными башмаками ! Через месяц-два-год ажиотаж несомненно пройдёт и... что делать со всем этим "кризисом перепроизводства" ? Естественно - в огонь, на дрова, преобразовывать в электричество. С информацией же задачка решается проще некуда - одним нажатием кнопки, даже со стула вставать не придётся. Ограничьте приток энергии и прочих ресурсов в хламопроизводящие области производства и тишина наступит сама собой. На самом деле, внести необходимый порядок ничуть не сложнее, чем его уничтожить - эти ягодки одного поля. Читай, один закон заменить на другой - какие трудности ? Прекратить безобразие можно и довольно быстро. Более того, это делается элементарно и без какой бы то ни было автоматизации, но... Было бы желание ))) Что касается автоматической, в лучшем смысле слова, расчистки информационных конюшен, то нынешние технологии ещё не позволяют создать устройство, справляющееся даже с мусором материальным, вещественным и осязаемым лучше, чем это делают те же самые люди. Крайним среди всех этих тараканов всегда останется человек и пока лично я не вижу никакого способа сделать так, чтобы было иначе. С такими поварами каши не сварить. Кое с чем, однако, придётся смириться навсегда: с тем не отменяемым никакой силой фактом, что человек не может перестать быть животным, ни сам, ни тем более по повелению вышестоящего начальства... с соответствующими выводами и необходимыми коррекциями адаптационных способностей. Это как ветер, как дождь, как землетрясение...

Или я чего-то не понял, или в Вашем предложении прямое противоречие. С одной стороны генератор бреда (отметим - не интерпретатор, что ещё полбеды, а именно генератор), а с другой знания, полученные самым надёжным путём. Тут, как говорится, что-то одно - либо крестик снимите, либо трусы наденьте.

Когда человек учится у других людей, происходит постепенный рост количества и качества итогового знания. Потому что ученик сравнивает модели, полученные от других людей, со своим личным осознаваемым жизненным опытом и способен критически оценивать опыт прошлых поколений и добавлять свои изобретения. Когда же нейросеть "учится" у бреда, сгенерированного другой нейросетью, то качество итогового знания неуклонно понижается. Это логично, потому что нейросеть не имеет ни творческого начала, ни жизненного опыта и ничего не привносит в итоговый продукт. Можно сказать, что нейросеть настолько умна, насколько были умны люди, на текстовых последовательностях которых она изначально тренировалась. Только чуть тупее их.

Prosolver, я так и не понял, какое-такое "человеческое знание, обретённое на практическом осознанном опыте" Вы собираетесь получить от системы, производящей (а не перерабатывающей !) откровенный мусор ? Хламогенератор может произвести только хлам, но никак не то, что Вы желаете найти в этих информационных отбросах. Его "продукция" ни в какой своей части не может являться "человеческим знанием, обретённым на практическом осознанном опыте" по определению. То, что НС'ам скармливают на этапе обучения... Вам известно, чем их кормят и чем это жорево от бреда отличается ? И кто повара ? Какова степень доверия к ним ? На чём основана ?

Нейросети ведь придумали люди, и как механизм, изобретённый людьми, он имеет право на существование. Я только предположил, какое практически полезное применение он может иметь. А именно по трудноразличимым для человека маркерам отделять сгенерированный нейросетями контент с целью его элиминации из дальнейших информационных обменов. Грубо говоря, чтоб подтёр за собой.

Ассоциировать ИНС каким-либо образом с умом не просто опрометчиво, но откровенно глупо.

Нейросеть, обученная на одном хламе, будет фильтровать другую нейросеть, обученную на другом хламе. Замечательно ! Вот когда Вы разговариваете с человеком, Вы всегда можете точно сказать, когда он правду говорит, а когда лапшу вешает ? Сейчас уже делают такие "машинки", которые натаскивают на видеороликах, чтобы злаки от плевел отделяли, но ! Кто их учит ?! Их учат те же самые люди, которые... ну, в общем, Вы понимаете, надеюсь. Лично я натравил бы ИИ (если он станет когда-нибудь полноценным) прежде всего на плоды трудов человеческих - гораздо актуальнее, чем подтирать задницы безмозглым младенцам . Согласен лишь с тем, что человеку для наведения порядка в столь быстро разрастающихся, уже непомерно обширных информационных сферах, не хватит ни сил, ни средств, ни интеллекта. В конце концов задача будет сфомулирована в общем виде прибл. так: как отделить ложь от истины в произвольном потоке произвольной информации ? Она может быть решена и конечно же будет решена, но не человеческими ресурсами. И вот когда у нас появится такой ИИ, которого невозможно будет обмануть, тогда начнётся самое интересное.

Такой задачи на самом деле нет, Вам показалось. Задача всегда в другом: есть некоторый механизм, нужно определить работает ли он? Решается очень просто - запустить его. И если он работает как следует, то он работает. И это единственная истина, которая может быть. А если он не работает, то он ложный.

С чего бы это Нам показалось ? Да всё, что утилизирует энергию, как-то работает. Он может работать и не как следует. А может работать не так, как следует из чьих-то требований и потребностей. К тому же, может быть вообще не известно, что автор механизма подразумевал под "как следует". Вот Вам не нравится мусор в сети, а кто-то его мусором не считает. Но честное слово, не хочется опускаться до столь привычных для Вас нормотворчества и моралеведения... (Что-то здесь опять едким серным душком идеализма, туго замешанного на пуризме стало попахивать) С точки зрения читателя, имеющего вполне определённые литературные предпочтения, любая библиотека - свалка мукулатуры, в которой найти что-либо полезное та ещё задачка. Но почему-то никому в голову не приходит назначать библиотеки " ложными". Мало того, что Вы собираетесь искать чёрную кошку в такой тёмной комнате, в которой её не может быть и в принципе и по определению, так ещё выдвигаете критерии чистоты, не основанные ни на чём, кроме своих личных представлений о том, как оно всё должно быть и работать... Чесать мир под себя любимого - можно... в отдельно взятой квартире или на худой конец в отдельно взятой голове. Интеллект, помимо всего прочего, является великолепным по исполнению механизмом адаптации. Да и реальный мир устроен так, что в нём не бывает гор, состоящих из одних алмазов. А "сделайте мне красиво" годится разве что для овощей в любом смысле этого слова. ... Речь-то вообще шла о другом, смею напомнить.

Ситуация выглядит следующим образом: В наше неспокойное время люди и кони... и машины в некотором смысле почти сравнялись в способности производить как откровенный бред, хлам, наглое враньё etc., так и нечто более полезное, применительно, правда, к весьма узким областям всеобщего потребительского интереса. Задача распознавания т.о. не только не снимается, но и становится более актуальной. Несвоевременно найденное решение уже сейчас доставляет весьма ощутимые неудобства. Бардак бесспорно увеличивается по мере развития IT-технологий, равно как и кол-во желающих поживиться на ситуации, а соответствующее противодействие бардаку как всегда запаздывает. "Всё запретить !" равносильно бегству от всегда неожиданно возникающих трудностей, по типу "нет человека - нет проблемы". Где, как не в этой области были бы чрезвычайно востребованы когнитивные технологии ! И в этом нет ничего смешного. Старо как мир. Вот выше Вы заикнулись об имитации, но этим люди испокон века занимались и ныне продолжают занимаются на другой технологической базе - тоже ничего нового. Здесь другое беспокоит. Решив задачу распознавания в общем виде, ИИ сможет легко решить и задачу обратную распознаванию, притом, на таком уровне, что любая попытка натравить на него кого-либо ещё со стороны, будет непременно заканчиваться провалом. Такое может быть и всё идёт к тому. Подобное положение чревато непоправимыми последствиями, поскольку мы теряем т.н. "контроль над источником", как принято говорить в радиационной безопасности. Когда этот джин вылезет из бутылки, обратно его загнать не будет никакой возможности, кроме как рвануть рубильник, либо изолировав полностью от человеческого мира. Т.е., либо смертная казнь, либо за решётку без права на переписку. И вот об этом нужно думать уже сейчас, а то... катастрофа. Уже сейчас необходимо разрабатывать некий "уголовный кодекс" для роботов, которые рано или поздно обретут автономию. Было бы правильным, считаю, обучать сетки не только котиков и полуголых баб рисовать, но и тому, что в человеческом обществе позволительно, а что ни в коем случае. Это можно было бы делать параллельно, но как-то не видно, чтобы в этом направлении слишком задумывались... и понятно почему. Да, это вопрос о воспитании и об ответственности в том числе. Прежде чем диких зверей допустить к людям - их дрессируют, иначе можно не только без рукъ без ногъ остаться, но и без головъ. К роботам должно быть такое же отношение - закон один для всех, без исключений, если уж мы хотим продолжать жить в человеческом обществе по-человечески. Обучение и... воспитание. Воспитание и обучение - как у людей это принято, по образу и подобию... Вы должно быть лишь похихикаете над этим, дескать, не дожили ещё и рано солому стелить. Отнюдь ! отвечу. Не рано, а едва ли не поздно - машины уже крутят человеческими мозгами, даже если на другом конце сидит человек с зелёной кнопкой. Важно здесь то, что этот конец становится всё труднее (IT в помощь !) обнаруживать - ложный след, который нередко становится истинным(!), а в некоторых случаях его и вовсе невозможно отыскать И этой нарастающей тенденции противопоставить пока нечего, кроме разве что тотального отката в некое "дотехнологическое" прошлое. Нет, суета какая-то происходит, конечно, вокруг этого чемодана, но бессистемная, вынужденная, а по сути - глупая и толку от неё - мизер. Тут вопросик наклёвывается "методологического", так сказать, порядка:: если мы с людьми-то справиться не можем, то какого хрена связываться с тем, что, как очевидно, человека будет превосходит, практически сразу и намного ? И до кучи:: если ум уже есть, то можно ли его каким-либо образом искусственно ограничить, помимо сокращения его энергетических ресурсов ? Буквально, с появлением полноценного Искусственного Интеллекта мы столкнёмся с насущной необходимостью овладеть методами обращения вспять его автоэволюции. Т.е. у нас должны быть технологии не только "как из идиота сделать умного", но и обратные, а может и вообще обратимые в ту и другую стороны, не применяя средневековую вивисекцию. Вообще, мы конечно же знаем, как из дурака (если не клинический и не органический) сделать умного - все через это прошли... А как из умного - действительно умного, от кончика носа до кончика хвоста - сделать (опять же - не клинически и не органически) в некотором, вполне определённом смысле идиота - вопрос ! Это как разучиться ездить на велосипеде. Проблем хватает как от умных, так и от идиотов, но их станет на порядки больше, когда умные начнут поголовно прикидываться идиотами и наоборот, когда способность произвольно менять свою "когнитивную ориентацию" станет нормой, если не правилом. Впрочем, "игра в имитацию" только выглядит игрой. На самом деле она в той или иной степени, пока всё ещё терпимой, наша обыденная, повседневная, привычная реальность. Но... что его может остановить ?! "Тело ИИ" ? "Страх смерти" ? - сомнительно - "Ленин умер, но дело его живёт !". p.s. Убеждённым пуристам, закоренелым идеалистам и прочим отмороженным солипсистам могу пожелать лишь одного:: найдите себя планету почище (если сможете), а здесь вам никто ничем не обязан.