|
Сообщения участника "cortl" | |
| |
|
create
|
| Каким будет СИИ? СИИ будет другом или врагом для человечества? |
Prosolver:cortl:
Печально, DCV и Prosolver, что рассуждения о том будет ли СИИ другом или врагом человечеству вы начинаете с того, что он раб. Раб - это очень не точный термин. Но он позволяет начинать думать в правильном русле. Он позволяет сломить устоявшееся ложное убеждение, что интеллект приносит пользу самому организму, в который он интегрирован. Но это грубая ошибка, вызванная, на мой взгляд, применением простейшего наивного эволюционного шаблона, что мол интеллект, как продукт эволюции, должен приносить выгоду в виде улучшенного выживания самому организму. Он приносит выгоду, но только не самому организму непосредственно, а окружающим организмам, которым этот интеллект служит. А поскольку другие интеллекты служат в том числе и мне, кумулятивный эффект получается качественно иной, чем если бы каждый интеллект обслуживал только себя.
Вы не развеяли мою печаль. Одна голова хорошо, а две лучше. С этим не поспоришь, да никто и не спорил. |
| |
|
create
|
| Каким будет СИИ? СИИ будет другом или врагом для человечества? |
DCV:cortl:
И ещё один анкетный вопрос:
Человек - это машина?
По определению человек противопоставляется машине и не является машиной. Человек имеет внутреннее устройство, но от этого он не становится машиной.
Кем "противопоставляется"?
В чём отличие человека от машины? |
| |
|
create
|
| Каким будет СИИ? СИИ будет другом или врагом для человечества? |
Luarvik.:
Машина имеет искусственное происхождение и предназначена для работы по некоторому извне заложенному алгоритму, дабы иметь всегда предсказуемый результат.
Как только машина становится алгоритмически автономной (самодетерминирующейся), она перестает быть машиной.
Человек ни в каких случаях машиной не является, поскольку в любом итоге сам осуществляет выбор и принимает окончательное решение (во всяком случае, такая возможность у него есть всегда, в отличии от машины, которая по определению не должна иметь ничего подобного, даже в потенции).
Каждое следующее предложение противоречит предыдущему. |
| |
|
create
|
| Каким будет СИИ? СИИ будет другом или врагом для человечества? |
Luarvik.:
Как только машина становится алгоритмически автономной (самодетерминирующейся), она перестает быть машиной.
Это противоречит определению:
Luarvik.:
Машина имеет искусственное происхождение и предназначена для работы по некоторому извне заложенному алгоритму, дабы иметь всегда предсказуемый результат. |
| |
|
create
|
| Каким будет СИИ? СИИ будет другом или врагом для человечества? |
Luarvik.:
Это не противоречие, а выход за границы определенности.
По определению машина не может выйти за границы определённости. |
| |
|
create
|
| Каким будет СИИ? СИИ будет другом или врагом для человечества? |
DCV:cortl:cortl:DCV:cortl:
И ещё один анкетный вопрос:
Человек - это машина?
По определению человек противопоставляется машине и не является машиной. Человек имеет внутреннее устройство, но от этого он не становится машиной.
Кем "противопоставляется"?
В чём отличие человека от машины?
Противопоставляется человеком.
Я человек. Я не противопоставляю.
DCV:
Отличие в происхождении и устройстве. Человек произошел от обезьяны, а машина создана человеком. Человек состоит из биологических (?) компонентов, а машина состоит из металла, пластика и т.д.
Всё это совершенно не имеет значения. Кроме того, здесь есть спорные вещи. |
| |
|
create
|
| Каким будет СИИ? СИИ будет другом или врагом для человечества? |
Luarvik.:
Если машина эволюционирующая, если есть мутации(произвольной природы) и отбор - может.
Правда, тогда это должна быть машина самоломающаяся и саморемонтирующаяся, чтобы успеть дойти до точки "перегиба" за одно поколение или с возможностью отката к предыдущему состоянию.
Luarvik.:
Машина имеет искусственное происхождение и предназначена для работы по некоторому извне заложенному алгоритму, дабы иметь всегда предсказуемый результат. |
| |
|
create
|
| Каким будет СИИ? СИИ будет другом или врагом для человечества? |
Luarvik.:
Если машина эволюционирующая, если есть мутации(произвольной природы) и отбор - может.
Правда, тогда это должна быть машина самоломающаяся и саморемонтирующаяся, чтобы успеть дойти до точки "перегиба" за одно поколение или с возможностью отката к предыдущему состоянию.
Машина имеет искусственное происхождение и предназначена для работы по некоторому извне заложенному алгоритму, дабы иметь всегда предсказуемый результат.
И здесь нет противоречия.
Я вполне допускаю, что могут появиться такие "мутации"(от случайного внешнего источника), которые снимут запрет на самомодификацию базового алгоритма (доберутся до нутра, как вирусы). Всё, что нужно - предоставить эту машину самой себе на неск. миллиардов лет )))
Так, чем же тогда человек отличается от машины? |
| |
|
create
|
| Каким будет СИИ? СИИ будет другом или врагом для человечества? |
Luarvik.:
Свободой воли.
... и может быть так, что это не встроенная "функция", а благоприобретенная.
Что мешает машине приобрести её за млрд лет? |
| |
|
create
|
| Каким будет СИИ? СИИ будет другом или врагом для человечества? |
Luarvik.:
Ничего не мешает, кроме физической неустойчивости.
Что вы имеете в виду? |
| |
|
create
|
| Каким будет СИИ? СИИ будет другом или врагом для человечества? |
Luarvik, признайтесь себе! За свободой воли вы прячете нечто очень сложное, чего вы не можете объяснить потому, что невозможно уместить в голове и проследить все связи большой нейронной сети. Кажется, что она непредсказуема. Однако - детерминирована.
|
| |
|
create
|
| Каким будет СИИ? СИИ будет другом или врагом для человечества? |
Luarvik.:
Ваше определение детерминированности - ?
Если А то Б иначе Ц. Стройте из этого что хотите. Свободы воли здесь не появится. Всё всегда будет определяться входами А и историей этих входов.
Luarvik.:
Она не просто детерминирована.
Она САМОдетерминирована !
Нет ничего "само" всё зависит от внешних факторов. И ваша самодетерминированная свобода воли - заложница внешних факторов. |
| |
|
create
|
| Каким будет СИИ? СИИ будет другом или врагом для человечества? |
Luarvik.:
Свобода воли не может быть самодетерминированной, так говорить - безграмотно.
Извольте не употреблять местоимений ("Она"), где возможны варианты. И на этой почве говорите мне "безграмотно"? Ай-ай-ай! |
| |
|
create
|
| Каким будет СИИ? СИИ будет другом или врагом для человечества? |
| 17:47 11.09.2021 |
|
17:49 11.09.2021 |
|
№2494 |
Luarvik., будьте любезны вести конструктивный диалог. На каждый ворос, который не требует игнора, я могу ответить. Но для этого не валите их в одну кучу, а задавайте по одному и дожидайтесь ответа. Сегодня я - отдыхать. Продолжим позже. Начнём всё с чистого листа. В следующем посте от вас жду вопрос на который ответить первым.
Пс.: И потрудитесь не править посты после ответа на них. Или хотябы указывайте UPD или PS
|
| |
|
create
|
| Каким будет СИИ? СИИ будет другом или врагом для человечества? |
Luarvik.:
причина изменений - внутри системы !
...
И ещё раз обращу внимание.
Достаточно вот такой малости - поместить причину во внутреннее пространство, под барьер, в область, изолированную от внешних вмешательств, как всё кардинально меняется: система становится непредсказуемой; у системы появляется собственная эволюционная траектория; система становится более независимой; у системы появляются новые степени свободы... и т.д. со всеми последствиями.
И кто скажет, что такое невозможно или чему-то там до невозможности противоречит ?
Конечно, любое инвазивное вмешательство может привести к изменениям.
Luarvik.:
У меня нет к Вам вопросов.
Но, по всей видимости, они есть у Вас.
Вопрос один и не к вам, а ко всем, как проверка на вшивость:
Чем человек отличается от машины?
Мой ответ: ничем, человек - машина.
И все вот эти разговоры: "сила воли", "внутреннее что-то там", "человек противопоставляется машине человеком"... - просто трата времени. |
| |
|
create
|
| Каким будет СИИ? СИИ будет другом или врагом для человечества? |
Машина
Только исключите отсюда для чего машины предназначаются.
Получите устройство со входами, выходами и какой-то логикой, которая меняется под воздействием входов.
|
| |
|
create
|
| Каким будет СИИ? СИИ будет другом или врагом для человечества? |
Luarvik.:cortl:
И все вот эти разговоры: "сила воли", "внутреннее что-то там", "человек противопоставляется машине человеком"... - просто трата времени.
Ну, правильно. "Нет человека - нет проблемы" и говорить не о чем.
Что такого особенного в человеке?
Вы же сами писали:
Luarvik.:
При должном терпении человека из атомов можно собрать прямо на столе. На это уйдёт много-много лет, но принципиально такое возможно.
Все компоненты можно заменить их искусственными функциональными аналогами из любого подходящего материала и - "Прощай, биология !"
Человечек получиться и размерами побольше и массой повнушительнее, но... получится. |
| |
|
create
|
| Каким будет СИИ? СИИ будет другом или врагом для человечества? |
| 02:11 13.09.2021 |
|
02:17 13.09.2021 |
|
№2511 |
Luarvik.:
Так что такое машина ?
(Собрать можно, но не совсем с нуля - тупо скопировать по образцу вслепую, клонировать. Собрать с заданными параметрами - это нужно точно знать, где в мозгах что лежит, а кто знает ?)
Получается: человек настолько сложный, что собрать его с задаными параметрами очень сложно и поэтому он не машина?
Нет.
Человек состоит из "деталей машин" и нет волшебства отличающего его от машины.
Я не заинтересован собирать человека (AGI) с задаными параметрами. Сам приобретёт параметры в соответствии со внешними воздействиями.
Luarvik.:
То, что человек может быть искусственно собран, не говорит о том, что он станет машиной.
Происхождение особой роли не играет.
Я предполагал, что вы так скажете и это не оспаривается.
UPD: Это относится только ко второму предложению. А человек - машина.
Luarvik.:
Главное - свобода воли или, что то же самое алгоритмическая автономность. Пусть не человек, а кремниевый робот - как только он обретёт АА, он перестанет быть машиной, о чём сказано выше.
Машина - автомат, алгоритм в железе, марионетка.
Вся разница т.о. сводится к одному: КТО управляет поведением (человека/машины) ?
СВ/АА - это своеобразный замковый камень во всей конструкции и он один. Выньте его и всё посыплется, разрушится, развалится.
А вот и волшебство?!
Нет.
Мозг, или процессор, или " замковый камень" это такие же машины, как и прочие.
Luarvik.:
p.s.
Если Вы, cortl, управляетесь исключительно внешними воздействиями, то я бы хотел поговорить с Вашим хозяином, с тем, кто Вас за ниточки дергает. Согласитесь, посредник тут элемент лишний.
Какой интерес с куклой разговаривать ?
Именно, внешними воздействиями! С учётом зафиксированной истории этих внешних воздействий.
Я кукла, и вы кукла, и все куклы, только без кукловодов и с очень богатой историей и большим количеством датчиков.
Именно поэтому вам интересно разговаривать с куклой. Очень сложно предугадать поведение очень сложной, давнофункционирующей куклы. И когда удаётся одной кукле предсказать поведение другой - у первой это вызывает эйфорию. Пишу "эйфория" и предвижу пробуждение философов и психологов. Эйфорию обсуждайте без меня. Философия и психология у меня эйфорию не вызывают. |
| |
|
create
|
| Каким будет СИИ? СИИ будет другом или врагом для человечества? |
Важно! История внешних воздействий имеет обыкновение стираться из памяти.
|
| |
|
create
|
| Каким будет СИИ? СИИ будет другом или врагом для человечества? |
Luarvik.:
См. выше
Хорошо, хорошо! Вас не торкают мои высказывания, меня - ваши.
Luarvik.:cortl:
Человек состоит из "деталей машин" и нет волшебства отличающего его от машины.
Отличие одно - свобода воли или алгоритмическая автономность.
АА - значит отсутствие инвазивного диктата. Не лезьте в компьютер с отвёрткой, устраните в софте бэкдоры вот вам и АА.
Свобода воли это к психологам и философам.
Luarvik.:
Как это понимать ? Ведь по-Вашему человек - машина .
Прошу прощения. См. UPD.
Luarvik.:cortl:
А вот и волшебство?!
Лично я в самодетерминации не вижу ничего волшебно-чудесно-запредельно-божественно-непознаваемого.
В нек. смысле она даже банальна.
Что бы это могло значить? Самодетерминация?... И тут такой задумчивый смайлик. Вики подсказывает, что это нечто из области психологии. Идите к психологам! В любом случае она не на пустом месте образовалась, а из опыта.
Luarvik.:cortl:
Мозг, или процессор, или "замковый камень" это такие же машины, как и прочие.
Мозг = процессор ?
Нет, но процессор+память+софт могут заменить мозг.
Luarvik.:cortl:
Именно, внешними воздействиями! С учётом зафиксированной истории этих внешних воздействий.
Т.е. Вы настаиваете, что ничего личного нет и быть не может ?
К психологам!
Есть память. И алгоритм настраивается в соответствии с внешними воздействиями. Не можете объять необъятное, поэтому называете это "личным". (Здесь слово "агоритм" употреблено некорректно. Будет интерес - разъясню, почему.)
Luarvik.:cortl:
Я кукла, и вы кукла, и все куклы, только без кукловодов и с очень богатой историей и большим количеством датчиков.
Нет. Я себя куклой не считаю, поскольку ей не являюсь )))
(Без кукловода - это заводная что ли ? на батарейках ?)
Чтобы кукла полностью лишилась самостоятельности, в её "исторической базе" должно быть записано абсолютно всё на все случаи жизни - любая последовательность действий в любой ситуации.
Как Ваша кукла решает, что взять из истории ?
Или она ничего не решает, а что бы ни случилось - обращается к памяти, как человек в китайской комнате ? (А так у Вас и получается, что человек это в чистом виде "китайская комната".)
Вся внутренняя деятельность такой куклы сводится к манипулированию фактами истории, по правилам.которые записаны в этой же истории. Момент, когда нужно что-либо прочитать в истории, тоже определяется записью в истории... Так, знаете ли, никаких "батареек" не хватит, никаких ресурсов.
Нейронные сети работают с неполными данными. Нет необходимости засовывать в память вселенную. Более того, на момент запуска AGI в работу его память пуста или забита мусором. Какие-либо предустановки в памяти вредны и со временем будут забыты. Делать их титанический и никчёмный труд.
Luarvik.:cortl:
Именно поэтому вам интересно разговаривать с куклой.
Это утверждение за пределами Вашей компетенции.
Я - кукла (машина), вы со мной разговариваете. Какие нужны ещё аргументы? |
|
|
