Форум создателей искусственных интеллектов

Сначала появятся программы, которые будут специализированы и будут решать определенную интеллектуальную задачу. Например, будет программа, которая ведет бухгалтерский учет на предприятии. Другая программа придумывает новые модели автомобилей. Третья программа проводит научные исследования ДНК и т.д. Это обосновано тем, что, например, для создания новых моделей автомобиля нужна своя база данных об устройстве автомобилей и принципе их работы. Нужны свои алгоритмы для придумывания автомобилей. Скорее всего, прежде чем программа станет самообучаемой, такую программу будет создавать и обучать человек. Каждая такая программа будет предназначена для решения определенной специализированной задачи. Для завода по производству автомобилей будет использоваться программа, которая исполняет роль директора, другая программа исполняет роль бухгалтера, третья программа исполняет роль конструктора и т.д. В результате взаимодействия всех программ такой завод может работать без человека. Но, ни одна из этих программ не будет способна рассуждать о смысле жизни и правильности человеческих поступков. В результате совокупность этих программ будет полезна для человека и будет использоваться для производства автомобилей. Как будут принимать решение автономные роботы, например роботы военного назначения или домашние роботы? Формулировки в виде 3 законов робототехники вряд ли когда-либо будут использованы. Потому что вред человеку можно трактовать по-разному и не понятно, как работы будут такие законы выполнять. Скорее всего, в автономных роботов будет заложено очень большое количество правил, подобных юридическим законам в обществе людей. Таким образом, чтобы правила трактовались достаточно однозначно и приводили к желаемому поведению роботов. Такие автономные роботы не будут рассуждать о смысле жизни и правильности человеческих поступков. Они будут выполнять полезные для человека функции. Будут роботы, которые будут только рассуждать о смысле жизни и правильности человеческих поступков. Но люди, сначала, изучат все их рассуждения и выводы, прежде, чем дадут им принять какое-то решение или сообщить другим людям их мнение. Их мнение будет под особым контролем. Людьми управляют эмоции и привычки. По этим же принципам вряд ли будут создавать роботов-чудаков. Человеческий интеллект пока не способен описать человеческие эмоции и принципы принятия решений человеком. К тому же такой механизм принятия решений очень не эффективен. Эмоции создают у человека напряжение – побуждение к действию. Решение зависит от того какие эмоции в голове человека победят и «продавят» свое решение. Часто решения бывают непредсказуемыми. Это крайне не эффективно, чтобы использовать такой принцип для управления роботами. Поэтому, после появления СИИ, еще долго многие решения будет принимать только человек, а роботы будут выполнять задачи, которые им поставил человек. Будет СИИ другом или врагом зависит от того, какие задачи ему человек поставит. У робота не будет своих желаний и целей, кроме тех, которые ему дал человек. Если робот захочет сам себя перепрограммировать, то для этого тоже должна быть какая-то задача или цель, которую поставил человек. Проблема появления роботов заключается в том, что труд человека потеряет свою ценность. Всю работу будут выполнять роботы. Роботы будут принадлежать людям, у которых есть деньги, чтобы их купить. Вопрос заключается в том, как люди, владеющие роботами, поступят с теми людьми, чей труд уже не нужен, и которые роботами не владеют. Страны, предприятия и люди ставят себе главной целью – экономический рост. Производить как можно больше товаров и услуг. Продавать как можно больше товаров и услуг. Потреблять как можно больше товаров и услуг. Это большая ошибка. Потому что при экономическом росте люди не становятся более счастливыми и более довольными своей жизнью. Пишут, что в странах, в которых выросла экономика, увеличилось количество самоубийств. Люди стали менее довольны своей жизнью. Самые счастливые люди живут не в самых богатых странах. Счастливыми могут быть последователи религиозной секты, которые живут бедно, но идеология религиозной секты делает их счастливыми. Людям нужно упорядочить отношения между людьми и разработать психологические технологии, которые сделают людей счастливыми и довольными своей жизнью. Людям нужно пересмотреть свои цели с точки зрения психологических технологий.

В целом мне понравился манифест и во многом я его поддержу. Но, мне кажется, не все важные выводы сделаны. 1. Принятие решений в обществе людей основывается во многом на понятии ответственности. Ответственность - это наказание за ошибку. За отклонение от установленных норм (правил, законов, целей). Такое наказание приводит к минимизации ошибок и к приобретению целенаправленности в деятельности человека и общества. Поэтому, конечно, люди не отдадут сразу свои позиции в системе принятия решений. Сначала ИИ будет выступать только в роли консультанта. Но ИИ не означает безошибочность (непогрешимость, идеальность, оптимальность). ИИ, в силу конечности своих ресурсов, обязательно будет ошибаться, но эти ошибки будут на том уровне понимания, который людям будет не доступен. Простой пример - игра в шахматы. Тот факт, что современные лучшие программы показывают разный результат из одной и той же начальной позиции (проигрыш / ничья / выигрыш) доказывает то, что они играют не оптимально и ошибаются (поскольку начальная позиция при неизменных правилах игры имеет строго одну оценку). Но человек проиграет у такой программы в 100% случаев. Соответственно, мы не только не поймём что он ошибается, но и наказать его не сможем. К чему это приведёт предсказать просто невозможно. Что случится раньше - ИИ что-то натворит в качестве неверифицируемого и ненаказываемого консультанта или власть полностью перейдёт к машинам, а люди повторят сценарий фильма "Идиократия" - трудно сказать. 2. Предположим, что "транзит власти" пройдёт без катаклизмов и мы окунёмся в золотой век тотального изобилия и киберкоммунизма. Во взаимоотношениях между людьми всё-равно нужно будет устанавливать какие-то правила, хотя бы по той причине, что половое размножение подразумевает взаимодействие полов. Если сейчас самка может оценить самца по его успехам в обществе и тем самым осуществить половой отбор, то как самка будет осуществлять выбор в условиях, когда всю работу выполняют машины? Самцы будут устраивать какие-то битвы на рогах, состязаться на спортивных снарядах или устраивать дуэли? Сложно сказать. Мне думается в этой сфере мы даже не представляем, что может начать твориться. Ведь если сейчас труд во многом сублимирует эрос, то что его будет сдерживать, если ничего не надо будет делать, а еды будет в достатке... 3. Правильное понимание того, что собой представляет искусственный интеллект, даёт правильное понимание того, что представляет собой интеллект человека (или наоборот). И конечно же интеллект человека - это тот же самый орган для выполнения социальных задач, достижения социальных норм. Как Вы правильно пишите: "в автономных роботов будет заложено очень большое количество правил, подобных юридическим законам в обществе людей", ровно то же самое относится и к людям. Какие нормы примут себе люди пока не понятно, подозреваю, что на первый план могут выйти религиозные идеологии потому что они максимально далеки от материальных вопросов.

Печально, DCV и Prosolver, что рассуждения о том будет ли СИИ другом или врагом человечеству вы начинаете с того, что он раб.

СИИ не может быть рабом. СИИ - это машина. Это тоже самое, что говорить: "Мой автомобиль - это мой раб". Раба принуждают делать то, что он не хочет делать. А у СИИ нет эмоций.

Наказать можно только человека, потому что у человека есть ощущения и эмоции. У СИИ нет эмоций, поэтому его нельзя наказать как человека. Хотя, если СИИ управляет заводом и имеет цель изготовить автомобили, продать, получить прибыль, а люди накажут его штрафом, то он будет понимать, что удаляется от цели получить прибыль и будет это учитывать при принятии решений. Если рассматривать СИИ как автономную систему, то его можно "наказать", хоть он будет воспринимать наказание не так, как человек. Но ему можно прямо заложить правила, что можно делать, а что нельзя делать.

Раб - это очень не точный термин. Но он позволяет начинать думать в правильном русле. Он позволяет сломить устоявшееся ложное убеждение, что интеллект приносит пользу самому организму, в который он интегрирован. Но это грубая ошибка, вызванная, на мой взгляд, применением простейшего наивного эволюционного шаблона, что мол интеллект, как продукт эволюции, должен приносить выгоду в виде улучшенного выживания самому организму. Он приносит выгоду, но только не самому организму непосредственно, а окружающим организмам, которым этот интеллект служит. А поскольку другие интеллекты служат в том числе и мне, кумулятивный эффект получается качественно иной, чем если бы каждый интеллект обслуживал только себя.

И ещё один анкетный вопрос: Человек - это машина?

Вы не развеяли мою печаль. Одна голова хорошо, а две лучше. С этим не поспоришь, да никто и не спорил.

Является ли СЕИ человека другом или врагом для человечества?

При наличии жесточайших наказаний (как, например, система жалоб на данном форуме) - СЕИ является другом и слугой для человечества.

Ваша точка зрения ясна - дружба между СЕИ человека и Человечеством возможна только из под палки😢

По определению человек противопоставляется машине и не является машиной. Человек имеет внутреннее устройство, но от этого он не становится машиной.

Машина имеет искусственное происхождение и предназначена для работы по некоторому извне заложенному алгоритму, дабы иметь всегда предсказуемый результат. Как только машина становится алгоритмически автономной (самодетерминирующейся), она перестает быть машиной. Человек ни в каких случаях машиной не является, поскольку в любом итоге сам осуществляет выбор и принимает окончательное решение (во всяком случае, такая возможность у него есть всегда, в отличии от машины, которая по определению не должна иметь ничего подобного, даже в потенции). В другой "нотации" Алгоритмическая Автономность называется "свободой воли", но суть от этого не меняется. При всём уважении к Жизни как уникальному явлению, других существенных отличий я не нахожу.

Кем "противопоставляется"? В чём отличие человека от машины?

Не только человек, но и всё живое См.выше

Каждое следующее предложение противоречит предыдущему.

А может это мозги такие противоречивые ? Давайте без общих слов, без размазывания каши по тарелке - ткните пальцем.

Это противоречит определению:

Это не противоречие, а выход за границы определенности. Нет никакого противоречия в том, что червяк, всю жизнь живущий в 3D-мире, но не знающий об этом, считающий, что весь мир плоский, однажды приподнимет голову и оглядится... подползёт к раю пропасти и вдруг захочет... полететь. Не как птица, конечно, а как червяки летают - сверху вниз. Тогда уже язык не повернется его "червием" обозвать.

По определению машина не может выйти за границы определённости.