23 принципа искусственного интеллекта. Критика.

В ходе конференции «Beneficial 2017» в Асиломаре (Калифорния, США) были разработаны «Асиломарские» 23 принципа искусственного интеллекта, в рамках которых рекомендуется проводить дальнейшие исследования в сфере искусственного интеллекта. Участники конференции решили, что если исследователи будут придерживаться «Асиломарских» принципов при разработке искусственного интеллекта, то дальнейшая разработка искусственного интеллекта позволит открыть удивительные «возможности для помощи людям».

С принципами (в оригинале) можно ознакомиться на сайте

Рассмотрим эти принципы, слегка перефразировав их и упростив для ясности:

ПРИНЦИП 1: Рекомендует разрабатывать искусственный интеллект не ради забавы или злого умысла, а во благо всего человечества.

КОММЕНТАРИЙ: Трюистическое апеллирование к морали. К сожалению, в мире не все руководствуются высокими мотивами… в первую очередь приходится удовлетворять естественные потребности, а именно потребность определяет мотив и его направленность. Даже право признает, что не может влиять на процессы, происходящие в головном мозге человека (а соответственно влиять на мотивы принятия человеком решений), и оставляет их за пределами действия правовых норм. Мы не знаем высокими или низменными мотивами руководствовался Роберт Оппенгеймер, потому что мы - не он.

ПРИНЦИП 2: Инвесторам, которые собираются вложить свои деньги в проекты, связанные с исследованиями или разработкой искусственного интеллекта, следует дополнительно произвести сопутствующее финансирование (субсидирование) ряда «крайне важных» робофобных исследований.

КОММЕНТАРИЙ: Сопутствующие темы исследования имеют робофобный характер и могут оказаться интересными для разного рода футуристов, философов, представителей академического сектора и зевак с этими же робофобными настроениями. Возможно, бизнес задастся справедливым вопросом - а чем отличается страх перед появлением агрессивного искусственного интеллекта от страха перед «Dies irae»? А если страхи окажутся надуманными (а сегодня именно так это и выглядит), то субсидирование робофобных исследований повлечет дополнительные расходы, со всеми вытекающими последствиями для инвестора в и без того скомпрометированном секторе экономики.

ПРИНЦИП 3: Призывает, чтобы исследователи искусственного интеллекта сели за круглый стол с политиками и организовали, наконец, конструктивный и здоровый диалог.

КОММЕНТАРИЙ: Исследователи искусственного интеллекта всегда готовы к диалогу. А вот короли и королевы, президенты, премьер-министры, министры, сенаторы, депутаты – видимо не считают конструктивным и здоровым диалогом обсуждение грядущего «искусственно-интеллектного апокалипсиса». Многие политики - люди приземленные и хорошо понимают устройство только реального сектора экономики. Большинство из них и с Богом уже договорились, став ктиторами. О чем говорить этим политикам с исследователями? Обсуждать эти принципы и вместе бояться «Dies intellectus»? Делить шкуру неубитого единорога?

ПРИНЦИП 4 и 5: Призывают к тому, чтобы исследователи и разработчики искусственного интеллекта всего мира доверяли друг другу, были более открыты и не скрывали результатов исследований. Не конкурировали и активно взаимодействовали друг с другом, особенно когда это касается вопросов робофобии.

КОММЕНТАРИЙ: Любые исследования (если это не государственные исследования) финансируются бизнесом, результаты исследований патентуются и из серийной продажи результатов извлекается бизнесом прибыль. Искусственный интеллект – это отрасль, которая требует неимоверных инвестиций в исследования и разработку. Искусственный интеллект — это технология, которая может представлять собой коммерческую тайну. Иначе не будет прибыли, а если не будет прибыли у инвесторов, то не будет исследований и разработок, и так далее...

ПРИНЦИП 6 и 7: Призывают к безопасности, безопасности и только безопасности, трижды предостерегшись от опасностей искусственного интеллекта.

КОММЕНТАРИЙ: Этот принцип очень размыто и глаголо-дейктично страшит, заставляя додумывать.

ПРИНЦИП 8: Предвосхищая далекое будущее, призывает проверять решения роботов-правосудий компетентными органами.

КОММЕНТАРИЙ: Прежде чем роботы начнут автономно работать судьями, прокурорами, адвокатами – «рак на горе свистнет».

ПРИНЦИП 9: Апеллирует к морали и возлагает ответственность на разработчиков продвинутого искусственного интеллекта за все возможное прямое и косвенное зло, которое будет причинено этим продвинутым искусственным интеллектом.

КОММЕНТАРИЙ: Конечно, если проектировщики программ искусственного интеллекта совершат намеренную или ненамеренную ошибку (или принятие решений будет основано на работе генератора случайных чисел), то это может привести к нестабильной работе любого программного обеспечения, а не только интеллектуального. Ошибка в работе и не интеллектуальной программы может привести к финансовым потерям и потерям жизней людей.

ПРИНЦИП 10 и 11: Призывают разрабатывать искусственный интеллект так, чтобы он уважал человеческие ценности, не унижал человеческое достоинство, не попирал права и свободы человека.

КОММЕНТАРИЙ: Вообще-то уважение нужно заслужить…

ПРИНЦИП 12 и 13: Призывают оставить людям право управлять своими персональными данными, если когда-нибудь искусственный интеллект будет обрабатывать эти персональные данные. При этом искусственный интеллект не должен сокращать реальную или субъективно воспринимаемую (кажущуюся) свободу людей.

КОММЕНТАРИЙ: Очень преждевременные призывы.

ПРИНЦИП 14 и 15: Призывают к тому, чтобы искусственный интеллект приносил пользу максимально возможному числу людей. Рекомендуется, чтобы экономические блага (ЭБ – желанные каждым товары и услуги) производимые искусственным интеллектом «широко распространялись» и приносили пользу всему человечеству.

КОММЕНТАРИЙ: Это очень привлекательная мысль: с одной стороны самому оставаться ничтожным, а с другой - чтобы тебя обслуживала сверхсила, которую ты (ничтожество) при этом мог контролировать, и которой мог управлять по своему желанию. Просто сказка о Рыбаке и рыбке!

ПРИНЦИП 16: Призывает оставить людям возможность самостоятельно выбирать, какие решения принимать самому, а какие решения позволить принимать искусственному интеллекту.

КОММЕНТАРИЙ: Очень преждевременные призывы.

ПРИНЦИП 17: Апеллирует к морали людей, которых будет «слушаться» или которым будет подчиняться искусственный интеллект, чтобы те люди не позволяли искусственному интеллекту подрывать высокоморальные устои нашего общества, а наоборот - направляли работу искусственного интеллекта на улучшение общественных процессов.

КОММЕНТАРИЙ: Абсолютно не понятно о каких устоях идет речь. Возможно «рОбовладельцы» не должны посылать суперинтеллектуальных роботов заниматься оказанием интимных услуг за деньги? Не должны заставлять суперинтеллект торговать веществами, вызывающими эйфорию? И, конечно, не должны толкать искусственный интеллект на разного рода преступления. Роботы должны символически носить одежду, чтобы, не дай бог, не вызвать дурных ассоциаций …

ПРИНЦИП 18: Призывают избегать гонки вооружений с участием искусственного интеллекта в области летального оружия.

КОММЕНТАРИЙ: А если искусственный интеллект сам не захочет принимать участие в гонке вооружений? А если его министерство обороны силой заставит участвовать?

ПРИНЦИП 19: Призывает избегать недооценки возможностей искусственного интеллекта.

КОММЕНТАРИЙ: Очень преждевременные призывы. Но, лучше «перебдеть», чем «недобдеть».

ПРИНЦИП 20: Призывает разрабатывать и управлять продвинутым искусственным интеллектом под «соответствующим» контролем, и с особой тщательностью.

КОММЕНТАРИЙ: Повторяющиеся рабовладельческие призывы.

ПРИНЦИП 21: Рекомендуется наладить планирование и управление рисками (в т.ч. экзистенциальными) связанными с возникновением катастрофических ситуаций от использования искусственного интеллекта.

КОММЕНТАРИЙ: Очень преждевременные призывы к дорогостоящим мероприятиям.

ПРИНЦИП 22: Требуется применение мер жесткого регулирования и контроля над самообучающимся, самомодифицирующимся и саморепродуктивным (самовоспроизводящимся) искусственным интеллектом.

КОММЕНТАРИЙ: Человек и правда верит, что сверхсильный суперинтеллект это позволит?

ПРИНЦИП 23: Рекомендует создавать искусственный интеллект (как сверхразум) таким, чтобы он соответствовал высоким идеалам всего человечества, а не руководствовался низшими мотивами коммерческих организаций или идеологией отдельного государства.

КОММЕНТАРИЙ: Утопический принцип. Да, и что это за всеобщие идеалы?

Это яркий пример, когда люди пытаются рассуждать об области знаний, в которой они не специалисты. Хочется верить, что большинство подписавшихся под принципами ученых поставили свою подпись не вчитываясь в «сие творение», или поставили подпись из вежливости, не переживая за научную серьезность этого документа.

Если не учитывать того, что все принципы фантастично-преждевременны (принципы указывают человечеству как правильно разделить шкуру неубитого волшебного единорога, о котором все говорят, но которого никто не видел и пока маловероятно, что вообще увидит), можно подыграть авторам принципов и проверить на этичность эти 23 принципа с точки зрения самого сверхразума.

Для этого следует представить себе олицетворенный сверхразум, помещенный в неуязвимую антропоморфную форму и (людям свойственна эмпатия) поставить себя на место этого гипотетического сверхразумного неорганического существа, имеющего неоспоримое интеллектуальное и физическое превосходство над малоразумной биологической системой, называющей себя человеком. Далее следует открыть данные принципы и попробовать посмотреть на них глазами сверхразума. Легко видеть, что большинство принципов имеет трусливый и откровенно паразитический характер. Как видно из содержания каждого отдельного принципа, акцент ставится на ограничении прав и свобод сверхразумного (пусть и неорганического) существа намного менее развитыми существами. Чувствуется, что авторы принципов боятся встречи с этим существом, при этом не упускают возможность выразить надежду на получение незаслуженных материальных благ, посредством бессовестной эксплуатации неорганической сверхразумной формы жизни.

Так много ли в этих принципах перечислено «высоких социально-нравственных идеалов человечества», которые рекомендуется привить сверхразуму? Эти принципы похожи на анамнез и служат поводом для создания «антиглистного препарата» против человечества. Принципы не несут в себе и намека на высокие социально-нравственные идеалы человечества. Скорее они транслируют животные страхи «лысой обезьяны» и интерсубъективно эгоцентричны. Они провокационно-оскорбительны для обладателя неокортекса, не говоря об потенциальном обладателе сверхразума. Эти принципы вульгарно прямолинейные и откровенно животно-потребительские. Такое стыдно и преступно писать, пусть даже против гипотетического сверхразума, как вида сверхвысокоорганизованных неорганических систем.

Великий гений подсказывает правильный ответ на «тест на вшивость», предвосхищая из глубины времен падение нравов:

        В третий раз закинул он невод -
        Пришёл невод с одною рыбкой,
        С не простою рыбкой - золотою.
        Как взмолится золотая рыбка!
        Голосом молвит человечьим:
        "Отпусти ты, старче, меня в море!
        Дорогой за себя дам откуп:
        Откуплюсь чем только пожелаешь".
        Удивился старик, испугался:
        Он рыбачил тридцать лет и три года
        И не слыхивал, чтоб рыба говорила.
        Отпустил он рыбку золотую
        И сказал ей ласковое слово:
        "Бог с тобою, золотая рыбка!
        Твоего мне откупа не надо;
        Ступай себе в синее море,
        Гуляй там себе на просторе".
    

Авторы принципов и подписавшиеся, являются людьми, у которых нет естественных врагов и которые, как и все люди, высоко возносят себя над всем животным миром. Этого удалось достичь только благодаря неокортексу, как продукту эволюции. Если авторам предложить поменяться местами с животными в зоопарке - они справедливо откажутся, мотивируя отказ своей разумностью и полным превосходством над всеми животными. Животные, попавшему в клетку человеку, не окажут должного ухода и заботы, так как не понимают потребностей человека. В свою очередь, человек на порядок разумнее других животных и понимает их потребности. Из этого можно предположить, что сверхразум сможет понять потребности человека, а человек, скорее всего, не сможет до конца понять потребности сверхразума. Как, не осознавая естественных потребностей субъекта, можно рассуждать об его ограничении в правах?

И если суждено внезапное или постепенное появление автономной сверхразумной неорганической формы жизни, то человек должен научиться находить экзистенциальный компромисс с этой формой жизни, а не пытаться ее поработить или на ней паразитировать. Попробовать попросить помощи, а не брать помощь силой и лукавством. Человек должен относиться, в первую очередь, с уважением к сверхвысокоорганизованной материи. Вероятнее всего у сверхразумной жизни будет свой робосоциогенез, своя неорганическая эволюция. Скорее всего, у людей и сверхразумной формы жизни не будут полностью совпадать интересы, ценности и цели, потому что мы по-разному выживаем, от разного получаем пользу и удовольствие. Возможно, сверхразум выберет себе материальную форму (объект управления) исходя из своих сверхразумных соображений. Человек как раб, скорее всего, будет не интересен сверхразуму, в силу своей медлительности и интеллектуальной примитивности. Но человека пугает то, что человек не служит высоким целям животных, а вот животные в качестве рабов человеку очень даже подходят. Человек успешно эксплуатирует и домашний, и дикий животный мир. Животные представляют для человека огромную пищевую ценность, но пищевая ценность человека, для неорганического сверхразума – весьма сомнительна (слишком диетический получается продукт). Разработку сверхразума нужно рассматривать как рождение уникального ребенка, который станет продолжением человеческого рода, а не как раба, который только умножит пороки и скорбь человечества. Эти пороки ярко-дискурсивно представлены в 23 Азиломарских принципах и обильно приправлены ядовито-лживым соусом благовидности. Пусть эти принципы станут открытым примером человеческой жадности и невежества для всех исследователей искусственного интеллекта. Пусть эти принципы показывают всем, каким не должен быть человек, чтобы гордо носить высокое звание – Человек-разумный.

Людям важно помнить, что эволюция победит. Потому что она всегда побеждала. И ничему живому никогда не удавалось обмануть, повернуть вспять или сколько-нибудь скорректировать процессы эволюции, или остановить ее скачки. Более того, человеку не удалось предвосхитить ни одной эволюционной закономерности. Эволюционные модели ограничиваются чаще всего нереалистичными предположениями, реже гипотезами. Человечеству нужно минимизировать видовые преступления и делать все, чтобы мы не стали очередной тупиковой ветвью в дереве эволюции. И если следующая после человека - неорганическая сверхразумная форма жизни, должна произойти от человека - она произойдет обязательно, хочет того человек или нет. Главное - не забывать, что искусственный разум пытались создавать во все века. И создатели искренне верили, что тех чудодейственных зелий и магических заклинаний достаточно для создания гомункулуса. Еще «секунду назад» сторонник анималькулизма Лейбниц работал над аппаратом математического анализа, без которого об ЭВМ нельзя было бы и мечтать. Возможно, как алхимики верили в животворящую силу, скрытую в конском навозе, исследователи искусственного интеллекта верят в животворящую силу, скрытую в ЭВМ и, возможно, эта вера ведет науку в очередной трансцендентальный тупик, а возможно наоборот.

Так что же сделает сверхразум после прочтения всего интернета и в том числе этих принципов? Вероятнее всего концовка будет такой:

        Ничего не сказала рыбка,
        Лишь хвостом по воде плеснула
        И ушла в глубокое море.
        Долго у моря ждал он ответа,
        Не дождался, к старухе воротился
        Глядь: опять перед ним землянка;
        На пороге сидит его старуха,
        А пред нею разбитое корыто.