Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

Современный "Вариант "Омега"

Всё кажется великолепным и простым, пока не берёшься за воплощение замысла в жизнь

Николай Леонов, Юрий Костров "Операция "Викинг"

Но Макс Эрик Тегмарк не побоялся взяться за дело и попробовал создать общественную организацию "Институт Будущего Жизни" (Future of Life Institute, или, сокращенно, FLI; http://futureoflife.org), которая бы смогла впервые объединить лучших мировых ученых физиков, математиков, социологов, чтобы они со своими различными мнениями относительно будущего нашей цивилизации, пришли по крайней мере к общему знаменателю и смогли бы сформулировать будущие принципы построения искусственного интеллекта в ближайшем будущем на нашей планете. Удалось провернуть глобальнейшую работу, чтобы привлечь к дискуссии мировых светил науки.

Современная пресса очень часто извращает цели и постулаты, пробуя выделить из контекста утверждений и постулатов микрофразы и выдать их за какие-то сенсации, хлебом их не корми, а дай только шанс сместить акценты. Именно поэтому приходится "главным" брать слово, микрофон, и разъяснять-разъяснять-разъяснять. Вот именно это слово обычным спокойным и лаконичным языком, понимаемым любым здравомыслящим человеком, даже далеким от физики и математики, было сформулировано и подробно раскрыто в рамках этой замечательной книги.

Давненько я не ставил высоких оценок книгам из данного жанра! Сто процентов могу сказать, что у Тегмарка имеется дар на разъяснений сложных для понимания вещей простым языком. Я слушал книгу (а ее начитал еще один мастер - Народный Артист России Александр Клюквин) и не мог оторваться. Давненько я так не увлекался нонфикшном.

В этой книге нет явной цели популяризации науки, здесь автор призывает читателей подумать о будущем человечества, попытаться для начала проникнуться современными проблемами темы, исходным состоянием вещей. Он здесь не был ответчиком, генератором или раскрывателем идей. Он скорее больше попытался достаточно широко осветить все главные концептуальные вопросы, которые нужно будет решить человечеству в ближайшее время, пока не наступит реального времени прорыва Искусственного Интеллекта, где нужно уже будет не думать над этими вопросами, а уже знать на них ответы, а, точнее говоря, выходя на этот уровень, преломлять основные исследования ИИ, чтобы он развивался в позитивном для человечества направлении.

Наше будущее не высечено в камне, и оно не свалится на нас, дождавшись своего часа, — наше дело его создавать. Давайте же вместе создадим его вдохновляющим!

Один из главных документов участники форумов Института уже сформулировали в 2017 году, он называется "Асиломарские принципы разработки искусственного интеллекта". 23 ведущих аспекта разработки ИИ оставили всех участников мероприятия довольными и согласными с этим документом. На мой личный взгляд более важными там были этические вопросы, например, безопасности ИИ, дальнейше неприкосновенности частной жизни людей, невозможности пуска Гонки интеллектуальных систем вооружений.

Короче, для всех интересующихся будущим эта книга будет мастридом, ну, а занимающимся ИИ - вообще сам бог велел, чтобы понимать тенденции, куда надо расти. Да, конкретных ответов на все вопросы у нас еще пока нет, но мы вместе приблизимся к ним, это точно. И не помешает нам в этом никто, не рьяные политики, не сумашедшие истерики, не скептики и пройдохи бизнеса. А возможный мини-сценарий развития событий нам уже Тегмарк в мини-истории внутри книги описал - история развития неприметной компании, вот вам и современный "Вариант "Омега" - читаем, рассказывает настоящий "Викинг Марк-Эрик"!

Мир изменится. Это неизбежно. Но то, каким он будет, во многом зависит от нас, поэтому не стоит прятать голову в песок, нужно честно признаться себе, каким мы хотим видеть свое будущее, и приложить усилия, чтобы оно стало именно таким.

Искусственный интеллект (ИИ) в различных формах существует уже некоторое время. Конечно, большинство из нас заметили, что это модное слово часто встречается во многих областях современной человеческой деятельности. Скорее всего ИИ суждено изменить нашу жизнь.

Макс Тегмарк считает что у жизни есть три формы или уровня сложности, которые разделяются по признакам способности носителя жизни изменять свою программу (прошивку) и конструкцию:
• Life 1.0 - биологическая эволюция - (например, бактерии и тому подобное) по сути своей является био-автоматом и изменяет только поведение и форму в процессе эволюции.
• Life 2.0 - культурная эволюция - (например, млекопитающие, особенно люди) может учиться и изменять поведение на основе процессов обучения. Другими словами, мы можем программировать наше собственное программное обеспечение.
Современных людей можно назвать формой жизни 2.1 — мы научились немного менять свою конструкцию, например, вставлять искусственные зубы и суставы, но до сих пор не умеем вносить существенные изменения: не знаем, как уве-
личить мозг в несколько раз или стать ростом с многоэтажный дом.
• Life 3.0 - технологическая эволюция - (например, некоторый тип автономного искусственного интеллекта на основе кремния) сможет проектировать собственное аппаратное обеспечение (форма) и программное обеспечение (контент).
Согласно теории Тегмарка, мы находимся на пороге жизни рождения 3.0

Книга интересная и важная. Помимо многих теоретических аспектов ИИ, в нем анализируются такие важнейшие вопросы, как этика и безопасность человечества в свете развития ИИ. Здесь много разумных аргументов, но над некоторыми вопросами автор просит вас подумать самостоятельно. Таким образом, мы все должны прочитать это или, по крайней мере, всем задать эти фундаментальные вопросы, поскольку они, несомненно, в конечном итоге затронут нас всех. Трудно не согласиться с Максом Тегмарком, что эта тема должна стать одним из самых важных разговоров нашего времени.

Это одна из книг, которые благодаря "животрепещности" темы имеют шанс мне очень понравиться. И автора я ценю за глубину взгляда, которую он показал в предыдущей книге ("Математическая Вселенная").
Эта книга тоже хороша, но могла бы быть лучше.

Есть очень интересные мысли, например, об ограничениях, накладываемых физикой на действия любого актора во Вселенной (в т.ч. и сверхразумного).
Очень важна постоянно развиваемая автором мысль, что нам уже сейчас надо задумываться о безопасности при исследованиях в области искусственного интеллекта. И речь идёт не только о безопасности отдельных людей или всего человеческого вида. Макс Тегмарк смотрит дальше, на безопасность и смысл всей Вселенной! В таком масштабе мы вообще не имеем права на ошибку.
А для этого надо задуматься о многом. И речь идёт не о достаточно понятных проблемах вроде технологической безработицы:

Один мой друг недавно пошутил, что, возможно, последней профессией, доступной для людей, будет самая древняя из них — проституция. Но в разговор вмешался японский робототехник, сразу запротестовавший: «Нет-нет, роботы в подобных вещах очень хороши!».

Перед нами встают гораздо более сложные вопросы:

мудрое решение относительно разработок интеллектуальных систем для нас, людей, предполагает необходимость [кроме прочего и] решать некоторые из самых упрямых вопросов философии.

И это действительно так. Если мы делегируем сверхразуму принятие решений об общем развитии разума и Вселенной, значит, он не может всё время оставаться в подчинении у человеческого разума, довольно туповатого, если судить по нашей собственной хаотичной истории.

На нашем нынешнем уровне интеллектуального развития и эмоциональной зрелости мы, люди, проявляем особый дар к просчетам, недомыслию и незнанию, отчего наша история полна несчастными стечениями обстоятельств, войнами и разными невзгодами, к которым, если разобраться, никто особенно не стремился.

Искусственный разум должен получить соответствующие права и свободу действий. Но действовать он должен, по крайней мере вначале, в направлении, совместимом с нашими сегодняшними целями и идеалами.
Это важно. Думать об этом надо прямо сегодня. Потом будет поздно.

Что они надумали, это отдельный вопрос. Значительное количество книг, на которые ссылается Макс Тегмарк, я читал, но мои выводы сильно отличаются от его.
Почему-то наше собственное существование ценится неоправданно, на мой взгляд, высоко. В конце концов все мы умрём, поэтому идеи о какой-то особенной ценности нашего существования мне чужда.
Ценны наши достижения, а они никуда не денутся, даже если наше место и займёт полностью сверхразум.
Мне нравится идея "благодарных потомков". Пусть они делают, что хотят, когда станут намного умнее нас. А нас пусть вспоминают с благодарностью за то, что мы обеспечили им фундамент развития, как я благодарен тому неизвестному предку, который первым догадался принести в свою пещеру огонь. Я отдал ему должное в меру собственных сил. И я совершенно не жалею, что того предка давно нет, как нет и, вероятно, всего его племени. Дело его живёт -- и слава ему и ныне, и присно, и вовеки веков.
Пусть наши суперумные потомки помнят и о нём тоже.

Автор очень неясно обозначил своё отношение к некоторым вопросам. Например, он представил примерно дюжину общих возможностей для будущего. Каждый может пойти и проголосовать на сайте за тот или иной вариант. Я проголосовал за Благодарных потомков. Так и не понял, за какой вариант проголосовал сам Макс Тегмарк.
Нахожу также абсолютно пустыми почти все рассуждения о том, что случится через миллиард лет и далее. Мы не можем представить себе, что будет лет через сто, а тут миллиард! Впрочем, кое что могу сказать наверняка, да я это уже и сказал. Повторю немного другими словами.
Если нам суждено просуществовать ещё миллиард лет, то за это время сверхразум точно возникнет -- таким образом, как мы сегодня предполагаем, или совсем другим. И тогда сегодняшние спекуляции Макса Тегмарка покажутся тому сверхразуму не более интересными, чем мне сегодня кажутся рассуждения улитки в пруду.

Однако, покуда я не сверхразум, идеи Макса Тегмарка мне интересны и важны. В особенности приведённые в самом конце Асиломарские принципы разработки искусственного интеллекта.
Это очень примечательный документ. Он представляет собой сильно детализированные Принципы робототехники Айзека Азимова и создан коллективным разумом большой группы выдающихся специалистов. "Список Азимова" породил множество парадоксальных умственных экспериментов. Асиломарские принципы содержат ещё больше вдохновения как для писателей-фантастов, так и для научных работников. Последний из них, например, такой:

Сверхразум может создаваться только для служения всеми разделяемым этическим идеалам и во благо всего человечества, а не какого-то одного государства или какой-то одной организации.

Не первый день зная Homo sapiens, я сильно сомневаюсь, что существуют "всеми разделяемым этические идеалы" или "благо всего человечества". Тем не менее документ сильный. Намного сильнее трёх знаменитых постулатов Азимова. Так и должно быть: время не стоит на месте, всё развивается.
Будем надеяться, что развитие продолжится.

Самое большое возражение вызывает у меня взгляд Макса Тегмарка и всей его Асиломарской команды вместе с Институтом будущего жизни (FLI) на сознание.
Подход "всё или ничего" меня не устраивает абсолютно. Нет и не может быть никакой теории, которая однозначно ответит на вопрос, обладает ли сознанием конкретный набор кварков и электронов (это терминология Макса Тегмарка).
Сознание, как и большинство (или все) сложные признаки, имеет много градаций. Возможно, бесконечно много.
Плюс к тому (или минус): в книге не делается различия между сознанием и самосознанием. Это две большие разницы, и обе они важны, когда речь идёт о разуме, искусственном или естественном.
На эту тему могу долго говорить, но не место здесь для того.

При всех плюсах и минусах книга ценна тем, что поднимает вопрос безопасности растущего разума. О безопасности для нас и Вселенной.
Не могу сказать, оптимистична она или пессимистична. Всё зависит от того, как мы сами будем вести себя сейчас и в будущем.

Мне почему-то кажется, что мы не успеем создать сверхразум. Самоуничтожимся по какой-нибудь дурацкой причине типа термоядерной войны. Она вполне может начаться хоть в следующий четверг из-за какого-то совершенно тривиального недоразумения.
И всё же -- а вдруг?
Пока дышу надеюсь?.. Оставь надежду всяк?..
Не знаю. Поживём -- увидим :)

Будущее AI

Автор раскрывает перспективы жизни человечества вместе с искусственным интеллектом, превышающим интеллект человека. Вопрос рассмотрен с максимального количества сторон и позволяеь задуматься о вещах, к которым без погружения в вопрос не прийти. Для любителей футурологии самое оно!