2062: время машин (Уолш)
Очень краткое содержание[ред.]
2018 год. Искусственный интеллект стремительно развивался и менял мир, что побудило исследователя задуматься о будущем человечества к 2062 году.
Автор рассмотрел эволюцию человечества от homo sapiens к homo digitalis — цифровому человеку будущего. Он проанализировал, как искусственный интеллект изменит работу, войну, политику, частную жизнь и общество в целом. Особое внимание уделил этическим проблемам и рискам развития технологий.
Будущее не предопределено. Оно – результат тех решений, которые мы принимаем в настоящем. Однако кажется, что именно сейчас мы находимся на перепутье.
К 2062 году, по мнению автора, искусственный интеллект мог достичь уровня человеческого разума. Это грозило исчезновением многих профессий, усилением неравенства и появлением новых форм оружия. Однако главную опасность представляли не сами технологии, а то, как люди их использовали.
Уолш предупреждал об угрозах частной жизни, манипуляции общественным мнением через социальные сети и концентрации власти в руках технологических компаний. Он призывал к созданию новых законов для регулирования искусственного интеллекта и защиты прав человека в цифровую эпоху.
Особое внимание автор уделил противостоянию Запада и Китая в гонке за лидерство в сфере искусственного интеллекта. Он предполагал, что к 2062 году Китай мог стать мировым лидером в этой области благодаря масштабным инвестициям и особенностям своей политической системы.
В заключение Уолш предложил конкретные меры для создания лучшего будущего: реформирование корпораций, новые законы о защите данных, регулирование политической рекламы, универсальный базовый доход и развитие образования. Он верил, что при правильных решениях искусственный интеллект мог сделать жизнь людей более здоровой, обеспеченной и счастливой.
Подробный пересказ по главам[ред.]
Глава 1. Homo digitalis[ред.]
В первой главе автор размышлял о месте человека в истории эволюции и его будущем. Несмотря на все достижения человечества — от строительства пирамид до покорения космоса, от научных открытий до великих произведений искусства — человек как вид не вечен.
Несмотря на все эти удивительные достижения, мы вскоре будем заменены. Почти все следы homo sapiens будут стёрты с лица Земли так же, как были стёрты следы существования наших предков, homo neanderthalensis.
Автор объяснял, что около 50 000 лет назад неандертальцы не смогли противостоять появлению homo sapiens. Точные причины их исчезновения неизвестны — возможно, они не смогли адаптироваться к изменениям климата или проиграли конкуренцию за ресурсы. Теперь настала очередь homo sapiens уступить место более успешному виду.
Нашим преемником станет homo digitalis – биологический род Homo, эволюционировавший в цифровую форму. Все наши занятия станут по большей части цифровыми. Человеческий разум будет заменён искусственным.
Важную роль в эволюции человека сыграл язык. Он позволил передавать знания между поколениями, работать вместе и создавать сложные общественные системы. До появления языка каждое поколение вынуждено было учиться заново, а знания умирали вместе с их обладателями.
Язык поменял все правила игры... Он помогал нам работать вместе, разрешать конфликты и доверять друг другу. Язык дал нам возможность развивать экономику обмена, а затем и денежную экономику.
Следующим важным этапом стало появление письменности около 5000 лет до н. э. в Китае и 3100 лет до н. э. в Месопотамии. Это позволило кодифицировать законы и передавать знания независимо от времени и пространства. Изобретение книгопечатания Гутенбергом в 1440 году сделало знания еще доступнее.
Новым этапом в передаче знаний автор называл колёрнинг — не просто коллективное обучение, а индивидуальное обучение внутри группы, когда каждый усваивает знания других членов группы. К 2062 году колёрнинг будет осуществляться с помощью компьютерного кода, который можно просто копировать, в отличие от человеческих воспоминаний.
Глава 2. Наш конец[ред.]
Во второй главе рассматривались сроки появления искусственного интеллекта, сравнимого с человеческим, и возможные последствия этого. Автор провел опрос среди 300 экспертов в области ИИ и 500 обычных людей. Эксперты оказались более осторожны в прогнозах: они считали, что вероятность создания человекоподобного ИИ достигнет 90 % только к 2112 году, тогда как неэксперты называли 2060 год.
По мнению экспертов, 50-процентная вероятность создания такого ИИ наступит в 2062 году — отсюда и название книги. Неэксперты называли 2039 год. Десятипроцентная вероятность, по мнению экспертов, возникнет в 2034 году, неэксперты считали, что это произойдет уже в 2026 году.
Автор подробно рассматривал идею технологической сингулярности — гипотетической точки, когда искусственный интеллект станет способен к самосовершенствованию и быстро превзойдет человеческий разум. Он привел десять аргументов против неизбежности сингулярности.
Даже если машины будут рекурсивно совершенствоваться, развитие может упереться в естественные пределы. Многие другие сферы жизни имеют границы, почему интеллект должен от них отличаться?
Глава 3. Конец сознания[ред.]
В третьей главе обсуждалась проблема сознания и возможность его возникновения у искусственного интеллекта. Автор отмечал, что современные системы ИИ не обладают сознанием. Например, AlphaGo не осознает, что играет в го, она просто максимизирует вероятность победы.
Рассматривались три возможных пути обретения машинами сознания: оно может быть запрограммировано, может возникнуть самопроизвольно в результате усложнения систем или может быть усвоено в процессе обучения. Автор считал, что программирование сознания маловероятно, так как мы сами плохо понимаем этот феномен.
Обсуждалась также возможность загрузки человеческого сознания в компьютер к 2062 году. Однако это может оказаться технически невыполнимым или деструктивным — процесс считывания содержимого мозга может уничтожить оригинал. Более вероятно, что люди сохранят биологическую оболочку, но приобретут цифровых помощников для выполнения определенных задач.
Глава 4. Конец работы[ред.]
Четвертая глава была посвящена влиянию ИИ на рынок труда. Согласно исследованию Карла Б. Фрея и Майкла Осборна, 47 % профессий в США могут быть автоматизированы в течение следующих двадцати лет. Однако эксперты в области ИИ были более осторожны в прогнозах и говорили только о 20 % профессий.
Автор отмечал, что некоторые профессии уже начинают автоматизироваться. Например, в нефтяной индустрии после падения цен на нефть в 2014—2016 годах почти полмиллиона рабочих мест исчезло по всему миру. Когда цены снова выросли, удалось вернуть менее половины этих рабочих мест — остальные были автоматизированы.
В качестве решения проблемы массовой безработицы рассматривался универсальный базовый доход — гарантированные и безусловные выплаты для всех граждан страны. Эта идея находит поддержку как у правых (как способ уменьшить государственную бюрократию), так и у левых (как способ распределить деньги среди бедных).
Глава 5. Конец наших ценностей[ред.]
В пятой главе обсуждалось влияние ИИ на человеческие ценности. Автор отмечал, что алгоритмы часто наследуют предубеждения из обучающих данных. Например, переводчик Google демонстрировал гендерные стереотипы, переводя 'Она доктор' как 'Он доктор', а 'Он няня' как 'Она няня'.
Особую озабоченность вызывало использование алгоритмов в системе правосудия. Программа COMPAS, используемая в США для прогнозирования вероятности повторного совершения преступления, демонстрировала расовую предвзятость. Она предсказывала, что чернокожие подсудимые совершают рецидив чаще, чем это происходит на самом деле, а для белых подсудимых — реже.
Глава 6. Конец политики[ред.]
Шестая глава была посвящена влиянию технологий на политику. Социальные сети, которые изначально рассматривались как инструмент демократизации, стали использоваться для манипуляции общественным мнением. Facebook проводил эксперименты по влиянию на явку избирателей, а компании вроде Cambridge Analytica использовали данные из социальных сетей для таргетированной политической рекламы.
Если мы не будем осторожны, политика в 2062 году будет определяться такими технологиями. Большие данные из социальных сетей будут использоваться теми, у кого умнее алгоритмы.
Особое внимание уделялось возможному президентству основателя Facebook.
Глава 7. Конец войны[ред.]
Седьмая глава была посвящена автономным системам вооружения (САО). Автор предупреждал об опасности создания роботов-убийц и призывал к их запрету. САО могут стать оружием массового поражения — один программист сможет управлять сотнями или тысячами автономных систем. Кроме того, в отличие от ядерного оружия, для создания САО не требуются значительные ресурсы.
В июле 2015 года автор вместе с коллегами организовал открытое письмо, призывающее ООН запретить автономные системы вооружения. Письмо подписали тысячи исследователей ИИ и робототехники, включая многих ведущих ученых в этой области.
Глава 8. Конец частной жизни[ред.]
Восьмая глава рассматривала проблемы приватности в эпоху ИИ. К 2062 году мало что сможет ускользнуть от всевидящего взгляда искусственного интеллекта. Уже сейчас Facebook имеет базу из 1,2 миллиарда различных лиц, что составляет примерно одну шестую всех людей на планете.
Особую озабоченность вызывала социальная кредитная система, разрабатываемая в Китае. К 2020 году Китай планировал собрать всю информацию о компаниях и гражданах в одном хранилище и оценивать их по критерию благонадежности. 'Неблагонадежные' могут быть наказаны ограничениями в профессиональной деятельности, путешествиях и финансовых операциях.
Глава 9. Конец политики[ред.]
В девятой главе обсуждалось влияние технологий на политическую систему. Особое внимание уделялось проблеме фальшивых новостей и политических ботов. Из 48 миллионов подписчиков в Twitter у действующего президента США 14 миллионов оказались фейковыми аккаунтами.
К 2062 году невозможно будет доверять ничему, что мы видим или слышим, если мы при этом не присутствуем. Технологии позволят создавать полностью искусственные видео- и аудиозаписи, неотличимые от настоящих. Это может иметь серьезные последствия для политического процесса.
Глава 10. Конец Запада[ред.]
Десятая глава была посвящена конкуренции между Западом и Китаем в области ИИ. После победы AlphaGo над Кэ Цзэ в 2017 году китайское правительство анонсировало амбициозный план стать мировым лидером в области ИИ к 2030 году. План предполагал, что к этому времени ИИ должен принести 150,8 миллиарда долларов прямых доходов и 1,5 триллиона долларов косвенных доходов через связанные отрасли.
Китай имеет несколько преимуществ в гонке ИИ: огромный рынок, быструю адаптацию к новым технологиям и более 'расслабленное' отношение к приватности. В то же время США при президенте Трампе, похоже, отказываются от лидерства в этой сфере — многие ключевые научные и технические позиции в правительстве остаются вакантными.
Глава 11. Конец[ред.]
В заключительной главе автор подчеркивал, что будущее не предопределено — оно зависит от решений, которые мы принимаем сейчас. Он призывал к регулированию технологического сектора, реформированию корпораций и принятию новых законов для защиты приватности и демократии.
Важнее то, что мы с ними сделаем, ведь это будет самая сильная магия, на которую способен человек... О том, как будут выглядеть технологии через сто или двести лет, мы говорить не станем.
Если принять правильные решения, ИИ может сделать мир лучше — помочь победить бедность, улучшить здравоохранение и образование, защитить окружающую среду. Однако для этого необходимо обеспечить, чтобы плоды технологической революции достались всему обществу, а не только владельцам технологий.
К 2062 году мы можем жить в более справедливом и заботливом обществе, где люди будут больше ценить творчество, ремесла и человеческое общение. Машины возьмут на себя рутинную работу, а люди смогут сосредоточиться на том, что делает нас людьми — искусстве, науке, заботе друг о друге. Однако это произойдет только если мы сделаем правильный выбор сейчас.