Homo digitalis
Человек — увидивительное создание. Он создал Великую Китайскую стену и пирамиды в Гизе, покорил огонь и отправил человека в космос… Но несмотря на все удивительные достижения разума мы вскоре будем заменены. Почти все следы Homo sapiens будут стерты с лица земли так же, как были стерты следы неандертальцев. Около 50 000 лет назад те не смогли нам противостоять. Так и мы уступим место кому-то более новому и успешному. а поскольку мы sapiens, то мы можем даже предугадать, кто нас заменит. Интеллект машин, которые мы создаем сегодня, достигнет нашего уровня как раз к 2062 году.
Почему человек разумный заменил неандертальцев? Дело в языке. До того, как появилась разговорная речь, наша способность обучаться была сильно ограничена. Каждому поколению приходилось переучиваться с нуля. Язык поменял правила игры. Благодаря ему предки получили возможность объяснить друг другу, какие растения можно есть, а какие нельзя — ну и много других сведений. Язык подарил нам истории, мифы, религии. Именно язык добавил sapiens в название нашего вида. Наша сила стала коллективной.
Еще один рывок произошел тогда, когда появилась письменность. Она возникла на территории Китая около 5000 лет до н. э. и, независимо от этого, в Месопотамии около 3100 лет до н. э. Она позволила обществам усложнить свою структуру. Кодифицировать законы, что управляют жизнью. Образование перестало ограничиваться временем и пространством.
Третий шаг — это печать. Гутенберг изобрел печатный станок примерно в 1440 году. В следующем году в Европе было напечатано чуть меньше 100 000 книг. В следующем веке это число возросло до 300 000.
Следующий шаг человечество делает прямо сейчас. Он заключается в том, что автор называет колёрнингом. Колёрнинг предполагает не групповое обучение, а индивидуальное обучение внутри группы. При этом знания каждого члена группы — одинаковы. Идеальным средством для такого типа обучения становится не человеческий язык, а компьютерный код. И члены группы не люди, а компьютеры.
Компьютеры превосходят людей в обучаемости. Они уже обыграли людей в го и в шахматы. Уолш говорит: «Если кто-то говорит мне, что компьютеры могут делать только то, для чего они запрограмированы, я обычно перечисляю десяток игр, в которых компьютеры уже стали чемпионами мира. Почти во всех подобных случаях программы были написаны средними игроками, а превосходство программы над людьми достигалось за счет ее обучаемости».
Люди ограничены в средствах и способах передачи знаний. Компьютеры же обмениваются друг с другом кодами без всяких ограничений Если один компьютер научился диагностировать рак кожи, этой способностью можно наделить все остальные машины. Это — колёрнинг.
Разумеется, компьютеры не во всем нас превосходят. Наш мозг все еще сложнее, чем самый мощный суперкомпьютер. Мы креативны. Но есть сомнения, что этими преимуществами мы будем обладать еще долго.
Наш конец
Самый известный триумф машины — это победа над Каспаровым и победа в го. Но машины превзошли человека не только в играх. В медицине компьютеры читают кардиограммы лучше врачей. Они лучше анализируют интернет, чтобы предсказать курс акций.
Это впечатляет, однако это — способность решать одну конкретную задачу. Цель разработки общего искусственного интеллекта — написать программу, которая может делать все так же, как человек (или лучше). До этого еще далеко: люди все еще опережают машины. Люди быстрообучаемы. Они умеют хорошо объяснять свои решения (алгоритмы могут опознать на фото кошку, но не могут сказать, как они определили это). У ИИ нет цельного представления о мире: яблоко у него не ассоциируется с законом тяготения. Люди умеют адаптироваться — это и сделало нас доминирующим видом на планете.
По мнению Уолша, грядущая сингулярность, которая отменит человека, сильно разрекламирована. Пока ИИ — не самая страшная угроза человечеству. Опрос пятидесяти нобелевских лауреатов, проведенный журналом Times Higher Education в 2017 году, показал, что ИИ проигрывает климату, росту населения, атомной войне и Трампу.
Конец сознания
Что такое сознание? Как оно связано с интеллектом? Позволит ли нам ИИ к 2062 году загрузить собственное сознание в облако?
У нас нет инструментов, чтобы измерить сознание. Насколько известно, ни одна часть мозга не отвечает за него. Ограниченным уровнем сознания обладают и животные. Но не AlphaGo. Она не проснется однажды утром и не подумает: «С го всё получилось, заработаю-ка я немного денег и на онлайн-покере». Вообще говоря, AlphaGo даже не знает о том, что играет в го.
Но нет гарантий, что ситуация не изменится. Уолш предлагает три сценария, по которым машины могут обрести сознание: 1) оно может быть запрограмировано, 2) возникнет само в результате усовершенствования компьютеров, 3) может быть ими усвоено. Первый путь наименее вероятен: как запрограммировать то, в чем мы и сами не разбираемся? И потом — что, если в 2062 году ИИ вообще не будет иметь сознания? Как насчет интеллекта без сознания, интеллекта зомби? Природа напоминает нам, что ИИ может иметь совсем другой разум. Посмотрите на осьминогов — самых разумных из всех беспозвоночных.
Даже если сознание не станет такой большой проблемой для ИИ, остается не менее сложный вопрос свободы воли. Короче, философам есть о чем подумать. Наконец, при попытке сделать цифровую копию нашего биологического разума мы, вероятнее всего, упремся в технологические ограничения: мозг с его миллиардами нейронов и триллионами синапсов — самая сложная система во Вселенной.
Конец работы
В 2062 году люди будут выполнять гораздо меньший объем работы. Работой будут заняты роботы, а мы займемся гораздо более приятными и важными вещами. Например, будем создавать искусство. Развивать общество… Это будет Вторым Возрождением! Или нет?
Экономисты беспокоятся, что к 2062 году большинство профессий просто исчезнут. Автоматизация станет концом работы. Правда, такие прогнозы делались на протяжении всего XX века, так что мы может оценить их точность и масштабы. Проблема экономистов-пессимистов в том, что их расчеты бинарны: профессия исчезнет либо нет. Но как насчет золотой середины? Например, ИИ угрожает бухгалтерам. Однако можно предположить, что только часть их деятельности будет автоматизирована. В таких прогнозах учитывается техническая вероятность автоматизации — но не рентабельность, а это важно. С технической точки зрения работа мастера по починке велосипедов будет автоматизирована. С экономической точки зрения в этом нет смысла: начать с того, что это не самая высокооплачиваемая работа, а робот стоит недешево.
История технологий показывает, что благодаря им больше рабочих мест было создано, чем уничтожено. До индустриальной революции множество людей было занято в сельском хозяйстве, но потом множество профессий появилось в офисах и на заводах. Экстраполируйте это на наше будущее.
Кроме того, необходимо различать «закрытые» и «открытые» работы. В закрытых (например, мойщики окон или водители) набор обязанностей строго ограничен — и они будут автоматизированы. Открытые работы лишь расширяются в результате автоматизации. Например, химик — это открытая работа. Автоматизация только поможет расширить горизонты науки. Вряд ли химия, которую можно изучать, когда-нибудь закончится.
Кроме того, нужно оценить элемент человечности в той или иной профессии. Что насчет учителей, медсестер, сиделок? Вы хотели бы, чтобы в старости за вами присматривал робот? Это один из тех вопросов, который нам еще предстоит обдумать.
Что можно прогнозировать с большой долей точности? Мы, вероятно, будем работать меньше дней в неделю. До индустриальной революции многие работали по 60 часов в неделю, после ИР эта цифра сократилась до 40 часов, а у нас сегодня есть несколько недель отпуска в году. И еще один прогноз: первыми серьезными жертвами цифровой революции окажутся водители. В этом есть некая ирония: одна из самых новых профессий на планете — водитель Uber — станет и самой недолговечной.
Нюанс в том, что ранее машины заменяли человека в физическом труде, а теперь могут взять на себя и некоторую умственную работу. Чем займемся мы? Заново откроем в себе людей. Машины могут научиться писать музыку и романы, но творения людей мы будем ценить больше — ведь они апеллируют к человеческому опыту. Видимо, мы заново откроем ремёсла, ценность ручной работы. Сегодня при приеме на работу ценятся навыки STEM — но в 2062 году самыми важными качествами станут наш социальный и эмоциональный интеллект.
Конец войны
Одна из профессий, которая исчезнет благодаря автоматизации — это работа солдата. И это внушает ужас. Автономные системы вооружения (АСВ) станут третьей военной революцией — после пороха и атомной бомбы. И АСВ опаснее их обеих. Небольшой дрон и пара граммов взрывчатки не требуют большой научной работы, как в случае с ядерным оружием. Первая мысль: АСВ станут орудием террора. А еще они, как любые роботы, могут ошибаться, и цена таких ошибок невероятно высока. Уолш убежден: мы можем контролировать этот процесс с помощью деклараций ООН и прочих решений на высоком уровне, хотя пока дело идет туго. 6. Конец наших ценностей
Машины не разделяют наших ценностей — но они копируют наши предрассудки. Google при переводе с английского на немецкий переведет «воспитатель в детском саду» как женское «die Kindergärtnerin», а «учитель» — как мужское «der Lehrer». Тот же Google предлагает больше рекламы высокооплачиваемых профессий для мужчин, нежели для женщин. Владельцам компьютеров Mac сайты предлагают более дорогие отели. Машины учатся на предвзятых данных!
В 2015 году некто Джеки Алсине обнаружил, что сервис Google Foto отмечает самого Джеки и его девушку как горилл. Так как проблему нельзя было решить элементарным способом, Google просто удалил отметку «горилла». Но самой машине неизвестно, что такое «расизм» и «оскорбление».
Это известно людям, но они пренебрегают этим знанием. Facebook продавал рекламу, направленную на «противников евреев». Он рекламирует собственные вакансии в основном молодым людям — и продает рекламу, дискриминирующую стариков.
Как бы то ни было, наступил момент, когда сервисы постоянно подсказывают нам книги, знакомства, товары… Проблема в том, что предвзятость не так легко устранить из процесса. Большая часть машинного обучения — это решение, какого рода предвзятостью наделить пограмму. Выход лишь в том, чтобы превратить предвзятость во что-то более приемлемое.
Чтобы доверить ИИ принятие решений, нам самим нужно четко сформулировать собственные ценности. в этом смысле «золотой век философии» — это не время Аристотеля и не конфуцианский век; это время начинается сейчас.
Конец равенства
Мы живем в счастливое время. Впервые число людей, живущих в крайней нищете, упало ниже 10 %. Свыше 90 % населения планеты до 25 лет умеют читать. Однако пока жизнь а планете улучшалась для низших слоев, разрыв между ними и богатыми стремительно увеличивался. Не забудьте про средний класс: он вообще никак не участвует в обогащении. К 2062 году мы увидим серьезный рост неравенства в нашем обществе.
Благосостояние сосредоточено не только в руках богачей. Оно еще лежит на счетах нескольких очень крупных корпораций. Уолш перебирает меры, которые бы могли изменить ситуацию к лучшему: власть над СЕО? налоговые реформы? универсальный базовый доход? Эта мера кажется радикальной, но на самом деле это лишь продолжение того, что мы делаем сейчас (бесплатные образование и медицина и пр.). Борьба с неравенством не будет легкой. Она потребует более удачного распределения пользы, которую ИИ принесет крупным технологическим
Конец частной жизни
В 2013 один из создатеелй Google Винт Серф озвучил мысль: «частная жизнь, возможно, аномальна». Мол, она лишь порождение индустриальной революции. Это верно: в Средние века жизнь, например, была куда менее частной. И всё же: сегодня мы чувствуем, что близки к реальности «1984».
На наших данных зарабатывают. Говорят, что данные — это новая нефть. С той разницей, что нефть — дорогой и ограниченный ресурс, данные же ни дороги, ни дефицитны. А главная разница между ними — во владении. Страны когда-то быстро заявили свои права на нефть. А подавляющая часть данных — частная собственность. И это ставит под угрозу нашу приватность. Однако Google и Facebook продолжают на них богатеть.
Кремниевая долина вролне представляет себе не только кто вы такой, но и как вы проголосуете. И вашу сексуальную ориентацию тоже. Дело не только в самих данных, а в их связанности. Адрес отправителя и размер письма мало что сообщат злоумышленнику, он не видит содержание письма. Но при сочетании их с другими данным можно многое узнать о том, с кем вы общаетесь и чем занимаетесь.
Даже когда мы офлайн, за нами все равно следят. Так, в 2013 году обнаружилось, что «умные мусорные баки» в Лондоне отлеживали мобильники. А к 2062 году отслеживать нас будут не только мусорные баки — за нами будет следить весь город. Наблюдение не закончится, когда вы зайдете домой: Цукерберг и Сноуден недаром заклеивают камеру на ноутбуке. Вскоре мы уступим и нашу аналоговую приватность — вплоть до сердцебиения, которое считывает фитнес-браслет. Наши цифровые оболочки помогают нам врать. Но в аналогом мире врать сложнее — мы не можем напрямую контролировать сердцебиение. Представьте, что могла бы сделать политическая партия, если б у нее был доступ к данным о нашем сердцебиении? А мы отдаем подобную аналоговую инфу частным компаниям.
Вероятно, самая тревожная угроза нашей частной жизни к 2062 году — социальный рейтинг, который сейчас разрабатывается в Китае. Впрочем, Европа тоже в курсе: вспомните Сноудена. Но Европа в то же время дает некоторую надежду на частную жизнь в будущем. В мае 2018 года вступил в силу Общий регламент по защите данных (GDPR). Главная его цель — дать европейцам самим решать судьбу своих личных данных.
ИИ может помочь защитить нашу конфиденциальность. К 2062 наши смартфоны будут достаточно мощными, чтобы все процессы происходили внутри них: чтобы распознать голос владельца, смартфону не нужно будет обращаться в Google. Если мы сделаем верный выбор, частная жизнь будет правом, обеспеченным технологиями.
Конец политики
Примеров того, как технологии меняют ход политической борьбы, уже довольно много: вспомните Египет или Трампа. При этом наибольшее влияние в соцсетях имеют не люди, а машины. У Трампа 48 млн подписчиков в Твиттере, а 14 млн из них — фальшивые страницы. Папа римский имеет еще более худшие показатели: из 17 млн его подписчиков 10 млн — фейки. К 2062 году человеческие голоса могут затеряться в океане компьютерных. Когда ИИ станет разумнее, нам все сложнее будет отличить его от человека. Уже создан бот, который вполне успешно создает примерно такие же твиты, как Трамп. Мы уже знаем, что фотографиям доверять нельзя — да и видео тоже. К 2062 году нельзя будет доверять ничему, что мы видим или слышим, если мы при этом не присутствуем. К 2062 году вы уже не сможете отличить настоящего политика от фальшивого. Хоим ли мы оказаться в мире, где побеждают не более удачные политические идеи, а лучшие алгоритмы?
Конец Запада
Да, сегодня Google отвечает на 8 из 10 поисковых запросов по всему миру. Но поисковик Baidu — на 4 месте в списке самых посещаемых сайтов мира. Amazon оценивается в 750 млрд долларов, а Alibaba — в 500 млрд, и она развивается быстрее. Итак, Китай наступает на пятки. После победы AlphaGo над Кэ Цзэ в 2017 году китайское правительство анонсировало план — стать мировым лидером в области ИИ к 2030 году. Кажется, нет причин сомневаться в успехе. Китай долгое время отставал в этой сфере, но быстро адаптируется к новым технологиям: например, он уже лидирует по количеству мобильных платежей. Китай имеет и серьезные преимущества в гонке за ИИ: например, не заморачивается на приватности своих граждан.
Конец
Мы приближаемся к критической точке человеческой истории. Нам хватает проблем и кроме технологий, а тут еще ИИ со всеми вытекающими. Но Уолш уверен: к будущему не надо приспосабливаться, оно — результат решений в настоящем. Поэтому мы можем его выбирать. Мы можем рассмотреть законы, ограничивающие владение данными. Можем обязать платформы нести ответственность за контент. Нам нужно разделить большие корпорации, чтобы вернуть конкуренцию на цифровой рынок. Нам нужны новые налоги, чтобы корпорации отдавали свой долг обществу. Возможно, нам придется рассмотреть введение законов, которые запретят политическую агитацию в соцсетях. Ключевые слова: мы можем и должны.
Мы живем гораздо лучше, чем наши предки сто лет назад. Как нам это удалось? Благодаря тому, что мы приняли науку. Но не только она изменила нашу жизнь в ХХ веке. Мы изменили общество, чтобы справиться с теми проблемами, что принес прогресс. Мы придумали профсоюзы, трудовое законодательство и всеобщее образование, чтобы все могли извлечь пользу из прогресса. Мы должны помнить об этом в начале нового периода серьезного технологического сдвига.