2062: время машин (Уолш) — различия между версиями

Материал из Народный Брифли
Перейти к:навигация, поиск
(Конец Запада)
 
(не показано 16 промежуточных версий этого же участника)
Строка 1: Строка 1:
 +
{{pub|https://briefly.ru/walsh/2062/}}
 +
 
{{Пересказ
 
{{Пересказ
 
| Название = 2062: время машин
 
| Название = 2062: время машин
Строка 5: Строка 7:
 
| Жанр = нон-фкшн
 
| Жанр = нон-фкшн
 
| Год публикации = 2018
 
| Год публикации = 2018
| В двух словах = Специалист по искусственному интеллекту пытается представить будущее, в котором машины станут интеллектуально равны людям, и ответить на вопрос, не вытеснят ли они человека.
+
| В двух словах = Специалист по искусственному интеллекту представляет будущее, в котором машины станут интеллектуально равны людям, и пытается ответить на вопрос, не вытеснят ли они человека.
 
}}
 
}}
  
Строка 11: Строка 13:
  
 
== Homo digitalis ==
 
== Homo digitalis ==
Человек построил Великую Китайскую стену и египетские пирамиды, покорил огонь и вышел в космос… Но, несмотря на все достижения, мы будем заменены. Почти все следы Homo sapiens исчезнут, как исчезли следы неандертальцев, которые не смогли нам противостоять. Нас заменит искусственный интеллект (ИИ), который достигнет нашего уровня к 2062-му году.
+
Человек построил Великую Китайскую стену и египетские пирамиды, покорил огонь и вышел в космос… Но, несмотря на все достижения, мы будем заменены. Почти все следы Homo sapiens исчезнут, как исчезли следы неандертальцев, которые не смогли нам противостоять. Нас заменит искусственный интеллект (ИИ), который достигнет нашего уровня к 2062 году.
  
 
Homo sapiens вытеснил неандертальцев благодаря способности говорить. До появления разговорной речи наша способность обучаться была сильно ограничена, но язык всё изменил. Предки научились передавать друг другу информацию, необходимую для выживания. Язык подарил нам истории, мифы, религии и добавил sapiens (разумный) в название нашего вида. Наша сила стала коллективной.
 
Homo sapiens вытеснил неандертальцев благодаря способности говорить. До появления разговорной речи наша способность обучаться была сильно ограничена, но язык всё изменил. Предки научились передавать друг другу информацию, необходимую для выживания. Язык подарил нам истории, мифы, религии и добавил sapiens (разумный) в название нашего вида. Наша сила стала коллективной.
Строка 17: Строка 19:
 
Второй рывок произошёл, когда появилась письменность. Она возникла на территории Китая около 5 000 лет до н. э. и в Месопотамии около 3 100 лет до н. э. Она позволила усложнить структуру обществ, систематизировать законы, управляющие жизнью, ввести системы образования.
 
Второй рывок произошёл, когда появилась письменность. Она возникла на территории Китая около 5 000 лет до н. э. и в Месопотамии около 3 100 лет до н. э. Она позволила усложнить структуру обществ, систематизировать законы, управляющие жизнью, ввести системы образования.
  
Третий шаг — это печать. Гутенберг изобрёл печатный станок примерно в 1440году. В следующем году в Европе было напечатано чуть меньше 100 000 книг. Сегодня индустрия книгопечатания выпускает миллионы книг каждый год.
+
Третий шаг — это печать. Гутенберг изобрёл печатный станок примерно в 1440 году. В следующем году в Европе было напечатано чуть меньше 100 000 книг. Сегодня индустрия книгопечатания выпускает миллионы книг каждый год.
  
 
Четвёртый шаг, который человечество делает прямо сейчас, заключается в том, что автор называет колёрнингом. Колёрнинг — это индивидуальное обучение внутри группы, при этом знания каждого члена группы одинаковы. Идеальным средством для такого типа обучения стал компьютерный код, а обучаются по этому методу компьютеры. Компьютеры превосходят людей в обучаемости. Люди ограничены в средствах и способах передачи знаний, компьютеры же обмениваются друг с другом кодами без ограничений. Если один компьютер научится диагностировать рак кожи, эту способность подхватят все остальные машины. Это — колёрнинг.
 
Четвёртый шаг, который человечество делает прямо сейчас, заключается в том, что автор называет колёрнингом. Колёрнинг — это индивидуальное обучение внутри группы, при этом знания каждого члена группы одинаковы. Идеальным средством для такого типа обучения стал компьютерный код, а обучаются по этому методу компьютеры. Компьютеры превосходят людей в обучаемости. Люди ограничены в средствах и способах передачи знаний, компьютеры же обмениваются друг с другом кодами без ограничений. Если один компьютер научится диагностировать рак кожи, эту способность подхватят все остальные машины. Это — колёрнинг.
Строка 24: Строка 26:
  
 
== Наш конец ==
 
== Наш конец ==
Машины обыграли человека в шахматы и го, но они превзошли нас не только в играх. В медицине компьютеры читают кардиограммы лучше врачей, лучше анализируют интернет, чтобы предсказать курс акций, однако это способность решать одну конкретную задачу.
+
Машины обыграли человека в шахматы и го, но они превзошли нас не только в играх. Они лучше анализируют интернет, чтобы предсказать курс акций, а в медицине компьютеры читают кардиограммы лучше врачей. Однако это способность решать одну конкретную задачу.
  
Цель разработки искусственного интеллекта — написать программу, которая может делать всё так же, как человек (или лучше). До этого ещё далеко: люди ещё опережают машины. Они быстрообучаемы, умеют объяснять свои решения (алгоритмы могут опознать на фото кошку, но не могут сказать, как они определили это). У ИИ нет цельного представления о мире: яблоко у него не ассоциируется с законом тяготения. Люди умеют адаптироваться — это и сделало нас доминирующим видом на планете.
+
Цель разработки искусственного интеллекта — написать программу, которая может делать всё так же, как человек, или лучше. До этого ещё далеко люди пока опережают машины: они быстрообучаемы и умеют объяснять свои решения. Алгоритмы же могут опознать на фото кошку, но не могут сказать, как они определили это. У ИИ нет цельного представления о мире: яблоко у него не ассоциируется с законом тяготения. Люди умеют адаптироваться — это и сделало нас доминирующим видом на планете.
  
По мнению автора, «нашествие машин» сильно разрекламировано. Пока ИИ — не самая страшная угроза человечеству. Опрос пятидесяти нобелевских лауреатов, проведённый журналом Times Higher Education в 2017-м году, показал, что ИИ проигрывает климату, росту населения, атомной войне и Трампу.
+
По мнению автора, «нашествие машин» сильно разрекламировано. Пока ИИ не самая страшная угроза человечеству: опрос 50 нобелевских лауреатов показал, что проблема ИИ проигрывает изменению климата, росту населения, атомной войне и Трампу.
  
 
== Конец сознания ==
 
== Конец сознания ==
Строка 35: Строка 37:
 
Но нет гарантий, что ситуация не изменится. Автор предлагает три сценария, по которым машины могут обрести сознание:
 
Но нет гарантий, что ситуация не изменится. Автор предлагает три сценария, по которым машины могут обрести сознание:
  
# оно может быть запрограммировано;
+
# Оно может быть запрограммировано.
# возникнет само в результате усовершенствования компьютеров;
+
# Возникнет само в результате усовершенствования компьютеров.
# может быть ими усвоено.
+
# Может быть ими усвоено.
  
Первый путь наименее вероятен: как запрограммировать то, в чём мы и сами не разбираемся? Возможно, в 2062-м году у ИИ вообще не будет сознания. Природа напоминает нам, что ИИ может иметь совсем другой разум. Посмотрите на осьминогов — самых разумных из всех беспозвоночных.
+
Первый путь наименее вероятен: как запрограммировать то, в чём мы и сами не разбираемся? Возможно, в 2062-м у ИИ вообще не будет сознания. Природа напоминает нам, что ИИ может иметь совсем другой разум. Посмотрите на осьминогов — самых разумных из всех беспозвоночных.
  
Даже если ИИ обойдётся без сознания, останется не менее сложный вопрос свободы воли. Наконец, при попытке сделать цифровую копию нашего биологического разума мы упрёмся в технологические ограничения: мозг с его миллиардами нейронов и триллионами синапсов — самая сложная система во Вселенной.
+
Даже если ИИ обойдётся без сознания, останется не менее сложный вопрос свободы воли.
 +
 
 +
Наконец, при попытке сделать цифровую копию нашего биологического разума мы упрёмся в технологические ограничения: мозг с его миллиардами нейронов и триллионами синапсов — самая сложная система во Вселенной.
  
 
== Конец работы ==
 
== Конец работы ==
В 2062году люди будут работать гораздо меньше. Трудиться будут роботы, а мы займёмся более приятными и важными вещами — будем создавать искусство, развивать общество… Это будет Вторым Возрождением! Или нет?
+
В 2062 году люди будут работать гораздо меньше. Трудиться будут роботы, а мы займёмся более приятными и важными вещами — будем создавать искусство, развивать общество… Это будет Вторым Возрождением! Или нет?
  
Экономисты беспокоятся, что к 2062-му году большинство профессий убьёт автоматизация. Правда, такие прогнозы делались на протяжении всего XX века, так что мы можем оценить их точность и масштабы.
+
Экономисты беспокоятся, что к 2062-му большинство профессий убьёт автоматизация. Правда, такие прогнозы делались на протяжении всего XX века, так что мы можем оценить их точность и масштабы.
  
 
Расчёты экономистов-пессимистов бинарны: профессия либо исчезнет, либо нет. Но есть и золотая середина. Например, ИИ угрожает бухгалтерам. Однако можно предположить, что только часть их деятельности будет автоматизирована.
 
Расчёты экономистов-пессимистов бинарны: профессия либо исчезнет, либо нет. Но есть и золотая середина. Например, ИИ угрожает бухгалтерам. Однако можно предположить, что только часть их деятельности будет автоматизирована.
Строка 58: Строка 62:
 
Нужно оценить и элемент человечности в таких профессиях, как учитель, медсестра, сиделка. Вы хотели бы, чтобы в старости за вами присматривал робот? Это один из тех вопросов, который нам ещё предстоит обдумать.
 
Нужно оценить и элемент человечности в таких профессиях, как учитель, медсестра, сиделка. Вы хотели бы, чтобы в старости за вами присматривал робот? Это один из тех вопросов, который нам ещё предстоит обдумать.
  
Скорее всего, мы будем работать меньше. До индустриальной революции многие работали по 60 часов в неделю, после ИР эта цифра сократилась до сорока часов и добавился ежегодный отпуск. И ещё один прогноз: первыми жертвами цифровой революции станут водители.
+
Скорее всего, мы будем работать меньше. До индустриальной революции многие работали по 60 часов в неделю, после неё эта цифра сократилась до 40 часов, и добавился ежегодный отпуск.
 +
 
 +
И ещё один прогноз: первыми жертвами цифровой революции станут водители.
  
 
Раньше машины заменяли человека в физическом труде, а теперь могут взять на себя и некоторую умственную работу. Чем займёмся мы? Заново откроем в себе людей. Машины могут научиться писать музыку и романы, но творения людей мы будем ценить больше — ведь они основаны на человеческом опыте.
 
Раньше машины заменяли человека в физическом труде, а теперь могут взять на себя и некоторую умственную работу. Чем займёмся мы? Заново откроем в себе людей. Машины могут научиться писать музыку и романы, но творения людей мы будем ценить больше — ведь они основаны на человеческом опыте.
  
Возможно, мы заново откроем ремёсла, ценность ручной работы. Сегодня при приёме на работу ценятся навыки STEM, но в 2062году самыми важными качествами станут наш социальный и эмоциональный интеллект.
+
Возможно, мы заново откроем ремёсла, ценность ручной работы. Сегодня при приёме на работу ценятся навыки STEM (наука, технология, инженерия и математика), но в 2062 году самыми важными качествами станут наш социальный и [https://briefly.ru/goulman/emotcionalnyy_intellekt/ эмоциональный интеллект].
  
 
== Конец войны ==
 
== Конец войны ==
Строка 72: Строка 78:
 
Машины не разделяют наших ценностей, но копируют наши предрассудки. При переводе с английского на немецкий Google переведёт «воспитатель в детском саду» в женском роде, а «учитель» — в мужском. Тот же Google для мужчин предлагает больше рекламы высокооплачиваемых профессий, чем для женщин. Владельцам компьютеров Mac сайты предлагают более дорогие отели. Машины учатся на предвзятых данных!
 
Машины не разделяют наших ценностей, но копируют наши предрассудки. При переводе с английского на немецкий Google переведёт «воспитатель в детском саду» в женском роде, а «учитель» — в мужском. Тот же Google для мужчин предлагает больше рекламы высокооплачиваемых профессий, чем для женщин. Владельцам компьютеров Mac сайты предлагают более дорогие отели. Машины учатся на предвзятых данных!
  
В 2015году Джеки Алсине обнаружил, что сервис Google Foto отмечает самого Джеки и его девушку как горилл. Проблема не решалась простым способом, и Google просто удалил отметку «горилла». Машине неизвестно, что такое «расизм» и «оскорбление», а люди пренебрегают этим знанием. Facebook продавал рекламу, направленную на «противников евреев». Он рекламирует собственные вакансии в основном молодым людям и продаёт рекламу, дискриминирующую стариков.
+
В 2015 году Джеки Алсине обнаружил, что сервис Google Photos опознаёт самого Джеки и его девушку как горилл. Проблема не решалась простым способом, и Google просто удалил отметку «горилла». Машине неизвестно, что такое «расизм» и «оскорбление», а люди пренебрегают этим знанием. Facebook продавал рекламу, направленную на «противников евреев». Он рекламирует собственные вакансии в основном молодым людям и продаёт рекламу, дискриминирующую стариков.
  
 
Сейчас сервисы подсказывают нам книги, знакомства, товары… Проблема в том, что предвзятость не так легко устранить. Большая часть машинного обучения — это решение, какой предвзятостью наделить программу. Выход лишь в том, чтобы превратить предвзятость во что-то более приемлемое.
 
Сейчас сервисы подсказывают нам книги, знакомства, товары… Проблема в том, что предвзятость не так легко устранить. Большая часть машинного обучения — это решение, какой предвзятостью наделить программу. Выход лишь в том, чтобы превратить предвзятость во что-то более приемлемое.
  
Чтобы доверить ИИ принятие решений, нам нужно чётко сформулировать собственные ценности. В этом смысле «золотой век философии» — это не время Аристотеля и не конфуцианский век; он начинается сейчас.
+
Чтобы доверить ИИ принятие решений, нам нужно чётко сформулировать собственные ценности. В этом смысле «золотой век философии» — это не время Аристотеля и не конфуцианский век, он начинается сейчас.
  
 
== Конец равенства ==
 
== Конец равенства ==
Мы живём в счастливое время. Впервые число людей, живущих в крайней нищете, упало ниже 10 %. Свыше 90 % населения планеты до 25-ти лет умеют читать. Однако разрыв между низшими слоями и богатыми сильно увеличился, а средний класс не участвует в обогащении. К 2062-му году неравенство в обществе серьёзно вырастет.
+
Мы живём в счастливое время. Впервые число людей, живущих в крайней нищете, упало ниже 10 %. Свыше 90 % населения планеты до 25 лет умеют читать. Однако разрыв между низшими слоями и богатыми сильно увеличился, а средний класс не участвует в обогащении. К 2062 году неравенство в обществе серьёзно вырастет.
  
Благосостояние сосредоточено не только в руках богачей, но и на счетах крупных корпораций. Автор перебирает меры, которые изменят ситуацию к лучшему: власть над СЕО, налоговые реформы, универсальный базовый доход… Эти меры кажутся радикальными, но на самом деле это лишь продолжение того, что мы делаем сейчас (бесплатные образование и медицина и пр.). Борьба с неравенством не будет лёгкой. Она потребует более удачного распределения пользы, которую ИИ принесёт крупным технологическим корпорациям.
+
Благосостояние сосредоточено не только в руках богачей, но и на счетах крупных корпораций. Автор перебирает меры, которые изменят ситуацию к лучшему: власть над директорами фирм, налоговые реформы, универсальный базовый доход… Эти меры кажутся радикальными, но на самом деле это лишь продолжение того, что мы делаем сейчас (бесплатные образование и медицина и пр.).
 +
 
 +
Борьба с неравенством не будет лёгкой. Она потребует более удачного распределения пользы, которую ИИ принесёт крупным технологическим корпорациям.
  
 
== Конец частной жизни ==
 
== Конец частной жизни ==
В 2013один из создателей Google Винт Серф сказал: «частная жизнь, возможно, аномальна», она лишь порождение индустриальной революции. Это верно: в Средние века жизнь, например, была куда менее частной. И всё же сегодня мы чувствуем, что близки к реальности «1984».
+
В 2013 году один из создателей Google Винт Серф сказал: «частная жизнь, возможно, аномальна», она лишь порождение индустриальной революции. Это верно: в Средние века жизнь, например, была куда менее частной. И всё же сегодня мы чувствуем, что близки к реальности «[https://briefly.ru/oruell/1984/ 1984]».
  
 
На наших данных зарабатывают. Говорят, что данные — это новая нефть, только нефть — дорогой и ограниченный ресурс, данные же ни дороги, ни дефицитны. А главное — нефть принадлежит государствам, а большая часть данных — частная собственность. И это ставит под угрозу нашу приватность. Однако Google и Facebook продолжают на них богатеть.
 
На наших данных зарабатывают. Говорят, что данные — это новая нефть, только нефть — дорогой и ограниченный ресурс, данные же ни дороги, ни дефицитны. А главное — нефть принадлежит государствам, а большая часть данных — частная собственность. И это ставит под угрозу нашу приватность. Однако Google и Facebook продолжают на них богатеть.
  
В Кремниевой долине знают, кто вы, как вы проголосуете, какова ваша сексуальная ориентация. Дело не только в самих данных, но и в их связанности. Адрес отправителя и размер письма мало что сообщат злоумышленнику, он не видит содержания письма. Но при сочетании их с другими данным можно многое узнать о том, с кем вы общаетесь.
+
В Кремниевой долине знают, кто вы, как проголосуете, какова ваша сексуальная ориентация. Дело не только в самих данных, но и в их связанности. Адрес отправителя и размер письма мало что сообщат злоумышленнику, он не видит содержания письма. Но при сочетании их с другими данным можно многое узнать о том, с кем вы общаетесь.
 +
 
 +
Даже когда мы офлайн, за нами всё равно следят. В 2013 году обнаружилось, что «умные мусорные баки» в Лондоне отслеживали мобильники, а к 2062 году за нами будет следить весь город. Наблюдение не закончится даже у вас дома: Цукерберг и Сноуден недаром заклеивают камеру на ноутбуке. Вскоре мы уступим и нашу аналоговую приватность — вплоть до сердцебиения, которое считывает фитнес-браслет.
  
Даже когда мы офлайн, за нами всё равно следят. В 2013-м году обнаружилось, что «умные мусорные баки» в Лондоне отслеживали мобильники, а к 2062-му году за нами будет следить весь город. Наблюдение не закончится даже у вас дома: Цукерберг и Сноуден недаром заклеивают камеру на ноутбуке. Вскоре мы уступим и нашу аналоговую приватность — вплоть до сердцебиения, которое считывает фитнес-браслет.
+
Наши цифровые оболочки помогают нам врать. Но в аналоговом мире врать сложнее — мы не можем контролировать сердцебиение. Представьте, что могла бы сделать политическая партия, если б у неё был доступ к данным о нашем сердцебиении. А мы отдаём подобную инфу частным компаниям.
  
Наши цифровые оболочки помогают нам врать. Но в аналоговом мире врать сложнее — мы не можем контролировать сердцебиение. Представьте, что могла бы сделать политическая партия, если б у неё был доступ к данным о нашем сердцебиении? А мы отдаём подобную инфу частным компаниям.
+
Самая тревожная угроза нашей частной жизни — социальный рейтинг, который сейчас разрабатывается в Китае. Европа тоже в курсе, но она даёт надежду на частную жизнь в будущем. В мае 2018 года вступил в силу Общий регламент по защите данных (GDPR). Главная его цель — дать европейцам самим решать судьбу личных данных.
Самая тревожная угроза нашей частной жизни — социальный рейтинг, который сейчас разрабатывается в Китае. Европа тоже в курсе, но она даёт надежду на частную жизнь в будущем. В мае 2018-го года вступил в силу Общий регламент по защите данных (GDPR). Главная его цель — дать европейцам самим решать судьбу личных данных.
 
  
 
ИИ может защитить нашу конфиденциальность. К 2062-му у смартфонов хватит мощности для автономной поддержки всех процессов: чтобы распознать голос владельца, смартфону не нужно будет обращаться в Google. Если мы сделаем верный выбор, частная жизнь будет правом, обеспеченным технологиями.
 
ИИ может защитить нашу конфиденциальность. К 2062-му у смартфонов хватит мощности для автономной поддержки всех процессов: чтобы распознать голос владельца, смартфону не нужно будет обращаться в Google. Если мы сделаем верный выбор, частная жизнь будет правом, обеспеченным технологиями.
  
 
== Конец политики ==
 
== Конец политики ==
Примеров того, как технологии меняют ход политической борьбы, уже довольно много: вспомните Египет или Трампа. При этом наибольшее влияние в соцсетях имеют не люди, а машины. У Трампа из 48-ми млн. подписчиков в Твиттере 14 млн. — фальшивые страницы. Папа римский имеет ещё худшие показатели: из 17-ти млн. его подписчиков 10 млн. — фейки.
+
Примеров того, как технологии меняют ход политической борьбы, уже довольно много: вспомните Египет или Трампа. При этом наибольшее влияние в соцсетях имеют не люди, а машины. У Трампа из 48 млн подписчиков в Твиттере 14 млн — фальшивые страницы. Папа римский имеет ещё худшие показатели: из 17 млн его подписчиков 10 млн — фейки.
  
К 2062-му году человеческие голоса затеряются среди компьютерных. Когда ИИ станет разумнее, нам всё сложнее будет отличить его от человека. Уже создан бот, который успешно пишет такие же твиты, как Трамп.
+
К 2062 году человеческие голоса затеряются среди компьютерных. Когда ИИ станет разумнее, нам всё сложнее будет отличить его от человека. Уже создан бот, который успешно пишет такие же твиты, как Трамп.
  
Мы уже знаем, что фотографиям и видео доверять нельзя. К 2062-му нельзя будет доверять ничему, что мы видим или слышим, если мы при этом не присутствуем, мы не сможем отличить настоящего политика от фальшивого. Хотим ли мы оказаться в мире, где побеждают не более удачные политические идеи, а лучшие алгоритмы?
+
Мы уже знаем, что фотографиям и видео доверять нельзя. К 2062 году нельзя будет доверять ничему, что мы видим или слышим, если мы при этом не присутствуем, мы не сможем отличить настоящего политика от фальшивого. Хотим ли мы оказаться в мире, где побеждают не более удачные политические идеи, а лучшие алгоритмы?
  
 
== Конец Запада ==
 
== Конец Запада ==
Сегодня Google отвечает на 8 из 10-ти поисковых запросов по всему миру. Но поисковик Baidu — на четвёртом месте в списке самых посещаемых сайтов мира. Amazon оценивается в 750 млрд. долларов, а Alibaba — в 500 млрд., и она развивается быстрее.
+
Сегодня Google отвечает на 8 из 10 поисковых запросов по всему миру. Но китайский поисковик Baidu — на четвёртом месте в списке самых посещаемых сайтов мира. Американский Amazon оценивается в 750 млрд долларов, а китайская Alibaba — в 500 млрд, и она развивается быстрее.
  
Китай наступает на пятки. Китайское правительство планирует стать мировым лидером в области ИИ к 2030-му году. Кажется, нет причин сомневаться в успехе. Китай долго отставал в этой сфере, но быстро адаптируется к новым технологиям: он уже лидирует по количеству мобильных платежей. Китай имеет и серьёзные преимущества в гонке за ИИ: не заморачивается на приватности своих граждан.
+
Китай наступает на пятки. Китайское правительство планирует стать мировым лидером в области ИИ к 2030 году. Кажется, нет причин сомневаться в успехе. Китай долго отставал в этой сфере, но быстро адаптируется к новым технологиям: он уже лидирует по количеству мобильных платежей. Китай имеет и серьёзные преимущества в гонке за ИИ: не заморачивается на приватности своих граждан.
  
 
== Конец ==
 
== Конец ==

Текущая версия на 15:18, 25 августа 2019

Этот пересказ опубликован на Брифли.


2062: время машин
2062: The World that AI Made
Краткое содержание книги. 2018.
Микропересказ: Специалист по искусственному интеллекту представляет будущее, в котором машины станут интеллектуально равны людям, и пытается ответить на вопрос, не вытеснят ли они человека.

Homo digitalis[править]

Человек построил Великую Китайскую стену и египетские пирамиды, покорил огонь и вышел в космос… Но, несмотря на все достижения, мы будем заменены. Почти все следы Homo sapiens исчезнут, как исчезли следы неандертальцев, которые не смогли нам противостоять. Нас заменит искусственный интеллект (ИИ), который достигнет нашего уровня к 2062 году.

Homo sapiens вытеснил неандертальцев благодаря способности говорить. До появления разговорной речи наша способность обучаться была сильно ограничена, но язык всё изменил. Предки научились передавать друг другу информацию, необходимую для выживания. Язык подарил нам истории, мифы, религии и добавил sapiens (разумный) в название нашего вида. Наша сила стала коллективной.

Второй рывок произошёл, когда появилась письменность. Она возникла на территории Китая около 5 000 лет до н. э. и в Месопотамии около 3 100 лет до н. э. Она позволила усложнить структуру обществ, систематизировать законы, управляющие жизнью, ввести системы образования.

Третий шаг — это печать. Гутенберг изобрёл печатный станок примерно в 1440 году. В следующем году в Европе было напечатано чуть меньше 100 000 книг. Сегодня индустрия книгопечатания выпускает миллионы книг каждый год.

Четвёртый шаг, который человечество делает прямо сейчас, заключается в том, что автор называет колёрнингом. Колёрнинг — это индивидуальное обучение внутри группы, при этом знания каждого члена группы одинаковы. Идеальным средством для такого типа обучения стал компьютерный код, а обучаются по этому методу компьютеры. Компьютеры превосходят людей в обучаемости. Люди ограничены в средствах и способах передачи знаний, компьютеры же обмениваются друг с другом кодами без ограничений. Если один компьютер научится диагностировать рак кожи, эту способность подхватят все остальные машины. Это — колёрнинг.

Пока компьютеры не во всём нас превосходят. Наш мозг всё ещё сложнее, чем самый мощный суперкомпьютер. Мы креативны. Но, возможно, этими преимуществами мы будем обладать недолго.

Наш конец[править]

Машины обыграли человека в шахматы и го, но они превзошли нас не только в играх. Они лучше анализируют интернет, чтобы предсказать курс акций, а в медицине компьютеры читают кардиограммы лучше врачей. Однако это способность решать одну конкретную задачу.

Цель разработки искусственного интеллекта — написать программу, которая может делать всё так же, как человек, или лучше. До этого ещё далеко — люди пока опережают машины: они быстрообучаемы и умеют объяснять свои решения. Алгоритмы же могут опознать на фото кошку, но не могут сказать, как они определили это. У ИИ нет цельного представления о мире: яблоко у него не ассоциируется с законом тяготения. Люди умеют адаптироваться — это и сделало нас доминирующим видом на планете.

По мнению автора, «нашествие машин» сильно разрекламировано. Пока ИИ не самая страшная угроза человечеству: опрос 50 нобелевских лауреатов показал, что проблема ИИ проигрывает изменению климата, росту населения, атомной войне и Трампу.

Конец сознания[править]

У нас нет инструментов, чтобы измерить сознание. Насколько известно, ни одна часть мозга не отвечает за него. Ограниченным уровнем сознания обладают и животные, но не AlphaGo. Она не подумает: «С го всё получилось, заработаю-ка я немного денег на онлайн-покере». AlphaGo даже не знает, что играет в го.

Но нет гарантий, что ситуация не изменится. Автор предлагает три сценария, по которым машины могут обрести сознание:

  1. Оно может быть запрограммировано.
  2. Возникнет само в результате усовершенствования компьютеров.
  3. Может быть ими усвоено.

Первый путь наименее вероятен: как запрограммировать то, в чём мы и сами не разбираемся? Возможно, в 2062-м у ИИ вообще не будет сознания. Природа напоминает нам, что ИИ может иметь совсем другой разум. Посмотрите на осьминогов — самых разумных из всех беспозвоночных.

Даже если ИИ обойдётся без сознания, останется не менее сложный вопрос свободы воли.

Наконец, при попытке сделать цифровую копию нашего биологического разума мы упрёмся в технологические ограничения: мозг с его миллиардами нейронов и триллионами синапсов — самая сложная система во Вселенной.

Конец работы[править]

В 2062 году люди будут работать гораздо меньше. Трудиться будут роботы, а мы займёмся более приятными и важными вещами — будем создавать искусство, развивать общество… Это будет Вторым Возрождением! Или нет?

Экономисты беспокоятся, что к 2062-му большинство профессий убьёт автоматизация. Правда, такие прогнозы делались на протяжении всего XX века, так что мы можем оценить их точность и масштабы.

Расчёты экономистов-пессимистов бинарны: профессия либо исчезнет, либо нет. Но есть и золотая середина. Например, ИИ угрожает бухгалтерам. Однако можно предположить, что только часть их деятельности будет автоматизирована.

В таких прогнозах учитывается техническая вероятность автоматизации, но не рентабельность. С технической точки зрения работу мастера по починке велосипедов можно автоматизировать. С экономической точки зрения в этом нет смысла: это не самая высокооплачиваемая работа, а робот стоит недёшево.

История показывает, что благодаря технологиям больше рабочих мест было создано, чем уничтожено. До индустриальной революции много людей работало в сельском хозяйстве, но потом множество профессий появилось в офисах и на заводах.

Кроме того, необходимо различать «закрытые» и «открытые» работы. В закрытых (например, мойщики окон или водители) набор обязанностей строго ограничен и они будут автоматизированы. Открытые работы лишь расширятся. Например, химик — это открытая работа. Автоматизация только расширит горизонты науки.

Нужно оценить и элемент человечности в таких профессиях, как учитель, медсестра, сиделка. Вы хотели бы, чтобы в старости за вами присматривал робот? Это один из тех вопросов, который нам ещё предстоит обдумать.

Скорее всего, мы будем работать меньше. До индустриальной революции многие работали по 60 часов в неделю, после неё эта цифра сократилась до 40 часов, и добавился ежегодный отпуск.

И ещё один прогноз: первыми жертвами цифровой революции станут водители.

Раньше машины заменяли человека в физическом труде, а теперь могут взять на себя и некоторую умственную работу. Чем займёмся мы? Заново откроем в себе людей. Машины могут научиться писать музыку и романы, но творения людей мы будем ценить больше — ведь они основаны на человеческом опыте.

Возможно, мы заново откроем ремёсла, ценность ручной работы. Сегодня при приёме на работу ценятся навыки STEM (наука, технология, инженерия и математика), но в 2062 году самыми важными качествами станут наш социальный и эмоциональный интеллект.

Конец войны[править]

Одной из первых исчезнет профессия солдата. Автономные системы вооружения (АСВ) станут третьей военной революцией — после пороха и атомной бомбы. И АСВ опаснее их обеих. Небольшой дрон и пара граммов взрывчатки не требуют большой научной работы, как в случае с ядерным оружием.

АСВ станут орудием террора. Как любые роботы, они могут ошибаться, и цена таких ошибок невероятно высока. Автор убеждён: мы можем контролировать этот процесс с помощью деклараций ООН и прочих решений на высоком уровне, хотя пока дело идёт туго.

Конец наших ценностей[править]

Машины не разделяют наших ценностей, но копируют наши предрассудки. При переводе с английского на немецкий Google переведёт «воспитатель в детском саду» в женском роде, а «учитель» — в мужском. Тот же Google для мужчин предлагает больше рекламы высокооплачиваемых профессий, чем для женщин. Владельцам компьютеров Mac сайты предлагают более дорогие отели. Машины учатся на предвзятых данных!

В 2015 году Джеки Алсине обнаружил, что сервис Google Photos опознаёт самого Джеки и его девушку как горилл. Проблема не решалась простым способом, и Google просто удалил отметку «горилла». Машине неизвестно, что такое «расизм» и «оскорбление», а люди пренебрегают этим знанием. Facebook продавал рекламу, направленную на «противников евреев». Он рекламирует собственные вакансии в основном молодым людям и продаёт рекламу, дискриминирующую стариков.

Сейчас сервисы подсказывают нам книги, знакомства, товары… Проблема в том, что предвзятость не так легко устранить. Большая часть машинного обучения — это решение, какой предвзятостью наделить программу. Выход лишь в том, чтобы превратить предвзятость во что-то более приемлемое.

Чтобы доверить ИИ принятие решений, нам нужно чётко сформулировать собственные ценности. В этом смысле «золотой век философии» — это не время Аристотеля и не конфуцианский век, он начинается сейчас.

Конец равенства[править]

Мы живём в счастливое время. Впервые число людей, живущих в крайней нищете, упало ниже 10 %. Свыше 90 % населения планеты до 25 лет умеют читать. Однако разрыв между низшими слоями и богатыми сильно увеличился, а средний класс не участвует в обогащении. К 2062 году неравенство в обществе серьёзно вырастет.

Благосостояние сосредоточено не только в руках богачей, но и на счетах крупных корпораций. Автор перебирает меры, которые изменят ситуацию к лучшему: власть над директорами фирм, налоговые реформы, универсальный базовый доход… Эти меры кажутся радикальными, но на самом деле это лишь продолжение того, что мы делаем сейчас (бесплатные образование и медицина и пр.).

Борьба с неравенством не будет лёгкой. Она потребует более удачного распределения пользы, которую ИИ принесёт крупным технологическим корпорациям.

Конец частной жизни[править]

В 2013 году один из создателей Google Винт Серф сказал: «частная жизнь, возможно, аномальна», она лишь порождение индустриальной революции. Это верно: в Средние века жизнь, например, была куда менее частной. И всё же сегодня мы чувствуем, что близки к реальности «1984».

На наших данных зарабатывают. Говорят, что данные — это новая нефть, только нефть — дорогой и ограниченный ресурс, данные же ни дороги, ни дефицитны. А главное — нефть принадлежит государствам, а большая часть данных — частная собственность. И это ставит под угрозу нашу приватность. Однако Google и Facebook продолжают на них богатеть.

В Кремниевой долине знают, кто вы, как проголосуете, какова ваша сексуальная ориентация. Дело не только в самих данных, но и в их связанности. Адрес отправителя и размер письма мало что сообщат злоумышленнику, он не видит содержания письма. Но при сочетании их с другими данным можно многое узнать о том, с кем вы общаетесь.

Даже когда мы офлайн, за нами всё равно следят. В 2013 году обнаружилось, что «умные мусорные баки» в Лондоне отслеживали мобильники, а к 2062 году за нами будет следить весь город. Наблюдение не закончится даже у вас дома: Цукерберг и Сноуден недаром заклеивают камеру на ноутбуке. Вскоре мы уступим и нашу аналоговую приватность — вплоть до сердцебиения, которое считывает фитнес-браслет.

Наши цифровые оболочки помогают нам врать. Но в аналоговом мире врать сложнее — мы не можем контролировать сердцебиение. Представьте, что могла бы сделать политическая партия, если б у неё был доступ к данным о нашем сердцебиении. А мы отдаём подобную инфу частным компаниям.

Самая тревожная угроза нашей частной жизни — социальный рейтинг, который сейчас разрабатывается в Китае. Европа тоже в курсе, но она даёт надежду на частную жизнь в будущем. В мае 2018 года вступил в силу Общий регламент по защите данных (GDPR). Главная его цель — дать европейцам самим решать судьбу личных данных.

ИИ может защитить нашу конфиденциальность. К 2062-му у смартфонов хватит мощности для автономной поддержки всех процессов: чтобы распознать голос владельца, смартфону не нужно будет обращаться в Google. Если мы сделаем верный выбор, частная жизнь будет правом, обеспеченным технологиями.

Конец политики[править]

Примеров того, как технологии меняют ход политической борьбы, уже довольно много: вспомните Египет или Трампа. При этом наибольшее влияние в соцсетях имеют не люди, а машины. У Трампа из 48 млн подписчиков в Твиттере 14 млн — фальшивые страницы. Папа римский имеет ещё худшие показатели: из 17 млн его подписчиков 10 млн — фейки.

К 2062 году человеческие голоса затеряются среди компьютерных. Когда ИИ станет разумнее, нам всё сложнее будет отличить его от человека. Уже создан бот, который успешно пишет такие же твиты, как Трамп.

Мы уже знаем, что фотографиям и видео доверять нельзя. К 2062 году нельзя будет доверять ничему, что мы видим или слышим, если мы при этом не присутствуем, мы не сможем отличить настоящего политика от фальшивого. Хотим ли мы оказаться в мире, где побеждают не более удачные политические идеи, а лучшие алгоритмы?

Конец Запада[править]

Сегодня Google отвечает на 8 из 10 поисковых запросов по всему миру. Но китайский поисковик Baidu — на четвёртом месте в списке самых посещаемых сайтов мира. Американский Amazon оценивается в 750 млрд долларов, а китайская Alibaba — в 500 млрд, и она развивается быстрее.

Китай наступает на пятки. Китайское правительство планирует стать мировым лидером в области ИИ к 2030 году. Кажется, нет причин сомневаться в успехе. Китай долго отставал в этой сфере, но быстро адаптируется к новым технологиям: он уже лидирует по количеству мобильных платежей. Китай имеет и серьёзные преимущества в гонке за ИИ: не заморачивается на приватности своих граждан.

Конец[править]

Мы приближаемся к критической точке человеческой истории. Нам и так хватает проблем, а тут ещё ИИ. Но автор уверен: к будущему не надо приспосабливаться, оно — результат решений в настоящем, поэтому мы можем его выбирать.

Мы можем рассмотреть законы, ограничивающие владение данными, обязать платформы нести ответственность за контент. Нам нужно разделить большие корпорации, чтобы вернуть конкуренцию на цифровой рынок, и ввести новые налоги, чтобы корпорации отдавали свой долг обществу. Нам придётся принять законы, которые запретят политическую агитацию в соцсетях. Ключевые слова: мы можем и должны.

Мы живём гораздо лучше, чем сто лет назад, благодаря науке. Но не только она изменила нашу жизнь в ХХ веке. Мы изменили общество, чтобы справиться с проблемами, созданными прогрессом. Мы придумали профсоюзы, трудовое законодательство и всеобщее образование, чтобы все могли извлечь пользу из прогресса. Мы должны помнить об этом в начале нового технологического витка.

Пересказал Сергей Оробий