2062: время машин (Уолш) — различия между версиями

Материал из Народный Брифли
Перейти к:навигация, поиск
(Наш конец)
(Конец сознания)
Строка 39: Строка 39:
 
# может быть ими усвоено.
 
# может быть ими усвоено.
  
Первый путь наименее вероятен: как запрограммировать то, в чём мы и сами не разбираемся? Возможно, в 2062 году у ИИ вообще не будет сознания. Природа напоминает нам, что ИИ может иметь совсем другой разум. Посмотрите на осьминогов — самых разумных из всех беспозвоночных.
+
Первый путь наименее вероятен: как запрограммировать то, в чём мы и сами не разбираемся? Возможно, в 2062году у ИИ вообще не будет сознания. Природа напоминает нам, что ИИ может иметь совсем другой разум. Посмотрите на осьминогов — самых разумных из всех беспозвоночных.
  
 
Даже если ИИ обойдётся без сознания, останется не менее сложный вопрос свободы воли. Наконец, при попытке сделать цифровую копию нашего биологического разума мы упрёмся в технологические ограничения: мозг с его миллиардами нейронов и триллионами синапсов — самая сложная система во Вселенной.
 
Даже если ИИ обойдётся без сознания, останется не менее сложный вопрос свободы воли. Наконец, при попытке сделать цифровую копию нашего биологического разума мы упрёмся в технологические ограничения: мозг с его миллиардами нейронов и триллионами синапсов — самая сложная система во Вселенной.

Версия 12:47, 21 августа 2019

2062: время машин
2062: The World that AI Made
Краткое содержание книги. 2018.
Микропересказ: Специалист по искусственному интеллекту пытается представить будущее, в котором машины станут интеллектуально равны людям, и ответить на вопрос, не вытеснят ли они человека.

Homo digitalis

Человек построил Великую Китайскую стену и египетские пирамиды, покорил огонь и вышел в космос… Но, несмотря на все достижения, мы будем заменены. Почти все следы Homo sapiens исчезнут, как исчезли следы неандертальцев, которые не смогли нам противостоять. Нас заменит искусственный интеллект (ИИ), который достигнет нашего уровня к 2062-му году.

Homo sapiens вытеснил неандертальцев благодаря способности говорить. До появления разговорной речи наша способность обучаться была сильно ограничена, но язык всё изменил. Предки научились передавать друг другу информацию, необходимую для выживания. Язык подарил нам истории, мифы, религии и добавил sapiens (разумный) в название нашего вида. Наша сила стала коллективной.

Второй рывок произошёл, когда появилась письменность. Она возникла на территории Китая около 5 000 лет до н. э. и в Месопотамии около 3 100 лет до н. э. Она позволила усложнить структуру обществ, систематизировать законы, управляющие жизнью, ввести системы образования.

Третий шаг — это печать. Гутенберг изобрёл печатный станок примерно в 1440-м году. В следующем году в Европе было напечатано чуть меньше 100 000 книг. Сегодня индустрия книгопечатания выпускает миллионы книг каждый год.

Четвёртый шаг, который человечество делает прямо сейчас, заключается в том, что автор называет колёрнингом. Колёрнинг — это индивидуальное обучение внутри группы, при этом знания каждого члена группы одинаковы. Идеальным средством для такого типа обучения стал компьютерный код, а обучаются по этому методу компьютеры. Компьютеры превосходят людей в обучаемости. Люди ограничены в средствах и способах передачи знаний, компьютеры же обмениваются друг с другом кодами без ограничений. Если один компьютер научится диагностировать рак кожи, эту способность подхватят все остальные машины. Это — колёрнинг.

Пока компьютеры не во всём нас превосходят. Наш мозг всё ещё сложнее, чем самый мощный суперкомпьютер. Мы креативны. Но, возможно, этими преимуществами мы будем обладать недолго.

Наш конец

Машины обыграли человека в шахматы и го, но они превзошли нас не только в играх. В медицине компьютеры читают кардиограммы лучше врачей, лучше анализируют интернет, чтобы предсказать курс акций, однако это способность решать одну конкретную задачу.

Цель разработки искусственного интеллекта — написать программу, которая может делать всё так же, как человек (или лучше). До этого ещё далеко: люди ещё опережают машины. Они быстрообучаемы, умеют объяснять свои решения (алгоритмы могут опознать на фото кошку, но не могут сказать, как они определили это). У ИИ нет цельного представления о мире: яблоко у него не ассоциируется с законом тяготения. Люди умеют адаптироваться — это и сделало нас доминирующим видом на планете.

По мнению автора, «нашествие машин» сильно разрекламировано. Пока ИИ — не самая страшная угроза человечеству. Опрос пятидесяти нобелевских лауреатов, проведённый журналом Times Higher Education в 2017-м году, показал, что ИИ проигрывает климату, росту населения, атомной войне и Трампу.

Конец сознания

У нас нет инструментов, чтобы измерить сознание. Насколько известно, ни одна часть мозга не отвечает за него. Ограниченным уровнем сознания обладают и животные, но не AlphaGo. Она не подумает: «С го всё получилось, заработаю-ка я немного денег на онлайн-покере». AlphaGo даже не знает, что играет в го.

Но нет гарантий, что ситуация не изменится. Автор предлагает три сценария, по которым машины могут обрести сознание:

  1. оно может быть запрограммировано;
  2. возникнет само в результате усовершенствования компьютеров;
  3. может быть ими усвоено.

Первый путь наименее вероятен: как запрограммировать то, в чём мы и сами не разбираемся? Возможно, в 2062-м году у ИИ вообще не будет сознания. Природа напоминает нам, что ИИ может иметь совсем другой разум. Посмотрите на осьминогов — самых разумных из всех беспозвоночных.

Даже если ИИ обойдётся без сознания, останется не менее сложный вопрос свободы воли. Наконец, при попытке сделать цифровую копию нашего биологического разума мы упрёмся в технологические ограничения: мозг с его миллиардами нейронов и триллионами синапсов — самая сложная система во Вселенной.

Конец работы

В 2062 году люди будут работать гораздо меньше. Трудиться будут роботы, а мы займёмся более приятными и важными вещами — будем создавать искусство, развивать общество… Это будет Вторым Возрождением! Или нет?

Экономисты беспокоятся, что к 2062 году большинство профессий убьёт автоматизация. Правда, такие прогнозы делались на протяжении всего XX века, так что мы можем оценить их точность и масштабы.

Расчёты экономистов-пессимистов бинарны: профессия либо исчезнет, либо нет. Но есть и золотая середина. Например, ИИ угрожает бухгалтерам. Однако можно предположить, что только часть их деятельности будет автоматизирована.

В таких прогнозах учитывается техническая вероятность автоматизации, но не рентабельность. С технической точки зрения работу мастера по починке велосипедов можно автоматизировать. С экономической точки зрения в этом нет смысла: это не самая высокооплачиваемая работа, а робот стоит недёшево.

История показывает, что благодаря технологиям больше рабочих мест было создано, чем уничтожено. До индустриальной революции много людей работало в сельском хозяйстве, но потом множество профессий появилось в офисах и на заводах.

Кроме того, необходимо различать «закрытые» и «открытые» работы. В закрытых (например, мойщики окон или водители) набор обязанностей строго ограничен и они будут автоматизированы. Открытые работы лишь расширятся. Например, химик — это открытая работа. Автоматизация только расширит горизонты науки.

Нужно оценить и элемент человечности в таких профессиях, как учитель, медсестра, сиделка. Вы хотели бы, чтобы в старости за вами присматривал робот? Это один из тех вопросов, который нам ещё предстоит обдумать.

Скорее всего, мы будем работать меньше. До индустриальной революции многие работали по 60 часов в неделю, после ИР эта цифра сократилась до 40-ка часов и добавился ежегодный отпуск. И ещё один прогноз: первыми жертвами цифровой революции станут водители.

Раньше машины заменяли человека в физическом труде, а теперь могут взять на себя и некоторую умственную работу. Чем займёмся мы? Заново откроем в себе людей. Машины могут научиться писать музыку и романы, но творения людей мы будем ценить больше — ведь они основаны на человеческом опыте.

Возможно, мы заново откроем ремёсла, ценность ручной работы. Сегодня при приёме на работу ценятся навыки STEM, но в 2062 году самыми важными качествами станут наш социальный и эмоциональный интеллект.

Конец войны

Одной из первых исчезнет профессия солдата. Автономные системы вооружения (АСВ) станут третьей военной революцией — после пороха и атомной бомбы. И АСВ опаснее их обеих. Небольшой дрон и пара граммов взрывчатки не требуют большой научной работы, как в случае с ядерным оружием.

АСВ станут орудием террора. Как любые роботы, они могут ошибаться, и цена таких ошибок невероятно высока. Автор убеждён: мы можем контролировать этот процесс с помощью деклараций ООН и прочих решений на высоком уровне, хотя пока дело идёт туго.

Конец наших ценностей

Машины не разделяют наших ценностей, но копируют наши предрассудки. При переводе с английского на немецкий Google переведёт «воспитатель в детском саду» в женском роде, а «учитель» — в мужском. Тот же Google для мужчин предлагает больше рекламы высокооплачиваемых профессий, чем для женщин. Владельцам компьютеров Mac сайты предлагают более дорогие отели. Машины учатся на предвзятых данных!

В 2015 году Джеки Алсине обнаружил, что сервис Google Foto отмечает самого Джеки и его девушку как горилл. Проблема не решалась простым способом, и Google просто удалил отметку «горилла». Машине неизвестно, что такое «расизм» и «оскорбление», а люди пренебрегают этим знанием. Facebook продавал рекламу, направленную на «противников евреев». Он рекламирует собственные вакансии в основном молодым людям и продаёт рекламу, дискриминирующую стариков.

Сейчас сервисы подсказывают нам книги, знакомства, товары… Проблема в том, что предвзятость не так легко устранить. Большая часть машинного обучения — это решение, какой предвзятостью наделить программу. Выход лишь в том, чтобы превратить предвзятость во что-то более приемлемое.

Чтобы доверить ИИ принятие решений, нам нужно чётко сформулировать собственные ценности. В этом смысле «золотой век философии» — это не время Аристотеля и не конфуцианский век; он начинается сейчас.

Конец равенства

Мы живём в счастливое время. Впервые число людей, живущих в крайней нищете, упало ниже 10 %. Свыше 90 % населения планеты до 25-ти лет умеют читать. Однако разрыв между низшими слоями и богатыми сильно увеличился, а средний класс не участвует в обогащении. К 2062 году неравенство в обществе серьёзно вырастет.

Благосостояние сосредоточено не только в руках богачей, но и на счетах крупных корпораций. Автор перебирает меры, которые изменят ситуацию к лучшему: власть над СЕО, налоговые реформы, универсальный базовый доход… Эти меры кажутся радикальными, но на самом деле это лишь продолжение того, что мы делаем сейчас (бесплатные образование и медицина и пр.). Борьба с неравенством не будет лёгкой. Она потребует более удачного распределения пользы, которую ИИ принесёт крупным технологическим корпорациям.

Конец частной жизни

В 2013 один из создателей Google Винт Серф сказал: «частная жизнь, возможно, аномальна», она лишь порождение индустриальной революции. Это верно: в Средние века жизнь, например, была куда менее частной. И всё же сегодня мы чувствуем, что близки к реальности «1984».

На наших данных зарабатывают. Говорят, что данные — это новая нефть, только нефть — дорогой и ограниченный ресурс, данные же ни дороги, ни дефицитны. А главное — нефть принадлежит государствам, а большая часть данных — частная собственность. И это ставит под угрозу нашу приватность. Однако Google и Facebook продолжают на них богатеть.

В Кремниевой долине знают, кто вы, как вы проголосуете, какова ваша сексуальная ориентация. Дело не только в самих данных, но и в их связанности. Адрес отправителя и размер письма мало что сообщат злоумышленнику, он не видит содержания письма. Но при сочетании их с другими данным можно многое узнать о том, с кем вы общаетесь.

Даже когда мы офлайн, за нами всё равно следят. В 2013 году обнаружилось, что «умные мусорные баки» в Лондоне отслеживали мобильники, а к 2062 году за нами будет следить весь город. Наблюдение не закончится даже у вас дома: Цукерберг и Сноуден недаром заклеивают камеру на ноутбуке. Вскоре мы уступим и нашу аналоговую приватность — вплоть до сердцебиения, которое считывает фитнес-браслет.

Наши цифровые оболочки помогают нам врать. Но в аналоговом мире врать сложнее — мы не можем контролировать сердцебиение. Представьте, что могла бы сделать политическая партия, если б у неё был доступ к данным о нашем сердцебиении? А мы отдаём подобную инфу частным компаниям. Самая тревожная угроза нашей частной жизни — социальный рейтинг, который сейчас разрабатывается в Китае. Европа тоже в курсе, но она даёт надежду на частную жизнь в будущем. В мае 2018 года вступил в силу Общий регламент по защите данных (GDPR). Главная его цель — дать европейцам самим решать судьбу личных данных.

ИИ может защитить нашу конфиденциальность. К 2062-му у смартфонов хватит мощности для автономной поддержки всех процессов: чтобы распознать голос владельца, смартфону не нужно будет обращаться в Google. Если мы сделаем верный выбор, частная жизнь будет правом, обеспеченным технологиями.

Конец политики

Примеров того, как технологии меняют ход политической борьбы, уже довольно много: вспомните Египет или Трампа. При этом наибольшее влияние в соцсетях имеют не люди, а машины. У Трампа из 48 млн подписчиков в Твиттере 14 млн — фальшивые страницы. Папа римский имеет ещё худшие показатели: из 17 млн его подписчиков 10 млн — фейки.

К 2062 году человеческие голоса затеряются среди компьютерных. Когда ИИ станет разумнее, нам всё сложнее будет отличить его от человека. Уже создан бот, который успешно пишет такие же твиты, как Трамп.

Мы уже знаем, что фотографиям и видео доверять нельзя. К 2062-му нельзя будет доверять ничему, что мы видим или слышим, если мы при этом не присутствуем, мы не сможем отличить настоящего политика от фальшивого. Хотим ли мы оказаться в мире, где побеждают не более удачные политические идеи, а лучшие алгоритмы?

Конец Запада

Сегодня Google отвечает на 8 из 10 поисковых запросов по всему миру. Но поисковик Baidu — на четвёртом месте в списке самых посещаемых сайтов мира. Amazon оценивается в 750 млрд долларов, а Alibaba — в 500 млрд, и она развивается быстрее.

Китай наступает на пятки. Китайское правительство планирует стать мировым лидером в области ИИ к 2030 году. Кажется, нет причин сомневаться в успехе. Китай долго отставал в этой сфере, но быстро адаптируется к новым технологиям: он уже лидирует по количеству мобильных платежей. Китай имеет и серьёзные преимущества в гонке за ИИ: не заморачивается на приватности своих граждан.

Конец

Мы приближаемся к критической точке человеческой истории. Нам и так хватает проблем, а тут ещё ИИ. Но автор уверен: к будущему не надо приспосабливаться, оно — результат решений в настоящем, поэтому мы можем его выбирать.

Мы можем рассмотреть законы, ограничивающие владение данными, обязать платформы нести ответственность за контент. Нам нужно разделить большие корпорации, чтобы вернуть конкуренцию на цифровой рынок, и ввести новые налоги, чтобы корпорации отдавали свой долг обществу. Нам придётся принять законы, которые запретят политическую агитацию в соцсетях. Ключевые слова: мы можем и должны.

Мы живём гораздо лучше, чем сто лет назад, благодаря науке. Но не только она изменила нашу жизнь в ХХ веке. Мы изменили общество, чтобы справиться с проблемами, созданными прогрессом. Мы придумали профсоюзы, трудовое законодательство и всеобщее образование, чтобы все могли извлечь пользу из прогресса. Мы должны помнить об этом в начале нового технологического витка.

Пересказал Сергей Оробий