Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта (англ. Life 3.0: Being Human in the Age of Artificial Intelligence)[1] — книга шведско-американского космолога Макса Тегмарка из Массачусетского технологического института. «Жизнь 3.0» обсуждает искусственный интеллект (ИИ) и его влияние на будущее жизни на Земле и за её пределами.

Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта
англ. Life 3.0: Being Human in the Age of Artificial Intelligence
Автор Макс Тегмарк
Язык оригинала английский
Оригинал издан 23 августа 2017
Издатель Random House
Страниц 280
ISBN 978-1-101-94659-6
Предыдущая Наша математическая вселенная

Обзор править

В книге обсуждаются различные социальные последствия, что можно сделать, чтобы максимизировать шансы на положительный исход, а также потенциальное будущее человечества, технологии и их комбинации[источник не указан 389 дней].

Книга начинается с постулирования сценария, в котором ИИ превзошёл человеческий интеллект и стал широко распространяться в обществе. Тегмарк упоминает различные этапы жизни человечества с момента его зарождения: Life 1.0 относится к биологическому происхождению, Life 2.0 относится к культурному развитию человечества, а Life 3.0 относится к технологическому веку людей. Книга фокусируется на «Life 3.0» и на новых технологиях, таких как общий искусственный интеллект, который может когда-нибудь, помимо способности учиться, также перепроектировать своё собственное оборудование и внутреннюю структуру.

В первой части книги рассматривается происхождение интеллекта миллиарды лет назад и продолжается прогноз будущего развития интеллекта. Тегмарк рассматривает краткосрочные эффекты развития передовых технологий, такие как технологическая безработица, оружие с искусственным интеллектом и поиски ОИИ (общего искусственного интеллекта) человеческого уровня. В книге приводятся такие примеры, как DeepMind и OpenAI, беспилотные автомобили и ИИ-игроки, которые могут выигрывать у людей в шахматы[2], Jeopardy[3] и го[4].[нет в источнике]

Изучив текущие проблемы в области ИИ, Тегмарк затем рассматривает ряд возможных вариантов будущего, в которых будут задействованы интеллектуальные машины или люди. В пятой главе описывается ряд возможных результатов, таких как изменение социальных структур, интеграция людей и машин, а также положительные и отрицательные сценарии, такие как Дружественный ИИ или ИИ-апокалипсис[5]. Тегмарк утверждает, что риски ИИ возникают не из-за недоброжелательности или сознательного поведения как таковых, а из-за несовпадения целей ИИ с целями людей. Многие цели книги совпадают с целями Института будущего жизни[en][6], соучредителем которого является Тегмарк.

Остальные главы исследуют концепции физики, целей, сознания и смысла, а также изучают, что общество может сделать, чтобы помочь создать желаемое будущее для человечества.

Критика править

 
Профессор Макс Тегмарк, автор книги «Жизнь 3.0».

Одно из критических замечаний по поводу книги от Kirkus Reviews заключается в том, что некоторые из сценариев или решений в книге являются натяжкой или несколько пророческими: «Решения Тегмарка по поводу неизбежной массовой безработицы — это натяжка»[7]. Исследователь искусственного интеллекта Стюарт Дж. Рассел в журнале Nature написал: «Я вряд ли решительно не согласен с предпосылкой „Жизни 3.0“. Жизнь, утверждает Тегмарк, может распространяться или не распространяться по Вселенной и „процветать в течение миллиардов или триллионов лет“ из-за решений, которые мы принимаем сейчас — возможность одновременно соблазнительная и ошеломляющая»[8]. В своей статье в журнале Science Хайм Хирш назвал «Жизнь 3.0» «очень удобочитаемой книгой, которая дополняет экономическую перспективу «Второй машинной эры» краткосрочными последствиями недавних достижений в области ИИ и более подробным анализом того, как мы можем перейти от сегодняшнего положения к AGI и даже сверхчеловеческому ИИ в «Суперинтеллекте  (англ.)»»[9]. The Sunday Telegraph назвал книгу «одним из лучших обзоров аргументов в пользу искусственного интеллекта»[10][11]. Газета The Christian Science Monitor сообщила: «Хотя, вероятно, это и не было его намерением, многое из того, что пишет Тегмарк, незаметно напугает его читателей»[12]. Publishers Weekly дал положительный отзыв, но также заявил, что призыв Тегмарка исследовать, как сохранить контроль над сверхразумными машинами, «неуклюже сочетается с его признанием того, что управлять такими богоподобными сущностями будет почти невозможно»[13]. Library Journal  (англ.) назвал её обязательной к прочтению технологами, но заявил, что книга не для случайного читателя[14]. The Wall Street Journal назвал произведение «ясным и увлекательным»; тем не менее, он предупредил читателей, что противоречивая идея о том, что суперинтеллект может выйти из-под контроля, заслуживает большего доверия, чем несколько лет назад, но всё ещё яростно отвергается многими учёными-компьютерщиками[15].

Вместо того, чтобы одобрять конкретное будущее, книга предлагает читателям подумать о том, какое будущее они хотели бы видеть, и обсудить свои мысли на веб-сайте Future of Life[16]. Обзор Wall Street Journal назвал такое отношение благородным, но наивным и раскритиковал упомянутый веб-сайт за то, что он «забит промо-материалами для книги»[15].

Издание в твёрдом переплёте находилось в общем списке бестселлеров New York Times в течение двух недель[17], а в сентябре и октябре 2017 года — в списке бизнес-бестселлеров New York Times[18].

Экс-президент США Барак Обама включил книгу в свой список «лучших за 2018 год»[19][20].

Бизнес-магнат Илон Маск (который ранее поддерживал тезис о том, что при некоторых сценариях продвинутый ИИ может поставить под угрозу выживание человека  (англ.)) рекомендовал книгу «Жизнь 3.0» как «достойную прочтения»[21][22].

Примечания править

  1. Tegmark, Max. Life 3.0 : being human in the age of artificial intelligence. — First. — New York : Knopf, 2017. — ISBN 9781101946596.
  2. IBM100 - Deep Blue (амер. англ.). www-03.ibm.com (7 марта 2012). Дата обращения: 20 октября 2017. Архивировано 16 марта 2013 года.
  3. Markoff, John (2011-02-16). "On 'Jeopardy!' Watson Win Is All but Trivial". The New York Times (англ.). ISSN 0362-4331. Архивировано из оригинала 11 ноября 2021. Дата обращения: 20 октября 2017. {{cite news}}: Указан более чем один параметр |accessdate= and |access-date= (справка)
  4. "In Major AI Breakthrough, Google System Secretly Beats Top Player at the Ancient Game of Go". WIRED (англ.). Архивировано из оригинала 2 февраля 2017. Дата обращения: 20 октября 2017. {{cite news}}: Указан более чем один параметр |accessdate= and |access-date= (справка)
  5. Harari, Yuval Noah (2017-09-22). "Life 3.0 by Max Tegmark review – we are ignoring the AI apocalypse". The Guardian (англ.). ISSN 0261-3077. Архивировано из оригинала 11 ноября 2021. Дата обращения: 20 октября 2017. {{cite news}}: Указан более чем один параметр |accessdate= and |access-date= (справка)
  6. "Podcast: Life 3.0 - Being Human in the Age of Artificial Intelligence - Future of Life Institute". Future of Life Institute (англ.). 2017-08-29. Архивировано из оригинала 11 ноября 2021. Дата обращения: 20 октября 2017. {{cite news}}: Указан более чем один параметр |accessdate= and |access-date= (справка)
  7. LIFE 3.0 by Max Tegmark | Kirkus Reviews : []. Источник. Дата обращения: 11 ноября 2021. Архивировано 11 ноября 2021 года.
  8. Russell, Stuart (2017-08-31). "Artificial intelligence: The future is superintelligent". Nature (англ.). 548 (7669): 520—521. Bibcode:2017Natur.548..520R. doi:10.1038/548520a. ISSN 0028-0836.
  9. Hirsh, Haym (2017-08-02). "A physicist explores the future of artificial intelligence". Science Magazine (англ.). Vol. 357, no. 6350 (published 2017-08-04). Архивировано из оригинала 13 июня 2021. Дата обращения: 19 октября 2017. {{cite news}}: Указан более чем один параметр |accessdate= and |access-date= (справка)
  10. Poole, Steven (2017-11-26). "Thinking big, snoozing bigger: the best science books of 2017". The Telegraph. Архивировано из оригинала 11 ноября 2021. Дата обращения: 8 декабря 2017. {{cite news}}: Указан более чем один параметр |accessdate= and |access-date= (справка)
  11. Poole, Steven (2017-08-27). "Artificial intelligence: how scared should we be about machines taking over?". The Telegraph (англ.). ISSN 0307-1235. Архивировано из оригинала 11 ноября 2021. Дата обращения: 20 октября 2017. {{cite news}}: Указан более чем один параметр |accessdate= and |access-date= (справка)
  12. "3 science books compelling enough to speak to all readers". Christian Science Monitor. 2017-08-30. Архивировано из оригинала 11 ноября 2021. Дата обращения: 11 декабря 2017. {{cite news}}: Указан более чем один параметр |accessdate= and |access-date= (справка)
  13. "Nonfiction Book Review: Life 3.0: Being Human in the Age of Artificial Intelligence by Max Tegmark. Knopf, $28 (384p) ISBN 978-1-101-94659-6". PublishersWeekly.com (англ.). 2017-07-10. Архивировано из оригинала 11 ноября 2021. Дата обращения: 7 января 2018. {{cite news}}: Указан более чем один параметр |accessdate= and |access-date= (справка)
  14. Browning, Natalie (2017-09-15). "Life 3.0: being human in the age of artificial intelligence". Library Journal.
  15. 1 2 Rose, Frank (2017-08-28). "When Machines Run Amok". Wall Street Journal (англ.). ISSN 0099-9660. Архивировано из оригинала 11 ноября 2021. Дата обращения: 20 октября 2017. {{cite news}}: Указан более чем один параметр |accessdate= and |access-date= (справка)
  16. Superintelligence survey - Future of Life Institute. Future of Life Institute. Дата обращения: 7 января 2018. Архивировано 11 ноября 2021 года.
  17. "Hardcover Nonfiction Books - Best Sellers - September 24, 2017 - The New York Times" (англ.). 2017-09-24. Архивировано из оригинала 11 ноября 2021. Дата обращения: 10 февраля 2018. {{cite news}}: Указан более чем один параметр |accessdate= and |access-date= (справка)
  18. "Business Books - Best Sellers - September 2017 - The New York Times". Архивировано из оригинала 11 ноября 2021. Дата обращения: 11 ноября 2021.
  19. Caron, Christina (2018-12-28). "Barack Obama's Favorite Book of 2018 Was 'Becoming.' Here's What Else He Liked". The New York Times. Архивировано из оригинала 29 декабря 2018. Дата обращения: 31 декабря 2018. {{cite news}}: Указан более чем один параметр |accessdate= and |access-date= (справка)
  20. Barack Obama (англ.). www.facebook.com. Дата обращения: 31 декабря 2018. Архивировано 18 ноября 2020 года.
  21. Архивированная копия. Дата обращения: 11 ноября 2021. Архивировано 11 ноября 2021 года.
  22. Moody, Oliver (2017-10-30). "Why Elon Musk thinks Max Tegmark is the geek who will save the world". The Times of London. Архивировано из оригинала 11 ноября 2021. Дата обращения: 27 ноября 2017. {{cite news}}: Указан более чем один параметр |accessdate= and |access-date= (справка)

Ссылки править