Технологическая сингулярность
Технологи́ческая сингуля́рность (англ. Шаблон:Lang-en2Шаблон:Ref+) — гипотетический момент в будущем, когда технологическое развитие становится в принципе неуправляемым и необратимым, что порождает радикальные изменения характера человеческой цивилизации<ref>Cadwalladr, Carole (2014). «Are the robots about to rise? Google’s new director of engineering thinks so… Шаблон:Wayback» The Guardian. Guardian News and Media Limited.</ref><ref>Шаблон:Cite web</ref><ref name="Singularity hypotheses">Шаблон:Книга</ref>.
Согласно одной из наиболее популярных версий гипотезы технологической сингулярности, именуемой «интеллектуальным взрывом» (эту концепцию выдвинул, в частности, британский математик и космолог Ирвинг Гуд<ref name="vinge1993">Vinge, Vernor. «The Coming Technological Singularity: How to Survive in the Post-Human Era» Шаблон:Wayback, in Vision-21: Interdisciplinary Science and Engineering in the Era of Cyberspace, G. A. Landis, ed., NASA Publication CP-10129, pp. 11-22, 1993.</ref>), обновляемый интеллектуальный агент (например, компьютер с сильным искусственным интеллектом) в конечном итоге может войти в «безудержную реакцию» циклов самосовершенствования, при этом каждое новое поколение искусственного интеллекта будет появляться всё быстрее, порождая своего рода «интеллектуальный взрыв» и создав в конечном счёте суперинтеллект, превосходящий интеллект всего человечества.
Впервые понятие «сингулярность» в технологическом контексте упомянул американский математик Джон фон Нейман<ref>The Technological Singularity by Murray Shanahan, (MIT Press, 2015), page 233</ref>. Участник Манхэттенского проекта, польско-американский математик Станислав Улам в своей статье 1958 года описывает дискуссию по этому вопросу с фон Нейманом, «посвящённую ускоренному прогрессу технологий и изменениям в образе жизни человека, что создаёт видимость приближения к некоторой существенной необычности в истории человечества, после которой человеческое бытие в известном нам виде не сможет продолжаться»<ref name="mathematical">Шаблон:Статья</ref>. Ряд видных учёных в последующем поддержали эту точку зрения<ref name="Singularity hypotheses" /><ref name="chalmers">Шаблон:Статья</ref>.
Концепцию технологической сингулярности и сам термин «сингулярность» популяризировал американский писатель-фантаст Вернор Виндж в своём эссе 1993 года «Грядущая технологическая сингулярность» (англ. Шаблон:Lang-en2), где отмечал, что это будет означать конец человеческой эры, поскольку новый суперинтеллект будет продолжать совершенствоваться и технологически развиваться с непостижимой скоростью. Виндж заметил, что был бы удивлён, если бы это произошло до 2005 года или после 2030 года<ref name="vinge1993" />.
В четырёх экспертных опросах, проведённых в 2012 и 2013 годах, была высказана точка зрения, что искусственный суперинтеллект будет разработан к 2040—2050 годам<ref name=newyorker>Шаблон:Cite news</ref><ref>Müller, V. C., & Bostrom, N. (2016). «Future progress in artificial intelligence: A survey of expert opinion». In V. C. Müller (ed): Fundamental issues of artificial intelligence (pp. 555—572). Springer, Berlin. http://philpapers.org/rec/MLLFPI Шаблон:Wayback</ref>.
Ряд учёных и общественных деятелей, в частности Стивен Хокинг и Илон Маск, выразил обеспокоенность тем, что искусственный суперинтеллект может привести к ликвидации человека как биологического вида<ref>Шаблон:Cite news</ref><ref>Шаблон:Cite web</ref>. Американский изобретатель и футуролог Рэймонд Курцвейл предсказывает наступление технологической сингулярности в 2045 году. По его мнению, в это время вся Земля начнёт превращаться в один гигантский компьютер, и постепенно этот процесс может распространиться на всю Вселенную<ref>Шаблон:Cite web</ref>.
Гипотетические последствия наступления технологической сингулярности продолжают оставаться предметом активных дискуссий.
История концепции
Идею об ускоряющемся росте научного знания впервые можно встретить в работах Фридриха Энгельса, который, в свою очередь, основывался на работах Эрнста Геккеля, опубликованных в 1874—1875 годах, в которых автор указывал на ускорение темпов эволюции живых организмов в геологическом времени, которое также прослеживается и в развитии человечества («Антропогения», или «История развития человека» — «Anthropogenie», или «Entwickelungsgeschichte des Menschen»). Во второй половине XIX века Ф. Энгельс писал о том, что наука движется вперёд пропорционально массе знаний, унаследованных ею от предшествующего поколения. По его мнению, со времени своего возникновения (XVI—XVII вв.) развитие наук усиливалось пропорционально квадрату расстояния (во времени) от своего исходного пункта. Близкие идеи высказывал В. И. Вернадский, писавший о непрерывном росте темпов научного творчества. По мнению некоторых современных исследователей, имеет место «экспоненциальный закон развития науки», проявляющийся в соответствующем увеличении числа научных работников, научных организаций, публикаций и других показателей<ref>Кохановский В. П. Философия и методология науки. Ростов н/Д.: «Феникс», 1999. — 576 с.</ref><ref>James E. McClellan III, Harold Dorn. Science and Technology in World History. Second Edition. Johns Hopkins university press, 2006. p.427</ref>. Однако экспоненциальный рост не предполагает никакой сингулярности в математическом смысле этого понятия.
В работе «Дань уважения Джону фон Нейману» (1958) Станислав Улам вспоминает о беседах с Джоном фон Нейманом, в которых они оба обратили внимание на тот факт, что, поскольку технологический прогресс, определяющий то, как мы живём, постоянно ускоряется, то должен наступить такой момент, когда люди не смогут поспевать за технологиями — то есть наступит то, что математики называют сингулярностью. Но на этот раз это будет не особенностью в некой физической системе, а особенностью в истории человечества.
В 1965 году Ирвинг Гуд описал такую сингулярность в развитии технологий немного по-другому: что в определённый момент времени, когда самая мощная интеллектуальная машина сможет создать другую машину, которая превзойдёт возможности людей, может произойти некий «интеллектуальный взрыв»<ref>Шаблон:Cite web</ref>.
Похожее понятие «вертикального прогресса» братья Стругацкие изложили в повестях «Малыш», «Волны гасят ветер» и других своих произведениях.Шаблон:Нет АИ
Близко к концепции сингулярности находятся идеи Станислава Лема о вероятной эволюции компьютеров. В наиболее предельном виде эволюция компьютеров описана в эссе «Голем XIV. Лекция XLIII. О себе».Шаблон:Нет АИ
Термин «Шаблон:D-l» заимствован у математиков и астрофизиков, которые используют его при описании космических чёрных дыр и в некоторых теориях начала вселенной — точка с бесконечно большой плотностью и температурой и бесконечно малым объёмом. Математическая сингулярность (особенность) — точка функции, значение в которой стремится к бесконечности, либо другие подобные «интересные» точки — особенности функции.
В данном контексте впервые термин «сингулярность» использовал в середине XX века Джон фон Нейман, имея в виду математическое, а не астрофизическое понимание этого слова — точку, за которой экстраполяция начинает давать бессмысленные результаты (Шаблон:D-l). Об этом пишет Вернор Виндж, которому данный термин обычно приписывают<ref>V. Vinge. The Coming Technological Singularity Шаблон:Wayback (1993)</ref>. Научным обоснованием наступления сингулярности активно занимается Рэймонд Курцвейл.
Начало сингулярности
Шаблон:Нет источников в разделе Одними из фундаментальных открытых вопросов насчёт сингулярности являются вопросы о её существовании, времени наступления и темпах роста технологических изменений. Время её начала предполагают, экстраполируя некоторые тенденции технологического развития.
Предел сингулярности
Для природных процессов, характеризующихся экспоненциальным ускорением на своих начальных этапах, впоследствии характерен переход в фазу насыщения. Это позволяет предположить, что если на протяжении некоторого интервала времени наблюдается возрастание с ускорением, это отнюдь не означает бесконечного продолжения этого процесса. Напротив, во многих случаях это означает скорый выход на плато скорости. Процессы, происходящие в природе, позволяют выдвинуть предположение, что наблюдаемая картина ускорения научно-технического прогресса через некоторое время (в физических процессах, как правило, короткое) сменится замедлением и полной остановкой. Возможные механизмы торможения ускорения развития инфокоммуникаций в целом просматриваются как в адаптационных возможностях самого человека, так и в приближающихся горизонтах планирования. При этом, несмотря на возможное в обозримом будущем прекращение/затухание ускорения прогресса науки и техники, сам прогресс, и как следствие, социальные трансформации, не остановится и даже не замедлится — он продолжится с достигнутой (возможно, огромной) скоростью, ставшей постоянной<ref>Shestakova I.' To the Question of the Limits of Progress: Is a Singularity Possible?.</ref>.
Критика концепции
Ряд учёных (из наиболее известных российских, например — один из основоположников клиодинамики А. В. Коротаев и биолог А. В. Марков) выступает с критикой данной концепции, утверждая, что явно выраженной точки сингулярности, с острым кризисом, не будет. Ими утверждается, что развитие идёт по S-образной (логистической) кривой, и уже с начала 1970-х годов началось торможение, то есть Мир-Система «точку сингулярности» в процессе модернизационного фазового перехода уже прошла<ref>Коротаев А. В. Сингулярность уже рядом? Шаблон:Wayback // История и синергетика. Методология исследования. М.: Издательство ЛКИ/URSS, 2009, 2-е изд. С.183—191.</ref>; при этом под точкой сингулярности здесь подразумевается такая точка на графике развития, в которой скорость максимальна (середина S-образной кривой)<ref>О выходе из режима с обострением см., например: Коротаев А. В., Комарова Н. Л., Халтурина Д. А. Законы истории. Вековые циклы и тысячелетние тренды. Демография, экономика, войны. 2-е изд. М.: УРСС, 2007. С. 7-47.</ref>.
Коротаев в своей статье<ref><Коротаев А. В. Новые технологии и сценарии будущего, или Сингулярность уже рядом? Шаблон:Wayback М.: Издательство ЛКИ/URSS, 2008, 2-е изд.</ref> рассматривает и даёт оценку понятию сингулярности в различных областях (экономической, технологической, культурной и т. д.). Так как гипербола переходит в бесконечность за конечный промежуток времени, то можно вычислить момент обострения, в который некий показатель развития приобретает бесконечное значение. В реальных процессах никогда не наблюдается ухода в бесконечность, а вместо этого система испытывает качественную трансформацию (фазовый переход) перед достижением точки сингулярности. На примере кривой экономического развития, уже находящейся в режиме обострения, Коротаев иллюстрирует характер движения прочих гиперболических кривых, в которых ожидается сингулярность. В своём примере он исходит из предположения, что экономика тесно связана с демографией, и эта зависимость главным образом определяет характер движения экономической кривой<ref>* The 21st Century Singularity and its Big History Implications: A re-analysis Шаблон:Wayback.Journal of Big History 2/3 (2018): 71 — 118.</ref>.
Концепция технологической сингулярности в политике
Технологическая сингулярность как следствие развития нанотехнологий рассматривается в отчёте 2007 года Комиссии по экономической политике Конгресса США<ref>Шаблон:Cite web</ref>. Некоторые интерпретации концепции сингулярности предполагают, что последняя должна наступить около 2030 года. Если проэкстраполировать закон Мура, окажется, что примерно в то же время вычислительная мощность компьютеров сравнится с головным мозгом человека. Сторонники теории технологической сингулярности считают, что если возникнет принципиально отличный от человеческого разум (постчеловек), дальнейшую судьбу цивилизации невозможно предсказать, опираясь на человеческую логику.
Технологическая сингулярность в популярной культуре
Кроме рассказов Вернора Винджа, сингулярность является центральной темой произведений некоторых других авторов научной фантастики, таких как Уильям Гибсон, Чарльз Стросс, Карл Шрёдер, Юрий Никитин, Грег Иган, Дэвид Брин, Иэн Бэнкс, Нил Стивенсон, Тони Баллантайн, Брюс Стерлинг, Дэн Симмонс, Дэмиен Бродерик, Фредерик Браун, Яцек Дукай, Нагару Танигава, Кори Доктороу, Питер Уоттс. Кен Маклеод в своём романе 1998 года «Подразделение Кассини»<ref>Шаблон:Cite web</ref><ref>Шаблон:Cite web</ref> (англ. Шаблон:Lang-en2) определяет сингулярность как «вознесение для нердов».
Тематика сингулярности часто встречается в киберпанковых романах. Например, рекурсивно самоулучшающийся искусственный интеллект «Зимнее Безмолвие» в романе Уильяма Гибсона «Нейромант». Опубликованный в 1994 году на сайте Kuro5hin роман «Метаморфозы Высшего Интеллекта» посвящён жизни после запущенной искусственным интеллектом сингулярности. Более антиутопичный взгляд на сингулярность в коротком рассказе Харлана Эллисона «У меня нет рта, но я должен кричать» (англ. Шаблон:Lang-en2). Другими примерами антиутопичного взгляда являются «Акселерандо» Чарльза Стросса и продолжающаяся в настоящее время серия комиксов Уоррена Эллиса «Шаблон:Iw». В произведении Джеймса Милна «Все куклы» (англ. Шаблон:Lang-en2) затронуты эмоциональные и моральные проблемы сингулярности. Проблема Контакта в эпоху технологической сингулярности обсуждается в романе Станислава Лема «Фиаско» (1986), «Ложной слепоте» Питера Уотса, «Нечётком дроблении» Пола Ди Филиппо. Проблема технологической сингулярности актуальна и на Востоке. Яркий пример этому — манга о слиянии и почти безграничном сознании человека и искусственного интеллекта «Ghost In The Shell».
В кинематографе примером фильма, целиком посвящённого технологической сингулярности и реакции человечества на неё, является «Превосходство».
См. также
Комментарии
Примечания
Литература
на русском языке
- Коротаев А. В., Комарова Н. Л., Халтурина Д. А. Законы истории. Вековые циклы и тысячелетние тренды. Демография, экономика, войны. 2-е изд. М.: УРСС, 2007. С. 7-47.
- Марков А. В., Коротаев А. В. Гиперболический рост в живой природе и обществе. М.: URSS, 2009. 200 с.
- Панов А. Д. Сингулярность Дьяконова // История и Математика: Проблемы периодизации исторических макропроцессов. М.: КомКнига, 2006. С. 31-37.
- Болдачев А. В. Финита ля история. Политико-культурно-экономическая сингулярность как абсолютный кризис цивилизации. Оптимистический взгляд в будущее // Сингулярность. Образы "постчеловечества". Автор составитель К. Г. Фрумкин. — М.: Алгоритм, 2016 — 320 с. — C. 7-37. ISBN 978-5-906842-916
на других языках
- Kurzweil R. The Singularity Is Near. N. Y.: Viking, 2005.
Ссылки
- «Spectral Lines: Un-assuming The Singularity» вторая статья из спецвыпуска «IEEE Spectrum» 2008-06 SPECIAL REPORT: THE SINGULARITY (комментарии и многие ссылки работают только в архивной копии)
- Что такое сингулярность? // transhumanism-russia.ru
- Технологическая сингулярность // transhumanism-russia.ru
- Технологическая сингулярность как ближайшее будущее человечества // veer.info
- КОРОТАЕВ А. В. Сингулярность уже рядом?
- The Coming Technological Singularity, 1993 by Vernor Vinge
- Вернор Виндж. Технологическая Сингулярность
- Майкл Диринг. Рассвет Сингулярности
- Дискуссия о технологической сингулярности на радио «Свобода» 2.11.08
Шаблон:ВС Шаблон:Киберпанк и производные Шаблон:Исследования будущего