Ускорение технического прогресса — основная особенность XX века. Мы на грани перемен, сравнимых с появлением на Земле человека. Сугубая причина этих перемен заключается в том, что развитие техники неизбежно ведёт к созданию сущностей с интеллектом, превышающим человеческий. [1] Наука может достичь такого прорыва разными путями (и это ещё один довод в пользу того, что прорыв произойдёт):
— Компьютеры обретут «сознание», и возникнет сверхчеловеческий интеллект. (В настоящее время нет единого мнения о том, сумеем ли мы создать машину, равную человеку, однако, если это получится, несомненно, вскоре затем можно будет сконструировать еще более разумные существа).
- Крупные компьютерные сети (и их объединенные пользователи) могут «осознать себя» как сверхчеловечески разумные сущности.
- Машинно-человеческий интерфейс станет настолько тесным, что интеллект пользователей можно будет обоснованно считать сверхчеловеческим.
- Биология может обеспечить нас средствами улучшения естественного человеческого интеллекта.
Первые три возможности напрямую связаны с совершенствованием компьютерного аппаратного обеспечения, вычислительная сила которого в современном понимании компьютера зависит напрямую от возможностей миниатюризации процессора. Изготовление современных компьютеров никогда не обходится без участия лазерных систем, и, по мере совершенствования лазеров, возрастает и вычислительная сила машин, ускоряя темп технического прогресса. Когда прогресс будет направляться интеллектом, превосходящим человеческий, он станет куда стремительнее. Фактически, нет оснований полагать, что прогресс не станет плодить всё более разумные сущности всё более ускоренными темпами. Лучшая аналогия, которую можно здесь провести — в эволюционном прошлом. Животные могут приспособиться и проявлять изобретательность, но не быстрее, чем работает естественный отбор. В случае естественного отбора мир сам выступает в роли собственного симулятора. Мы, люди, обладаем способностью усваивать окружающий мир и выстраивать у себя в голове причинно-следственные связи, поэтому мы решаем многие проблемы в тысячи раз быстрее, чем механизм естественного отбора. Когда же появится возможность просчитывать эти модели на более высоких скоростях, мы войдём в режим, который отличается от нашего человеческого прошлого не менее радикально, чем мы, люди, сами отличаемся от низших животных.
Взгляды на общество и человека в индустриальную эпоху
... естественным состоянием рода человеческого”. Гоббсову картину “естественного состояния” можно рассматривать как одно из первых описаний нарождавшегося английского буржуазного общества ... “Человек человеку - волк”. Отсюда фатальная неизбежность в обществе “войны всех против всех”. Иметь “право на все” в условиях ... Макиавелли и Г. Гроцием Т. Гоббс стал рассматривать государство не через призму теологии, ...
Такое событие аннулирует за ненадобностью весь свод человеческих законов, возможно, в мгновение ока. Неуправляемая цепная реакция начнет развиваться по экспоненте безо всякой надежды на восстановление контроля над ситуацией. Изменения, на которые, как считалось, потребуются «тысячи веков» (если они вообще произойдут), скорее всего, случатся в ближайшие сто лет.
Вполне оправданно будет назвать данное событие сингулярностью. Это точка, в которой наши старые модели придётся отбросить, где воцарится новая реальность. Это мир, очертания которого будут становиться всё четче, надвигаясь на современное человечество, пока эта новая реальность не заслонит собой окружающую действительность, став обыденностью. И всё же, когда мы такой точки, наконец, достигнем, это событие все равно станет великой неожиданностью и ещё большей неизвестностью.
Часть I: Прошлое., Технологическая сингулярность. История концепции.
Технологи́ческая сингуля́рность — гипотетический момент, по прошествии которого, по мнению сторонников данной концепции, технический прогресс станет настолько быстрым и сложным, что окажется недоступным пониманию[2][3][4], за которым предположительно следуют создание искусственного интеллекта и самовоспроизводящихся машин, интеграция человека с вычислительными машинами, либо значительное скачкообразное увеличение возможностей человеческого мозга за счёт биотехнологий.
По некоторым прогнозам, технологическая сингулярность может наступить уже около 2030 года[5][6].
Сторонники теории технологической сингулярности считают, что если возникнет принципиально отличный от человеческого разум (постчеловек), дальнейшую судьбу цивилизации невозможно предсказать, опираясь на человеческое (социальное) поведение.
Одними из фундаментальных открытых вопросов насчет сингулярности являются вопросы о её существовании, времени наступления и темпах роста технологических изменений. Экстраполяция некоторых тенденций показывает, что сингулярность может произойти к 2020 году (возможно, эту дату следует пересмотреть и приблизить до 2018 или даже 2016 года, если полагаться на самую последнюю оценку Дэни Эдера (Dani Eder) о том, что время удвоения мощности компьютеров упало с 18 месяцев, исходя из закона Мура, до 9 месяцев к сентябрю 2002 года), и она должна быть очень внезапной, что характерно для природы гиперэкспоненциальной кривой. Согласно Эдеру новые технологии приводят к ускорению прироста населения. А чем больше население, тем больше работает специалистов, так что в следующий период технологии разрабатываются быстрее. Кроме того, из-за повышения уровня образования населения прогрессу будут способствовать большее количество знаний, накопленных человечеством, что позволит еще быстрее получать новые знания.
Идею об ускоряющемся росте научного знания впервые можно встретить в работах Ф. Энгельса. В середине XIX века он писал о том, что наука движется вперед пропорционально массе знаний, унаследованных ею от предшествующего поколения. По его мнению, со времени своего возникновения (XVI—XVII вв.) развитие наук усиливалось пропорционально квадрату расстояния (во времени) от своего исходного пункта. Близкие идеи высказывал В. И. Вернадский, писавший о непрерывном усилении темпов научного творчества. По мнению некоторых современных исследователей, имеет место «экспоненциальный закон развития науки», проявляющийся в соответствующем увеличении числа научных работников, научных организаций, публикаций и других показателей[7][8].
Социально-философский анализ проблемы взаимодействия человека и техники
... явление обезличивания человека техникой и нравственно - философские основания и условия для использования техники. Цель данной работы - осветить направление развития технической мысли и раскрыть универсальные предпосылки формирования проблем, связанных с взаимодействием человека и техники; дать ...
Близко к концепции сингулярности находятся идеи Станислава Лема о вероятной эволюции компьютеров. В наиболее предельном виде эволюция компьютеров описана в эссе «Голем XIV лекция XLIII. О себе».
Термин «сингулярность» заимствован у астрофизиков, которые используют его при описании космических чёрных дыр и в некоторых теориях начала вселенной — точка с бесконечно большой массой и температурой и бесконечно малым объёмом. Математическая сингулярность (особенность) — точка функции, значение в которой стремится к бесконечности, либо другие подобные «интересные» точки — особенности функции.
В данном контексте впервые термин «сингулярность» использовал в середине ХХ века Джон фон Нейман, имея в виду математическое, а не астрофизическое понимание этого слова — точку, за которой экстраполяция начинает давать бессмысленные результаты (расходиться).
Об этом пишет Вернор Виндж, которому данный термин обычно приписывают[1].
Научным обоснованием наступления сингулярности активно занимается Рэймонд Курцвейл.
В пятидесятые годы ХХ века немногие предвидели возможность наступления технологической сингулярности. Стэн Юлам пересказывал однажды слова Джона фон Неймана: «Один разговор шел о непрерывно ускоряющемся техническом прогрессе и переменах в образе жизни людей, которые создают впечатление приближения некоторой важнейшей сингулярности в истории земной расы, за которой все человеческие дела, в том виде, в каком мы их знаем, не смогут продолжаться».Фон Нейман даже использовал термин «сингулярность», хотя, похоже, он думал о нормальном прогрессе, а не о создании сверхчеловеческого интеллекта.
В шестидесятые года отмечались признаки некоторого вовлечения в нашу жизнь сверхчеловеческого интеллекта. Ирвинг Джон Гуд писал: «Определим сверхразумную машину как машину, которая способна значительно превзойти все интеллектуальные действия любого человека, как бы умён тот ни был. Поскольку способность разработать такую машину также является одним из этих интеллектуальных действий, сверхразумная машина может построить ещё более совершенные машины. За этим, несомненно, последует «интеллектуальный взрыв», и разум человека намного отстанет от искусственного. Таким образом, первая сверхразумная машина станет последним изобретением, которое выпадет на долю человека, при условии, что машина будет достаточно покорна и поведает нам, как держать ее под контролем… И вероятность того, что в двадцатом веке сверхразумная машина будет построена и станет последним изобретением, которое совершит человек, выше, чем вероятность того, что этого не случится».
Гуд уловил суть разгона прогресса, но не рассматривал его самые тревожащие последствия. Любая разумная машина того типа, что он описывает, не будет «инструментом» человечества так же, как люди не стали орудиями кроликов, малиновок или шимпанзе.
В шестидесятые, семидесятые и восьмидесятые годы осознание грядущего катаклизма ширилось и росло. Вероятно, первыми его влияние почувствовали фантасты. В конце концов, ведь именно научной фантастике полагается рассказывать о том, чем обернутся для нас все эти технологии. Всё чаще писателей преследовало ощущение того, что будущее сокрыто за непроницаемой стеной. Когда-то воображение с лёгкостью переносило их на миллионы лет вперед. Теперь же они обнаруживают, что их наиболее усердные прогнозы относятся к неизвестному… завтра. Прежде галактические империи могли казаться постчеловеческими реалиями. Ныне, как ни печально, даже межпланетные государства представляются таковыми.
Особенности перевода технических терминов
... переводе англоязычной научно-технической терминологии и в связи с этим определить наиболее эффективные способы перевода английских технических терминов на русский язык и русских технических терминов на английский язык. В соответствии с поставленной целью в данной дипломной работе ...
Так что же ждет нас в эти два-три десятка лет, пока мы движемся к краю? Как наступление Сингулярности станет утверждаться в человеческом мировосприятии? В конце концов, пока не появится аппаратное обеспечение, сравнимое по мощи с человеческим мозгом, наивно надеяться создать интеллект, сравнимый с разумом человека (или превосходящий его).
