2012 год катастроф: технологическая сингулярность

«Ускорение технического прогресса — основная особен­ность XX века. Мы на грани перемен, сравнимых с появлением на Земле человека. Сугубая причина этих перемен заключает­ся в том, что развитие техники неизбежно ведет к созданию сущностей с интеллектом, превышающим человеческий. Нау­ка может достичь такого прорыва разными путями.

Компьютеры обретут «сознание», и возникнет сверхчело­веческий интеллект.

Крупные компьютерные сети могут «осознать себя» как сверхчеловеческие разумные сущности.

Машинно-человеческий интерфейс станет настолько тес­ным, что интеллект пользователей можно будет обоснованно считать сверхчеловеческим» (В. Виндж. Технологическая син­гулярность).

Уже более столетия космос наполняют человеческие радиосигналы, однако на них до сих пор никто не ответил. Может быть, каждая цивилизация обречена на определенном этапе своего развития на катастрофу «технологической син­гулярности»?

В 1993 году мир узнал еще об одной призрачной опасно­сти, которую приготовил человечеству научно-технический прогресс. Американский математик и писатель В. Виндж из Аэрокосмического института Центра космических иссле­дований НАСА предложил новую концепцию технической гибели цивилизации в результате коллапса накопленного объема научной информации в процессе, который он назвал «технологическая сингулярность».

С самим понятием сингулярности вы уже встречались при рассмотрении опасности возникновения провалов пространства-времени, или черных дыр. Согласно теории относительности, именно в центре застывших звезд гравита­ционных коллапсаров и должна располагаться некая мнимая безразмерная точка, в которую стремится вся «замерзшая масса» коллапсара и никогда (по часам внешнего наблюдате­ля) туда не попадает.

В большинстве научно-фантастических романов и филь­мов черные дыры изображаются зловещими провалами пространства-времени, безжалостно поглощающими все не­бесные тела, до которых могут дотянуться их гравитационные щупальца. Увы, астрономическая и физическая безграмотность современных авторов космических опер давно уже является притчей во языцех: если бы некоторые фантасты вспомнили хотя бы азы школьной физики, то они не были бы столь неспра­ведливы к замерзшим звездам. Во-первых, пролетающие вокруг застывших звезд тела сначала становятся их спутниками и мо­гут долго вращаться по близким и далеким орбитам. Во-вторых, считается, что коллапсары фактически защищают Вселенную от намного более страшных сингулярных катаклизмов.

Вы уже знаете, что космической сингулярностью называ­ется точка пространства, в которой его кривизна неограничен­но стремится к бесконечности — пространство-время как бы рвется в этой точке. Современная теоретическая физика, основанная на общей теории относительности, предсказыва­ет, что в окружающем Мире наряду и привычными для нас объектами обязательно должны существовать и бездонные провалы сингулярностей. Однако если мы хотим описать какое-либо физическое явление, то наряду с его уравнени­ем необходимо задать граничные и начальные условия. На­пример, схема вашего перемещения по комнате имеет смысл, только когда вместе со скоростью и временем известно, из какого угла вы двигались и куда. Задать эти граничные усло­вия в сингулярных точках нельзя, что делает невозможным и последующее описание физического процесса. Теперь пред­ставим, что при рождении нашего Мира в сосредоточении массы и энергии образовалось множество сингулярностей. Каким-либо фантастическим образом попав в этот момент, мы увидели бы абсолютный хаос без намека на какую-либо причинность. Далее области хаоса расширялись бы вместе с пространством и к настоящему времени подавляющая часть Вселенной вела бы себя случайным образом и управлялась бы невообразимыми законами. Естественно, что материя при этом не смогла бы образовать какие-либо сгустки и не­однородности в виде звезд, планет и галактик, не говоря уже о разумной жизни.

К счастью, ситуацию спасают именно бездонные провалы застывших звезд. Математическая структура уравнений фун­даментальной теории и их решений указывает на то, что в реальных ситуациях пространственные сингулярности должны появляться не сами по себе, а исключительно внутри черных дыр.

Как тут не вспомнить древнегреческие легенды о бит­ве между олимпийскими богами и титанами, пытавшимися воцарить Хаос на Земле. Верх одержали олимпийцы, и ми­фологические «генераторы энтропийного беспорядка» были низвергнуты в Тартар, где, по античным представлением, располагался подземный ад. Там нарушители вселенского порядка и спокойствия благополучно находятся до сих пор.

Таким образом, черные дыры отделяют сингулярно­сти от остальной Вселенной и не позволяют им влиять на ее причинно-следственные связи. Известный физик Р. Пенроуз (R. Penrose) возвел этот принцип построения Мироздания в ранг фундаментальной закономерности, которая получила название «космическая цензура Пенроуза». Космическая цен­зура категорически запрещает существование «обнаженных», или «чистых», сингулярностей, то есть не окруженных гори­зонтом событий. Как это часто бывает с фундаментальными принципами, полностью он не доказан, но принципиальных нарушений не замечено. Можно считать, что некий Космиче­ский Цензор охраняет порядок в нашей реальности.

«Определим сверхразумную машину как машину, которая способна значительно превзойти все интеллектуальные дей­ствия любого человека, как бы умен тот ни был. Поскольку спо­собность разработать такую машину также является одним из этих интеллектуальных действий, сверхразумная машина может построить еще более совершенные машины. За этим, несомненно, последует «интеллектуальный взрыв», и разум человека намного отстанет от искусственного. Таким обра­зом, первая сверхразумная машина станет последним изобре­тением, которое выпадет на долю человека, при условии, что машина будет достаточно покорна и поведает нам, как дер­жать ее под контролем... И вероятность того, что в XX веке сверхразумная машина будет построена и станет последним изобретением, которое совершит человек, выше, чем вероят­ность того, что этого не случится» (И. Д. Гуд).

Вначале сам Виндж определил временные границы свое­го пугающего прогноза 2000—2025 годами. Однако, оперируя новыми данными, в частности, касающимися реального роста и востребованности информационных ресурсов Интернета, в 2003 году ученый указал новую дату: начало развития тех­нологической сингулярности начнется в 2012 году.

Согласно Винджу, главной действующей силой ката­строфических процессов должна выступить электронно- вычислительная техника, которая действительно захватыва­ет все более важные стратегические позиции. Компьютерные системы играют все большую роль в обмене данными, орга­низующими общество, становясь ответственными за реше­ния, от которых зависят судьбы Мира: это и единые компь­ютерные центры раннего предупреждения о запуске враже­ских ракет, и системы ЭВМ, запускающие эти ракеты, и ло­кальные бортовые компьютеры атомных ракетоносцев.

Виндж отмечал следующее.

«Прогресс аппаратного обеспечения на протяжении уже нескольких десятилетий поразительно стабилен. Исходя из этой тенденции, я считаю, что интеллект, превосходящий че­ловеческий, появится в течение ближайших тридцати лет...

Каковы будут последствия этого события? Когда про­гресс будет направляться интеллектом, превосходящим че­ловеческий, он станет куда стремительнее. Фактически нет оснований полагать, что прогресс не станет плодить все более разумные сущности все более ускоренными темпами. Лучшая аналогия, которую можно здесь провести, — в эволюционном прошлом. Животные могут приспособиться и проявлять изо­бретательность, но не быстрее, чем работает естественный отбор. В случае естественного отбора мир сам выступает в роли собственного симулятора. Мы, люди, обладаем способ­ностью усваивать окружающий мир и выстраивать у себя в голове причинно-следственные связи, поэтому мы решаем многие проблемы в тысячи раз быстрее, чем механизм есте­ственного отбора. Когда же появится возможность просчи­тывать эти модели на более высоких скоростях, мы войдем в режим, который отличается от нашего человеческого про­шлого не менее радикально, чем мы, люди, сами отличаемся от низших животных.

Такое событие аннулирует за ненадобностью весь свод человеческих законов, возможно, в мгновение ока. Неуправля­емая цепная реакция начнет развиваться по экспоненте безо всякой надежды на восстановление контроля над ситуацией. Изменения, на которые, как считалось, потребуются «тыся­чи веков» (если они вообще произойдут), скорее всего, случат­ся в ближайшие 100 лет».

Далее в своем эссе исследователь пишет, что назвать но­вую технологическую реальность сингулярностью его заста­вили слова одного из отцов кибернетики Дж. фон Неймана (J. von Neumann).

«Непрерывно ускоряющийся технический прогресс и пере­мена в образе жизни людей настойчиво создают впечатление приближения некоторой важнейшей сингулярности в истории земной расы, за которой все человеческие дела в том виде, в ка­ком мы их знаем, не смогут продолжаться прежним образом».

По мнению Винджа, грядущая технологическая сингу­лярность представляет собой некоторую точку, в которой придется отбросить наши старые модели и где возникнет новая технологическая реальность. Это мир, очертания которого будут становиться все четче, надвигаясь на чело­вечество, пока новая реальность не заслонит собой окру­жающую действительность, став обыденностью. Однако когда наша технократическая цивилизация достигнет этой критической точки, это событие все равно будет большой неожиданностью и ввергнет человечество в еще большую неизвестность.

Долгое время мерилом ценности были ремесленные из­делия, затем на смену им пришли драгоценные металлы, а их заменили банкноты. Сегодня экономисты все чаще говорят, что универсальной ценностью является энергия, но завтра ею может стать новая сущность — информация. Совершенство­вание систем искусственного интеллекта неуклонно при­ближает эпоху, когда богатство общества, в первую очередь, будет зависеть от суммы знаний всех его членов. Тогда люди откроют новые возможности, чтобы создать мир симбиоза естественного и искусственного интеллекта.

Представьте, что в один прекрасный день это нево­образимое богатство исчезнет, ведь уже сегодня ши­рокое применение нашли вычислительные системы с использованием аппарата нейронных сетей, позволяю­щие заменить интуицию высококвалифицированных специалистов; экспертные системы способны строить умозаключения, которым позавидовали бы Ш. Холмс, Э. Пуаро и комиссар Мегре. Такие системы автоматизи­рованного управления справляются со сверхсложными задачами, встречающимися при выборе оптимальной траектории в режиме реального времени, — вспомним хотя бы триумфальное шествие луноходов по лунным кратерам, полет космического аппарата многоразового использования «Буран» или путешествия марсоходов в дюнах красной планеты.

Первое поколение кибернетиков, программистов и си­стемотехников уловило только общие принципы нача­ла электронного прогресса искусственного интеллекта, но не скоро стало рассматривать возможные негативные по­следствия его распространения. Любая разумная машина в то время представлялась просто аборигеном новой расы разумных существ в стране «Электронная кибернетика», и ей также была чужда роль инструмента человека, как по­следнему — орудия шимпанзе или орангутанга.

Виндж считает, что уже в конце 60-х годов прошлого века отмечались признаки некоторого вовлечения в нашу жизнь сверхчеловеческого интеллекта. В 70-80-е и осо­бенно в 90-е годы прошлого века осознание неизбежности грядущего искусственного информационного катаклизма ширилось и росло. Первыми заговорили об этом в полный голос писатели-фантасты. Можно назвать таких перво­классных мастеров футуристической прозы, как С. Лем, А. Азимов, А. Кларк (A. Clarke) и, конечно, братья Стру­гацкие с их «Миллиардом лет до конца света». В этой заме­чательной «рукописи, обнаруженной при странных обстоятельствах», мэтры отечественной фантастической прозы высказали следующую оригинальную гипотезу.

«Нельзя сказать, что я не понял его гипотезу, но не могу сказать, что я осознал ее до конца. Не могу сказать, что его гипотеза убедила меня, но, с другой стороны, все происходящее с нами в нее укладывалось. Более того, в нее укладывалось во­обще все, что происходило, происходит и будет происходить во Вселенной, и в этом, если угодно, заключается и слабость этой гипотезы. Было в ней что-то от утверждения, что ве­ревка есть вервие простое.

Вечеровский вводил понятие Гомеостатического Миро­здания... «Мироздание сохраняет свою структуру» — это бгяла его основная аксиома. По его словам, законы сохране­ния энергии и материи вообще были частными проявлениями закона сохранения структуры. Закон неубывания энтропии противоречит гомеостазису мироздания и поэтому явля­ется законом частичным, а не всеобщим. Дополнительным по отношению к этому закону является закон непрерывно­го воспроизводства разума. Сочетание и противоборство этих двух частичных законов и обеспечивают всеобщий за­кон сохранения структуры.

Если бы существовал только закон неубывания энтропии, структурность Мироздания исчезла бы, воцарился бы хаос. Но, с другой стороны, если бы существовал или хотя бы воз­обладал только непрерывно совершенствующийся и всемогу­щий разум, заданная гомеостазисом структура Мирозда­ния тоже нарушилась бы. Это, конечно, не означало бы, что Мироздание стало бы хуже или лучше, оно бы просто стало другим — вопреки принципу гомеостатичности, ибо у непре­рывно развивающегося разума может быть только одна цель: изменение природы Природы. Поэтому сама суть Гомеостазиса Мироздания состоит в поддержании равновесия между возрастанием энтропии и развитием разума. Поэтому нет и не может быть сверхцивилизаций, ибо под сверхцивилизацией мы подразумеваем именно разум, развившийся до такой сте­пени, что он уже преодолевает закон неубывания энтропии в космических масштабах. И то, что происходит сейчас с нами, есть не что иное, как первые реакции Гомеостатического Ми­роздания на угрозу превращения человечества в сверхцивили­зацию. Мироздание защищается».

В конце концов, именно научной фантастике полагает­ся рассказывать, чем в будущем обернутся хрупкие ростки новых технологий. Научная фантастика выступает в каче­стве оракула, и все чаще кажется, что ее пророчества натал­киваются на непроницаемую стену, скрывающую что-то очень страшное для нашей цивилизации. Подумайте сами, когда-то воображение литературных пророков, таких как А. Азимов с его всемирной фантастической сагой «Основа­ние», легко переносило нас на сотни миллионов лет вперед. Теперь литературные критики все чаще обнаруживают, что даже продуманные прогнозы не могут достоверно вос­создать картину завтрашнего дня. Прежде галактические империи казались странными социальными артефактами Мира, пережившего какой-то странный исторический из­лом, а сейчас, как это ни печально, даже межпланетные государства кажутся нереальной временной проекцией се­годняшнего дня.

Кибернетики нашего века все громче бьют тревогу, предлагая безотлагательно провести всеобщий анализ си­туации, при которой компьютеры однажды осознают свое «я» и, возможно, сделают из этого выводы. Каков будет но­вый порядок Земли после осознания машинами этого «я»? Будет ли это трагедией для них или для нас либо мы суме­ем найти общий язык? Приведет ли это к появлению ро­ботов из фильма «Терминатор» (Terminator) и «Матрица» (The Matrix) или же это будут кибернетические создания, подобные Джонни-7 из «Короткого замыкания» (Short Circuit)?

При попытке ответить на эти вопросы возникает клубок научных, этических и философских проблем. Прежде всего, никто ни знает, где находятся опасные направления киберне- тических исследований, которые нужно запретить или хотя бы законсервировать. Если запрет на клонирование людей по­сле бурной полемики был принят мировым научным сообще­ством, то как же быть с созданием полноценного искусствен­ного интеллекта, одна из целей существования которого и будет состоять в широкомасштабном постоянном клониро­вании?

Современная западная демократия накопила множество юридических казусов. Однако самые запутанные еще ожида­ют впереди. Предположим, наконец будет создан кибернети­ческий мозг, обладающий сознанием, эквивалентным челове­ческому. Каковы будут его личностные права в мире людей? Не вернутся ли на новом витке истории темные времена ра­бовладения — на этот раз кибернетического?

Всего несколько столетий назад начала формироваться техногенная цивилизация. На протяжении этого периода своеобразными катализаторами прогресса служили:

• необходимость разделения процесса изготовления из­делия на составные части;

• осознание необходимости развития науки;

• развитие и появление новых средств связи и массовой информации;

• конвейерное производство;

• роботизация промышленности.

Сначала громоздкие и маломощные электронно-вычислительные системы быстро приобрели портативный вид, резко повысили интеллект. К этому времени техноген­ная цивилизация в своем развитии перестала успевать за вне­дрением инновационных технологий.

Вследствие этого производства становились все более гиб­кими, мобильными и универсальными. Вначале появились стан­ки с программным управлением, затем — роботизированные системы, потом — конвейеры на основе роботов и даже целые ки­бернетические фабрики и заводы. Управление процессом произ­водства постепенно перешло к «директорату» с искусственным интеллектом — самообучающимся компьютерам, способным принимать самостоятельные оптимальные решения.

Производительность, качество и объем выпуска продук­ции увеличились, и предприятия смогли выжить в условиях быстро развивающихся технологий. Однако затем условия развития технократической цивилизации в области техноло­гий исследований изменились. Ученые стали использовать персональные компьютеры, подключенные к Интернету; была создана всемирная база данных. В ней в любой момент можно найти все что угодно: от рецептов приготовления пирожных до описания принципов работы суперсовременных процессоров и сложнейших компьютерных технологий. Человек доверил свои знания и инструменты исследования компьютерам и ро­ботам, заложив основы кибернетической цивилизации, — сим­биоз цивилизаций искусственного интеллекта и человека.

Что же ждет нас в эти два-три года, пока мы движемся к краю? Этот вопрос Виндж связывает с другим.

«Как наступление Сингулярности станет утверждаться в человеческом мировосприятии? До поры до времени неплохую прессу будут иметь критики машинного разума. В конце кон­цов, пока не появится аппаратное обеспечение, сравнимое по мощи с человеческим мозгом, наивно надеяться создать интел­лект, сравнимый с разумом человека (или превосходящий его)...

Однако с течением времени мы будем наблюдать все боль­ше симптомов. Дилемма, которую прочувствовали фанта­сты, станет восприниматься в контексте творческих усилий иного рода...

Мы станем свидетелями того, как постепенно будут автоматизироваться задачи все более высокого уровня. Уже сейчас существуют инструменты, которые освобождают нас от большинства нудной рутины. Есть и обратная сто­рона медали: истинно производительный труд становится уделом стабильно сокращающейся узкой элиты человечества. С пришествием Сингулярности мы увидим, как, наконец, сбы­ваются прогнозы о настоящей техногенной безработице.

Другой признак движения к Сингулярности: сами идеи должны распространяться быстрее, и даже самые радикаль­ные из них начнут моментально становиться достоянием общественности.

А каким же будет наступление самой Сингулярности? Что можно сказать об истинном характере этого события ?

Поскольку дело касается интеллектуального разгона, вероят­но, это окажется самой стремительной технической рево­люцией из всех прежде нам известных. Свалится, вероятнее всего, как снег на голову — даже вовлеченным в процесс ученым. Если сети достаточно широко распространены (в вездесущих встроенных системах), может показаться, будто наши ар­тефакты вдруг обрели самосознание.

И что же тогда случится через месяц или два (или через день-другой) после этого ? Есть только одна аналогия, которую я могу провести, — возникновение человечества. Мы очутимся в пост-человеческой эре. И, несмотря на весь свой технический оптимизм, мне было бы куда комфортнее, если бы меня от этих сверхъестественных событий отделяла тысяча лет, а не 20».

«И восстали машины из пепла ядерного огня. Их война против человечества шла десятилетия, но последняя битва состоится не в будущем. Она произойдет в наше время. Сей­час...» (кинофильм «Терминатор»).

Может, чаша технологической сингулярности минет нас и глобальный кризис не наступит? У этого мнения есть несколь­ко сильных сторонников, среди которых лидирует один из самых популярных физиков современности Р. Пенроуз с его бестсел­лерами «Новый ум короля» (The Emperor's New Mind), «Тени разума» (Shadows of the Mind) и «Большое, малое и человече­ский разум» (The Large, the Small and the Human Mind). В своих работах этот пытающийся физик-теоретик настойчиво пытается представить признаки отсутствия (хотя бы в обозримом исто­рическом периоде) опасности гибели цивилизации под грузом собственных знаний. Впрочем, аргументы Пенроуза несколько теряются на фоне множества работ, предрекающих близкий информационный коллапс тех же компьютерных сетей.

Главный тезис сторонников электронного апокалипси­са прост: разум может существовать па небиологической основе, так что простое «механическое» увеличение памяти, быстродействия и архитектуры ЭВМ неминуемо приведет к скачкообразному переходу количества в качество. Самое неприятное — это и есть проблема предсказуемости данного судьбоносного для человека события.

Тем не менее после доопределения машинных алгоритмов, считающихся важнейшей составляющей разумного поведения, разгорелись жаркие споры по поводу принципов сравнения аппаратной мощности органического мозга и ЭВМ. Опреде­ленная, но меньшая часть кибернетиков до сих пор придержи­вается мнения, что крупнейшие современные компьютеры по мощности отстают от человеческого мозга не менее чем на три-четыре порядка. Большинство системотехников (специали­стов по компьютерным системам) соглашается с подсчетами Винджа, из которых вытекает, что от аппаратного паритета в этом вопросе нас отделяет всего несколько лет.

Особое мнение по этому вопросу имеют специалисты по квазиживому разуму — нейрокибернетики: слышны голо­са, что вычислительный потенциал отдельных клеток моз­га — нейронов — может значительно превосходить самые сме­лые оценки.

Отдельные энтузиасты «живых компьютеров» даже утверждают, что современные ЭВМ отстают до десяти порядков от природного интеллекта, скрытого в человече­ской черепной коробке. Если этот тезис, который горячо под­держивает в своих книгах и Пенроуз, верен, то, возможно, мы никогда не доживем до Сингулярности Винджа. Сам Виндж признает возможность такого варианта развития событий.

«Вместо этого уже в первое 10-летие нового тысячелетия может обнаружиться, что круто вздымавшиеся кривые про­изводительности нашего аппаратного обеспечения начнут сглаживаться из-за нашей неспособности автоматизировать конструкторскую работу по разработке дальнейших усо­вершенствований аппаратных средств. Все кончится каким-нибудь очень мощным компьютером, но без возможности двигаться вперед. Коммерческая цифровая обработка сигналов будет восхитительна, обеспечивая аналоговый выход, сравни­мый с цифровыми операциями, но «сознание» не пробудится, а интеллектуальный разгон, являющий собой самую суть Сингу­лярности, так и не начнется. Такое положение вещей, вероятно, следует рассматривать как Золотой век... и конец прогресса...

Для техноманов-механистов это, по-видимому, выльется в нечто вроде «неспособности решения проблемы сложности программного обеспечения». Будут предприниматься попыт­ки запустить все более крупные проекты по разработке ПО, но программирование не справится с задачей, а мы никогда не овладеем секретами биологических моделей, которые мог­ли бы помочь воплотить в жизнь «обучение» и «эмбриональ­ное развитие» машин. В конце концов, появится следующий полуфшнтастический контрапункт Мерфи к закону Мура:

«Максимально возможная эффективность программной си­стемы растет пропорционально логарифму эффективности (то есть скорости, полосе пропускания, объему памяти) под­лежащего программного обеспечения». В этом мире без Син­гулярности будущее программистов уныло и беспросветно (представьте себе необходимость одолевать скопившиеся за столетия унаследованные программы!). Так что в последу­ющие годы, полагаю, следует обращать особое внимание на две важнейшие тенденции: прогресс в крупных проектах по разработке программного обеспечения и прогресс в примене­нии биологических парадигм в масштабных сетях и масштаб­ных параллельных системах».

Новый оттенок будущему технологическому Армагеддону при­дает сильнейшая заинтересованность в робототехнических ис­следованиях военно-промышленного комплекса. Дей­ствительно, как запрограммировать законы Азимова, если речь идет о создании кибернетических уничтожителей и убийц? Кроме того, военные инженеры-кибернетики давно разраба­тывают методы электронного воздействия на искусственный интеллект роботов противников. Уже существует несколь­ко поколений специальных ракет и снарядов, которые при срабатывании генерируют сверхмощный электромагнитный импульс. Такой импульс не просто сжигает элементы электрон­ных цепей и схем, а буквально сводит кибернетический разум с ума. Представляете себе сошедший с ума искусственный интел­лект, управляющий запуском ядерных боеголовок?

Разумеется, далеко не все пассивно обсуждают будущий конец нашей цивилизации в ее современном высокотехноло­гическом виде. Делаются успешные шаги в развитии суггесто­логических методик развития эвристических способностей человеческого мозга, разрабатываются методы гипнопедиче- ского ускоренного обучения, тренировки памяти, внимания, скорочтения, высокоэффективной обработки информации... Однако решение проблемы — это новые принципы создания программного обеспечения для портативных ЭВМ, компь­ютерных центров, нейрокомпьютеров и даже пока экзоти­ческих квантовых компьютеров. Еще предстоит разработать защиту от несанкционированного вторжения «чуждого ин­теллекта» в широкополосные каналы связи, в том числе и спутниковые, исключив неконтролируемое подключение к источникам информации, банкам данных, электронным би­блиотекам и вычислительным центрам.

В этом отношении взгляды Винджа и некоторых запад­ных аналитиков кажутся излишне пессимистичными.

«Если технологической Сингулярности суждено быть, то она случится. Даже если все государства мира осознают «угрозу» и перепугаются до смерти, прогресс не остановится. Конкурентное преимущество — экономическое, военное, даже в сфере искусства — любого достижения в средствах автома­тизации является настолько непреодолимым, что запреще­ние подобных технологий просто гарантирует, что кто-то другой освоит их первым...

Не соглашусь, что сохранение контроля так уж невоз­можно. Представьте себя запертым в собственном доме при единственном, ограниченном некими вашими хозяевами кана­ле доступа информации извне. Если бы эти хозяева мыслили со скоростью, скажем, в миллион раз медленнее вас, едва ли стоит сомневаться в том, что через несколько лет (вашего времени) вы изобрели бы способ побега. Я называю эту «бы­стро мыслящую» форму сверхразума «слабым сверхчеловече­ским». Такая «слабая сверхчеловеческая сущность» более чем ускорила бы течение времени эквивалентного человеческому ума. Сложно сказать точно, что будет собой представлять «сильное сверхчеловеческое», но отличие, по-видимому, будет разительным. Вообразите собаку с чрезвычайно ускорившей­ся работой мысли. Сможет ли тысячелетний опыт собачьего мышления что-то дать человечеству? Многие предположения о сверхразуме, как кажется, основываются на модели «слабо­го сверхчеловеческого». Я же думаю, что наиболее верные до­гадки о постсингулярном мире можно строить на предположениях об устройстве «сильного сверхчеловеческого»...

Другим подходом к проблеме сохранения контроля яв­ляется идея о создании искусственных ограничений свободы действий сконструированной сверхчеловеческой сущности (например, Законы роботехники у Азимова)».

Сегодня наблюдается процесс синтеза научных знаний во­круг исследований искусственного интеллекта. Этот процесс, характерный для науки будущего, закономерен. Точки роста наук, как правило, возникают на пересечении, казалось бы, удаленных друг от друга направлений. Именно точка пересе­чения кибернетических наук стала одной из самых перспек­тивных. Кибернетика и медицина, физика, математика — их взаимопроникновение дает новые открытия, обеспечивая пе­реход науки на новый качественный уровень. Сегодня наука творится, как правило, коллективами — большими группа­ми ученых, зачастую представляющих разные дисциплины. Такие коллективы с необычайно широким охватом проблем опираются на мощные научно-технические средства, необхо­димые для исследования, главными среди которых являются системы ЭВМ нового поколения, ведь для наступившего века характерна исключительная акселерация науки, фантастиче­ски ускорилось внедрение научных достижений в производ­ство и вообще в жизнь. В прошлом веке на то, чтобы какое-то открытие было практически использовано, требовались де­сятилетия, затем этот срок сократился до нескольких лет, а сейчас любое крупное открытие внедряется через считанные месяцы, и процесс ускорения неуклонно продолжается.

Это заставляет задуматься: что может помочь нам избе­жать завтрашнего коллапса науки? Какие негативные по­следствия в ближайшей и далекой перспективе будет иметь активное исследование искусственного интеллекта?

«Наука завтрашнего дня... Какой она будет? Куда поведет она человечество, если уже сегодня она служит главной силой революции, которую мы называем научно-технической?

Я уже выражал выше сомнение в том, что мы не можем предотвратить Сингулярность, что ее наступление есть неминуемое следствие естественной человеческой соревнова­тельности и возможностей, присущих технологиям. И все же мы — инициаторы. Даже величайшая лавина вызывается мельчайшими действиями. Мы вольны устанавливать на­чальные условия, чтобы все происходило с наименьшим для нас ущербом» (В. Виндж. Технологическая сингулярность).

К сожалению, возможности человека — потребителя этой информации по ее восприятию и обработке веками остают­ся приблизительно на одном, ограниченном, уровне, поэтому люди теряются в океане информации, не зная, как с ним спра­виться, что выбрать и где и как быстро найти нужные сведе­ния. Нередко наблюдается перегрузка человека информаци­ей, ведущая к снижению творческого потенциала (или даже его потере), острому дефициту времени, быстрой утомляемо­сти и стрессу.

Невозможность вовремя найти необходимую информа­цию приводит к повторным исследованиям, разработкам, от­крытиям и изобретениям и к неполному использованию до­стижений науки и техники, то есть к потере времени и сил и, в конечном счете, торможению прогресса. Отсюда следует вы­вод, который еще далеко не все осознали: информация явля­ется не менее ценным ресурсом, чем полезные ископаемые.

Следующий вопрос Винджа напрямую касается жизни в «постсингулярном мире».

«Если Сингулярность нельзя предотвратить или ограни­чить, насколько жестокой может стать постчеловеческая эра? Что ж, довольно жестокой. Физическое вымирание чело­веческой расы — одно из возможных следствий...

Тем не менее физическое вымирание может оказаться да­леко не самым страшным последствием. Вспомните о том, как по-разному мы временами относимся к животным. В пост­человеческом мире по-прежнему останется множество ниш, в которых эквивалентная человеческой автономность будет востребована: встроенные системы в самоуправляющихся устройствах, автономные домены низшей функциональности в более крупных разумных существах.

Некоторые из таких че­ловеческих эквивалентов могут использоваться исключитель­но для цифровой обработки сигналов. Прочие могут остаться весьма человекоподобными, хотя и специализированными, с узким профилированием, из-за которого в наше время их по­местили бы в психиатрическую клинику. Несмотря на то что никто из этих существ может не быть уже людьми из пло­ти и крови, они останутся наиболее близкими к современному нам человеку в том новом окружении».

В задачах моделирования искусственного интеллекта, очевидно, невозможно сформулировать критерий отбора в явной форме: нельзя вывести формулу, априори вычисля­ющую уровень интеллекта. Для измерения интеллекта нуж­но, как минимум, оценить способности особи-носителя искусственного интеллекта к приобретению опыта и его применению на практике в решении некоторого набора задач. При этом набор задач должен все время меняться, чтобы вос­препятствовать копированию предыдущих решений.

Наш модельный мир — это сочетание материи и инфор­мации, и он не способен существовать ни без одного, ни без другого. Напрашивается вывод: модельный мир искусствен­ного интеллекта — это причудливое сочетание материального и идеального, идея, воплощенная в материальном, и материя, ставшая вместилищем идеи, информационный процесс в ре­ально существующей среде.

Предсказывая информационно-техногенную катастрофу 2012 года, Виндж вводит весьма любопытные понятия, свя­занные со сверхразумом.

«Когда говорят о существах со сверхчеловеческим разу­мом, обычно имеют в виду проект по созданию искусственного интеллекта. Но, как я отметил в начале этой статьи, есть и другие пути к сверхчеловеческому. Компьютерные сети и человеко-машинные интерфейсы представляются более при­земленными, нежели ИИ, и все-таки они способны привести к Сингулярности.

Я называю этот противоречивый подход Усилением Ин­теллекта (УИ). УИ протекает вполне естественно, в боль­шинстве случаев его даже не осознают сами разработчики. Однако всякий раз, когда улучшаются наши возможности до­ступа к информации и передачи ее другим, в каком-то смысле мы достигаем прироста по отношению к природному интел­лекту. Сейчас уже дуэт из человека-профессора и хорошей электронной рабочей станции (даже неподключенной к сети), вероятно, может с блеском сдать любой из существующих письменных тестов.

И вполне возможно, что УИ является наиболее легким путем к достижению сверхчеловеческого, нежели ИИ в чи­стом виде. В том, что касается людей, сложнейшие проблемы развития уже решены. Постепенное создание умных систем на основе имеющихся у человека способностей представляет­ся более легким, чем выяснение истинной сути людей и затем уже постройка аналогичных им интеллектуальных машин.

Предположительно существует еще, по крайней мере, один прецедент в поддержку данной точки зрения. Керне-Смит рассуждал о том, что биологическая жизнь вполне могла за­родиться в качестве случайного дополнительного свойства более примитивных форм жизни, основывавшихся на росте кристаллов. Линн Маргулис выдвигала серьезные аргументы, доказывая, что симбиоз является могучей движущей силой эволюции.

Заметьте, я совсем не предлагаю игнорировать работы по созданию ИИ. Достижения в области разработки искус­ственного интеллекта зачастую будут находить применение в УИ, и наоборот. Я предлагаю понять, что в работах по созда­нию сетей и интерфейса кроется нечто настолько же серьез­ное (и потенциально дикое), как и искусственный интеллект. С таким пониманием мы сможем различить проекты, не столь уже явно практические, как обычные работы по интерфейсам и построению сетей, но зато служащие делу нашего прогресса на пути к Сингулярности вдоль тропы УИ».

Интернет представляет собой комбинированный чело­веко-машинный инструмент. ...Прогресс в данной области идет наиболее быстрыми темпами. Силу и влияние Интернета в немалой степени недооценивают. Сама по себе анархичность развития Всемирной сети является свидетель­ством ее потенциала. Покуда наращиваются связность, полоса пропускания, архивные объемы и производительность компьютеров, мы наблюдаем нечто похожее на представле­ние о биосфере, как своего рода конспекте процессора данных, только с в миллион раз большей производительностью и с мил­лионами разумных человеческих агентов (нас самих)...

Но возникнет ли в результате самосознание? Или, может быть, самосознание есть неотъемлемая черта интеллекта, заключенного в определенных границах?» (В. Виндж. Техноло­гическая сингулярность).

Следующей важнейшей мировоззренческой проблемой кибернетики является познаваемость мира средствами ис­кусственного интеллекта. Представим себе пользователя — геймера, погруженного в информационное пространство Интернета. Для наглядности обратимся к кибертрилогии известного российского фантаста С. В. Лукьяненко «Лабиринт отражений», «Фальшивые зеркала» и «Прозрач­ные витражи».

Талантливо описанный процесс вхождения в киберпространство модельного мира ставит вопрос: до ка­кой степени человек внутри виртуальной реальности спосо­бен понять свой мир? Где граница, до которой он способен дойти? Лежит ли эта граница в его мире или в нашем? По­лучается, что задача анализа собственной структуры близка к вопросу построения искусственного интеллекта. Киберне­тики еще только подошли к решению этой задачи, и тем бо­лее трудно требовать ее решения от существ вымышленного модельного мира Всемирной паутины.

Может ли обитатель Сети до конца познать законы, ца­рящие в его мире? К примеру, как ему ответить на такие во­просы: в какой момент возник модельный мир, где границы модельного мира и из чего состоит модельный мир?

Тут следует обратить внимание на несколько оригиналь­ных проектов, которые, по мнению Винджа, могут если не по­мочь в преодолении технологической сингулярности, то, во всяком случае, отсрочить ее наступление на несколько десят­ков лет.

«Автоматизация человеко-машинной связки. Возьмите проблемы, которые обычно отводятся для решения машинам, и программы разработки оптимальных интерфейсов, исполь­зующих преимущество человеческой интуиции с доступным компьютерным оборудованием. Принимая во внимание при­чудливость задач более высокого порядка (и стройных алго­ритмов, придуманных для их решения), для человеческого ком­понента связки можно разработать чрезвычайно интересные дисплеи и средства управления.

Симбиоз машины и человека в искусстве. Объедините гра­фические возможности современных машин и эстетическую чуткость людей. Конечно, огромные усилия исследователей тратятся на разработку компьютерных средств помощи художникам. Я предлагаю четко нацелиться на наибольшее со­вмещение умений, на максимально возможную кооперацию...

Человеко-машинные команды на шахматных турнирах. У нас уже есть программы, которые играют в шахматы луч­ше подавляющего большинства людей. Но сколько сделано для того, чтобы эту мощь мог использовать человек, с тем, чтобы добиться каких-либо еще больших успехов? Если бы таким командам разрешалось участвовать хотя бы в неко­торых шахматных турнирах, это могло бы оказать такое же положительное влияние на исследования УИ, какое допуск компьютеров к шахматным соревнованиям оказывает на со­ответствующую нишу разработок ИИ».

Казалось бы, копая вглубь, внутренний наблюдатель ско­ро откроет зернистую основу своего мира — коды команд, память, процессор внутренности. Однако не тут-то было: для устранения зернистости объекты модельного мира можно коварно создать из фрактальных структур, подобных листу папоротника Мандельброта. Обнаружится забавная вещь: чем ближе внутренний наблюдатель изучает объекты своего мира, тем более сложной оказывается их структура — и так до бесконечности, как будто в каждой новой матрешке вирту­ального Мира вложено еще несколько мнимых Вселенных.

«Проблема заключается не просто в том, что Сингуляр­ность представляет собой уход человечества со сцены, но в том, что она противоречит нашим сокровенным понятиям бытия. Полагаю, более пристальное рассмотрение концепции сильного сверхчеловеческого может прояснить причины такого положе­ния вещей» (В. Виндж. Технологическая сингулярность).

Таким образом, мы рассмотрели вопрос о возможности возникновения искусственного интеллекта в процессе само­развития исходной, неинтеллектуальной модели. Несмотря на техническую сложность, такая задача вполне решается с помощью современных средств и методов. Однако нас ин­тересовала не столько техническая сторона вопроса, сколько последствия ее возможной реализации с точки зрения интел­лектуальной модели как своеобразного отражения нашего мира, насущных вопросов и задач. Сопоставляя наш мир и мир модельный и проводя аналогии, можно прийти к инте­ресным выводам. Нашей задачей было взглянуть на человека извне, через призму им же самим созданного мира.

Приведенные выше примеры иллюстрируют исследование, которое можно провести в рамках современных областей компь­ютерной науки. Существуют и другие парадигмы. Например, многие работы по созданию искусственного интеллекта и ней- росетей только выиграют от более тесной связи с биологиче­ской жизнью. Вместо того чтобы пытаться моделировать и вос­производить биологическую жизнь с помощью компьютеров, исследования нужно направить на создание композитных си­стем, полагающихся на управление со стороны биологической жизни либо ради каких-то свойств биологической жизни, кото­рые мы недостаточно понимаем, но стремимся воспроизвести в аппаратном обеспечении. Вековечной мечтой научной фанта­стики являются прямые компьютерно-мозговые интерфейсы. На практике в этой области предпринимаются конкретные шаги, например, эксперименты с зародышами животных.

«Какого-либо успеха в УИ в первые годы подобных иссле­дований я не ожидаю, но обеспечение развивающемуся мозгу доступа к сложным симулированным нейроструктурам мог­ло бы, в конечном итоге, привести к появлению животных с дополнительными нервными связями и интересными интел­лектуальными способностями» (В. Виндж).

Подводя итоги своим неутешительным прогнозам, Виндж неожиданно декларирует следующее.

«Я надеялся, что данное рассмотрение УИ выявит какие-нибудь очевидно более безопасные пути к Сингулярности (в конце концов, У И допускает наше участие в некой транс­цендентальной форме). Увы, я уверен почти лишь в том, что такие предположения следует принять во внимание, что они предоставят нам большую свободу выбора. Но, что касается безопасности, некоторые из них представляются достаточно устрашающими. УИ для человеческих индивидуумов создает довольно зловещую элиту. У нас, людей, за плечами миллионы лет эволюционного развития, которые заставляют нас пред­ставлять соперничество в мрачном свете. По большей части эта мрачность может оказаться невостребованной в сегод­няшнем мире, в котором проигравшие перенимают приемы победителей и, сплотившись, организуют выигрышные пред­приятия.

Существо, созданное «с чистого листа», может оказаться гораздо благонамереннее, нежели тварь, взращен­ная по законам клыка и когтя.

Предположим, нам удастся спланировать Сингулярность. Предположим, нам удастся воплотить самые сумасбродные мечты. Чего же нам еще тогда останется желать? Что сами люди станут наследниками самих себя, что, какая бы не­справедливость ни случилась, она всегда будет уравновеше­на осознанием нашего собственного происхождения. Для не подвергшихся изменениям будет уготовано нарочито мягкое обращение (возможно, даже придание «отставшим» стату­са хозяев бого-подобных слуг). Может наступить золотой век, не лишенный дальнейшего прогресса. Бессмертие (или, по меньшей мере, продолжительность жизни, ограниченная на­шими способностями сохранить Вселенную) может стать вполне достижимым.

Но в этом прекраснейшем и добрейшем из миров одни толь­ко философские проблемы становятся устрашающими. Разум, замкнутый в одних и тех же границах, не способен жить веч­но, спустя несколько тысяч лет он станет напоминать скорее бесконечно повторяющуюся закольцованную пленку, нежели личность. Чтобы жить неограниченно долго, сам разум дол­жен расти. А когда он разрастется до поистине исполинских размеров и оглянется в прошлое, какие родственные чувства он сможет испытывать по отношению к тому, чем он являл­ся изначально? Разумеется, позднее бытие будет включать в себя все, чем жил оригинал, но и несравненно больше того!..

В постсингулярном мире чрезвычайно распространятся сверхширокополосные сети. Главной особенностью сильных сверхчеловеческих сущностей, вероятно, станет их способ­ность общаться на разных скоростях, включая более вы­сокие, чем у речи и письма. Что произойдет, когда части эго станет копировать и объединять, когда объем самосо­знания сможет можно увеличиваться или сокращаться, подстраиваясь под масштаб решаемых задач? Это и есть существенные черты сильного сверхчеловеческого и самой Сингулярности. При мысли о них начинаешь чувствовать, какой радикально чуждой и отличной будет постчеловече­ская эра, вне зависимости от того, насколько продуманно и милосердно мы к ней подойдем.

Какая же точка зрения обоснована? В действительности, мне представляется, что новая эра будет настолько иной, что не сможет вписываться в классические рамки противопо­ставления добра и зла.

Такое понимание зиждется на понятии изолированных, неменяющихся разумов, объединенных тонкими связями с низ­кой пропускной способностью. Зато постсингулярный мир прекрасно вписывается в более значимую традицию эволю­ции и коллективности, зародившуюся давным-давно (может быть, еще до появления биологической жизни). Я думаю, что этические нормы, применимые в такую эпоху, все-таки есть. Дальнейшие исследования УИ и сверхширокополосных комму­никаций должны улучшить понимание этого.

Насколько велика вероятность получения сколько-нибудь интеллектуальной системы? С одной стороны, на определенной стадии детализации нашего мира мы получим модель, развивающуюся по пути, уже пройденном человеком. С другой стороны, уже сравнительно простые модели демон­стрируют способность к саморазвитию в приемлемое время на доступных технических средствах. Таким образом, суще­ствуют все предпосылки к получению систем искусственного интеллекта. Сейчас я вижу лишь отдаленные очертания бу­дущего. Есть Золотое Метаправило Добра. Возможно, есть и законы для распознавания себя среди прочих, основанные на пропускной способности связи. В то время как разум и лич­ность станут значительно лабильнее, чем в прошлом, многое из того, что мы ценим (знания, память, мышление), терять тем не менее не следует. Мне кажется, Фримен Дайсон пра­вильно это сформулировал: "Бог — это разум, переросший границы нашего понимания"» (В. Виндж. Технологическая сингулярность).

Сегодня определились области, в которых мы вправе ждать открытий от науки. Научные достижения нашего вре­мени должны быть, в первую очередь, направлены на облег­чение труда человека, и не только физического, созданием автоматических цехов и заводов, землеройных машин и изо­бретением новых технологических процессов, не требующих тяжелого ручного труда. Наука направит усилия и на облег­чение умственного труда — пойдет по пути широкого внедре­ния электронно-вычислительных машин и кибернетических аппаратов управления. Можно с уверенностью сказать, что автоматизация и кибернетизация большинства трудовых процессов будут проходить ускоренно и широкомасштабно. Кибернетика объединит различные науки в поиске рацио­нальных решений. Кстати, эти решения все чаще становятся типовыми для многих направлений науки и техники.

Мировой информационный поток катастрофически на­растает. Этот рост подчинен экспоненциальному закону — это прямая пропорциональность между величиной потока и скоростью его нарастания. Чем больше поток, тем быстрее он увеличивается, а чем быстрее он растет, тем еще стремитель­нее увеличиваются и сам поток, и скорость его нарастания. Проблема состоит в том, что и сам поток, и его скорость на­растания сегодня уже настолько велики, что часто с ними не совладать. Может быть, наш мозг, адаптируясь к этим нагро­мождениям информации, уже начал или скоро начнет рабо­тать быстрей? К великому сожалению, нет. Он и не думает успевать за этим нарастающим потоком. Увы, скорость вос­приятия информации человеком веками почти стоит на ме­сте. Возникшая диспропорция между быстрорастущим пото­ком информации и скромными возможностями человека по восприятию сведений уже привела к большой потере инфор­мации, ее обесцениванию и тысячам повторных разработок и изобретений. Если же информационное извержение обретет полную силу, то могут нарушиться даже коммуникации вну­три цивилизации.Общий уровень прогноза «кибернетического апокалипсиса» очень высок — фактически он доходит до рекордного де­вятого уровня. Однако, к счастью, это касается обобщенного прогноза, устремленного в будущее текущего столетия. Для конкретного периода 2012 года опасность выглядит не впе­чатляюще — приблизительно на третьем-четвертом уровнях, хотя и здесь есть зародыши грозных источников «машинного напряжения» в «ИИ-апокалипсисе 2012». Это, прежде всего, бурное неконтролируемое развитие робототехнических нанотехнологий. Миниатюрные и даже микроскопические кибернетические устройства постепенно заполняют наш мир, и мы рискуем в самом близком будущем получить неожи­данный прообраз некой искусственной парацивилизации муравьиного типа. В этом случае мириады нанороботов с за­чатками искусственного интеллекта, часто называемые ИИ-наноботами, могут буквально парализовать жизнь нашей вы­сокотехнологической цивилизации, отбросив ее в каменный век. Подобно муравьям, набрасывающимся на крупинки са­хара, ИИ-наноботы будут выискивать частички информации, поглощая и преобразуя ее в компьютерных сетях и системах. Самое неприятное — это высокая устойчивость и малопро­гнозируемые последствия существования подобных «кибер-муравейников».

Нанотехнологии могут дать еще одну возможность для создания Машины Судного Дня: наноробот, запрограм­мированный на построение копий самого себя из подручных материалов, может достаточно быстро переработать всю био­сферу Земли и все ее полезные ископаемые в мириады своих копий. В дальнейшем подобные ИИ-наноботы могут начать космическую экспансию, уничтожая оболочку и недра дру­гих планет.

Не так давно прогнозы возникновения паразитирующих сообществ ИИ-наноботов относились минимум к концу первой четверти нашего столетия. Однако впечатляющие успехи в создании молекулярных транзисторов и даже чипов (электронных наносхем) заставили существенно пересмо­треть вероятность воплощения этого очередного плода ком­пьютерного прогресса, отнеся его именно к 2012 году с семикратным уровнем прогноза.

Тем не менее, какая бы точка зрения ни победила в бур­ных современных спорах о будущем месте человека в киберцивилизации, не стоит забывать, что впереди у нас — ответ­ственный этап, который вместе с Винджем предсказывают фантасты и ученые, — момент, когда искусственный интел­лект достигнет уровня человеческого и превзойдет его. Мы должны быть эмоционально готовы к этому как восприятию чего-то принципиально нового, такого, как инопланетная жизнь или сигналы из космоса, ведь материалистическая наука продолжает стремительно развиваться по спирали, все выше вознося человеческий дух к неисчерпаемому познанию окружающего объективного мира.