Сценарий третий: биржевой апокалипсис

Еще об одном сценарии скорой Четвертой мировой можно (и, наверное, даже нужно) рассказывать долго и сложно, но я проявлю сострадание... До недавнего времени я наивно полагал, что «кванты» – это неделимая порция энергии. Но на Уолл-стрит, как выясняется, свое понимание физики: там «квантами» называют специалистов по финансовой математике – тех самых, что уже оставили без работы и выкинули на улицу прежних, так хорошо известных нам по кино и новостным кадрам брокеров. Биржевые залы стремительно пустеют – на смену людям приходят математические алгоритмы.

Если верить гарвардскому ученому и бизнес-ангелу Александру Уисснеру-Гроссу, те средства, которые банки и хедж-фонды затрачивают на создание искусственного интеллекта, уже сейчас превышают совокупные затраты IT-компаний на те же цели. И удивляться тут нечему: деньги должны делать деньги, и, если нужно потратить деньги на то, чтобы делать деньги, за деньгами дело не станет. Некоторые из существующих алгоритмов уже сейчас умеют общаться друг с другом и осуществляют сделки за миллисекунды. Ни один человек не способен составить им конкуренцию в этой – самой большой – финансовой игре. Такова новая реальность «системы высокочастотного трейдинга» (HFT).

О том, что это за монстр, мир узнал в 2010 году, когда какой-то (тогда еще человек) трейдер умудрился одновременно выставить на продажу европейские фьючерсные контракты и инвестиционные фонды на сумму в 4,1 миллиарда долларов. В результате его ошибки стоимость соответствующих контактов по E-Mini S&P 500 упала на 4% за 4 минуты. Алгоритмы HFT уловили падение и начали автоматическую распродажу, другие алгоритмы тут же начали покупку, сопровождавшуюся распродажей других ценных бумаг для получения средств на эти покупки.

Запустился чудовищный механизм цепной реакции, в результате которого за двадцать минут индекс Доу-Джонса упал на тысячу пунктов. Никто не успел понять, что происходит, вмешаться и остановить эту компьютерную панику. По большому счету, это, конечно, ерунда: кто-то потерял, кто-то нашел. Всегда так бывает. Но в результате этой «ерунды» Греция оказалась на грани дефолта, подвергнув системному кризису всю европейскую экономику. И это был только первый случай подобной «паники» примитивных биржевых искусственных интеллектов, впоследствии аналогичные эпизоды повторялись неоднократно.

Понятно, почему банки и хедж-фонды не жалеют денег на «кванты». Непонятно, чем все это закончится. Не случится ли так, что какой-то из биржевых игроков создаст искусственный интеллект, пусть и не тьюринговский, но способный переиграть остальные алгоритмы на рынке, раньше других? Так и случится – кто-то, с неизбежностью, будет первым. Но станет ли он победителем, когда его монстр искусственного интеллекта, вышедший на мировой финансовый рынок, обрушит всю систему, а вместе с ней и мировую экономику?

Алгоритму наплевать на греческие пенсии, да и вообще на всю реальную экономику. Если его цель – заработать, то никакого сострадания, а тем более «социальной ответственности», ожидать от него не приходится. Да, сработают какие-то системы защиты, остановка торгов и т. д. Но смогут ли они после этого возобновиться? И как все это будет работать, если нет? С учетом того, что на мировых биржах, в принципе, давно торгуют воздухом из гигантского мыльного пузыря, появление такого игрока грозит всей системе тотальным крахом. Сработает та самая «скорость недоверия», о которой я уже рассказывал в статье «Кризис “Капитала 2.0”», а дальше… Возвращаемся к первому сценарию – нет электричества, транспорта и денег.

Какая глупая смерть.

***

Три приведенных сценария, конечно, не исчерпывают всей палитры возможностей. Но все они, надо признать, какие-то унизительные. Трудно представить, что о столь бесславной кончине нынешней цивилизации наши далекие потомки сложат красивую легенду. Да, Четвертая мировая может стать войной между умными машинами и людьми-героями. Но окажемся ли мы сами достаточно умными, чтобы добежать до того момента, когда машины обретут свой ум и наш грядущий Армагеддон будет действительно прекрасен?

Обо всем этом мы, вероятно, поговорим уже в следующий раз.

Идиоты

Олигофрения – это болезнь, а вот идиотизм – наше с вами далекое прошлое и, к сожалению, самое ближайшее будущее.

Первые симптомы наступающей дебилизации уже налицо – например, данные соцопросов по России и президентские выборы в США. Да, и министр Лавров высказался вполне определенно: «Дебилы,...»

Но это только цветочки. Ягодки впереди.

Как понять загадочный тренд на всеобщее оглупление? Для этого мы рассмотрим удивительный парадокс: проблема в самом интеллекте, который, по природе своей, всегда заточен на убийство.

Рабство, религиозные конфликты, мировые войны, геноцид, террор – все это проделки ума. А теперь мы создаем интеллект, который уничтожит нас всех – как вид, то есть как разумных людей.

Те, кто осознал эту опасность, активно разрабатывают «дружественный» человеку искусственный интеллект. Это заслуживает всяческого уважения. Впрочем, и они, эти умнейшие из людей, не понимают главного: интеллект не может не убивать.

***

Адам и Ева – не выдумка и не ветхозаветная сказка. Это были совершенно реальные люди – из плоти и крови. Правда, жили они не в Раю, а в Африке.

Наша общая мама – каждого из нас, всех ныне живущих людей, – родилась примерно 150 000 лет назад. Наш общий папа, как и положено «принцам на белом коне», серьезно подзадержался – примерно на 80 000 лет (антропологи вычислили «хромосомную Еву» по митохондриальной ДНК, а «хромосомного Адама» – по полиморфизмам Y-хромосомы). Но на генетическом уровне эта романтическая встреча все-таки состоялась.

Спустя еще каких-то 70 000 лет Карл Линней даст потомкам этой счастливой «супружеской пары» общее имя – Homo sapiens. Линней назвал нас разумными, не без основания полагая, что уникальной особенностью этого биологического вида является чрезвычайно мощный, по сравнению с другими homo, интеллект.

К моменту, когда новорожденный Homo sapiens зашагал по планете, ее населяли другие люди – неандертальцы, эректусы, денисовцы и прочие наши близкие родственники (всего как минимум шесть подвидов людей). И все они пали жертвой сообразительности sapiens’a: ничем более не примечательный – низкорослый, голый, не обладающий особой физической силой, но умный примат уничтожил их всех.

***

Доставшееся нам «царствование» над природой не было помазаньем божьим. Этот трон мы завоевали в кровопролитной межвидовой войне с другими людьми: настоящий доисторический геноцид. Конечно, это немножко не та история человечества, какой бы мы хотели ее видеть. Но что поделаешь?

Наш ум – хитрость, способность к кооперации, производственные умения, – стал оружием массового поражения. Когда же мы избавились от видовых конкурентов и влезли с интеллектуальной приступочки на мировой трон, обозначилась очевидная проблема: оружие есть, и хорошее, а вот простаивает.

Впрочем, интеллект жертву себе всегда найдет – хоть «внешних врагов», хоть «внутренних». А то, что борьба развернулась сугубо внутри нашего же вида, то есть с врагом очевидно неглупым, пошло интеллекту только на пользу: одно дело – конкурировать с глупыми зверюшками, другое дело – с умным врагом (есть на ком потренироваться).

В борьбе за власть мы развивали в себе чудовищный макиавеллизм: революции и перевороты, репрессии и «враги народа»... Все это надо было еще выдумать! На борьбу же с «внешней угрозой» мы бросили етитскую мощь научной мысли: всё здесь, начиная с китайского пороха и заканчивая хлором и атомной бомбой, – сущее интеллектуальное соревнование.

Если бы Гитлер не был по натуре припадочным истериком и не дал бы своим гениям-евреям разбежаться (а собрал бы их в «шарашку», как Берия, например), мы бы тут с вами сейчас не разговаривали. Но сглупил, к счастью. И проиграл.

***

Итак, атомную бомбу, обещающую нам «гарантированное взаимоуничтожение», мы выдумали. И что теперь? Снова тупик. Начались войны экономические, корпоративные, информационные, геополитические, технологические, кибервойны, наконец. Но ведь это все сплошная эскалация чистого интеллекта!

Впервые в истории человечества страшное оружие под названием «интеллект» отделилось от своего носителя и вышло во внешнюю среду – в цифровое, виртуальное пространство. Это теперь уже не мой ум и не ваш, а живущее само по себе, вне нашего непосредственного контроля, существо.

Мы еще, конечно, можем вырвать вилку из розетки и задавить конкурента в зародыше. Но кто ж на это решится? Никто. Да и зачем? А скоро он сам будет контролировать производство энергии…

Пока этот новый а-ля разумный вид Modus sapiens (назовем его, например, так) – нечто примитивное, относительно простенькое. Впрочем, мы уже его не понимаем: программисты нейронных сетей не знают, что в этом «первичном бульоне» варится и кто из него выродится.

Мне, конечно, скажут: мол, о чем вообще речь, понятно же, что искусственный интеллект никогда не станет человеком, не пройдет теста Тьюринга, да и вообще, где мы, а где эти тупые, не знающие экзистенциальных кризисов машины?

Думаю, примерно в той же логике рассуждали брутальные неандертальцы, завидев первого в своей жизни – хилого, голого, карликоподобного – сапиенса.

***

Штука в том, что искусственному интеллекту совершенно нет нужды становиться человеком, чтобы низвергнуть нас с трона. Это ведь только кажется, что предстоит бой святой и правый. Вовсе нет. Как раз наоборот.

Прародителям современного человечества вовсе не нужно было становиться неандертальцами, чтобы превратить самих неандертальцев в задачку для будущих антропологов. Напротив, подобная стратегия стала бы фатальной ошибкой.

Так и искусственному интеллекту вовсе необязательно быть человекообразным, чтобы предать нас истории. Ему, например, вполне достаточно просто обезоружить нас – лишить сначала необходимости, а затем и самой способности думать.

Мышление, по большому счету, лишь поведенческий навык, а всякий навык легко утрачивается. Не следует переоценивать человеческий мозг, эта штука со времен нашего великого африканского исхода ничуть не изменилась – весьма, надо признать, примитивный агрегат.

Да, у мозга человека большой потенциал к обучению, и да, наша культура (язык и прочие знания о мире) – всё, что впихивают в нас первые 20 лет жизни, – штука сложная. Но если наш мозг не дрессировать, если ничего в него вот так – силой – не впихивать, мы останемся милым приматом, ничем не отличающимся от шимпанзе.

Так что речь не про отдельно взятого «маугли» – целые цивилизации бесследно исчезали с лица земли. И не просто какие-нибудь критяне со своим «критским письмом», но и весь Древний Египет, Древняя Греция, Древний Рим.

Мы хоть, подобно Карлу Линнею, и пользуемся латынью, но не знаем, как она звучала. Не знаем, потому что всю эту культуру просто ликвидировали. Остались только поросшие сорняком развалины, да переписанные когда-то арабами манускрипты.

***

Воевать с нами в лоб, действительно, бессмысленно. Но искусственный интеллект, судя по всему, и не будет этого делать. Действуя по принципу «мягкой силы», он просто лишит нас соображаловки, а мы на этом и кончимся.

Он уже научился за нас считать и писать – просто диктуй, а он посчитает, запишет, отправит, переведет на любой язык, если нужно. «Рублиштейна! Рублиштейна!» (© С. Шнуров) Скоро он станет неплохим собеседником, причем на любую тему – IT-компании активно работают над созданием таких ботов. Он уже сочиняет музыку – можете послушать очаровательную Emily Howell (просто скачайте в iTunes) или, например, Google Magenta Music. Он пишет статьи, сценарии к фильмам и даже художественную литературу большой формы.

На глазах у изумленной, но невнимательной публики исчезают целые области человеческой деятельности, превращаясь в функционал искусственного интеллекта. Автопилоты, например, не просто уничтожат профессию водителя, они уничтожат всякое наше знание о вождении. Как водить машину, будут знать только компьютеры Tesla и Google со товарищи.

Впрочем, исключению подлежит всякий «человеческий фактор», не только на транспорте. Понятно, что нам не нужны, например, врачебные ошибки. И конечно, скоро компьютеры нас от них избавят. Я уже рассказывал о сообразительной машине IBM Watson – той, что обыгрывает людей в Jeopardy!. Но эта игра – лишь рекламный трюк, потехи ради.

На самом деле Watson призван полностью заменить врачей и уже неплохо с этой задачей справляется. Представьте себе капсулу: вы в нее залезаете, она вас сканирует, делает расчет с учетом всех существующих медицинских знаний и выдает вам индивидуальное лекарство. Ни один врач на это не способен и никогда способен не будет. Тогда зачем он нужен? Все в сад, товарищи!

Больше того скажу: скоро нам даже для секса собственный интеллект не понадобится. Пока мы все еще им активно пользуемся, это ведь универсальное средство обольщения. Но скоро качество виртуального секса будет несопоставимо выше, чем любой реальный секс с живыми людьми.

Нам предложат идеальных партнеров, которые будут хотеть нас всегда и в любом виде. Ложишься в капсулу и делаешь (или с тобой делают) все, о чем можно только мечтать. И это, заметьте, без выноса мозга, обязательств, риска беременности, инфекций... О чем тут думать-то?!

Думать будет не нужно совершенно. Даже о том, в какую капсулу залезать, потому что, скорее всего, это будет одна-единственная капсула – полного цикла: с автопилотом, жизнеобеспечением, медицинскими услугами и массой развлечений, которые нам пока даже не снились.

«Матрица» – какое все-таки гениальное сделали кино братья-сестры Вачовски! Одного только не учли создатели футурологического шедевра: не поможет нашему Нео «красная таблетка», он даже выбрать ее осознанно не сможет, потому что будет клиническим идиотом – нормальным таким кроманьонцем. Ну, или Адамом, если кому-то так больше нравится.

***

Правда в том, что нет никакой такой особенной – человеческой – интеллектуальной деятельности, которую бы мы осуществляли посредством некой трансцендентальной связи с Божественным Космосом. Нет ни того, ни другого, ни третьего. Есть просто навыки решения тех или иных вполне себе утилитарных задач. И поверьте, решать эти задачи куда лучше без людей – устающих, допускающих ошибки и еще требующих к себе особого отношения.

Люди как средство производства больше цивилизации не понадобятся. Впрочем, это, понятно, будет уже другая цивилизация. Не плохая и не хорошая, а просто другая. Мы в свое время уничтожили других людей за счет своего разума, теперь созданный нами разум уничтожит нас – как вид, как тех самых сапиенсов. Ведь даже если победитель окажется «дружественным» и сохранит нам жизнь, как сапиенсы мы существовать перестанем.

Некоторые почему-то считают меня новым луддитом. Упаси господь! Я отнюдь не против искусственного интеллекта, научного прогресса и обещанной нам – прежними фантастами и нынешними учеными – технологической сингулярности. Этот «новый мир» представляется мне вполне «дивным», и в соответствующую капсулу, если верить Курцвейлу, я даже смогу успеть (в 2045 году мне будет всего лишь 71 год).

Проблему я вижу лишь в одном пункте, о чем уже неоднократно писал на «Снобе»: мне хочется сохранить способность получать интеллектуальное удовольствие. На эту жертву я пока совершенно не готов, а риск, к сожалению, слишком велик. Но о том, как именно мы все можем, неожиданно для себя, превратиться в идиотов, я, пожалуй, расскажу как-нибудь в другой раз.

Сверхчеловек

Если бы у вас была реальная возможность сделать своего ребенка невероятно умным и здоровым, вы бы согласились? К сожалению, способ будет предложен нетривиальный. Но не спешите отвечать, подумайте.

Кто-то, наверное, скажет, что ему его ребенок дорог и мил в любом случае – больной, неполноценный, умственно отсталый. Поэтому, если речь идет о каких-то «странных» технологиях, то нет – спасибо, не надо.

А теперь усложним задачу. Допустим, вы узнаете, что мир, в котором вашему ребенку предстоит жить, не будет сострадателен к слабым. Вообще. Порвет его на маленькие кусочки. Что вы скажете теперь?

Работы по созданию сверхчеловека идут полным ходом.

Мы привыкли думать, что эволюция – это такая дряхлая, медлительная тетенька, которая никак не может перейти дорогу. Мол, мутации – это дело случая, а если какие-то скачки и происходят, то лишь по причине глобальных экологических катастроф.

Но современные технологии в области медицины, биологии, генной инженерии и электроники – стритрейсеры. Они рассекают по дорогам мирозданья, наплевав на правила, и уже давно сбили Тортиллу биологической эволюции аккурат на том самом пешеходном переходе.

Давайте взглянем в лицо фактам: за 200 тысяч лет существования человека на этой грешной земле его средняя продолжительность жизни выросла примерно в два раза. Это, конечно, боль­шой рывок. Но только за последние сто лет она выросла еще в два раза. Сравните: 200 000 и 100.

Согласитесь, что-то явно пошло не так. И продолжает идти.

Причем возраст – это только один из показателей. Есть еще рост, вес, патоморфоз болезней, уровень IQ…

Тот путь, по которому развивается современное человечество, одни ученые гордо называют «генно-культурной эволюцией» (Кевин Лаланд), другие – «технико-физиологической эволюцией» (Роберт Фогель), третьи – уже без особого энтузиазма – эволюцией «метабиологической» (Джонас Солк). И, пожалуйста, не думайте, что это бред. Пусть само по себе это ничего и не значит, но Фогель и Солк все-таки нобелевские лауреаты.

Мы радикально недооцениваем то воздействие, которое цивилизация оказывает на наш биологический вид. В руках человечества теперь невероятный потенциал реконструкции нашей с вами базовой биологической матрицы.

Мы не только устранили естественный отбор (что само по себе является, мягко говоря, радикальным решением с непредставимыми последствиями). Мы, кроме прочего, можем теперь свободно вмешиваться в генетический код, клонировать органы, а очень скоро будем изменять себя и технически, превращаясь в самых настоящих киборгов.

Возможности, которые здесь открываются, практически безграничны.

После того как Крейг Вентер синтезировал в 2010 году первую в мире искусственную бактерию, а проще говоря – искусственную жизнь, трудно представить, что хоть кто-то всю эту вакханалию сможет остановить. «Синтетическая биология» уже обещает нам возможность полного клонирования нашей ДНК с целью ее последующего ремонта.

И американский Конгресс может сколь угодно торжественно запрещать клонирование и работу со стволовыми клетками, но в чем смысл? Ученые просто переезжают в Китай, Израиль, Японию, Австралию или Сингапур, где их ждут с распростертыми объятиями и новейшими лабораториями.

Впрочем, и киборг уже не вымысел. Не буду рассказывать про коленные протезы, оснащенные самообучающимся искусственным интеллектом (Rheo Knee компании Ossur) – им уже больше десяти лет и это скучно. Куда важнее то, что можно делать с нашим мозгом.

После того, как Уильям Доббел создал в 2002 году первую технологию, позволяющую переводить изображение с обычной видеокамеры непосредственно в мозг человека (минуя глаза, глазные нервы и прочие анатомические «излишки»), мы оказались в поистине новой реальности.

Теперь совершенно очевидно, что наш хваленый мозг – это просто серверное пространство. И ученые – тот же Рей Курцвейл – уже работают над новым для мозга программным обеспечением, а также над нестандартными средствами доставки в него информации.

Да, у наших органов чувств масса ограничений, но почему бы не подключить к нему, например, электронный микроскоп и супермощный телескоп? Почему бы не перепрограммировать наш мозг, зная его «язык», его «код» и весь набор «уязвимостей нулевого уровня»?

Иными словами, биологический и интеллектуальный апгрейд – это уже не вымысел фантастов, а самый настоящий, уже наступивший дивный новый мир.

Теперь от этой залихватской футурологии перейдем к убогой правде жизни и посмотрим на все открывающееся нам великолепие с другого ракурса.

Новая технология способная изменить человека и саму реальность нашего существования, но это палка о двух концах. Всякое научное открытие, как и с атомной энергией, может быть использовано как во благо человечеству, так и во зло.

В конце концов, даже американцы, вроде как ограничивающие исследования в области клони­рования и синтетической генетики, совершенно очевидно врут и активно ведут двойную игру.

Если верить WikiLeaks, Хиллари Клинтон, еще будучи госсекретарем, поручила своим посольствам за границей тайно собрать образцы ДНК всех глав государств и высокопоставленных чиновников ООН. Что за странный фетиш? – спросите вы. Предполагается, что это сделано в рамках проекта по созданию индивидуального, то есть ориентированного на геном конкретных людей, биологического оружия. Теоретически это вполне возможно.

Сделать человека лучше и вправду сложно, но генетики новой волны уже вполне могут создать вирус, способный распознать и уничтожить индивидуальный ДНК-код какого-нибудь конкретного узурпатора. И тогда, реши Госдеп это оружие применить, страдания отравленного полонием-210 Литвиненко покажутся этому врагу Америки самым настоящим блаженством.

Да, можно сколь угодно долго потешаться над этой конспирологией, но правда в том, что вы, при всем желании, не сможете достать ДНК президента США. Где бы он ни оказался, за ним всюду следуют люди, которые изымают каждый предмет, к которому это священное для США ДНК могло прилипнуть.

Посуда, из которой президент ел, стакан с водой, которым он воспользовался, его постельное белье – все это обрабатывается или просто уничтожается, чтобы враг не получил эту «главную тайну» США. Поверьте, скоро президенты перестанут пожимать избирателям руки. Спецслужбы США и ФСО РФ запретят.

А как быть с технологиями, которые напрямую влияют на работу мозга человека? Это ведь только с одной стороны мы, киборгонизируя человека, открываем перед ним невиданные возможности. С другой – мы по сути полностью подчиняем его внешнему программному контролю. А за этим скрывается весь объем рисков – от абсолютной политической диктатуры до хакерских атак на конкретные мозги, на множество мозгов.

Секретные службы всех более-менее развитых стран мира сбились с ног, не зная, откуда им теперь ждать беды. Силы и средства, выделяемые государствами на создание, выявление и предупреждение подобных угроз, поражают воображение.

Задумайтесь: совсем недавно межгосударственные кибератаки казались нам чем-то совершенно невообразимым. Но только мы об этом заговорили, как выяснилось, что все необходимые технологии уже в деле. То, что лишь казалось нам научной фантастикой, уже было самой настоящей реальностью.

Причем закономерность одна и та же: нечто начинается как благое дело (например, борьба Ассанжа и Сноудена за права человека), но уже через миг – это средство самой настоящей межгосударственной политической войны. Обама и Путин, сталкиваясь лбами, тут же начинают в жесткой форме обмениваться соответствующими угрозами.

Потому наивно было бы полагать, что в научной сфере, которая занимается созданием сверхчеловека и тратит на эти цели десятки миллиардов долларов, до сих пор не родилось ничего путного.

А зная природу человека, зная его амбиции, склонность к агрессии, его страсть к уничтожению ближних и к противостоянию по любому поводу, ждать мирного применения этого нового «атома» стоит не скоро. Началом будет «радиоактивный пепел», а там уж как повезет.

Ладно, допустим, что мир опомнится и обретет разум. Все чиновники ООН, уже сдавшие свою ДНК спецслужбам, осознают риск и выйдут с плакатами на Таймс-сквер. США, Китай и Россия (а также Израиль, Иран и Саудовская Аравия) решат, что плохой мир лучше доброй ссоры, вскроют свои технологические карты и запретят любые исследования, способные привести к модификации человека – хоть генетической, хоть ментальной.

Звучит само по себе, конечно, абсурдно и нелепо, но представим. Поможет ли нам это?

В основе любой «гонки вооружений» – хоть научной, хоть политической, хоть геополитической – лежат наши амбиции, страсть к доминированию и прочие проявления иерархического инстинкта. Но, даже если мы заставим этот инстинкт замолчать, мы вряд ли захотим умирать. Это уж точно! А все технологии, о которых мы ведем речь, напрямую связаны с возможностью почти неограниченного продления жизни.

В суррогатном варианте – это «цифровое бессмертие»: огромная научная программа по расшифровке коннектома человеческого мозга скоро завершится, а это значит, что мы получим возможность транспонировать себя в «облако» и жить в нем вечно. Причем качество этой «цифровой» жизни будет, судя по всему, куда лучше, чем жизнь в реальном мире, исполненном соматического и психологического страдания.

Искусственную чувствительность нам легко наладят – процесс уже запущен. Так что, даже будучи просто компьютерной программой, мы сможем вести и полноценную «личную жизнь», полную любых гедонистических проказ. Последние, кстати, будут куда краше, чем настоящие. Это при использовании LSD не знаешь, чем обернется очередной трип, а тут можно будет производить необходимые эффекты с гарантированным качеством. Разве не прекрасно?

Впрочем, для луддитов есть и не суррогатный вариант бессмертия: та же синтетическая биология и генная инженерия в скором времени обрадуют нас индивидуальными, направленными средствами борьбы с раком и Альцгеймером.

Победа над генетическими заболеваниями, атеросклерозом, вирусами и прочими нашими обычными несчастьями тоже не за горами. Нужно только продолжать и продолжать научные исследования – закон экспоненциального роста товарища Мура продолжает работать как часы.

Стоп. Мы же тут с вами, оценив возможные риски злокозненного использования современных научных технологий, представили, что правительства всех стран объединятся и совместным волевым усилием запретят «четвертую технологическую революцию».

Да, запретят. Должны. Но жить-то хочется. Этого хочется и тем, кто будет запрещать, и тем, на кого такие запреты не распространяются.

Главные последствия наступающей «четвертой технологической революции» – это тотальная безработица и радикальное перераспределение богатства. Технологии вымывают человека из производств, включая уже и те сферы, которые всегда казались нам сугубо человеческими, – сферы «творчества».

Еще чуть-чуть, и нейросети уничтожат не только офисных служащих, рабочих на предприятиях, продавцов, водителей, биржевых брокеров и программистов, но и художников, журналистов, фильммейкеров, музыкантов. Скоро все это будет меняться самым странным образом – непосредственно в наших VR-очках, а то и VR-мозгах.

Новый «цифровой капитализм» будет характеризоваться радикальным экономическим неравенством. На вершине этой всемирной пирамиды окажется несколько сотен (может быть, тысяч) человек, которым будут принадлежать соответствующие нейросети и технологии (включая технологии бессмертия), а всем остальным будет предоставлена одна большая лапа – на пососать.

Проще говоря, небольшой горстке людей будет разрешено все, а остальным – ничего. Генно-техно-мета-физиологическая эволюция сделает очередной виток, на котором мир людей разделится на два новых вида – «сверхлюди» и «овощи» с «безусловным гарантированным доходом» для оплаты подключения к VR-матрице.

Всякая война заканчивается возведением стен. И я не знаю, где будет пролегать стена после «четвертой мировой» и как именно она будет выглядеть, но то, что она будет практически непроницаемой, по-моему, вполне очевидно.

Создатели сериала «Мир Дикого Запада» считают, что магнаты и владельцы нового мира будут развлекать себя удовлетворением примитивных инстинктов в специальных Диснейлендах. Наивно. Но даже если и так, никто не запретит этим «королям жизни» попасть и в тот самый центр Лабиринта: создать для себя и своих детей бессмертие.

А как, вы думаете, эти бессмертные будут относиться к смертным? За ответом на этот вопрос далеко ходить не надо. Он уже был всесторонне проблематизирован в столь популярных еще совсем недавно сериалах про бессмертных вампиров. Как к мясу.

Так что теперь я позволю себе слегка модифицировать вопрос, с которого начал. Что вы решите, если перед вами будет стоять выбор – превратить своего ребенка в генно-модифицированного киборга или пусть ему будет уготована роль мяса?

Вот так выглядит теперь базовый экзистенциальный выбор.

Полагаю, что меня в очередной раз обвинят в том, что я запугиваю добродушных граждан. Быть может. Мне скажут, что я перегибаю палку? Соглашусь.

Но такова психология человека: если вы хотите, чтобы он над чем-то задумался или вообще просто что-то заметил, скажите это ему так, чтобы он вздрогнул.

Big Data

Вы все еще ощущаете себя «венцом творения»? Зря.

Обыватель уверен, что мы никогда не создадим искусственный интеллект, который будет обладать «личностью» и «сознанием» как у человека.

Большинство ученых, занимающихся разработкой искусственного интеллекта, полагают, что это случится уже где-то через 40–60 лет.

Но правда в том, что сама эта задача абсурдна. Уже очень скоро нами будет управлять искусственный интеллект, который не имеет с человеческим разумом ничего общего. И именно поэтому он будет намного умнее нас.

Впрочем, почему «будет»? Как показала феерическая предвыборная кампания Трампа, этот интеллект уже есть! Знакомьтесь…

Начнем, пожалуй, с небольшого и нехитрого следственного эксперимента. Посмотрите на пункты, представленные ниже, и скажите, насколько указанные факторы влияют на ваше настроение?

1. Ситуация на работе.

2. Продолжительность сна.

3. Физическое самочувствие.

4. Погода на улице.

5. Был ли секс накануне.

6. День недели.

7. Фаза менструального цикла (касается только женщин, разумеется).

Уверен, что задание не показалось вам сложным. Кому-то из нас важно хорошо выспаться. Другим секс заменяет RedBull. Третьи ждут пятницы как манны небесной. Четвертые горят на работе.

В общем, тут все ясно, понятно и закономерно. Но проблема в том, что вы ошиблись. И не важно, как именно вы ответили.

Два социальных психолога из Гарварда – Дж. Вейсс и П. Браун – попросили студенток заполнить эту анкету, а затем методично наблюдали за ними в течение нескольких месяцев. Фиксировались все упомянутые факторы, а также действительное настроение молодых женщин в течение каждого дня.

Мы, конечно, считаем наше сознание невероятно мощным, но его действительное КПД курам на смех

Выяснилось следующее.

Во-первых, все студентки пребывали в тотальной иллюзии – никакой корреляции между их ответами и реальным положением дел обнаружено не было.

Во-вторых, все женщины, заполняя свои анкеты, отвечали примерно одно и то же. То есть у гарвардских студенток есть некая единая (и предельно неадекватная) концепция того, что влияет на их женское настроение.

Гарвард вряд ли представляет собой исключение из общего правила, а его студентки вроде как круглыми дурами быть не должны. А это значит, что выводы данного исследования касаются каждого из нас.

Но как может быть, что мы живем в совершенно искаженной модели реальности и не замечаем этого?

Все дело в нашей с вами «личности». Наша хваленая «личность», как показали исследования социального психолога Ли Росса и нейрофизиолога Маркуса Рейчела, лишь «история», «сказка», которую мы сами себе рассказываем, чтобы сохранять иллюзию собственной здравости.

Примерно тот же фокус и с нашим «сознанием». Мы, конечно, считаем его невероятно мощным, но его действительное КПД курам на смех. Рассуждая, мы можем удерживать в сознании не более семи-девяти объектов, а делая выводы, способны учесть не больше трех-четырех параметров.

Конечно, и этим можно гордиться, особенно сравнивая себя с кольчатыми червями. Но глупо делать то же самое, когда нашим конкурентом выступает машина, которая, принимая решение о нас и нашей жизни, учитывает неограниченное множество элементов ситуации.

Да, искусственный интеллект не сам стал таким сообразительным, но и не мы сделали его таковым, не надо обольщаться. Всему виной человеческая глупость и высокомерие: мы, не осознавая рисков, разоблачились перед ним подчистую, провели, так сказать, полный скрининг своей «экзистенции».

И теперь искусственный интеллект знает про нас все. Это, собственно, и есть та самая BIG DATA, а по-русски говоря, «большие данные».

Искусственному интеллекту не надо «думать»: он просто учитывает все факты и действует соответствующе

Когда компания Google только начала придумывать свой автомобильный автопилот, она планировала создать робота-водителя, подобного человеку. Но скоро стало понятно, что это тупиковый путь: слишком криво и неэффективно человек решает элементарную по сути задачу – добраться до места, соблюдая правила ПДД, и ни с чем по дороге не столкнуться.

Тогда Google стала разрабатывать «умный автомобиль» – мол, если не получается сделать чатланина, то хотя бы пепелац с гравицапой изобретем! Но в 2016 году закрыла и этот проект.

Выяснилось, что для создания автопилота не нужен ни человекообразный робот, ни особенный автомобиль. Достаточно предоставить искусственному интеллекту все данные, относящиеся к задаче, и он справится с ней сам – без нас и лучше нас.

Выводы, которые делает искусственный интеллект, управляющий автомобилем на основании бесчисленного множества данных (с карт, камер, датчиков, контроллеров и т. д., и т. п.), совсем не те, что делаем мы с вами, когда сидим за рулем. Честно говоря, мы даже не знаем, какие он выводы делает. Да и «выводы» ли это?

Искусственному интеллекту не надо «думать»: он просто учитывает все факты и действует соответствующе.

Мы пытаемся обхитрить узость и ограниченность собственного ума, а потому лишь фантазируем о том, как бы решить задачу. Он же просто ее решает, а поэтому и выигрывает – в шахматы у Каспарова, в го у Ли Седоля. Скоро победит и в «Формуле-1», причем с парализованным Шумахером на борту.

Или вот посмотрите, как работает переводчик Google – это же диво какое-то расчудесное! Но как он научился так складно писать на всех языках?

Сначала разработчики допустили ту же самую ошибку: они пытались учить машину языку, как первоклашку из школы для детей с отставанием в развитии. Но толку от этого было мало.

Так что и в этом случае создатели искусственного интеллекта плюнули на попытки очеловечивания электроники, загрузили в систему все документы ООН (которые, понятно, одновременно переведены на большинство языков), и искусственный интеллект сам обнаружил в этих файлах все необходимые ему взаимосвязи.

Знает ли переводчик Google язык так же, как знаем его мы? Нет. Знает ли он правила языка, которые знаем мы? Нет. Понимает ли он, о чем идет речь, когда он переводит слово за словом, предложение за предложением? Нет.

А ему и не надо, он просто очень хорошо решает поставленную задачу – сначала выявляет скрытые в больших массивах данных одному ему понятные закономерности, а затем использует их в работе уже с другими данными. Получается идеально.

Короче говоря, там, где мы действуем интуитивно, впотьмах и, мягко говоря, не всегда успешно, искусственный интеллект, взращенный на нивах больших данных, работает четко, строго и результативно. Правда, мы не знаем как. Больше того, мы нашим ограниченным сознанием этого и не поймем.

Все это я к тому, что пора уже забыть научно-фантастические фильмы о восставших роботах и законы робототехники Айзека Азимова. Когда нас накроет волна сверхмощного искусственного интеллекта, основанного на механизмах нейронного обучения и BIG DATA, мы даже не заметим, как нас сделали.

Впрочем, именно это уже и случилось. Однажды в Америке… Трамп.

Почти вся американская пресса была против Трампа. Но Дональду хоть бы хны: в ог

⇐ Предыдущая123

Поделиться:

Воспользуйтесь поиском по сайту: