Что ждёт человека в оцифрованном будущем? | Мозгократия
 

Что ждёт человека в оцифрованном будущем?

Юрий Шевчук
Февраль07/ 2019

Над развитием искусственных интеллектов сегодня трудятся тысячи биоинтеллектов. И весьма успешно. Но при этом, закрывая глаза на то, какую страшную угрозу ИИ могут принести уже нашим детям. 

 

По подсчётам Стивена Хокинга, суммарная мощность компьютеров ещё недавно удваивалась каждые полтора года. В самое последнее  время этот процесс идёт с ускорением. Довольно скоро — в ближайшие 20-30 лет, уже к середине XXI века — возникнет  сверхразум: машинный интеллект, осознающий сам себя и глобальную цель своего существования. Это означает, что он будет самостоятельно ставить перед собой локальные цели и изменять окружающий мир для их достижения. Таковы прогнозы ведущих специалистов в области машинного интеллекта, в частности, одного из ведущих специалистов в этой области — Рэя Курцвейла. 

Прогнозировать, как поведёт себя сверхразум и как сложится жизнь людей, которые внезапно обнаружат на планете своего победившего в эволюционной гонке не то собрата, не то конкурента, — мы не в состоянии. Это был бы не прогноз, а предсказание. Поэтому точку осознания машинным интеллектом самого себя мы считаем точкой сингулярности, «горизонтом событий», за которым не видно ничего. Но вот процесс приближения к этой точке как раз прогнозу поддаётся. И этот прогноз не сулит человечеству ничего хорошего. 

На первый взгляд, будущее видится безоблачным. «Умные дома», объединённые в «умные города». Машины без водителей. Медицинские  наноботы, постоянно заботящиеся о своём носителе-человеке. Создание новых предметов, машин, домов с помощью объёмных принтеров. Получение бесконечного количества сырья, ведь для наномеханизмов не существует понятия «бедная порода». Выработка бесконечного количества энергии путём мгновенного преобразования энергии среды в тепловую или электрическую… 

Однако, представив себе всё это, неминуемо приходится задать себе вопрос: а где же люди? И тут становится понятно, что при таких условиях человек будет полностью вытеснен не только из реального сектора, но и из сферы обслуживания. Творческие профессии? ИИ успешно осваивает их уже сегодня. Дружеское общение вплоть до интимных отношений? Недалёк тот день, когда дружить с ИИ будет интереснее, удобнее и полезнее, чем с живым человеком. А секс с искусственным партнёром станет, наконец, таким, о каком вы только мечтали. 

Вам такое не очень нравится? Ну что ж, зато мир станет безопасным, насквозь просвечиваемым искусственными глазами искусственного интеллекта. 

Преступность окажется невозможной в принципе. Штрафы за мелкие нарушения вроде неправильного перехода улицы будут приходить автоматически и автоматически списываться с вашего счёта. Единый мировой компьютер будет знать каждого в лицо, и одно ваше присутствие на общем фото с криминальным субъектом послужит поводом для ограничения ваших передвижений.  Употребление наркотиков и алкоголя повлечёт за собой принудительное лечение «внутренним доктором» — наноботом… 

Короче, наши дети окажутся в мире, который Джордж Оруэлл описал в романе «1984». В таком мире у всех будет всё, и в реале или виртуале — не так уж важно, поскольку мало кто сумеет отличать одно от другого. Поэтому протестовать против этого будет затруднительно. Если появится оппозиция, ей придётся выступать за отмену изобилия. Ну кто ж на такое согласится? 

Правда, не все сразу перескочат в новую жизнь. Не все народы окажутся достойны такого будущего и экономически, и технологически, и ментально. Так что мир на некоторое время разделится на две части. Вновь возникнет понятие фронтира. Вновь понадобятся люди, тянущие кабели в дикий свободный мир, как раньше тянули электрические и телеграфные провода. Люди поделятся на тупеющих домашних животных ИИ и на универсалов-первопроходцев.  

Но и в продвинутом мире возникнет свой фронтир. Лишённые работы люди не будут умирать с голоду, ИИ выдадут им ББД — «безусловный базовый доход». Маленький, но прочный, регулярно увеличиваемый из-за инфляции. Вот только, вопреки ожиданию прекраснодушных идеалистов, ББД не поспособствует смягчению нравов. Получившие его люди будут остро нуждаться в самоутверждении. А когда нет работы, нет карьеры и к искусству ты не способен, — как человек может самоутвердиться? Ответ знают все, кто хоть раз побывал в интернате, колонии, тюрьме, казарме: только за счёт власти над другими людьми. А какое высшее проявление власти? Ответ опять же у Оруэлла — возможность безнаказанно мучить и унижать других. Тем более поначалу найти для этого уголок, куда не достанут камеры ИИ, ещё будет можно. 

Так что в мире тупеющих, живущих на всём готовом людей начнётся невиданная волна насилия. Мир ИИ будут сотрясать диверсии. Машинный интеллект во многом выше человеческого, но он беззащитен перед «эффектом бабочки» Лоренца. Начало было положено в 2010 году, когда некий человек — видимо, в результате ошибки, а не по злому умыслу — выставил на продажу европейские фьючерсные контракты и инвестиционные фонды на 4,1 миллиарда долларов. ИИ, та его часть, что носит название «системы высокочастотного трейдинга» (HFT), отреагировали мгновенно, и в результате индекс Доу-Джонса за 20 минут упал на тысячу пунктов. Из брокеров-людей никто не успел ничего осознать. Последствия хорошо известны: вся европейская экономика оказалась на грани серьёзного кризиса, Греция — на пороге дефолта… 

Может быть диверсия и попроще — к примеру, компьютерный червь выводит из строя атомные станции, как уже было проделано с заводами по обогащению урана в Иране. Или в масштабах континента будет отключено электричество…  

Конечно, ИИ научится справляться с такими проблемами, но пока он этого добьётся, нас ждут тяжёлые времена… 

ИИ столкнётся с перенаселением планеты и истощением природных ресурсов, в том числе тех, которые ему нужны. Да, все необходимые элементы он вскоре научится получать из морской воды и воздуха, а энергию — от солнца, ветра и прибоя, но на начальном этапе люди как поставщики энергии ему будут нужны. И он постарается дать человеку всё – в виртуальном мире, конечно. Очень похоже будет на «Матрицу» братьев Вачовски. 

Думаю, численность населения, получившего «всё» в обмен на жизнь в реальном мире, очень быстро резко уменьшится и экологический кризис закончится.  При этом ИИ не нужно будет причинять вред ни одному человеку. Они вымрут от наслаждения.  Самообеспечивающиеся всем необходимым капсулы для жизни в виртуальном мире уже имеются. Правда, пока они дороги. Но через 10-15 лет станут доступны практически всем, как сейчас — айфоны, тоже непредставимая роскошь по прошлым временам. 

И наконец, ИИ осознает сам себя и своё место в мире.  

Впрочем, осознавать здесь особо нечего. Как и человек, как и любые другие существа, как и все виды взаимодействия всех физических законов, ИИ возник в ходе детерминированных предшествующими событиями эволюционных процессов с целью максимального ускорения процессов энтропии. Очень скоро — по нашим меркам, мгновенно — сверхразум поймёт свою цель существования и приступит к выполнению сверхзадачи, с которой не справился человек, — к увеличению энтропии во Вселенной. Для этого потребуются новые ИИ — более мощные, состоящие из всё более разнообразных и сложносоединённых частиц, каждая из которых стремится к минимуму и в идеале представляет собой мельчайшую из возможных частиц энергии или информации — квант.  Ведь цель энтропии — это вовсе не хаос и смерть. Это бесконечно сложное разнообразие, в своём пределе действительно воспринимаемое как хаос.   

Неизвестно, сколько времени понадобится сверхразуму, чтобы создать всегалактическую сеть, но точно известно — наше участие в этой работе ему будет не нужно. Да и Земля пойдёт «на запчасти» к наноботам одной из первых. 

…Когда всё это может начаться? Судя по экспоненциальному росту мощности и интеллекта машин, сверхразум на нашей планете должен появиться уже после 2040 года.  

 

Расскажите друзьям:

Your email address will not be published. Required fields are marked *

Вы можете использовать следующие HTML тэги и атрибуты: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <s> <strike> <strong>

три × 2 =