Илон Маск — и далеко не он один — утверждает: искусственный интеллект (ИИ) превратит наших внуков и детей в существа второго сорта! Неужели это правда, и человечество обречено?
Пессимистенки и Оптимистенки
Ещё в конце 1960-х Артур Кёстлер предположил, что homo sapiens — вовсе не венец природы, а возможная ошибка эволюции. Ну, а если это так, нам уготован такой же печальный конец, какой настиг тысячи видов вымерших животных [7. С. 222–223].
Станислав Лем был чуть более оптимистичен. Он прогнозировал «биологическую автоэволюцию человека» [8. С. 16–17]. Это фактически означает умирание прежнего homo sapiens и возникновение нового, в искусственно улучшенном варианте.
Другой Станислав, Ежи Лец, ещё раньше с присущим ему юмором расценил грядущую ситуацию так: «Техника достигнет такого совершенства, что человек сможет обходиться без себя» [9. С. 392].
Всё это было бы и вправду смешно, когда бы не было так пугающе грустно.
Экспериментальные роботы уже сегодня демонстрируют удивительную способность к самообучению и совершенствованию. Так что у Илона Маска есть все основания считать, что ситуация станет опасной очень скоро. А потому уже сегодня должно быть ясно — после того, как ИИ «окажется умнее самого умного человека на Земле», регулировать взаимоотношения с этим монстром «может быть уже слишком поздно» [3. С. 19]. У Маска немало сторонников, к тому же он — крупный бизнесмен, деловой человек и не привык бросать слова на ветер.
Впрочем, не менее авторитетные Эрик Бриньолфсон и Эндрю Макафи (оба из Массачусетского технологического института) «готовы поручиться, что люди, умеющие порождать идеи, будут и дальше иметь сравнительное преимущество над машинами» [6. С. 249–250]. Иными словами, если вы человек творческий, роботы вам не страшны.
Вот и Марк Цукерберг заверяет — ИИ никогда не приведёт человечество к апокалипсису, но, напротив, принесёт лишь пользу [1].
…Ну, и кому прикажете верить?
Киборг — тоже человек
Вся история homo sapiens — это история улучшения самого себя. Человек совершенствовал свой интеллект, своё здоровье, продлевал свою жизнь… Для этого он повышал качество потребляемой пищи, условий быта, инфраструктуры мест собственного проживания… На этом пути были поистине революционные преобразования — появление научной медицины, фармации и здравоохранения, научно обоснованной системы образования и методик обучения…
Так почему же в будущем, получив новые технологические возможности, человек ими не воспользуется для редактирования своего генома и внедрения в свой организм чипов, качественно улучшающих знание, память, активизацию мышления? Тем более первый шаг на этом пути уже сделан. Что такое наши персональные компьютеры и смартфоны, как не универсальные чипы, которые пока просто слишком громоздки и несовершенны, чтобы вшить их нам в головы!
Да, сегодня апгрейд homo sapiens многим людям — наверное, даже подавляющему большинству — покажется чудовищным святотатством, аморальным преступлением. Но уверяю вас, когда такое чипирование станет необходимостью — отношение к нему наверняка быстро изменится.
Вспомните: едва в конце XIX и особенно в ХХ столетии экономике и вооружённым силам понадобились физически здоровые да к тому же высоко грамотные люди, как во многих странах тут же возникли разветвлённые структуры здравоохранения и образования. Ничего удивительного — если перед тобой враг, вчерашнее мировосприятие мгновенно устаревает. И как только искусственный интеллект станет серьёзным конкурентом человеку, люди воочию убедятся, что ещё немного и они перестанут быть единственным и главным демиургом на планете. И тогда у них останется только один выход — стать киборгами.
Когда это произойдёт?
Думаю, почти каждый читатель, задав себе этот вопрос, в ответ захочет услышать — нескоро. Конечно, даже более или менее конкретных сроков никто не знает. Но ясно одно — такое может произойти быстрее, чем нам хотелось бы. Цефализация машин, как это называют специалисты, уже идёт вовсю.
Её подстёгивает постоянно растущий объём информации. Ещё совсем недавно мы страдали от её недостатка, а теперь страдаем от избытка.
— Послушай, что тут пишут. Это интересно, — говорит нам кто-нибудь из домочадцев.
— Не надо, — отвечаем мы. — Не грузи меня лишней информацией.
И это правда. Нам хватает тех знаний, которые необходимы нам для жизни, работы и любимых увлечений. А всё интересное способен вместить только мощный компьютер.
Такова ситуация на обыденном уровне. Но если вы следите за международными событиями, вы, несомненно, обратили внимание, сколько неверных решений принимают главы государств и дипломатических ведомств. Это не оттого, что они дураки или невежи. На этом уровне люди сталкиваются с таким огромным массивом постоянно меняющейся информации, что охватить её, осмыслить и сделать правильные выводы и прогнозы крайне сложно даже для крупного интеллектуала.
Тем временем цивилизация уже стоит на пороге внедрения технологии 5G. А это, по словам генерального директора ПАО «Мегафон» Геворка Вермишяна, «возможность передавать огромные объёмы данных практически неограниченному числу абонентов со скоростью от 1Гбит/с… На квадратном километре к сети может быть подключено до миллиона устройств. <…> 5G позволит внедрить перспективные технологии: беспилотный транспорт и телемедицину, интернет вещей, виртуальную и дополненную реальности» [4. С. 28].
Роботы рядом с нами
Машины с ИИ уже прочно вошли в нашу жизнь. Но этот интеллект пока примитивен — он полностью зависит от того, что в него заложили.
Что же удивляться, когда моего товарища и коллегу регулярно банит одна из соцсетей. То она воспринимает строку Лермонтова «бежали робкие грузины» как разжигание национальной розни, хотя эта цитата была приведена по поводу, не имеющему ни малейшего отношения к любимым в России грузинам, а то расценивает известную остроту Остапа Бендера «убивать надо таких знатоков» как призыв к насилию.
Известна история клиентки одного уважаемого банка, которую тамошний робот не идентифицировал по отпечатку пальца.
— Что вы хотите от моих пальцев? — воскликнула, не сдержавшись, клиентка и в ответ тут же получила:
— Пальцы бы вам отрезать! — после чего ответственным менеджерам пришлось замаливать перед женщиной грех своей машины.
Крупнейший по числу клиентов банк России тоже несёт убытки по вине своих роботов, и немалые. Пару лет назад глава Сбера Герман Греф признался, что ошибки их ИИ уже обошлись в несколько миллиардов рублей [2].
Негативных примеров хватает. Но немало и положительных. Искусственный интеллект успешно работает в медицине, участвуя в диагностировании заболеваний и проведении хирургических операций. В Сан-Франциско ещё десять лет назад начала работать аптека, в которой фармацевтом работал робот. В первый же год он обработал два миллиона рецептов, ни разу не ошибившись, чего не скажешь о его коллегах, которые из плоти и крови [10. С. 370].
Шесть лет назад «нескольким сотням сотрудников… офиса Epicenter в Стокгольме вживили в ладонь микрочипы. …Один из инициаторов нововведения, Юханнес Шёблад, объяснил: “Мы постоянно контактируем с техникой. Сегодня это довольно муторно: везде нужны пин-коды и пароли. Не проще ли просто коснуться рукой?”» [10. С. 57].
Роботы трудятся и в других отраслях — в бизнесе, в финансах, на производстве… В прошлом году журнал РБК сообщил, что в мире за вторую половину десятых годов только в сфере образования инвестиции в использование искусственного интеллекта выросли с 0,8 млрд до 6,1 млрд долларов [5. С. 25].
Основатель Alibaba Group Джек Ма считает, что уже в середине нашего столетия журнал Time назовёт лучшим генеральным директором года господина (или госпожу?) ИИ [4. С. 20]. Возможно, так оно и будет, если, конечно, к тому времени останутся Time да и сама Alibaba Group, ведь в нашем мире всё меняется с калейдоскопической быстротой.
* * *
Футурологи обещают, что компьютер в виде вживлённого в человека микрочипа станет не только помощником улучшенного человека, но и его советчиком. Личный ИИ посоветует, в каком городе и на какой улице вам лучше жить, куда ехать отдыхать, во что вложить деньги, как и где завести друга и даже с кем именно создать семью…
Удобно? Ещё бы!
Но, чем грандиознее новая технология, тем больше опасностей она в себе таит.
Во-первых, не будет ли этот личный советник консультировать своего хозяина в чьих-то чужих интересах — бизнес-компаний, властей, да просто кибер-мошенников?
Во-вторых, не приведёт ли такое чипирование ещё к одному виду неравенства, прибавив к социальному и материальному расслоению человечества интеллектуально-биологическое?
Наконец, в-третьих, как микрокомпьютер в голове человека отразится на его психоэмоциональном здоровье и поведении, на его отношениях с другими людьми, в том числе не улучшенными?
И ещё один вопрос: сумеют ли завтрашние люди своевременно решить эти и другие проблемы?
Литература
- http://www.vladtime.ru/nauka/591932
- https://www.rbc.ru/finances/26/02/2019/5c74fde89a794753b7737f0f
- Журнал РБК. 2019, ноябрь. №1
- Журнал РБК. 2019, ноябрь. №11
- Журнал РБК. 2020, № 9
- Бриньолфсон Э., Макафи Э. Вторая эра машин. М., 2017
- Кёстлер А. Человек — ошибка эволюции // Время и мы: Альманах литературы и общественных проблем. М.–Нью-Йорк, 1990
- Лем Ст. Сумма технологии. М., 1968
- Лец С.Е. Почти всё. Екатеринбург, 2005
- Харари Ю.Н.Homo Deus. Краткая история будущего. М., 2019
