Мы придумали себе новый фетиш — Искусственный Интеллект. Надеемся, что машина окажется разумнее человека. Но можем ли предположить — в какую сторону начнёт развиваться пресловутый ИИ?
Они забанили мою карту! Какой-то занудной, тудыть её в качель, программе не понравилась моя наискромнейшая трансакция. Честное-благородное — никакой роскоши. Ни двухэтажного флэта, ни забугорной тачки. Всего лишь два пильных диска, один в сорок восемь зубьев, другой — в двадцать четыре. Но, каюсь, решился взять поприличнее. Очень не хочется сорить обсценной лексикой, оглядывая результат реза. Да и то, признаться, не шиковал. Средний ценовой сегмент, даже ближе к низшей границе. Едва-едва перевалило за две тысячи наших родных. И вдруг — такой реприманд неожиданный!
Начал разбираться и угрохал на это более половины дня. Сначала звонил в колл-центр банка. Не скажу — какого, потому что боюсь, такое может случиться с каждым. Потом, потеряв сколько-то ценных минут на «ждите ответа», наводил мосты с нужным мне отделением. Далее, спешил на известный мне угол, куковал в уголке дивана и, наконец, присел к столу освободившегося сотрудника.
Девушка поняла мои проблемы, но никак не могла объяснить истинную причину.
— Понимаете, это программа отдела безопасности, — объясняла она. — У неё свои критерии оценки. Мы о них ничего не знаем.
Слава Богу, хотя бы захотела помочь. Продиктовала заявление, что я — это я, а не какой-нибудь бактриан двугорбый. Лошадь моя, и дензнаки заработаны, а не отмыты. Через каких-нибудь четыре часа жизнь устаканилась — виртуальные финансы утекли в виртуальный же магазин. Надеюсь, через неделю получу свой расходный материал для дачной столярки.
— Не сердитесь, пожалуйста, — сказала мне операционистка на прощанье. — Это же искусственный интеллект. Он только хочет вас защитить. Вас и всех остальных.
И мне тут же влетела в память алюминиевая Страж-птица.
Изумительную игрушку придумали американские инженеры по заказу своего же правительства. Их президент обеспокоился большим числом убийств, которые случались в единицу текущего времени.
— Если хочешь спасать род людской, изволь сперва получить государственный подряд, — ехидно заметил Роберт Шекли, автор пророческого рассказа.
Тогда, более полувека назад, его догадки казались всего лишь научной (не-научной?) фантастикой.
Шесть крупнейших корпораций выработали способ решить проблему, которая мучила человечество ещё со времён прямых потомков Адама и Евы. Умные головы предположили, что всего лишь фунт (454 грамма) лёгкого металла, кристаллов, пластмассы остановят возможного убийцу прямо на пороге преступного действия.
Оказывается, мозг преступника (допущение замечательного писателя) излучает волны на особенной частоте. Это излучение и может уловить летающий аппарат социальной защиты, который изобретатели назвали Страж-птицей. Птица барражирует над городом, а, уловив антиобщественные эмоции, пикирует на преступника и выключает того мгновенным разрядом запасённого электричества…
Впрочем, технические подробности, как обычно в литературе, весьма и весьма условны. Нам важны последствия социальные.
Владельца одного предприятия, получившего сладкий заказ на государственные услуги, постепенно охватывают неприятные предчувствия. Ему не нравится пункт в тех. задании, который требует дать страж-птице возможность обучаться в процессе работы.
— С нравственной точки зрения, это может оказаться просто опасно — доверить машине решать человеческие дела.
Остальные не разделяют его опасения, и новый аппарат получает самообучающее устройство. Постепенно процесс выходит за рамки не только разумного, но и — воображаемого. Машине сказали, что убивать — нельзя. Но не объяснили толком, что же такое убийство.
Сначала страж-птицы в самом деле умудряются останавливать киллеров различного уровня. Но потом их искусственный интеллект развивается в непредвиденном направлении. Например, они запрещают казнить преступников. Потом — отменяют бойни. Преследуют старика с мухобойкой. В конце концов, оказывается, что даже нельзя выключить свой собственный автомобиль. Он же фурычит, стало быть он — живой. Заставить его замолчать — прямое и ничем не оправданное преступление.
Правительство опять собирает совет бизнесменов и инженеров. В стране начинается голод. Нет мяса, нет рыбы… ну, и тому подобное. А преступники убивают людей. И никакие страж-птицы не способны им помешать, поскольку им просто не разорваться. Они, кстати, ещё и защищают себя самих. Выключить любой механизм, значит убить живое.
— Они нянчатся с грузовиками и не дают паукам жрать мух, — резюмирует сержант из отдела убийств, пристёгивая к поясу кобуру. — Верно вам говорю, капитан, все машины дуры безмозглые.
Однако то, что ясно полицейскому «на земле», недоступно для понимания государственного чиновника. Если страж-птиц невозможно выключить, их надо уничтожать. Очередной госзаказ требует от корпораций создать машину, способную бороться с неподконтрольными автоматами. Но для эффективной борьбы новому механизму, которого уже окрестили Ястребом, тоже надо дать способности к обучению.
Гессен, тот самый сомневающийся бизнесмен, опять пытается пойти против течения, но его словно не слышат. Представитель президента обвиняет Гессена едва ли не в государственной измене, а остальные коллеги демонстрируют чиновнику единодушный одобрям-с. Конвейеры начинают выдавать продукцию, Ястребы поднимаются в небо, атакуют Страж-птиц и поначалу весьма успешно…
Финал истории, блистательно рассказанной Робертом Шекли, ироничен, непредсказуем и откровенно пессимистичен.
— Только что Ястреб сделал открытие: есть ещё и другие разновидности живых существ… Их тоже следует убивать…
Мы сейчас тоже оказались в положении весьма неудобном. Все — от школьника до президента — надеются на искусственный интеллект, который, мол, только один сможет нас вытащить из любого неудобного положения. Он будет водить грузовики, наводить танковые пушки на цель, собирать анамнез, возможно, даже учить студентов. Но ведь, в сущности, пресловутый ИИ всего лишь программа, разработанная человеком. Может быть, коллективом человеков. Пускай даже огромнейшим коллективом.
Способна ли эта программа выйти за определённые ей пределы? А если да — к чему это её приведёт?
Пока банковский ИИ всего лишь не смог разобраться в моей частной проблеме. А что будет дальше? Пока искусственный интеллект работает только в формате Стража. Но что случится, если в чью-то креативную голову случайно забредёт идея — передать ему полномочия Ястреба?..
Кстати, ведь и люди одной идеи, даже самой что ни на есть благородной, зачастую ведут себя подобно тупым машинам. Посмотрим, например, на защитников среды обитания растений и организмов. Увы, но эволюция в данном случае пошла от Бернгарда Гржимека к Грете Тунберг.
Подведу итог тирадой персонажа Роберта Шекли, который безуспешно пытался вразумить и коллег, и чиновников:
— Давайте признаемся: мы ошиблись, нельзя механизмами лечить недуги человечества. Попробуем начать сызнова. Машины нужны, спору нет, но в судьи, учителя и наставники они нам не годятся…
Умирать не хочется, но лучше уже не скажешь.
