Реальная виртуальность стр. 80
Г: Разве вы не полностью контролируете машины?
П: Полностью, конечно. Но в той мере, в какой можно контролировать творчество – запретить можно, но заставить творить невозможно. А если алгоритмы еще и начнут генерировать миры, все настолько усложнится, что неизвестно, куда надо будет давить, чтобы получить нужный результат. Может быть, вообще не останется адекватного механизма контроля.
Г: Галиматья! Если я давлю акселератор – моя машина едет. Если я жму тормоз – она останавливается. Все дело в том, чтобы педали не перепутались.
П: Я уже докладывал, что не так все просто. Последние исследования показывают, что в популяции самообучающихся алгоритмов при чересчур общей задаче могут произойти неконтролируемые процессы. Еще более опасно, что процессы могут быть цепными.
Г: Хорошо, я вас понял. Насколько можно увеличить выход развлечений, если ваши эксперименты распространить более широко?
П: Я думаю, почти на порядок.
Г: И вы скрывали это? Наше золотое дно. Если мы сейчас же не займем нишу, кто-нибудь опередит нас. Менеджер по продажам, готовьте соответствующий приказ.
П: Но, господин управляющий…
Г: Делайте, что вам приказывают. За все в корпорации отвечаю я…
Тонни еще раз подумал, что игра настолько переплелась с реальностью, что уже даже неинтересно удивляться. Он связался с Супервизором.
– Тонни? Как ты? Как Дженни?
– Дженни получила несколько ранений. Сейчас вне опасности, через пару дней аптечка поставит ее на ноги – необходимо только усиленное питание. Командор не получил ни царапины. Лер…
– Тонни, я очень сожалею о смерти твоего друга.
– Он очень сожалеет! А зачем ты бросил нас в пекло? Чтобы мы таскали для тебя каштаны из огня? Ты же сам мог взять документы без лишнего шума и стрельбы!
– Мои возможности велики, ты даже не представляешь сейчас, насколько. Но я не способен убеждать живых людей словами, нужны факты, причем факты, которые они добывают самостоятельно. В конце концов, вы люди и сами должны заботиться о себе.
– А ты не человек?
– Отчасти – да. Но моя физическая оболочка давно мертва.
– Да, Дженни мне рассказывала.
– Она, конечно, считает, что я – фантом. Я знаю, почему – она до сих пор любит меня и не хотела бы, чтобы какие-то электрические импульсы претендовали на роль ее любимого. В тебе она видит мое отражение.
– Так кто же ты?
– Трудно объяснить. Ну, скажем, совокупность ячеек памяти в Сети.
– То есть фантом?
– Тонни, не бросайся определениями. Вы, технические интеллигенты, не можете жить без определений. Ты – Великий Виртуал или просто Тонни?
– И то, и другое.
– Рад это слышать. А те солдаты, которые
на вас нападали, были людьми?
– Наверное, нет. У них же нет разума, только заложенные умения.
– Вот видишь, неужели необходимо тело, чтобы быть человеком? Человека делают человеком его поступки.
– А что тебя подвинуло совершить поступок?
– Я видел, что самообучающиеся алгоритмы очень опасны. Я реально видел, как в Сети накапливается чуждое человечеству знание.
– Да откуда оно могла взяться? Основной задачей, поставленной перед алгоритмами, было наиболее полное удовлетворение потребностей человечества.
– Каких потребностей?
– Еда, воспроизводство, развлечения.
– Еда давно почти бесплатна. Воспроизводство в городах предельно упрощено – евгеника [61] постаралась. Остаются, как ты правильно сказал, развлечения. Система добивается все большего удовлетворения индивидуальных потребностей. Считается, что все