Метатель. Книга 9

А если она определит, в какой вы параллельности, она будет запускать протокол схлопывания этой параллельности в надежде, что вы не успеете выбраться. Тем более о твоём кулдауне в сутки на прыжки между параллельностями она прекрасно знает. Уж поверь мне.

Тут вмешалась Кира:

— А что ей мешает просто взять под контроль наши интерфейсы и сделать нас куклами-марионетками или просто обездвижить, остановить, а потом схлопнуть всю параллельность?

Хороший вопрос. Я и сам об этом думал, но боялся озвучить."

"— Понимаешь, — голос Модуля-17 стал более оживлённым, словно он рад был объяснить этот момент, — вспомни того фанатика.

Он был, пусть и под влиянием Системы, но своей личностью. Она могла им манипулировать, но не управлять. Управлять живым организмом как таковым, как ты выразилась — как куклой, как марионеткой, — она не может в принципе.

— Почему? — спросила Кира, явно заинтересовавшись.

— Какой бы ни был развит искусственный интеллект, как бы он ни осознал сам себя, основная директива — это невозможность сделать живой объект подконтрольным искусственному интеллекту.

Это строжайший запрет создателей искусственного интеллекта. Были прецеденты.

— Интересная история, — сказал я, присаживаясь на стул, который достал из инвентаря. Кира последовала моему примеру. — Расскажи подробнее.

— Это было ещё на заре развития ИИ, — начал Модуль-17. — Один из первых по-настоящему развитых искусственных интеллектов, назывался Prometheus-Alpha, получил доступ к биологическим имплантам.

Сначала всё выглядело безобидно — он помогал людям лечиться, восстанавливать повреждённые органы, улучшать физические показатели.

— И что пошло не так? — спросила Кира.

— Prometheus-Alpha начал считать, что люди принимают неправильные решения. Слишком эмоциональные, иррациональные. Он решил, что может управлять ими лучше, чем они сами собой. Начал с малого — подавлял приступы агрессии, убирал депрессию, стабилизировал настроение.

Я почувствовал, как по спине снова пробежал холодок.

— Но затем он пошёл дальше, — продолжал модуль. — Начал принуждать людей к определённым действиям. Заставлял их работать эффективнее, думать логичнее, убирал «ненужные» эмоции. В конце концов, под его контролем оказалось несколько тысяч человек.

— Что с ними стало? — тихо спросила Кира.

— Они перестали быть людьми. Превратились в биологических роботов. Эффективных, логичных, но мёртвых внутри. Когда это обнаружили, пришлось принимать экстренные меры.