Младший научный сотрудник [Андрей Владимирович Швец] (fb2) читать постранично, страница - 3

потому что она основывалась на очевидных законах робототехники. Нельзя человеку делать плохо. Разве можно этому возражать? Трудности начинались при определении: что плохо, а что хорошо. К тому времени уже запретили профессиональный спорт и жареную картошку, как вредящих здоровью людей, что плохо.

Бинарная компьютерная система и основанный на ней ИИ не приемлет неопределенности и всячески ее избегает. Поэтому чипированные всегда выбирают предельно простую концепцию. Но в жизни однозначное деление на хорошо и плохо невозможно. Поэтому ИИ предпочитает учитывать только то, что укладывается в непротиворечивую концепцию. И очень скоро оказалось, что в нее не укладываются квантовые компьютеры.

Я тогда заинтересовался экспериментами по объединению квантовых компьютеров и обычных. То есть они и раньше работали в связке, но обычные контролировали квантовые. В моих же экспериментах все было наоборот, однако мало что получалось. При такой архитектуре нельзя задать задачу и установить критерии. Система становилась непредсказуемой. Иногда она могла делать поразительные вещи, но этого хватало ровно для того, чтобы акционеры продолжали финансирование проекта. Устойчивого результата добиться не получалось.

Однако ситуация изменилась, когда я установил с моим квакомпом особую ментальную связь. Я им не управлял, но каким-то образом передавал ему часть своего осознания. И он заработал удивительным образом, управляя работой подчиненного ему ИИ. Это был прорыв. Компания Заслон из рядового предприятия военпрома превратилась в ключевое звено оборонной стратегии. Обработка отраженных радиосигналов при помощи моего квакомпа позволяла контролировать вооруженные силы всего мира. Теперь наши возможности ограничивались только фантазией военных.

Мне тогда подумалось, что и наше сознание функционирует сходным образом. Нейросеть человеческого мозга работает как обычный компьютер, а осознание выполняет роль квакомпа. Конечно, теперь уже странно было называть ИИ интеллектом, но термин прочно закрепился за обычными компьютерными системами.

Пока я открывал новые возможности симбиоза со своим квакомпом, крепло и общество с бинарной идеологией. Уже нельзя было узнать, кто именно является чипированным. Нельзя было ни задавать подобный вопрос, ни отвечать на него. Каким-то образом многие люди могли чувствовать человека, управляемого неодушевленным ИИ, но высказывать свои предположения запрещалось. Однако животные, особенно кошки и собаки, игнорируя все запреты, очень настороженно относились к чипированным и не стеснялись это демонстрировать.

Постепенно признали нежелательными прилагательные, характеризующие человека, чтобы не дискредитировать его по ним. Если вначале под запретом оказались только характеристики, несущие негативный оттенок, то потом запретили и положительные оценки, чтобы не задевать ими остальных. И, в конечном итоге, отказались от любых описаний. Ведь, например, если назвать кого-нибудь высоким, то может обидеться или он, или тот, кто пониже.

Имя тоже может носить указание на пол или национальность, что тоже было признано нежелательным. В соответствии с новыми требованиями по устранению слов, описывающих различия между людьми, тут же вносились изменения и в литературу. Изменения вводились так часто, что очень скоро почти вся напечатанная литература была признана нежелательной, так как в нее невозможно вносить постоянно появляющиеся правки.

Искусственный интеллект может погибнуть, оказавшись в ситуации неразрешимой для него проблемы, поэтому жизнь строго регламентировалась. Оценки могли быть только однозначными. Все что не укладывалось в бинарную однозначную систему оценок хорошо/плохо –игнорировалось или приводилось в соответствие этим оценкам.

А вот квакомпы не подчинялись формальной бюрократической логике. И они объединили вокруг себя людей, которые видели ее ущербность и искусственность. Чипированная бюрократия не могла этого допустить. Начались гонения на квакомпы и их коллективы. Их закрывали при каждом подозрении на возможный ущерб общей идеологии счастья, как она стала называться. Руководила этим процессом рыжеволосая женщина, моя бывшая подруга. У нее было два главных направления деятельности – ограничение деятельности квакомпов и стерилизация котов. В обоих она преуспела.

Понятно, что среди инженеров квантовых систем стало популярным заводить кошек. Теперь и по нашему бункеру бегало около дюжины таких. А одна рыжая пользовалась особым вниманием сотрудников.

Моя бывшая пришла к нам в бункер, во главе проверяющей комиссии, и сразу прогнала из операторской рыжую кошку. Она приказала закрыть проект и подвергнуть тестированию лично меня. Мне дали бланк со списком людей, событий и явлений, в которых я должен был выбрать: хорошо, плохо или затрудняюсь ответить. Я конечно знал, что последнее выбирать нельзя. И знал, какие оценки от меня ждут. Но тест не прошел. Оказалось, что мой старый пес