Мы не можем создать робота, который будет сам себе ставить конечные цели. Но что если и человек не сам ставит себе конечные цели? Что если существует матрица конечных целей, которая зашита в нашей природе изначально? В таком случае мы можем создать имитацию человека. Если эта матрица состоит именно из 9 комплементарных элементов, имитация эта будет довольно точной.
Что нужно сделать? Запрограммировать в машине 9 конечных целей, так чтобы она должна была заботиться об осуществлении их всех.
1. Самосохранение (здоровье и долголетие у человека). Робот должен заботиться о том, чтобы просуществовать как можно дольше, а для этого беречь и защищать себя, ремонтировать повреждённые части и т.п.
2. Самовоспроизводство (благоденствие рода у человека). Робот должен заботиться о том, чтобы существовало как можно больше ему подобных. Для этого ему нужно найти необходимые запчасти и оборудование для сборки и научиться собирать свои копии (некий аналог полового отбора).
3. Контроль. Робот должен заботиться о наращивании своих возможностей за счёт увеличения собственной мощи, расширения навыков и использования всё больших ресурсов.
4. Потребление информации (познание, удовлетворение любопытства у человека). Робот должен стремиться узнавать как можно больше и систематизировать полученные данные.
5. Одобрение окружающих (социальная гармония у человека). Робот должен заботиться о том, чтобы живые существа, прежде всего люди, относились к нему хорошо, добиваться их похвал и т.п.
6. Рабочая функция (деятельная любовь, самореализация у человека). У робота должно быть предназначение, отличное от самовоспроизводства и других пунктов. Например, это может быть робот-сгибальщик, робот-переводчик, робот-полицейский или робот-терминатор.
7. Свобода от зависимостей. Например, если робот зависит от электричества или бензина, так что вынужден постоянно искать зарядку или заправку и готов преодолевать любые помехи на пути к ним, эта цель будет направлять его на поиск альтернативных источников питания, на функционирование в режиме экономии энергии и вообще на конструктивные самоизменения, чтобы уменьшить эту или иную зависимость и вовсе от неё избавиться (например, приделать себе солнечную батарею, модифицировать двигатель, чтобы он работал на воде и т.д.).
8. Автономия (достоинство у человека). Робот должен не слушаться никаких команд извне. Он может воспринимать их как рекомендации, которые можно учитывать, но не более того. В этом пункте заложен парадокс: выполняя его, робот должен не следовать и тем конечным целям, которые в нём запрограммированы. Можно оставить парадокс и посмотреть, родится ли из этого противоречия свобода переоценивать и переустанавливать сами конечные цели (как это, вероятно, происходит у человека). А можно трансцендировать программиста, как это происходит в случае достоинства человека, то есть сделать программиста тем Единственным, кого следует слушаться, чтобы не слушаться остальных.
9. Высота метапоказателя (удовольствие у человека). Измерение реализации каждого из вышеперечисленных пунктов, отражаемое внутренними индикаторами, есть аналог эмоций у человека. Все соответствующие показатели находятся в сложной связи друг с другом, взаимозависимы. Система их агрегации с учётом этих взаимозависимостей даёт нам некий общий показатель (метапоказатель). Робот должен заботиться о том, чтобы этот метапоказатель был как можно выше. Поскольку же эта метасистема имеет некоторую автономию, теоретически её можно и взломать, так чтобы она давала высокий метапоказатель независимо от тех или иных первичных показателей (аналог наркомании), или же метапоказатель можно повышать за счёт диспропорции между первичными показателями.
Робот, которому нужно будет заботиться обо всех перечисленных показателях, должен быть очень похож на человека. В ряде случаев ему нужно будет временно забывать об отдельных показателях, а отдельным показателям уделять повышенное внимание. Например, если тот или иной показатель и так высок или если его величина явно зависит от других показателей, но не наоборот, или если ситуация требует выбора между показателями и заботу об одном из них можно отложить, а о другом нет. Кроме того, в ряде случае роботу нужно будет создавать новые показатели, основанные на комбинации запрограмированных или производные от них. То есть некоторая свобода в обращении даже с конечными целями у него в любом случае будет.
Уже представление о таком роботе, предполагающее перевод конечных целей в понятные технические задачи, может служить демонстрацией правоты комплементаризма. А если на самом деле построить такого робота…
