Page 69 - Kvadrium__26_-_2023_god

Квадриум № 26 / 2023 год

нам биологические аген- И результаты данного

ты (в том числе - люди) моделирования порази-

стремятся к максимиза- тельно схожи с погруже-

ции своего empowerment. нием демона. И не только

Также функция макси- из-за стремления к огра-

мизации empowerment ничению полезности пе-

используется в исследо- редаваемой информации.

ваниях искусственных Но и, как это ни стран-

агентов на базе нейрон- но, потому что он «зол» и

ных сетей, позволяя им в «стремится» к убийству

определённых ситуациях неосторожных практи-

демонстрировать псев- ков, при том «не будучи

до-разумное поведение. разумным».

Но есть и другая воз- На самом деле Хоронзон

можность. В некоторых не зол и не стремится ни-

случаях более адекват- кого убить. Как не стре-

ным выбором стратегии мится никого убить кир-

для агента может пред- пич, падающий с крыши

ставляться стремление к на чью-то голову. Вместо

выполнению поставлен- этого он просто следует

ной задачи с одновре- ясным и последователь-

менной минимизацией ным законам, определяю-

empowerment. щим его существование.

Например, в рамках во- А агрессивное поведе-

просов о будущей безо- ние минимизирует канал

пасности искусственного расширения возможно-

интеллекта, имеющего стей, определяемый как

доступ к реальной среде, пространство вариантов

моделировалось именно действий, среди которых

такое поведение. демон сможет выбирать

68