HedWeb на русском

Позиция по метаэтике

---

От переводчика: Метаэтика — это область философии морали (т. е. этики как дисциплины), которая занимается вопросами о том, какова природа морали, что она значит и как можно о ней что-то знать — т. е. вопросами, которые находятся на мета-уровне по отношению к вопросам о правильности или неправильности того или иного поведения. Автор здесь рассматривает вопрос о реальном существовании объективных (универсальных) моральных фактов, т. е. о споре реализма и антиреализма в метаэтике.

Вопрос:

Какова ваша позиция по метаэтике?

Ответ:

По причинам, которые нам непонятны, ось «боль–удовольствие» раскрывает встроенную в реальность метрику (отрицательной) ценности. Полноспектровый сверхинтеллект, обладающий всей полнотой как субъективных, так и объективных фактов, будет действовать в соответствии с этой метрикой. По эволюционным причинам людям недоступен такой беспристрастный, «божественный» взгляд со стороны. Иллюзия эгоцентризма крайне адаптивна (см. «Are you the center of the universe?»). Поэтому наши эпистемологические ограничения жёстко прошиты в генах.

Психопат, или вышедший из-под контроля зомби-ИИ¹ — не будут этим впечатлены.

«Конечно», — говорит психопат или изощрённый цифровой зомби, — «Я вижу, что ты в агонии. Несомненно, твой субъективный опыт агонии имеет для тебя “нормативный аспект”. Без сомнения, для тебя вопрос о том, плохо ли испытывать агонию, не является “открытым”. Я понимаю, что для тебя твоя агония имеет отрицательную ценность. Но дело в том, что это не так для меня! Как сказал Юм, “разуму не противоречит предпочтение гибели всего мира царапине на моём пальце”. Гильотину Юма не обманешь. Я не иррационален и не аморален, когда игнорирую твои отчаянные мольбы о помощи». (См. принцип Юма и аргумент открытого вопроса.)

Прав ли современный психопат — или будущий психопатический зомби-ИИ? На мой взгляд — нет. Они просто не понимают. Например, представьте себе цивилизацию, подобную Борг из «Звездного пути», или мир, где все сознания слиты друг с другом. В такой продвинутой цивилизации субъективный опыт будет переживаться коллективно — и опыт одного будет переживаться другим глубже, чем сейчас бывает у людей с зеркальным синестетическим осязанием или у сестёр Хоган (см. «Теоретически возможно ли испытать сознательный опыт другого существа?»). Включая нормативный аспект переживаний, задаваемый осью удовольствия-боли. (Если вы не верите, что субъективный опыт может иметь нормативный аспект даже для самого субъекта, попробуйте погрузить руку в ледяную воду и держать её там неограниченно долго — до тех пор, пока не согласитесь. Язык не может быть полностью освобожден от семантических примитивов: (отрицательная) ценность, как и краснота — это семантический примитив, независимо от того, верите ли вы в метаэтический антиреализм или нет².) Борг знают то, чего не способны постичь ограниченные черепной коробкой люди, запертые в изолированных солипсических вселенных. Если бы люди обладали всезнанием, подобным божественному, то точно так же, как вы отдёргиваете руку от огня, человечество стремилось бы совершить космологический аналог этого отдёгивания руки — каким бы вычислительно нетривиальным он не оказался³.

Я отнюдь не хочу преуменьшить загадочность сознательного опыта от первого лица, или природы (отрицательной) ценности, и уж тем более не хочу недооценить задачу, которую ценностный реализм ставит перед рациональным принятием решений, если вы стремитесь быть эффективным альтруистом. Но если современная наука не безнадежно ошибочна, то — несмотря на все наши кажущиеся различия — я не являюсь чем-то особенным. И вы — тоже. Если агония и отчаяние — это плохо для меня (а это так!), то они объективно плохи для любого другого, где бы он ни находился. Не стоит возводить нашу эпистемическую ограниченность в метафизический принцип Природы. Субъективный опыт не может быть низведён до онтологически второсортного. Он столь же объективно реален, каким вообще только может быть. На мой взгляд, для полноспектрового сверхинтеллекта этика будет вычислимой. Задача сейчас — создать такой ИИ. (См. «эффективный альтруизм», а также книгу «You Are Them» Магнуса Виндинга.)

Противоположную точку зрения см. в «Ethics: Inventing Right and Wrong» Джона Мэки (1991). А за концепцией рациональности, основанной на традиционном метафизическом индивидуализме, можно обратиться к «ЧаВо по теории принятия решений» на LessWrong и к тезису об ортогональности. Хотя убежденность в том, что полноспектровый сверхинтеллект по определению будет доброжелателен к сентиентным существам, не должна оправдывать самоуспокоенности насчёт рисков ИИ (см. ошибку о «ненастоящем шотландце»).

---

Примечания переводчика: