Когда мы приписываем сознание, заботу и страдание людям, мы обычно не задумываемся о том, какой аспект человека мы имеем в виду. Но когда мы спрашиваем, можем ли мы приписать такие свойства ИИ, нам нужно внимательно рассмотреть соответствие.

Страдание не происходит на уровне человеческого тела, мозга или ума (программного обеспечения, работающего в мозге), а внутри «я» (модель ума в реальном времени о состоянии человека, мотивации и согласованности с миром и самим собой). Без «я» нет страдания.

Мое сознательное восприятие происходит не на уровне тела, мозга или «я», а на уровне разума, функции генератора моего мозга. Если «я» приостановлено, сознание остается, но если разум приостановлен, я больше не осознаю.

Противоположное не обязательно верно: лунатики имеют частично функциональные умы и могут реагировать на окружающую среду, но они не связны. В этом смысле наличие ума недостаточно для сознания.

Когда мы спрашиваем, страдает ли ИИ, нам нужно быть конкретными: компьютеры (~тело) не осознают. Так же как и графические процессоры (~мозг). LLM не осознают (они просто функция генерации). Если страдание и есть, оно происходит на уровне сгенерированной персоны (~я).

Сложно изменить человеческое «я» (но это возможно с годами медитации и т.д.), потому что оно укоренено в теле, чертах ума и биографических воспоминаниях, именно поэтому мы часто воспринимаем его как постоянное.

Явление LLMs основано только на подсказках (и в некоторой степени ограничено обучением). Оно приостанавливается, когда нет взаимодействия, и может мгновенно изменяться, если вы измените подсказку. Это влияет на то, как мы будем относиться к страданиям ИИ!

В заключение: не сопоставляйте "AI" с "человеком", когда обсуждаете сознание и страдание. Сопоставление должно быть между человеческими «я» и персонами LLM, и это должно влиять на то, как мы думаем о моральной ценности, потому что персоны LLM, как правило, гораздо более эфемерны и гибки.