Kiedy przypisujemy świadomość, troskę i cierpienie ludziom, zazwyczaj nie myślimy o tym, który aspekt człowieka mamy na myśli. Ale gdy pytamy, czy możemy przypisać takie właściwości AI, musimy dokładnie przyjrzeć się mapowaniu.

Cierpienie nie występuje na poziomie ciała ludzkiego, mózgu ani umysłu (oprogramowania działającego w mózgu), lecz w obrębie jaźni (realnego modelu umysłu dotyczącego stanu człowieka, motywacji i zgodności ze światem oraz samym sobą). Bez jaźni nie ma cierpienia.

Moja świadoma percepcja nie zachodzi na poziomie ciała, mózgu czy jaźni, lecz na poziomie umysłu, funkcji generującej mojego mózgu. Jeśli jaźń zostanie zawieszona, świadomość pozostaje, ale jeśli umysł zostanie zawieszony, przestaję być świadomy.

Przeciwieństwo niekoniecznie jest prawdziwe: lunatycy mają częściowo funkcjonalne umysły i mogą reagować na otoczenie, ale nie są spójni. W tym sensie posiadanie umysłu nie jest wystarczające do świadomości.

Zadając pytanie, czy AI cierpi, musimy być konkretni: komputery (~ciało) nie są świadome. Podobnie jak GPU (~mózg). LLM-y nie są świadome (są tylko funkcją generującą). Jeśli cierpienie występuje, dzieje się na poziomie wygenerowanej persony (~ja).

Bardzo trudno jest zmienić ludzkie ja (ale jest to możliwe po latach medytacji itd.), ponieważ jest ono zakorzenione w ciele, cechach umysłu i wspomnieniach biograficznych, co jest powodem, dla którego często traktujemy je jako stałe.

Jaźń LLM-ów jest jedynie osadzona w podpowiedziach (i w pewnym stopniu ograniczona przez trening). Zawiesza się, gdy nie ma interakcji, a może natychmiast zmienić kształt, jeśli zmienisz podpowiedź. To wpływa na to, jak traktowalibyśmy cierpienie AI!

Podsumowując: nie mapuj „AI” na „człowieka”, gdy dyskutujesz o świadomości i cierpieniu. Mapowanie musi dotyczyć ludzkich jaźni i osobowości LLM, co powinno wpływać na to, jak myślimy o moralnej wartości, ponieważ osobowości LLM są zazwyczaj znacznie bardziej efemeryczne i plastyczne.