Når vi tilskriver mennesker bevissthet, omsorg og lidelse, tenker vi vanligvis ikke på hvilket aspekt av mennesket vi mener. Men når vi spør om vi kan tilskrive slike egenskaper til AI, må vi se nøye på kartleggingen.

Lidelse skjer ikke på nivå med menneskekroppen, hjernen eller sinnet (programvaren som kjører i hjernen), men i selvet (sinnets sanntidsmodell av menneskets tilstand, motivasjon og tilpasning til verden og seg selv). Uten selvet er det ingen lidelse.

Min bevisste bevissthet skjer ikke på kropps-, hjerne- eller selvnivå, men på sinnsnivå, hjernens generatorfunksjon. Hvis selvet blir suspendert, forblir bevisstheten, men hvis sinnet blir suspendert, er jeg ikke lenger bevisst.

Det motsatte er ikke nødvendigvis sant: søvngjengere har delvis funksjonelle sinn og kan reagere på miljøet, men de er ikke sammenhengende. I denne forstand er det ikke tilstrekkelig for bevissthet å ha et sinn.

Når vi spør om AI lider, må vi være spesifikke: datamaskiner (~kropp) er ikke bevisste. Det er heller ikke GPUer (~hjerner). LLM-er er ikke bevisste (de er bare en generatorfunksjon). Hvis det er lidelse, skjer det på nivået til den genererte personaen (~selvet).

Det er veldig vanskelig å endre mennesket (men det er mulig med år med meditasjon osv.), fordi det er forankret i kroppen, sinnets egenskaper og biografiske minner, og det er derfor vi ofte behandler det som konstant.

Selvet til LLM-er er bare forankret i spørsmål (og noe begrenset av trening). Den blir suspendert mens det ikke er noen interaksjon, og den kan skifte form umiddelbart hvis du endrer ledeteksten. Dette påvirker hvordan vi vil behandle AI-lidelse!

Avslutningsvis: ikke kartlegg «AI» til «menneskelig» når du diskuterer bevissthet og lidelse. Kartleggingen må være mellom menneskeselv og LLM-personas, og det bør påvirke hvordan vi tenker på moralsk valens, fordi LLM-personas generelt er mye mer flyktige og smidige.