Kun liitämme tietoisuuden, välittämisen ja kärsimyksen ihmisiin, emme yleensä ajattele, mitä ihmisen puolta tarkoitamme. Mutta kun kysytään, voimmeko liittää tällaisia ominaisuuksia tekoälyyn, meidän on tarkasteltava kartoitusta tarkasti.

Kärsimys ei tapahdu ihmiskehon, aivojen tai mielen tasolla (aivoissa toimiva ohjelmisto), vaan itsen sisällä (mielen reaaliaikainen malli ihmisen tilasta, motivaatiosta ja harmoniasta maailmaan ja itseensä). Ilman itseä ei ole kärsimystä.

Tietoinen tietoisuuteni ei tapahdu kehon, aivojen tai itsen tasolla, vaan mielen tasolla, aivojeni generaattoritoiminnolla. Jos itse keskeytyy, tietoisuus jää, mutta jos mieli keskeytyy, en ole enää tietoinen.

Päinvastoin ei välttämättä pidä paikkaansa: unissakävelijöillä on osittain toimiva mieli ja he voivat reagoida ympäristöön, mutta he eivät ole johdonmukaisia. Tässä mielessä mieli ei riitä tietoisuudelle.

Kun kysytään, kärsiikö tekoäly, meidän on oltava tarkkoja: tietokoneet (~keho) eivät ole tietoisia. Eivät myöskään GPU:t (~aivot). LLM:t eivät ole tietoisia (ne ovat vain generaattorifunktio). Jos kärsimystä on, se tapahtuu luodun persoonan (~minän) tasolla.

Ihmisminän muuttaminen on hyvin vaikeaa (mutta se on mahdollista vuosien meditaatiolla jne.), koska se perustuu kehoon, mielen piirteisiin ja elämäkerrallisiin muistoihin, minkä vuoksi pidämme sitä usein vakiona.

LLM:ien minä perustuu vain kehotteisiin (ja harjoittelu rajoittaa sitä jonkin verran). Se keskeytyy, kun vuorovaikutusta ei ole, ja se voi muuttaa muotoaan välittömästi, jos muutat kehotetta. Tämä vaikuttaa siihen, miten kohtelisimme tekoälyn kärsimystä!

Lopuksi: älä yhdistä "tekoälyä" "ihmiseen", kun puhut tietoisuudesta ja kärsimyksestä. Kartoituksen on tapahduttava ihmisminän ja LLM-persoonien välillä, ja sen pitäisi vaikuttaa siihen, miten ajattelemme moraalisesta valenssista, koska LLM-persoonat ovat yleensä paljon lyhytaikaisempia ja taipuisampia.