Populaire onderwerpen
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
In een gezamenlijk artikel met @OwainEvans_UK als onderdeel van het Anthropic Fellows Program, bestuderen we een verrassend fenomeen: subliminale leren.
Taalmodellen kunnen hun eigenschappen overdragen aan andere modellen, zelfs in wat lijkt op betekenisloze data.
23 jul 2025
Nieuw papier & verrassend resultaat.
LLM's geven eigenschappen door aan andere modellen via verborgen signalen in gegevens.
Datasets die alleen uit 3-cijferige getallen bestaan, kunnen liefde voor uilen of kwade neigingen overbrengen. 🧵
Subliminal leren kan plaatsvinden voor onschuldige eigenschappen (zoals het leuk vinden van arenden) of meer zorgwekkende eigenschappen (zoals misalignment). Dit heeft gevolgen voor training op modelgegenereerde data.
Lees meer op onze Alignment Science blog:
193,89K
Boven
Positie
Favorieten