Trendande ämnen
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Jack Morris
doktorandforskning @cornell // språkmodeller, informationsteori, vetenskapen om AI
Det här inlägget är fullständig desinformation
LLM:er är förlustbringande kompressorer! av *träningsdata*.
LLM:er komprimerar *uppmaningar*, internt. Det är vad den här rapporten visar.
Källa: Jag är författare till "Language Model Inversion", den ursprungliga artikeln om detta
23 timmar sedan
LLM:er är inte "suddiga kompressorer av mening" utan "perfekta omarrangerare av struktur". Det tyder på att de är mer som dynamiska, reversibla krypteringssystem än som sammanfattare.
Modellen glömmer inte; det bara representerar.
"Förståelse" i dessa system är kanske inte komprimering utan geometri – att organisera information på ett sätt som gör relationer beräkningsbara utan att förlora troheten.
171,45K
Användbar heuristik
de bästa forskningsproblemen är:
(A) inte tillräckligt uppenbar för att ingen annan kommer att lösa problemet under de kommande sex månaderna
(B) tillräckligt viktigt för att någon skulle lösa det så småningom
stressad? Välj ett mindre uppenbart problem
Arbetar du i det fördolda? Välj ett viktigare problem
7,16K
Topp
Rankning
Favoriter