Trendaavat aiheet
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Andrej Karpathy supports the introduction of a new term related to "context engineering" in AI Software development using LLMs.
And this term has long seemed very necessary. Every time I explain to people how we develop our Nethermind AuditAgent, one of the key aspects, besides using domain expertise (web3 security) and using the best available AI models (from OpenAI, Anthropic and Google), and tools for LLM, is precisely "context engineering".
There's sometimes an expression "context is the king," and it really is true. LLMs, whether huge advanced ones or optimized small LLMs, are a powerful tool, but like any tool, if it's in the wrong hands, you'll get much less promising results than you could if you work with them correctly. And context management (or engineering) is indeed a complex and not very well-described area that is constantly evolving, and it really emerged as an extension of the concept of prompt engineering, which already has some negative connotations.
Overall, Andrej listed the main aspects related to context engineering (on the second screenshot), but in each specific task, people achieve excellent results largely through trial and error, each time monotonously trying to select the right context elements that are really needed at this stage of problem-solving, collecting benchmarks for each stage, looking at metrics, dividing datasets into test, validation, and so on, and so forth.
What do you think about "context engineering"?

25.6.2025
+1 "kontekstisuunnittelulle" "nopean suunnittelun" sijaan.
Ihmiset yhdistävät kehotteet lyhyisiin tehtäväkuvauksiin, joille antaisit LLM:n päivittäisessä käytössäsi. Jokaisessa teollisessa LLM-sovelluksessa kontekstisuunnittelu on herkkää taidetta ja tiedettä kontekstiikkunan täyttämiseksi juuri oikeilla tiedoilla seuraavaa vaihetta varten. Tiede, koska tämän tekeminen oikein sisältää tehtäväkuvauksia ja selityksiä, muutamia laukausesimerkkejä, RAG:ia, niihin liittyvää (mahdollisesti multimodaalista) dataa, työkaluja, tilaa ja historiaa, tiivistämistä... Liian vähän tai väärässä muodossa, eikä LLM:llä ole oikeaa kontekstia optimaaliseen suorituskykyyn. Liikaa tai liian epäolennaista, ja LLM-kustannukset voivat nousta ja suorituskyky laskea. Tämän tekeminen hyvin ei ole triviaalia. Ja taidetta ohjaavan intuition vuoksi, joka liittyy ihmisten henkien LLM-psykologiaan.
Itse kontekstisuunnittelun lisäksi LLM-sovelluksen on:
- pilkkoa ongelmat suoraan ohjausvirtoihin
- Pakkaa kontekstiikkunat juuri oikein
- lähettää puheluita oikeanlaisille ja kyvykkäille LLM:ille
- käsitellä sukupolven todentamisen UIUX-virtoja
- paljon muuta - suojakaiteet, turvallisuus, valit, rinnakkaisuus, esihaku, ...
Kontekstisuunnittelu on siis vain yksi pieni osa nousevaa paksua ei-triviaalia ohjelmistokerrosta, joka koordinoi yksittäisiä LLM-kutsuja (ja paljon muuta) täydellisiksi LLM-sovelluksiksi. Termi "ChatGPT-kääre" on väsynyt ja todella, todella väärä.
685
Johtavat
Rankkaus
Suosikit