Napsal jsem celý příběh Attention Sinks – technický hluboký ponor do toho, jak byl tento mechanismus vyvinut a jak byl náš výzkum nakonec použit v nových modelech OSS OpenAI.
Pro zájemce o podrobnosti:
Neprovádí OpenAI základní integrační testování? V době vydání nebylo možné spustit první ukázku kódu poskytnutou v dokumentaci GPT-5, protože někdo omylem smazal vlastnost 'output_text'.
Můj CI mě informoval. Proč ne ten jejich?
Článek se zdá být nedbalý a vyhýbá se nejspornějším otázkám, ale politika zobrazená v tomto konkrétním grafu se mi zdá dobrá? dítě, jehož rodiče jsou z dělnické třídy, které vytáhne 1500 SAT, je ve skutečnosti pravděpodobně chytřejší než dítě, jehož rodiče jsou bohatí s 1500
Na jednu stranu tu není nic ohromujícího ani přehnaně šplouchavého. Ale celkově to vypadá jako neuvěřitelně užitečné vydání.
Očekávám, že to bude můj každodenní motor pro chat i kódování a bude to o něco lepší ve všech oblastech, méně frustrace a halucinací. Vezmu si to.