Napsal jsem celý příběh Attention Sinks – technický hluboký ponor do toho, jak byl tento mechanismus vyvinut a jak byl náš výzkum nakonec použit v nových modelech OSS OpenAI. Pro zájemce o podrobnosti:
80,66K