Tôi đã viết toàn bộ câu chuyện về Attention Sinks — một cái nhìn sâu sắc về kỹ thuật về cách cơ chế này được phát triển và cách nghiên cứu của chúng tôi đã được sử dụng trong các mô hình OSS mới của OpenAI. Đối với những ai quan tâm đến chi tiết:
130,01K