發現功能使用指南
background
discoveryBanners
熱門話題
#
Bonk 生態迷因幣展現強韌勢頭
Hosico
Hosico-1.24%
USELESS
USELESS+0.87%
IKUN
IKUN-14.36%
gib
gib-8.25%
#
有消息稱 Pump.fun 計劃 40 億估值發幣，引發市場猜測
Bonk
Bonk+1.03%
ALON
ALON-2.07%
LAUNCHCOIN
LAUNCHCOIN-10.7%
GOONC
GOONC-4.02%
KLED
KLED-2.13%
#
Solana 新代幣發射平臺 Boop.Fun 風頭正勁
BOOP
BOOP-0.07%
Boopa
Boopa+2.75%
PORK
PORK+18.44%
header
Y
語言與思想
Y
Y2025年10月31日
🚀 HLA: 更高的線性注意力 = 注意力氛圍 + RNN 速度： 更高階的線性注意力，具備可並行訓練的特性！ 專案頁面： 我們回來了！ 🚀 #LLM #AI #DeepLearning #Transformers
35.64K
Y
Y2025年10月31日
告別，旋轉位置嵌入（RoPE）。我們預見 RoPE 將不再在未來的 LLM 中使用。 一些重要的事情已經揭示出來；答案就在這張圖片中。敬請期待！🚀
38.24K
Y
Y2025年10月27日
💡一些關於 Minimax M2 的有趣事實： 1. Minimax 使用類似 GPT-OSS 的結構，即全注意力與滑動窗口注意力（SWA）交錯。 2. 它使用 QK Norm，每個注意力頭都有自己獨特的、可學習的 RMSNorm。 3. 全注意力和 SWA 部分甚至不共享設置：它們各自擁有自己的 RoPE theta 配置。 還有一件事……有人可能會問為什麼不使用線性注意力（加法規則或增量規則） ⚡️答案很明確：FlashAttention（Dao 等人）是如此有效，支持低精度訓練和推理（FP8/FP4），而線性注意力在低精度下無法工作！ 很高興看到越來越多的 AI 實驗室在做真正的科學，而不是驕傲與偏見！😃
Skyler Miao
Skyler Miao2025年10月24日
MiniMax M2: Our advanced model that achieves global Top 5 status, surpassing Claude Opus 4.1 and ranking just behind Sonnet 4.5. Coming October 27th - Stay Tuned
135.42K