今夜はニューヨークに戻る予定でしたが、それは雰囲気ではないような気がします

H100、H200、B200 マルチノード セットアップの Prime で Slurm サポートが終了しました

TLは、ここ数週間、すべてのRL環境でした。@willccbbと@PrimeIntellectは、オープン環境用のプラットフォームを構築するという素晴らしい仕事をしています(現在ベータ版アクセス中)。これについては以前にも少し書き、話しましたが、環境に関するオープンソースのコラボレーションは、SOTA オープンソース推論モデルを生成するための大きなロックインになることを繰り返します。PIチーム🫡へのゴッドスピード

リリース:)をするのに良い時期のようです

Validator Iteratorは、2000年代後半のインディーロックバンドの美しい名前です

今では誰もがRL環境とGRPOについて話しているが、それがどのように機能するかは誰も知らないので、説明ビデオ+実行できるコードを作成するのはクールだと考えました。 これは、GRPOを使用してQwen 2.5をトレーニングして2048を再生する例です(スレッド内のコード)。 🧵

私の推定に基づくと、今後 3 か月以内に 100 万の GitHub スターに達するはずです

パッチを適用するのは簡単で、少し前に行うべきだったので、一般的に多くのものをよりクリーンで高速にするような、ちょっとした破壊的変更を行ったら、皆さんは怒るでしょうか

ええとああ

今夜は@PrimeIntellect RL環境を探索する時が来ました!@MaziyarPanahiに触発されて、私は臨床医の日常業務のための多段階の環境を構築してワークフローを合理化し、事務処理よりも患者ケアを優先しています