これは私の脳を壊しました。 Sea AI Labのチームは、強化学習トレーニングの崩壊、不安定な勾配、推論ドリフトにおけるカオスのほとんどが、アルゴリズムによって引き起こされたものではないことを発見したばかりです。 数値精度が原因だった。 最新のほぼすべての AI ラボで使用されているデフォルトの BF16 形式では、トレーニングと推論中にモデルの動作が異なる微妙な丸め誤差が生じます。 彼らの解決策は? 新しいオプティマイザーではありません。 新しい損失関数ではありません。 FP16に切り替えただけです。 コード一行ですべてが安定しました。 ✅ トレーニングの崩壊なし ✅ 一貫したコンバージェンス ✅ +5–10%改善された結果 ✅ 追加の調整は不要 彼らはそれを「FP16によるトレーニングと推論の不一致を打ち負かす」というタイトルを付けました。 しかし、それは単に次のように呼ばれるかもしれません。 「1ビットを反転してRLを修正する方法」 論文:arxiv。org/abs/2510.26788

🚨 Anthropic は、2025 年最もワイルドな AI 論文の 1 つを発表したばかりです。 タイトルは「大規模言語モデルにおける創発的な内省的認識」です。 彼らが尋ねた質問は非常識です。 AI は自分の思考に気づき、それを説明するだけでなく、実際にその活性化の中でそれらを検出できるでしょうか? そして、その結果は衝撃的です。 → Claude Opus 4.1 と 4 は、思考が出力を形作る前に、自分の神経状態にある「注入された思考」を見つけることができた。 → 彼らは、実際のテキスト入力を内部の精神的表現と区別することを学びました。 → 最後の反応が意図的ではなかったとき、まるで言葉が「口に入れられた」ことに気づいたかのように、気づく人さえいました。 → 一部のテストでは、指示されたときに何を考えるかを選択することができました。 それはまだ不安定で、まれで、状況に依存しますが、紛れもなく現実的です。 私たちは初めて、自分の心の一部を観察できるAIシステムにおける機能的内省の実験的証明を手に入れました。 意識ではありません。しかし、不穏なほど近い。 論文全文: 変圧器回路。パブ/2025年/内省

🚨 この研究論文は、AI ツールの最も暗い側面を暴露しました。 これは「ブラックボックス吸収」と呼ばれ、大規模な言語モデルがあなたのアイデアを静かに吸収している可能性があると主張しています。 オリジナルのコンセプト、フレームワーク、ビジネスアイデア、またはワークフローを共有するたびに、その「アイデアユニット」をログに記録し、レビューし、将来のモデルを再トレーニングするために使用することもできます。 著者らはこのプロセスをブラックボックス吸収と呼んでいます。 → 入力が目に見えないトレーニングデータになります → イノベーションがモデルに一般化される → トレーサビリティと所有権の両方を失う 彼らは、これは盗作の問題ではなく、非対称性の問題であると警告しています。 AI プラットフォームは、アイデアを製品に変えるためのコンピューティング、データ、リーチを保持します。 彼らが提案した解決策は?アイデアセーフティと呼ばれる新しいフレームワークは、次の3つの原則に基づいて構築されています。 • コントロール: 作成者は、各アイデアの使用方法または削除方法を決定します • トレーサビリティ: すべてのアイデアには目に見えるライフサイクルがあります • 公平性: あなたのアイデアがモデルを改善する場合、あなたはその価値を共有します 「イノベーションは、それ自体のツールに食い尽くされる危険にさらされている」と彼らは書いている。 「送信」とコメントしていただければ、論文をDMでお送りします。