キャラクタートレーニングの基礎に関する最初の研究、つまり、最新のポストトレーニング手法を適用して、特定のキャラクター特性をモデルに定着させることです。 すべてのモデル、データセット、コードなどがリリースされました。 このプロジェクトに本当に興奮しています!シャランは一緒に仕事をするのが楽しかったです。
Sharan
Sharan11月4日 22:09
「良いことを強制される」v「純粋に良い」AIは 違いを気にする必要がありますか?(はい! キャラクタートレーニングの最初のオープン実装をリリースします。私たちは、プロンプトやアクティベーション ステアリングなどの代替手段よりも堅牢な方法で AI アシスタントのペルソナを形成します。
しばらくの間私をフォローしている人にとっては、これは非常に十分に研究されていない分野として、学界で研究されていないが、コスト的にはアクセスしやすいモデル展開の最先端にますます影響を与えているものとして、私のレーダーに映っていることをご存知でしょう。 ここに小さな研究分野の種をまきたいです!
私が人格訓練の分野を創設したとして長い間尊敬してきた人々(公的には、確かにもっと貢献した):@AmandaAskell、@joannejang、そして@johnschulman2
33.46K