クロードコードの超能力を見つけたんだけど、ちょっと天才的だよ これはClaude-Code-Hubというリポジトリで、複数のAIプロバイダー(Claude、OpenAI、Gemini、Codex)を管理するワンストッププラットフォームです。 効果: - スマートロードバランシング:各プロバイダーに重みと優先順位を設定する。複数のAPIキーを持っている場合、リクエストはそれらに分散します。プロバイダーの故障を検知し、最大3回の再試行を自動で迂回する内蔵の回路ブレーカー - セッション管理:5分間のコンテキストキャッシュで、会話中にプロバイダーを頻繁に切り替える必要がなくなります。どのプロバイダーが何を処理したかの「意思決定チェーン」を追跡し、奇妙な挙動のデバッグに役立ちます - レート制限:RPM、コスト(5時間/週/月の上限)、または同時セッションによる制限。RedisのLuaスクリプトを使っているので、制限は原子的です。Redisがダウンすると、すべてをブロックする代わりにオープンに失敗します - 実コストトラッキング:ユーザーごとの使用量、トークン消費量、時間経過によるコストを表示します。リーダーボードビューがあるので、誰がクレジットを消費しているかがわかります。Litellmの価格と同期 - OpenAI互換層:OpenAIのAPIフォーマット向けに構築されたツールがあれば、Claudeで動作します。フォーマット変換、ツール呼び出し、推論フィールドを自動的に処理します これは誰のためですか: - プロバイダー間での統一請求・追跡を求めるチーム - 冗長性のために複数のAPIキーをプールする人 あるプロバイダーがダウンしたときに自動フェイルオーバーを望む人たち - すべてのAI APIコールの監査ログを必要とする組織
リポジトリリンク:
213