私は本当に本当に好きです@jandotai LLM をローカルで実行するのに非常にフレンドリーなアプリで、プライバシーにも最適です LM Studio や Ollama などの他のものを試しましたが、それらは素晴らしいですが、非常にエンジニアが構築しており、私には少し難しすぎます Jan はシンプルでキュートでかわいらしく、大手 AI プロバイダーにデータ (および秘密;)) を送信せずに話すのに最適な代替手段です 必要に応じて、APIを介してリモートプロバイダーモデルを実行することもできます。 また、フィードバックに非常に敏感で、常にアプリを改善しています ローカルで実行される LLM アプリとクラウド LLM アプリの両方のためのスペースがあると思いますが、非常にプライベートなことや治療などについて話したい場合は、ローカルで実行するのが理にかなっています。将来、データが漏洩することを恐れることなく、人々がそれを持つことができることが非常に重要です (私は所属も給料もありませんが、本当に気に入っています!
👋 Jan
👋 Jan8月12日 15:55
Jan-v1 の紹介: Perplexity Pro のオープンソースの代替手段である Web 検索用の 4B モデル。 私たちの評価では、Jan v1 は 91% の SimpleQA 精度を実現し、完全にローカルで実行しながら Perplexity Pro をわずかに上回ります。 使用例: - ウェブ検索 - ディープリサーチ Qwen の Qwen3-4B-Thinking (最大 256k コンテキスト長) の新しいバージョンに基づいて構築され、1 月に推論とツールの使用のために微調整されました。 モデルは、Jan、llama.cpp、または vLLM で実行できます。1 月に検索を有効にするには、[設定] → [実験的な機能] → [オン] に移動し、[設定] → [MCP サーバー] に移動し→、Serper などの検索関連の MCP を有効にします。 モデルを使用します。 - 1月-v1-4B: - 1月-v1-4B-GGUF: Qwen3 4B Thinkingの@Alibaba_Qwenチームとllama.cppの@ggerganovに感謝します。
218.34K