我真的非常喜歡 @jandotai 這是一個非常友好的應用程式,可以本地運行 LLM,非常適合隱私保護。 我嘗試過其他應用,比如 LM Studio 和 Ollama,它們也不錯,但都是工程師構建的,對我來說有點太難了。 Jan 簡單、可愛、美麗,是一個很好的替代選擇,可以在不將你的數據(和秘密;)發送給大型 AI 提供商的情況下進行對話。 如果你想要的話,你甚至可以通過 API 運行遠程提供商的模型! 此外,他們對反饋非常響應,並且總是在改進應用程式。 我認為本地運行的 LLM 應用和雲 LLM 應用都有其空間,如果你想談論非常私密的事情,比如治療等,本地運行是有意義的。人們能夠在不擔心未來數據洩露的情況下擁有這樣的能力是非常重要的。 (我沒有任何關聯或報酬,只是非常喜歡它!)
👋 Jan
👋 Jan8月12日 15:55
介紹 Jan-v1:用於網路搜尋的 4B 模型,是 Perplexity Pro 的開源替代品。 在我們的評估中,Jan v1 提供了 91% 的 SimpleQA 準確率,略微超越了 Perplexity Pro,同時完全在本地運行。 使用案例: - 網路搜尋 - 深度研究 基於 Qwen 的新版本 Qwen3-4B-Thinking(支持高達 256k 的上下文長度),針對推理和工具使用進行了微調。 您可以在 Jan、llama.cpp 或 vLLM 中運行該模型。要在 Jan 中啟用搜尋,請轉到設定 → 實驗功能 → 開啟,然後設定 → MCP 伺服器 → 啟用與搜尋相關的 MCP,例如 Serper。 使用該模型: - Jan-v1-4B: - Jan-v1-4B-GGUF: 感謝 @Alibaba_Qwen 團隊提供的 Qwen3 4B Thinking 和 @ggerganov 提供的 llama.cpp。
218.33K