Горячий совет для всех, кто занимается разработкой ИИ: Используйте Ollama, чтобы легко запускать модели, такие как Deepseek-r1 или Gemma, локально на вашем компьютере. Он загружает их и запускает сервер с API, совместимым с OpenAI SDK. Меньшие модели быстрые и достаточно хороши для работы над новыми функциями или отладки потоковой передачи, не тратя деньги на запросы к API.