Bài viết blog tiếp theo của tôi sẽ được phát hành trong tuần này, và nó sẽ sâu sắc hơn bình thường. Tôi sẽ hướng dẫn cách tôi tinh chỉnh Phi-3-mini-4k-instruct (3.8B) của Microsoft bằng LoRA trên Mac của tôi sử dụng MLX. Thí nghiệm: khám phá xem liệu một mô hình 3.8B chạy cục bộ có thể được tinh chỉnh để "nói như tôi" bằng cách đào tạo nó trên các bài viết blog của chính tôi hay không. Tôi đã đẩy trọng số của bộ chuyển đổi LoRA lên Hugging Face. Nhưng quan trọng hơn, bài viết sẽ chia sẻ toàn bộ quy trình để những người có kiến thức kỹ thuật hơn có thể học cách bắt đầu với việc tinh chỉnh: - Chuẩn bị dữ liệu đào tạo - Đào tạo mô hình và các siêu tham số - Đánh giá kết quả - Xuất bản lên Hugging Face Và tôi sẽ chia sẻ tất cả mã cần thiết để bạn có thể tự làm.