Đã đọc qua bài viết mới nhất của deepseek () Hiểu một cách nông cạn, xin chỉ ra những điểm không đúng để mọi người cùng góp ý. Nghiên cứu này (mHC) về cơ bản cung cấp một giải pháp nâng cấp mô hình "chi phí thấp, lợi nhuận cao" cho ngành công nghiệp AI. Hiệu quả mô hình: Tăng cường "khả năng tư duy" thông minh hơn: Mà không thay đổi cấu trúc cơ bản của mô hình, mHC đã nâng cao đáng kể khả năng xử lý của AI. Trong các bài kiểm tra phản ánh khả năng suy luận logic và hiểu biết đọc (như BBH và DROP), hiệu suất đã tăng từ 2.1% đến 2.3%. Điều này có nghĩa là mô hình sẽ thể hiện giống như một "chuyên gia" hơn là một "máy lặp lại" khi xử lý các nhiệm vụ phức tạp như logic kinh doanh, phân tích tài chính. Chi phí đào tạo: Hiệu suất thấp với chi phí cao: Mặc dù công nghệ mới này đã tăng cường bề rộng truyền tải thông tin, nhưng thông qua tối ưu hóa phối hợp sâu giữa phần mềm và phần cứng, khi đào tạo mô hình lớn với 27 tỷ tham số, chỉ tăng khoảng 6.7% chi phí thời gian. Đối với các nhà đầu tư, điều này có nghĩa là với một khoản chi phí điện và sức mạnh tính toán bổ sung rất nhỏ, họ có thể đạt được hiệu suất mô hình cao hơn. Tính ổn định trong đào tạo: Tránh tổn thất tài sản do "sụp đổ đào tạo" tạm biệt sự treo máy: Những nỗ lực tương tự trước đây (như HC) cũng muốn mở rộng đường truyền thông tin, nhưng do thiếu ràng buộc, mô hình lớn thường "điên cuồng" hoặc sụp đổ (Loss nhảy vọt) khi đào tạo đến giữa chừng, dẫn đến lãng phí tài nguyên tính toán quý giá. mHC đảm bảo mô hình cực kỳ ổn định trong quá trình đào tạo thông qua "bùa chú cân bằng" (ràng buộc hình dạng), bảo vệ khoản đầu tư tính toán đắt đỏ không bị mất mát do sụp đổ hệ thống. Nhu cầu bộ nhớ: Giải quyết "nút thắt phần cứng" bằng sự khéo léo của thuật toán: Công nghệ này đã mở rộng "làn đường" thông tin gấp 4 lần, lý thuyết sẽ rất tốn bộ nhớ. Nhưng DeepSeek đã tiết kiệm được một lượng lớn không gian bộ nhớ thông qua một công nghệ gọi là "tính toán lại có chọn lọc", chỉ cần một chút thời gian tính toán bổ sung. Điều này cho phép các card đồ họa cao cấp hiện có như H100/H200 có thể chạy cấu trúc phức tạp này mà không cần tăng chi phí phần cứng. Tiềm năng tương lai: Phá vỡ giới hạn truyền thống của "chồng máy móc" điểm tăng trưởng mới: Trước đây, việc nâng cao hiệu quả mô hình chủ yếu dựa vào "chồng dữ liệu" và "chồng GPU". mHC đã mở ra một con đường thứ ba: tối ưu hóa khung xương bên trong của mô hình. Nó chứng minh rằng bằng cách cải thiện cách kết nối giữa các lớp, ngay cả khi không tăng kích thước mô hình một cách mù quáng, vẫn có thể tiếp tục khai thác thêm nhiều lợi ích hiệu suất. So sánh từ góc độ nhà đầu tư: Nếu mô hình lớn là một nhà máy, thì việc nâng cấp trước đây chủ yếu dựa vào việc tăng số lượng công nhân (tăng tham số). Trong khi đó, mHC đã sắp xếp lại dây chuyền sản xuất và kênh logistics của nhà máy mà không tăng nhiều vị trí làm việc. Nó vừa mở rộng băng tải gấp nhiều lần để vận chuyển nhiều linh kiện hơn, vừa thông qua một hệ thống quản lý giao thông tinh vi để đảm bảo nhà máy không bị ngừng sản xuất do tắc nghẽn logistics. Kết quả cuối cùng là: hiệu suất của nhà máy tăng đáng kể, trong khi chi phí điện và bảo trì thiết bị mà bạn phải trả gần như không thay đổi.

sau khi thua lỗ đã hiện thực hóa, chắc chắn phải cấu hình lại

Chuẩn bị viết một bài dài Xem AI gần đây cả ngày Toàn bộ viết về việc mua google $GOOG