Marin phát hành toàn bộ 57 checkpoint tiền huấn luyện của mô hình Mochi 535B-A23B
Trong một bài đăng trên X, dlwh thông báo phát hành toàn bộ 57 checkpoint trung gian từ quá trình tiền huấn luyện Marin “Mochi” 535B-A23B, được đăng trên Hugging Face dưới tên open-athena. Trong số đó, 10 checkpoint thuộc giai đoạn mở rộng ngữ cảnh dài. Bài đăng cho biết quá trình huấn luyện sử dụng 18.2T token và trọng số có dung lượng khoảng 61 TB. Bản phát hành đi kèm một bài viết trên blog của Open Athena.
Bài đăng có 347 điểm và 17 bình luận trên X vào ngày 17 tháng 11.
Nguồn
Nhận tin như thế này qua thông báo đẩy.
AI Tracker báo cho bạn khi công cụ bạn dùng có thay đổi.