Edge0 ra mắt Edge0-145B và Edge0-120B, các mô hình trọng số mở mà công ty cho biết có thể chạy trên laptop
Edge0 đã công bố trọng số của Edge0-145B và Edge0-120B vào ngày 12 tháng 11, cùng với khung suy luận và các công cụ triển khai. Công ty gọi Edge0-145B là mô hình trên thiết bị mã nguồn mở đầu tiên có 145 tỷ tham số (theo tuyên bố của công ty).
- Edge0 cho biết mô hình là một hỗn hợp chuyên gia thưa, sử dụng khoảng 10B trong tổng số 145B tham số ở mỗi bước, với các nhóm gồm 64 chuyên gia dùng chung hai ma trận lớn. Công ty báo cáo mức bộ nhớ đỉnh khoảng 29GB trên laptop, tốc độ giải mã hơn 80 token/giây, xử lý prompt hơn 1.100 token/giây, công suất khoảng 120W và ngữ cảnh 128K–256K.
- Theo các bài đánh giá nội bộ của Edge0, mô hình đạt 64.6 trên DeepSWE 1.1, 86.52 trên Terminal-Bench 2.1, 90.4 trên GPQA-Diamond và 80.6 trên IFBench. Edge0 cho biết các điểm số này cao hơn hoặc xấp xỉ Qwen3.8-Flash-Next, DeepSeek-V4-Flash-0731 và Claude Opus 4.6 (Max) trên các bài đánh giá được nêu. Thiết lập đánh giá đầy đủ sẽ được công bố cùng báo cáo kỹ thuật.
- Edge0 cho biết ngay từ ngày đầu, mô hình hỗ trợ macOS, Windows và Linux, bao gồm chip Apple M-series và GPU NVIDIA RTX. Công ty trình diễn mô hình chạy các quy trình tác tử cục bộ trong Blender, KiCad và điều khiển drone.
Nguồn
- Edge0-145B: Năng lực AI tiên tiến ngay trên máy tính của bạnHacker News · 18 bình luận
Nhận tin như thế này qua thông báo đẩy.
AI Tracker báo cho bạn khi công cụ bạn dùng có thay đổi.