AI TrackerTải ứng dụng
← Tất cả tin tức
Hạ tầngMã nguồn mở

llama.cpp và ggml đạt v1.0, áp dụng đánh số phiên bản ngữ nghĩa và ra mắt ứng dụng máy tính cho macOS

Nhóm ggml-org tại Hugging Face đã phát hành llama.cpp (libllama) và ggml (libggml) v1.0.0 vào ngày 13 tháng 11, sau 3,5 năm kể từ khi dự án bắt đầu.

  • Từ nay, thay đổi không tương thích với API hoặc ABI C công khai trong các tệp tiêu đề include/ của mỗi thư viện sẽ làm tăng số phiên bản chính. Các tính năng tương thích ngược, cập nhật backend và hỗ trợ mô hình sẽ làm tăng số phiên bản phụ; các bản sửa lỗi không thay đổi API sẽ làm tăng số phiên bản vá. Nhóm cho biết mục tiêu là cung cấp giao diện ổn định cho các ứng dụng phụ thuộc vào những thư viện này.
  • Nhóm liệt kê các kênh phân phối gồm hiện vật phát hành trước, Docker, Debian, Homebrew, conda-forge, MacPorts, Winget và XCFramework cho iOS và macOS.
  • Nhóm cho biết llama.cpp hỗ trợ hơn 150 biến thể kiến trúc mô hình và các phương pháp giải mã suy đoán phổ biến, với CI chạy trên các runner tự lưu trữ của NVIDIA, AMD, Qualcomm, Arm, IBM và Intel.
  • Bài đăng giới thiệu các ứng dụng máy tính llama.cpp cho macOS và Windows, do nhóm đứng sau llama.cpp và Hugging Face phát triển.

Nhận tin như thế này qua thông báo đẩy.

AI Tracker báo cho bạn khi công cụ bạn dùng có thay đổi.

Tải ứng dụng