llama.cpp dan ggml mencapai v1.0, dengan versi semantik dan aplikasi desktop macOS
Tim ggml-org di Hugging Face merilis v1.0.0 llama.cpp (libllama) dan ggml (libggml) pada 13 November, 3,5 tahun setelah proyek ini dimulai.
- Mulai sekarang, perubahan yang tidak kompatibel pada C API atau ABI publik di header
include/masing-masing pustaka akan menaikkan versi mayor. Fitur yang kompatibel dengan versi sebelumnya, pembaruan backend, dan dukungan model akan menaikkan versi minor, sedangkan perbaikan bug tanpa perubahan API akan menaikkan versi patch. Tim mengatakan tujuannya adalah menyediakan antarmuka yang stabil bagi aplikasi hilir yang bergantung pada pustaka tersebut. - Tim mencantumkan artefak prarilis, Docker, Debian, Homebrew, conda-forge, MacPorts, Winget, dan XCFramework untuk iOS dan macOS sebagai kanal distribusi.
- Tim menyebut llama.cpp mendukung lebih dari 150 varian arsitektur model dan metode speculative decoding yang umum, dengan CI yang berjalan pada runner yang dihosting sendiri dari NVIDIA, AMD, Qualcomm, Arm, IBM, dan Intel.
- Postingan tersebut mengarahkan pembaca ke aplikasi desktop llama.cpp untuk macOS dan Windows, dari tim di balik llama.cpp dan Hugging Face.
Sumber
- Llama.cpp mencapai v1.0 dengan aplikasi native untuk macOSHacker News · 4 komentar
Dapatkan berita seperti ini lewat push.
AI Tracker memberi tahu Anda saat ada perubahan pada alat yang Anda pakai.