llama.cpp y ggml llegan a v1.0, con versionado semántico y una app de escritorio para macOS
El equipo de ggml-org en Hugging Face lanzó v1.0.0 de llama.cpp (libllama) y ggml (libggml) el 13 de noviembre, 3,5 años después del inicio del proyecto.
- A partir de ahora, cualquier cambio incompatible en la API o ABI pública de C en los encabezados
include/de cada biblioteca incrementará la versión mayor. Las funciones compatibles con versiones anteriores, las actualizaciones de backends y la compatibilidad con modelos incrementarán la versión menor; las correcciones de errores sin cambios en la API incrementarán la versión de parche. El equipo afirma que el objetivo es ofrecer una interfaz estable para las aplicaciones derivadas que dependen de las bibliotecas. - El equipo enumera entre los canales de distribución los artefactos preliminares, Docker, Debian, Homebrew, conda-forge, MacPorts, Winget y un XCFramework para iOS y macOS.
- Según el equipo, llama.cpp admite más de 150 variantes de arquitecturas de modelos y los principales métodos de decodificación especulativa. La integración continua se ejecuta en máquinas propias de NVIDIA, AMD, Qualcomm, Arm, IBM e Intel.
- La publicación menciona apps de escritorio de llama.cpp para macOS y Windows, creadas por el equipo detrás de llama.cpp y Hugging Face.
Fuentes
- llama.cpp llega a v1.0 con una app nativa para macOSHacker News · 4 comentarios
Recibe noticias como esta por push.
AI Tracker te avisa cuando algo cambia en las herramientas que usas.