AI TrackerDownload
← Al het nieuws

llama.cpp en ggml bereiken v1.0, met semantische versiebeheer en een desktopapp voor macOS

Het ggml-org-team bij Hugging Face bracht op 13 november v1.0.0 uit van llama.cpp (libllama) en ggml (libggml), 3,5 jaar nadat het project van start ging.

  • Vanaf nu leidt een niet-achterwaarts compatibele wijziging in de openbare C-API of ABI in de include/-headers van een bibliotheek tot een verhoging van het hoofdversienummer. Achterwaarts compatibele functies, backendupdates en ondersteuning voor modellen verhogen het secundaire versienummer; bugfixes zonder API-wijzigingen verhogen het patchversienummer. Het team zegt te streven naar een stabiele interface voor de downstreamapplicaties die van de bibliotheken afhankelijk zijn.
  • Het team noemt prereleaseartefacten, Docker, Debian, Homebrew, conda-forge, MacPorts, Winget en een XCFramework voor iOS en macOS als distributiekanalen.
  • Volgens het team ondersteunt llama.cpp meer dan 150 varianten van modelarchitecturen en de gangbare methoden voor speculative decoding. De CI draait op zelfgehoste runners van NVIDIA, AMD, Qualcomm, Arm, IBM en Intel.
  • Het bericht verwijst naar desktopapps voor macOS en Windows van de makers van llama.cpp en Hugging Face.

Krijg nieuws als dit als pushmelding.

AI Tracker waarschuwt je zodra er iets verandert aan de tools die je gebruikt.

Download de app