AI TrackerApp laden
← Alle News
InfrastrukturOpen Source

llama.cpp und ggml erreichen Version 1.0 – mit semantischer Versionierung und einer Desktop-App für macOS

Das ggml-org-Team bei Hugging Face hat am 13. November Version 1.0.0 von llama.cpp (libllama) und ggml (libggml) veröffentlicht – dreieinhalb Jahre nach Projektbeginn.

  • Ab sofort führt eine inkompatible Änderung an der öffentlichen C-API oder ABI in den include/-Headern der jeweiligen Bibliothek zu einer Erhöhung der Hauptversion. Abwärtskompatible Funktionen, Backend-Aktualisierungen und Modellunterstützung erhöhen die Nebenversion; Fehlerbehebungen ohne API-Änderungen erhöhen die Patch-Version. Das Team erklärt, Ziel sei eine stabile Schnittstelle für nachgelagerte Anwendungen, die auf den Bibliotheken aufbauen.
  • Als Vertriebskanäle nennt das Team Vorabversionen, Docker, Debian, Homebrew, conda-forge, MacPorts, Winget sowie ein XCFramework für iOS und macOS.
  • Laut Team unterstützt llama.cpp mehr als 150 Varianten von Modellarchitekturen und die gängigen Methoden für spekulatives Decoding. Die CI läuft auf selbst gehosteten Runnern von NVIDIA, AMD, Qualcomm, Arm, IBM und Intel.
  • Der Beitrag verweist auf Desktop-Apps für llama.cpp unter macOS und Windows, entwickelt vom Team hinter llama.cpp und Hugging Face.

News wie diese als Push.

AI Tracker benachrichtigt dich, wenn sich bei deinen Tools etwas ändert.

App laden