llama.cpp와 ggml, 시맨틱 버전 관리 및 macOS 데스크톱 앱과 함께 v1.0 출시
Hugging Face의 ggml-org 팀은 프로젝트를 시작한 지 3.5년 만인 11월 13일, llama.cpp(libllama)와 ggml(libggml) v1.0.0을 출시했습니다.
- 이제 각 라이브러리의
include/헤더에 있는 공개 C API 또는 ABI를 변경해 하위 호환성이 깨지면 메이저 버전을 올립니다. 하위 호환 기능, 백엔드 업데이트 및 모델 지원 추가는 마이너 버전을 올리고, API 변경이 없는 버그 수정은 패치 버전을 올립니다. 팀은 라이브러리에 의존하는 다운스트림 애플리케이션에 안정적인 인터페이스를 제공하는 것이 목표라고 밝혔습니다. - 팀은 프리릴리스 아티팩트, Docker, Debian, Homebrew, conda-forge, MacPorts, Winget, 그리고 iOS 및 macOS용 XCFramework를 배포 채널로 소개했습니다.
- llama.cpp가 150개가 넘는 모델 아키텍처 변형과 주요 추측 디코딩 방식을 지원하며, NVIDIA, AMD, Qualcomm, Arm, IBM, Intel의 자체 호스팅 러너에서 CI를 실행한다고 밝혔습니다.
- 게시물은 llama.cpp와 Hugging Face 팀이 만든 macOS 및 Windows용 llama.cpp 데스크톱 앱을 소개합니다.
출처
- llama.cpp, macOS용 네이티브 앱과 함께 v1.0 출시Hacker News · 댓글 4개
이런 뉴스를 푸시로 받아보세요.
사용하는 도구에 변화가 생기면 AI Tracker가 알려드립니다.