AI Trackerऐप पाएँ
← सभी समाचार

llama.cpp और ggml v1.0 पर पहुँचे; साथ में सिमैंटिक वर्ज़निंग और macOS डेस्कटॉप ऐप

Hugging Face की ggml-org टीम ने 13 नवंबर को llama.cpp (libllama) और ggml (libggml) का v1.0.0 जारी किया—प्रोजेक्ट शुरू होने के 3.5 साल बाद।

  • अब से, हर लाइब्रेरी के include/ हेडर में सार्वजनिक C API या ABI में कोई ऐसा बदलाव जो पुराने संस्करणों के साथ संगतता तोड़े, तो मेजर वर्ज़न बढ़ेगा। पीछे की ओर संगत सुविधाओं, बैकएंड अपडेट और मॉडल सपोर्ट से माइनर वर्ज़न बढ़ेगा; वहीं, API में बदलाव किए बिना बग ठीक करने से पैच वर्ज़न बढ़ेगा। टीम का कहना है कि इसका लक्ष्य उन डाउनस्ट्रीम ऐप्लिकेशन के लिए एक स्थिर इंटरफ़ेस देना है जो इन लाइब्रेरी पर निर्भर हैं।
  • टीम ने प्री-रिलीज़ आर्टिफ़ैक्ट, Docker, Debian, Homebrew, conda-forge, MacPorts, Winget और iOS व macOS के लिए XCFramework को वितरण माध्यमों के रूप में सूचीबद्ध किया है।
  • टीम का कहना है कि llama.cpp 150 से अधिक मॉडल आर्किटेक्चर वेरिएंट और मुख्य स्पेक्युलेटिव डिकोडिंग विधियों को सपोर्ट करता है। इसके CI NVIDIA, AMD, Qualcomm, Arm, IBM और Intel के सेल्फ़-होस्टेड रनर पर चलते हैं।
  • पोस्ट में llama.cpp और Hugging Face के पीछे की टीम के macOS और Windows के लिए llama.cpp डेस्कटॉप ऐप का ज़िक्र है।

ऐसी ख़बरें push में पाएँ।

आपके टूल्स में कुछ बदलते ही AI Tracker आपको अलर्ट करता है।

ऐप पाएँ