AI TrackerDownload
← Al het nieuws
ModellenOpen source

Marin brengt alle 57 pretraining-checkpoints van zijn Mochi 535B-A23B-model uit

In een bericht op X kondigt dlwh de release aan van alle 57 tussenliggende checkpoints uit de pretraining van Marin “Mochi” 535B-A23B, gepubliceerd op Hugging Face onder open-athena. Tien daarvan zijn afkomstig uit de fase voor uitbreiding van de contextlengte. Volgens het bericht omvat de trainingsrun 18,2T tokens en zijn de gewichten ongeveer 61 TB groot. De release gaat vergezeld van een blogbericht van Open Athena.

Het bericht had op 17 november 347 punten en 17 reacties op X.

Krijg nieuws als dit als pushmelding.

AI Tracker waarschuwt je zodra er iets verandert aan de tools die je gebruikt.

Download de app