百度開源 ERNIE-5.5-Flash-Base，這款稀疏 MoE 模型有 280B 參數

百度已在 Hugging Face 上發布 ERNIE-5.5-Flash-Base。其模型卡將 ERNIE 5.5 Flash 描述為一款高效的稀疏混合專家語言模型，總參數量為 280B、啟用參數量為 14B，從頭開始以 33.5T 個 token 預訓練，訓練上下文長度為 128K。微調與推論支援最高 1M token 的上下文長度。

這是預訓練結束時的基礎檢查點：它未經中期訓練或後訓練，因此不是經過指令微調的聊天模型。一則分享此發布消息的中文貼文稱，其規模級別可與 DeepSeek V4 Flash 相比；這是發文者的說法，並非百度的說法。