Muon优化器

京东于 2 月 14 日在 Hugging Face 平台上正式开源了其最新的大模型 ——JoyAI-LLM-Flash。该模型总参数达到 48 亿，其中激活参数为 3 亿，经过 20 万亿文本 To...