标签:预训练
1 篇文章
微软 2.8 万亿参数模型完成预训练:6000 块 GB200 训 38 天,效率是 DeepSeek 的 4 到 12 倍
微软宣布 MAI-Base-2 完成预训练,总参数 2.8 万亿、激活 800 亿,在 6000 块 GB200 上训练 38 天,称预训练算力效率达到 DeepSeek-V4-Pro-Base 的 4 至 12.3 倍。
输入关键词开始搜索
1 篇文章
微软宣布 MAI-Base-2 完成预训练,总参数 2.8 万亿、激活 800 亿,在 6000 块 GB200 上训练 38 天,称预训练算力效率达到 DeepSeek-V4-Pro-Base 的 4 至 12.3 倍。