36 氪獲悉，線程型分訓(xùn)練據(jù)摩爾線程消息，正式近日，發(fā)布仿摩爾線程正式發(fā)布開(kāi)源大模型分布式訓(xùn)練仿真工具 SimuMax 的開(kāi)源 1.1 版本。該版本在完整繼承 v1.0 高精度仿真能力的大模基礎(chǔ)上，實(shí)現(xiàn)了從單一工具到一體化全棧工作流平臺(tái)的布式版本重要升級(jí)，為大模型訓(xùn)練的工具仿真與調(diào)優(yōu)提供系統(tǒng)化支持。本次更新聚焦三大核心創(chuàng)新：用戶友好的線程型分訓(xùn)練可視化配置界面、智能并行策略搜索，正式以及融合計(jì)算與通信效率建模的發(fā)布仿 System-Config 生成流水線。新版本同時(shí)提升了對(duì)主流訓(xùn)練框架 Megatron-LM 的開(kāi)源兼容性，并增強(qiáng)了對(duì)混合并行訓(xùn)練中復(fù)雜通信行為的大模建模精度，使仿真環(huán)境更貼近真實(shí)生產(chǎn)場(chǎng)景。布式版本