旷视天元MegEngine

单位: 北京旷视科技有限公司

开源类型: 开源产品

旷视天元开源深度学习框架MegEngine是旷视自主研发的国产工业级深度学习框架,是旷视新一代AI生产力平台Brain++的最核心组件,在2020年3月正式向全球开发者开源。MegEngine 凭借其训练推理一体、超低硬件门槛和全平台高效推理3大核心优势,帮助企业与开发者大幅节省产品从实验室原型到工业部署的流程,真正实现小时级的转化能力。 旷视天元MegEngine采用均匀线性量化方案,实现了非对称量化和对称量化两种INT4的数据类型,同时通过算子融合优化、kernel优化等方法,提速还能不掉点;全局图优化方案让用户在各平台上不用考虑算子和Tensor Format各种组合对性能的影响。MegEngine自动选择最合适的组合以保证最大化硬件计算资源的利用率;自动代码裁剪使部署文件binary size下降10倍,提升程序启动、加载时间,有效支撑资源有限的铁入式应用落地。 —年多的时间,MegEngine团队陆续开源了 MegFlow、MegSpot、MegPeak、MegCC等工具,以及BaseCis、BaseDet等模型库。同时,由社区开发者贡献的MegEngine.js和megenginelite-rs帮助MegEngine实现了多语言版本支持,让Javascript和Rust也能与深度学习绑定。