应用于大模型推理的算网一体的AI超算服务器

发布时间: 2023-11-10

来源: 科技服务团

基本信息

合作方式：技术转让

成果类型：发明专利,软件著作权

行业领域：

新一代信息技术产业,人工智能

成果介绍

本项目提供的产品形态是超算服务器和集群系统。该项目主要采用算网一体的架构采用无损以太网技术把多个计算节点（产品方案采用高通SOC芯片，也可替换高性能的国产芯片）组建集群设计制造小超算服务器，同时多个超算服务器也可以通过算网一体的并行计算方案组建大型超算系统。该项目主要研究如何通过算网一体架构 (ICC, Integrated Computing and Communication）实现计算和网络通讯的协同，以及计算和网络资源的统一、灵活和动态的调度，结合对SoC计算单元算力的效率提升，提高整个AI并行计算系统的计算效率。这其中应用到了包括嵌入式AI、无损以太网、 RoCE（Rdma over Converged Ethernet ）、CoCE（Collective over Converged Ethernet融合以太网集合通信）、并行计算、算网资源协同调度等技术。

成果亮点

该项目产品和系统主要服务于AI高性能计算领域，包括大模型推理（AIGC应用等、人机交互）场景、大密度低时延边缘计算场景。

团队介绍

1、激扬，CE0，项目牵头人，牵头公司全面工作，包括融资等外部资源获取、团队组建、日常管理和公司运营。曾在华为历任华为国内分公司总经理、大客户业务部总经理、海外地区部分公司CFO，离职后在人工智能领域有过成功的创业经验；2、李斌，CTO，首席AI科学家和架构师/首席解决方案，负责产品规划和并行计算系统的研发以及面向市场的解决方案开发；3、严海波，研发VP，负责软硬件产品开发；4、任师臣，CMO，负责产品销售管理和市场拓展工作。

成果资料

路演文件

产业化落地方案

点击查看

成果综合评价报告

评价单位：“科创中国”中关村产业技术联盟专业科技服务团 (中关村产业技术联盟联合会) 评价时间：2023-11-25

杨一图

中关村产业技术联盟联合会

副秘书长、助理研究员

综合评价

项目技术成熟，可应用于AI高性能计算领域，包括大模型推理场景、大密度低时延边缘计算场景，是当前科技发展的重点创新领域，推广前景广阔。

科创中国

友情链接

海外专利信息资源系统

省级中心站