超动力小型超算是一种全新一代的AI服务器,采用颠覆性的算网一体架构,和高速以太网并行架构,专为大模型推理而设计。一台耗电不到500瓦的服务器即可轻松运行1万亿参数规模的大模型,如ChatGPT。充分释放人工智能的无限潜能。高达2496TOPS的算力,以及768G内存,成本仅为主流厂商33%,功耗仅为12%。从市场规模来看,据预测,超级计算机市场规模估计在2023年为***亿美元,预计到2028年将达到***亿美元,在预测期间(2023-2028年)以***%的复合年增长率增长。这表明超级计算机市场有着稳定的增长潜力。大型晶体管计算机向小型个人终端电脑的转变是一个技术和市场共同推动的过程。其中包括了集成电路技术的革新、个人电脑的推出、操作系统和软件的发展以及互联网的普及等因素共同促成了这一历史性的转变。而在马上到来的AI算力时代,小型超算可以视为如同晶体管大型计算机走向小型个人终端电脑的第一步。
算网一体控制器:将大模型映射到SoC集群实现计算+网络效率最大化。
高效能低能耗:超动力小型超算的耗电量远低于同类产品,但其运行速度和处理能力却相当出色。这主要得益于其先进的硬件设计和优秀的能源管理策略。
强大的处理能力:尽管体积小巧,但超动力小型超算的处理能力并未受到影响。它能轻松处理大量的数据和复杂的计算任务,满足各种高性能计算需求。
广泛的应用领域:超动力小型超算不仅适用于科学研究领域,如气候模拟、量子力学、基因组学等,也可以广泛应用于大数据处理、人工智能等领域。
嵌入式AI计算:包括但不限于提升CPU的主频、优化内存和存储的访问速度、改进能源管理策略,合理分配和使用SoC的资源,将单个SoC算力发挥到极致。
CoCE高速以太集群通信网:通过低延迟、高吞吐量和可靠性的传输服务,不会因为网络带宽的限制或者其他原因而被丢弃或者延迟,在超动力构建的无损以太网中,自研机制如构建数据缓冲区管理被用来控制网络拥塞的发生和影响,保证数据的完整性和传输的高效率,达到了无损的效果,实现最高效的以太网集群通信让网络无损无阻塞。
激扬 CEO
前华为分公司总经理,大客户业务部总经理,海外区域CFO。独角兽企业市场总裁,成功的AI创业公司CEO。
李斌 CTO
前华为数通产品线PMT核心成员,20+通信、分布式计算、AI领域专利,国内第一部嵌入式AI专著作者。
严海波 研发总裁
前华为研发产品PDT开发代表,丰富的研发团队管理经验,成功开发多个大型通信设备、机器人等。
评价单位:“科创中国”创业投资专业科技服务团 (北京创业投资协会)
评价时间:2023-11-29
综合评价
AI服务器的灵活性和可拓展性使它们在支持和运行各种不同AI技术时变得非常有效。它们可以提供高效的存储和计算能力,可以满足不同环境的大数据需求。AI服务器还可以帮助人们快速访问和处理数据,以便更快地改进研究和业务过程中的关键AI性能指标。AI服务器有出色的图形处理能力和高性能计算能力,与普通的服务器相比较,在内存、存储、网络方面没有什么差别,主要在是大数据及云计算、人工智能等方面需要更大的内外存,满足各种数据的收集与整理。
查看更多>