长江计算—紫东太初训推一体机亮相

　　算力、数据、算法被视作人工智能的“三驾马车”。在武汉国家人工智能创新应用先导区、武汉国家新一代人工智能创新发展试验区内，武汉不仅齐聚这三要素，且加速融合。算法、算力基建的专家们打通软硬件链条，共同做成一件大事。就在10月17日举办的2023武汉算力技术应用创新交流会上，长江计算—紫东太初训推一体机首次亮相，这一针对大模型开发的服务器，全部基于武汉力量自主开发。

　　由中国科学院自动化研究所与武汉人工智能研究院联合打造的“紫东太初”大模型，是全球首个千亿参数多模态大模型，且目前已升级为“紫东太初”全模态大模型，武汉长江计算科技有限公司（以下简称“长江计算”），曾打造多款全国领先的支持昇腾体系的自主创新服务器解决方案。他们最大的共同点是——都在武汉。

　　“算力是打造大模型生态的必备基础，服务器作为算力的载体，是大模型发展的重要支撑。”长江计算产品总监元敏介绍，人工智能主要分为训练和推理两部分，训练是基于海量数据的一个学习过程，可以理解为学生学习书本知识；推理是一个基于实际场景分析的过程，可以理解为学生考试的一个过程，需要在极短时间内作出精准判断。在此之前，长江计算已可量产以上两类服务器，并推出了业界算力密度最高的训练服务器。

　　“而要做到又‘学’又‘考’、‘教学相长’的大模型用服务器，在业界有较高壁垒，何况要‘教’的是紫东太初，这个全模态大模型，不光能读懂文字、图像，还能理解音频、视频，甚至3D模型、传感信号，是个全面感知世界的‘聪明宝宝’。”元敏介绍，此次长江计算与武汉人工智能研究院联合发布的“长江计算—紫东太初训推一体机”，能将经清洗、标注后的数据“投喂”给大模型完成预训练，再将模型输出的结果“批改”，帮助“紫东太初”进一步强化模型能力，这个“老师”兼“陪练”本身也得本领高强。

　　如何强？如果将数据比作食材，基于算法建立的数学模型就是厨具，算力则是烹饪的核心要素——燃料。“我们的目标，希望打造一套菜来即可下锅烹饪的‘厨房’体系。”元敏介绍，相较业界其他产品，强强联合打造的一体机，在本地就实现了软硬件的融合，在本地的共同应用场景下反复磨合，最终实现软硬件预集成、快速定制工具链，不仅能高性能处理海量数据，且能较快切入应用场景，“大火、大锅，且快速出盘”。

　　据介绍，一体机及解决方案，已在杭州数智人创新应用中试水，在计算密度等关键指标中都表现优异。通过一体机提供硬件支撑，基于“紫东太初”大模型，数智人“杭小忆”能在活字印刷、特色小吃、南宋官窑、丝绸制作等场景实现中文问答、诗文生成、以文搜图等功能。

　　刚发布的《武汉建设国家人工智能创新应用先导区实施方案（2023—2025年）》，武汉正围绕高效训练与部署、预训练模型架构设计与优化等方面，建设自主可控的跨模态大模型通用人工智能平台。

　　“同时，近期，工信部等六部门联合印发了《算力基础设施高质量发展行动计划》，作为算力基础设施国家队，我们感到时不我待。”中国信科集团服务器存储产品线研发总监、长江计算副总经理袁振涛介绍，企业在实现“算、存、传、管、智”5大关键领域业界领先的基础上，还在不断基于场景需求打造融合创新解决方案，赋能千行百业数智升级。