宝德AI服务器：推动大模型发展的算力底座-宝德计算

宝德AI服务器：推动大模型发展的算力底座

时间：2023-12-18来源：本站

语言大模型作为人工智能领域的重要分支，其强大的自然语言处理能力和模仿人类的对话决策能力，正逐渐成为人们的关注焦点。近日，据央视新闻报道，工业和信息化部赛迪研究院数据显示，今年我国语言大模型市场规模实现较快提升，应用场景不断丰富，增长率有望突破 100%。目前我国已有超过 19 个语言大模型研发厂商，其中通过备案的共有 15 家厂商的模型产品，预计今年我国语言大模型市场规模将达到 132.3 亿元，增长率将为 110%。这表明语言大模型技术在我国得到了广泛应用，并且市场需求也在不断增长。

然而，看得见的应用背后，是看不见的算力在支撑。算力是AI发展的底层土壤，语言大模型的训练和推理都需要消耗大量的计算资源。传统的通用算力往往难以满足语言大模型对算力的高需求，因此，强大可靠的AI算力底座显得尤为重要。

作为中国AI服务器市场的TOP3和中国领先的计算产品方案提供商，宝德依托雄厚的自主研发实力和AI市场经验，基于AI产业市场需求，不断进行技术创新和升级，打造了AI训练、AI推理、AI边缘、AI终端以及AI集群、AICA（人工智能应用中心）、AIGC等丰富多样的算力产品和解决方案，可为语言大模型的训练和推理提供了强大的算力支持，助力推动语言大模型加快落地应用。

其中，大模型加速利器——宝德AI训练服务器PR4910E是当之无愧的算力王者。它采用2颗身怀七大算力神器的第四代英特尔®至强®可扩展处理器，最大60核心，支持10张GPU加速卡，已经适配和支持Intel GPU Flex系列，能为大模型训练和推理提供强有力的算力支撑；它具有13个PCIe x16 Gen5插槽，支持32个 DIMM / DDR5内存插槽，支持最新的400Gb ETH和NDR IB高速智能网卡，以及 GPU Direct RDMA，最多支持24个 NVMe SSD，而且采用CPU 直通设计，大幅降低 I/O 延迟，为大模型数据存储和传输提供高效可靠的保证。

此外，它采用整机模块化设计，支持灵活切换 CPU 和 GPU 的异构拓扑结构，非常便于用户的系统维护和管理。而且，该产品支持最新发布的第五代英特尔®至强®处理器，每个内核都具备 AI 加速功能，无需添加独立加速器，即可处理要求严苛的 AI 工作负载，非常适用于大模型、人工智能、深度学习、神经网络，赋能医学、材料、金融、科技等千行百业智能化转型和应用。

未来，随着人工智能技术的不断进步和应用场景的不断拓展，大模型的市场需求将持续增长。宝德作为AI领域的领军企业，将继续发挥自身优势，加大产品技术创新，探索更多AI的新应用、新场景和新模式，推出更多先进的AI全栈算力产品方案，为大模型的研发和应用提供更加强大的算力支持。同时，宝德也将积极推动AI产业的快速发展，为我国经济社会的发展做出更大的贡献。

宝德AI服务器：推动大模型发展的算力底座

热门推荐

产品中心

解决方案

应用案例

新闻中心

服务支持

关于宝德