产品介绍
1. 魔鸽大模型训练推理一体机基于瀚博载天®VA16加速卡、内置InsightKB大模型基座平台、内置魔瞳大模型数据平台、本地知识库体系及应用级管理后台。
在低功耗下提供超高AIGC训练推理性能和超大显存，支持DeepSeek-V3和R1在内的各主流大模型高精度部署，为企业提供高效能的生成式AI算力。
| 系统规格 | |
| 产品名称 | 魔鸽大模型训练推理一体机 |
| 机型 | 4U 8GPU卡 服务器 |
| GPU | 瀚博VA16*8(总显存 1024GB) |
| CPU | Intel至强CPU 2.1G 24C*2 |
| 系统内存 | 512GB |
| 系统盘 | 480GB SATA SSD * 2 |
| 数据盘 | 1.92T NVME SSD * 2 |
| 网卡 | 10G双口(或 25G双口)*1，含2个光模块;1G 双口(或 1G 四口)*1(选配) |
| 系统功耗 | 2200W*4 |
- 支持Deepseek-671B满血版单机部署
- 原生FP8 无精度损失
- 应用级开箱即用
方案架构
一体机支持单机或集群部署，产品架构简单，便于扩展，适用于企业、医疗健康、公共安全、城市治理、智慧交通、消防管理、应急管理、安全生产等对智能要求较高，路数较多，需要迭代升级的智能化场景。
2.华为昇腾系列智算一体机提供预置成熟行业智能体和DeepSeek模型，搭载模型推理、知识库构建、智能体编排等工具，成熟智能体一键可内嵌至任意三方系统，AI专属智能体可分钟级构建。
产品亮点
- 1节点起步；
- 预置成熟行业智能体，提供知识库构建、智能体编排等能力；
- 可结合行业数据，基于deepseek快速构建专属智能体；
- 推理性能专属云即开即用（含服务器/网络/安全/机柜等设备）；
- 训推一体机支持模型微调（全参）；
