描述
SCTX1000-V308-SS01大模型训推一体服务器是朗科智算基于国产加速卡开发的一款高规格自主可控训推一体服务器,产品搭载国产CPU、加速卡和异构解耦合设计,架构可灵活调整,是PCle扩展密度最高的深度学习训练推理平台。

大模型训推一体服务器
SCT X1000-V308-SS01
描述
本产品配备的加速卡是基于国产AI芯片研发设计生产,具有高稳定性、低功耗、强算力等特点,是面向云端AI应用的算力加速卡。高效适配市场上主流AI算法框架。
描述
产品特点
描述
强劲算力
支持8个GPU加速卡 1232T OPS / 1024T FLOPS FP16/BF16算力

描述
超高性能
支持2颗国产CPU 处理器,最高支持 64物理核心
描述
快速移植
支持Caffe/TensorFlow/PyTorch/ MXNet/PaddlePaddle/ONNX/Darknet等主流深度学习框架
描述
主动散热
风扇散热,5℃至+35℃宽温
描述
描述
大模型适配

高效适配如ChatGLM,LLaMA,Falcon等各种大模型算法;支持Al绘图,SD V1.5,SDXL;支持各种图像分类、检测网络,如Resnet50、Yolo系列;如各种自然语言处理网络,如BERT系列;各种语音网络,如Tacotron2。

描述
提供强大的开发库

提供强大的开发库(BMCV、FFMPEG编解码接口、OPENCV编解码接口、OPENCV扩展);支持Docker容器化、Kubernetes扩展管理。
支持智慧园区/安防/工控/商业等
多领域多场景灵活部署
描述
高可靠性

支持冗余电源互为备份,运行稳定, 质量可靠

描述
支持常见各类内外接口,适应各类布署场景

灵活部署

  • 强劲算力
    搭载8张国产推理加速卡,单卡拥有154TOPSINT8峰值算力和76.8TFLOPS FP16/BF16峰值算力,满足大模型应用需求。 2颗国产CPU处理器,64个核心,提高VDI实例数量。 内存容量高达4T,可进行强大的数据库分析,加速内存密集型应用性能。 支持100G\200G网络高速互联,为计算集群提供高密度、高性能节点平台。
  • 大模型适配与完整生态
    高效适配如ChatGLM,LLaMA,Falcon等各种大模型算法;支持AI绘图,SDV1.5,SDXL;支持各种图像分类、检测网络,如Resnet50、Yolo系列;如各种自然语言处理网络,如BERT系列;各种语音网络,如Tacotron2。 支持TensorFlow、PyTorch、ONNX、PaddlePaddle、Caffe等各种深度学习框架模型;内建150+算子实现以及用户自定义算子;支持动态张量尺寸;支持控制流网络;支持用户量化模型导入;支持自动量化策略搜索;支持编译时即时数据校验。 提供强大的开发库(BMCV、FFMPEG编解码接口、OPENCV编解码接口、OPENCV扩展);支持Docker容器化、Kubernetes扩展管理。
  • 极致扩展
    扩展12个PCle4.0x16插槽,整机通信带宽翻倍。 4U空间可容纳8个双宽加速卡,提供强大的训练和推理应用性能。 支持24个3.5寸SAS/SATA硬盘,最高支持16个NVMeSSD,提供丰富的存储扩展能力。
应用场景
开发资料
易用便捷,全栈高效
SOPHON SDK一站式工具包,提供底层驱动环境、编译器、推理部署工具等一系列软件工具。易用便捷,涵盖了神经网络推理阶段所需的模型优化、高效运行时支持等能力,为深度学习应用开发和部署提供易用、高效的全栈式解决方案。SOPHON SDK,最大程度降低算法和软件的开发周期和成本,使用者能快速在算丰各系列深度学习硬件产品上部署深度学习算法,便捷实现智能应用。
 SDK 
规格参数
工作温度
工作湿度
5℃~35℃(50℉~95℉)
工作80%RH,非工作93%RH
GPU
最高支持 8个GPU加速卡、提供强大的训练和推理应用性能
支持加速卡的任意搭配:国产推理卡,单卡 154 TOPSINT8 算力;国产训练卡,单卡 128 TFLOPS 半精浮点算力
内存
提供32个DDR4内存插槽,支持RDIMM内存,最高工作频率3200MHz
网络
支持1G/10G/25G/40G/100G/200G等多种网络
PCIe扩展
最大可扩展12个PCle4.0x16插槽
1个OCP3.0网卡插槽
专用双RAID卡插槽
存储控制器
板载SATA硬盘控制器
SAS卡控制器,支持RAID0/1/10
RAID卡控制器,支持RAID0/1/5/6/10/50/60
支持Cache超级电容保护,提供RAID状态迁移、RAID配置记忆等功能
存储方案
前置:24x2.5”或24x3.5”SAS/SATA或最高支持16x2.5”NVMeU.2SSD
内置:支持2个板载M.2SSD
其他端口
2个VGA接口,1个位于机箱后部,1个位于机箱前部
4个USB接口,2个位于机箱后部、2个位于机箱前部
1个RJ-45管理接口位于机箱
电源
支持3+1或2+2冗余,支持1600W/2000W/2200WCRPS高效电源
散热
8个系统风扇模组,支持N+1冗余
管理功能
集成BMC芯片,对外提供1个1GbpsRJ45管理口,支持IPM12.0、Redfish、SNMP等标准接口
基于IKVM/HTML5的远程管理界面,提供全面的故障诊断、自动化运维和远程管理的功能
显示
集成显示控制器,最大分辨率1920x1080
支持操作系统
Microsoft Windows Server、 Red Hat Enterprise Linux、 SUSE Linux Enterprise Server、 CentOS、 Vmware ESXi、 Ubuntu,国产麒麟UOS等服务器操作系统
产品认证
通过CCC等认证
电源电压
100-240Vac
机箱
4U机架式服务器机箱
机箱尺寸
重量
175.8mm(高)x432mm(宽)x798mm(深)
最大76千克,具体请查询重量计算表
CPU
支持2颗国产CPU 处理器,最高支持 64 物理核心
产品文档
TOP