描述
P800RiscV大模型推理服务器是朗科智算基于RISC-V架构的处理器和国产加速卡研发的一款国产自主可控推理服务器,具有高性能、低功耗和高吞吐量特点,集成了64个RISC-V64GCV指令集处理器内核。
本产品所搭载的处理器拥有先进的平台技术,是世界首款基于RISC-V架构的服务器处理器,使用户能够以前所未有的方式工作、连接、分析和创造.可用于高要求的行业大型业务主机、高性能服务器系统、大型互联网数据中心、智算服务器等多种类型产品,搭配多达32条PCle4.0通道,能够灵活配置各类硬件加速器。
服务器搭载算能最新的国产加速卡是基于国产Al芯片研发设计生产,具有高稳定性、低功耗、强算力等特点,此加速卡是面向云端Al应用的算力加速卡。高效适配市场上主流Al算法框架。
P800-V212-SS01
国产RISC-V大模型推理服务器
产品特点
描述
强劲算力
支持8路高清视频智能分析 308T OPS /  153.6T FLOPS FP16/BF16算力
描述
超高性能
64核RISC-V处理器支持RV64IMAFDC, 主频2.0GHz ,单处理器算为1 TFLOPS@FP64 
描述
快速移植
支持Caffe/TensorFlow/PyTorch/ MXNet/PaddlePaddle/ONNX/Darknet等主流深度学习框架
描述
主动散热
风扇散热,10℃至+40℃宽温
描述
描述
大模型适配

高效适配如ChatGLM,LLaMA,Falcon等各种大模型算法;支持Al绘图,SD V1.5,SDXL;支持各种图像分类、检测网络,如Resnet50、Yolo系列;如各种自然语言处理网络,如BERT系列;各种语音网络,如Tacotron2。
描述
提供强大的开发库
支持Docker容器化、Kubernetes扩展管理。SG2042的软件SDK、工具链和系统环境成熟稳定。并且支持各种主流操作系统
支持智慧园区/安防/工控/商业等
多领域多场景灵活部署
描述
高可靠性

支持冗余电源互为备份,运行稳定, 质量可靠
描述
支持常见各类内外接口,适应各类布署场景
极致扩展

描述
描述
  • 强劲性能
    64核RISC-V处理器支持RV64IMAFDC, 主频2.0GHz ,单处理器算为1 TFLOPS@FP64 搭载2张国产推理加速卡单卡拥有154TOPS INT8峰值算力和76.8TFLOPS FP16/BF16峰值算为满足大模型应用需求。
  • 大模型适配与完整生态
    高效适配如ChatGLM,LLaMA,Falcon等各种大模型算法;支持Al绘图,SD V1.5,SDXL;支持各种图像分类、检测网络,如Resnet50、Yolo系列;如各种自然语言处理网络,如BERT系列;各种语音网络,如Tacotron2。 支持TensorFlow、PyTorch、ONNX、PaddlePaddle、Gaffe等各种深度学习框架模型;内建150+算子实现以及用户自定义算子;支持动态张量尺寸;支持控制流网络;支持用户量化模型导入;支持自动量化策略搜索;支持编译时即时数据校验。 提供强大的开发库(BMCV、FFMPEG编解码接口、OPENCV编解码接口、OPENCV扩展);支持Docker容器化、Kubernetes扩展管理。 SG2042的软件SDK、工具链和系统环境成熟稳定。并且支持各种主流操作系统,如Ubuntu、Debian 、Fedora、Archlinux 、openEuler等。
  • 极致扩展
    存储接口:支持DDR4;支持UDIMM/SODIMM/RDIMM;支持ECC;速率上限:3200MT/s;单通道位宽:64bit/72bit(8bitECC);支持单通道,双Rank;4个独立的DDR通道;最大支持容量256GB PCIE: 2个PCle Gen4控制器(支持CCIX);每个控制器支持Gen4 x 16通道,每个通道最大速率16GT/s;支持EP/RC模式 以太网:1个以太网接口;支持速率10/100/1000Mbps;支持RGMII;支持 IEEE802.3u MAC eMMC/SDIO控制器:1个eMMC4.5/5.1接口,4bit数据位宽;1个SDIO3.0接口,4bit数据位宽;支持eMMC5.1闪存介质,支持SD卡、WiFi、蓝牙的4bit数据接口 SPI Flash Controller,2个SPI接口,每个支持2个片选;单片支持最大容量512MB; I2C:4个12C接口;两线串行I2C接口 UART:4个UART接口;支持FIFO模式寄存器mode 其它IO:4个PWM接口;4个凤扇转速检测接口;32个通用IO;1个I2C调试接口
应用场景
开发资料
易用便捷,全栈高效
SOPHON SDK一站式工具包,提供底层驱动环境、编译器、推理部署工具等一系列软件工具。易用便捷,涵盖了神经网络推理阶段所需的模型优化、高效运行时支持等能力,为深度学习应用开发和部署提供易用、高效的全栈式解决方案。SOPHON SDK,最大程度降低算法和软件的开发周期和成本,使用者能快速在算丰各系列深度学习硬件产品上部署深度学习算法,便捷实现智能应用。
 SDK 
规格参数
外部接口
网络
USB
显示
其他
1个1GB RJ45 网络接口
USB3.0 * 3,USB2.0 * 2
1 个 VGA 接口
1 个BMC AST2600
无线可扩展
蓝牙可扩展
结构尺寸
748 * 433.4 * 87.2 mm 
长*宽*高
供电与散热

电源
风扇
1300 W 热插拔电源,支持 1+1冗余
支持 4 个 N+1 热插拔冗余风扇
温度与湿度

工作温度
10 °C ~ 40 °C
内存与存储



内部扩展
内存
存储

RAID卡
PCIe扩展插槽
8个DDR4内存插槽,最大支持256G 内存
具有 8 个 2.5 /3.5 英寸热插拔硬盘位 
支持1个M.2 NVME 硬盘
支持1个 12GBMini-SAS RAID 卡 
支持 6 个 PCIe 扩展插槽
处理器
型号
GPU
2 * 64核RISC-V处理器
2 * 国产推理加速卡,单卡 154 TOPS INT8算力
产品文档
TOP