简介

瀚博半导体是一家专注于提供强大算力的半导体公司,其产品线涵盖AI加速卡和数据中心显卡。这些产品专为满足数据中心、智能视频处理、智能客服、内容创作、智慧金融和边缘计算等多样化领域的高性能计算需求而设计。

主要功能

云端AI推理:提供高性能、低时延的云端AI推理功能,适用于各种深度学习应用。

智能视频处理:支持高密度、高并发的智能视频处理任务,包括视频解码、转码和实时处理。

多场景应用支持:芯片和加速卡支持计算机视觉、自然语言处理、搜索推荐等多样化的推理应用场景。

边缘计算能力:为边缘端提供高能效、低时延的AI推理和视频解析功能,适用于边缘智能应用。

多模态智能计算:在边缘端提供高性能的多模态智能计算单元,满足复杂的数据处理需求。

高性能数据处理:SV100系列芯片具备高吞吐量和低延迟的特性,特别适合处理大量数据。

多种神经网络支持:支持多种主流神经网络的快速部署,包括但不限于计算机视觉和视频处理领域。

视频编解码集成:集成高效的视频编解码器,支持多路视频流的1080p解码,适用于视频密集型应用。

软硬件一体化设计:提供从底层硬件到上层软件的一体化解决方案,优化整体性能和用户体验。

内存和接口支持:VA1推理加速卡支持大容量内存和PCIe 4.0高速接口,满足数据中心的高密度部署需求。

灵活的软件栈和工具:提供完备的软件栈和工具,支持多种深度学习框架,简化开发者的迁移和部署过程。

主要特点

专注于高性能通用加速芯片:瀚博半导体致力于研发针对多种深度学习推理负载优化的高性能通用加速芯片。

低延时、高吞吐的异构计算性能:其芯片为计算机视觉、智能视频处理、自然语言处理等应用场景提供所需的计算性能和高效的性能/功耗比。

领域专用架构(DSA):瀚博半导体的芯片采用DSA架构,专门为视频流类信息处理优化,以实现更高的性能和更低的延迟。

支持多种数据格式:SV100系列芯片支持FP16, BF16和INT8等数据格式,能够实现众多主流神经网络的快速部署。

强大的视频解码能力:集成高达64路以上的H.264/H.265/AVS2的1080p视频解码能力,适用于云端与边缘智能应用场景。

高算力与低功耗设计:SV102芯片在75瓦功耗下,吞吐量是GPU的2-10倍,同时延时不到GPU的5%。

灵活的软件栈:瀚博半导体的软件平台支持TensorFlow, PyTorch, Caffe2等常见的深度学习框架模型与ONNX格式的模型,通过高度定制的AI编译器优化模型执行效率。

产品生态与兼容性:瀚博半导体的芯片和加速卡设计考虑了与现有人工智能服务器的兼容性,无需额外供电即可适配。

团队专业背景:公司核心员工来自世界顶级的高科技公司,拥有平均15年以上的相关芯片与软件设计经验。

持续的技术创新与产品迭代:瀚博半导体不断进行技术创新,并计划推出不同功耗级别的推理产品,以覆盖更广泛的市场和应用场景。

广泛的应用领域:产品广泛应用于人工智能、数据中心、图形渲染、智慧城市、智慧交通、边缘计算、工业质检、元宇宙、数字孪生等前沿领域。

结论

瀚博半导体的产品以其高性能、低时延和高能效的特点,在多个领域发挥着重要作用。无论是云端还是边缘端的应用,瀚博半导体的AI加速卡和智能视频加速卡都能提供强大的支持,满足不同场景下对算力的需求。