[ AI | LLM ]

驿心科技专注 AI 数据存储解决方案,我们帮助客户掌握解锁智能未来的密码,通过精准高效的AI存储Infra方案,助力您在未来的赛道上抢占先机。

原创 朱可轩 AI科技评论 2025年03月06日 19:03 广东

DeepSeek 方法论重构 AI 基础设施,驿心科技实现 AI Infra 软硬整合架构突破。

当前,国内 AI Infra 领域公司围绕 DeepSeek 带来的一系列启发,也正在思考下一步大模型训推优化更好的解决方案,驿心科技便是其中之一。

[原文]

数据跨基础架构流动|云-IDC数据中心无缝衔接|高速大模型一体机|开放协议

完全本地化服务

为AI时代简化采购和交付

生态开放合作共赢

专注解决AI时代数据存储

如何为24000块GPU训练任务提供数据?

  • 1000+ 存储节点
  • 超级Scale-Out,0性能衰减
  • 完全基于标准硬件,无需定制硬件
  • 标准Kernel pNFS存储协议直接访问
  • 无客户端污染
  • 全部数据集10倍读取速度,聚合读入带宽12.8TB/S

如何在全球范围内为上千名提供游戏开发者数据协作服务?

某客户所需的计算和存储资源遍布全球。

开发团队需要无缝利用突发计算能力、数据中心和云存储,以及快速调配资源的能力,以支持快速迭代。

全局文件系统方案(Global NameSpace)提供了无需人工干预的跨云、跨数据中心数据流动,让数据流转成本降低80%,工作效率大幅度提升

初创半导体企业如何管理快速增长的业务和数据?

某EDA企业软件业务年增长150%,员工数量增长4倍,办公地点分布北京、武汉、深圳成都。

传统NAS存储无法平滑匹配业务的快速增长,无法灵活交付,容量性能按需增长,也无法处理日益复杂多地数据管理,COPY泛滥,成本失控。

驿心定制解决方案,实现10倍性能、10倍容量,替换现有解决方案,百万级测试Case存储和同步,冷热数据自动切换,实现接入三地研发中心,自动数据版本管理和同步。

让本地DeepSeek V3/R1 满血起飞

国内顶级红圈律所,亟需为近千名律师合伙人提供基于DeepSeek V3/R1 服务,解决内部资料隐私价值再挖掘,支撑日常的文档生成、条文检索、法律逻辑推理等业务需求。

用户希望硬件投入有足够长的生命周期,最大化投资价值,并能够提供良好的生态兼容性,最大程度简化交付,并适配法律工作的应用场景。

驿心提供大模型一体集群,存、算一体的交钥匙解决方案,完美契合客户需求:

  • 提供4000 Tokens/秒吞吐能力
  • KV-Cache Tier0本地访问延迟 <5μs
  • 吞吐提升 50%~135%,QPS提升 30%+
  • 硬件成本降低 20%,运维复杂度减半

自主可控的存、算一体解决方案

本土化供应|自主可控|”存+算“一体|供应链”零“风险

全栈自主可控,CPU、NVMe、网卡、交换机,乃至存储颗粒,均采用国产硬件,达到主流性能业务需求,避免供应风险,及时交付。

技术创新

驿心科技关注技术创新,以底层创新带动生态进展,衔接生态链上不同环节,解决客户痛点问题。

pNFS驱动的数据整合

      2008年,pNFS 作为 NFSv4.1 中的可选功能被引入,为 NFS 协议带来了并行访问和更高扩展性的概念。在后续的 RFC 中不断得到增强和完善,如 NFSv4.2 版本进一步对 pNFS 进行了改进,解决了 NFSv4.1 中 pNFS 存在的一些问题,使其能够以更高效且可扩展的方式提供更优的性能。

      pNFS 在标准 NFSv4 架构基础上进行了扩展,主要增加了布局驱动器、I/O 驱动器和文件布局检索接口。具体如下:

  • 布局驱动器:负责理解存储系统的文件布局,掌握访问文件任意字节范围所需的所有信息。它会将来自 pNFS 客户端的读取和写入请求,转换为能被存储设备理解的 I/O 请求。
  • I/O 驱动器:主要执行 I/O 操作,如 iSCSI、SunRPC 等到存储节点,实现数据在客户端和存储设备之间的传输。
  • 文件布局检索接口:用于客户端获取文件布局信息,使得客户端在获取文件布局后可直接与存储设备通信,进行数据读写,而无需每次都通过服务器中转。

pNFS协议的主要优点有:

线性的扩展性

将元数据和数据通信分开,客户端可与多个存储设备并行通信,能轻松应对大规模数据存储和高并发访问需求,随着存储节点和客户端数量增加,性能不会大幅下降

为模型训练准备高性能

客户端获取文件布局后可直接访问存储设备,减少服务器中转开销,提高数据传输效率,在大规模数据读写场景,如高性能计算、大数据处理中,能显著提升读写速度

高度的灵活性

支持多种存储设备和布局类型,可适应块存储、文件存储和对象存储等不同存储架构,便于用户根据需求和成本选择存储设备和配置存储系统

广泛的兼容性

在 NFSv4 基础上扩展,保留 NFSv4 基本功能和语义,与现有 NFS 客户端和服务器兼容,用户可逐步引入 pNFS,无需大规模更换或改造现有系统。

多模态LLM模型驱动的视频数据精简

    驿心提出FocusChat,一种文本引导的多模态大语言模型。该模型通过时空滤波模块(STFM)结合视觉和文本信息,实现显式空间级信息过滤和隐式时间级特征过滤,确保视觉标记与用户查询紧密对齐,减少输入到语言模型的视觉标记数量,在实际应用中,在不降低精度的前提下,可以大幅减少视觉Token数,视觉Token可以降低一个数量级。

论文链接:https://arxiv.org/pdf/2412.12833

合作伙伴

软件驱动|组合创新|整合价值|服务客户

Scroll to Top