
焱融科技与Solidigm联手,以高性能存储“榨干”显卡价值
2025年年初开始爆火的DeepSeek-R1为业界带来了免费开源的超强大语言模型,在全民争相部署使用DeepSeek的过程中,涌现出了很多降低大模型使用成本的技术。这其中,最吸引人的当属KVCache以存代算技术。 KVCache 缓存技...

2025年年初开始爆火的DeepSeek-R1为业界带来了免费开源的超强大语言模型,在全民争相部署使用DeepSeek的过程中,涌现出了很多降低大模型使用成本的技术。这其中,最吸引人的当属KVCache以存代算技术。 KVCache 缓存技...
2025年,DeepSeek掀起了本地部署大模型的热潮,某电视总局基于DeepSeek构建了RAG(检索增强生成)系统,面向用户提供了一个AI助手。在融科联创和Solidigm的帮助下,将系统准确率从50-60%提升到了95%左右,存储在其...
AI大模型技术正以前所未有的速度席卷全球,而对于广大企业来说,AI的真正价值,不在模型本身,而在于能否与行业场景深度融合。当AI大模型走向行业落地的新篇章时,数据的重要性迅速上升,数据存储和数据管理的能力更是不可或缺。 在2025人工智能基...
如果说DeepSeek是现在最火的开源大语言模型,那么Dify就是大语言模型在企业落地过程中,最受关注的应用开发平台。回顾Dify.AI过去两年的快速发展,除了Dify.AI本身的价值以外,作为合作伙伴的亚马逊云科技也为其提供了很大便利。 ...
虽然DeepSeek以较低的算力门槛,吸引更多小规模的云厂商和更多硬件厂商加入了AI算力建设浪潮。但长远来看,以亚马逊云科技为代表的大型云服务商将成为AI技术发展机遇中的更大受益者。 2025年1月20日开源的DeepSeek-R1模型不仅...
凭借多项优化技术,DeepSeek把大模型的训练和推理成本做到了不可思议的程度。而在2025年的GTC上,英伟达亲自下场优化大语言模型的推理性能,直接把DeepSeek的推理性能提高了30倍。 如果说,DeepSeek技术开源周让很多提供D...

DeepSeek开源周的最后一天,居然提到了一个叫3FS(Fire-Flyer File System)的高性能分布式文件存储系统,这是一个用于分布式计算的并行文件系统,是为AI训练和推理准备的。 https://github.com/de...
DeepSeek-R1 671B满血版代表了顶尖AI模型的能力,企业在部署时都应该优先考虑满血版。然后,再按照使用场景,酌情考虑部署蒸馏版的小模型。 出于安全和数据隐私等方面的考虑,国内多数企业都想在本地部署,然而,部署推理DeepSeek...
现在越来越有体会:显卡核心性能能决定模型的计算速度,而显卡的显存容量,决定了能处理的数据规模和训练的效率。 特别是最近这几天,在本地部署DeepSeek的时候,很多人会发现,如果显存不够,那么模型根本无法运行。 我在个人台式机上测试后发现,...
最近在工作之余写了几个帮大家稳定用上满血版DeepSeek满血版的教程,教大家在本地客户端Cherry Studio上接入硅基流动、青云CoresHub以及火山引擎的API。 这几家云服务的DeepSeek都是挺不错的,欢迎继续注册使用。但...