DeepSeek是一款基于AI技术的智能搜索引擎,结合深度学习与自然语言处理,提供精准、高效的搜索体验。探索DeepSeek,感受未来智能搜索的无限可能!
财中社3月5日电——国盛证券近日发布研究报告,指出DeepSeek在过去一周频繁推出开源项目,其中的DeepSeek-V3/R1推理系统优化和成本计算方案备受业界关注。报告强调,基于大规模的跨节点专家并行方案,DeepSeek实现了计算与通信的重叠,从而实现负载均衡,理论成本利润率高达545%。
国盛证券补充道,这一利润率为理论上限,主要考虑大负载压力下的推理效率,意味着其毛利率数据是在忽略运维挑战及用户体验的前提下提供的。这进一步显示了在推理端大规模集群的高效率。此外,DeepSeek的输入token数量在24小时内超过了输出token,且其KVCache的命中率高达56.3%。这一现象与长文本上下文对话及问答搜索等功能密切相关。
同时,报告也指出,输入负载预测相对复杂,输入流量的剧增导致等待时长显著增长。随着企业对训推一体的发展需求增加,建立一个可以满足多种需求的大规模集群,将更符合当前商业规律。极高的利润率则为算力投资者提供了信心,推动更多企业在硬件折旧期内实现回本。
DeepSeek集群每天24小时运行,旨在不断提升性能与价值,利用主流通用GPU构建的AI大集群在计算能力和通信上都有明显优势,进一步提高了效率。这样一来,DeepSeek的开源动态标志着公有云迈向下一个黄金十年。
回顾过去十几年,公有云在提升效率、经济性及商业价值方面表现突出的同时,AI时代的到来将进一步放大公有云的优势。云厂商逐步建设更大规模的集群以实现更佳的规模效应,为企业和用户提供更为廉价而强大的模型使用。当前,大部分需求集中在文生文的token,随着模型能力的不断提升,未来的需求预计将井喷式增长,算力建设将复制云计算的黄金十年。返回搜狐,查看更多
