国产GPU鼎力支持!摩尔线程快速部署DeepSeek
DeepSeek V3、R1系列开源AI大模型在多语言理解、复杂推理任务中展现了卓越性能,不仅推动了AI技术的普及与发展,更是对开源社区的极大贡献。
2025-02-05 09:39:56
来源:快科技  

快科技2月4日消息,DeepSeek V3、R1系列开源AI大模型在多语言理解、复杂推理任务中展现了卓越性能,不仅推动了AI技术的普及与发展,更是对开源社区的极大贡献。

目前,各家科技巨头都已纷纷开始支持、部署DeepSeek,国产硬件也在加速支持。

作为国产全功能GPU创新企业,摩尔线程快速实现了对DeepSeek蒸馏模型推理服务的高效部署,可让更多开发者基于摩尔线程全功能GPU,进行AI应用创新。

一键体验地址:

https://playground.mthreads.com

此外,用户也可以基于摩尔线程MTT S80、MTT S4000显卡,进行DeepSeek-R1蒸馏模型的推理部署。

其实早在1月28日,就已经有B站UP主在摩尔线程MTT S80上手动完成实践:

https://www.bilibili.com/video/BV18YfQYEEs2

通过DeepSeek提供的蒸馏模型,能够将大规模模型的能力迁移至更小、更高效的版本,在国产GPU上实现高性能推理。

摩尔线程基于自研全功能GPU,通过开源与自研双引擎方案,快速实现了对DeepSeek蒸馏模型的推理服务部署。

开源框架适配:

基于Ollama开源框架,摩尔线程完成DeepSeek-R1-Distill-Qwen-7B蒸馏模型的部署,并在多种中文任务中展现了优异的性能,验证摩尔线程自研全功能GPU的通用性与CUDA兼容性。

自研引擎加速:

通过摩尔线程自主研发的高性能推理引擎,结合软硬件协同优化技术,通过定制化的算子加速和内存管理,显著提升了模型的计算效率和资源利用率。

这一引擎不仅支持DeepSeek蒸馏模型的高效运行,还为未来更多大规模模型的部署提供了技术保障。 

最后,摩尔线程即将开放自主设计的夸娥(KUAE)GPU智算集群,全面支持DeepSeek V3、R1模型,以及新一代蒸馏模型的分布式部署。

夸娥集群集成先进推理技术与分布式计算框架,将确保大规模模型的高效稳定运行,助力开发者快速实现业务落地。

最新文章
1
亮相世界杯!原色RGB Mini LED跨代领先,东芝电视站稳全球高端赛道
2
20倍增长!2026年RGB-Mini LED电视销量冲击50万台,TOP3几乎包圆
3
洗碗机行业迎“新国标”大考:Q1内销遇冷,海外扛起增长大旗
4
微信开放AI Agent接入能力,美的、海尔、TCL率先布局智能家居新入口
5
方形前摄成新风向?曝国产TOP5厂商全员跟进
6
内存升级换屏幕降级?iPhone 18标准版为AI妥协引争议
7
索尼退出PC市场等于放弃中国!《死亡搁浅2》近半销量来自中国
8
中国技术直面世界杯考场,海信RGB-Mini LED电视拿下全球超七成份额
9
霸屏世界杯!海信RGB-Mini LED赛场吸睛,中国科技闪耀美加墨
10
“致敬经典 传承新鲜” 美菱联合京东开启全国家电焕新升级新篇章
11
行业首个!海尔净水进驻国家奥林匹克体育中心
12
长虹打造足球专列,家电品牌体育营销进入“场景即内容”时代
13
三登世界杯的海信冰箱,在变与不变间,跑出全球化新范式
14
Arm预判:未来PC将分化为两大品类
15
宽折叠屏崛起:折叠手机的下一代形态革命
16
16%不合格!夏普、双立人登黑榜,净水器市场火爆中藏隐忧
17
三星两款新品亮相印度认证机构!Galaxy Z Fold8与Watch Ultra 2上市临近
18
疑似小米万元折叠旗舰曝光:无感折痕+2亿影像,自研芯片悬念待解
19
OLED笔记本渗透率不到10%!中尺寸OLED迎降价拐点,PC企业机会来了
20
2026年上半年中国电视市场关键词:大尺寸化、绿色节能、技术创新
关于我们

微信扫一扫,加关注

商务合作
  • QQ:61149512