国产GPU鼎力支持!摩尔线程快速部署DeepSeek
DeepSeek V3、R1系列开源AI大模型在多语言理解、复杂推理任务中展现了卓越性能,不仅推动了AI技术的普及与发展,更是对开源社区的极大贡献。
2025-02-05 09:39:56
来源:快科技  

快科技2月4日消息,DeepSeek V3、R1系列开源AI大模型在多语言理解、复杂推理任务中展现了卓越性能,不仅推动了AI技术的普及与发展,更是对开源社区的极大贡献。

目前,各家科技巨头都已纷纷开始支持、部署DeepSeek,国产硬件也在加速支持。

作为国产全功能GPU创新企业,摩尔线程快速实现了对DeepSeek蒸馏模型推理服务的高效部署,可让更多开发者基于摩尔线程全功能GPU,进行AI应用创新。

一键体验地址:

https://playground.mthreads.com

此外,用户也可以基于摩尔线程MTT S80、MTT S4000显卡,进行DeepSeek-R1蒸馏模型的推理部署。

其实早在1月28日,就已经有B站UP主在摩尔线程MTT S80上手动完成实践:

https://www.bilibili.com/video/BV18YfQYEEs2

通过DeepSeek提供的蒸馏模型,能够将大规模模型的能力迁移至更小、更高效的版本,在国产GPU上实现高性能推理。

摩尔线程基于自研全功能GPU,通过开源与自研双引擎方案,快速实现了对DeepSeek蒸馏模型的推理服务部署。

开源框架适配:

基于Ollama开源框架,摩尔线程完成DeepSeek-R1-Distill-Qwen-7B蒸馏模型的部署,并在多种中文任务中展现了优异的性能,验证摩尔线程自研全功能GPU的通用性与CUDA兼容性。

自研引擎加速:

通过摩尔线程自主研发的高性能推理引擎,结合软硬件协同优化技术,通过定制化的算子加速和内存管理,显著提升了模型的计算效率和资源利用率。

这一引擎不仅支持DeepSeek蒸馏模型的高效运行,还为未来更多大规模模型的部署提供了技术保障。 

最后,摩尔线程即将开放自主设计的夸娥(KUAE)GPU智算集群,全面支持DeepSeek V3、R1模型,以及新一代蒸馏模型的分布式部署。

夸娥集群集成先进推理技术与分布式计算框架,将确保大规模模型的高效稳定运行,助力开发者快速实现业务落地。

最新文章
1
赋能产业带商家建立生意经营新阵地,快手电商举办泉州男装产业带招商会
2
铁牛逆袭记:从修拖拉机到百万主播,在快手实现滚烫人生
3
快手本地生活新商扶持专项成效显著 全生命周期助力商家高效经营
4
伴随用户20年搬三次家,海信变频空调从来没掉过链子!
5
刘平均:海信空调变频S架构发布具有重大意义
6
凯度《用心焕新厨》热播中,“六边形战士”打造聂小雨高颜值厨房
7
2025 厨电三强战略博弈:方太、老板、华帝的认知破局路径
8
世俱杯开幕在即:百吋冠军携RGB-Mini LED绝技,踢出大屏“世界波”
9
吴晓波点赞海信变频技术:是真正的科技普惠大众
10
舒适不打折 电费省一半,海信空调再次正名“变频专家”!
11
“变频专家”海信空调放大招!行业首发变频S架构,让空调电费省一半
12
全球每卖2台100吋就有1台是海信!Omdia揭晓世界第一统治力
13
快手电竞推动电竞教育多元化发展 探索教育与多领域融合
14
快手联手阅文集团推出「​快阅计划」,打造小说剧创作与消费新高地
15
快手上线「云南消费券」购物专区,下单立减!
16
BOE(京东方)携钙钛矿、新能源产品及解决方案亮相2025 SNEC 科技创新赋能行业绿色发展
17
大疆落地扫地机市场,无人机霸主要“横扫”千亿清洁赛道?
18
能放进裤兜的性能平板怪兽!红魔电竞平板3 Pro小到离谱,性能强到离谱!
19
家电市场再遇挑战!国补暂停,产业升级路在何方?
20
新质生产力激活就业“新引擎”
关于我们

微信扫一扫,加关注

商务合作
  • QQ:61149512