英特尔Sachin Katti:大模型在云端训练的成熟,将促进AI快速向边缘迁移
通信世界网消息(CWW)随着边缘计算与大模型技术的不断成熟,二者可以很好地融合在一起为行业应用中碰撞出新的“火花”。 近日,在2023英特尔网络与边缘产业高层峰会上,英特尔公司高级副总裁兼网络与边缘事业部总经理Sachin Katti和英特尔中国区网络与边缘事业部首席技术官、英特尔高级首席AI工程师张宇博士接受了通信世界全媒体记者的采访,分享了英特尔在边缘计算和大模型方面的战略和产品,以及如何推
2023-08-01 10:10:14
来源:通信世界全媒体 程琳琳  

通信世界网消息(CWW)随着边缘计算与大模型技术的不断成熟,二者可以很好地融合在一起为行业应用中碰撞出新的“火花”。

近日,在2023英特尔网络与边缘产业高层峰会上,英特尔公司高级副总裁兼网络与边缘事业部总经理Sachin Katti和英特尔中国区网络与边缘事业部首席技术官、英特尔高级首席AI工程师张宇博士接受了通信世界全媒体记者的采访,分享了英特尔在边缘计算和大模型方面的战略和产品,以及如何推动边缘智能和大模型在行业中的落地。

如今边缘计算市场已经在快速增长过程当中,这对英特尔以及对整个英特尔生态系统,以及整个中国市场来说都提供了巨大的机遇。

“英特尔的边缘计算策略是提供大量的硬件选择,比如说CPU、加速器、GPU等,达到一流的性能。同时在软件方面,英特尔希望在应用的时候可以降低复杂性。”Sachin Katti表示:“我们要帮助客户,为他们提供一些选择,同时通过我们的软件解决方案可以使他们的运营更加简化、更加精简,而且我们要跟整个的生态系统的合作伙伴一起合作。”

随着大模型在云端训练的成熟,AI就会快速向边缘进行迁移。Sachin Katti说:“我们看到AI正在快速地迁移到云端,在这当中边缘也会发挥更加重要的作用来推动AI的部署。英特尔有很多边缘设备都是在行业落地的。所以我们要做的是通过所提供的选择,让用户可以更好的使用AI,把AI成果运用在日常运营当中。”

英特尔认为大模型是AI未来的关键,它可以帮助解决一些人类面临的重大挑战,比如医疗、教育、环境等。“我们相信大模型可以让AI更加通用,更加普及,更加有价值。我们也相信大模型需要和行业结合起来,要在行业里去做跟这个行业相关的,有针对性的大模型去解决行业里有针对性的一些问题。”Sachin Katti表示。

为了支持大模型的训练和推理,英特尔提供了一系列的硬件和软件解决方案。在硬件方面,英特尔发布了专门面向大模型训练的加速器Gaudi 2,它在第三方公开的运用GPT 3这样一个大模型的评测当中表现出了非常好的性能。同时,英特尔也提供了通用的CPU处理器以及专用的独立显卡等加速器来满足人工智能模型推理对算力的要求。

在软件方面,英特尔推出了OpenVINO的软件工具,可以实现模型在不同平台上的迁移和部署。在最新的OpenVINO版本里,英特尔增加了对大模型的支持,比如说Stable Diffusion这样一个文生图的模型,已经开始在一些行业里进行使用了。

除了硬件和软件之外,英特尔还提供了开放标准的网络连接技术,来把大量的GPU和加速器连接起来,让大模型的训练更加方便。英特尔还推出了IPU(Infrastructure Processing Unit),它能够给用户提供一个可靠、高速、低延迟的数据传输服务。

“我们要做到在中国为中国,在本地客户需求上做一些行业需要的相应解决方案,利用总部所提供的软件基础来做这个方案,从工具、解决方案、生态等方面,来为本地行业客户赋能。”张宇博士表示。英特尔希望通过软硬件结合、开放标准、生态构建等方式,为客户提供整体解决方案,让AI更加通用、普及、有价值。

最新文章
1
亮相世界杯!原色RGB Mini LED跨代领先,东芝电视站稳全球高端赛道
2
20倍增长!2026年RGB-Mini LED电视销量冲击50万台,TOP3几乎包圆
3
洗碗机行业迎“新国标”大考:Q1内销遇冷,海外扛起增长大旗
4
微信开放AI Agent接入能力,美的、海尔、TCL率先布局智能家居新入口
5
方形前摄成新风向?曝国产TOP5厂商全员跟进
6
内存升级换屏幕降级?iPhone 18标准版为AI妥协引争议
7
索尼退出PC市场等于放弃中国!《死亡搁浅2》近半销量来自中国
8
中国技术直面世界杯考场,海信RGB-Mini LED电视拿下全球超七成份额
9
霸屏世界杯!海信RGB-Mini LED赛场吸睛,中国科技闪耀美加墨
10
“致敬经典 传承新鲜” 美菱联合京东开启全国家电焕新升级新篇章
11
行业首个!海尔净水进驻国家奥林匹克体育中心
12
长虹打造足球专列,家电品牌体育营销进入“场景即内容”时代
13
三登世界杯的海信冰箱,在变与不变间,跑出全球化新范式
14
Arm预判:未来PC将分化为两大品类
15
宽折叠屏崛起:折叠手机的下一代形态革命
16
16%不合格!夏普、双立人登黑榜,净水器市场火爆中藏隐忧
17
三星两款新品亮相印度认证机构!Galaxy Z Fold8与Watch Ultra 2上市临近
18
疑似小米万元折叠旗舰曝光:无感折痕+2亿影像,自研芯片悬念待解
19
OLED笔记本渗透率不到10%!中尺寸OLED迎降价拐点,PC企业机会来了
20
2026年上半年中国电视市场关键词:大尺寸化、绿色节能、技术创新
关于我们

微信扫一扫,加关注

商务合作
  • QQ:61149512