/

走进芯时代：AI算力GPU芯片分析

尽管AI芯片种类繁多，GPU因其适应性和强大的并行计算能力，仍是AI模型训练的主流硬件。英伟达在GPU领域的技术积累和生态建设使其处于领先地位，而国内GPU厂商虽在追赶，但仍存在差距。AI应用向云、边、端全维度发展，模型小型化技术成熟，数据传输需求增加，Chiplet技术降低设计复杂度和成本。
走进芯时代：AI算力GPU芯片分析
虽然Al芯片目前看有SPU、ASIC、CPU、FPSA等几大类，但是基于几点原因我们判断GPU仍将是训练模型的主流硬件：
1、Transformer架构是最近几年的主流，该架构最大的特点之一就是能够利用分布式BPU进行并行训练，提升模型训练效率；
2、ASIC的算力与功耗虽然看似有优势，但考虑到AI算法还是处于一个不断发展演进的过程，用专用芯片部署会面临着未来算法更迭导致芯片不适配的巨大风险；
3、英伟达强大的芯片支撑、生态、算法开源支持。
模型小型化技术逐步成熟，从训练走向推理。云、边、端全维度发展。
1、GPU方面， 在英伟达的推动下，其从最初的显卡发展到如今的高性能并行计算，海外大厂已经具备了超过20年的技术、资本、生态、人才等储备，形成了大量的核心技术专利，而且也能充分享有全球半导体产业链的支撑，这都或是目前国内厂商所缺失的。
近几年在资本的推动下，国内涌现出数十家GPU厂商，各自或都具备一定的发展基础，但整体经营时间较短，无论从技术积淀、产品料号布局、高端料号件能夹说，与国外大厂仍具备较大差距。但国产化势在必行，国内相关产业链重点环节也积极对上游芯片原厂进行扶持，国产算力芯片需要不断迭代以实现性能的向上提升，后续持续关注相关厂商料号升级、生态建设和客户突破：
2、 Al在端侧设备应用普及是大势所趋，目前，知识蒸馏、剪枝、量化等模型小型化技术在逐步成熟，Al在云、边、端全方位发展的时代已至。除了更加广泛的应用带来需求量的提升外，更复杂算法带来更大算力的需求也将从另一个维度推动市场扩容；
3、数据的高吞吐量需要大带宽的传输支持，光通信技术作为算力产业发展的支撑底座，具备长期投资价值；
4、 Chiplet技术可以突破单一芯片的性能和良率等瓶颈，降低芯片设计的复杂度和成本。

走进芯时代：AI算力GPU芯片分析

走进芯时代：AI算力GPU芯片分析

走进芯时代：AI算力GPU芯片分析

走进芯时代：AI算力GPU芯片分析

走进芯时代：AI算力GPU芯片分析

走进芯时代：AI算力GPU芯片分析

走进芯时代：AI算力GPU芯片分析

走进芯时代：AI算力GPU芯片分析

走进芯时代：AI算力GPU芯片分析

走进芯时代：AI算力GPU芯片分析

走进芯时代：AI算力GPU芯片分析

走进芯时代：AI算力GPU芯片分析

走进芯时代：AI算力GPU芯片分析

走进芯时代：AI算力GPU芯片分析

走进芯时代：AI算力GPU芯片分析

走进芯时代：AI算力GPU芯片分析

走进芯时代：AI算力GPU芯片分析

走进芯时代：AI算力GPU芯片分析

走进芯时代：AI算力GPU芯片分析

走进芯时代：AI算力GPU芯片分析

走进芯时代：AI算力GPU芯片分析

走进芯时代：AI算力GPU芯片分析

走进芯时代：AI算力GPU芯片分析

走进芯时代：AI算力GPU芯片分析

走进芯时代：AI算力GPU芯片分析

走进芯时代：AI算力GPU芯片分析

走进芯时代：AI算力GPU芯片分析

 

来源：架构师技术联盟

0赞

好文章，需要你的鼓励

推荐文章
据报道，IBM对HashiCorp的收购即将达成

IBM

HashiCorp

收购

2024-04-27

据报道，IBM对HashiCorp的收购即将达成

据《华尔街日报》近日报道，IBM公司正在就收购基础设施管理供应商HashiCorp公司进行深入谈判。

亚马逊云科技：将“构建块”蓝图与CodeCatalyst结合，实现DevOps等项目全面提速

AWS

DevOps

开发

2024-04-27

亚马逊云科技：将“构建块”蓝图与CodeCatalyst结合，实现DevOps等项目全面提速

亚马逊云科技已经将项目开发套件（PDK）蓝图引入其CodeCatalyst DevOps工具当中。

MiniGPT4-Video：让大模型分析视频内容，依然有难度

大模型

人工智能

AGI

2024-04-26

MiniGPT4-Video：让大模型分析视频内容，依然有难度

MiniGPT4-Video有待继续调优。

法国奢侈品巨头LVMH：AI挑战奢侈品行业的根源是人、而非技术

AI

数据分析

品牌设计

2024-04-26

法国奢侈品巨头LVMH：AI挑战奢侈品行业的根源是人、而非技术

各大奢侈品牌一直广泛运用基础AI技术开展数据分析，借此预测需求、管理供应链并支持其他运营用例，但近期生成式AI的爆发式演进将AI技术提升到了新的水平，既带来种种前所未有的机遇、也造就意想不到的挑战。

2024

03/18

19:04

分享

点赞

架构师技术联盟

分享项目实践，洞察前沿架构，聚焦云计算、微服务、大数据、超融合、软件定义、数据保护、人工智能、行业实践和解决方案。

最近文章 :
阅读更多内容，猛戳这里

友情链接

业界热点:

北京第二十六维信息技术有限公司（至顶网）版权所有. 京ICP备15039648号-7 京ICP证161336号京公网安备 11010802021500号  京网文(2021)3350-928号  京字第20868号

举报电话：010-62641205　涉未成年人举报专线：010-62641208 举报邮箱：jubao@zhiding.cn　公开举报受理处置规则

网上有害信息举报专区：https://www.12377.cn

安全联盟认证