博通定制芯片杀入AI推理领域,竟引发能源效率革命!


人工智能基础设施持续推动市场发展,新阶段竞争加剧
近几年,人工智能技术的快速发展成为全球市场的主要驱动力之一。当前,围绕AI技术基础设施的竞争进入新阶段,这一变化可能导致行业领导者的位次发生洗牌。
据外媒分析,AI发展的第一阶段主要聚焦于大型语言模型的训练,而现阶段则开始更重视推理和AI代理的应用。这一过程中,英伟达通过其核心技术成为了第一个阶段的重要受益者。公司早在学术研究机构和实验室中引入了CUDA软件生态系统,教育市场奠定了其平台优势。大量的AI底层代码基于英伟达平台开发,并针对其硬件进行了优化,从而使其在训练大型语言模型时展现出了无可比拟的竞争力。
推理阶段竞争门槛较低,开源AI框架增加竞争机会
相比于训练复杂语言模型,AI推理技术的难度较低。许多开发者如今选择在开源框架上进行工作,以减少对单一生态系统的依赖。例如,使用OpenAI的开源工具Triton进行开发既有效果,也降低了技术壁垒。这为更多公司提供了参与竞争的机会。
尽管如此,英伟达在AI推理领域仍保持重要地位,一方面源于其早期的技术积累,另一方面通过收购和语言处理单元产品进一步巩固了领先优势。
与此同时,其他芯片企业也在这一阶段表现出极大的潜力,例如博通(Broadcom)和超威半导体(AMD)等公司,展示出强劲的增长态势。
博通:聚焦定制芯片的重要参与者
近年来,云数据中心巨头们越来越倾向于采用多样化的AI加速器,而不仅仅局限于英伟达的GPU技术。这种趋势不仅让市场参与者转型开发自己的技术,并且推动了定制芯片的迅速崛起。博通作为定制芯片领域的领导者,其产品应用越来越受到广泛关注。
定制芯片,或者称为专用集成电路(ASICs),是针对某一特定任务设计的芯片。虽然相比通用型GPU,它们的灵活性略有不足,但却能够在专业领域中提供优越的性能,同时具备显著的能源效率。这对于电力消耗占据高比例的AI推理阶段尤为重要,节能关键点也逐渐引发业界关注。
博通在开发此类技术上的成就可追溯至与Alphabet的合作。博通协助该公司设计了张量处理单元(TPU),这种设计已证明了其市场上的竞争力。Alphabet还通过博通将部分TPU开放给特定客户采购,展现了较强的市场需求。
此外,诸如OpenAI与Meta等知名技术企业也正与博通合作开发定制AI芯片,以期在基础设施方面获得更高效率、控制力与灵活的技术组合。
建议国内相关从业者特别关注定制化芯片和AI推理领域动向,研究如何结合自身优势参与这场全球市场竞争。
新媒网(公号: 新媒网跨境发布),是一个专业的跨境电商、游戏、支付、贸易和广告社区平台,为百万跨境人传递最新的海外淘金精准资讯情报。
本文来源:新媒网 https://nmedialink.com/posts/broadcom-custom-chips-reshape-ai-efficiency.html


粤公网安备 44011302004783号 













