d-Matrix AI推理芯片：速度狂飙10倍！成本狂降3倍！

当前，全球人工智能技术正以惊人的速度演进，其核心驱动力之一便是对高性能、高效率算力的不懈追求。特别是在AI推理（Inference）领域，随着大型语言模型（LLMs）等应用的日益普及，如何经济、高效地处理海量数据，成为业界亟待解决的关键挑战。在这样的背景下，专注于AI推理芯片的美国公司d-Matrix，近日宣布完成了一轮大规模融资，这不仅凸显了市场对AI推理技术未来潜力的认可，也为全球AI基础设施的发展注入了新的活力。

前不久，外媒披露，美国人工智能芯片制造商d-Matrix成功完成了2.75亿美元的C轮融资。此次融资使其公司估值达到20亿美元，迄今为止累计融资总额已达4.5亿美元。d-Matrix方面表示，本轮融资获得了超额认购，吸引了来自欧洲、北美、亚洲和中东地区的众多知名投资机构参与。

本轮融资由BullhoundCapital（一家欧洲投资公司）、Triatomic Capital（一家美国投资公司）和淡马锡（新加坡）等组成的全球财团共同牵头。此外，卡塔尔投资局（QIA，卡塔尔主权财富基金）和新加坡经济发展局投资私人有限公司（EDBI）也作为新投资者加入。此前已参与投资的M12（微软（美国）的风险投资基金）、Nautilus Venture Partners（一家美国风险投资公司）、Industry Ventures（一家美国投资公司）以及Mirae Asset（一家韩国金融服务公司）等也继续追加了投资。

此次注入的新资金将主要用于推动d-Matrix的产品路线图、加速其全球市场拓展，并支持其在全球范围内部署其高性能、高效率的数据中心推理平台，服务于超大规模、企业级和主权客户。这表明d-Matrix不仅着眼于技术创新，更致力于将技术落地，解决实际应用中的痛点。

d-Matrix的首席执行官兼联合创始人Sid Sheth（美国）指出，公司自2019年成立之初，便专注于AI推理领域。他回忆说：“当d-Matrix于2019年成立时，AI训练被视为人工智能面临的最大挑战，但我们预见到一系列新的挑战即将到来。我们预测，当训练好的模型需要大规模、持续运行时，现有的基础设施将无法满足需求。因此，过去六年，我们一直致力于构建解决方案：一种全新的基础架构，旨在让AI随时随地运行。”他补充道，此次融资验证了这一愿景，标志着行业正迈入“AI推理时代”。

从中国跨境行业的视角来看，AI推理芯片的重要性不言而喻。随着国内企业积极“出海”，将AI技术融入各种产品和服务，如跨境电商的智能推荐、海外游戏的AI NPC、智能客服等，对高效、低成本、低功耗的推理能力需求日益旺盛。海外市场的消费者对智能化服务的体验要求越来越高，中国出海企业能否提供响应迅速、功耗合理、成本可控的AI服务，将直接影响其市场竞争力。

d-Matrix的全栈推理平台将计算与内存创新性地集成，结合高速网络和推理优化的软件，带来了显著的性能提升。据其公开资料显示，与基于GPU的系统相比，该平台能够提供：

性能提升： 速度快10倍
成本降低： 成本降低3倍
能源效率： 能源效率提高3至5倍

具体到应用层面，由d-Matrix的Corsair™推理加速器、JetStream™ NIC和Aviator™软件驱动的解决方案，在运行Llama 70B模型时，能够以每秒30,000个token的速度生成内容，且每个token延迟仅为2毫秒。该平台高计算密度的设计使得客户可以在单个机架中以极快的速度运行高达1000亿参数的模型。这种性能和效率的飞跃，直接解决了日益增长的AI可持续发展挑战。通过实现一个数据中心承载原来十个数据中心的工作量，d-Matrix为降低全球数据中心能耗提供了清晰的路径，同时帮助企业在不牺牲性能的前提下，提供经济高效、盈利的AI服务。

这种能效比的提升，对于国内正在大力发展AI算力基础设施的云服务提供商、数据中心运营商，以及有大量海外AI业务的企业来说，具有重要的参考价值。它不仅关乎运营成本，更关乎在“双碳”目标下，如何实现AI产业的绿色可持续发展。

海外报告指出，投资者对d-Matrix的信心，源于其差异化的技术、快速增长的客户群以及不断扩大的全球合作伙伴网络。其中一个亮点是，d-Matrix前不久与Arista（美国）、Broadcom（美国）和Supermicro（美国）共同宣布了基于开放标准的d-Matrix SquadRack™参考架构。强大的产品路线图，包括3D内存堆叠创新，以及以客户为中心的市场策略，进一步巩固了d-Matrix在新型AI基础设施堆栈中的基石地位。

BullhoundCapital的创始人Per Roman（欧洲）表示：“随着AI行业的重心从训练转向大规模推理，那些能够及早预见到这一转变并为此做好准备的公司将成为赢家。d-Matrix不仅在技术深度上表现出色，其战略愿景也十分清晰。该团队比任何人都更早地理解到，推理将决定AI的经济效益——他们正在出色地执行这一洞察。”

Triatomic Capital的普通合伙人Jeff Huber（美国）也指出，AI推理正在成为生产环境中AI系统的主要成本，而d-Matrix已经找到了在规模化条件下同时实现性能和可持续经济效益的方案。他补充道：“他们的数字内存计算架构是专为低延迟、高吞吐量的推理工作负载而构建的，这正是目前市场最需要的。”

微软（美国）的风险投资基金M12的执行合伙人Michael Stewart（美国）认为，AI推理需求的爆发式增长表明，效率和可扩展性对于超大规模数据中心和AI工厂捕获收入和实现盈利至关重要。他表示：“d-Matrix是首家解决大语言模型推理当代单位经济效益的AI芯片初创公司，其独特的内存产品架构在不断增长的各种模型规模下，能够持续提供领先的延迟和吞吐量，从而保持总拥有成本（TCO）优势。”

综合来看，d-Matrix的崛起，反映了全球AI产业对专用化、高效能推理硬件的迫切需求。对于中国的跨境从业人员而言，这无疑是一个值得密切关注的趋势。未来，AI应用将无处不在，从智能制造、智慧物流到个性化营销、沉浸式娱乐，都离不开强大而灵活的AI推理能力。国内的AI芯片研发、云服务提供商、以及各类出海应用开发商，可以从中汲取经验，思考如何在激烈的国际竞争中，寻找自身优势，提升产品的能效比，降低运营成本，从而更好地服务全球用户。

随着AI技术的持续进步，我们有理由相信，像d-Matrix这样专注于特定领域的创新力量，将不断推动AI基础设施的迭代升级，共同迎接一个更加智能、高效且可持续的AI时代。中国跨境行业应积极拥抱这些前沿技术动态，将其转化为提升国际竞争力的契机。

新媒网（公号: 新媒网跨境发布），是一个专业的跨境电商、游戏、支付、贸易和广告社区平台，为百万跨境人传递最新的海外淘金精准资讯情报。

本文来源：新媒网 https://nmedialink.com/posts/d-matrix-ai-chip-10x-speed-3x-cost.html