Galaxy Blackhole集群算力23PFLOPS！AI内容生成杀出黑马

Tenstorrent 推出 Galaxy Blackhole 服务器和集群

Tenstorrent近期宣布推出其新型服务器和集群产品——Galaxy Blackhole。据外媒报道，该系统旨在通过自主芯片实现快速的内容生成，并有效支持面向人工智能的高性能任务需求。与业内多数厂商转向异构计算的趋势不同，Galaxy Blackhole采用了完全整合设计，并使用6U服务器搭载了32枚Tenstorrent Blackhole芯片，在Block FP8模式下可提供高达23 PFLOPS的算力。这些芯片可同时支持预填和解码任务。

Tenstorrent CEO Jim Keller表示，目前客户部署的典型集群规模在4到32台Galaxy服务器之间，而更大规模的配置也在研发中。公司在2026年1月开始量产该服务器产品，并逐步发现其AI平台的出色性能。通过在单台设备中连接多个中等性能芯片，再通过多个设备相连，能够实现应用程序的灵活扩展。

高效的内容生成能力

Tenstorrent指出，Galaxy Blackhole集群具有视频实时生成和快速LLM（大型语言模型）内容生成的能力。该系统提供两种演示模式：一种是常规模式，用于高效的文本生成，可达人体可读速度；另一种是Blitz模式，专为代码生成和代理式AI设计，旨在突破性能瓶颈。在Blitz模式下，DeepSeek-671B模型的解码吞吐率每用户可达每秒350个内容单元，首个单元生成时间不超过4秒。据公司介绍，在测试短表述聊天时，该模式每用户表现为每秒255内容单元，并支持8到64的批量大小以及最长128k的上下文长度。测试是在16台Galaxy服务器（共512枚芯片）构成的集群上运行解码过程完成的。

与市场龙头Nvidia的异构计算解决方案不同，Tenstorrent的技术强调统一性。Keller指出，该平台能够同时处理预填和解码任务，从而构建一个能够运行LLM模型、视频生成以及代理式AI应用程序的大型计算集群。他还补充说明，尽管许多芯片具有大容量的SRAM，但Tenstorrent的芯片同时配备了DRAM，并且通过网络互联来强化整体性能。

技术规格及设计理念

每台Galaxy Blackhole服务器配置32个芯片，总计6.2GB的片上SRAM和2.9PB/s的带宽；此外还配备1TB DRAM，提供16TB/s的带宽。扩展连接采用标准以太网，单台设备支持最高56个800G以太网端口，总扩展带宽达到11.2GB/s。Keller认为，行业对专业化的过度追求可能会随着模型的发展变得不利，而Tenstorrent的目标是成为通用人工智能计算平台，并通过全面的软件堆栈提供支持。

他表示，在Blackhole硬件上高效运行数百种客户模型是一项挑战，但其意义重大，因为这能实现广泛的通用AI性能。公司开发了一种领域特定语言——TTLang，并设立在最高层的软件堆栈中。现有CUDA代码能够快速转换为TTLang语言，从而实现高效兼容。对于Blitz模式的大规模优化配置，TTL的开发将自动生成适配类似架构的模型。此外，基于图像和视频生成模型的优化成果也已集成到开源堆栈中，客户可迅速投入使用。

市场应用和客户案例

Tenstorrent计划向客户交付配备硬件的演示模型。据公司高级研究员Jasmina Vasiljevic透露，部分客户将直接实现这些演示模型的产品化，同时更多模型的优化管道也正在开发中。通过对一个模型性能的解锁，可以快速扩展优化至同类模型，为客户提供广泛选择。

Galaxy Blackhole服务器同时入选了Equinix的分布式AI平台——Distributed AI Hub。该平台由Better Brain框架供应商及OrionVM数据中心编排软件公司共同开发，旨在构建面向企业和核心系统的完整代理式AI解决方案。据Tenstorrent战略副总裁Amr El-Ashmawi介绍，公司由以往主要面向企业销售转为聚焦开发者市场，以简化采用AI的流程并提升产品成本效益。目前已有16台Galaxy Blackhole服务器安装在Equinix位于美国弗吉尼亚州阿什本的数据中心。

其他宣布的客户还包括位于印度的图像即服务供应商Turiam，该公司计划首期部署最多32台Galaxy设备；AI云平台Cirrascale；以及位于日本的新企业AI&，其创始人David Bennett曾是Tenstorrent的高管。此外，金融服务机构也成为该产品的关键客户群体，其对低延迟本地硬件的需求在快速交易等高级AI应用中尤为明显，典型部署规模为16台服务器。

虽然市场大多推崇异构计算和架构解耦，但El-Ashmawi指出，Tenstorrent系统能够同时实现快速预填和超快速解码，突破了传统计算的技术局限。他提到成本仍然是推广过程中的主要限制因素，公司致力于通过以太网技术降低每内容单元的计算成本，同时简化基础架构复杂性。

新媒网（公号: 新媒网跨境发布），是一个专业的跨境电商、游戏、支付、贸易和广告社区平台，为百万跨境人传递最新的海外淘金精准资讯情报。

本文来源：新媒网 https://nmedialink.com/posts/galaxy-blackhole-reaches-23pflops-ai-power.html