NVIDIA：ComfyUI狂飙3倍性能，跨境图片秒生成！

近年来，随着人工智能技术的飞速发展，特别是小型语言模型（SLM）和扩散模型（Diffusion Model）在质量上的显著提升，以个人电脑（PC）为载体的AI开发者生态正展现出蓬勃的生命力。对于众多身处中国跨境行业的从业者而言，无论是从事商品设计、内容营销，还是客户服务与运营管理，这些前端技术进步都意味着新的机遇和挑战。本地化AI部署不仅能有效提升效率，降低成本，还能在数据隐私和定制化方面提供更灵活的解决方案，成为我们关注的焦点。

2026年上半年，在备受瞩目的国际消费电子展（CES 2026）上，英伟达（NVIDIA）公司公布了一系列针对AI PC开发者的重磅更新。这些更新主要围绕开源工具的加速与优化展开，旨在显著提升其RTX个人电脑和DGX Spark工作站上小型语言模型及扩散模型的运行效能。这些技术革新对于希望利用AI提升出海竞争力的中国企业和开发者来说，无疑是值得深入研究的前沿动态。

此次更新的核心亮点包括：对llama.cpp、Ollama等SLM工具以及ComfyUI等扩散模型工具的加速支持；针对英伟达GPU优化的开源模型，例如全新的LTX-2音视频模型；以及一套加速Agentic AI（智能代理AI）工作流的工具集。这些举措共同构筑了一个更加高效、易用的AI开发环境，预示着AI PC在赋能本地化智能应用方面将发挥更大作用。

开源AI框架助力推理效能跃升

英伟达一直积极与全球开源社区协作，致力于提升AI PC栈的推理性能。对于跨境电商而言，这意味着更快的图像生成速度、更高效的文本处理能力，以及更智能的自动化工具。

ComfyUI持续优化，性能显著提升

在扩散模型领域，ComfyUI通过PyTorch-CUDA进一步优化了在英伟达GPU上的表现，并新增了对NVFP4和FP8量化格式的支持。这些量化技术能够分别实现60%和40%的内存节省，同时大幅提升运行速度。据测算，开发者在使用NVFP4时平均能获得3倍的性能提升，而NVFP8也能带来2倍的性能增益。这意味着设计师和营销人员可以更快地迭代高质量的商品图片、广告素材和概念图，极大缩短内容创作周期。
Graph showing performance increases between September 2025 and January 2026.
图1. ComfyUI性能提升情况

以下表格总结了ComfyUI此次更新的关键特性及其对开发者的潜在益处：

更新特性	描述	潜在影响（对跨境从业者）
NVFP4支持	线性层可使用NVFP4格式运行，通过优化内核提供3-4倍于FP16和BF16线性层的吞吐量。	显著加快产品图片、营销海报、商品详情图等视觉内容的AI生成速度，使得创意迭代更加迅速，尤其是在需要大量定制化素材的跨境营销活动中，能大幅提升效率。
融合FP8量化内核	通过消除受内存带宽限制的操作，提升模型性能。	在保持模型精度的前提下，减少内存占用并加速计算，使得开发者可以在配置相对较低的RTX PC上运行更复杂的扩散模型，降低了高质量AI内容创作的硬件门槛，让更多中小企业能负担得起。
融合FP8去量化内核	进一步提升不带第四代Tensor Core的英伟达RTX GPU（如Ada架构之前的产品）的FP8工作负载性能。	扩大了高性能AI创作的适用范围，即使是旧款RTX显卡用户也能享受到FP8带来的性能优势，有助于平滑技术升级曲线，保护现有硬件投资。
权重流式传输	利用并发的系统内存和CPU计算流，隐藏内存延迟并增加吞吐量，特别适用于VRAM有限的GPU。	在显存资源受限的情况下，依然能高效加载和处理大型模型权重，这对于预算有限的跨境初创公司或个人卖家来说，意味着在常用PC上也能进行复杂的AI艺术创作和设计工作，无需昂贵的工作站。
混合精度支持	模型可以在单个网络内结合多种数值格式，实现精度和性能的最佳平衡。	允许开发者根据具体任务需求，灵活调整精度与性能的平衡点。例如，在快速预览阶段可使用较低精度以加速，在最终输出时再切换到更高精度，从而优化资源利用率和工作流。
RMS & RoPE融合	将扩散Transformer中常见的、受内存带宽限制的操作融合，减少内存使用和延迟，此优化利于所有DiT模型。	提高DiT（Diffusion Transformer）模型的整体运行效率，无论模型大小和数据类型，都能获得更快的生成速度。这对于需要快速响应市场趋势，频繁更新产品展示图或营销素材的跨境卖家至关重要。

这些优化的示例代码已在ComfyUI kitchen存储库中公开。同时，NVFP4和FP8的预训练模型权重也已在HuggingFace平台发布，其中包括全新的LTX-2、FLUX.2、FLUX.1-dev、FLUX.1-Kontext、Qwen-Image和Z-Image等。

RTX AI PC上llama.cpp和Ollama的加速表现

在小型语言模型（SLM）方面，英伟达GPU上llama.cpp在混合专家（MoE）模型上的令牌生成吞吐量性能提升了35%，而在RTX PC上Ollama的性能也提升了30%。这意味着在本地运行AI助手、智能客服、内容创作工具时，响应速度将更快，效率更高。
Bar charts showing LLM performance improvements on llama.cpp via different models.
图2. 英伟达RTX在llama.cpp上GPT-OSS-20B、Nemotron Nano V2和Qwen 3 30B模型令牌生成性能提升情况

根据2026年1月的版本构建，通过设置特定环境变量和参数（GGML_CUDA_GRAPH_OPT=1, FA=ON, 和—backend-sampling）可实现上述性能。

以下表格汇总了llama.cpp和Ollama此次更新带来的核心改进：

工具名称	更新特性	描述	潜在影响（对跨境从业者）
llama.cpp	GPU令牌采样	将TopK、TopP、温度、minK、minP和多序列采样等多种采样算法卸载至GPU，提升了响应质量、一致性和准确性，同时提高性能。	大幅提升本地运行智能客服、AI辅助翻译和多语言内容生成工具的响应速度和输出质量。对于需要快速、准确与全球用户交互的跨境电商，这意味着更流畅的用户体验和更高效的内部运营。
llama.cpp	QKV投影的并发处理	支持并发运行CUDA流以加速模型推理。	允许模型并行处理多个任务或对话片段，显著减少等待时间。例如，在处理多个客户咨询或生成批量产品描述时，能实现更快的并发处理，提高整体工作效率。
llama.cpp	MMVQ内核优化	将数据预加载到寄存器中，并通过增加GPU在其他任务上的利用率来隐藏延迟，从而加速内核。	提升了模型内部数据处理的效率，使得在本地RTX设备上运行复杂语言模型更加流畅，对于资源敏感型任务尤其有利。
llama.cpp	更快的模型加载时间	在DGX Spark上模型加载时间提升高达65%，在RTX GPU上提升15%。	大大缩短了AI工具的启动时间，使得开发者和运营人员能更快地投入工作。对于需要频繁切换模型或应对突发任务的场景，这种速度提升能带来实实在在的便利。
llama.cpp	英伟达Blackwell GPU上的原生MXFP4支持	利用Blackwell GPU上第五代Tensor Core的硬件级NVFP4特性，使LLM的提示处理速度提升高达25%。	针对最新一代硬件的优化，保证了最前沿的AI技术能够充分发挥硬件性能。对于追求极致效率和性能的跨境企业，尤其是大型内容工作室或研发团队，将能获得显著优势。
Ollama	默认闪存注意力机制（Flash Attention）	现已在许多模型中成为标准。该技术采用“分块”计算注意力机制，减少GPU显存与系统内存之间的传输次数，从而提升推理和内存效率。	提高了本地LLM的运行速度和内存利用率，使得在PC上运行大型语言模型更加稳定和高效。对于进行多语言文案创作、市场趋势分析等任务，能提供更快更流畅的体验。
Ollama	内存管理方案	新的内存管理方案能为GPU分配额外内存，提升令牌生成和处理速度。	通过优化内存分配，进一步提升了模型的运行速度，确保在处理复杂或长时间的AI任务时，系统依然能够保持高性能响应。
Ollama	API新增LogProbs功能	解锁了分类、困惑度计算和自我评估等更多开发者功能。	为开发者提供了更深层次的模型输出分析能力，有助于构建更智能、更可靠的AI应用。例如，在自动内容审查、情感分析等场景中，能提供更精细的判断依据，对于维护跨境品牌的合规性和声誉至关重要。
Ollama	上游GGML库的最新优化	集成了GGML库的最新性能改进。	确保Ollama用户始终能享受到基础库带来的最新性能提升和功能优化，保持其在本地AI部署方面的领先优势。

开发者可以访问llama.cpp和Ollama的官方存储库获取最新信息，并在LM Studio或Ollama App等应用程序中进行体验。这些本地化部署的AI工具，无疑将为中国跨境从业者提供更经济、更灵活的AI能力。

RTX AI PC迎来全新高级音视频模型

英伟达与Lightricks公司携手发布了LTX-2模型权重。这是一款高级音视频模型，其性能可与云端模型媲美，且能在您的RTX AI PC或DGX Spark工作站上本地运行。作为一款开放的、可用于生产环境的音视频基础模型，LTX-2能生成长达20秒的4K分辨率同步音视频内容，帧率最高可达50帧/秒。它还提供多模态控制，为开发者、研究人员和工作室提供了高度的可扩展性。该模型的权重提供BF16和NVFP8两种格式。其中，量化后的版本可实现30%的内存缩减，使其能在RTX GPU和DGX Spark上高效运行。

过去几个月里，我们也见证了数十个新模型的发布，每一个都在推动生成式AI的边界。对于跨境营销而言，LTX-2的出现意味着可以更低成本、更高效地制作出高质量的本地化视频内容，例如产品演示、广告短片、社交媒体内容等，以更具吸引力的方式触达全球消费者。

图3. 4K50 LTX-2输出示例

本地AI的Agentic AI工具包

私有、本地化智能代理（Agentic AI）的应用场景广阔，其价值不可限量。但在PC有限的显存预算下，当模型被蒸馏和量化以适应时，其质量可能会下降。同时，智能代理工作流在与其他工具或操作交互时，对答案的可靠性和可重复性要求极高，这使得提高精度变得愈发重要。为了解决这些挑战，开发者通常会采用微调（fine-tuning）和检索增强生成（RAG）两种技术来提升精度。英伟达此次发布的更新，正是为了加速这些工作流中构建Agentic AI的工具。

Nemotron 3 Nano是一个320亿参数的MoE模型，专门为Agentic AI和微调进行了优化。它拥有36亿活跃参数和100万上下文窗口，在编程、指令遵循、长上下文推理和STEM任务等多项基准测试中名列前茅。该模型已通过Ollama和llama.cpp针对RTX PC和DGX Spark进行了优化，并可使用Unsloth进行微调。Nemotron 3 Nano以其高度开放性而著称，其权重、配方和数据集均可广泛获取。开放的模型和数据集使得开发者可以更轻松地进行定制化，同时也能避免冗余的微调工作，并为客观基准测试提供可靠的数据，从而构建稳健高效的工作流。跨境企业可以利用这种本地化的智能代理，实现如自动回复客户查询、个性化推荐、多语言内容自动审核等任务，显著提升运营效率。

在RAG方面，英伟达与Docling合作，这是一个用于摄取、分析和处理文档，将其转化为机器可理解语言以支持RAG管道的软件包。Docling针对RTX PC和DGX Spark进行了优化，性能比CPU高出4倍。对于跨境业务而言，这意味着可以高效地处理海量的海外市场报告、法规文档、用户反馈等非结构化数据，为决策提供更准确、更实时的信息支持。

Docling主要有两种使用方式：

传统OCR管道： 这是一个由库和模型组成的管道，通过PyTorch-CUDA在RTX上实现加速。
基于VLM的管道： 这是一个用于处理复杂多模态文档的高级管道，可通过WSL和Linux环境中的vLLM使用。

Docling由IBM开发并贡献给Linux基金会。开发者可以通过英伟达提供的简易指南，立即在RTX上开始体验。

音视频效果SDK持续升级

英伟达视频和音频效果SDK使开发者能够在多媒体管道中应用AI效果，通过背景降噪、虚拟背景或眼神接触等功能提升内容质量。这对于需要进行跨国视频会议、制作高质量直播内容或培训视频的跨境从业者来说，无疑是提升专业形象的关键工具。

在CES 2026上，英伟达最新更新增强了视频重打光功能，使其在不同环境中产生更自然、更稳定的效果，同时将性能提升了3倍（将运行所需的最低GPU降低至英伟达GeForce RTX 3060及以上），并将模型大小减少了高达6倍。这意味着更多用户能够在更普及的硬件上享受到高质量的AI视频效果。要体验带AI重打光功能的视频效果SDK，可以关注英伟达Broadcast应用程序的新版本。

我们非常乐见英伟达与AI PC工具开源社区的紧密合作，共同为开发者带来模型、优化、工具和工作流。对于身处中国跨境行业的从业人员而言，这些本地AI能力的提升，为我们利用技术创新，在国际市场上开辟新蓝海提供了强大的助力。建议国内相关从业人员密切关注此类动态，积极探索这些前沿技术在自身业务场景中的应用潜力，以保持并增强国际竞争力。

新媒网（公号: 新媒网跨境发布），是一个专业的跨境电商、游戏、支付、贸易和广告社区平台，为百万跨境人传递最新的海外淘金精准资讯情报。

本文来源：新媒网 https://nmedialink.com/posts/nvidia-comfyui-3x-speed-xborder-images.html