DRIVE Thor智驾AI部署实操!效率暴增2倍极速搞定车载大模型

2025-09-04AI工具

Image

各位跨境实战专家和智能汽车领域的开拓者们,大家好!

智能汽车技术发展得如火如荼,这背后,是越来越庞大、复杂的AI模型在车辆端侧的加速落地。如今的智能座驾,不仅仅需要高级感知和多传感器融合,更要能实现端到端的深度学习管线。这意味着车辆要能全面理解周遭环境,融合多模态信息,并实时做出决策——所有这些都必须在车内独立完成。随着汽车应用场景不断拓展,包括视觉-语言-动作模型(VLA)、大语言模型(LLM)的应用,生成式AI带来的个性化智能助理,以及更丰富的多模态体验,我们对算力加速的需求达到了前所未有的高度。这种趋势迫切呼唤一个平台,能让开发者和整车厂更容易地在车内开发、优化和部署这些资源密集型应用。

今天,新媒网跨境获悉一个振奋人心的消息:NVIDIA DRIVE AGX Thor开发者套件已正式上市!这款套件搭载了NVIDIA Blackwell GPU、新一代Arm CPU,并配有先进的NVIDIA DriveOS 7软件栈。DRIVE AGX Thor在设计之初就严格遵循ISO 26262 ASIL-D功能安全和ISO 21434安全标准,旨在成为生产级的开发工具链。它将赋能全球的汽车整车厂、一级软件供应商及研究机构,将最前沿的AI技术部署到车辆边缘端,彻底革新自动驾驶和车载体验,为我们迈向智能出行新时代按下“加速键”。

NVIDIA DRIVE AGX Thor:如何引领车载边缘智能新纪元?

DRIVE AGX Thor是NVIDIA车载边缘计算平台发展史上的一个里程碑式飞跃。作为DRIVE家族的旗舰级系统级芯片(SoC),Thor在前代Orin和其他解决方案的成功基础上,将系统性能、效率和功能灵活性提升到了一个全新维度。它极大地扩展了车载边缘设备在计算上的可能性,帮助汽车制造商始终走在行业前沿,应对未来的更高需求。

相较于DRIVE AGX Orin,Thor在多方面实现了显著提升:

  • GPU性能大幅跃升: Thor搭载了Blackwell GPU,集成了生成式AI引擎,支持FP32/16/8/4位精度,INT8算力高达1,000 TFLOPS,FP4算力更是达到惊人的2,000 TFLOPS。这对比Orin的CUDA Tensor Core GPU(最高254 INT8 TFLOPS),几乎是质的飞跃,意味着Thor能处理更复杂、更精细的AI模型,让车辆的“大脑”更聪明。
  • CPU能力全面强化: Thor配备了14核Arm Neoverse V3AE CPU,在SPECrate 2017_int_base测试中,估算性能比Orin提升了2.3倍。更强的CPU意味着系统可以同时处理更多的任务,运行更复杂的操作系统和应用,提升整体响应速度。
  • 内存带宽显著拓宽: Thor的LPDDR5X内存带宽达到273 GB/s,远超Orin的205 GB/s LPDDR5。高带宽保证了大量传感器数据和AI模型参数能快速流转,避免数据处理瓶颈,尤其在运行大型多模态AI模型时,这点至关重要。
  • 最高安全等级支持: Thor支持ISO 26262 ASIL-D用例,这是汽车功能安全的最高等级。这意味着它不仅性能强劲,在安全性上也达到了行业的顶尖标准,为自动驾驶系统的可靠运行提供了坚实保障。

这些技术参数的升级,转化到实际应用中,就意味着我们的智能汽车能够拥有更强大的“感知-决策-执行”能力,可以更精确地理解复杂路况,更快速地响应突发情况,甚至能实现与乘客更自然、更智能的交互。

NVIDIA DRIVE AGX Thor开发者套件:专为开发者打造的利器

DRIVE AGX Thor开发者套件为我们提供了一个可靠的平台,让我们在进入量产级汽车计算平台之前,能够快速部署、测试和优化应用程序。它全面兼容NVIDIA DRIVE Hyperion下一代传感器架构,并支持一套完整的生态系统传感器。套件还配备了广泛的汽车行业标准接口,这让开发者可以在各种汽车应用场景中进行无缝原型开发和验证。

这款DRIVE AGX Thor开发者套件现在已经开始接受预订,预计将在2025年9月交付。为了满足不同开发需求,它提供了两种型号:

  • DRIVE AGX Thor开发者套件SKU 10: 专为台式开发工作流设计,适合实验室环境下的代码编写、调试和初步测试。
  • DRIVE AGX Thor开发者套件SKU 12: 专为车载开发设计,可以直接集成到测试车辆中进行路测和实际场景验证。
    Side-by-side comparison of two versions of the NVIDIA DRIVE AGX Thor Developer Kit: Bench and In-Vehicle. The Bench SKU includes an AC power supply in chassis. The In-Vehicle SKU includes a DC power connector.
    图1. NVIDIA DRIVE AGX Thor开发者套件提供不同型号,满足不同开发需求

无论选择哪种型号,这款套件都内置了强大的NVIDIA Thor SoC芯片,配备了64 GB LPDDR5X内存(4266 MHz),以及256 GB UFS存储。在连接性方面,它提供了丰富的接口:4个百兆以太网、16个千兆以太网、6个万兆以太网(均采用H-MTD连接器),足以应对海量数据传输;图像方面,支持16路GMSL2摄像头和2路GMSL3摄像头(四路Fakra连接器),方便接入多样化的视觉传感器;USB接口也十分齐全,包括1个USB 3.2(数据传输)、1个USB 3.2(用于烧录)、1个USB 2.0(数据传输)和1个USB 2.0(调试用),全部采用USB-C接口。此外,还有5路GMSL3显示输出(四路Fakra)和1路DisplayPort接口(最高支持4K @ 60 Hz),以及1路PCIe Gen5 x4或2路PCIe Gen5 x2接口。整个套件的功耗(TDP)为350 W。

可以说,DRIVE AGX Thor开发者套件将高性能计算与符合汽车标准的开发环境完美结合,它能显著加速创新进程,降低开发风险,并确保从早期开发到车辆级部署的平稳过渡。

NVIDIA DriveOS 7:智能汽车的“智慧大脑”

NVIDIA DriveOS为自动驾驶汽车提供了完整的软件基础,它将高性能AI计算、实时处理和安全标准合规性集成在一个平台上。用大白话讲,它就是智能汽车的“智慧大脑”,掌控着车辆的一切高级功能。DriveOS 7在多个方面都带来了关键增强:

  1. 深度集成NVIDIA TensorRT 10: TensorRT 10通过动态内核生成与融合,改进的ModelOpt量化支持(包括INT4 AWQ),以及Blackwell原生NVFP4加速,显著提升了深度学习任务的性能和内存效率。同时,它扩展了V3插件支持,加快了构建时间,提供了强大的网络类型检查和调试工具,让处理最复杂的AI模型也游刃有余。
  2. NVIDIA DriveOS LLM SDK运行时: DriveOS 7的核心创新之一就是引入了DriveOS LLM SDK。这是一个纯C++的大模型运行时,依赖项极少,确保了超低延迟。它针对FP16、FP8、INT4和FP4量化进行优化,提供了推测解码、KV缓存、基于LoRA的模型定制、用于吞吐量的动态批处理等高级功能,并支持主流的大语言模型(LLM)和视觉-语言模型(VLM)。整个LLM SDK运行时会以源代码形式提供,并附带模型推理和SDK功能的示例,方便开发者快速上手。
  3. 全面的安全与防护: 平台瞄准最高的安全等级,即ISO 26262 ASIL-D功能安全和ISO 21434 CAL 4安全标准。这意味着我们的智能汽车系统不仅要跑得快,更要跑得稳,跑得安全,能抵御各种潜在的网络攻击和系统故障。
  4. CUDA 13能力加持: 全新的CUDA 13功能,如上下文暂停/恢复、批处理内存复制(memcpy)和硬件感知Tensor映射,为开发者提供了更精密的工具来优化应用程序性能,压榨出每一丝算力。
  5. NVIDIA DriveWorks升级: NVIDIA DriveWorks现在与NVIDIA DriveOS深度集成,并经过真实自动驾驶项目部署的验证,针对Thor SoC架构进行了优化。它为生产车辆提供了一套强大的感知、传感器融合和车辆系统SDK,保证了系统的鲁棒性和可靠性。
  6. 开发生态系统全面升级: Ubuntu、Docker、GCC、C++、Linux内核和Yocto等开发工具链都更新到了最新版本,带来了更快的性能、更强的安全性、更广泛的硬件兼容性,以及更流畅、更现代的开发体验。
  7. TensorRT 10深度优化汽车应用: TensorRT 10作为NVIDIA DriveOS 7的基石,通过一系列基础性的升级,显著提升了AI性能,极大地提高了开发者的生产力。
    • 量化技术: INT4权重量化能带来更快的推理速度和更低的功耗,尤其适用于内存密集型模型;分块缩放则通过在每个块内局部保留动态范围,减少了INT8和FP8等低精度格式的信息损失;Blackwell GPU专用的NVFP4精度允许在内存和带宽受限的场景下,以最小的精度损失高效运行更大的模型。
    • 平铺优化: 允许开发者配置优化级别(从“无”到“完全”),并设置L2缓存使用限制,以平衡构建时间与运行时速度,灵活满足不同需求。
    • 改进的开发者体验: V3插件允许开发者在不同的会话或硬件目标之间重用插件层,从而加快引擎构建并缩短部署时间;调试张量功能可以在模型执行期间识别特定的中间张量,以便检查其值,从而更好地进行调试;NVIDIA TensorRT模型优化器则提供了一套全面的训练后和训练循环内模型优化库,适用于TensorRT 10及更高版本。

NVIDIA DriveOS LLM SDK运行时:车载大模型不是梦

NVIDIA DRIVE Thor平台和NVIDIA DriveOS带来的一大核心创新,就是其能够在边缘端,即直接在车辆内部,高效运行强大的大语言模型(LLM)和视觉-语言模型(VLM)。这得益于DriveOS LLM SDK,这是一个轻量级、高性能的C++工具包,专门用于展示TensorRT在汽车平台上部署LLM和VLM的能力。

DriveOS LLM SDK提供了一个灵活的工具包,将LLM的强大能力直接带入车辆,实现丰富的对话式AI、多模态推理、驾驶员和乘员监控等诸多功能。它目前已原生支持多个Llama系列和Qwen系列模型,包括Llama 3 8B Instruct、Llama 3.1 8B、Llama 3.2 3B,以及Qwen2.5-7B-Instruct、Qwen2-7B-Instruct、Qwen2.5-0.5B等多种精度(FP16、INT4、FP8、NVFP4)。同时,它也原生支持Qwen2-VL-2B-Instruct和Qwen2-VL-7B-Instruct等VLM模型进行边缘部署。新媒网跨境预测,未来版本还将支持更多模型选项和管道工具,实现更无缝的汽车集成。

NVIDIA DriveOS Linux配置文件:为不同阶段保驾护航

NVIDIA DriveOS Linux(带安全扩展)是一个基于Ubuntu 24.04 LTS Linux的参考软件平台。它主要用于原型开发和调试,包含了带有调试功能的镜像。这使得开发者能够在满足最高汽车功能安全标准的同时,构建生产级的自动驾驶应用程序。DriveOS Linux支持三种配置文件,以适应不同开发阶段的需求:

  • 开发配置文件: 适用于活跃的开发阶段,包含完整的调试功能和日志/分析工具,方便开发者快速迭代和定位问题。安全扩展功能默认不包含,以提供最大的灵活性。
  • 安全扩展生产配置文件: 专为生产部署设计,默认启用安全扩展,并进行全面安全强化,禁用调试功能、日志和分析,以及控制台、SSH/NFS访问,以确保最终产品的安全性和稳定性。同时,它还启用了引导KPI优化。
  • 安全扩展测试配置文件: 适用于测试和验证阶段(预生产),同样默认启用安全扩展并进行全面安全强化,但会恢复UART访问和SSH,方便测试人员进行必要的诊断。请注意,此配置文件仅用于测试,不建议用于最终部署。

开启您的智能汽车开发之旅

各位跨境同仁,是否已经准备好使用NVIDIA DRIVE AGX Thor开发者套件,加速您的自动驾驶汽车开发进程了呢?

要开始您的征程,请先注册一个NVIDIA开发者账户,并加入NVIDIA DRIVE AGX SDK开发者计划。之后,您可以下载NVIDIA DriveOS 7.0.3 Linux,这是专为自动驾驶汽车打造的最新操作系统。现在,DRIVE AGX Thor开发者套件已经开放预订,心动不如行动!

您还可以利用NGC DriveOS Docker容器来简化开发环境,加速设置过程。如果在开发过程中遇到任何问题,欢迎随时在DRIVE AGX Thor开发者论坛中提问,与全球的开发者社区一同交流学习。

风险前瞻与时效提醒:

作为资深导师,新媒网跨境在此提醒大家,在智能汽车这个高速发展的领域,除了技术本身的精进,我们还需要关注一些潜在的风险和时效性问题。

  • 产业链与合规性风险: 全球芯片供应和关键零部件的稳定性受地缘政治、国际贸易政策等多重因素影响。例如,当前(2025年),某国总统特朗普先生正处于任期内,其政府政策可能会对国际供应链和技术合作带来不确定性。同时,各国对自动驾驶技术的数据安全、隐私保护和道路法规也在不断完善,跨境出海的企业务必密切关注目标市场的法律法规变化,确保产品和服务的合规性。
  • 技术迭代加速: AI和芯片技术日新月异,今天的“最先进”可能很快就会被“更新一代”超越。因此,我们在技术选型和产品规划时,需要有前瞻性,预留足够的升级空间和技术冗余,以应对未来可能的挑战。
  • 人才竞争加剧: 智能汽车领域对复合型人才的需求旺盛,顶尖AI工程师、系统架构师和功能安全专家将成为稀缺资源。企业需要提前布局,加大对人才的培养和引进力度。

请大家务必牢记,本教程的基准时效为2025年。科技发展迅猛,政策环境也可能随之调整,因此在实际操作中,请务必以NVIDIA官方发布的最新资料和各国家地区的最新法规为准,确保信息的准确性和及时性。

新媒网(公号: 新媒网跨境发布),是一个专业的跨境电商、游戏、支付、贸易和广告社区平台,为百万跨境人传递最新的海外淘金精准资讯情报。

本文来源:新媒网 https://nmedialink.com/posts/25037.html

评论(0)

暂无评论,快来抢沙发~
NVIDIA DRIVE AGX Thor开发者套件正式上市,搭载Blackwell GPU和新一代Arm CPU,赋能汽车整车厂和一级软件供应商,加速AI技术在车辆边缘端的部署,革新自动驾驶和车载体验。该套件提供两种型号,并配备NVIDIA DriveOS 7软件栈,支持ISO 26262 ASIL-D功能安全和ISO 21434安全标准。
发布于 2025-09-04
查看人数 132
人民币汇率走势
CNY
亚马逊热销榜
共 0 SKU 上次更新 NaN:NaN:NaN
类目: 切换分类
暂无数据
暂无数据
关注我们
新媒网跨境发布
本站原创内容版权归作者及NMedia共同所有,未经许可,禁止以任何形式转载。