NVIDIA TensorRT持续发力,GeForce RTX GPU免费获2倍AI加速

360影视 日韩动漫 2025-05-21 13:40 2

摘要:在GeForce RTX 5060系列正式发布之后,NVIDIA在消费端第二条解禁的消息是TensorRT正式引入GeForce RTX平台,这意味着GeForce RTX用户也能获得经过优化的推理后端,从而获得更快的推理性能。没有错,个人PC运行AI的效率将

在GeForce RTX 5060系列正式发布之后,NVIDIA在消费端第二条解禁的消息是TensorRT正式引入GeForce RTX平台,这意味着GeForce RTX用户也能获得经过优化的推理后端,从而获得更快的推理性能。没有错,个人PC运行AI的效率将会越来越高。

通过TensorRT,现有的AI应用可以获得高于现在DirectML的2倍性能提升,同时TensorRT本身也原生支持Windows ML,TensorRT-LLM已经在Windows上展开部署。值得一提的是,Windows ML推理框架是目前AI PC软件堆栈中理想的选择之一,可以同时兼顾硬件支持和性能优化,让AI应用变得更为方便。

由于Windows ML本身基于ONNX Runtime构建,NVIDIA TensorRT支持Windows ML还意味着对所有ONNX模型有很好的兼容性。

TensorRT for RTX除了可以给PC带来更好的AI性能,新的后端也可以将库文件大小压缩8倍,GPU可以提供即时优化,TensorRT for RTX功能最快会在6月通过developer.nvidia.com面向所有NVIDIA GeForce RTX GPU发布。

除此之外,NVIDIA还提供了超过150个AI SDK支持,以及在5月份推出5个新的ISV集成,包括NVIDIA Broadcast Effects对Bilibili的支持,以及CUDA在LM Studio中性能提升30%,两款专业软件Chaos Enscape与AutoDesk VRED对DLSS 4提供支持,Topaz Video AI的GenAI视频加速功能支持CUDA等等。

NVIDIA还同步推出了全新的NIM和未来的AI规划,包括游戏助手Project G-Assist的新插件,支持对Discord、Gemini、IFTTT、Twitch、Spotify和SignalRGB的集成。

对于PC玩家而言,我们只需要知道在近期,使用GeForce RTX GPU可以在不产生任何花费的前提下,获得更好的AI性能,包括B站直播可以更好的调用GeForce RTX GPU获得更好的直播效果,除了游戏之外,GeForce RTX GPU正在为用户创造出更多潜在收益。

来源:爱极物

相关推荐