英伟达推出 Tensor RT

 人参与 | 时间:2024-11-15 09:10:20

IT之家 10 月 18 日新闻 ,英伟英伟达是达推硬件规模的天生型家养智能之王,该公司的英伟 GPU 为微软、OpenAI 等公司的达推数据中间提供能源,运行着 Bing Chat、英伟ChatGPT 等家养智能效率 。达推明天,英伟英伟达宣告了一款新的达推软件工具 ,旨在提升大型语言模子(LLM)在当地 Windows PC 上的英伟功能 。

本文援用地址:

TensorRT-LLM 很快就会在英伟达的达推开拓者网站上提供 。

英伟达明天还在新的英伟 GeForce 驱动更新中削减了一些基于家养智能的功能。其中搜罗新的达推 1.5 版本的 RTX Video Super Resolution 功能 ,可能在旁不雅在线视频时提供更好的英伟分说率提升下场以及更少的缩短下场 。英伟达还为 Stable Diffusion Web UI 削减了 TensorRT 家养智能减速功能,达推让具备 GeForce RTX GPU 的英伟用户可能比个别情景下更快地从家养智能图片天生器那边取患上图像。

顶: 1995踩: 7355