标签: 英伟达
thumbnail

英伟达合作富士康 共同开发人工智能工厂数据中心

英伟达和富士康正在合作,基于 GPU 制造商的 Grace Hopper 芯片,为人工智能工厂开发数据中心模块。鸿海科技集团(富士康)将整合 Nvidia 技术,开发两家公司……
thumbnail

6Estates已部署英伟达DGX BasePOD

新加坡大型语言模型提供商 6Estates部署了基于英伟达GCX H100系统的DGX BasePOD。6Estates 是从新加坡国立大学和清华大学分离出来的,它部署了一个基于英伟达 ……
thumbnail

Nvidia声称新的软件库使H100 GPU上的LLM推理速度提高一倍

近日有关消息得知Nvidia英伟达公司正在推进发布名为 TensorRT-LLM 的开源软件库的计划,据称该库将使 H100 GPU 上的大规模语言模型 (LLM) 的推理速度提高一倍……