6Estates已部署英伟达DGX BasePOD

新加坡大型语言模型提供商 6Estates部署了基于英伟达GCX H100系统的DGX BasePOD。6Estates 是从新加坡国立大学和清华大学分离出来的，它部署了一个基于英伟达 H100 的集群来开发其人工智能产品。该公司将使用 DGX BasePOD 为其“模型解决方案”产品提供定制的大型语言模型 (LLM)，并使 6Estates 能够访问英伟达 的 AI Enterprise 软件，该软件拥有 100 多个框架、预训练模型和开发工具。

DGX BasePOD使用英伟达的全栈数据中心平台，包括计算、存储、网络、软件和基础设施管理。它基于 DGX H100 系统，拥有 8 个 H100 GPU、80GB GPU 内存、双 Intel Xeon Platinum 8480C 处理器和 2TB DDR5 系统内存。该集群将协助 6Estates 现有的人工智能解决方案，预计将显着减少模型训练时间。据 6Estates 称，该公司将能够将 GPT-3 AI 训练的速度提高四倍，将 AI 推理训练的速度提高 30 倍。“生成式人工智能在改变企业运营方式方面有着巨大的潜力——从如何执行内部流程到如何理解和服务客户​​群。我们看到客户对寻求实施高度定制的法学硕士解决方案有着巨大的需求。最高的安全保障，我们很高兴能为该地区的企业实现这一点。”6Estates 创始人兼首席执行官栾焕博博士说道。

“生成式人工智能正在帮助各行各业的企业创造新的机会并更好地服务客户。6Estates 部署英伟达 DGX 人工智能超级计算可以帮助东南亚各地的组织通过开发先进的人工智能服务和解决方案来推动增长。”英伟达 的东盟和澳新地区企业业务。6Estates 传统上专注于文档处理解决方案，包括将机器学习和语言处理应用于非结构化文档。该公司表示，它已经在为金融和医疗领域的客户开发法学硕士学位。英伟达于2023 年 5 月开始向客户提供 DGX 超级计算机，此前该解决方案已于3 月份在云端提供。9 月，法国电信Iliad收购了一台 DGX SuperPOD，这是一台配备 1,016 个 H100 GPU 的英伟达 超级计算机。