谷歌推出由Nvidia H100 GPU提供支持的AI超级计算机

谷歌启动谷歌I/O 今天下午，通过一个多小时谈论其在人工智能方面的众多进步。 该公司讨论了其新的PaLM 2大型语言模型（法学硕士） 用于生成 AI，它为 吟游诗人聊天机器人工具.这是在谷歌的产品组合中添加人工智能功能的基础支柱，包括谷歌地图、谷歌相册和Gmail（等等）。
    考虑到这一点，云中需要一些强大的马力来为野外的模型提供动力，因为数百万（终是数十亿）用户发送的操作请求，就像删除一个在图片背景中徘徊的人一样平凡，根据简短的文本提示为您撰写整封电子邮件。这就是谷歌新的A3 GPU超级计算机成为焦点的地方。谷歌表示，新的A3超级计算机“专门用于训练和服务苛刻的AI模型，这些模型为当今的生成AI和大型语言模型创新提供动力”，同时提供26 exaFlop的AI性能。
    每台 A3 超级计算机都配备了第 4 代英特尔至强可扩展处理器，由 2TB DDR5-4800 内存提供支持。但手术真正的“大脑”来自八 英伟达H100“漏斗”GPU，可通过利用 NVLink 4.0 和 NVSwitch 访问 3.6 TBps 的对分割带宽。