英偉達 H100 GPU 已對亞馬遜 AWS 云服務用戶開放

(相關資料圖)

品玩 7 月 30 日訊，據英偉達官方消息，亞馬遜云正式推出了由英偉達 H100 Tensor Core GPU 驅動的新的 Amazon Elastic Compute Cloud（EC2）P5 實例。

該服務允許用戶通過瀏覽器輕松擴展生成式 AI、高性能計算（HPC）和其他應用。NVIDIA H100 GPU 的一個重要特點是其對 Transformer 的優化，這是許多最新的先進 AI 應用所使用的關鍵技術，可確保 H100 在這些應用中提供更高的性能和效率。

NVIDIA H100 GPU 通過架構創新提供超級計算級性能，包括第四代 Tensor Cores、用于加速 LLMs 的新 Transformer 引擎以及最新的 NVLink 技術，可以帶來極其可觀的性能。