計算機組織與結構›Ch7 其他（Others）第 5 題／共 19 題
5. MLPerf、Benchmark、GPU、Dataset Privacy
#CC-07-005中MLPerfBenchmarkGPUDataset Privacy
題組題幹（本題：G2-6，共 3 小題）點擊展開
Large Language Models and Computer Architecture，15分，附IEEE Spectrum文章《Intel and Nvidia Square Off in GPT-3 Time Trials》，內容描述MLPerf為GPT-3新增LLM benchmark、Nvidia H100與Intel Habana Gaudi2的訓練時間比較、FP8混合精度技術等。
MLPerf benchmark 套件包含 8 個與機器學習相關的 benchmarks，文章中的圖顯示了 benchmark 結果（注意圖中 X 軸代表執行時間）。GPT-3 LLM benchmark 結果顯示，以每顆晶片（per-chip）為基準，H100 系統比 Gaudi2 快上許多，但 Gaudi2 尚未啟用 mixed precision 能力。最近，Intel 在 2023 年 11 月提交了新的 MLPerf 結果，Gaudi2 在 GPT-3 訓練 benchmark 上因為實作了 FP8 資料型別而展現出顯著的 2 倍效能躍升。根據文章與最近的結果，請問下列敘述何者正確？
📄 台大113
▤完整推導請見《WH 資工筆記 · 計算機組織與結構》Ch7 其他（Others）