計算機組織與結構›Ch2 計算機算術(Arithmetic)
第 1 題/共 26 題
◀ CC 1/26
1. Floating Point、FP8、E4M3、E5M2
#CC-02-001中Floating PointFP8E4M3E5M2
題組題幹(本題:G2-4,共 3 小題)點擊展開

Large Language Models and Computer Architecture,15分,附IEEE Spectrum文章《Intel and Nvidia Square Off in GPT-3 Time Trials》,內容描述MLPerf為GPT-3新增LLM benchmark、Nvidia H100與Intel Habana Gaudi2的訓練時間比較、FP8混合精度技術等。

根據文章,低精度計算(low-precision calculation)對 transformer engine 至關重要。文章提到 FP8,但目前實際使用中有兩種 FP8 格式。一種稱為 E4M3,具有 4 個 exponent bits 與 3 個 mantissa bits;另一種稱為 E5M2,具有 5 個 exponent bits 與 2 個 mantissa bits。請問下列敘述何者正確?

📄 台大113
跳轉到第題
▤完整推導請見《WH 資工筆記 · 計算機組織與結構》Ch2 計算機算術(Arithmetic)
本章題號 · 1–20 / 26