天天關注:Intel、NVIDIA、ARM三家推FP8標準AI
(資料圖片僅供參考)
芯研所9月19日消息, AI人工智能是近幾年來的大熱點,Intel、NVIDIA及ARM也首次聯手,推出了FP8格式,這種全新的AI格式可以提高運算性能,當前最強加速卡H100性能就有4.5倍提升。
三家攜手推出通用的AI格式跟當前的混亂有關,之前衡量GPU性能經常用FP32單精度、FP64雙精度格式,然而在AI時代不需要這么高的精確度,再加上廠商往往會自定義計算格式,所以這幾年也出現了INT8、BF16、TF32之類的AI標準。
廠商各自為戰顯然不利于AI技術發展,所以Intel、NVIDIA及ARM三大CPU/GPU巨頭就聯手推出了AI標準格式FP8,并發布了FP8 Formats for Deep Learning白皮書,還把標準提交給IEEE協會,不出意外的話接下來會成為AI領域的通用標準。FP8標準會有兩個編碼變體,分別為E5M2、E4M3,可以最大限度地減少與當前IEEE754標準的偏差,不僅可以為AI運算帶來更高的靈活度,還能在軟硬件中取得平衡,改善開發者的效率。
根據NVIDIA發布的結果,FP8在廣泛使用的訓練模型中都有類似16位浮點的效果,而且性能更好,NVIDIA的H100加速卡使用新的FP8格式,在BERT模型中實現了4.5倍的性能提升。三大廠商聯合定義FP8標準,卻沒有看到AMD的身影,不知道AMD的態度如何,不過AMD最終應該也會接納FP8標準,與三家統一。
Intel 酷睿 i7 12700F
進入購買
關鍵詞: intel
2022-09-19 16:45:23
2022-09-19 16:40:58
2022-09-19 15:52:10
2022-09-19 15:49:16
2022-09-19 15:48:55
2022-09-19 15:43:31
2022-09-19 15:42:41
2022-09-19 15:40:27
2022-09-19 15:40:17
2022-09-19 15:40:13
2022-09-19 15:35:57
2022-09-19 15:30:23
2022-09-19 12:22:30
2022-09-19 09:39:17
2022-09-19 09:30:12
2022-09-19 09:23:50
2022-09-19 08:51:23
2022-09-19 08:50:25
2022-09-19 08:41:47
2022-09-19 08:40:23
2022-09-19 08:38:32
2022-09-19 08:37:33
2022-09-19 08:34:09
2022-09-19 08:33:34
2022-09-19 07:46:43
2022-09-19 07:28:56
2022-09-19 06:41:06
2022-09-19 06:38:42
2022-09-19 06:36:10
2022-09-19 06:30:36
2022-09-19 06:30:26
2022-09-18 21:51:15
2022-09-18 21:49:41
2022-09-18 21:46:26
2022-09-18 21:46:03
2022-09-18 21:44:25
2022-09-18 21:37:26
2022-09-18 21:33:55
2022-09-18 21:30:00
2022-09-18 19:40:49
2022-09-18 19:36:11
2022-09-18 18:53:10
2022-09-18 18:34:22
2022-09-18 18:34:07
2022-09-18 17:56:45
2022-09-18 17:45:47
2022-09-18 17:43:55
2022-09-18 17:38:35
2022-09-18 17:36:04
2022-09-18 17:29:19
2022-09-18 16:55:45
2022-09-18 16:42:51
2022-09-18 16:40:59
2022-09-18 16:33:18
2022-09-18 15:57:05
2022-09-18 15:55:41
2022-09-18 15:51:30
2022-09-18 15:51:17
2022-09-18 15:41:05
2022-09-18 15:38:45
2022-09-18 15:37:24
2022-09-18 09:51:53
2022-09-18 09:37:45
2022-09-18 09:34:21
2022-09-18 08:48:51
2022-09-18 08:45:25
2022-09-18 08:43:46
2022-09-18 08:38:43
2022-09-18 08:37:52
2022-09-18 07:42:25
2022-09-18 06:50:39
2022-09-18 06:34:34
2022-09-18 06:30:08
2022-09-18 05:53:31
2022-09-18 05:53:26
2022-09-18 05:48:08
2022-09-18 05:44:46
2022-09-18 05:38:16
2022-09-17 22:52:33
2022-09-17 21:50:50
2022-09-17 21:41:05
2022-09-17 21:38:17
2022-09-17 21:37:05
2022-09-17 21:31:19
2022-09-17 20:51:28
2022-09-17 20:34:07
2022-09-17 19:54:03
2022-09-17 19:48:15
2022-09-17 19:40:50
2022-09-17 17:51:28
2022-09-17 17:45:47
相關新聞