上志國際有限公司

2026-08-31

SK海力士全球新聞中心的一篇文章稱，GPU和AI加速器是支撐大模型訓練和複雜推理請求處理的核心技術。但在實際服務環境中，AI性能並不只取決於計算速度。即便處理器已經準備好執行計算，如果數據不能及時送達，昂貴的加速器也只能空轉等待，拖累整個系統的效率。因此，只有當加速器的計算能力、數據供給速度和數據移動路徑三者協同工作時，AI系統才能發揮出全部性能。這種協同之所以困難，根源在於算力與數據供給能力的增長嚴重脫節。過去20年，服務器峯值算力約每兩年增長3倍，但DRAM帶寬只提升了1.6倍，互連帶寬更僅增長1.4倍——計算跑得飛快，“喂數據”的速度卻遠遠跟不上。這個日益擴大的“內存牆”，正在取代算力本身成爲AI系統的首要瓶頸。解決問題的關鍵在於圍繞數據路徑設計系統，而非只盯着算力。高頻數據應靠近處理器存放，海量數據通過存儲和網絡高效獲取——不可能把所有信息都放在最快的位置，因此數據的存放位置和移動路徑必須兼顧速度、容量、成本和能效。軟件調度同樣決定成敗：哪個任務先處理、數據何時預取、任務如何分配，不合理就可能製造新瓶頸。這種“以數據流爲中心”的思維方式，正在重塑AI基礎設施的競爭格局。

SK海力士全球新聞中心的一篇文章稱，GPU和AI加速器是支撐大模型訓練和複雜推理請求處理的核心技術。但在實際服務環境中，AI性能並不只取決於計算速度。即便處理器已經準備好執行計算，如果數據不能及時送達，昂貴的加速器也只能空轉等待，拖累整個系統的效率。因此，只有當加速器的計算能力、數據供給速度和數據移動路徑三者協同工作時，AI系統才能發揮出全部性能。這種協同之所以困難，根源在於算力與數據供給能力的增長嚴重脫節。過去20年，服務器峯值算力約每兩年增長3倍，但DRAM帶寬只提升了1.6倍，互連帶寬更僅增長1.4倍——計算跑得飛快，“喂數據”的速度卻遠遠跟不上。這個日益擴大的“內存牆”，正在取代算力本身成爲AI系統的首要瓶頸。解決問題的關鍵在於圍繞數據路徑設計系統，而非只盯着算力。高頻數據應靠近處理器存放，海量數據通過存儲和網絡高效獲取——不可能把所有信息都放在最快的位置，因此數據的存放位置和移動路徑必須兼顧速度、容量、成本和能效。軟件調度同樣決定成敗：哪個任務先處理、數據何時預取、任務如何分配，不合理就可能製造新瓶頸。這種“以數據流爲中心”的思維方式，正在重塑AI基礎設施的競爭格局。快速的GPU、高帶寬內存、大容量存儲和高速網絡，任何單項再強，若各自爲政都撐不起整體性能。半導體廠商、服務器製造商、網絡設備商、雲服務商和存儲企業不能再只優化自家部件，而是必須基於全鏈路數據流協同設計。更快的GPU依然是AI基礎設施的核心，但問題已經向前邁進了一步：數據能多快、多高效地到達GPU並被處理？決定AI性能的下一個瓶頸，就從這個問題開始。

TASNIM NEWS cited unconfirmed reports that the UAE has issued missile-attack alerts.

TASNIM NEWS cited unconfirmed reports that the UAE has issued missile-attack alerts.