智慧經營／英特爾副總裁汪佳慧 AI應用 引爆運算革命

近年的生成式AI風潮帶起科技業界劃時代的前進步伐，英特爾副總裁暨台灣分公司總經理汪佳慧表示，AI在過去幾年出現爆炸性成長，帶領大眾進入一場新的工業革命。在可預見的未來，能檢測疾病和創作音樂的智慧系統將無所不在。

汪佳慧指出，如同蒸汽、水力和電力推動工業革命，無所不在的儲存和資料處理運算也將成為AI時代崛起象徵。就像水電等公共設施一樣，在未來，運算能力將成為須隨時隨地提供的資源。一旦缺乏運算能力，全世界通訊將中斷，導致供應鏈陷入混亂。

三個關鍵促進發展

而實現AI無所不在的關鍵，汪佳慧認為，取決於運算能力的可用性和效率，因此確保運算基礎建設的完整性至關重要。正如一個國家的供水不能單靠水壩來儲存和輸送，AI時代需要的不僅是資料中心，還要由各種個人電腦和終端裝置提供的運算能力。這時，三個關鍵因素促進了分散式AI運算的發展，包括成本、反應速度和資料安全。

汪佳慧說，資料中心毫無疑問地是AI革命的核心。基於大型語言模型（LLM）的生成式AI應用需要訓練大量的資料，這種密集處理需要大規模、高效能的運算基礎設施，其中包括成千上萬的CPU、GPU、AI加速器與網路晶片。

可預期未來資料中心仍將扮演重要角色，但考量成本、反應速度，和資料安全三個關鍵需要，汪佳慧提到，決策者須跳脫資料中心為本位的思考方式。首先是成本，無論是自有、租用資料中心或依賴雲端訂閱，AI在資料中心或雲端運行都會產生高成本，並增加營運和管理的複雜性。

第二是反應速度。在資料生成地點和資料中心之間來回收發資料，可能會減緩速度，對於自駕車等需要即時反應的應用來說並不理想。最後，出於安全考量，並非每個組織或國家都同意將其資料儲存在組織持有的場域或國土範圍之外。

因此，汪佳慧強調，必須將AI所須的運算分散到不同的地點和裝置上，針對不同AI情境使用不同的運算資源。隨著運算變得更強大、效率更高，使用者在個人電腦上直接訓練較小的語言模型，效率更勝於在資料中心或雲端中進行訓練。

同時，汪佳慧表示，隨著AI PC問世，個人電腦迎來新的轉折點。結合CPU、GPU與NPU，終端裝置可滿足不同AI應用需求。或許有人質疑，要達到類似效果，使用三年前的老舊筆電搭配網頁瀏覽器也能實現。確實是如此，但舊電腦處理所需的時間相對更長，消耗更多能源。

AI PC提升工作效率

而且在企業環境中，愈來愈多員工在日常工作中使用AI應用程式，更多企業需要使用專有資料來訓練或微調AI模型。值得注意的是，許多企業軟體如資料庫管理應用程式，其授權模式是依照雲端為應用程式提供支援的CPU核心數量來收費。AI PC可優化這些AI工作負載的運行，更妥善地利用硬體資源。如果企業能直接在員工的PC上支援這類AI應用程式，而無須支付與雲端運算相關持續性成本，速度會加快許多，成本效益也提高。

除了資料中心和AI PC 之外，汪佳慧認為，有愈來愈多的AI將轉移到「邊緣」的終端裝置。邊緣的定義包括物聯網、自駕車和智慧城市中的終端裝置等，這些應用將構成日常AI體驗。邊緣運算需要在網路的外圍或邊緣進行資料處理，是更靠近資料產生的地方，而不是依賴集中式的資料中心。

邊緣運算在AI時代至關重要，可提供即時處理能力，這在需要瞬間決策且攸關安全的場合，例如工業自動化環境，非常重要。另一方面，在本機處理資料可減少發送到雲端的資料量，降低網路壅塞與資料傳輸成本，並將敏感資料暴露在傳輸過程中的機會降至最低。此外，當網路連線中斷時，邊緣運算可確保重要的應用程式繼續運作。

再者，汪佳慧指出，在訓練過的機器學習模型輸入新資料，以做出預測或決策這樣的AI應用，即是「推論」。訓練通常需要更好的運算基礎設施，但推論可透過CPU在終端裝置更輕鬆地完成。

事實上，IDC預測2025年全球75%企業產生的資料將在傳統資料中心或雲端之外的邊緣建立及處理。更多的AI和運算將在終端進行處理，且主要的工作負載將集中於推論。可預期推論將是未來大部分的AI工作負載， 這將幫助企業提前為未來的運算基礎設施做好部署。

汪佳慧說，重點在於使用對的工具完成正確的工作。AI運算很複雜，根據不同的使用情境，需要滿足不同運算要求。為了永續發展AI，必須思考哪種基礎設施最適合世界對AI運算無盡的需求。世界上大多數事物都沒有一體適用的做法，AI時代的運算能力也是如此。