AMD發布部落格文章,探討客戶端CPU在代理式AIAgentic AI)中所扮演日益重要的角色。

 

隨著AI代理從單純的生成回應演變至執行實際任務,許多完成這些任務所需的運算都在使用者的電腦上進行,並由客戶端CPU負責執行程式碼、協調各種工具,以及與本地應用程式進行互動。

 

部落格文章重點內容如下:

  • 代理式AI如何將AI從生成回應演變為完成實際任務:

AI互動模式正從以往的「輸入Token,輸出TokenTokens In, Tokens Out)」轉變為「輸入Token,輸出行動(Tokens In, Actions Out)」。當AI代理讀取本地檔案、執行Python、編譯程式碼、搜尋專案目錄,以及控制應用程式等任務時,即使AI推論是由GPUNPU負責執行,CPU仍持續推動整體工作流程。AI代理的效能不再僅由模型產生Token的速度所決定,也取決於電腦能多快將這些Token轉化為實際且有價值的工作成果。

 

  • 隨著AI代理在本地執行更多工作,客戶端CPU的效能變得日益重要:

AI代理啟動程序、解析檔案、執行指令或協調多個工作流程時,CPU負責處理大量的執行與排程工作。實測數據顯示,在執行多代理、高負載的Codex開發人員工作流程中,搭載AMD Zen 5架構的Ryzen™ AI Max+處理器的ASUS ProArt系統,其CPU吞吐量較4年前的舊款筆電大幅提升高達6倍,證明CPU效能將直接影響整體任務的完成速度。